Lợi nhuận:
- Khả năng thiết lập các thành phần của khung quản trị AI giúp cân bằng tốc độ, bảo mật và tính nhất quán
- Khả năng thiết kế bảng AI đa chức năng và các chính sách cốt lõi đơn giản, có thể áp dụng (cách sử dụng được chấp nhận, dữ liệu, rủi ro)
- Khả năng phê duyệt lớp theo mức độ rủi ro và duy trì quản trị tại hiện trường bằng việc kiểm kê hệ thống và kiểm toán thường xuyên
Chiến lược, trường hợp sử dụng, ROI và rủi ro; Họ đều mạnh mẽ, nhưng một mình họ lại hỗn loạn. Điều gắn kết chúng lại với nhau, khiến chúng có thể lặp lại và mang lại niềm tin cho thể chế chính là sự quản trị (quản trị; khuôn khổ xác định ai sẽ đưa ra quyết định, với những quy tắc nào và với sự kiểm soát nào). Quản trị là câu trả lời lâu dài cho “làm cách nào để chúng tôi triển khai AI một cách có trách nhiệm trong doanh nghiệp này?” Trong học phần này, bạn sẽ học cách thiết lập quản trị AI, chính sách bằng văn bản và cơ cấu hội đồng ra quyết định. Mục đích không phải là tạo ra sự quan liêu; Để đảm bảo hoạt động an toàn và lặp lại mà không làm chậm tốc độ.
Tại sao quản trị là cần thiết?
Trong một tổ chức không có quản trị, mỗi nhóm đưa ra các quy tắc riêng: một nhóm dán dữ liệu khách hàng vào công cụ công cộng, một nhóm đưa mô hình chưa được chứng nhận vào sản xuất, một nhóm không đánh giá rủi ro nào cả. Khi có vấn đề phát sinh, “ai phê duyệt?” Không có câu trả lời cho câu hỏi. Quản trị sẽ lấp đầy khoảng trống này: ai quyết định, áp dụng quy tắc nào, ai giám sát và ai chịu trách nhiệm khi có vấn đề phát sinh.
Quản trị tốt cân bằng được ba yếu tố: tốc độ (không cản trở sáng kiến), bảo mật (kiểm soát rủi ro) và tính nhất quán (mọi người đều tuân theo các quy tắc giống nhau). Quản trị quá mức giết chết tốc độ; Quản trị không đầy đủ giết chết niềm tin. Cân bằng là nghệ thuật.
Mẹo: Khi thiết lập quản trị, hãy tạo các lớp dựa trên mức độ rủi ro, từ “con đường chậm nhất, an toàn nhất” đến “con đường nhanh nhất, rủi ro nhất”. Công việc có rủi ro thấp sẽ diễn ra nhanh chóng; Chỉ những công việc có rủi ro cao mới phải được phê duyệt nghiêm ngặt. Việc áp dụng cùng một quy trình nặng nề cho tất cả mọi người khiến việc quản lý bị coi là kẻ thù.
Các thành phần của quản trị
thành phần
Nó làm gì?
ví dụ
bảng trí tuệ nhân tạo
Quyết định chiến lược, ưu tiên, phê duyệt
Họp hàng tháng, phê duyệt rủi ro cao
Bộ chính sách/nguyên tắc
quy tắc bằng văn bản
Việc sử dụng, dữ liệu, nhà cung cấp được chấp nhận
Vai trò và quyền sở hữu
Ai chịu trách nhiệm về việc gì
Chủ doanh nghiệp cho mọi lĩnh vực sử dụng
Rủi ro và quy trình phê duyệt
Làm thế nào để bắt đầu
Cấp phê duyệt dựa trên mức độ rủi ro
Giám sát và kiểm toán
Kiểm soát liên tục
Giám sát độ trôi, kiểm tra định kỳ
Đăng ký/tồn kho
Cái gì hoạt động ở đâu
Kiểm kê hệ thống trí tuệ nhân tạo
Ban trí tuệ nhân tạo (hội đồng/ban chỉ đạo AI) là cơ quan bao gồm các đại diện cấp cao từ các chức năng khác nhau (kinh doanh, công nghệ, luật, rủi ro, dữ liệu), đưa ra định hướng chiến lược và phê duyệt các sáng kiến có rủi ro cao. Hội đồng quản trị không quản lý dự án; thiết lập khuôn khổ và đưa ra các quyết định quan trọng.
Chính sách cơ bản
Mọi tổ chức đều cần ít nhất những chính sách sau:
- Chính sách sử dụng được chấp nhận: Nhân viên có thể sử dụng những công cụ AI nào, với dữ liệu gì và để làm gì? (Ví dụ: "Không nhập dữ liệu cá nhân của khách hàng vào một công cụ bên ngoài trái phép.")
- Chính sách dữ liệu và quyền riêng tư: Dữ liệu nào, ở đâu và được xử lý như thế nào? Làm thế nào để đảm bảo tuân thủ KVKK?
- Chính sách rủi ro và phê duyệt: Startup phải trải qua những đánh giá gì trước khi đi vào sản xuất?
- Chính sách nhà cung cấp/mua hàng: Các nhà cung cấp AI bên ngoài được lựa chọn theo tiêu chí nào? (Đơn vị 11)
- Chính sách minh bạch: Khi nào khách hàng/nhân viên được thông báo rằng AI đang được sử dụng?
Từng bước: thiết lập quản trị
1. Tạo bảng. Đại diện từ doanh nghiệp, công nghệ, pháp lý, rủi ro và dữ liệu; thẩm quyền rõ ràng và nhịp điệu cuộc họp.
2. Viết các chính sách cốt lõi. Viết năm chính sách trên một cách đơn giản và có thể áp dụng được; Đó không phải là một cuốn tiểu thuyết, đó là một quy luật.
3. Thiết lập quy trình phê duyệt dựa trên rủi ro. Rủi ro thấp nhanh chóng, rủi ro cao phê duyệt nặng.
4. Giữ hàng tồn kho. Hệ thống trí tuệ nhân tạo nào ở đâu, ai chịu trách nhiệm, ở mức độ rủi ro nào.
5. Thể chế hóa việc giám sát và kiểm soát. Đánh giá định kỳ, kiểm soát sai lệch và tuân thủ.
ba trường hợp nhỏ
Trường hợp 1 - Rò rỉ không có chính sách. Tại một công ty luật, các luật sư đang có các tài liệu vụ án bí mật được tóm tắt bằng một công cụ trí tuệ nhân tạo có sẵn công khai. Điều này được cho là bình thường vì không có chính sách sử dụng chấp nhận được. Khi một khách hàng phát hiện ra điều này, niềm tin đã bị khủng hoảng. Công ty đã nhanh chóng soạn thảo chính sách, cung cấp công cụ (kiểm chứng dữ liệu) cho doanh nghiệp và cung cấp đào tạo. Nếu có chính sách ngay từ đầu thì khủng hoảng đã không xảy ra.
Trường hợp 2 - Cân bằng của bảng. Một nhà sản xuất đã xây dựng bảng AI hoàn toàn từ nhóm công nghệ của mình. Hội đồng quản trị đã đưa ra những phê duyệt xuất sắc về mặt kỹ thuật nhưng lại mù quáng về mặt pháp lý và đạo đức. Khi một đại diện pháp lý và rủi ro được bổ sung vào hội đồng quản trị, một vấn đề tuân thủ nghiêm trọng đã được phát hiện trước khi một dự án kinh doanh có rủi ro cao có thể đi vào sản xuất. Sự đa dạng là tầm nhìn của hội đồng quản trị.
Trường hợp 3 – Động lực quản trị ngột ngạt. Tại một ngân hàng, mọi ý tưởng AI, ngay cả ý tưởng có rủi ro thấp, đều phải trải qua quy trình phê duyệt nghiêm ngặt kéo dài 6 tuần. Các đội bắt đầu trốn tránh quy trình và sử dụng các phương tiện "bóng tối". Ngân hàng phân loại phê duyệt theo mức độ rủi ro: công việc rủi ro thấp trong 3 ngày, công việc rủi ro cao xuyên suốt toàn bộ quy trình. Cả tốc độ và khả năng kiểm soát đều quay trở lại; Việc sử dụng bóng giảm.
Bốn mẫu có thể sao chép
1) Dự thảo thành lập Hội đồng quản trị:
Vai trò của bạn: Cố vấn quản trị AI. Đề xuất cho chúng tôi bản dự thảo về một hội đồng trí tuệ nhân tạo: có bao nhiêu thành viên, chức năng nào, quyền hạn của hội đồng, tần suất họp, quyết định nào thông qua, quyết định nào giao cho các đội. Tránh quan liêu quá mức; Đề xuất một sự cân bằng sẽ duy trì tốc độ.
2) Dự thảo chính sách sử dụng được chấp nhận:
[Ngành công nghiệp] soạn thảo một “Chính sách sử dụng được chấp nhận của AI” đơn giản, có thể thi hành được cho một tổ chức: những công cụ nào có thể được sử dụng, với dữ liệu nào, cho mục đích gì; những gì bị nghiêm cấm; Điều gì xảy ra trong trường hợp vi phạm? Viết từng mục một, bằng ngôn ngữ dễ hiểu.
3) Luồng phê duyệt dựa trên rủi ro:
Thiết kế cho chúng tôi quy trình phê duyệt AI theo lớp dựa trên mức độ rủi ro: bước nào, phê duyệt của ai, trong bao lâu, riêng biệt cho rủi ro thấp/trung bình/cao. Đảm bảo rằng công việc có rủi ro thấp được thực hiện nhanh chóng và công việc có rủi ro cao phải được kiểm tra nghiêm ngặt.
4) Mẫu kiểm kê AI:
Thiết kế mẫu kiểm kê để ghi lại các hệ thống AI trong tổ chức: tên hệ thống, mục đích sử dụng, chủ doanh nghiệp, mức độ rủi ro, dữ liệu được sử dụng, nhà cung cấp, ngày kiểm tra gần nhất. Giải thích ngắn gọn tại sao mỗi lĩnh vực là cần thiết.
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “Viết cho chúng tôi chính sách AI.”
Kết quả: Một văn bản chung chung, không phù hợp với thể chế và quá trừu tượng để áp dụng.
Güçlü: "Chúng tôi là một công ty công nghệ y tế gồm 200 người, chúng tôi làm việc với dữ liệu bệnh nhân và tuân theo KVKK. Hãy soạn thảo một chính sách sử dụng đơn giản, có thể thực thi được và chấp nhận được về cách nhân viên có thể sử dụng các công cụ trí tuệ nhân tạo: quy tắc dữ liệu bệnh nhân, công cụ đã được phê duyệt, các lệnh cấm và hậu quả vi phạm. Viết chính sách theo từng điều khoản và bằng ngôn ngữ rõ ràng; giả sử nhóm pháp lý của chúng tôi sẽ xem xét nó."
Kết quả: Dự thảo có tính áp dụng phù hợp với thể chế, ngành và pháp luật.
Những lỗi thường gặp
- Không thiết lập quản trị nào cả. Nói "chúng ta sẽ gặp sau" có nghĩa là sự tích lũy rủi ro trong im lặng.
- Quan liêu quá mức. Áp dụng sự chấp thuận nặng nề cho mọi công việc sẽ đẩy các nhóm vào tình trạng sử dụng bóng tối.
- Bảng chức năng đơn. Chỉ riêng công nghệ hoặc một hội đồng quản trị chỉ có đại diện pháp lý sẽ tạo ra những điểm mù; sự đa dạng là phải.
- Không viết chính sách và đưa nó vào thực tế. Chính sách được hoãn lại không mang lại sự bảo vệ; Nó cần được hỗ trợ bằng đào tạo và công cụ.
- Không lưu giữ hàng tồn kho. Một tổ chức không biết mình đang làm gì thì không thể biết phải kiểm toán cái gì.
Thận trọng: AI có thể tạo ra chính sách hoặc dự thảo hội đồng quản trị; Nhưng những dự thảo này sẽ không thể có hiệu lực nếu không phù hợp với thực tế, ngành, pháp luật của tổ chức và được bộ phận pháp lý và quản lý rủi ro xem xét. Chính sách do AI đưa ra là bản kế hoạch chi tiết cho một quyết định có trách nhiệm của công ty chứ không phải chính sách đó.
Tóm lại
Quản trị là khuôn khổ giúp chiến lược AI trở nên lâu dài, có thể lặp lại và đáng tin cậy; cân bằng tốc độ, bảo mật và tính nhất quán. Các thành phần chính của nó là bảng AI đa chức năng, các chính sách đơn giản và khả thi, vai trò rõ ràng, quy trình phê duyệt dựa trên rủi ro, giám sát liên tục và kiểm kê hệ thống. Tốc độ quan liêu quá mức và quản trị không đầy đủ sẽ giết chết niềm tin; Sự cân bằng phụ thuộc vào việc phân lớp theo mức độ rủi ro. Các chính sách nên tồn tại trên thực địa với sự đào tạo và công cụ chứ không phải trên kệ. Trong phần tiếp theo, chúng ta sẽ đề cập đến các nguyên tắc của AI có đạo đức và có trách nhiệm, vốn là nền tảng đạo đức của quản trị.
Nhiệm vụ ứng dụng
Soạn thảo một bảng AI cho tổ chức của bạn: ai hoạt động từ đâu, có thẩm quyền gì, nhịp độ như thế nào. Sau đó, tạo một bản dự thảo chính sách sử dụng được chấp nhận với mẫu 2 và điều chỉnh thủ công ít nhất ba điều khoản theo dữ liệu/điều kiện quy định thực tế của tổ chức bạn. Cuối cùng, mô tả ba cấp độ (thấp/trung bình/cao) của quy trình phê duyệt dựa trên rủi ro trong một câu.
danh sách kiểm tra
- [ ] Tôi đã thiết kế một cấu trúc bảng đa chức năng.
- [ ] Tôi đã soạn thảo ít nhất một chính sách cốt lõi.
- [ ] Tôi đã điều chỉnh chính sách này cho phù hợp với luật pháp của tổ chức và thực tế dữ liệu.
- [ ] Tôi đã xác định quy trình phê duyệt theo cấp độ dựa trên rủi ro.
- [ ] Tôi đã thiết lập mẫu kiểm kê hệ thống AI.
- [ ] Tôi đã lên kế hoạch cho nhịp độ giám sát và kiểm soát.
- [ ] Tôi đã nghĩ về cách đưa các chính sách vào hiện trường (đào tạo/công cụ).