Lợi nhuận:
- Công nhận bốn loại rủi ro và các hành vi bị cấm trong Luật AI của EU
- Đánh giá hợp lý về loại rủi ro mà việc sử dụng rơi vào
- Hiểu lý do tại sao các khoản nợ AI có mục đích chung và rủi ro cao lại ảnh hưởng đến các công ty Thổ Nhĩ Kỳ
Đạo luật trí tuệ nhân tạo của EU (Đạo luật AI của EU), có hiệu lực vào năm 2024, là quy định về AI toàn diện đầu tiên trên thế giới và tác động của nó vượt xa biên giới của Liên minh châu Âu. Luật này có thể ràng buộc trực tiếp đối với một công ty có trụ sở tại Türkiye nhưng phục vụ thị trường EU, có khách hàng EU hoặc bán sản phẩm sang EU. Trong phần này, bạn sẽ tìm hiểu logic cơ bản của luật - cách tiếp cận dựa trên rủi ro - với bốn loại, các hành vi bị cấm và trách nhiệm pháp lý có rủi ro cao; Chúng tôi sẽ cố gắng đánh giá việc sử dụng rơi vào ô nào.
Ý tưởng cơ bản: rủi ro càng cao, quy tắc càng chặt chẽ
Luật AI của EU không gộp tất cả AI lại với nhau. Nó chia hệ thống trí tuệ nhân tạo thành bốn loại tùy theo mức độ gây hại tiềm tàng của nó và áp đặt các nghĩa vụ khác nhau đối với mỗi loại. Đề xuất âm nhạc không có rủi ro tương tự như hệ thống sàng lọc tuyển dụng; Luật pháp không áp dụng quy tắc tương tự cho họ. Cách tiếp cận dựa trên rủi ro này là xương sống của pháp luật.
Loại rủi ro
Ý nghĩa
ví dụ
cai trị
Bị cấm (không thể chấp nhận)
Mối đe dọa mở đối với các quyền cơ bản
Tính điểm xã hội, thao túng tiềm thức
tổng số lệnh cấm
rủi ro cao
Nó ảnh hưởng nghiêm trọng tới đời sống con người
Tuyển dụng, tín dụng, y tế, giáo dục, cơ sở hạ tầng quan trọng
Trách nhiệm nghiêm ngặt
rủi ro hạn chế
Yêu cầu sự minh bạch
Chat bot, deepfake, nội dung AI
Thông tin là bắt buộc
rủi ro tối thiểu
Rủi ro không đáng kể
Bộ lọc thư rác, AI trò chơi, công cụ đề xuất
miễn phí
Ứng dụng bị cấm: đường màu đỏ
Một số cách sử dụng AI được coi là có hại đến mức chúng không thể được phát hành cho dù rủi ro có giảm đi bao nhiêu đi chăng nữa. Đây là danh mục bị cấm (rủi ro không thể chấp nhận):
- Chấm điểm xã hội do nhà nước hỗ trợ (cho điểm mọi người theo hành vi/đặc điểm của họ và gây bất lợi cho họ).
- Những hệ thống thao túng tiềm thức của con người và gây hại.
- Các hệ thống khai thác các lỗ hổng như tuổi tác và khuyết tật.
- Một số ứng dụng nhận dạng sinh trắc học và giám sát hàng loạt theo thời gian thực (với các ngoại lệ hẹp).
- Các ứng dụng cụ thể như nhận dạng cảm xúc ở nơi làm việc và giáo dục.
Lưu ý: Việc sử dụng thuộc danh mục "bị cấm" không phải là trở ngại có thể vượt qua bằng cách nói "Tôi có lý do chính đáng". Những hành vi này hoàn toàn bị cấm; không thể được giải phóng ngay cả khi có các biện pháp giảm thiểu rủi ro. Việc kiểm tra đầu tiên cần thực hiện là liệu dự án có được đưa vào danh sách này hay không.
Nợ phải trả có rủi ro cao
Các hệ thống rủi ro cao không bị cấm nhưng phải tuân theo các điều kiện nghiêm ngặt. Các lĩnh vực có nguy cơ cao điển hình: tuyển dụng và quản lý nhân viên, tín dụng và bảo hiểm, giáo dục và đánh giá kỳ thi, chăm sóc sức khỏe, cơ sở hạ tầng quan trọng, thực thi pháp luật và nhập cư. Nghĩa vụ điển hình trong các hệ thống này:
- Thiết lập và duy trì hệ thống quản lý rủi ro.
- Chất lượng dữ liệu và quản lý sai lệch (đại diện và chính xác của dữ liệu đào tạo).
- Tài liệu kỹ thuật và lưu trữ hồ sơ (truy xuất nguồn gốc).
- Minh bạch và cung cấp thông tin cho người dùng.
- Kiểm soát của con người (khả năng can thiệp và ghi đè của con người).
- Độ chính xác, mạnh mẽ và đảm bảo an ninh mạng.
Nghĩa vụ AI cho mục đích chung (GPAI)
Luật áp đặt các nghĩa vụ tài liệu và minh bạch cụ thể đối với các mô hình AI có mục đích chung (GPAI) — tức là các mô hình cơ sở đa mục đích như mô hình ngôn ngữ lớn — cũng như đối với các mục đích sử dụng riêng lẻ: cung cấp bản tóm tắt về dữ liệu đào tạo, chính sách tuân thủ bản quyền, đánh giá bổ sung cho các mô hình có rủi ro hệ thống. Nếu một tổ chức đưa các mô hình này vào sản phẩm của chính mình thì một số trách nhiệm pháp lý này có thể được phản ánh trong chuỗi.
ba trường hợp nhỏ
Trường hợp 1 - Sàng lọc tuyển dụng (rủi ro cao). Một công ty phần mềm ở Izmir phát triển nền tảng tuyển dụng phục vụ các công ty EU; Hệ thống tự động chấm điểm và loại bỏ thí sinh. Đây là lĩnh vực mà pháp luật cho là có rủi ro cao. Công ty; phải đáp ứng các nghĩa vụ về chất lượng dữ liệu, kiểm tra sai lệch, kiểm toán của con người và tài liệu. Lập luận "Chúng tôi ở Thổ Nhĩ Kỳ, nó không ràng buộc chúng tôi" là không hợp lệ; Vì hệ thống này được sử dụng ở thị trường EU nên luật pháp sẽ được áp dụng.
Trường hợp 2 - Chatbot khách hàng (rủi ro hạn chế). Một trang web thương mại điện tử triển khai chatbot phục vụ khách hàng EU. Đây là loại rủi ro hạn chế; Nghĩa vụ chính là tính minh bạch: người dùng phải được thông báo rõ ràng rằng "bạn đang nói chuyện với trí tuệ nhân tạo". Việc che giấu điều này là vi phạm; Chỉ định là đủ.
Trường hợp 3 – Đến gần vạch cấm. Một chuỗi bán lẻ muốn phân tích phản ứng cảm xúc của khách hàng thông qua camera của cửa hàng và đưa ra điểm "có khả năng là kẻ trộm đồ". Điều này rơi vào khu vực bị cấm/rủi ro rất cao với cả khía cạnh nhận biết cảm xúc và tính điểm. Nhóm pháp lý dừng dự án ở giai đoạn thiết kế; Rõ ràng là nó không thể được thực hiện ngay cả khi có các biện pháp giảm thiểu rủi ro.
Mẹo: Câu hỏi đầu tiên khi bắt đầu một dự án AI mới là “điều này hữu ích như thế nào?” mà đúng hơn là "điều này rơi vào loại rủi ro nào?" nên như vậy. Thực hiện phân loại ngay từ đầu sẽ tránh lãng phí tài nguyên cho một dự án sẽ bị hủy sau đó.
Mẫu có thể sao chép
MẪU 1 — Đánh giá sơ bộ về loại rủi ro: "Đánh giá trước việc sử dụng AI sau đây theo Luật AI của EU: [mô tả cách sử dụng]. Nêu rõ loại rủi ro nào (bị cấm / cao / hạn chế / tối thiểu) mà nó có thể rơi vào, kèm theo lý do biện minh. Đánh dấu những điểm bạn không chắc chắn là 'cần có xác nhận pháp lý'; không đưa ra phán quyết pháp lý dứt khoát."
MẪU 2 — Quét ứng dụng bị cấm: "Chỉ quét ý tưởng dự án sau theo danh sách 'Ứng dụng bị cấm theo Đạo luật AI của EU': [mô tả dự án]. Có rủi ro về mặt chấm điểm xã hội, thao túng tiềm thức, khai thác lỗ hổng, giám sát sinh trắc học trái phép, nhận dạng cảm xúc không? Viết có/không và giải thích trong mỗi tiêu đề."
MẪU 3 — Danh sách kiểm tra trách nhiệm pháp lý có rủi ro cao: "Đối với việc sử dụng AI có rủi ro cao này, [mô tả cách sử dụng] tạo ra một bảng 'tình hình hiện tại của chúng ta là gì, còn thiếu điều gì' trên sáu tiêu đề trách nhiệm pháp lý (quản lý rủi ro, chất lượng dữ liệu, tài liệu, tính minh bạch, kiểm toán của con người, tính mạnh mẽ). Đề xuất hành động cụ thể trong mỗi hàng."
MẪU 4 — Thông báo minh bạch (rủi ro hạn chế): "Đối với một chatbot phục vụ người dùng EU, hãy viết một thông báo ngắn 'bạn đang nói chuyện với AI' để hiển thị cho người dùng. Đơn giản, yên tâm, tối đa 2 câu. Bao gồm tùy chọn chuyển sang tác nhân con người."
Dấu nhắc yếu / Dấu nhắc mạnh
YẾU: “Luật AI của EU có liên quan đến chúng ta không?”-> Mô hình đưa ra câu trả lời chung; Nó không phân loại việc sử dụng cụ thể của bạn, nó không đánh giá mối liên hệ của bạn với thị trường EU. GÜÇLÜ: "Chúng tôi là một công ty có trụ sở tại Izmir, chúng tôi bán tuyển dụng và sàng lọc AI cho một công ty ở Đức. Việc sử dụng này thuộc loại rủi ro nào theo Luật AI của EU, nghĩa vụ nào thuộc về chúng tôi và tại sao việc ở Thổ Nhĩ Kỳ không miễn trừ cho chúng tôi? Đánh dấu vào chỗ bạn không chắc chắn." -> Mô hình tạo ra danh sách phân loại và trách nhiệm pháp lý theo ngữ cảnh cụ thể.
Những lỗi thường gặp
- Suy nghĩ “Chúng tôi đang ở Thổ Nhĩ Kỳ, luật pháp EU không ràng buộc chúng tôi”; Tuy nhiên, chạm vào thị trường EU là đủ.
- Thực hiện phân loại rủi ro sau khi phát triển dự án; Tuy nhiên, nó nên được thực hiện ngay từ đầu.
- Việc nhầm lẫn một hành vi bị cấm là một trở ngại có thể vượt qua được bằng "lý do chính đáng".
- Bỏ qua việc báo cáo tính minh bạch trong các hệ thống có rủi ro hạn chế (làm cho bot trông giống con người).
- Bỏ qua hoạt động kiểm toán của con người và quản lý thiên vị trước các khoản nợ có rủi ro cao.
- Bỏ qua rằng các khoản nợ AI (GPAI) cho mục đích chung có thể ảnh hưởng đến chuỗi.
- Trao đổi Luật AI của EU với KVKK; chúng khác nhau nhưng bổ sung cho nhau.
Tóm lại
- Luật AI của EU áp dụng cách tiếp cận dựa trên rủi ro và chia AI thành bốn loại: bị cấm, cao, hạn chế, tối thiểu.
- Các hành vi bị cấm (cho điểm xã hội, thao túng, v.v.) không thể được loại bỏ ngay cả khi rủi ro giảm đi.
- Hệ thống rủi ro cao; Nó phải tuân theo các nghĩa vụ nghiêm ngặt như quản lý rủi ro, chất lượng dữ liệu, kiểm soát con người và tài liệu.
- Trong các hệ thống rủi ro hạn chế, nghĩa vụ chính là tính minh bạch (báo cáo rằng có AI).
- Các công ty Thổ Nhĩ Kỳ chạm vào thị trường EU cũng bị ảnh hưởng bởi luật này; Việc phân loại nên được thực hiện ngay từ đầu dự án.
Nhiệm vụ ứng dụng
Hãy xem xét ba cách sử dụng AI khác nhau mà tổ chức của bạn (hoặc một công ty hư cấu) có thể sử dụng liên quan đến thị trường EU. Xếp mỗi loại vào một trong bốn loại rủi ro của Đạo luật AI của EU và viết lời giải thích của bạn. Đặt sáu nghĩa vụ có rủi ro cao đối với việc sử dụng mà bạn thấy có rủi ro cao nhất vào biểu đồ kiểm soát: điền vào cột “trạng thái hiện tại” và “chưa hoàn thành/hành động”. Viết tuyên bố minh bạch sẽ được hiển thị cho người dùng đối với mục đích sử dụng thuộc danh mục rủi ro hạn chế. Cuối cùng, nếu bất kỳ mục đích sử dụng nào của bạn đang tiến gần đến ranh giới bị cấm, hãy lưu ý điều đó và tại sao.
danh sách kiểm tra
- [ ] Tôi xếp mỗi lần sử dụng AI vào một trong bốn loại rủi ro.
- [ ] Tôi đã quét các dự án của mình theo danh sách các ứng dụng bị cấm.
- [ ] Tôi đã tạo biểu đồ kiểm soát trách nhiệm pháp lý đối với việc sử dụng có mức độ rủi ro cao.
- [ ] Tôi đã đưa việc kiểm tra con người và quản lý thành kiến vào các nghĩa vụ.
- [ ] Tôi đã chuẩn bị một tuyên bố minh bạch để hạn chế sử dụng rủi ro.
- [ ] Tôi hiểu tại sao việc kết nối với thị trường EU của tôi lại gây ra luật pháp.
- [ ] Tôi đã phân loại rủi ro ngay từ đầu dự án chứ không phải ở cuối dự án.