چرا سیاست هوش مصنوعی سازمانی؟ بنیاد حاکمیت و هوش مصنوعی سایه

سود:

• شناخت خطرات استفاده از هوش مصنوعی بدون سیاست (هوش مصنوعی سایه) با مثال های عددی
• بدانید که یک خط مشی خوب فهرستی از ممنوعیت ها نیست، بلکه چارچوبی است که امکان استفاده مسئولانه را فراهم می کند
• افراد، ارکان فرآیند و فناوری و نقش ذینفعان حاکمیت هوش مصنوعی را توضیح دهید

در صبح روز دوشنبه، مدیر ارشد انطباق یک شرکت بیمه متوسط (مسئول پیروی سازمان با قوانین و قوانین داخلی) ایمیل خود را با تعجب باز می کند: مشتری می پرسد که آیا اطلاعات سلامتی او «در یک ابزار هوش مصنوعی نوشته شده است و کجا رفته است». یک بررسی سریع نشان می دهد که یک متخصص از تیم ادعا از یک حساب هوش مصنوعی شخصی برای خلاصه کردن سریع پرونده های ادعاها استفاده می کند. هیچ کس بدخواه نیست. هیچ کس فکر نمی کند که قوانین را زیر پا می گذارد. چون قانون مدونی وجود ندارد. این شکاف هوش مصنوعی سایه نامیده می شود و این ماژول به شما یاد می دهد که چگونه یک چارچوب حاکمیتی بسازید تا دقیقاً این شکاف را پر کنید.

آوردن هوش مصنوعی به تجارت به سادگی نصب نرم افزارهای معمولی نیست. هوش مصنوعی بر تصمیم‌گیری‌ها تأثیر می‌گذارد، داده‌های شخصی را پردازش می‌کند، می‌تواند محتوای دارای حق نسخه‌برداری تولید کند و در صورت اشتباه، مسئولیت ایجاد می‌کند. به همین دلیل است که هر سازمانی که از هوش مصنوعی استفاده می کند به چارچوبی نیز نیاز دارد که آن را "مدیریت" کند. در این بخش اول، چرایی نیاز به یک خط مشی مکتوب هوش مصنوعی، هزینه ملموس هوش مصنوعی سایه و سه ستون حکمرانی را پوشش می دهیم.

هوش مصنوعی سایه چیست و چرا اجتناب ناپذیر است؟

Shadow AI استفاده از هوش مصنوعی بدون اطلاع، تایید و کنترل موسسه است. کلمه Shadow از نام Shadow IT گرفته شده است که به نرم افزارهایی اطلاق می شود که مورد تایید بخش فناوری اطلاعات نیستند. کارمندان با یا بدون سیاست شروع به استفاده از ابزارهای هوش مصنوعی می کنند. زیرا این ابزارها رایگان، سریع هستند و کار آنها را آسان می کنند. حتی داشتن ممنوعیت استفاده را متوقف نمی کند، فقط آن را پنهان می کند.

استفاده بدون خط مشی خطرات عینی زیر را ایجاد می کند:

• نشت داده ها: یک کارمند ممکن است ناآگاهانه داده های محرمانه مشتری یا اسرار شرکت را در ابزار هوش مصنوعی قرار دهد. داده ها خارج از کنترل موسسه است.
• مجازات برای عدم رعایت: نقض KVKK (قانون حفاظت از داده های شخصی) منجر به جریمه اداری میلیون ها لیر می شود. نقض GDPR می تواند منجر به جریمه تا 4 درصد از گردش مالی سالانه شود.
• تصمیم گیری بر اساس اطلاعات نادرست: تصمیماتی که با تکیه بر اطلاعات غلط ساخته شده توسط هوش مصنوعی ("توهم") گرفته می شود به مشتری و سازمان آسیب می رساند.
• مسائل مربوط به کپی رایت و مالکیت معنوی: استفاده از خروجی ممکن است مالکیت معنوی شخص دیگری را نقض کند.
• از دست دادن شهرت: هنگامی که استفاده کنترل نشده در مطبوعات گزارش می شود، اعتماد به برند متزلزل می شود.

احتیاط: ممنوعیت کامل استفاده از هوش مصنوعی راه حلی نیست. ممنوعیت استفاده را از بین نمی برد. فقط آن را نامرئی و غیر قابل کنترل می کند. هدف پایان دادن به استفاده نیست، بلکه قرار دادن آن در یک چارچوب امن است.

سه مورد کوچک: هزینه واقعی هوش مصنوعی سایه

مورد 1 - قرارداد فاش شده یک متخصص حقوقی کل متن را در یک حساب هوش مصنوعی فردی می‌چسباند تا یک قرارداد ادغام محرمانه 40 صفحه‌ای را خلاصه کند. این قرارداد هنوز در دسترس عموم قرار نگرفته است. متن در سرورهای ارائه دهنده پردازش می شود و برای آموزش مدل آینده نگر در دسترس قرار می گیرد. شرکت برای از بین بردن خطر نشت اطلاعات احتمالی، ادغام را 3 هفته به تاخیر انداخت. هزینه مشاوره تقریباً 250000 لیر افزایش می یابد.

مورد 2 - فقه توهم. یک وکیل سه "تصمیم قبلی" از هوش مصنوعی را به دادخواست خود ضمیمه می کند. دو عدد از اعداد تصمیم گیری، تصمیمات ساخته شده ای هستند که در واقعیت وجود ندارند. دادگاه متوجه این موضوع می شود; وکیل با روند انضباطی و همچنین از دست دادن شهرت مواجه است. یک قانون تأیید یک خطی (تأیید هر منبع در برابر سیستم تصمیم گیری رسمی) از این بحران جلوگیری می کرد.

مورد 3 - پس انداز نامرئی. در همان شرکت، تیم بازاریابی با ابزار تایید شده هوش مصنوعی سازمانی، 6 ساعت در هفته سریع‌تر نسخه کمپین تولید می‌کند. با این حال، این صرفه جویی در هیچ کجا گزارش نشده است زیرا استفاده ثبت نشده است. مدیریت بودجه صدور مجوز جدید را رد می کند زیرا نمی تواند مزایای هوش مصنوعی را ببیند. Shadow AI نه تنها خطر، بلکه دید سود را نیز از بین می برد.

سیاست خوب چه چیزی را تضمین می کند؟

یک سیاست خوب هوش مصنوعی فهرستی از ممنوعیت ها نیست. این چارچوبی است که امکان استفاده مسئولانه را فراهم می کند. پنج کار را انجام می دهد:

1. وضوح: کارمند می داند چه چیزی مجاز، چه چیزی ممنوع است و چه چیزی مشمول تایید است.
2. اعتماد: مدیریت می تواند پروژه های جدید را با علم به اینکه هوش مصنوعی به شیوه ای کنترل شده مورد استفاده قرار می گیرد، تأیید کند.
3. انطباق: تعهدات قانونی (KVKK، GDPR، قانون هوش مصنوعی اتحادیه اروپا) به طور سیستماتیک انجام می شود.
4. ثبات: تیم های مختلف از قوانین یکسانی پیروی می کنند.
5. پاسخگویی: وقتی مشکلی وجود دارد، مشخص است که چه کسی مسئول است.

حکمرانی چیست؟ سه پا

حاکمیت هوش مصنوعی مجموعه ای از قوانین و فرآیندهایی است که تعیین می کند هوش مصنوعی چگونه انتخاب، استفاده، کنترل می شود و چه کسی مسئول آن در یک موسسه خواهد بود. خط مشی سند مکتوب این حکومت است. حکمرانی سیستم زنده ای است که سیاست را زنده می کند. بر روی سه پایه ساخته شده است:

پا

معنی

مثال در سیاست هوش مصنوعی

انسان

نقش ها و مسئولیت ها

کنترلر هوش مصنوعی، مدیر تایید کننده، افسر حفاظت از داده ها

فرآیند

قوانین و جریان ها

فرآیند تایید خودروی جدید، بازرسی منظم، پاسخ به حادثه

تکنولوژی

ابزارها و کنترل ها

لیست وسایل نقلیه تایید شده، کنترل دسترسی، نگهداری سوابق

اگر یکی از سه رکن مفقود باشد، چارچوب فرو می ریزد: بدون قاعده، ابزار بی فایده است، بدون ابزار، قاعده قابل کنترل نیست، بدون مسئولیت، هیچ کدام مالکیت ندارد.

یک بخش واحد نمی تواند این کار را انجام دهد.

سیاست هوش مصنوعی فقط وظیفه بخش فناوری اطلاعات نیست. یک چارچوب موفق مستلزم مشارکت واحدهای مختلف است: حقوقی/انطباق (تعهدات و قراردادهای قانونی)، فناوری اطلاعات/امنیت (کنترل‌های فنی و امنیت داده‌ها)، منابع انسانی (آموزش کارکنان و کدهای رفتار)، واحدهای تجاری (نیازهای استفاده واقعی) و مدیریت ارشد (تأیید، منبع‌یابی و مالکیت شرکتی).

نکته: قبل از شروع نوشتن خط مشی، یک جلسه 30 دقیقه ای با نماینده هر واحد ذینفع داشته باشید. "در حال حاضر برای چه چیزی از هوش مصنوعی استفاده می کنید یا به دنبال استفاده از آن هستید؟" سوال هم نیازهای واقعی و هم استفاده از سایه فعلی را نشان می دهد.

به کار انداختن هوش مصنوعی: الگوهای قابل تکرار

هوش مصنوعی به خودی خود کمکی به هنگام تنظیم چارچوب حاکمیتی است - تا زمانی که خروجی آن تایید شده باشد. قالب های زیر سرعت کار این واحد را افزایش می دهد.

الگوی 1 - نظرسنجی برای اسکن خط پایه (هوش مصنوعی سایه): "یک پیش نویس نظرسنجی ناشناس 8 سوالی از کارمندان برای ترسیم استفاده از هوش مصنوعی در سازمان ما آماده است. سوالات باید پوشش دهند: کدام ابزارها، کدام وظایف، کدام نوع داده وارد شده، به آموزش نیاز دارند. خروجی: سوالات شماره گذاری شده + نوع پاسخ برای هر سوال (چند گزینه ای/باز)."

الگوی 2 — یک خلاصه خطر ایجاد کنید: "مورد استفاده از هوش مصنوعی زیر را در نظر بگیرید: [سناریو چسباندن]. خلاصه خطر مختصری را تحت عناوین زیر به من بدهید: حریم خصوصی داده ها، انطباق، توهم، حق امتیاز، شهرت. برچسب "کم/متوسط/بالا" و منطق یک جمله ای را برای هر عنوان، توصیه حقوقی ارائه دهید.

الگوی 3 - دستور کار جلسه سهامداران: "یک دستور کار جلسه 60 دقیقه ای هیئت مدیره را برای راه اندازی چارچوب حکمرانی هوش مصنوعی آماده کنید. شرکت کنندگان: حقوقی، فناوری اطلاعات، منابع انسانی، واحد تجاری، مدیریت ارشد. مدت زمان و خروجی مورد انتظار را برای هر مورد دستور بنویسید."

الگوی 4 - توضیح کوتاه برای مدیریت: "یک جلسه توجیهی نیم صفحه ای با عنوان "چرا به یک خط مشی هوش مصنوعی نیاز داریم" بنویسید تا به مدیریت ارشد ارائه شود. شامل 3 خطر ملموس + 3 مزیت مشخص؛ از اصطلاحات فنی استفاده نکنید؛ در خط آخر یک درخواست تصمیم گیری واضح داشته باشید."

اعلان ضعیف / اعلان قوی

ضعیف: «سیاست هوش مصنوعی بنویسید». کلاس های داده، نقش ها و زمینه نظارتی را منعکس نمی کند. GÜÇLÜ: "ما یک شرکت بیمه متشکل از 50 نفر، مشروط به KVKK، داده‌های سلامت مشتری را پردازش می‌کنیم. پیش‌نویسی برای بخش‌های "حوزه" و "کاربردهای ممنوع" خط‌مشی هوش مصنوعی پیشنهاد کنید. قضاوت نهایی را تحمیل نکنید؛ در هر مقاله یک یادداشت "لازم به تایید قانونی" اضافه کنید و شکاف‌ها را به من بسپارید. تصمیم با شما باقی می ماند.

اشتباهات رایج

• ممنوعیت استفاده از هوش مصنوعی و نامرئی کردن هوش مصنوعی سایه.
• اجازه دادن به فناوری اطلاعات فقط خط‌مشی را بنویسد و نیازهای واقعی واحدهای تجاری را حذف کند.
• شروع به نوشتن قوانین به طور مستقیم از نقشه استفاده سایه موجود.
• نوشتن خط مشی به زبان قانونی به گونه ای که کارمند نتواند آن را درک کند.
• اجرای پیش نویس خط مشی تولید شده توسط هوش مصنوعی بدون تایید قانونی.
• صحبت در مورد خطر، اما عدم اندازه گیری سود؛ بنابراین حمایت دولت را از دست می دهد.
• یک بار نوشتن خط مشی و فراموش کردن به روز رسانی آن؛ در حالی که حکومت یک سیستم زنده است.

به طور خلاصه

• هوش مصنوعی سایه در سازمان‌های بدون سیاست اجتناب‌ناپذیر است و خطرات داده‌ها، انطباق و اعتبار را به همراه دارد.
• یک سیاست خوب، لیست ممنوعیت نیست. این چارچوبی است که امکان استفاده مسئولانه را فراهم می کند.
• حاکمیت هوش مصنوعی بر اساس افراد (نقش)، فرآیند (قوانین) و فناوری (کنترل) ساخته شده است. اگر یکی از دست رفته باشد خراب می شود.
• سیاست مسئولیت یک بخش واحد نیست. این کار مشترک حقوق، فناوری اطلاعات، منابع انسانی، واحدهای تجاری و مدیریت ارشد است.
• هوش مصنوعی می تواند در تنظیم چارچوب کمک کند، اما هر خروجی باید مورد تایید انسانی و قانونی قرار گیرد.

وظیفه کاربردی

سازمانی را انتخاب کنید که برای آن کار کرده اید یا رویای آن را دارید (اجازه دهید صنعت، تعداد کارکنان و نوع داده هایی که پردازش می کند مشخص باشد). ابتدا یک نظرسنجی 8 سوالی برای غربالگری هوش مصنوعی در سایه پیش نویس کنید (می توانید از الگوی 1 استفاده کنید). سپس سه خطر مشخصی را که هوش مصنوعی سایه‌ای می‌تواند در این سازمان ایجاد کند، بنویسید و به هر کدام یک تأثیر تخمینی عددی (پنالتی، تاخیر، ساعت‌های از دست رفته) اضافه کنید. در نهایت، برای هر یک از سه رکن حکمرانی (افراد، فرآیند، فناوری) نمونه‌های خاص سازمان خود را مشخص کنید و توجه داشته باشید که کدام واحد ذینفع مسئولیت این رکن را بر عهده خواهد داشت.

چک لیست

• [ ] من استفاده فعلی (سایه ای) هوش مصنوعی را در سازمانم ترسیم کردم.
• [ ] من سه خطر مشخص از فقدان خط مشی با اثر عددی نوشتم.
• [ ] من یک جلسه توجیهی آماده کردم که خطر و مزایای هوش مصنوعی را به مدیریت منتقل می کرد.
• [ ] من برای سه رکن حاکمیتی، یک نمونه خاص نهاد و مسئول تعیین کرده ام.
• [ ] من برنامه ای برای گنجاندن حداقل سه واحد ذی نفع در این فرآیند تنظیم کردم.
• [ ] من هر پیش‌نویسی را که با هوش مصنوعی تهیه می‌کنم مشمول تاییدیه قانونی/تطبیق می‌کنم.