سود:
- توانایی ایجاد اجزای چارچوب حاکمیت هوش مصنوعی که سرعت، امنیت و ثبات را متعادل می کند
- توانایی طراحی یک برد هوش مصنوعی چند منظوره و سیاست های اصلی ساده و قابل اجرا (استفاده قابل قبول، داده، ریسک)
- قابلیت لایهبندی تاییدیه بر اساس سطح ریسک و حفظ حاکمیت در میدان با موجودی سیستم و ممیزی منظم
استراتژی، موارد استفاده، ROI و ریسک؛ همه آنها قوی هستند، اما به تنهایی کثیف هستند. آنچه آنها را در کنار هم نگه می دارد، آنها را تکرارپذیر می کند و به نهاد اعتماد می کند، حکمرانی است (حکومت؛ چارچوبی که تعیین می کند چه کسی، با چه قوانینی و با چه کنترلی تصمیم می گیرد). حکمرانی پاسخ دائمی به این است که "چگونه هوش مصنوعی را در این شرکت مسئولانه انجام دهیم؟" در این بخش، نحوه ایجاد حکمرانی هوش مصنوعی، سیاست های مکتوب و ساختار هیئت مدیره تصمیم گیری را یاد خواهید گرفت. هدف ایجاد بوروکراسی نیست. برای اطمینان از عملکرد ایمن و قابل تکرار بدون کاهش سرعت.
چرا حکمرانی ضروری است؟
در سازمانی بدون حاکمیت، هر تیم قوانین خود را میسازد: یکی دادههای مشتری را در یک ابزار عمومی قرار میدهد، یکی مدلی تایید نشده را وارد تولید میکند، یکی اصلاً ارزیابی ریسک انجام نمیدهد. وقتی مشکلات پیش می آید، "چه کسی آن را تایید کرد؟" هیچ پاسخی برای سوال وجود ندارد. حکمرانی این شکاف را پر می کند: چه کسی تصمیم می گیرد، چه قوانینی اعمال می شود، چه کسی نظارت می کند، و چه کسی در هنگام بروز مشکلات پاسخگو است.
حکمرانی خوب سه چیز را متعادل می کند: سرعت (نه ابتکار عمل)، امنیت (کنترل ریسک) و ثبات (همه با قوانین یکسانی بازی می کنند). حکمرانی بیش از حد سرعت را از بین می برد. حکومت ناقص اعتماد را از بین می برد. تعادل هنر است.
نکته: هنگام تنظیم حاکمیت، لایههایی را بر اساس سطح ریسک ایجاد کنید، از «آهستهترین، امنترین مسیر» تا «سریعترین، پرخطرترین مسیر». کار کم خطر باید به سرعت جریان داشته باشد. فقط کارهای پرخطر باید مورد تایید دقیق قرار گیرد. اعمال یک فرآیند سنگین برای همه، حکومت را به عنوان دشمن معرفی می کند.
مولفه های حاکمیت
جزء
چه کاری انجام می دهد؟
مثال
برد هوش مصنوعی
تصمیم استراتژیک، اولویت، تصویب
جلسه ماهانه، تایید ریسک بالا
مجموعه سیاست/اصول
قوانین نوشته شده
استفاده قابل قبول، داده، تامین کننده
نقش ها و مالکیت
چه کسی مسئول چه چیزی است
صاحب کسب و کار برای هر زمینه استفاده
فرآیند ریسک و تایید
چگونه شروع کنیم
ردیف تایید بر اساس سطح ریسک
نظارت و حسابرسی
کنترل مستمر
نظارت بر رانش، بازرسی دوره ای
ثبت / موجودی
چه چیزی در کجا کار می کند
موجودی سیستم هوش مصنوعی
هیئت هوش مصنوعی (شورای هوش مصنوعی / کمیته راهبری) بدنه ای متشکل از نمایندگان سطح بالا از عملکردهای مختلف (کسب و کار، فناوری، قانون، ریسک، داده) است که جهت استراتژیک را ارائه می دهد و ابتکارات پرخطر را تأیید می کند. هیئت مدیره پروژه ها را مدیریت نمی کند. چارچوب را تعیین می کند و تصمیمات حیاتی می گیرد.
سیاست های اساسی
هر سازمانی حداقل به این سیاست ها نیاز دارد:
- خط مشی استفاده قابل قبول: کارکنان از کدام ابزارهای هوش مصنوعی، با چه دادههایی و برای چه استفاده میکنند؟ (مثلاً: "اطلاعات شخصی مشتری را در ابزار خارجی غیرمجاز وارد نکنید.")
- داده ها و سیاست حفظ حریم خصوصی: کدام داده ها، کجا و چگونه پردازش می شوند؟ چگونه از انطباق KVKK اطمینان حاصل کنیم؟
- سیاست ریسک و تایید: یک استارتاپ قبل از شروع به تولید چه ارزیابی هایی را انجام می دهد؟
- خط مشی تامین کننده/خرید: ارائه دهندگان هوش مصنوعی خارجی با چه معیارهایی انتخاب می شوند؟ (واحد 11)
- خط مشی شفافیت: چه زمانی به مشتری/کارمند اطلاع داده می شود که از هوش مصنوعی استفاده می شود؟
گام به گام: ایجاد حکومت
1. تابلو را ایجاد کنید. نماینده کسب و کار، فناوری، حقوقی، ریسک و داده ها؛ قدرت روشن و ریتم ملاقات
2. خط مشی های اصلی را بنویسید. پنج خط مشی فوق را ساده و قابل اجرا بنویسید. این یک رمان نیست، یک قانون است.
3. یک جریان تایید مبتنی بر ریسک ایجاد کنید. کم خطر سریع، ریسک بالا تایید سنگین.
4. موجودی را نگه دارید. کدام سیستم هوش مصنوعی کجاست، چه کسی مسئول است، در چه سطح ریسک.
5. نظارت و کنترل را نهادینه کنید. بررسی دوره ای، رانش و کنترل انطباق.
سه کیف کوچک
مورد 1 - نشت بدون خط مشی. در یکی از شرکتهای حقوقی، وکلا اسناد محرمانه پروندهای را داشتند که توسط یک ابزار هوش مصنوعی در دسترس عموم خلاصه شده بود. تصور می شد که این طبیعی است زیرا سیاست استفاده قابل قبولی وجود نداشت. وقتی مشتری از این موضوع مطلع شد، یک بحران اعتماد وجود داشت. این شرکت بهسرعت خطمشی نوشت، ابزاری برای سازمان (ضد اطلاعات) ارائه کرد و آموزش داد. اگر سیاست از ابتدا بود، بحران پیش نمی آمد.
مورد 2 - موجودی هیئت مدیره. یک سازنده برد هوش مصنوعی خود را تنها از تیم فناوری خود ساخته است. هیئت مدیره مصوباتی را صادر کرد که از نظر فنی درخشان بود اما کورکورانه قانونی و اخلاقی داشت. هنگامی که یک نماینده قانونی و ریسک به هیئت مدیره اضافه شد، قبل از اینکه یک سرمایه گذاری پرخطر وارد تولید شود، یک مشکل جدی در انطباق کشف شد. تنوع چشم انداز هیئت بود.
مورد 3 - حرکت خفه کننده حاکمیت. در یک بانک، هر ایده هوش مصنوعی، حتی یک ایده کم خطر، از طریق یک فرآیند تایید دقیق 6 هفته ای انجام شد. تیم ها شروع به فرار از روند و استفاده از وسایل نقلیه "سایه" کردند. این بانک تأیید را بر اساس سطح ریسک طبقه بندی کرد: مشاغل کم خطر در 3 روز، مشاغل پرخطر در طول فرآیند کامل. سرعت و کنترل هر دو بازگشت. استفاده از سایه کاهش یافت.
چهار قالب قابل کپی
1) پیش نویس تشکیل هیئت:
نقش شما: مشاور حکمرانی هوش مصنوعی. پیش نویس هیئت مدیره هوش مصنوعی را به ما پیشنهاد دهید: چند عضو از کدام وظایف، اختیارات هیئت مدیره، دفعات جلسات، تصمیمات مورد تایید، کدام یک از آنها را به تیم ها واگذار می کند. اجتناب از بوروکراسی بیش از حد؛ تعادلی را پیشنهاد دهید که سرعت را حفظ کند.
2) پیش نویس خط مشی استفاده قابل قبول:
[صنعت] یک «سیاست استفاده قابل قبول هوش مصنوعی» ساده و قابل اجرا برای یک سازمان پیشنویس میکند: از چه ابزارهایی میتوان استفاده کرد، با چه دادههایی، برای چه چیزی. آنچه به شدت ممنوع است؛ در صورت تخلف چه اتفاقی می افتد؟ مورد به مورد، به زبانی قابل فهم بنویسید.
3) جریان تایید مبتنی بر ریسک:
یک جریان تایید لایهای هوش مصنوعی بر اساس سطح ریسک برای ما طراحی کنید: چه مراحلی، تایید چه کسی، چه مدت، به طور جداگانه برای ریسک کم/متوسط/بالا. اطمینان حاصل کنید که کارهای کم خطر به سرعت جریان می یابد و کارهای پرخطر از طریق بازرسی دقیق انجام می شود.
4) الگوی موجودی هوش مصنوعی:
یک قالب موجودی برای ثبت سیستم های هوش مصنوعی در سازمان طراحی کنید: نام سیستم، استفاده مورد نظر، مالک کسب و کار، سطح ریسک، داده های مورد استفاده، تامین کننده، آخرین تاریخ حسابرسی. به طور خلاصه توضیح دهید که چرا هر رشته ضروری است.
اعلان ضعیف / اعلان قوی
ضعیف: "یک خط مشی هوش مصنوعی برای ما بنویسید."
نتیجه: متنی که کلی است، متناسب با مؤسسه نیست و بیش از حد انتزاعی است که قابل اعمال نیست.
گوچلو: "ما یک شرکت فناوری سلامت 200 نفره هستیم، با داده های بیمار کار می کنیم و مشمول KVKK هستیم. یک خط مشی استفاده قابل قبول ساده و قابل اجرا در مورد نحوه استفاده کارمندان از ابزارهای هوش مصنوعی: قانون داده های بیمار، ابزارهای تایید شده، ممنوعیت ها و پیامدهای نقض. آن را بند به بند بنویسید و به زبانی واضح بنویسید؛ تیم قانونی ما آن را بررسی می کند."
نتیجه: یک پیش نویس قابل اجرا که متناسب با نهاد، بخش و قانون باشد.
اشتباهات رایج
- به هیچ وجه حاکمیت برقرار نمی کند. گفتن "بعداً خواهیم دید" به معنای انباشت بیصدا ریسک است.
- بوروکراسی بیش از حد اعمال تاییدیه سنگین برای هر شغل، تیم ها را به استفاده در سایه سوق می دهد.
- برد تک کاره. فناوری به تنهایی یا هیئت مدیره ای تنها با نمایندگی قانونی نقاط کور ایجاد می کند. تنوع یک امر ضروری است
- خط مشی را ننوشت و در میدان نمی آورد. نشستن خط مشی در قفسه محافظتی را فراهم نمی کند. باید با آموزش و ابزار پشتیبانی شود.
- عدم نگهداری موجودی موسسه ای که نمی داند روی چه چیزی کار می کند نمی تواند بداند چه چیزی را حسابرسی کند.
احتیاط: هوش مصنوعی می تواند یک خط مشی یا پیش نویس هیئت مدیره تولید کند. اما این پیشنویسها نباید بدون انطباق با واقعیت، بخش و قانون نهاد و بازنگری توسط کارکردهای قانونی و ریسک اجرایی شوند. خط مشی تولید شده توسط هوش مصنوعی طرحی برای یک تصمیم شرکتی مسئولانه است، نه خودش.
به طور خلاصه
حاکمیت چارچوبی است که استراتژی هوش مصنوعی را دائمی، تکرارپذیر و قابل اعتماد می کند. سرعت، امنیت و ثبات را متعادل می کند. اجزای اصلی آن یک برد هوش مصنوعی چند منظوره، سیاستهای ساده و قابل اجرا، نقشهای روشن، جریان تایید مبتنی بر ریسک، نظارت مستمر و موجودی سیستم است. سرعت بیش از حد بوروکراسی و حکمرانی ناقص اعتماد را از بین می برد. تعادل با توجه به سطح ریسک به لایه بندی می رسد. سیاست ها باید در میدان با آموزش و ابزار زندگی کنند، نه در قفسه. در بخش بعدی به اصول هوش مصنوعی اخلاقی و مسئولانه می پردازیم که اساس اخلاقی حکمرانی است.
وظیفه کاربردی
یک تابلوی هوش مصنوعی برای سازمان خود تهیه کنید: چه کسی از کدام کارکرد، با چه اختیاری، با چه ریتمی. سپس یک پیش نویس خط مشی استفاده قابل قبول با الگوی 2 تهیه کنید و حداقل سه بند را به صورت دستی با توجه به داده ها/شرایط نظارتی واقعی موسسه خود تطبیق دهید. در نهایت، سه سطح (کم/متوسط/بالا) یک جریان تایید مبتنی بر ریسک را در یک جمله توصیف کنید.
چک لیست
- [ ] من یک ساختار تخته چند منظوره طراحی کردم.
- [ ] من حداقل یک خط مشی اصلی را تهیه کرده ام.
- [ ] من این خط مشی را با قوانین و واقعیت داده های سازمان تطبیق دادم.
- [ ] من یک جریان تایید لایه ای مبتنی بر ریسک را تعریف کردم.
- [ ] من یک الگوی موجودی سیستم هوش مصنوعی تنظیم کرده ام.
- [ ] من ریتم نظارت و کنترل را برنامه ریزی کردم.
- [ ] من به این فکر کردم که چگونه می توان سیاست ها را وارد میدان کرد (آموزش/ابزار).