سود:
- توانایی تشخیص اینکه در جریان کار ML (کد، داده، سند) هوش مصنوعی در زمان با ریسک کم صرفه جویی می کند و تصمیماتی مانند متریک / داده / تولید به عهده انسان است، با توجه به سطح ریسک کار.
- امکان اعمال رشتهای که هر خروجی هوش مصنوعی را با اتصال آن به منبع، اجرای مجدد، اندازهگیری و عبور از فیلتر مهندسی تأیید میکند.
- توانایی به دست آوردن عادت عدم ارسال اطلاعات محرمانه و شخصی خام به ابزارهای خارجی، استفاده از ابزارهای تایید شده توسط شرکت و رسیدگی به مسائل امنیتی فقط برای اهداف دفاعی.
هوش مصنوعی در مهندسی یادگیری ماشین: نقش، مرزها، اعتبارسنجی و مسئولیت
یک مهندس یادگیری ماشین (مهندس ML: یک نرم افزار حرفه ای که مدل هایی را طراحی، آموزش می دهد و می آورد که از داده ها به تولید می پردازد) امروزه با ابزار هوش مصنوعی دیگری در هر مرحله از کار خود کار می کند. یک دستیار کدنویسی هنگام نوشتن کد، یک مدل مکالمه هنگام کاوش داده ها، و یک مدل زبان بزرگ (LLM: یک شبکه عصبی با میلیاردها پارامتر که متن را می فهمد و تولید می کند) هنگام تولید اسناد کار می کند. این ماژول هوش مصنوعی را هم محصول توسعه یافته و هم ابزار کار روزانه یک مهندس ML در نظر می گیرد. با مشخص کردن واضح مرزهای مسئولیت بدون اختلاط این دو نقش عمل می کند.
در این واحد اول، به این سوال اساسی پاسخ میدهیم: هوش مصنوعی در کجای مهندسی ML در زمان واقعی صرفهجویی میکند و کجا باید تصمیمگیری را به انسان بسپاریم؟ پاسخ در قلب رشته مهندسی است: کسی که می سازد سریع است، کسی که تأیید می کند مسئول است.
هوش مصنوعی از کجا در مهندسی ML مفید است؟
یک پروژه ML تقریباً از خطوط زیر عبور می کند: جمع آوری داده، تمیز کردن داده ها، مهندسی ویژگی (ترجمه داده های خام به سیگنال های دیجیتالی که مدل می تواند درک کند)، آموزش مدل، ارزیابی، استقرار (استقرار: باز کردن مدل برای کاربر واقعی) و نظارت. هوش مصنوعی در هر توقف در این خط کمک می کند، اما سطح قدرت آن متفاوت است.
حوزههای با پاداش بالا و کم خطر: تولید یک اسکلت کد، پیشنویس تابع تبدیل داده، تفسیر پیامهای گزارش، توصیف ردیابی پشته، خلاصه کردن یادداشتهای آزمایش، نوشتن اسناد و README، پیشنهاد یک مورد آزمایشی. در اینجا، اشتباهات هوش مصنوعی ارزان هستند. زیرا خروجی در حال حاضر از طریق آزمایش و بررسی خواهد رفت.
حوزههای پرخطر: تصمیمگیری درباره اینکه چه دادههایی برای آموزش استفاده میشوند، تأیید اینکه آیا یک مدل باید تولید شود یا خیر، قضاوت در مورد معیار «به اندازه کافی خوب» است، تصمیم برای پردازش دادههای شخصی، بستن یک آسیبپذیری امنیتی بهعنوان «ناخواسته». اینها بر پول، حریم خصوصی، مسئولیت قانونی و اعتماد کاربر تأثیر می گذارد. هوش مصنوعی در اینجا پیشنهاداتی می دهد. تصمیم توسط مهندس ذیصلاح و تیم مسئول گرفته می شود.
نکته: قبل از برون سپاری یک کار به هوش مصنوعی، بپرسید: «اگر این خروجی اشتباه باشد، هزینه آن چقدر است، و به چه راحتی کسی اشتباه را متوجه میشود؟» اگر قیمت پایین است و گرفتن آسان است، آن را منتقل کنید. اگر قیمت بالا است یا ضبط مشکل است، از هوش مصنوعی فقط برای پیش نویس استفاده کنید و شما تصمیم می گیرید.
نظم و انضباط تأیید: سه مرحله
در مهندسی ML، خروجی هوش مصنوعی هرگز یک "کار تمام شده" نیست. پیش نویس است. هر خروجی را از طریق این سه مرحله اجرا کنید:
- آن را به منبع وصل کنید. اگر مدل یک عدد، یک آستانه، یا یک «بهترین عملکرد» میگفت، آن را بر اساس اسناد رسمی، ارزش واقعی در پایگاه کد یا یک متریک اندازهگیری شده استوار کنید. "تطبیق مدل" (توهم: تولید مطمئن اطلاعات غیر واقعی توسط مدل زبان) اغلب در اینجا مشاهده می شود.
- راه اندازی مجدد و اندازه گیری. کد تولید شده را اجرا کنید، معیاری را که در مجموعه آزمایشی خودتان تولید میکند دوباره محاسبه کنید، پرس و جوی SQL پیشنهادی را روی یک نمونه کوچک تأیید کنید. کدی که کار نمی کند بی ارزش است، حتی اگر زیبا به نظر برسد.
- آن را از یک فیلتر مهندسی عبور دهید. آیا خروجی در مقیاس نگه می دارد؟ آیا موارد لبه (داده های خالی، ورودی بسیار بزرگ، فیلدهای گمشده) در نظر گرفته شده است؟ آیا نقض امنیت و حریم خصوصی وجود دارد؟ فقط فردی که این رشته را می شناسد می تواند این مرحله را انجام دهد.
اعلان ضعیف / اعلان قوی
اعلان ضعیف: "برای من کد آموزشی مدل بنویس."
اعلان قدرتمند: "یک اسکریپت آموزشی برای طبقه بندی باینری با scikit-learn بنویسید. ورودی: data/train.parquet، ستون هدف is_churn. عدم تعادل کلاس وجود دارد (نرخ مثبت 8%)، آن را با class_weight مدیریت کنید. از PR-AUC (منطقه زیر منحنی recision.Recall، accuracy misbalanced) به عنوان معیار ارزیابی خطا استفاده کنید. دانه تصادفی به 42. در انتهای مجموعه چاپ کد PR-AUC تست کنید."
تفاوت: دومین وظیفه سریع شامل حقیقت داده، متریک صحیح، اطلاعات عدم تعادل و نیاز تکرارپذیری است. از این زمینه است که خروجی قابل تأیید و استفاده است.
حریم خصوصی و امنیت داده ها: اولین مسئولیت مهندس
مهندس ML اغلب حساس ترین داده های شرکت را لمس می کند: سوابق مشتری، تاریخچه تراکنش، داده های سلامت یا مالی، گزارش سیستم های تولید. سه قانون هنگام دادن داده به ابزارهای هوش مصنوعی:
- داده های شخصی و محرمانه خام را به ابزارهای خارجی ارسال نکنید. به عنوان مثال، به جای چسباندن ایمیل های مشتری در اعلان، طرحواره و نمونه های ساختگی (مصنوعی) را ارسال کنید. به جای دادههای واقعی، از مثالی مانند «ex: ahmet@example.com» استفاده کنید.
- از وسایل نقلیه مورد تایید شرکت استفاده کنید. ابزارهایی را انتخاب کنید که به صورت قراردادی مشخص باشند که دادهها در کجا پردازش میشوند، آیا ذخیره میشوند، آیا برای آموزش استفاده میشود یا خیر. پردازش داده های شرکت با یک حساب شخصی در اکثر شرکت ها تخلف است.
- سیاست حداقل داده حداقل زمینه لازم برای حل کار را ارائه دهید. نه کل جدول، بلکه 5 ستون و طرح مربوطه.
احتیاط: فرض کنید متنی که به یک مدل زبان میدهید قابل لغو نیست. داده های شخصی خام را با این فکر که "بعداً آن را حذف خواهم کرد" ارسال نکنید. خطر در لحظه ارسال آن رخ داد.
استفاده دفاعی در زمینه امنیت
مهندسان ML اغلب سیستم های امنیتی را نصب می کنند: تشخیص تقلب، طبقه بندی ترافیک مخرب، احراز هویت. در سراسر این ماژول، ما مسائل امنیتی را فقط برای اهداف دفاعی پوشش میدهیم: شناسایی حمله، سختتر کردن سیستم، بستن آسیبپذیری. استفاده از هوش مصنوعی برای دسترسی غیرمجاز، نشت داده یا مداخله غیرمجاز در سیستم شخص دیگری هم غیرقانونی و هم خلاف اخلاق حرفه ای است. وقتی آسیبپذیری را پیدا کردید، راه درست این است که آن را مسئولانه گزارش کنید و آن را برطرف کنید. استثمار نکردن
سه کیف کوچک
مورد 1 - زمان ذخیره شده است. یک مهندس ML معمولاً نیمی از روز را صرف تجزیه و تحلیل داده های اکتشافی (EDA) از مجموعه داده های 40 ستونی می کند. او طرح و خروجی df.describe() را به هوش مصنوعی داد و پرسید: "کدام ستون ها دارای نرخ پرت و گم شده بالایی هستند، کدام تبدیل را توصیه می کنید؟" در 20 دقیقه، او یک لیست اولویت بندی شده دریافت کرد و هر مورد را با کد خاص خود تأیید کرد. صرفه جویی: ~ 3 ساعت، کم خطر خطا زیرا هر ادعا اندازه گیری می شود.
مورد 2 - خطای کشف شده. دستیار چت مدل گفت: «دقت تمرین 99 درصد است، عالی است». مهندس مرحله سوم (فیلتر مهندسی) را اعمال کرد و متوجه شد: ستون هدف به طور تصادفی ویژگیهای لو رفته بود (نشت داده: مدل اطلاعاتی را میبیند که نباید در آموزش ببیند). عملکرد واقعی بسیار کمتر بود. شک و تردید مهندس، نه تفسیر "عالی" هوش مصنوعی، کار را نجات داد.
مورد 3 - جلوگیری از نقض حریم خصوصی. تیمی در حال چسباندن لاگ های خطای تولید در یک مدل خارجی بودند و می گفتند "این خطا را برطرف کنید". شماره شناسایی مشتری در لاگ ها وجود داشت. این تیم قانونی را وضع کرد که یک اسکریپت کوچک بنویسد که ابتدا لاگ ها را ماسک می کند (شماره شناسه آنها را *** می کند) و آنها را به این طریق ارسال می کند. خطر نقض ناپدید شده است، سرعت کمک تغییر نکرده است.
قالب های قابل کپی
وظیفه: [چه باید کرد، تک جمله] زمینه: [طرحواره داده، اندازه، محدودیت ها. بدون داده های شخصی واقعی]محدودیت ها: [زبان/کتابخانه، عملکرد، تکرارپذیری] معیارها: [نحوه اندازه گیری موفقیت] خروجی مورد نظر: [کد/توضیح/فهرست] و چرا در این قالب
این کد را بررسی کنید. نه تنها عملکرد آن را ارزیابی کنید، بلکه از نظر موارد زیر نیز ارزیابی کنید: 1) موارد لبه (ورودی خالی، ستون از دست رفته، داده های بسیار بزرگ) 2) خطر نشت داده ها3) تکرارپذیری (seed، نسخه) برای هر مشکلی که پیدا می کنید راه حل هایی پیشنهاد دهید. جایی که مطمئن نیستید علامت «تأیید» کنید. کد: [کد]
نتیجه این متریک را تفسیر کنید، اما ابتدا بپرسید: آیا این معیار برای این مشکل درست است؟مشکل: [طبقهبندی متعادل/نامتعادل، رگرسیون، رتبهبندی...] متریک و مقدار گزارششده: [به عنوان مثال. دقت 0.99] کدام معیار را توصیه می کنید و چرا، و چه نشانه هایی را باید جستجو کنم تا به نتیجه فعلی شک کنم؟
بررسی کنید که آیا اطلاعات شخصی/محرمانه در دادههایی که به دستور زیر میدهم وجود دارد یا خیر. فیلدهایی (نام، ایمیل، شماره شناسه، تلفن، آدرس) را که باید در متن زیر پوشانده شوند، فهرست کنید. متن: [متن]
جدول نقش و اختیار
تلاش
نقش هوش مصنوعی
صاحب تصمیم
اسکلت کد / تابع تبدیل
مولد پیش نویس
مهندس (بررسی)
EDA / خلاصه داده ها
شتاب دهنده
مهندس (با اندازه گیری تأیید می کند)
تفسیر متریک
پیشنهاد
مهندس
چه داده هایی وارد آموزش می شوند؟
پیشنهاد
تیم + مالک داده
مدل را وارد تولید کنید
یادآوری چک لیست
مهندس مسئول + تیم
پردازش داده های شخصی
هیچ (استفاده نشده)
حقوقی + کنترل کننده داده
اشتباهات رایج
- استفاده از خروجی بدون اعتبارسنجی رایج ترین و گران ترین اشتباه. کد یا معیاری که زیبا به نظر می رسد به این معنی نیست که درست است.
- چسباندن داده های محرمانه خام در ابزار. پس از ارسال، نمی توان آن را پس گرفت.
- تکیه بر متریک اشتباه معیارهای ناسازگار مانند دقت در داده های نامتعادل و RMSE در مشکلات رتبه بندی گمراه کننده هستند.
- اشتباه گرفتن هوش مصنوعی به عنوان تصمیم گیرنده او پیشنهاداتی می دهد؛ مسئولیت با امضا کننده است.
- اعلان بدون متن درخواستهای مبهم مانند «نوشتن یک مدل» خروجی غیرقابل تأیید تولید میکنند.
به طور خلاصه
هوش مصنوعی هم محصولی است که توسط مهندس ML ساخته شده است و هم شبیه ساز روزانه آن. ارزش آن در کارهای کم خطر و به راحتی تأیید می شود مانند کد-داده-سند بالاترین است. تصمیمات مربوط به پول، حریم خصوصی و امنیت با شخص باقی می ماند. هر خروجی را به منبع وصل کنید، دوباره اندازه گیری کنید، از فیلتر مهندسی عبور دهید. از داده های محرمانه محافظت کنید، از وسایل نقلیه تایید شده استفاده کنید، فقط برای اهداف دفاعی در امنیت کار کنید. این رشته مبنای تمام واحدهای بعدی است.
وظیفه کاربردی
یک کار را از پروژه خود انتخاب کنید (مثلاً نوشتن یک تابع پاکسازی داده). ابتدا یک اعلان ضعیف بنویسید، سپس با استفاده از الگوی موجود در این واحد یک اعلان قوی بنویسید. هر دو خروجی را بگیرید، تأیید سه مرحلهای را اعمال کنید (پیوند به منبع، اجرا مجدد، فیلتر مهندسی). توجه داشته باشید که کدام فرمان چند دقیقه و چند اصلاح را ذخیره می کند.
چک لیست
- [ ] من سطح ریسک (کم/بالا) وظیفه خود را تعیین کرده ام.
- [ ] من هیچ داده شخصی/محرمانه واقعی را در اعلان قرار ندادم. من آن را ماسک کردم یا از یک نمونه مصنوعی استفاده کردم.
- [ ] من خروجی را به منبع وصل کردم، دوباره آن را اجرا کردم، آن را از منظر مهندسی فیلتر کردم.
- [ ] بررسی کردم که متریک درست را انتخاب کرده ام.
- [ ] تصمیم حیاتی (قرار دادن آن به تولید، پردازش داده ها) را خودم/با تیم گرفتم، آن را به هوش مصنوعی سپردم.
- [ ] من از وسیله نقلیه مورد تایید شرکت استفاده کردم.