سود:
- توانایی تشخیص اینکه در جریان کار PDR (یادداشتهای مصاحبه، مطالب روانآموزشی، محتوای حرفهای، خلاصه پیگیری) هوش مصنوعی در زمان واقعی صرفهجویی میکند و تصمیمگیریهایی مانند تشخیص، راهنمایی و مشاوره روانشناختی بسته به سطح خطر کار به متخصص واگذار میشود.
- با درک این موضوع که هوش مصنوعی هرگز نمی تواند در صورت بروز بحران و خطر تصمیم گیری کند، نیاز به مشورت با متخصصان انسانی و مراجع لازم است و هر خروجی باید تایید شود.
- ناشناس سازی داده های دانش آموز در محدوده KVKK، رازداری حرفه ای و اصول اخلاقی PDR و کسب عادت به انتخاب وسایل نقلیه ایمن
روز مشاور مدرسه مملو از انبوهی از نوشتهها و اسناد است که افراد کمی آن را میبینند: سوابق مصاحبه فردی، برنامههای راهنمایی کلاسی، بروشورهای آموزشی روانی، نامههای اطلاعاتی والدین، گزارشهای مقیاس، نمودارهای ردیابی دانشآموز، صورتجلسه گروه و کمیسیون، مواد انتخاب شغل. بسیاری از این کار تکراری است و ساعت ها پشت میز کار می کند. با این حال، ارزش واقعی این حرفه در رابطه رو در رو و مبتنی بر اعتماد است که با دانش آموز برقرار می شود. هوش مصنوعی (AI) - برنامههای رایانهای که میتوانند زبان انسان را بفهمند و متن، طرحها، طرحها و خلاصهها را تولید کنند - کمک قدرتمندی برای سرعت بخشیدن به این بار نوشتاری تکراری است. در طول این ماژول، ما یاد خواهیم گرفت که از هوش مصنوعی نه به عنوان یک راه حل جادویی، بلکه به عنوان یک دستیار نوشتن که پیش نویس ها، ایده ها و ویرایش ها را تولید می کند، استفاده کنیم.
اما از همان ابتدا، بیایید دو جمله را بگذاریم که بالاتر از هر چیز دیگری در این حرفه است: هوش مصنوعی درباره دانشآموز تصمیم نمیگیرد. این یک رابطه مشاوره روانشناختی را تشخیص نمی دهد، راهنمایی می کند یا جایگزین نمی کند. و حتی مهم تر: در شرایط بحرانی و خطر، هوش مصنوعی هرگز وارد عمل نمی شود. در آنجا متخصصان انسانی، خانواده و مقامات صالح ضروری هستند. این دو اصل پایه امنیتی هستند که بقیه ماژول بر روی آن ساخته شده است.
این واحد اول سه پایه را ایجاد میکند: تشخیص اینکه هوش مصنوعی کجا در جریان کار PDR در زمان صرفهجویی میکند و کجا باید متوقف شود. بررسی هر خروجی؛ حفاظت از اطلاعات دانش آموزان
هوش مصنوعی کجا در زمان صرفه جویی می کند، تصمیم گیری در کجا متعلق به متخصص است؟
فکر کردن به وظایف PDR از نظر سطح خطر مفید است. سطح ریسک به این معناست که اگر یک کار به درستی انجام نشود، چه آسیبی به دانش آموز وارد می کند. در PDR، این خطر شدیدتر از بسیاری از مشاغل است. زیرا در مورد رفاه معنوی، ایمنی و آینده کودک است.
کارهای کم خطری که هوش مصنوعی به آنها سرعت زیادی می بخشد: تشریح یک فعالیت راهنمایی کلاس درس، نوشتن اولین نسخه بروشور اضطراب امتحان، سازماندهی یادداشت های مصاحبه پراکنده در یک ساختار سازمان یافته (پس از حذف اطلاعات شخصی)، تهیه پیش نویس خبرنامه والدین، ساده کردن متن معرفی شغلی، ایجاد ایده هایی برای ارائه آموزشی روانی. در اینجا هوش مصنوعی مشکل "صفحه خالی" را حل می کند. شما آن را تصحیح کنید، آن را با دانش حرفه ای خود غنی کنید و تایید نهایی را بدهید.
وظایف پرخطر که در آن تصمیم به متخصص واگذار می شود: گذاشتن برچسبی شبیه تشخیص بر روی دانش آموز ("این کودک افسرده است"، "او نقص توجه دارد")، تفسیر بالینی یک نتیجه مقیاس، هدایت دانش آموز به سمت یک حرفه، استفاده از جملات قطعی برای خانواده، تعریف یک رفتار به عنوان "خطر" و شروع عمل. این تصمیمات بر زندگی کودک تأثیر می گذارد. مسئولیت و حرف آخر همیشه متعلق به متخصص است. هوش مصنوعی در اینجا حداکثر یک دیدگاه ارائه می دهد، نمی تواند تصمیم بگیرد.
منطقه ممنوعه – جایی که هوش مصنوعی هرگز وارد آن نشده است: بحران و خطر. افکار خودکشی، آسیب رساندن به خود یا دیگران، آزار جنسی/فیزیکی/عاطفی، غفلت، علائم شدید روانی. در این موارد، از هوش مصنوعی میپرسیم "چه کار کنم؟" پرسیدن اتلاف دقایق ارزشمند و تلاش برای تفویض مسئولیت به یک برنامه است. کار صحیح این است که پروتکل اورژانس را اجرا کرده و به متخصص انسانی و خانواده مجاز رسیده و به مراجع لازم اطلاع رسانی شود. در بخش 9 به تفصیل به این موضوع خواهیم پرداخت. اما رفلکس باید از امروز برقرار شود.
احتیاط: "AI گفت" یک توجیه نیست. خروجی هوش مصنوعی جایگزین تایید یک متخصص ذیصلاح در هر زمینه ای نیست که بر سلامت روانی، ایمنی یا آینده دانش آموز تاثیر می گذارد. یک خروجی AI تایید نشده مانند یک شایعه تایید نشده است.
چرا تأیید لازم است؟ توهم و سوگیری
هوش مصنوعی متن را نه با "دانستن" بلکه با "پیش بینی کلمه ممکن" تولید می کند. به همین دلیل است که گاهی اوقات اطلاعات بسیار روان اما در واقع نادرست می دهد. این توهم نامیده می شود: یک مطالعه علمی که وجود ندارد، یک نقل قول ناگفته، یک آمار نادرست، یک معیار مقیاس که وجود ندارد، یک دستورالعمل ساختگی. برای یک متخصص PDR، این خطرناک است. زیرا اطلاعات نادرست در آموزش روانی به یک باور غلط همیشگی در دانش آموز تبدیل می شود و آمار غلط داده شده به خانواده به اضطراب نادرست تبدیل می شود.
مشکل دوم سوگیری است: هوش مصنوعی میتواند الگوهای اجتماعی را در دادههایی که روی آن آموزش دیده است تکرار کند. می تواند خروجی مغرضانه ای در مورد جنسیت، فرهنگ، وضعیت اجتماعی-اقتصادی، یا «دستاورد» ایجاد کند. به عنوان مثال، ممکن است یک دانش آموز دختر را به سمت برخی مشاغل و یک دانش آموز پسر را به سمت مشاغل دیگر منحرف کند. یا ممکن است رفتاری را در یک دانش آموز به عنوان "شیطنت" و در دانش آموز دیگر "مشکل جدی" قرار دهد. تعصب در PDR به طور مستقیم اصل عدالت و برابری فرصت ها را تضعیف می کند.
به دلیل این دو محدودیت، ما یک انضباط اعتبار سنجی ساده را برای اعمال در هر خروجی پیشنهاد می کنیم:
- آن را به منبع وصل کنید. هر چیزی که حاوی حقایق، آمار، نقل قول ها، قوانین یا معیارهای تشخیصی است را از یک منبع معتبر (مطالعه علمی، سازمان دولتی، سند سازمان حرفه ای) تأیید کنید.
- دوباره چک کنید. یک خروجی عددی یا منطقی (جدول، برنامه زمانی) را به صورت دستی بررسی کنید.
- فیلتر حرفه ای "آیا این برای این دانش آموز، این سن، این فرهنگ، این خانواده مناسب است؟ آیا ممکن است باعث آسیب شود؟" با تخصص خود آن را مدیریت کنید
- مسئولیت را بر عهده بگیرید. لحظه ای که آن را تأیید کردید، آن متن متعلق به شماست. هر گونه اشتباه مسئولیت شماست.
داده های دانش آموز: حریم خصوصی از ابتدا
رکوردهای PDR حاوی حساس ترین نوع داده ها هستند. نام دانش آموز، شماره، کلاس داده های شخصی هستند. وضعیت روانی، وضعیت خانوادگی، اطلاعات سلامتی، تشخیص یا یک ضربه، داده های شخصی ویژه ای هستند و نیاز به حفاظت بسیار بالاتری دارند. در ترکیه، KVKK (قانون حفاظت از داده های شخصی) این را تنظیم می کند. علاوه بر این، متخصص PDR دارای تعهدات محرمانه ای است که ناشی از اخلاق حرفه ای است. به سادگی تایپ کردن نام، وضعیت یا یک رکورد مکالمه دانش آموز در یک ابزار هوش مصنوعی عمومی به این معنی است که حساس ترین داده ها را از کنترل شما خارج کنید.
قانون ساده و سازش ناپذیر است: ابتدا ناشناس کنید. حذف اطلاعات شناسایی مانند نام، نام خانوادگی، شماره مدرسه، کلاس-شعبه، نام و آدرس والدین؛ از عبارات کلی مانند «دانش آموز الف»، «دانش آموز 13 ساله»، «نوجوان در حال تجربه تنش خانوادگی» استفاده کنید. در صورت امکان، ابزارهای شرکتی را انتخاب کنید که تضمین پردازش دادهها را ارائه میکنند که توسط مدرسه یا وزارت شما ارائه شده است. ما این اصل را در بخش 10 تعمیق خواهیم داد. فعلاً آن را به یک رفلکس تبدیل کنید.
نکته: قبل از چسباندن متن در هوش مصنوعی، نام، شماره، موسسه و نام والدین را با "Ctrl+F" جستجو کنید. اگر آن را پیدا کردید، قبل از ارسال آن را با عبارات کلی جایگزین کنید. وقتی شک دارید: "آیا این اطلاعات دانش آموز را شناسایی می کند؟" بپرس اگر پاسخ شما مثبت است، ظاهر خواهد شد.
سه کیف کوچک
مورد 1 - آمار ساخته شده. یک مشاور راهنمایی برای سمینار اضطراب امتحان از هوش مصنوعی "میزان اضطراب امتحان در دانش آموزان دبیرستانی" درخواست کرد. هوش مصنوعی یک عدد واضح مانند "73٪" و یک نام "تحقیق" داده است. وقتی معلم سعی کرد به دنبال منبع بگردد، دید که نه آن مکان وجود دارد و نه آن مطالعه. به لطف مرحله راستیآزمایی، او با ارائه یک شماره ساختگی به 120 والدین برگشت. در عوض او از یک بیانیه کلی استفاده کرد که منبع آن قابل تأیید بود. آماده سازی 6 دقیقه بیشتر طول کشید، اطلاعات نادرست مسدود شد.
مورد 2 - صرفه جویی در زمان. یک متخصص PDR در حال برنامه ریزی فعالیت های راهنمایی کلاس درس جداگانه برای 4 کلاس در هر ماه بود و تقریباً 4 ساعت را صرف آن می کرد. او شروع به استفاده از هوش مصنوعی به عنوان تولید کننده پیش نویس کرد: او از هوش مصنوعی خواست پیش نویس برنامه های جلسه را بر اساس نتیجه تولید کند و آنها را مطابق با واقعیت کلاس اصلاح کند. زمان از 4 ساعت در ماه به 1.5 ساعت کاهش یافت. او 2.5 ساعتی را که به دست آورده بود به جلسات انفرادی اختصاص داد. چون ویرایش نهایی و فیلترینگ توسط کارشناس انجام شد کیفیت لطمه ای نداشت.
مورد 3 - مرز بحران. در یکی از مصاحبه ها، یک دانش آموز در مورد افکار آسیب رساندن به خود صحبت کرد. ذهن متخصص می پرسد، "آیا باید وضعیت را برای هوش مصنوعی بنویسم و پیشنهادهایی دریافت کنم؟" گذشت اما متوقف شد: وضعیت بحرانی بود. او بدون نوشتن حتی یک خط به هوش مصنوعی، پروتکل اضطراری را اجرا کرد، مدیریت مدرسه و خانواده را مطلع کرد و دانش آموز را با خیال راحت به متخصص مربوطه راهنمایی کرد. او تنها پس از بحران از هوش مصنوعی استفاده کرد تا زبان صورتجلسهای را که حادثه را بهطور ناشناس ضبط میکرد، ویرایش کند.
قالب های قابل کپی
1) تفکیک کار بر اساس سطح ریسک:
نقش شما: دستیار نوشتن برای مشاور مدرسه. 8 وظیفه PDR زیر را به دو لیست تقسیم کنید: (الف) کارهای کم خطر که در آن هوش مصنوعی می تواند با اطمینان طرح کلی را ایجاد کند، (ب) کارهای پرخطر که در آن تصمیم نهایی باید با متخصص باشد. همچنین، اگر وظیفه ای در منطقه بحران/خطر قرار می گیرد، آن را با علامت "ممنوع - متخصص انسانی" علامت گذاری کنید. برای هر کار یک توجیه یک جمله ای بنویسید. وظایف: [کارهای هفتگی خود را اینجا بچسبانید]
2) درخواست بررسی اعتبار:
هر جمله را در متن زیر که حاوی یک واقعیت، آمار، نقل قول، منبع یا ادعای علمی است علامت بزنید و برای هر یک یادداشت اضافه کنید "از کدام منبع باید تایید شود؟" خودتان را تأیید نکنید؛ فقط مواردی را که باید تأیید شوند فهرست کنید. متن: [پیست پیش نویس]
3) پیشبررسی ناشناس:
هر عبارتی را در متن زیر پیدا کنید که ممکن است به طور مستقیم یا غیرمستقیم یک دانش آموز را توصیف کند (نام، شماره، کلاس، مدرسه، نام والدین، شرح موقعیت منحصر به فرد) و جایگزین کلی تری برای هر یک پیشنهاد کنید. نظر دادن محتوا. متن: [پیست متن]
4) پشتیبانی از سوالات آماده سازی مصاحبه:
نقش شما: دستیار نوشتن PDR. تشخیص، راهنمایی. من در حال آماده شدن برای یک جلسه حمایتی با یک دانش آموز 13 ساله (ناشناس) در مورد انگیزه تحصیلی هستم. 8 سوال آماده سازی بدون قضاوت و باز پیشنهاد دهید. در صورت مشاهده علائم بحران، یک هشدار در بالا اضافه کنید تا "مشاوره با افراد متخصص/خانواده" باشد.
اعلان ضعیف / اعلان قوی
ضعیف:
یکی از شاگردان من ناراضی است، چه کار کنم؟
این درخواست بدون زمینه است، ممکن است خطر داده های شخصی را به همراه داشته باشد و هوش مصنوعی را به قلمرو تشخیص/ارجاع سوق دهد. خروجی عمومی، پرخطر و بی فایده تولید می کند.
قوی:
نقش شما: دستیار نوشتن برای مشاور مدرسه. تشخیص ندهید و راهنمایی نکنید. وضعیت زیر ناشناس است. زمینه: به نظر می رسد یک دانش آموز 13 ساله در هفته های اخیر علاقه خود را به کلاس از دست داده است. وظیفه: 6 سوال مقدماتی بدون قضاوت و باز برای مصاحبه حمایتی با این دانش آموز پیشنهاد کنید. اگر علائم بحران شناسایی شد، یک هشدار در بالا اضافه کنید تا "مشاوره با افراد متخصص/خانواده" باشد.
این تقاضا از ابتدا نقش، محدودیت، ناشناس بودن، قالب و رفلکس بحران را رمزگذاری می کند.
اشتباهات رایج
- چسباندن اعتبارنامه سوابق مصاحبه یا نام دانش آموز را در ابزار همانطور که هست وارد کنید. راه حل: ابتدا ناشناس کنید.
- سوال از هوش مصنوعی در مورد بحران صرف دقیقه در صورت خطر. راه حل: پروتکل مستقیم و متخصص انسانی.
- استفاده بدون تایید انتقال آمار/منابع ساختگی به دانشآموز یا والدین. راه حل: اتصال به منبع
- در انتظار تشخیص از هوش مصنوعی گرفته تا "این بچه چه مشکلی دارد؟" برای درخواست تشخیص راه حل: تشخیص و تفسیر متعلق به متخصص است.
- این به معنای "AI گفت". سپردن مسئولیت بر عهده وسیله نقلیه راه حل: تصمیم و مسئولیت نهایی به عهده کارشناس است.
جدول: سطح ریسک ماموریت و نقش هوش مصنوعی
تلاش
سطح ریسک
نقش هوش مصنوعی
تصمیم گیرنده
طرح کلی فعالیت راهنمایی کلاس
پایین
پیش نویس ایجاد می کند
کارشناس سازماندهی می کند
بروشور آموزش روانی نسخه اول
پایین
پیش نویس + ایده
کارشناس تایید می کند
ویرایش یادداشت های مکالمه (ناشناس)
متوسط
طرح بندی قالب/زبان
کارشناس تایید می کند
تفسیر نتیجه مقیاس
بالا
فقط ارائه زبان
بررسی های تخصصی
تشخیص / راهنمایی قطعی
بالا
شرکت نمی کند
متخصص
پاسخ به بحران/خطر
ممنوع
شرکت نمی کند
متخصص انسانی + اختیار
به طور خلاصه
هوش مصنوعی دستیار قدرتمندی است که بار نوشتن تکراری PDR را سرعت می بخشد، اما تصمیم گیرنده نیست. تفکیک وظایف بر اساس سطح خطر؛ در کارهای پیش نویس کم خطر آزادانه از هوش مصنوعی استفاده کنید، تصمیمات پرخطر را برای خود نگه دارید، هوش مصنوعی را به طور کامل در بحران و خطر کنار بگذارید. هر خروجی را تأیید کنید، هر داده را ناشناس کنید، همیشه مسئولیت را بر عهده بگیرید.
وظیفه کاربردی
10 مورد از وظایف PDR هفتگی خود را در یک لیست بنویسید. به هر یک از آنها برچسب "کم خطر / پرخطر / ممنوع (بحران)" بزنید. سپس، با استفاده از الگوی «اعلان قوی» در بالا، از یک ابزار هوش مصنوعی بخواهید که به طور ناشناس پیشنویس یکی از وظایف کم خطر را تولید کند و خروجی را در 4 مرحله رشته تأیید قرار دهد.
چک لیست
- [ ] من کار را به سطح خطر (کم / زیاد / ممنوع) تقسیم کردم.
- [ ] قبل از وارد کردن متن به ابزار، اعتبارنامه ها را ناشناس کردم.
- [ ] در یک موقعیت بحرانی/خطر، پروتکل و متخصص انسانی را هدف قرار دادم، نه هوش مصنوعی.
- [ ] من حقایق، آمار و منابع موجود در خروجی را تأیید کرده ام.
- [ ] پذیرفتم که تصمیم و مسئولیت نهایی با من است.