هوش مصنوعی در تحقیقات دانشگاهی: نقش‌ها، مرزها، اعتبارسنجی و یکپارچگی تحصیلی

سود:

• توانایی تشخیص اینکه هوش مصنوعی در چه مکان هایی در زمان واقعی در جریان کار پژوهشی دانشگاهی صرفه جویی می کند (ادبیات، طراحی، تجزیه و تحلیل، نوشتن) و جایی که قضاوت و مسئولیت علمی با محقق باقی می ماند، با توجه به سطح ریسک کار.
• توانایی به کارگیری رشته‌ای که هر خروجی هوش مصنوعی را به منبع متصل و تأیید می‌کند و درک مشکل توهم (ساخته‌شده) که مهم‌ترین خطر آکادمی است.
• توانایی اتخاذ یک چارچوب استفاده که با سیاست های استفاده از هوش مصنوعی سازمانی و مجلاتی، صداقت دانشگاهی و اصول شفافیت مطابقت دارد.

کار یک محقق بسیار بیشتر از آنچه به نظر می رسد شامل نوشتن، خواندن و ویرایش است: اسکن صدها مقاله، خلاصه کردن آنها، برجسته کردن سؤال تحقیق، طراحی روش ها، تجزیه و تحلیل داده ها، رونویسی نتایج، قالب بندی استنادها، انتخاب مجلات، پاسخ به نظرات داوران. بسیاری از این کار تکراری، وقت گیر، و حواس پرتی است. از آنچه واقعاً ارزشمند است، تفکر و تفسیر اصلی می‌دزدد. هوش مصنوعی (AI) - برنامه‌های رایانه‌ای که می‌توانند زبان انسان را بفهمند و خروجی‌هایی مانند متن، خلاصه‌ها، کد، پیش‌نویس‌ها و غیره تولید کنند - کمک قدرتمندی برای سرعت بخشیدن به این بار تکراری است. در سراسر این ماژول، ما هوش مصنوعی را به عنوان یک منبع جادویی اطلاعات در نظر نمی گیریم. ما یاد خواهیم گرفت که از آن به عنوان دستیار پژوهشی، تهیه پیش نویس، ارائه ایده و ویرایش استفاده کنیم.

اما از همان ابتدا، مهم ترین جمله را مختص دانشگاهیان بگذاریم: هوش مصنوعی به جای محقق تصمیمات علمی نمی گیرد. تهیه پیش نویس، قضاوت علمی و مسئولیت آن به عهده محقق است. در دانشگاه، این قاعده حتی نسبت به سایر مشاغل سخت‌تر است، زیرا پول علم اعتماد است و اساس آن اعتماد این است که هر ادعایی به منبعی قابل تأیید مرتبط باشد.

این واحد اول سه پایه را ایجاد می کند: تشخیص اینکه هوش مصنوعی کجا کار می کند و کجا باید در جریان کار تحقیق بماند. بررسی هر خروجی؛ اتخاذ اصل صداقت و شفافیت دانشگاهی. این سه پایه اساسی امنیتی برای همه واحدهای بعدی هستند.

هوش مصنوعی کجا در زمان صرفه جویی می کند، تصمیم در کجا متعلق به محقق است؟

این کمک می کند تا وظایف تحقیقاتی را از نظر سطح خطر در نظر بگیرید. سطح خطر این است که اگر اشتباه انجام شود چقدر به سوابق علمی آسیب می رساند.

کارهای کم خطری که هوش مصنوعی آن ها را بسیار سرعت می بخشد: ایجاد یک استراتژی جستجو (کلمه کلیدی، مترادف)، ایجاد خلاصه اولیه یک متن طولانی، ساده کردن زبان یک پاراگراف، پیشنهاد عنوان جدول، طوفان فکری، توضیح یک مفهوم به روش های مختلف، ارائه ساختار یک طرح کلی. در اینجا هوش مصنوعی مشکل "صفحه خالی" را حل می کند. شما تصحیح، تأیید و غنی سازی می کنید.

وظایف با ریسک متوسط، تولید شده توسط هوش مصنوعی که نیاز به تأیید دقیق دارند: توصیه انتخاب آزمون آماری، پیش‌نویس کد، قالب‌بندی استناد، تفسیر پیش‌نویس یافته‌ها، مقایسه گزینه‌های روش. در اینجا هوش مصنوعی سرعت می دهد، اما هر عدد، هر برچسب، هر مرحله منطقی باید به صورت دستی تایید شود.

وظایف پرخطر که در آن تصمیم صرفاً به محقق واگذار می‌شود: تعیین نهایی فرضیه و روش، تصمیم‌گیری درباره معنای داده‌ها، قضاوت در مورد معنادار بودن یافته‌ها، تصمیم‌گیری در کمیته اخلاق (IRB)، تصمیم‌گیری در مورد اینکه آیا منبع واقعاً وجود دارد و ادعا را پشتیبانی می‌کند، بیانیه تألیف و مشارکت. این تصمیمات اعتبار سوابق علمی را تعیین می کند. مسئولیت و حرف آخر همیشه بر عهده محقق است.

احتیاط: "AI گفت" یک توجیه نیست. سردبیر مجله یا هیئت داوران پایان نامه این جمله را نمی پذیرد که "مدل من آن را اینگونه تولید کرده است." یک خروجی AI تایید نشده مانند یک شایعه تایید نشده است.

چرا تأیید لازم است؟ توهم و اسناد ساختگی

هوش مصنوعی متن را نه با "دانستن" بلکه با "پیش بینی کلمه ممکن" تولید می کند. به همین دلیل است که گاهی اوقات اطلاعات بسیار روان اما در واقع نادرست می دهد. به این حالت توهم (ساختگی) می گویند. خطرناک ترین شکل این امر در دانشگاه، انتساب جعلی است: هوش مصنوعی نام نویسنده، سال، مجله یا حتی DOI (شناسه شی دیجیتال - آدرس دائمی یک نشریه) را ایجاد می کند که واقعی به نظر می رسد، اما آن منبع هرگز وجود نداشته است. اگر محققی بدون بررسی از این موضوع استفاده کند، بر اساس مطالعه ای که وجود ندارد ادعایی می کند. این امر منجر به رد پایان نامه، پس گرفتن مقاله و از دست دادن شهرت می شود.

مشکل دوم تحریف است: هنگام خلاصه کردن یک مقاله، هوش مصنوعی ممکن است یک یافته را اغراق کند، و مطالعه ای را که می گوید "تفاوت معنی داری وجود ندارد" را به عنوان "تفاوت قابل توجهی پیدا شد" خلاصه می کند. سومین سوگیری است: هوش مصنوعی روندهای داده‌هایی را که روی آن آموزش داده شده است، تکرار می‌کند. ممکن است مکتب، زبان یا دیدگاه خاصی را برجسته کند و باعث شود که ادبیات تحریف شده به نظر برسد.

به دلیل این محدودیت‌ها، ما یک نظم اعتبارسنجی ساده را برای اعمال به هر خروجی پیشنهاد می‌کنیم:

1. آن را به منبع وصل کنید. منبع واقعی (مقاله، پایگاه داده، DOI) را برای هر واقعیت، تاریخ، شماره، نقل قول و به ویژه هر نقل قول پیدا و تأیید کنید.
2. دوباره چک کنید. خروجی های عددی یا منطقی را به صورت دستی بررسی کنید (نتیجه آماری، محاسبه نمونه).
3. فیلتر علمی "آیا این ادعا با ادبیات شناخته شده در زمینه من مطابقت دارد؟" با تخصص خود آن را مدیریت کنید
4. مسئولیت را بر عهده بگیرید. لحظه ای که آن را در نشریه یا پایان نامه خود قرار دهید، آن جمله مال شماست. هر گونه اشتباه مسئولیت شماست.

صداقت و شفافیت علمی

صداقت آکادمیک تضمین می کند که کار واقعاً سهم اصلی شماست و همه منابع صادقانه ذکر شده اند. استفاده از هوش مصنوعی این اصل را حذف نمی کند، بلکه یک مسئولیت جدید را اضافه می کند: شفافیت. اکنون اکثر مجلات و دانشگاه ها نیاز به اعلام صریح استفاده از هوش مصنوعی دارند. خط سردبیری رایج (به عنوان مثال، اصول ارگان های اخلاق انتشار مانند ICMJE و COPE) دو چیز را به وضوح بیان می کند: هوش مصنوعی نمی تواند نویسنده باشد (زیرا نمی تواند مسئولیتی را بر عهده بگیرد، نمی تواند تضاد منافع را اعلام کند)، و استفاده از هوش مصنوعی پنهان نیست، بلکه در بخش روش یا تأییدیه ها افشا می شود.

نکته: قبل از چسباندن متن در هر ابزاری، دو سوال بپرسید: (1) این ابزار چگونه داده ها را ذخیره می کند، آیا در آموزش استفاده می شود؟ (2) خط مشی هوش مصنوعی موسسه و مجله هدف من چه می گوید؟ بدون دانستن این دو شروع نکنید.

سه کیف کوچک

مورد 1 - تز اسناد ساختگی به خطر افتاده است. یک دانشجوی کارشناسی ارشد از YZ برای معرفی پایان نامه خود 12 منبع درخواست کرد و همه آنها را با استنادهایشان دریافت کرد. مشاور او به طور تصادفی 4 مورد از آنها را در Google Scholar جستجو کرد. 2 تای آنها اصلا وجود نداشتند، 1 تای آنها DOI داشتند که به مقاله دیگری می رفتند. دانش آموز باید کل لیست را یکی یکی تأیید می کرد و فقط از 7 منبع معتبر استفاده می کرد. تأیید 40 دقیقه طول کشید. اما اگر با یک مرجع ساختگی ارائه می شد، اعتماد هیئت منصفه کاملا متزلزل می شد.

مورد 2 - صرفه جویی در زمان. یک محقق فوق دکترا هر هفته 6 ساعت را صرف اسکن و خلاصه 15 تا 20 مقاله جدید کرد. او شروع به استفاده از هوش مصنوعی به عنوان اولین تولید کننده خلاصه خود کرد: اینکه هوش مصنوعی چکیده و مقدمه هر مقاله را خلاصه کند، آن را با خواندن انتقادی خود عمیق تر کند و یافته های متن اصلی را تأیید کند. زمان از 6 ساعت در هفته به 2.5 ساعت کاهش یافت. او زمانی را که به دست آورده بود صرف نوشتن سنتز اصلی کرد.

مورد 3 - بازگشت از مخفی کاری. یک دانشمند علوم اجتماعی قصد داشت داده های میدانی منتشر نشده و شهادت شرکت کنندگان را برای تجزیه و تحلیل در هوش مصنوعی بچسباند. او متوجه شد که حاوی مدارک است. او به جای به اشتراک گذاشتن داده های خام، فقط یک نمونه ناشناس، خلاصه شده و طرح تجزیه و تحلیل درخواست کرد. او توصیه روش ارزشمندی را دریافت کرد، اما هیچ داده حساسی دریافت نکرد.

قالب های قابل کپی

1) تفکیک کار بر اساس سطح ریسک:

نقش شما: دستیار دانشگاهی که به محقق کمک می کند. وظایف تحقیقاتی زیر را به سه لیست تقسیم کنید: (الف) کارهای کم خطر که هوش مصنوعی می تواند به طور ایمن نسخه خطی تولید کند، (ب) کارهای با خطر متوسط ​​که هوش مصنوعی می تواند برای آنها نسخه خطی تولید کند و نیاز به تأیید دقیق دارد، (ج) کارهای پرخطر که تصمیم نهایی باید با محقق باشد. برای هر کار یک توجیه یک جمله ای بنویسید. ماموریت‌ها: [پست‌های خود را بچسبانید]

2) درخواست بررسی اعتبار:

هر جمله ای را در متن زیر که حاوی یک واقعیت، تاریخ، شماره، نقل قول یا انتساب است علامت بزنید و آن را به عنوان "نیاز به تایید" علامت گذاری کنید. به وضوح بیان کنید که در کجا مطمئن نیستید. منبع یا شماره را وارد نکنید. اگر نمی دانید بنویسید "نمی دانم".متن: [پیست پیش نویس]

3) پیش نویس اعلامیه استفاده از هوش مصنوعی:

برای بخش روش‌ها/تشکرات یک مقاله، یک پیش‌نویس ۲ تا ۳ جمله‌ای «بیانیه استفاده از هوش مصنوعی» بنویسید که به طور شفاف توضیح دهد که در چه مراحلی از هوش مصنوعی استفاده کرده‌ام (مثلاً تصحیح زبان، پیش‌نویس طرح کلی). استفاده: [توضیح دهید]

4) لیست تأیید منبع:

یک برگه بررسی تأیید برای هر منبع در فهرست استناد زیر ایجاد کنید: [نویسنده، سال، عنوان، DOI، تأیید شده؟]. شما نمی توانید تأیید کنید. یک جدول خالی به من بدهید که به صورت دستی بررسی کنم. فهرست: [جای‌گذاری نقل قول‌ها]

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

منابعی برای مقدمه پایان نامه ام پیدا کنید.

بدون زمینه و خطرناک: هوش مصنوعی شناسه های جعلی را بیرون می زند و شما فکر می کنید که واقعی هستند.

اعلان قدرتمند:

نقش شما: مشاور روش شناسی مکان: "انگیزه دانش آموز در آموزش از راه دور". برای من منبعی پیدا نکنید. در عوض، 8 کلمه کلیدی، 3 گروه مترادف و یک رشته جستجوی Boolean را برای جستجوی این موضوع در Scopus پیشنهاد دهید. مقاله واقعی توسط خط جعلی. من منابعی را که خودم پیدا می کنم بررسی می کنم.

تلاش

سطح ریسک

نقش هوش مصنوعی

تصمیم نهایی

ایجاد استراتژی جستجو

پایین

کلمه کلیدی/رشته را پیشنهاد می کند

محقق

پیش نویس چکیده مقاله

کم-متوسط

پیش نویس ایجاد می کند

محقق تایید می کند

توصیه آزمون آماری

متوسط

گزینه هایی را ارائه می دهد

محقق انتخاب/تأیید می کند

فهرست استناد

بالا

دستیار فرمت

هر اثر با دست تأیید می شود

یافتن تفسیر/فرضیه

بالا

ایده می دهد

محقق تنها

اشتباهات رایج

• استفاده از نقل قول ها بدون تأیید اسناد ساختگی رایج ترین و مخرب ترین خطا در دانشگاه است. منجر به کناره گیری می شود.
• جایگزینی خلاصه به جای منبع خلاصه هوش مصنوعی ممکن است یافته ها را تحریف کند. بدون بازگشت به متن اصلی هیچ استنادی داده نمی شود.
• چشم پوشی از شفافیت پنهان کردن استفاده در صورت کشف یک نقض اخلاقی است.
• اجازه دهید هوش مصنوعی تصمیمات علمی بگیرد. فرضیه، تفسیر و تصمیم گیری روش متعلق به محقق است.
• آپلود داده های محرمانه در ابزار باز. داده های منتشر نشده و اطلاعات شرکت کنندگان خارج از کنترل شما هستند.

نکته: هر جلسه هوش مصنوعی را مانند کار با یک کارآموز باتجربه اما غیرقابل اعتماد در نظر بگیرید: او سریع و کوشا است، اما قبل از امضا کردن، همه چیزهایی را که او می گوید تأیید می کنید.

به طور خلاصه

هوش مصنوعی دستیار قدرتمندی است که بار پژوهشگر را از خواندن و نوشتن تکراری کاهش می دهد. اما به دلیل توهم، تحریف و سوگیری، هر خروجی نیاز به تأیید دارد. مهم ترین خطر در دانشگاه، استناد جعلی است: هر منبع باید از طریق DOI و پایگاه داده تأیید شود. وظایف را بر اساس سطح خطر جدا کنید، از داده ها محافظت کنید، استفاده را به طور شفاف اعلام کنید. کوتاه ترین قانون سرانگشتی: طرح اولیه از هوش مصنوعی است، مسئولیت علمی بر عهده محقق است.

وظیفه کاربردی

8 کار از پروژه تحقیقاتی فعلی خود را فهرست کنید و هر کدام را به عنوان ریسک کم/متوسط/بالا علامت گذاری کنید. سپس یک کار کم خطر را انتخاب کنید و یک درخواست با متن بنویسید، مانند «اعلان قدرتمند» در بالا. حداقل 3 عنصر (عدد، چاپ، ادعا) را که باید تأیید کنید در خروجی علامت بزنید و نحوه تأیید آن را بنویسید.

چک لیست

• [ ] آیا وظایف را بر اساس سطح خطر جدا کرده ام؟
• [ ] آیا قصد دارم هر نقل قول و شمارش در خروجی هوش مصنوعی را تأیید کنم؟
• [ ] آیا از خط مشی حفظ اطلاعات وسیله نقلیه ای که استفاده می کنم اطلاع دارم؟
• [ ] آیا من خط مشی هوش مصنوعی موسسه و مجله هدف خود را خوانده ام؟
• [ ] آیا مطمئن هستم که قضاوت علمی نهایی را حفظ می کنم؟