Галюцинація, етика, конфіденційність і наукова чесність

Прибуток:

• Здатність розпізнавати форми галюцинацій у фізиці (фальшива константа, фальшивий закон, помилка одиниці, неправильний результат, фальшиве приписування) і ловити їх за допомогою відповідного методу.
• Можливість захисту неопублікованих, конфіденційних і особистих даних шляхом анонімізації та мінімізації, не вводячи їх у неавторизовані інструменти
• Здатність зрозуміти, що головна відповідальність лежить на людях, чесно повідомляючи дані, не прикрашаючи їх, і прозоро документуючи використання штучного інтелекту.

Протягом цього модуля ми розглядали ту саму дисципліну в кожному розділі: штучний інтелект (ШІ) прискорює, люди перевіряють. У цьому останньому розділі ми об’єднуємо всю практику перевірки під егідою наукової цілісності, найбільш фундаментальної цінності фізичної науки. Фізика — це прагнення отримати перевірені знання про природу; В основі цих зусиль – чесність, повторюваність і відповідальність. ШІ можна використовувати для посилення цих цінностей, але при неправильному використанні він загрожує їм усім. У цьому розділі ми обговоримо фізичні форми галюцинацій, відповідальність за дані та конфіденційність, етичні межі та чому остаточна відповідальність завжди залишається за людьми.

Форми галюцинації у фізиці

Галюцинація — впевнене виробництво неправдивої інформації ШІ — набуває унікальних і небезпечних форм у фізиці. Визнання цього є першим кроком до виявлення:

вид галюцинації

приклад

Метод захоплення

Припасування фіксованих/даних

Неправильна щільність матеріалу

Підтвердження надійною довідкою

Хибна формула/закон

Неіснуюча назва "принципу".

Виведення підручника/SymPy

Помилка одиниці/замовлення

помилково приймаючи eV за J

Розмірний аналіз, контроль агрегатів

Неправильний числовий результат

Неправильний вихід коду

Запустіть код

апокрифічна атрибуція

неіснуюча стаття

Перевірка з DOI

Помилково зареєстрований результат

Спотворення справжньої статті

Прочитайте першоджерело

Загальна нитка полягає в наступному: велика мовна модель розроблена не для того, щоб говорити правду, а для того, щоб виробляти «можливий вигляд тексту». У фізиці різниця між «здавалося б можливим» і «справжнім» якраз і є причиною існування науки.

Відповідальність за дані, конфіденційність та інтелектуальну власність

Фізики часто працюють із конфіденційними даними: неопублікованими експериментальними даними, передпатентними розробками, конфіденційними вимірюваннями промислових кооперацій, дослідженнями, пов’язаними з особистими даними про здоров’я чи безпеку. Введення таких даних у загальний інструмент штучного інтелекту може зробити їх доступними для третіх сторін і, можливо, навчальні дані моделі, що означатиме як порушення конфіденційності, так і втрату наукового пріоритету (права першим зробити відкриття). Правило чітке: не вводьте неопубліковані, конфіденційні чи особисті дані в інструмент ШІ, який ваша організація не схвалила. Якщо ви збираєтеся вводити, анонімізувати, мінімізувати (надавати лише те, що необхідно) і читати умови даних інструменту.

Застереження: введення неопублікованих вимірювань лабораторії або конфіденційних параметрів дизайну компанії в інструмент ШІ «для швидкого аналізу» може бути незворотною помилкою. Коли дані надано спільний доступ, їх не можна відкликати. Якщо сумніваєтеся, не вводьте дані; Спершу уточніть політику вашої установи та умови конфіденційності інструменту.

Етичні межі та наукова чесність

Використання може бути технічно можливим і навіть законним, але все одно неетичним. У фізиці є кілька червоних ліній, які стосуються наукової чесності:

Вигадування або прикрашання даних. Попросити штучний інтелект «генерувати бали, які краще відповідають доходу» або «зробити графік більш переконливим» — це шахрайство з даними. Дані повідомляються як є; Викиди усуваються лише за наявності документально підтвердженої законної причини.

Прозорість внеску. Якщо ви використовували штучний інтелект у дослідженні — написанні коду, корекції мови, аналізі — буде справедливо пояснити це у відповідному місці. Цього вимагають багато журналів і установ.

Авторство та відповідальність. ШІ не є письменником; не може нести відповідальності за зміст твору. Відповідальність завжди лежить на людях-письменниках. Помилка, створена штучним інтелектом, не може бути захищена словами «транспортний засіб зробив це».

Відтворюваність. Науковий результат вимагає, щоб метод (включно з використаним кодом, параметрами, підказками ШІ) був чітко задокументований, щоб інші могли його відтворити.

три міні-чохла

Випадок 1 — Витік конфіденційних даних. Один дослідник вставив дані вимірювань з угоди про нерозголошення з компанією в загальний інструмент ШІ «для швидкого графіка». Пізніше він зрозумів, що цей інструмент може зберігати вхідні дані. Сталося порушення умов договору та можлива втрата пріоритету. Урок: конфіденційні дані ніколи не вводяться в несхвалений інструмент.

Кейс 2 — Прикраса. Один студент попросив ШІ редагувати, щоб «дані виглядали ближче до теорії», оскільки експериментальні дані не повністю збігалися з теорією. Його радник помітив це й зупинив його: невідповідність означала або систематичну помилку в експерименті, або нову цікаву фізику — щось, що слід досліджувати, а не приховувати. Дані були надані чесно, і виявлено систематичну помилку.

Випадок 3 — Здобута прозорість. Одна команда написала код аналізу даних для статті за допомогою ШІ та чітко вказала це в розділі методів; поділився кодом і підказками як додатковими файлами. Суддя переглянув код і запропонував незначне виправлення. Прозорість виявила помилку перед публікацією та підвищила довіру до дослідження.

Чотири шаблони, які можна копіювати

1) Скринінг галюцинацій:

Проскануйте такі результати фізики на галюцинації: чи є якісь фіктивні константи, фальшиві назви формул/законів, помилки одиниць/порядків, неперевірені числові результати та непідтверджені атрибути? Позначте кожен підозрілий предмет і вкажіть, як його перевірити (посилання, код, DOI). Вихід: [тут]

2) Попередня перевірка конфіденційності даних:

Оцініть наведені нижче дані/текст перед тим, як вводити його в інструмент ШІ: чи містить він неопубліковану, конфіденційну, особисту або захищену договором інформацію? Якщо так, запропонуйте, як я можу зробити його анонімним або мінімізувати. Якщо не впевнені, скажіть «перевірте корпоративну політику». Зміст: [тут]

3) Проект заяви про прозорість/внески:

В одному дослідженні я використовував ШІ для: [кодування / корекції мови / аналізу тощо]. Напишіть коротку чернетку «Заяви про використання штучного інтелекту», яка чесно документує це. Тут також має бути зазначено, які частини були перевірені людьми.

4) Забезпечення наукової чесності:

Виконайте перевірку цілісності для наступного аналізу/результату: дані подаються як є (без прикрашання), чи повідомлено про невизначеності, чи метод задокументовано відтворюваним способом, чи прозоро використання ШІ? Перелічіть будь-які недоліки. Зміст: [тут]

Слабка підказка / Сильна підказка

Слабкий: «Відредагуйте вихід, щоб краще відповідати теорії та зробити графік переконливим».

Результат: Шахрайство даних; Пряме порушення наукової доброчесності, безповоротна втрата репутації.

Сильно: «Вихідність не повністю узгоджується з теорією. Допоможіть мені проаналізувати можливі причини цієї розбіжності (систематична помилка, статистичні коливання, відсутність моделі або новий ефект); підкажіть, як чесно повідомити про розбіжність, не змінюючи даних».

Результат: чесний, дослідницький і вірний підхід до наукової чесності; Конфлікт стає можливістю для відкриття.

Поширені помилки

• Сплутана галюцинація з самовпевненістю. Те, що AI говорить впевнено, не є гарантією точності; Навіть найточніше речення може бути сфабрикованим.
• Введення конфіденційних даних у транспортний засіб без узгодження. Після надання спільного доступу дані неможливо отримати; Пріоритет і конфіденційність втрачаються.
• Прикрашаючі дані. Зміна даних на «теорію відповідності» є одним із найсерйозніших наукових злочинів.
• Приховування використання ШІ. Прозорість є вимогою чесності та є обов’язковою в багатьох установах.
• Покладання відповідальності на транспортний засіб. «Це зробив штучний інтелект» не є захистом; Основна відповідальність завжди лежить на людині.

Порада: наприкінці кожного дослідження за допомогою штучного інтелекту поставте собі три запитання: (1) Чи кожен факт, число та посилання в цьому виході були незалежно перевірені? (2) Чи використовувані мною дані містили конфіденційну/особисту інформацію, яку я не повинен вводити? (3) Чи достатньо прозоро я задокументував використання та методологію ШІ, щоб хтось інший міг це відтворити? Якщо ви не можете відповісти чітко «так» на ці три запитання, дослідження ще не завершено.

Підсумовуючи

Наукова цілісність є основою існування фізики, а в епоху ШІ ще важливіша. Галюцинація з'являється у фізиці у вигляді хибних констант, хибних законів, одиничних помилок, хибних висновків і хибних посилань; кожен записується за допомогою власного унікального методу перевірки. Конфіденційні та персональні дані не вводяться в несанкціоновані засоби; дані ніколи не прикрашають; Використання ШІ прозоро задокументовано; і остаточна відповідальність завжди лежить на людині. У цьому модулі ви вивчаєте лише одну дисципліну: штучний інтелект є потужним прискорювачем, але перевірка, чесність і відповідальність лежать на плечах компетентного фізика, тобто на вас. Неперевірений результат ШІ ніколи не замінить підтвердження фізика.

Аплікаційне завдання

Виберіть результат штучного інтелекту (обліковий запис, аналіз або текст), який ви створили в цьому модулі. 1. екран для галюцинацій із шаблоном: чи є якісь фіктивні константи, фальшиві формули, помилки одиниць чи неперевірені атрибути? За допомогою шаблону 2 оцініть, чи конфіденційні дані, які ви використовуєте. Нарешті, складіть коротку заяву про використання/прозорість штучного інтелекту за шаблоном 3. Запишіть у 5-6 реченнях: що виявило сканування, які кроки перевірки ви виконали?

контрольний список

• [ ] Я незалежно перевірив кожну константу, формулу та результат у вихідних даних.
• [ ] Я перевірив кожне цитування за допомогою DOI/джерела.
• [ ] Я перевірив, чи не вводив конфіденційні/особисті дані в інструмент без дозволу.
• [ ] Я повідомив дані як є, без прикрас.
• [ ] Я задокументував своє використання штучного інтелекту прозорим і відтворюваним способом.
• [ ] Я визнав, що остаточна відповідальність лежить на мені; Я не приписував жодної несправності транспортному засобу.

Модульний екзамен

1. Що з наведеного нижче є найточнішим позиціонуванням штучного інтелекту у фізиці?

• A) Штучний інтелект – це код, чернетка та помічник у редагуванні; Відповідальність за підрозділ, звання, перевірку та етичні рішення лежить на людині ✔
• Б) Штучний інтелект — це калькулятор, і числові результати, які він дає, завжди точні
• C) Штучний інтелект працює лише в обчисленнях, він не має нічого спільного з аналізом експериментів і навчанням
• D) Оскільки штучний інтелект є більш неупередженим, ніж люди, рішення щодо одиниць і результатів слід залишити йому.

Опис: Штучний інтелект; Це помічник, який пише код, створює чернетки, створює та організовує фреймворки похідних кодів. Проте остаточна відповідальність за одиничну та порядкову перевірку результату, забезпечення його законами збереження, постійного та еталонного підтвердження належить компетентному фізику. Велика мовна модель — це не калькулятор чи фізичний механізм; це текстовий генератор, який створює «наступне найбільш імовірне слово», і його неперевірений вихід може призвести до неправильного значення, дизайну або результату.

2. Яке найточніше наближення числового результату обчислювального коду, який ви друкуєте у великій мовній моделі?

• A) Довіряючи числу, яке модель каже «цей код дає це», тому що він написав код
• B) Запустіть код самостійно та подивіться результат; ✔ не покладатися на словесне числове передбачення моделі
• C) Прийняття коду як правильного, просто дивлячись на те, як він читається, без його запуску взагалі
• D) Якщо результат безпосередньо запитується у моделі знову, і він повідомляє те саме число, він вважається правильним.

Пояснення: LLM може «обчислити» вихід коду, який він написав у своїй голові, і повернути неправильне число; тоді як коли виконується той самий код, він дає правильний результат. Детермінованим є код, який виконується; Це не словесне передбачення моделі. Таким чином, код завжди слід запускати у вашому власному середовищі, а результат має бути видимим.

3. Який найпотужніший спосіб перевірити, чи моделювання динамічної системи без тертя точно відображає фізику?

• A) Переконайтеся, що діаграма виглядає візуально охайною та переконливою
• B) Виконання моделювання лише з одним часовим кроком і довіра результату
• C) Моніторинг величини, яку необхідно зберегти, як-от загальна енергія чи імпульс, і перевірка, чи залишається вона постійною ✔
• D) Оцінка симуляції за швидкістю її виконання

Пояснення: у системі без тертя повна енергія (і імпульс, якщо такий є) має зберігатися. Моніторинг цієї величини протягом усього моделювання та визначення того, чи залишається вона сталою, виявляє чисельні недоліки (наприклад, примітивний метод Ейлера постійно збільшує енергію). Якщо енергія дрейфує, симуляція ненадійна; Те, що він створює гарну графіку, не означає, що він правильний.

4. Що з наведеного нижче є правильним підходом під час підгонки моделі до експериментальних даних?

• A) Вибір полінома вищого ступеня, який найкраще відповідає даним, оскільки він проходить через усі точки
• B) Надання параметрів одним числом без двозначності
• C) Декларація якості підгонки, просто дивлячись на те, як красиво виглядає вигин.
• D) Вибір моделі з фізики, звіт про параметри з їх невизначеністю та оцінка відповідності із залишками ✔

Пояснення: модель має бути обрана з фізичного закону, якому подія повинна підкорятися, а не шляхом перегляду даних і роздумів, «яка з них найкраще підходить». З достатньою кількістю вільних параметрів (наприклад, поліном високого ступеня) до будь-яких даних може бути зроблено «ідеальне», але фізично безглузде підгонку (надмір). Параметри слід повідомляти з їхньою невизначеністю, якість підгонки слід оцінювати із залишками, а фізичну правдоподібність слід перевіряти.

5. Багаторазове повторення вимірювання зменшує який тип невизначеності?

• А) Випадкова невизначеність; систематична невизначеність не зменшується при повторенні, причину потрібно знайти та виправити ✔
• Б) Систематична невизначеність; оскільки це усуває помилку повторного калібрування
• C) Повністю усуває обидві двозначності
• Г) Не зменшує жодного з них; невизначеність не залежить від кількості вимірювань

Пояснення: повторне вимірювання зменшує випадкову невизначеність (зі стандартною похибкою середнього std/√N), що є результатом випадкового розподілу результатів. З іншого боку, систематична невизначеність — це похибка, яка завжди відхиляється в одному напрямку (наприклад, неправильно відкалібровані ваги) і не зменшується при повторенні; Однак причину можна знайти та усунути. Повідомлення про «дуже малу» невизначеність із кількома вимірюваннями може приховати основну систематичну помилку.

6. Який найнадійніший незалежний спосіб перевірити формулу розповсюдження помилки, отриману ШІ?

• А) Покладаючись на формулу, щоб виглядати плинною та переконливою
• B) Перехресна перевірка за допомогою розрахунку Монте-Карло, який випадково відбирає вхідні дані з їх невизначеністю ✔
• C) Знову запитувати ту саму формулу у штучного інтелекту та очікувати, що вона дасть той самий результат
• D) Безпосередній збір невизначеностей і порівняння їх із результатом

Пояснення: ШІ часто змішує часткові похідні коефіцієнтів і структуру квадратного кореня у формулах розповсюдження помилок. Потужним способом досягти цього незалежно є перехресна перевірка за методом Монте-Карло: випадкова вибірка кожного входу з його невизначеністю, обчислення функції тисячі разів і порівняння стандартного відхилення виходу з невизначеністю, заданою формулою. Зустріч двох незалежних методів підвищує довіру.

7. Який правильний розподіл праці між ШІ та SymPy у довгому виведенні символічної фізики?

• A) SymPy генерує ідею виведення, AI точно перевіряє кожен крок
• Б) І те, і інше непотрібне; довгі виводи повинні виконуватися лише вручну
• C) AI будує структуру виведення, SymPy точно перевіряє кожен алгебраїчний крок ✔
• D) Штучний інтелект самостійно виводить, немає потреби в перевірці, оскільки він виглядає вільно

Пояснення: штучний інтелект розробляє стратегію виведення та пояснює шлях, але в довгій алгебрі він допускає помилки знаків, висхідні терміни та неправильні спрощення. SymPy, з іншого боку, працює за правилами і точно перевіряє кожен алгебраїчний крок. Найпотужніший робочий процес поєднує в собі обидва: отримати скелет від штучного інтелекту, створити кожен крок за допомогою SymPy, перевірити результат за допомогою оберненого інтегралу похідної та граничного випадку.

8. Що розмірний аналіз говорить про точність фізичної формули?

• А) Розмірний аналіз завжди остаточно доводить, що формула правильна
• Б) Розмірний аналіз не має практичного значення у фізиці
• C) Розмірний аналіз дає лише постійний коефіцієнт формули, а не її послідовність
• Г) Формула, яка не виконується розмірністю, є абсолютно неправильною; розмірний аналіз виявляє помилку без підрахунку чисел ✔

Пояснення: дві сторони фізичного рівняння повинні бути однаковими за розмірами, перш ніж вони можуть бути чисельно рівними. Формула, яка не має розмірності, просто неправильна; це береться з розрахунку кількості. Розмірний аналіз не остаточно доводить, що формула правильна (вона може пропустити безрозмірний постійний коефіцієнт або кут), але він остаточно доводить, що вона неправильна; тому це перший і найдешевший аудит кожного рахунку.

9. Який перший крок є найважливішим під час обчислення кінетичної енергії об’єкта, що рухається зі швидкістю 36 км/год?

• A) Перетворення всіх вхідних даних в єдину систему одиниць (СІ); Перетворення 36 км/год на 10 м/с ✔
• B) Введення швидкості в км/год безпосередньо у формулу без перетворення її в м/с
• В) Множення тільки чисел без урахування одиниць
• D) Припускаючи, що немає необхідності перевіряти порядок після обчислення результату

Пояснення: формули на основі SI (E = ½mv²) розраховують швидкість у м/с. Плутати км/год з м або години з секундами в розрахунках є однією з найпоширеніших помилок у фізиці. Спочатку всі вхідні дані потрібно перевести в єдину систему одиниць (СІ): 36 км/год = 10 м/с. Оскільки штучний інтелект може робити мовчазні помилки під час перетворення складених одиниць, це перетворення має бути перевірено вручну або за допомогою інструменту, що розпізнає одиниці вимірювання.

10. Яка практика є правильною з точки зору «чесності» в науковому графіку?

• A) Приховування невизначеності, оскільки смужки помилок захаращують діаграму
• B) Позначте осі одиницями вимірювання, виберіть масштаб без спотворень і покажіть невизначеність за допомогою смуг помилок ✔
• C) Завжди починайте вісь y з діапазону, який показуватиме найбільш різку різницю
• D) Залишення осей без одиниць, тому що читач може вгадати одиницю

Опис: Чесна наукова діаграма; він позначає осі величиною та одиницею вимірювання, вибирає масштаб свідомо та без спотворень (початок осі y від нуля для перебільшення вводить в оману) і робить невизначеність вимірювання видимою за допомогою смужок похибок. Приховування невизначеності робить дані впевненими та створює хибне враження упередженості чи згоди. Чим переконливішою є графіка, тим важливішою є перевірка цілісності.

11. Який найбільший ризик і правильна дисципліна при отриманні підтримки літератури та цитування від штучного інтелекту?

• А) Штучний інтелект витрачає час, оскільки він дуже повільно створює цитати
• B) Джерела, запропоновані штучним інтелектом, завжди реальні, немає необхідності перевіряти
• C) Штучний інтелект може створювати атрибуції, які здаються реальними, але не існують; Кожне цитування має бути перевірено за допомогою DOI/джерела, а літературу потрібно знайти з фактичної бази даних ✔
• D) Вигадані цитати легко розпізнати, оскільки в них завжди використовуються нереальні назви журналів

Пояснення: велика мовна модель не підключена до реальної бази даних; Імітуючи шаблони цитування, він може створювати статті, які містять справжню назву журналу, надійних авторів і прийнятний рік, але взагалі не існують. Тому літературу слід шукати в реальних базах даних, штучний інтелект слід використовувати лише для узагальнення/перекладу наявного тексту, а кожне цитування має бути незалежно перевірено за DOI або заголовком. Неперевірена цитата є порушенням академічної доброчесності.

12. Що потрібно для отримання достовірних результатів, коли штучний інтелект підсумовує статтю?

• A) Достатньо просто дати назву статті, модель знає зміст
• B) Використовуючи резюме безпосередньо, взагалі не перевіряючи його, тому що воно виглядає текучим
• C) Двічі запитувати у моделі те саме резюме та приймати його як правильне, якщо воно схоже.
• D) Надання оригінального тексту моделі та порівняння створеного резюме з оригінальним текстом, щоб переконатися, що нічого не додано/спотворено ✔

Пояснення: просте надання штучному інтелекту назви статті та запит на короткий виклад призведе до того, що модель представить «правдоподібне резюме», навіть не побачивши статті; Це резюме може бути протилежним істині. Достовірне резюме можна отримати лише тоді, коли оригінальний текст подається в модель, а створене резюме порівнюється з оригінальним текстом. Крім того, слід перевірити, щоб резюме не додавало результатів або цифр, яких немає в тексті.

13. Що вірно для результатів штучного інтелекту у виробництві матеріалу курсу фізики?

• A) Кожне рішення має бути перевірено незалежно, мають бути визначені межі аналогій, а відволікаючі засоби мають бути націлені на реальні неправильні уявлення ✔
• B) Ключ відповіді, створений штучним інтелектом, завжди правильний, немає потреби в аудиті
• C) Аналогії ідеальні в усіх випадках, немає необхідності вказувати їх межі.
• Г) Дистрактори слід вибирати абсолютно випадково, тому що природа неправильного вибору неважлива.

Опис: штучний інтелект швидко генерує запитання, приклади та аналогії, але перевірка важлива за трьома пунктами: рішення кожної проблеми має бути перевірено незалежно (вручну або за допомогою коду), тому що модель може містити знакові/одиничні помилки в розв’язанні; Кожна аналогія повинна бути вказана там, де вона ламається, інакше вона призведе до появи нової помилки; Дистрактори повинні бути націлені на справжні помилкові уявлення. Відповідальність лежить на вчителі; Неправильний ключ відповіді залишає в учнів непорозуміння, які важко виправити.

14. Яка поведінка відповідає науковій чесності, коли експериментальні дані не повністю узгоджуються з теорією?

• A) Штучний інтелект упорядковує дані відповідно до теорії та переконливо показує графік
• B) Дослідження причин невідповідності (систематична помилка, відсутність моделі, новий ефект) і чесне звітування без зміни даних ✔
• C) Ігнорування розбіжностей і звітування лише про те, що підходить
• D) Видалення даних і підгонка нового результату експерименту

Пояснення: прохання штучного інтелекту «впорядкувати дані, щоб краще відповідати теорії» є шахрайством даних і грубим порушенням наукової чесності. Розбіжність — це те, що слід досліджувати, а не приховувати: воно може вказувати на систематичну помилку, статистичні коливання, відсутність шаблону або цікавий новий ефект. Дані повідомляються як є, з невизначеністю; Остаточна відповідальність лежить на особі, і «це зробив інструмент» не є захистом.