Печалби:
- Способност за разпознаване на форми на халюцинации във физиката (фалшива константа, фалшив закон, единица грешка, грешен резултат, фалшиво приписване) и улавянето им с подходящия метод.
- Възможност за защита на непубликувани, поверителни и лични данни чрез анонимизиране и минимизиране, като не ги въвеждате в неоторизирани инструменти
- Да можеш да разбереш, че крайната отговорност е на хората, като докладваш данните честно, без да ги разкрасяваш и прозрачно документираш използването на изкуствен интелект.
По време на този модул ние покрихме една и съща дисциплина във всяка единица: изкуственият интелект (AI) ускорява, хората проверяват. В тази последна част ние събираме цялата тази практика за проверка под егидата на научната почтеност, най-фундаменталната ценност на физическата наука. Физиката е стремеж към създаване на проверимо знание за природата; В основата на това начинание са почтеността, повторяемостта и отговорността. AI може да се използва за укрепване на тези ценности, но когато се използва неправилно, той застрашава всички тях. В тази част ще обсъдим физическите форми на халюцинации, отговорността за данните и поверителността, етичните граници и защо крайната отговорност винаги остава на хората.
Форми на халюцинации във физиката
Халюцинациите - увереното производство на фалшива информация от AI - приемат уникални и опасни форми във физиката. Разпознаването им е първата стъпка към улавянето на:
вид халюцинация
пример
Метод на улавяне
Монтиране на фиксирани/данни
Неправилна плътност на материала
Потвърждение с надеждна справка
Фалшива формула/закон
Несъществуващо име на "принцип".
Извеждане на учебник/SymPy
Грешка в единица/поръчка
бъркайки eV с J
Анализ на размерите, управление на единици
Неправилен цифров резултат
Неправилен изходен код
Стартирайте кода
апокрифна атрибуция
несъществуваща статия
Проверка с DOI
Грешно отчетен резултат
Изкривяване на истинска статия
Прочетете първоизточника
Общата нишка е следната: голям езиков модел е проектиран не да казва истината, а да произвежда „възможно изглеждащ текст“. Във физиката разликата между "привидно възможно" и "вярно" е именно причината за съществуването на науката.
Отговорност за данни, поверителност и интелектуална собственост
Физиците често работят с чувствителни данни: непубликувани експериментални данни, предпатентни проекти, поверителни измервания от индустриални сътрудничества, изследвания, включващи лични данни за здравето или безопасността. Въвеждането на такива данни в общ инструмент за ИИ може да ги направи достъпни за трети страни и вероятно данните за обучение на модела - което би означавало както нарушаване на поверителността, така и загуба на научен приоритет (правото да бъдеш първият, който прави откритие). Правилото е ясно: не въвеждайте непубликувани, поверителни или лични данни в AI инструмент, който вашата организация не е одобрила. Ако ще въведете, анонимизирайте, минимизирайте (дайте само това, което е необходимо) и прочетете условията за данни на инструмента.
Внимание: Въвеждането на непубликувани измервания на лаборатория или на поверителни параметри на дизайна на компания в AI инструмент „за бърз анализ“ може да бъде необратима грешка. След като данните бъдат споделени, те не могат да бъдат извикани. Ако се съмнявате, не въвеждайте данни; Първо изяснете политиката на вашата институция и условията за поверителност на инструмента.
Етични граници и научна почтеност
Използването може да е технически възможно и дори законно, но все пак да е неетично. Има няколко червени линии във физиката, които засягат научната почтеност:
Измисляне или украсяване на данни. Искането на AI да „генерира точки, които отговарят по-добре на доходността“ или „да направи графиката да изглежда по-убедителна“ е измама с данни. Данните се отчитат такива, каквито са; Извънредните стойности се елиминират само с документирана, законна причина.
Прозрачност на приноса. Ако сте използвали AI в проучване - писане на код, корекция на езика, анализ - справедливо е това да стане ясно на подходящото място. Много списания и институции изискват това.
Авторство и отговорност. AI не е писател; не може да носи отговорност за съдържанието на произведение. Отговорността винаги е на човешките писатели. Грешка, причинена от AI, не може да бъде защитена с думите „автомобилът го направи“.
Възпроизводимост. Научният резултат изисква методът (включително използвания код, параметри, AI подкани) да бъде ясно документиран, така че другите да могат да го възпроизведат.
три мини калъфа
Случай 1 — Изтичане на поверителни данни. Един изследовател постави данни от измерванията от споразумение за неразкриване на информация с компания в общ инструмент за изкуствен интелект „за бърза графика“. По-късно той осъзна, че този инструмент може да съхранява входове. Настъпило е нарушение на договора и възможна загуба на приоритет. Урок: поверителни данни никога не се въвеждат в неодобрен инструмент.
Случай 2 — Печат за разкрасяване. Един студент помоли AI за редакция, която ще „накара данните да изглеждат по-близо до теорията“, тъй като експерименталните данни не съвпадат напълно с теорията. Неговият съветник забеляза това и го спря: несъответствието означаваше или системна грешка в експеримента, или интересна нова физика — нещо, което трябва да бъде изследвано, а не скрито. Данните са докладвани честно и е установена системна грешка.
Случай 3 — Постигната прозрачност. Един екип написа кода за анализ на данни за хартия с помощта на AI и ясно посочи това в раздела за методите; сподели кода и подканите като допълнителни файлове. Реферът прегледа кода и предложи малка корекция. Transparency улови грешката преди публикуването и увеличи достоверността на проучването.
Четири копируеми шаблона
1) Скрининг на халюцинации:
Сканирайте следния физичен изход за халюцинации: има ли фалшиви константи, фалшиви имена на формули/закони, грешки в единици/порядък, непроверени числени резултати и непотвърдени приписвания? Маркирайте всеки подозрителен елемент и посочете как да го проверите (референция, код, DOI). Изход: [тук]
2) Предварителна проверка за поверителност на данните:
Оценете следните данни/текст, преди да ги въведете в AI инструмент: съдържат ли непубликувана, поверителна, лична или защитена с договор информация? Ако е така, предложете как мога да го анонимизирам или минимизирам. Ако не сте сигурни, кажете „проверете корпоративната политика“. Съдържание: [тук]
3) Проект на декларация за прозрачност/принос:
В едно проучване използвах AI за: [кодиране/корекция на езика/анализ и т.н.]. Напишете кратка чернова на „декларация за използване на AI“, която честно документира това. Трябва също така да посочи кои части са проверени от хора.
4) Осигуряване на научна почтеност:
Извършете проверка на целостта за следния анализ/резултат: данните са докладвани такива, каквито са (без разкрасяване), докладвани ли са несигурности, документиран ли е методът по възпроизводим начин, прозрачно ли е използването на AI? Избройте всички недостатъци. Съдържание: [тук]
Слаба подкана / Силна подкана
Слаб: „Редактирайте добива, за да пасне по-добре на теорията и да направите графиката убедителна.“
Резултат: Измами с данни; Пряко нарушаване на научната почтеност, необратима загуба на репутация.
Силно: „Доходността не е напълно съгласна с теорията. Помогнете ми да анализирам възможните причини за това несъответствие (систематична грешка, статистическа флуктуация, липсващ модел или нов ефект); предложете как да докладвам честно несъответствието, без да променям данните.“
Резултат: Честен, изследователски и верен подход към научната почтеност; Конфликтът се превръща във възможност за откритие.
Често срещани грешки
- Объркваща халюцинация със самоувереност. Само защото AI говори уверено не е гаранция за точност; И най-точното изречение може да е измислено.
- Въвеждане на поверителни данни в автомобила без одобрение. Веднъж споделени, данните не могат да бъдат извлечени; Приоритетът и поверителността се губят.
- Разкрасяващи данни. Промяната на данни към „теория за годност“ е едно от най-тежките научни престъпления.
- Скриване на използването на AI. Прозрачността е изискване за честност и е задължителна в много институции.
- Прехвърляне на отговорността върху автомобила. „ИИ го направи“ не е защита; Крайната отговорност винаги е на човешкото същество.
Съвет: В края на всяко изследване, задвижвано от AI, задайте си три въпроса: (1) Дали всеки факт, число и приписване в този резултат са били независимо проверени? (2) Използваните от мен данни съдържат ли поверителна/лична информация, която не трябва да въвеждам? (3) Документирал ли съм използването и методологията си на AI достатъчно прозрачно, за да може някой друг да го възпроизведе? Ако не можете да отговорите ясно „да“ на тези три въпроса, проучването все още не е завършено.
В обобщение
Научната почтеност е основата на съществуването на физиката и е още по-важна в ерата на ИИ. Халюцинациите се появяват във физиката под формата на фалшиви константи, фалшиви закони, грешки в единиците, фалшиви заключения и фалшиви препратки; всеки се улавя със свой собствен уникален метод за проверка. Поверителни и лични данни не се въвеждат в неоторизирани инструменти; данните никога не се разкрасяват; Използването на AI е прозрачно документирано; и крайната отговорност винаги е на човека. Има само една дисциплина, която научавате в този модул: AI е мощен ускорител, но проверката, почтеността и отговорността лежат на плещите на компетентния физик — тоест на вас. Непровереният резултат от AI никога не е заместител на потвърждението на физик.
Задача за приложение
Изберете AI изход (акаунт, анализ или текст), който сте създали в този модул. 1. екран за халюцинации с шаблон: има ли някакви фиктивни константи, фалшиви формули, единици грешки или непроверени приписвания? С шаблон 2 преценете дали данните, които използвате, са благоприятни за поверителността. Накрая направете кратка декларация за използване/прозрачност на AI с шаблон 3. Запишете в 5-6 изречения: какво разкри сканирането, какви стъпки за проверка предприехте?
контролен списък
- [ ] Проверих независимо всяка константа, формула и резултат в изхода.
- [ ] Проверих всеки цитат с DOI/източник.
- [ ] Проверих дали не съм въвел поверителни/лични данни в инструмента без одобрение.
- [ ] Докладах данните такива, каквито са, без разкрасяване.
- [ ] Документирал съм използването на AI по прозрачен и възпроизводим начин.
- [ ] Приех, че крайната отговорност е моя; Не съм приписвал никаква грешка на автомобила.
Изпит по модул
1. Кое от следните е най-точното позициониране на изкуствения интелект във физиката?
- A) Изкуственият интелект е помощник за код, чернова и редактиране; Отговорността за единица, ранг, проверка и етични решения се носи от човека ✔
- Б) Изкуственият интелект е калкулатор и числените резултати, които дава, винаги са точни
- В) Изкуственият интелект работи само в изчисленията, няма нищо общо с експерименталния анализ и преподаването
- Г) Тъй като изкуственият интелект е по-безпристрастен от хората, решенията за единиците и резултатите трябва да бъдат оставени на него.
Описание: Изкуствен интелект; Това е асистент, който пише код, създава чернови, създава и организира деривационни рамки. Въпреки това, крайната отговорност за единица и проверка на реда на резултата, осигуряването му със закони за запазване, постоянно и референтно потвърждение принадлежи на компетентния физик. Големият езиков модел не е калкулатор или физически двигател; е текстов генератор, който произвежда „следващата най-вероятна дума“ и неговият непроверен изход може да доведе до неправилна стойност, дизайн или резултат.
2. Какво е най-точното приближение за числения резултат на изчислителен код, който отпечатвате в голям езиков модел?
- A) Доверявайки се на числото, моделът казва „този код дава това“, защото той е написал кода
- B) Стартирайте кода сами и вижте резултата; ✔ не се разчита на словесната числена прогноза на модела
- В) Приемане на кода за правилен само като се види как се чете, без изобщо да се изпълнява
- Г) Ако резултатът е директно поискан от модела отново и той казва същото число, той се счита за правилен.
Обяснение: LLM може да „изчисли“ резултата от кода, който е написал в главата си, и да върне грешно число; докато когато се изпълнява същия код, той дава правилния резултат. Това, което е детерминирано, е кодът, който се изпълнява; Това не е вербална прогноза на модела. Следователно кодът винаги трябва да се изпълнява във вашата собствена среда и изходът трябва да се вижда.
3. Кой е най-мощният начин да се провери дали симулацията на динамична система без триене отразява точно физиката?
- А) Виждайки, че диаграмата изглежда визуално чиста и убедителна
- B) Изпълнение на симулацията само с една времева стъпка и доверие в резултата
- C) Мониторинг на количество, което трябва да се запази, като обща енергия или импулс, и проверка дали то остава постоянно ✔
- Г) Оценяване на симулацията по това колко бързо работи
Обяснение: В система без триене общата енергия (и инерция, ако има такава) трябва да се запази. Наблюдаването на тази величина по време на симулацията и виждането дали тя остава постоянна разкрива числени недостатъци (напр. примитивният метод на Ойлер постоянно увеличава енергията). Ако енергията се носи, симулацията е ненадеждна; Това, че създава хубава графика, не означава, че е правилна.
4. Кое от следните е правилният подход при напасване на модел към експериментални данни?
- A) Избор на полином с по-висока степен, който най-добре отговаря на данните, тъй като минава през всички точки
- B) Даване на параметрите като едно число без двусмислие
- C) Деклариране на качеството на прилягане просто като се види колко красиво изглежда извивката.
- D) Избор на модела от физиката, отчитане на параметрите с техните несигурности и оценка на съответствието с остатъците ✔
Обяснение: Моделът трябва да бъде избран от физическия закон, на който събитието трябва да се подчинява, а не чрез разглеждане на данните и чудене „кой е най-подходящ“. С достатъчно свободни параметри (напр. полином с висока степен) може да се направи „перфектно“, но физически безсмислено напасване (overfit) на всякакви данни. Параметрите трябва да бъдат докладвани с тяхната несигурност, качеството на съответствие трябва да бъде оценено с остатъци и физическата правдоподобност трябва да бъде проверена.
5. Повтарянето на едно измерване много пъти намалява кой тип несигурност?
- А) Случайна несигурност; систематичната несигурност не намалява с повторение, причината трябва да бъде открита и коригирана ✔
- Б) Систематична несигурност; защото елиминира грешката при повторно калибриране
- В) Напълно елиминира и двете неясноти
- Г) Не намалява нито едно от тях; несигурността не зависи от броя на измерванията
Обяснение: Повторното измерване намалява случайната несигурност (със стандартна грешка на средната стойност std/√N), произтичаща от случайното разпределение на резултатите. Систематичната несигурност, от друга страна, е грешка, която винаги се отклонява в една и съща посока (например неправилно калибриран баланс) и не намалява с повторение; Причината обаче може да бъде открита и коригирана. Докладването на „много малка“ несигурност с многобройни измервания може да скрие основната систематична грешка.
6. Кой е най-надеждният независим начин за проверка на формула за разпространение на грешки, получена от AI?
- А) Разчитане на формулата, за да изглежда течна и убедителна
- B) Кръстосана проверка с изчисление Монте Карло, което произволно взема проби от входящите данни с тяхната несигурност ✔
- В) Задаване на същата формула на изкуствения интелект отново и очакване да даде същия резултат
- Г) Директно събиране на несигурностите и сравняването им с резултата
Обяснение: AI често смесва частични производни коефициенти и структура на квадратен корен във формулите за разпространение на грешката. Мощен начин за постигане на това независимо е кръстосаната проверка на Монте Карло: произволно вземане на проби от всеки вход с неговата несигурност, изчисляване на функцията хиляди пъти и сравняване на стандартното отклонение на изхода с несигурността, дадена от формулата. Срещата на два независими метода повишава доверието.
7. Какво е правилното разделение на труда между AI и SymPy в дълго извеждане на символна физика?
- A) SymPy генерира идеята за извеждането, AI прецизно проверява всяка стъпка
- Б) И двете са ненужни; дългите деривации трябва да се правят само ръчно
- C) AI изгражда рамката за извеждане, SymPy прецизно проверява всяка алгебрична стъпка ✔
- D) Изкуственият интелект прави извличането сам, няма нужда от проверка, защото изглежда свободно
Обяснение: AI стратегизира извеждането и обяснява пътя, но в дългата алгебра прави грешки в знаците, избягващи термини и неправилни опростявания. SymPy, от друга страна, работи по правила и прецизно проверява всяка алгебрична стъпка. Най-мощният работен процес съчетава двете: вземете скелета от AI, източник на всяка стъпка със SymPy, тествайте резултата с обратен интеграл на производна и граничен случай.
8. Какво показва размерният анализ за точността на физическа формула?
- А) Анализът на размерите винаги доказва категорично, че дадена формула е правилна
- Б) Анализът на размерите няма практическа стойност във физиката
- В) Анализът на размерите дава само постоянния фактор на формулата, а не нейната консистенция
- Г) Формула, която не важи размерно, е абсолютно грешна; анализът на размерите улавя грешка, без да брои числа ✔
Обяснение: Двете страни на едно физическо уравнение трябва да са равни по размери, преди да могат да бъдат числено равни. Формула, която не поддържа размери, е просто грешна; това се улавя от изчислението на броя. Анализът на размерите не доказва категорично, че дадена формула е правилна (може да пропусне безразмерен постоянен фактор или ъгъл), но категорично доказва, че е неправилна; така че това е първият и най-евтиният одит на всяка сметка.
9. Коя е най-критичната първа стъпка при изчисляване на кинетичната енергия на обект, движещ се с 36 km/h?
- A) Преобразуване на всички входове в единна система от единици (SI); Преобразуване на 36 km/h в 10 m/s ✔
- B) Поставяне на скоростта в km/h директно във формулата, без да се преобразува в m/s
- В) Умножаване само на числа без отчитане на единиците
- Г) Ако приемем, че няма нужда да проверяваме реда след изчисляване на резултата
Обяснение: Базираните на SI формули (E = ½mv²) очакват скорост в m/s. Объркването на km/h с m или часове със секунди при изчисление е една от най-честите грешки във физиката. Първо всички въведени данни трябва да бъдат преобразувани в една система от единици (SI): 36 km/h = 10 m/s. Тъй като изкуственият интелект може да направи тихи грешки при преобразуването на съставни единици, това преобразуване трябва да бъде проверено ръчно или с инструмент за единица.
10. Коя практика е правилна по отношение на „честността“ в научна графика?
- A) Скриване на несигурност, защото лентите за грешки претрупват диаграмата
- B) Маркирайте осите с единици, изберете мащаба без изкривяване и покажете несигурността с ленти за грешки ✔
- C) Винаги започвайте оста y в диапазона, който ще покаже най-драматичната разлика
- Г) Оставяне на осите без единици, защото читателят може да познае единицата
Описание: Честна научна диаграма; той обозначава оси с величина и единица, избира мащаба съзнателно и без изкривяване (започването на оста y от нула за преувеличение е подвеждащо) и прави несигурността на измерването видима с ленти за грешки. Скриването на несигурност прави данните да изглеждат сигурни и създава погрешно впечатление за пристрастност или съгласие. Колкото по-убедителна е една графика, толкова по-важна е проверката на целостта.
11. Какъв е най-големият риск и правилната дисциплина при получаване на подкрепа за литература и цитиране от изкуствен интелект?
- А) Изкуственият интелект губи време, защото произвежда цитати много бавно
- B) Източниците, предложени от изкуствения интелект, винаги са реални, няма нужда от проверка
- C) Изкуственият интелект може да създаде атрибути, които изглеждат реални, но не съществуват; Всеки цитат трябва да бъде проверен с DOI/източник и литературата трябва да бъде намерена от действителната база данни ✔
- Г) Измислените цитати се разпознават лесно, защото винаги използват нереални имена на списания
Обяснение: Голям езиков модел не е свързан с действителна база данни; Като имитира модели на цитиране, той може да създаде статии, които носят истинското име на списанието, достоверни автори и разумна година, но изобщо не съществуват. Следователно литературата трябва да бъде намерена от реални бази данни, AI трябва да се използва само за обобщаване/превод на действителния текст и всеки цитат трябва да бъде независимо проверен чрез DOI или заглавие. Непроверено цитиране е нарушение на академичната почтеност.
12. Какво е необходимо, за да получите надеждни резултати, когато AI обобщава статия?
- A) Достатъчно е само заглавието на статията, моделът знае съдържанието
- Б) Използване на резюмето директно, без изобщо да го проверявате, защото изглежда течно
- В) Искане на модела за едно и също резюме два пъти и приемането му за правилно, ако е подобно.
- D) Предоставяне на оригиналния текст на модела и сравняване на създаденото резюме с оригиналния текст, за да се провери дали нищо не е добавено/изкривено ✔
Обяснение: Простото даване на AI на заглавие на статия и искане за резюме ще накара модела да излезе с „правдоподобно резюме“, без изобщо да види статията; Това обобщение може да е обратното на истината. Надеждно резюме може да се получи само когато оригиналният текст се подаде към модела и генерираното резюме се сравни с оригиналния текст. Освен това трябва да се провери дали резюмето не добавя резултати или числа, които не са в текста.
13. Кое е вярно за продукцията на изкуствения интелект при производството на материали за курсове по физика?
- A) Всяко решение трябва да бъде независимо проверено, границите на аналогиите трябва да бъдат посочени, а разсейващите фактори трябва да са насочени към реални погрешни схващания ✔
- B) Ключът за отговор, произведен от изкуствения интелект, винаги е правилен, няма нужда от одит
- В) Аналогиите са перфектни във всички случаи, няма нужда да се уточняват границите им.
- Г) Дистракторите трябва да се избират напълно произволно, тъй като естеството на неправилния избор е маловажно.
Описание: AI е бърз в генерирането на въпроси, примери и аналогии, но проверката е от съществено значение в три точки: решението на всеки проблем трябва да бъде проверено независимо (на ръка или с код), тъй като моделът може да направи грешки в знака/единицата в решението; Всяка аналогия трябва да бъде посочена там, където се разваля, в противен случай ще доведе до нова грешка; Дистракторите трябва да са насочени към истински погрешни схващания. Отговорността е на учителя; Ключът за неправилен отговор оставя учениците с недоразумения, които е трудно да се коригират.
14. Какво е поведението, съответстващо на научната почтеност, когато експерименталните данни не съвпадат напълно с теорията?
- A) Изкуственият интелект да организира данните така, че да отговарят на теорията и да покаже графиката убедително
- B) Проучване на причините за несъответствието (систематична грешка, липса на модел, нов ефект) и честно докладване без промяна на данните ✔
- В) Пренебрегване на несъгласието и докладване само на точки, които отговарят
- D) Изтриване на данните и поставяне на нов резултат от експеримента
Обяснение: Искането на AI да „подреди данните така, че да отговарят по-добре на теорията“ е измама с данни и грубо нарушение на научната почтеност. Несъгласието е нещо, което трябва да се изследва, а не да се крие: то може да показва систематична грешка, статистическа флуктуация, липса на модел или интересен нов ефект. Данните се отчитат такива, каквито са, с несигурност; Крайната отговорност е на лицето и „инструментът го направи“ не е защита.