Halucynacje, etyka, poufność i rzetelność naukowa

Zyski:

• Umiejętność rozpoznawania form halucynacji w fizyce (fałszywa stała, fałszywe prawo, błąd jednostki, błędny wynik, fałszywa atrybucja) i wychwytywania ich odpowiednią metodą.
• Możliwość ochrony danych niepublikowanych, poufnych i osobowych poprzez anonimizację i minimalizację poprzez niewprowadzanie ich do nieautoryzowanych narzędzi
• Zrozumienie, że ostateczna odpowiedzialność spoczywa na człowieku, poprzez uczciwe raportowanie danych, bez ich upiększania i przejrzyste dokumentowanie wykorzystania sztucznej inteligencji.

W całym tym module omówiliśmy tę samą dyscyplinę w każdej jednostce: sztuczna inteligencja (AI) przyspiesza, weryfikuje ją człowiek. W tej ostatniej części skupiamy całą praktykę weryfikacji pod parasolem uczciwości naukowej, która jest najbardziej podstawową wartością nauk fizycznych. Fizyka to dążenie do wytwarzania weryfikowalnej wiedzy o naturze; U podstaw tego przedsięwzięcia leży uczciwość, powtarzalność i odpowiedzialność. Sztuczną inteligencję można wykorzystać do wzmocnienia tych wartości, ale niewłaściwie użyta zagraża im wszystkim. W tej części omówimy fizyczne formy halucynacji, odpowiedzialność za dane i prywatność, granice etyczne oraz dlaczego ostateczna odpowiedzialność zawsze spoczywa na ludziach.

Formy halucynacji w fizyce

Halucynacje – niezawodne wytwarzanie fałszywych informacji przez sztuczną inteligencję – przybierają w fizyce wyjątkowe i niebezpieczne formy. Rozpoznanie ich jest pierwszym krokiem do wyłapania:

rodzaj halucynacji

przykład

Metoda przechwytywania

Dopasowanie stałe/dane

Nieprawidłowa gęstość materiału

Potwierdzenie wiarygodnymi referencjami

Fałszywa formuła/prawo

Nieistniejąca „główna” nazwa

Wyprowadzenie z podręcznika/SymPy

Błąd jednostki/zamówienia

myląc eV z J

Analiza wymiarowa, kontrola jednostkowa

Nieprawidłowy wynik liczbowy

Nieprawidłowe wyjście kodu

Uruchom kod

apokryficzne przypisanie

nieistniejący artykuł

Weryfikacja z DOI

Błędnie podany wynik

Zniekształcenie prawdziwego artykułu

Przeczytaj oryginalne źródło

Wspólny wątek jest następujący: duży model językowy nie ma na celu mówienia prawdy, ale tworzenie „tekstu wyglądającego na możliwy”. W fizyce różnica między „pozornie możliwym” a „prawdziwym” jest właśnie powodem istnienia nauki.

Odpowiedzialność za dane, prywatność i własność intelektualną

Fizycy często pracują z danymi wrażliwymi: niepublikowanymi danymi eksperymentalnymi, projektami przed opatentowaniem, poufnymi pomiarami uzyskanymi w ramach współpracy przemysłowej, badaniami obejmującymi dane dotyczące zdrowia i bezpieczeństwa osobistego. Wprowadzenie takich danych do ogólnego narzędzia AI mogłoby udostępnić je osobom trzecim i ewentualnie danym szkoleniowym modelu – co oznaczałoby zarówno naruszenie poufności, jak i utratę priorytetu naukowego (prawo do dokonania odkrycia jako pierwszy). Zasada jest jasna: nie wprowadzaj do narzędzia AI niepublikowanych, poufnych ani osobistych danych, których Twoja organizacja nie zatwierdziła. Jeśli masz zamiar wejść, zanonimizuj, zminimalizuj (podaj tylko to, co konieczne) i zapoznaj się z warunkami danych narzędzia.

Uwaga: wprowadzenie niepublikowanych pomiarów laboratoryjnych lub poufnych parametrów projektowych firmy do narzędzia AI „w celu szybkiej analizy” może być nieodwracalnym błędem. Raz udostępnione dane nie mogą zostać przywołane. W razie wątpliwości nie wprowadzaj danych; Najpierw wyjaśnij politykę swojej instytucji i warunki prywatności narzędzia.

Granice etyczne i rzetelność naukowa

Użycie może być technicznie możliwe, a nawet legalne, ale nadal będzie nieetyczne. W fizyce istnieje kilka czerwonych linii, które dotyczą rzetelności naukowej:

Fabrykowanie lub upiększanie danych. Proszenie sztucznej inteligencji o „wygenerowanie punktów, które lepiej odpowiadają plonowi” lub „sprawienie, by wykres wyglądał bardziej przekonująco” jest oszustwem dotyczącym danych. Dane są raportowane w niezmienionej postaci; Wartości odstające są eliminowane tylko z udokumentowanego, uzasadnionego powodu.

Przejrzystość wkładu. Jeśli korzystałeś ze sztucznej inteligencji w badaniach – pisaniu kodu, poprawianiu języka, analizie – warto to wyjaśnić w odpowiednim miejscu. Wymaga tego wiele czasopism i instytucji.

Autorstwo i odpowiedzialność. AI nie jest pisarzem; nie może odpowiadać za treść utworu. Odpowiedzialność zawsze spoczywa na pisarzach-ludziach. Błędu spowodowanego przez sztuczną inteligencję nie można bronić stwierdzeniem „pojazd to zrobił”.

Powtarzalność. Wynik naukowy wymaga jasnego udokumentowania metody (w tym użytego kodu, parametrów, podpowiedzi AI), aby inni mogli ją odtworzyć.

trzy mini etui

Przypadek 1 – Wyciek poufnych danych. Jeden z badaczy wkleił dane pomiarowe wynikające z umowy o zachowaniu poufności zawartej z firmą do ogólnego narzędzia sztucznej inteligencji „w celu uzyskania szybkiego wykresu”. Później zdał sobie sprawę, że to narzędzie może przechowywać dane wejściowe. Nastąpiło naruszenie umowy i możliwa utrata pierwszeństwa. Lekcja: poufne dane nigdy nie są wprowadzane do niezatwierdzonego narzędzia.

Przypadek 2 — Druk upiększający. Jeden ze studentów poprosił sztuczną inteligencję o zmianę, która „sprawiłaby, że dane wyglądałyby bliżej teorii”, ponieważ dane eksperymentalne nie w pełni odpowiadały teorii. Jego doradca zauważył to i powstrzymał go: rozbieżność oznaczała albo systematyczny błąd w eksperymencie, albo interesującą nową fizykę – coś, co należy zbadać, a nie ukryć. Dane podano rzetelnie i wykryto błąd systematyczny.

Przypadek 3 – Większa przejrzystość. Jeden zespół napisał kod analizy danych do artykułu przy pomocy sztucznej inteligencji i wyraźnie stwierdził to w sekcji metod; udostępnił kod i podpowiedzi jako dodatkowe pliki. Sędzia przejrzał kod i zasugerował drobną poprawkę. Przejrzystość wyłapała błąd przed publikacją i zwiększyła wiarygodność badania.

Cztery szablony do kopiowania

1) Badanie przesiewowe halucynacji:

Przeskanuj następujące wyniki fizyki pod kątem halucynacji: czy są jakieś fałszywe stałe, fałszywe nazwy formuł/praw, błędy jednostek/porządków, niezweryfikowane wyniki numeryczne i niepotwierdzone atrybucje? Oznacz każdy podejrzany przedmiot i określ sposób jego weryfikacji (numer referencyjny, kod, DOI). Dane wyjściowe: [tutaj]

2) Wstępna kontrola prywatności danych:

Oceń następujące dane/tekst przed wprowadzeniem ich do narzędzia AI: czy zawierają informacje niepublikowane, poufne, osobiste lub chronione umową? Jeśli tak, zasugeruj, w jaki sposób mogę je zanonimizować lub zminimalizować. Jeśli nie jesteś pewien, powiedz „sprawdź zasady korporacyjne”. Treść: [tutaj]

3) Projekt oświadczenia o przejrzystości/wkładzie:

W jednym badaniu wykorzystałem sztuczną inteligencję do: [kodowania / korekty językowej / analizy itp.]. Napisz krótką wersję roboczą „Oświadczenia o używaniu sztucznej inteligencji”, która rzetelnie to dokumentuje. Należy również wskazać, które części zostały zweryfikowane przez ludzi.

4) Zapewnienie rzetelności naukowej:

Przeprowadź kontrolę integralności następującej analizy/wyniku: dane podano w niezmienionej postaci (bez upiększeń), czy zgłoszono niepewności, czy metoda jest udokumentowana w powtarzalny sposób, czy wykorzystanie sztucznej inteligencji jest przejrzyste? Wypisz wszelkie braki. Treść: [tutaj]

Słaba zachęta/silna zachęta

Słabe: „Edytuj plon, aby lepiej pasował do teorii i aby wykres był przekonujący”.

Wynik: oszustwo dotyczące danych; Bezpośrednie naruszenie uczciwości naukowej, nieodwracalna utrata reputacji.

Strong: „Wydajność nie do końca zgadza się z teorią. Pomóż mi przeanalizować możliwe przyczyny tej rozbieżności (błąd systematyczny, fluktuacja statystyczna, brakujący model lub nowy efekt); zasugeruj, jak uczciwie zgłosić rozbieżność bez zmiany danych”.

Wynik: uczciwe, badawcze i wierne podejście do rzetelności naukowej; Konflikt staje się okazją do odkryć.

Typowe błędy

• Mylenie halucynacji z pewnością siebie. To, że sztuczna inteligencja mówi pewnie, nie gwarantuje dokładności; Nawet najbardziej precyzyjne zdanie można sfabrykować.
• Wprowadzanie poufnych danych do pojazdu bez zgody. Raz udostępnionych danych nie można odzyskać; Utracono priorytet i poufność.
• Upiększanie danych. Zamiana danych na „teorię dopasowania” to jedno z najpoważniejszych przestępstw naukowych.
• Ukrywanie wykorzystania AI. Przejrzystość jest wymogiem uczciwości i jest obowiązkowa w wielu instytucjach.
• Przerzucanie odpowiedzialności na pojazd. „AI to zrobiła” nie jest obroną; Ostateczna odpowiedzialność zawsze spoczywa na człowieku.

Wskazówka: na koniec każdego badania wykorzystującego sztuczną inteligencję zadaj sobie trzy pytania: (1) Czy każdy fakt, liczba i atrybucja w tych wynikach zostały niezależnie zweryfikowane? (2) Czy dane, których użyłem, zawierały informacje poufne/osobowe, których nie powinienem podawać? (3) Czy udokumentowałem wykorzystanie sztucznej inteligencji i metodologię na tyle przejrzyście, aby ktoś inny mógł je odtworzyć? Jeśli nie możesz odpowiedzieć jednoznacznie „tak” na te trzy pytania, badanie nie jest jeszcze zakończone.

Podsumowując

Uczciwość naukowa jest podstawą istnienia fizyki i jest jeszcze ważniejsza w dobie sztucznej inteligencji. Halucynacje pojawiają się w fizyce w postaci fałszywych stałych, fałszywych praw, błędów jednostkowych, fałszywych wniosków i fałszywych odniesień; każdy jest rejestrowany przy użyciu własnej, unikalnej metody weryfikacji. Dane poufne i osobowe nie są wprowadzane do nieautoryzowanych narzędzi; dane nigdy nie są upiększane; Wykorzystanie sztucznej inteligencji jest przejrzyście udokumentowane; a ostateczna odpowiedzialność zawsze spoczywa na człowieku. W tym module nauczysz się tylko jednej dyscypliny: sztuczna inteligencja to potężny akcelerator, ale weryfikacja, integralność i odpowiedzialność spoczywają na barkach kompetentnego fizyka, czyli Ciebie. Niezweryfikowany wynik sztucznej inteligencji nigdy nie zastępuje potwierdzenia fizyka.

Zadanie aplikacji

Wybierz wynik AI (konto, analizę lub tekst), który wygenerowałeś w tym module. 1. ekran halucynacji z szablonem: czy istnieją jakieś fikcyjne stałe, fałszywe formuły, błędy jednostkowe lub niezweryfikowane atrybucje? Korzystając z szablonu 2, oceń, czy dane, których używasz, są przyjazne dla prywatności. Na koniec przygotuj krótkie oświadczenie dotyczące wykorzystania AI/przejrzystości za pomocą szablonu 3. Zapisz w 5–6 zdaniach: co ujawnił skan, jakie kroki weryfikacyjne podjąłeś?

lista kontrolna

• [ ] Niezależnie zweryfikowałem każdą stałą, formułę i wynik.
• [ ] Sprawdziłem każdy cytat podając DOI/źródło.
• [ ] Sprawdziłem, czy nie wprowadziłem do narzędzia danych poufnych/osobowych bez zgody.
• [ ] Podałem dane takimi, jakie są, bez upiększeń.
• [ ] Udokumentowałem wykorzystanie sztucznej inteligencji w sposób przejrzysty i powtarzalny.
• [ ] Zaakceptowałem fakt, że ostateczna odpowiedzialność spoczywa na mnie; Nie przypisuję żadnej winy pojazdowi.

Egzamin modułowy

1. Które z poniższych jest najdokładniejszym pozycjonowaniem sztucznej inteligencji w fizyce?

• A) Sztuczna inteligencja to asystent kodu, wersji roboczej i edycji; Odpowiedzialność za jednostki, rangę, weryfikację i decyzje etyczne spoczywa na człowieku ✔
• B) Sztuczna inteligencja to kalkulator i podawane przez niego wyniki liczbowe są zawsze dokładne
• C) Sztuczna inteligencja działa tylko w obliczeniach, nie ma nic wspólnego z analizą eksperymentów i nauczaniem
• D) Ponieważ sztuczna inteligencja jest bardziej bezstronna niż ludzie, decyzje dotyczące jednostek i wyników należy jej pozostawić.

Opis: Sztuczna inteligencja; Jest to asystent, który pisze kod, tworzy wersje robocze, tworzy i organizuje frameworki derywacyjne. Jednakże ostateczna odpowiedzialność za weryfikację wyniku jednostkowego i rzędowego, zapewnienie mu zgodności z prawami zachowania, stałym i referencyjnym potwierdzeniem należy do kompetentnego fizyka. Model wielkiego języka nie jest kalkulatorem ani silnikiem fizycznym; to generator tekstu, który generuje „następne najbardziej prawdopodobne słowo”, a jego niezweryfikowane dane wyjściowe mogą prowadzić do nieprawidłowej wartości, projektu lub wyniku.

2. Jakie jest najdokładniejsze przybliżenie wyniku numerycznego kodu obliczeniowego drukowanego w dużym modelu językowym?

• A) Ufając liczbie, o której model mówi „ten kod daje to”, ponieważ to on napisał kod
• B) Uruchom kod samodzielnie i zobacz wynik; ✔ nie poleganie na werbalnych przewidywaniach numerycznych modelu
• C) Zaakceptowanie kodu jako poprawnego po prostu patrząc na sposób jego odczytania, bez jego uruchamiania
• D) Jeśli wynik zostanie ponownie zadany bezpośrednio modelowi i wyświetli tę samą liczbę, zostanie uznany za prawidłowy.

Objaśnienie: LLM może „obliczyć” wynik kodu, który napisał w głowie i zwrócić błędną liczbę; natomiast uruchomienie tego samego kodu daje poprawny wynik. Deterministyczny jest kod, który jest wykonywany; Nie jest to werbalna prognoza modelu. Dlatego kod powinien być zawsze uruchamiany we własnym środowisku, a wynik powinien być widoczny.

3. Jaki jest najskuteczniejszy sposób sprawdzenia, czy symulacja beztarciowego układu dynamicznego dokładnie odzwierciedla fizykę?

• A) Sprawdzenie, czy wykres wygląda schludnie i przekonująco wizualnie
• B) Przeprowadzenie symulacji z tylko jednym krokiem czasowym i zaufaniem do wyniku
• C) Monitorowanie wielkości, którą należy zachować, np. energii całkowitej lub pędu, i sprawdzanie, czy pozostaje stała ✔
• D) Ocena symulacji na podstawie szybkości jej działania

Wyjaśnienie: W układzie bez tarcia należy zachować całkowitą energię (i pęd, jeśli występuje). Monitorowanie tej wielkości podczas symulacji i sprawdzanie, czy pozostaje stała, ujawnia błędy numeryczne (np. prymitywna metoda Eulera stale zwiększająca energię). Jeśli energia dryfuje, symulacja jest zawodna; To, że generuje ładną grafikę, nie oznacza, że ​​jest poprawne.

4. Które z poniższych podejść jest prawidłowe przy dopasowywaniu modelu do danych eksperymentalnych?

• A) Wybór wielomianu wyższego stopnia, który najlepiej pasuje do danych, ponieważ przechodzi przez wszystkie punkty
• B) Podanie parametrów w postaci pojedynczej liczby bez dwuznaczności
• C) Deklarowanie jakości dopasowania po prostu patrząc na to, jak pięknie wygląda krzywa.
• D) Wybór modelu z fizyki, podanie parametrów wraz z ich niepewnościami i ocena dopasowania z resztami ✔

Wyjaśnienie: Model należy wybrać na podstawie prawa fizycznego, któremu musi podlegać zdarzenie, a nie na podstawie danych i zastanawiania się, który z nich najlepiej pasuje. Przy wystarczającej liczbie wolnych parametrów (np. Wielomianu wysokiego stopnia) można dokonać „idealnego”, ale fizycznie pozbawionego znaczenia dopasowania (nadmiernego dopasowania) do dowolnych danych. Parametry należy podać wraz z ich niepewnością, jakość dopasowania należy ocenić za pomocą reszt i sprawdzić wiarygodność fizyczną.

5. Który rodzaj niepewności zmniejsza wielokrotne powtarzanie pomiaru?

• A) Losowa niepewność; niepewność systematyczna nie zmniejsza się wraz z powtarzaniem, należy znaleźć przyczynę i ją skorygować ✔
• B) Niepewność systematyczna; ponieważ eliminuje błąd ponownej kalibracji
• C) Całkowicie eliminuje obie niejasności
• D) Nie zmniejsza żadnego z nich; niepewność jest niezależna od liczby pomiarów

Wyjaśnienie: Powtarzany pomiar zmniejsza niepewność losową (z błędem standardowym średniej std/√N) wynikającą z losowego rozkładu wyników. Natomiast niepewność systematyczna to błąd, który zawsze odchyla się w tym samym kierunku (na przykład nieprawidłowo skalibrowana waga) i nie zmniejsza się wraz z powtarzaniem; Jednak przyczynę można znaleźć i naprawić. Zgłaszanie „bardzo małej” niepewności w przypadku wielu pomiarów może ukryć podstawowy błąd systematyczny.

6. Jaki jest najbardziej niezawodny i niezależny sposób weryfikacji wzoru propagacji błędu uzyskanego przez sztuczną inteligencję?

• A) Poleganie na formule, która ma wydawać się płynna i przekonująca
• B) Kontrola krzyżowa z obliczeniami Monte Carlo, które losowo próbkują dane wejściowe z ich niepewnością ✔
• C) Ponowne zadawanie tej samej formuły sztucznej inteligencji i oczekiwanie, że da ten sam wynik
• D) Bezpośrednie zebranie niepewności i porównanie ich z wynikiem

Wyjaśnienie: Sztuczna inteligencja często miesza współczynniki pochodnych cząstkowych i strukturę pierwiastka kwadratowego we wzorach propagacji błędów. Skutecznym sposobem na osiągnięcie tego niezależnie jest sprawdzanie krzyżowe metodą Monte Carlo: losowe próbkowanie każdego wejścia z jego niepewnością, obliczanie funkcji tysiące razy i porównywanie odchylenia standardowego wyniku z niepewnością podaną we wzorze. Spotkanie dwóch niezależnych metod zwiększa pewność.

7. Jaki jest prawidłowy podział pracy pomiędzy AI i SymPy w długim wywodzie fizyki symbolicznej?

• A) SymPy generuje pomysł wyprowadzenia, AI precyzyjnie weryfikuje każdy krok
• B) Obydwa są niepotrzebne; długie wyprowadzenia należy wykonywać wyłącznie ręcznie
• C) AI buduje framework derywacji, SymPy precyzyjnie weryfikuje każdy krok algebraiczny ✔
• D) Sztuczna inteligencja sama dokonuje wyprowadzenia, nie ma potrzeby weryfikacji, bo wygląda płynnie

Wyjaśnienie: Sztuczna inteligencja opracowuje strategię wyprowadzania i wyjaśnia ścieżkę, ale w długiej algebrze popełnia błędy w znakach, terminy ucieczki i nieprawidłowe uproszczenia. SymPy natomiast działa według zasad i precyzyjnie weryfikuje każdy krok algebraiczny. Najpotężniejszy przepływ pracy łączy te dwie rzeczy: pobierz szkielet ze sztucznej inteligencji, pobierz każdy krok za pomocą SymPy, przetestuj wynik za pomocą odwrotności pochodnej-całki i przypadku granicznego.

8. Co analiza wymiarowa mówi o dokładności wzoru fizycznego?

• A) Analiza wymiarowa zawsze ostatecznie dowodzi, że wzór jest poprawny
• B) Analiza wymiarowa nie ma praktycznego zastosowania w fizyce
• C) Analiza wymiarowa podaje jedynie stały współczynnik wzoru, a nie jego spójność
• D) Formuła, która nie zachowuje wymiarów, jest całkowicie błędna; analiza wymiarowa wychwytuje błąd bez liczenia liczb ✔

Wyjaśnienie: Obie strony równania fizycznego muszą być równe wymiarowo, zanim będą mogły być równe liczbowo. Formuła, która nie zachowuje wymiarów, jest po prostu błędna; jest to obliczane na podstawie obliczeń licznika. Analiza wymiarowa nie dowodzi ostatecznie, że wzór jest poprawny (może pomijać bezwymiarową stałą współczynnik lub kąt), ale niezbicie dowodzi, że jest on nieprawidłowy; więc jest to pierwszy i najtańszy audyt każdego konta.

9. Jaki jest najważniejszy pierwszy krok przy obliczaniu energii kinetycznej obiektu poruszającego się z prędkością 36 km/h?

• A) Przekształcenie wszystkich danych wejściowych w jeden układ jednostek (SI); Zamiana 36 km/h na 10 m/s ✔
• B) Wpisanie prędkości w km/h bezpośrednio do wzoru, bez przeliczania jej na m/s
• C) Mnożenie samych liczb bez uwzględnienia jednostek
• D) Zakładając, że po obliczeniu wyniku nie ma potrzeby sprawdzania kolejności

Objaśnienie: Wzory oparte na SI (E = ½mv²) oczekują prędkości w m/s. Mylenie km/h z m lub godzin z sekundami w obliczeniach jest jednym z najczęstszych błędów w fizyce. Najpierw wszystkie dane wejściowe należy przeliczyć na jeden układ jednostek (SI): 36 km/h = 10 m/s. Ponieważ sztuczna inteligencja może popełniać ciche błędy w konwersjach jednostek złożonych, konwersję tę należy zweryfikować ręcznie lub za pomocą narzędzia obsługującego jednostki.

10. Która praktyka jest poprawna pod względem „uczciwości” na wykresie naukowym?

• A) Ukrywanie niepewności, ponieważ słupki błędów zaśmiecają wykres
• B) Oznacz osie jednostkami, wybierz skalę bez zniekształceń i pokaż niepewność słupkami błędów ✔
• C) Zawsze zaczynaj oś Y w zakresie, który pokaże najbardziej dramatyczną różnicę
• D) Pozostawienie osi bez jednostek, gdyż czytelnik może odgadnąć jednostkę

Opis: Uczciwy wykres naukowy; oznacza osie wielkością i jednostką, świadomie i bez zniekształceń wybiera skalę (rozpoczynanie osi Y od zera w przypadku przesady jest mylące) i uwidacznia niepewność pomiaru za pomocą słupków błędów. Ukrywanie niepewności sprawia, że ​​dane wydają się pewne i stwarza fałszywe wrażenie stronniczości lub zgodności. Im bardziej przekonująca jest grafika, tym ważniejsza jest kontrola integralności.

11. Jakie jest największe ryzyko i jaka jest właściwa dyscyplina przy uzyskiwaniu wsparcia w zakresie literatury i cytatów od sztucznej inteligencji?

• A) Sztuczna inteligencja marnuje czas, ponieważ bardzo wolno generuje cytaty
• B) Źródła sugerowane przez sztuczną inteligencję są zawsze prawdziwe, nie ma potrzeby ich weryfikacji
• C) Sztuczna inteligencja może tworzyć atrybucje, które wydają się prawdziwe, ale nie istnieją; Każde cytowanie musi zostać zweryfikowane za pomocą DOI/źródła, a literaturę należy znaleźć w aktualnej bazie danych ✔
• D) Zmyślone cytaty są łatwo rozpoznawalne, ponieważ zawsze używają nieprawdziwych nazw czasopism

Objaśnienie: Duży model językowy nie jest połączony z rzeczywistą bazą danych; Naśladując wzorce cytowań, może tworzyć artykuły zawierające prawdziwą nazwę czasopisma, wiarygodnych autorów i rozsądny rok, ale całkowicie nieistniejące. Dlatego literaturę należy wyszukiwać w prawdziwych bazach danych, sztuczną inteligencję należy wykorzystywać jedynie do podsumowania/tłumaczenia rzeczywistego tekstu, a każde cytowanie powinno być niezależnie weryfikowane pod kątem DOI lub tytułu. Niezweryfikowany cytat stanowi naruszenie uczciwości akademickiej.

12. Czego potrzeba, aby uzyskać wiarygodne wyniki, gdy sztuczna inteligencja podsumowuje artykuł?

• A) Wystarczy podać tytuł artykułu, model zna treść
• B) Korzystanie z podsumowania bezpośrednio, bez sprawdzania go, ponieważ wygląda płynnie
• C) Dwukrotne poproszenie modelu o to samo podsumowanie i przyjęcie go jako prawidłowego, jeśli jest podobne.
• D) Podanie do modelu oryginalnego tekstu i porównanie powstałego podsumowania z tekstem oryginalnym w celu sprawdzenia, czy nic nie zostało dodane/zniekształcone ✔

Wyjaśnienie: Samo nadanie sztucznej inteligencji tytułu artykułu i poproszenie o streszczenie spowoduje, że model przedstawi „wiarygodne podsumowanie” nawet nie widząc artykułu; To podsumowanie może być odwrotnością prawdy. Wiarygodne podsumowanie można uzyskać dopiero po wprowadzeniu do modelu oryginalnego tekstu i porównaniu wygenerowanego podsumowania z tekstem oryginalnym. Dodatkowo należy sprawdzić, czy w podsumowaniu nie są dodawane wyniki lub liczby, których nie ma w tekście.

13. Które stwierdzenie jest prawdziwe w przypadku wydajności sztucznej inteligencji w produkcji materiałów do kursów fizyki?

• A) Każde rozwiązanie powinno zostać niezależnie zweryfikowane, należy określić granice analogii, a rozpraszacze powinny celować w rzeczywiste nieporozumienia ✔
• B) Klucz odpowiedzi generowany przez sztuczną inteligencję jest zawsze poprawny, nie ma potrzeby audytu
• C) Analogie są doskonałe we wszystkich przypadkach, nie ma potrzeby określania ich granic.
• D) Rozpraszacze powinny być dobierane całkowicie losowo, gdyż charakter błędnego wyboru jest nieistotny.

Opis: sztuczna inteligencja szybko generuje pytania, przykłady i analogie, ale sprawdzenie jest niezbędne w trzech punktach: rozwiązanie każdego problemu należy zweryfikować niezależnie (ręcznie lub za pomocą kodu), ponieważ model może popełniać błędy w znakach/jednostkach w rozwiązaniu; Każda analogia musi zostać podana w miejscu, w którym się załamuje, w przeciwnym razie spowoduje nowy błąd; Elementy rozpraszające powinny skupiać się na prawdziwych błędnych przekonaniach. Odpowiedzialność spoczywa na nauczycielu; Nieprawidłowy klucz odpowiedzi powoduje, że uczniowie mają nieporozumienia, które są trudne do skorygowania.

14. Jakie jest zachowanie zgodne z rzetelnością naukową, gdy dane eksperymentalne nie w pełni zgadzają się z teorią?

• A) Sztuczna inteligencja organizuje dane tak, aby pasowały do teorii i przekonująco przedstawiały wykres
• B) Zbadanie przyczyn rozbieżności (błąd systematyczny, brak modelu, nowy efekt) i uczciwe raportowanie bez zmiany danych ✔
• C) Ignorowanie sporów i zgłaszanie tylko punktów, które pasują
• D) Usunięcie danych i dopasowanie nowego wyniku eksperymentu

Wyjaśnienie: Wymaganie od sztucznej inteligencji „uporządkowania danych tak, aby lepiej pasowały do ​​teorii” jest oszustwem dotyczącym danych i rażącym naruszeniem rzetelności naukowej. Rozbieżność zdań jest czymś, co należy zbadać, a nie ukryć: może wskazywać na błąd systematyczny, fluktuację statystyczną, brak wzorca lub nowy, interesujący efekt. Dane podaje się w niezmienionej postaci, z niepewnością; Ostateczna odpowiedzialność spoczywa na osobie, a stwierdzenie „narzędzie to zrobiło” nie jest obroną.