Człowiek w eksperymentach: etyka, prywatność, odpowiedzialność i kompleksowy przepływ pracy

Zyski:

• Włączenie zasady ludzkiej do kompleksowego przebiegu eksperymentu i możliwość oddzielenia sztucznej inteligencji od ról człowieka na każdym etapie
• Możliwość pracy z ogólnymi przykładami proxy bez podawania poufnej struktury i danych ogólnej sztucznej inteligencji
• Możliwość umieszczania bramek zatwierdzających przez ludzi w krytycznych punktach i przejmowania ostatecznej odpowiedzialności dzięki przejrzystości i identyfikowalności

W tej ostatniej jednostce łączymy cały moduł w jedną strukturę: human-in-the-loop. Zasada ta mówi, że niezależnie od tego, jak zdolna jest sztuczna inteligencja, człowiek musi zrozumieć, kontrolować i zatwierdzać każdy krytyczny punkt decyzji chemicznej. W tej części najpierw wyjaśnimy aspekty etyczne i poufności, następnie ustalimy kompleksowy przepływ pracy, który przenosi cząsteczkę od pomysłu do raportu, i zobaczymy, jak sztuczna inteligencja i ludzie dzielą pracę na każdym etapie. Celem jest przekształcenie wszystkiego, czego się nauczyłeś, w system, który pasuje do codziennej pracy.

Prywatność: czego nie dawać AI?

Chemia często pracuje z poufnymi informacjami: nieopatentowanymi cząsteczkami, tajnymi firmowymi drogami syntezy, niepublikowanymi danymi, próbkami pacjentów. Tekst wprowadzony do publicznej usługi AI może być przechowywany i przetwarzany zgodnie z polityką usługi. Dlatego:

• Zanim udostępnisz niepublikowane oryginalne struktury (cząsteczki przed patentem) publicznej sztucznej inteligencji, sprawdź politykę swojej instytucji.
• Nigdy nie wprowadzaj danych osobowych/pacjentów (próbek klinicznych) w formie umożliwiającej identyfikację.
• Przed udostępnieniem ścieżek syntezy tajemnic handlowych zapoznaj się z umowami o zachowaniu poufności.
• W razie potrzeby zdecyduj się na wewnętrzne/niestandardowe narzędzia do wdrażania sztucznej inteligencji.

Uwaga: pytanie ogólnej sztucznej inteligencji o cząsteczkę może oznaczać ujawnienie struktury tej cząsteczki. W przypadku unikalnej konstrukcji, która nie została opatentowana, może to zagrozić Twojemu priorytetowi (prawu patentowemu). Poproś o ukryte struktury z przykładami ogólnymi/zastępczymi.

Etyka: cztery zasady

1. Przejrzystość: nie ukrywaj, gdzie korzystasz ze sztucznej inteligencji; Przestrzegaj zasad publikacji i instytucji.
2. Odpowiedzialność: za ostateczną decyzję odpowiedzialny jest człowiek; „Zasugerowana sztuczna inteligencja” nie usprawiedliwia naruszenia bezpieczeństwa lub integralności.
3. Nieszkodzenie: nie używaj sztucznej inteligencji do niebezpiecznych/nielegalnych syntez i zastosowań podwójnego zastosowania (potencjał broni).
4. Uczciwość i uczciwość: nie zniekształcaj danych, nie upiększaj wyników, nie wymyślaj atrybucji.

Kompleksowy przepływ pracy: cząsteczka → raport

Teraz połączmy cały moduł w jeden przepływ. Na każdym etapie zwracaj uwagę na rozróżnienie pomiędzy tym, co robi sztuczna inteligencja, a tym, co robi człowiek.

Scena

Rola sztucznej inteligencji

(Krytyczna) rola człowieka

1. Idea/literatura

Podsumowanie koncepcji, wyszukiwane hasło

Znalezienie prawdziwego źródła, potwierdzenie atrybucji

2. Opis konstrukcji

generowanie UŚMIECHÓW

Uwierzytelnianie za pomocą RDKit, InChIKey

3. Plan syntezy

Retrosynteza, alternatywy

Potwierdzenie literatury, wybór ścieżki

4. Bezpieczeństwo

Podsumowanie karty charakterystyki, wstępna niezgodność

Odczytanie karty charakterystyki, zatwierdzenie, decyzja PPE

5. Zastosowanie

(Brak)

Wszystkie prace laboratoryjne

6. Analiza

Obsługa komentarzy widma

Ostateczne przypisanie struktury

7. Przetwarzanie danych

pisanie kodu

Uruchom kod, zweryfikuj wynik

8. Dokumentacja

Formatowanie, kontrola

Obserwacja, odchylenie, podpis

9. Raportowanie

projekt tekstu

Weryfikacja numeru/cytowania, odpowiedzialność

Poniższa tabela pokazuje, jak 11 jednostek modułu jest rozmieszczonych w jednym zadaniu. AI przyspiesza; ludzie sprawdzają i posiadają.

Krok po kroku: konfiguracja przepływu pracy

1. Wyjaśnij role: w przypadku każdego zadania „Czy decyduje sztuczna inteligencja czy człowiek?” ustalić od początku.
2. Skonfiguruj filtr prywatności: nie przekazując niczego sztucznej inteligencji, możesz zapytać „czy to prywatne/prywatne?” zapytać.
3. Umieść bramki weryfikacyjne: etap weryfikacji na końcu każdego etapu (tabela w części 10).
4. Zachowaj identyfikowalność: jakie dane wyjściowe pochodzą od sztucznej inteligencji, w jaki sposób zostały zweryfikowane i kto je zatwierdził.
5. Ustaw punkty zatwierdzenia: Zatwierdzenie przez człowieka jest obowiązkowe w krytycznych punktach, takich jak bezpieczeństwo i wynik końcowy.
6. Informacje zwrotne: Rejestruj każdy wykryty błąd i usprawnij przepływ pracy.

Cztery szablony do kopiowania

1) Filtr wstępny prywatności:

Zanim zadasz pytanie, zastanów się nad następującą kwestią: Treść: [O CO PYTAM] Zadanie: Czy ta treść zawiera niepublikowane oryginalne artefakty, dane osobowe lub tajemnice handlowe? Jeśli tak, zasugeruj, jak mogę przepisać pytanie, używając przykładu ogólnego/zastępczego, który ukryje strukturę.

2) Bramka weryfikacji końca fazy:

Ukończyłem następującą fazę: [FAZA, np. plan syntezy]. Zadanie: Wypisz wszystkie elementy, które należy zweryfikować na tym etapie (numer, cytat, struktura, zabezpieczenie). Dla każdego napisz metodę weryfikacji i kto powinien ją potwierdzić. Zaznacz wszystkie otwarte elementy, które należy zamknąć przed przejściem do następnego kroku.

3) Plan podziału ról człowieka i sztucznej inteligencji:

Mój projekt: [KRÓTKI OPIS]. Zadanie: Podziel projekt na etapy. Dla każdego etapu rozróżnij: - Co może zrobić sztuczna inteligencja (szkic, kod, podsumowanie) - O czym musi zdecydować człowiek (bezpieczeństwo, konsekwencje, zatwierdzenie). Zaznacz punkty krytyczne, za które ostateczna odpowiedzialność spoczywa na człowieku.

4) Kontrola integralności raportu:

Poniżej znajduje się wersja robocza mojego raportu:[PROJEKT]Zadanie: Sprawdź i zaznacz następujące elementy:1) Czy są jakieś niezweryfikowane liczby/cytaty?2) Czy użycie sztucznej inteligencji jest wyraźnie określone?3) Czy dane wydają się „upiększone” (ukrywanie wartości odstających)?4) Czy są jakieś luki w zakresie bezpieczeństwa/etyki? [SPRAWDŹ], jeśli nie masz pewności.

Słaba zachęta/silna zachęta

Słabe:

Jaki jest najlepszy sposób syntezy nowej tajnej cząsteczki naszej firmy? [rzeczywista oryginalna struktura]

To udostępnia pierwotną strukturę przedpatentową ogólnej usłudze; Zagraża to priorytetowi i poufności.

Mocny:

Chciałbym poznać ogólną strategię retrosyntezy dla podobnej struktury klasy aromatycznych ketonów. Wyjaśnij na ogólnym przykładzie (pochodna acetofenonu), nie podając konkretnej, oryginalnej struktury. Zastosuję tę strategię do mojej własnej cząsteczki we własnym zakresie.

Różnica: bez ujawniania ukrytej struktury uzyskano tę samą wiedzę, co w przypadku ogólnego przykładu zastępczego.

mini etui

Przypadek 1 – Ujawniono pierwotną strukturę. Przed złożeniem wniosku o patent zespół zapytał ogólną sztuczną inteligencję o unikalną cząsteczkę. Jednostka prawna stwierdziła, że ​​może to podważyć pierwszeństwo; Proces został opóźniony. Lekcja: poproś o unikalne struktury z ogólnym proxy, przestrzegaj polityki prywatności.

Przypadek 2 — Zgoda człowieka zapobiegła wypadkowi. W zautomatyzowanym przepływie pracy sztuczna inteligencja stworzyła projekt procedury i miała zostać bezpośrednio wdrożona; Jednak doświadczony chemik wyłapał niezgodną parę odczynników w przepływowej bramce „prześwitu bezpieczeństwa”. Lekcja: w krytycznych momentach bramki akceptacji ludzi ratują życie.

Przypadek 3 — Dyscyplina od końca do końca. Student studiów magisterskich zrealizował cały moduł w jednym projekcie: streszczenie literatury + weryfikacja cytowań faktycznych za pomocą AI, weryfikacja struktury za pomocą RDKit, analiza danych za pomocą kodu, bezpieczeństwo za pomocą SDS, rzetelna dokumentacja, przejrzyste raportowanie. Rezultatem był zarówno szybszy, jak i solidniejszy; w obronie pracy magisterskiej „Jak zweryfikowałeś AI?” Odpowiedział jasno na pytanie. Lekcja: Sztuczna inteligencja + dyscyplina weryfikacyjna najlepiej działają razem.

Typowe błędy

• Nadanie ukrytej struktury ogólnej sztucznej inteligencji. Narusza to pierwszeństwo patentu i tajemnicę handlową.
• Wprowadzanie umożliwiających identyfikację danych osobowych/pacjenta. Naruszenie prywatności i ryzyko prawne.
• Omijanie bramek zatwierdzających. Bezpieczeństwo i ostateczny postęp bez ludzkiej zgody.
• Przeniesienie odpowiedzialności na sztuczną inteligencję. „Zasugerowana sztuczna inteligencja” nie usprawiedliwia błędów.
• Unikanie przejrzystości. Ukrywanie wykorzystania sztucznej inteligencji podważa uczciwość.
• Ignorowanie ryzyka podwójnego zastosowania. Wykorzystywanie sztucznej inteligencji do szkodliwych aplikacji jest nieetyczne.

Wskazówka: zaprojektuj swój przepływ pracy uwzględniając „każdą krytyczną decyzję, którą człowiek zatrzymuje i zatwierdza”. Uczyń AI ogniwem przyspieszającym łańcuch, a węzłem utrzymującym łańcuch jest zawsze człowiek.

Podsumowując

• Zasada ludzka w eksperymentach: każdą krytyczną decyzję chemiczną człowiek rozumie, nadzoruje i zatwierdza.
• Prywatność: nie udostępniaj publicznej sztucznej inteligencji unikalnych artefaktów, danych osobowych i tajemnic handlowych; Użyj ogólnego serwera proxy.
• Etyka: przejrzystość, odpowiedzialność, niekrzywdzenie, uczciwość to cztery podstawowe zasady.
• W kompleksowym przepływie pracy sztuczna inteligencja przyspiesza na każdym etapie; ludzie sprawdzają i posiadają.
• Umieść bramki zatwierdzające przez człowieka w krytycznych punktach (bezpieczeństwo, wynik końcowy) i zachowaj identyfikowalność.

Zadanie aplikacji

Wybierz własny projekt (rzeczywisty lub hipotetyczny) i zaprojektuj od początku do końca przepływ pracy oparty na sztucznej inteligencji. Dostosuj powyższą tabelę 9 etapów do własnego projektu: co zrobi sztuczna inteligencja na każdym etapie, co zatwierdzi człowiek? Zastosuj filtr wstępny prywatności: jakich informacji nie przekazujesz sztucznej inteligencji, jak je uogólnić? Zdefiniuj co najmniej dwie bramki zatwierdzania przez człowieka i jedną metodę identyfikowalności. Napisz jednostronicowy „plan przepływu pracy i weryfikacji”.

lista kontrolna

• [ ] W eksperymencie zrozumiałem ludzką zasadę i dlaczego było to konieczne.
• [ ] Generyzuję ukrytą strukturę/dane bez podawania ich ogólnej sztucznej inteligencji.
• [ ] Przestrzegam zasad przejrzystości, odpowiedzialności, niezłośliwości i uczciwości.
• [ ] Oddzieliłem role AI od człowieka w kompleksowym przepływie pracy.
• [ ] Umieszczam bramki akceptacji ludzi w krytycznych punktach.
• [ ] Śledzę, jakie dane wyjściowe pochodzą od sztucznej inteligencji i w jaki sposób są one weryfikowane.

Egzamin modułowy

1. Które z poniższych jest najdokładniejszym pozycjonowaniem sztucznej inteligencji w chemii?

• A) Sztuczna inteligencja to asystent kodu, wersji roboczej i edycji; Odpowiedzialność za strukturę, liczebność, zasoby, bezpieczeństwo i decyzje etyczne spoczywa na człowieku ✔
• B) Sztuczna inteligencja jest silnikiem chemicznym i podawane przez nią masy cząsteczkowe są zawsze dokładne.
• C) Sztuczna inteligencja sprawdza się jedynie w przeglądzie literatury, nie ma nic wspólnego z analizą i bezpieczeństwem
• D) Ponieważ sztuczna inteligencja jest bardziej bezstronna niż ludzie, decyzje dotyczące bezpieczeństwa należy jej pozostawić

Opis: Sztuczna inteligencja; Jest to asystent, który pisze kod, tworzy szkice, buduje szkielet retrosyntezy, pomaga i organizuje interpretację widma. Jednakże deterministyczne obliczenie masy cząsteczkowej i stechiometrii, weryfikacja struktury za pomocą RDKit, potwierdzenie cytatów w bazie danych, decyzja o bezpieczeństwie za pomocą SDS/GHS i ostateczna odpowiedzialność należą do kompetentnego chemika. Model wielkiego języka nie jest kalkulatorem ani silnikiem chemicznym; Jest to generator tekstu, który generuje „następne najbardziej prawdopodobne słowo”, a jego niezweryfikowane dane wyjściowe mogą prowadzić do nieprawidłowej struktury, liczby lub zagrożenia.

2. Jaki jest najpewniejszy sposób opisania cząsteczki sztucznej inteligencji?

• A) Zapis tylko popularnej tureckiej nazwy
• B) Nadanie reprezentacji struktury typu SMILES i potwierdzenie tożsamości za pomocą InChIKey ✔
• C) Mówię tylko o masie cząsteczkowej
• D) Wystarczy wpisać znak towarowy

Wyjaśnienie: Nazwy (zwłaszcza nazwy handlowe i synonimy) są niejednoznaczne i mogą prowadzić do niewłaściwej cząsteczki. Nadanie cząsteczce zapisu struktury, takiego jak SMILES, zapewnia precyzję; Jego tożsamość zostaje potwierdzona w bazie danych za pomocą InChIKey. Ponadto SMILES nadawane przez sztuczną inteligencję muszą zostać przeanalizowane za pomocą RDKit i zweryfikowane poprzez kanonizację.

3. Jak wykorzystać masę cząsteczkową podaną przez sztuczną inteligencję?

• A) Używając go bezpośrednio, ponieważ sztuczna inteligencja jest niezawodna w liczbach
• B) Oblicz i zweryfikuj niezależnie od wzoru ręcznie lub za pomocą RDKit ✔
• C) Wystarczy zapytać inną sztuczną inteligencję i porównać
• D) Masa cząsteczkowa jest nieistotna, nie ma potrzeby weryfikacji

Wyjaśnienie: Masa cząsteczkowa jest wielkością obliczoną deterministycznie ze wzoru cząsteczkowego. Zatem pytanie o model języka jest najsłabszym sposobem; Należy ją samodzielnie zweryfikować za pomocą narzędzia typu RDKit lub wyliczyć ręcznie ze wzoru. Model językowy może dopasować takie liczby do „prawdopodobnie wyglądającej” wartości.

4. Co należy zrobić zanim skorzystamy z cytatu z literatury (artykułu/DOI) zwróconego przez sztuczną inteligencję?

• A) Nic; Jeśli sztuczna inteligencja daje odniesienie, to jest prawdziwe
• B) Wystarczy spojrzeć na tytuł, aby wyglądał przekonująco.
• C) Potwierdzenie każdego cytatu i DOI poprzez dekodowanie ich w bazie danych (doi.org, Crossref) ✔
• D) Długi numer DOI świadczy o tym, że jest prawdziwy.

Opis: model języka może generować artykuły, autorów i DOI, które wyglądają realistycznie, ale nie istnieją (fałszywe cytaty). To, że podaje DOI, nie znaczy, że jest ważne. Każdy cytat musi zostać zweryfikowany poprzez rozwiązanie w bazie danych, takiej jak doi.org, Crossref lub strona wydawcy; Najbezpieczniejszym rozwiązaniem jest znalezienie przez człowieka prawdziwego artykułu i uzyskanie podsumowania tekstu przez sztuczną inteligencję.

5. W jakim obszarze sztuczna inteligencja jest najsłabsza i wymaga potwierdzenia w planowaniu reakcji?

• A) Rozpoznając, do której ogólnej klasy należy dana reakcja
• B) Dokładne numery warunków, wartości wydajności i nazwy odczynników/katalizatorów ✔
• C) Wyjaśnienie mechanizmu prostym językiem
• D) Burza mózgów dotycząca alternatywnych tras

Wyjaśnienie: Sztuczna inteligencja zazwyczaj dobrze przewiduje rodzaj reakcji i główny produkt dobrze udokumentowanych reakcji. Jednak dokładne liczby warunków (temperatura, czas, równoważnik), wartości wydajności, rzadkie reakcje i nazwy odczynników/katalizatorów są najsłabsze i najbardziej podatne na fabrykację; należy je potwierdzić literaturą i katalogami.

6. Jaki jest najpewniejszy sposób wykorzystania sztucznej inteligencji w interpretacji widma?

• A) Po prostu podaj kilka pików i zapytaj: „Co to za widmo?” zapytać
• B) Nadanie oczekiwanej struktury i pełnych danych surowych oraz sprawdzenie spójności (testowanie hipotez) ✔
• C) Zapisywanie tylko wartości przesunięć bez wykonywania całkowania i dzielenia
• D) Ostateczne przypisanie struktury wykonane jedną techniką (tylko IR)

Opis: Zapytaj AI „którym związkiem jest to widmo?” Pytanie od zera zwiększa poziom błędów. Najbardziej niezawodnym sposobem jest połączenie oczekiwanej struktury (SMILES) i surowych danych (integracja, dzielenie, solwer, lista pików) i zapytanie „czy te dane są spójne z tą strukturą?” jest zapytać; to znaczy wykorzystanie sztucznej inteligencji jako testera hipotez. Ostatnie zadanie należy do chemika badającego widmo eksperymentalne.

7. Jaki jest najbardziej niezawodny sposób uzyskania wyniku obliczeń chemicznych (np. wydajności procentowej)?

• A) Ustne żądanie wyniku bezpośrednio od sztucznej inteligencji
• B) Wydrukuj i uruchom kod Pythona konta i przetestuj go na znanym przykładzie ✔
• C) Zadaj to samo pytanie kilka razy i wybierz liczbę, która pojawia się najczęściej
• D) Szybkie szacowanie bez podawania jednostki

Wyjaśnienie: Model językowy wykonuje arytmetykę poprzez „przewidywanie prawdopodobnego wyniku” i może się mylić nawet przy bardzo prostych mnożeniach. Najbardziej niezawodny sposób polega na tym, aby sztuczna inteligencja zapisała swój KOD (np. Python), a nie samo konto, i uruchomiła ten kod; kod jest deterministyczny i podlega audytowi. Kod należy również przetestować na małej próbce, której odpowiedź jest znana.

8. Co oznacza pojęcie „dziedziny zastosowania” w przewidywaniu właściwości molekularnych?

• A) Moc obliczeniowa komputera, na którym działa model
• B) Obszar molekularny podobny do danych uczących, gdzie model daje wiarygodne przewidywania ✔
• C) Obszar ubezpieczenia, w którym liczba podana przez model jest zawsze dokładna
• D) Zakres temperatur, w którym cząsteczka może zostać zsyntetyzowana w laboratorium

Wyjaśnienie: Model QSAR/predykcyjny działa dobrze w przypadku cząsteczek podobnych do cząsteczek, na których był trenowany. Biorąc pod uwagę cząsteczkę, która bardzo różni się od danych uczących, model nadal generuje liczbę, ale jest to niewiarygodne; nazywa się to „byciem poza zakresem zastosowania”. Model zawsze daje odpowiedź; Ocena, czy odpowiedź jest wiarygodna, czy nie, należy do człowieka.

9. Jakie jest prawidłowe podejście do obserwacji w dokumentacji eksperymentu?

• A) Zapisywanie obserwacji do sztucznej inteligencji w celu zaoszczędzenia czasu
• B) Osoba przeprowadzająca doświadczenie zapisuje obserwacje; AI formatuje i sprawdza tylko ✔
• C) Wystarczy nie zapisywać obserwacji, wystarczy zapisać wynik końcowy
• D) Ukrywanie odstępstw od planu, aby raport ładnie wyglądał

Wyjaśnienie: Sztuczna inteligencja nie wie, co to jest; Dopasowanie do niego obserwacji (zmiana koloru, uwolnienie gazu itp.) tworzy zapisy, które wydają się wiarygodne, ale nie miały miejsca, co jest oszustwem naukowym. AI formatuje nagranie, przywołuje brakujące pola i sprawdza powtarzalność; ale eksperymentator musi dostarczyć obserwacji i faktów. Należy także odnotować odstępstwa od planu.

10. Jaka jest rola sztucznej inteligencji w bezpieczeństwie laboratorium i źródło prawdy?

• A) Jeśli sztuczna inteligencja mówi „bezpieczne”, nie ma potrzeby korzystania z innego źródła
• B) Źródłem prawdy są karty charakterystyki i GHS; Sztuczna inteligencja jest pomocna, ale nie może mieć ostatniego słowa ✔
• C) Decyzje dotyczące bezpieczeństwa można w całości przekazać sztucznej inteligencji
• D) Karta charakterystyki jest niepotrzebna; Fora internetowe dostarczają wystarczających informacji.

Opis: Bezpieczeństwo jest w chemii najwyższym priorytetem, a sztuczna inteligencja nigdy nie może mieć tu ostatniego słowa. Źródłem aktualnych informacji dotyczących bezpieczeństwa jest podana przez producenta karta charakterystyki SDS (Safety Data Sheet) oraz klasyfikacja GHS. Sztuczna inteligencja może podsumowywać tekst karty charakterystyki, generować projekty formularzy i przeprowadzać wstępną kontrolę pod kątem zgodności; Jednakże wszelkie roszczenia muszą zostać zweryfikowane za pomocą karty charakterystyki, a procedura musi zostać zatwierdzona przez doświadczoną osobę/oficera ochrony.

11. Która z poniższych kombinacji odczynników jest znana jako niebezpieczna (niekompatybilna) kombinacja?

• A) Mieszanie wody i soli kuchennej
• B) Mieszanie roztworu kwaśnego z roztworem zawierającym podchloryn (ryzyko powstania chloru gazowego) ✔
• C) Mieszanie etanolu i wody
• D) Rozpuszczenie cukru i wody

Wyjaśnienie: Chociaż niektóre chemikalia są stosunkowo bezpieczne same w sobie, razem mogą być niebezpieczne. Mieszanie kwasu i podchlorynu uwalnia gazowy chlor; Utleniacz + substancje organiczne stwarzają ryzyko pożaru/wybuchu, woda + ciepło metalu reaktywnego/wodór. Chociaż sztuczna inteligencja zna większość tych kombinacji, nie gwarantuje ich wszystkich i czasami może przedstawić niebezpieczną sugestię w niewinnym języku; każda procedura powinna zostać sprawdzona pod kątem niezgodności z kartą charakterystyki.

12. Jakie jest najdokładniejsze określenie „halucynacji” (sztuczna inteligencja wytwarzająca sfabrykowane informacje)?

• A) Jest to rzadki błąd oprogramowania, który można całkowicie wyeliminować wraz z aktualizacją.
• B) Jest to zachowanie wpisane w model języka; Rozwiązaniem jest niezależna weryfikacja każdego wyjścia ✔
• C) Pojawia się tylko w błędnie napisanych podpowiedziach, nigdy w prawidłowych podpowiedziach.
• D) Jeśli sztuczna inteligencja mówi bezpiecznym językiem, nie jest to halucynacja

Wyjaśnienie: Halucynacje nie są usterką, ale wynikiem natury modelu językowego, który tworzy „następne najbardziej prawdopodobne słowo”; Model dąży do tego, co możliwe, a nie do prawdy. Najbardziej podstępną częścią jest to, że przedstawia fałszywe informacje w tym samym pewnym języku, co prawda. Rozwiązaniem nie jest próba naprawienia modelu, ale zbudowanie odpowiedniej dla typu powłoki walidacyjnej wokół każdego wyniku; płynność nigdy nie jest dowodem dokładności.

13. Co oznacza „triangulacja” w celu weryfikacji wartości krytycznej (np. masy cząsteczkowej)?

• A) Trzykrotne zadanie tego samego pytania tej samej sztucznej inteligencji
• B) Porównywanie i dochodzenie do tego samego wniosku na więcej niż jeden niezależny sposób ✔
• C) Obliczenie masy trzech różnych cząsteczek w tym samym czasie
• D) Zaokrąglenie wyniku do trzech miejsc po przecinku

Wyjaśnienie: Triangulacja prowadzi do tego samego wniosku wieloma niezależnymi ścieżkami; Na przykład porównanie masy cząsteczkowej według sztucznej inteligencji, obliczenia RDKit i obliczenia ręczne. Jeśli dwie niezależne ścieżki nakładają się na siebie, zaufanie jest wysokie; Jeśli ktoś odstąpi od normy, zostaje to zatrzymane i zbadane. Zamiast polegać na jednym źródle, należy szukać przynajmniej dwóch niezależnych metod.

14. Jaki jest właściwy sposób zadawania pytań ogólnym służbom AI w sprawie unikalnej cząsteczki, która nie została opatentowana?

• A) Podanie oryginalnej struktury bezpośrednio, bo prędkość jest ważna
• B) Nauka strategii na przykładzie ogólnym/zastępczym bez ujawniania oryginalnej struktury ✔
• C) Nadanie struktury nie stanowi problemu, sztuczna inteligencja nigdy nie ukrywa informacji
• D) Nie podanie nazwy cząsteczki, a jedynie podzielenie się całym SMILESEM jest wystarczającą ochroną.

Opis: Treści wprowadzone do ogólnej usługi sztucznej inteligencji mogą być przechowywane lub przetwarzane zgodnie z polityką usługi; Nadanie oryginalnej struktury zagraża poufności i pierwszeństwu patentowemu. Prawidłowym podejściem jest nauczenie się strategii na przykładzie ogólnym/zastępczym (podobna klasa struktur) i zastosowanie jej do własnej cząsteczki we własnym zakresie, bez ujawniania oryginalnej struktury. Nie należy również wprowadzać danych osobowych/pacjentów w formie umożliwiającej identyfikację.