Zyski:
- Umiejętność pozycjonowania sztucznej inteligencji jako niebezpiecznego narzędzia w tworzeniu mocnych, konkretnych cytatów w koncepcjach, abstraktach i strategii wyszukiwania
- Możliwość wyeliminowania ryzyka fałszywych źródeł poprzez weryfikację każdego cytatu i DOI w bazie
- Możliwość ustalenia bezpiecznego przepływu pracy, w którym ludzie znajdują prawdziwy artykuł i podsumowują tekst sztucznej inteligencji
Przegląd literatury i planowanie syntezy: źródło, procedura i plan działania z wykorzystaniem sztucznej inteligencji
Każdy projekt chemiczny rozpoczyna się od przeglądu literatury: „Czy ten związek był już wytwarzany? Jaką metodą? Z jaką wydajnością?” Na tym etapie sztuczna inteligencja jest świetnym akceleratorem; podsumowuje temat, wyjaśnia kluczowe pojęcia, generuje wyszukiwane hasła, opisuje procedury. Ale jest to także źródło najniebezpieczniejszego błędu w chemii: fałszywego przypisania. Sztuczna inteligencja może tworzyć artykuły, autorów i DOI, które wyglądają realistycznie, ale w ogóle nie istnieją. W tym module nauczymy się wykorzystywać sztuczną inteligencję w planowaniu literatury i syntezy, nie rezygnując jednak z dyscypliny cytowania.
Dlaczego dyscyplina cytowań jest kluczowa?
Model językowy tworzy tekst; nie wysyła zapytań do bazy danych (chyba że zaznaczono inaczej). „Journal of Organie Chemistry, 2018, 83, 4521, Zhang i in.”. Zasobem formularza jest po prostu „zestaw słów i liczb, które wydają się możliwe” dla modelu. To źródło może, ale nie musi, być prawdziwe; model nie rozróżnia tych dwóch. Dlatego żaden cytat podany przez YZ nie jest używany bez potwierdzenia w bazie danych (analizator DOI, PubMed, Crossref, strona wydawcy).
Uwaga: To, że sztuczna inteligencja podaje DOI, nie oznacza, że ten DOI jest ważny. Rozwiąż DOI poprzez https://doi.org/; Jeśli nie prowadzi to do artykułu, źródło to nie istnieje, nawet jeśli tytuł i autor wydają się autentyczne.
Gdzie w literaturze sztuczna inteligencja jest silna i słaba
- Potężne: wyjaśnianie koncepcji, opisywanie klasy reakcji, generowanie słów kluczowych wyszukiwania, opisywanie ogólnych etapów procedury, podsumowanie tekstu artykułu (po wklejeniu).
- Słabe: Podawanie „z pamięci” istnienia konkretnego artykułu, dokładnej informacji o stronie/tomu/DOI, dokładnej wartości wydajności. Są to obszary najbardziej podatne na obróbkę.
Z tego rozróżnienia wynika następująca strategia: wykorzystywać AI jako narzędzie do przetwarzania tekstu (podsumowanie, klasyfikacja), a nie jako źródło prawdy. Znajdujesz prawdziwy artykuł, AI go czyta i podsumowuje.
Krok po kroku: bezpieczna literatura + przepływ planowania
- Poznaj koncepcję: poproś sztuczną inteligencję o wyjaśnienie tematu, klasy reakcji i terminów. Ryzyko fabrykacji jest tutaj niskie.
- Wygeneruj wyszukiwane hasło: Zapytaj AI o 8-10 słów kluczowych/synonimów i możliwych czasopism; Przeszukaj za ich pomocą prawdziwą bazę danych.
- Zdobądź prawdziwy artykuł: znajdź artykuł samodzielnie w PubChem/Reaxys/Google Scholar.
- Podsumuj: wklej tekst artykułu do AI i utwórz uporządkowane podsumowanie (metoda, warunek, wydajność, ograniczenia).
- Zrób plan: Stwórz syntezę planu działania dla celu; podłącz każdy szczebel do rzeczywistego źródła.
- Weryfikacja: Rozwiąż każdy cytat za pomocą DOI; Porównaj każdą liczbę krytyczną z tekstem źródłowym.
Cztery szablony do kopiowania
1) Koncepcja + generacja wyszukiwanego hasła (bezpieczny obszar):
Temat: Utworzenie wiązania arylo-arylowego poprzez reakcję sprzęgania Suzuki-Miyaury. Zadanie: 1) Wyjaśnij reakcję w 5 zdaniach (zdefiniuj terminy).2) Wygeneruj 10 słów kluczowych/synonimów do wyszukiwania literatury.3) Poleć 5 czasopism, w których ten temat jest często publikowany. Zasada: NIE PODAWAJ konkretnego artykułu/DOI; Poszukam ich w bazie.
2) Podsumowanie artykułu (podajesz tekst):
Poniżej wklejam eksperymentalną część artykułu.[TEKST]Zadanie: Podsumuj za pomocą następujących nagłówków: - Związek docelowy i jego znaczenie - Metoda/zastosowane odczynniki - Warunki (temperatura, czas, rozpuszczalnik) - Wydajność - Podane ograniczenia Nie dodawaj żadnych liczb NIE w tekście; w przeciwnym razie napisz „nieokreślony”.
3) Plan syntezy (w zależności od źródła):
Cel: 2-fenylobenzimidazol (SMILES: c1ccc(cc1)c1nc2ccccc2[nH]1). Zadanie: Podaj szkic dwuetapowego planu syntezy. Dla każdego etapu: odczynniki, warunki, metoda oczyszczania. Reguła: Dla każdego etapu dodaj informacje „typowe odniesienie dla tego typu reakcji, według którego słowa kluczowego należy szukać”; DOI FAŁSZ.
4) Lista kontrolna potwierdzenia cytowania:
Poniżej znajdują się 4 odnośniki. Przygotuj dla każdego listę kontrolną weryfikującą fakty: które pola (DOI, czasopismo, tom, rok, autor) powinienem zweryfikować i gdzie? [CITATIONS]Uwaga: NIE twierdzisz, że cytaty są prawidłowe; Powiedz mi tylko krok po kroku, jak potwierdzić.
Słaba zachęta/silna zachęta
Słabe:
Podaj mi 5 źródeł na temat syntezy tego związku.
Sztuczna inteligencja prawdopodobnie generuje realistyczne, ale niezweryfikowane atrybucje, z których część jest sfabrykowana.
Mocny:
Temat: Synteza związku Znajdę prawdziwe źródła w bazie danych; Wzmacniasz moją strategię wyszukiwania.
Różnica: skierowaliśmy sztuczną inteligencję do pracy, w której jest silna (strategia wyszukiwania, koncepcja) i trzymaliśmy ją z dala od pracy podatnej na sfabrykowanie (konkretne przypisanie).
Rodzaje źródeł i niezawodność
Źródło/narzędzie
Co zapewnia
niezawodność
Rola
AI (model językowy) z pamięci
Koncepcja, zarys, pomysł na wyszukiwanie
Wysoka koncepcja, niska referencja
pomysł/podsumowanie
AI + wklejony tekst
Streszczenie podanego tekstu
Wysoka (w zależności od tekstu)
podsumowując
Analizator DOI (doi.org)
Autentyczność przypisania
wysoki
Potwierdzenie
PubChem/Reaxys/SciFinder
związek, reakcja, źródło
wysoki
wyszukiwanie podstawowe
Google Scholar / Crossref
Znalezienie artykułu, cytat
wysoki
weryfikacja
mini etui
Przypadek 1 — Trzy sfabrykowane źródła. Badacz poprosił sztuczną inteligencję o 6 źródeł na dany temat. Kiedy rozwiązał DOI jeden po drugim, 3 z nich były nieprawidłowe; Nagłówki były przekonujące, ale artykuły nie. Weryfikacja trwała 25 minut, ale zapobiegła umieszczeniu 3 fałszywych cytatów w artykule. Lekcja: każde odwołanie jest rozwiązywane jeden po drugim.
Przypadek 2 – Fałszywy plon. „Wydajność wynosi 92%” – stwierdziła AI, opisując procedurę. Gdy użytkownik znalazł i przejrzał oryginalny artykuł, wydajność wyniosła 64%; Sztuczna inteligencja wymyśliła tę liczbę z pamięci. Lekcja: porównaj liczby krytyczne z tekstem źródłowym, nie ufaj podsumowaniu AI.
Przypadek 3 – Wartość w koncepcji, ryzyko w odniesieniu. Uczeń poprosił sztuczną inteligencję o wyjaśnienie zajęć z reakcji; Wyjaśnienie było dokładne i pouczające. Następnie „3 najlepsze artykuły?” powiedział; Dwa z nich były fabrykacjami. Sztuczna inteligencja była jednocześnie bardzo użyteczna i niebezpieczna w tej samej sesji. Lekcja: ten sam pojazd wykazuje różną niezawodność w różnych zadaniach; Zaufaj zgodnie ze swoim obowiązkiem.
Typowe błędy
- Korzystanie z referencji bez potwierdzenia. Najczęstszy i najpoważniejszy błąd; może prowadzić do wycofania artykułu.
- Pobieranie liczb plonów/warunków z podsumowania. Podsumowanie AI czasami odzwierciedla „możliwą wartość”, a nie źródło; porównać z oryginałem.
- Mylenie sztucznej inteligencji z wyszukiwarką. O ile nie zaznaczono inaczej, model języka nie odpytuje działającej bazy danych; tworzy z pamięci.
- Wyszukiwanie w jednym języku. Samo pozostawienie kluczowych terminów poza językiem tureckim/angielskim powoduje brak zasobów; Sztuczna inteligencja pomaga w generowaniu synonimów.
- Mylące pojęcie ze źródłem. Fakt, że sztuczna inteligencja wyjaśnia prawidłowe pojęcie, nie oznacza, że podane przez nią odniesienie jest prawidłowe.
Wskazówka: najbardziej niezawodny przepływ pracy to „najpierw człowiek znajduje, potem AI podsumowuje”. Przynosisz prawdziwy artykuł i pozwalasz AI przeczytać tekst. Wykorzystujesz więc siłę sztucznej inteligencji (podsumowanie) i wyłączasz jej słabość (dopasowanie źródła).
Podsumowując
- Sztuczna inteligencja jest niebezpieczna, jeśli tworzy mocne, konkretne cytaty w koncepcjach, podsumowaniach i strategiach wyszukiwania w literaturze.
- Fałszywe cytaty (artykuł sfabrykowany/DOI) to najpoważniejsze ryzyko związane ze sztuczną inteligencją w chemii; Każde referencje są potwierdzone.
- Najbezpieczniejszy przepływ: człowiek znajduje prawdziwy artykuł, sztuczna inteligencja podsumowuje tekst.
- Liczby krytyczne, takie jak wydajność i stan, pobieraj z tekstu źródłowego, a nie z abstraktu.
- Połącz każdy etap planu syntezy z prawdziwym źródłem.
Zadanie aplikacji
Wybierz docelowy związek. Najpierw poproś sztuczną inteligencję o wyszukiwane hasła i jedynie podsumowanie koncepcyjne (bez pytania o konkretne przypisanie). Znajdź co najmniej dwa artykuły w prawdziwej bazie danych z tymi terminami. Podsumuj teksty artykułów do AI i porównaj numery wydajności/stanu z oryginałem. Osobno celowo poproś sztuczną inteligencję o „5 źródeł” i rozszyfruj podane przez nią DOI jeden po drugim: ile z nich było prawdziwych? Napisz jednostronicowy „raport z weryfikacji cytowań”.
lista kontrolna
- [ ] Pozycjonuję sztuczną inteligencję jako narzędzie do tworzenia koncepcji/podsumowań, a nie wyszukiwarkę.
- [ ] Kiedy chcę konkretnego cytatu, dekoduję każdy DOI z doi.org.
- [ ] Porównuję liczby plonów/warunków z oryginalnym źródłem.
- [ ] Znajduję prawdziwy artykuł i zlecam AI streszczenie tekstu.
- [ ] Przypisuję każdy etap planu syntezy do źródła.
- [ ] Przygotowałem co najmniej jeden raport weryfikacji cytowań.