Mensch im Experiment: Ethik, Datenschutz, Verantwortung und End-to-End-Workflow

Gewinne:

• Integration des menschlichen Prinzips in den End-to-End-Workflow im Experiment und Möglichkeit, künstliche Intelligenz/menschliche Rollen in jeder Phase zu trennen
• Fähigkeit, mit generischen Proxy-Beispielen zu arbeiten, ohne der allgemeinen künstlichen Intelligenz vertrauliche Strukturen und Daten zu überlassen
• Fähigkeit, menschliche Genehmigungstore an kritischen Punkten zu platzieren und durch Transparenz und Rückverfolgbarkeit die letztendliche Verantwortung zu übernehmen

In dieser letzten Einheit kombinieren wir das gesamte Modul in einem einzigen Framework: Human-in-the-Loop. Dieses Prinzip besagt, dass ein Mensch, egal wie leistungsfähig die KI ist, jeden kritischen Punkt einer chemischen Entscheidung verstehen, kontrollieren und genehmigen muss. In dieser Einheit klären wir zunächst die ethischen und vertraulichen Aspekte, erstellen dann einen End-to-End-Workflow, der ein Molekül von der Idee bis zum Bericht führt, und sehen, wie KI und Menschen in jeder Phase die Arbeit aufteilen. Ziel ist es, alles Gelernte in ein System umzusetzen, das in die tägliche Arbeit passt.

Datenschutz: Was sollte man der KI nicht geben?

Die Chemie arbeitet oft mit vertraulichen Informationen: nicht patentierte Moleküle, firmengeheime Synthesewege, unveröffentlichte Daten, Patientenproben. Text, den Sie in einen öffentlichen KI-Dienst eingeben, kann gemäß den Richtlinien des Dienstes gespeichert oder verarbeitet werden. Daher:

• Überprüfen Sie Ihre institutionellen Richtlinien, bevor Sie unveröffentlichte Originalstrukturen (Moleküle vor dem Patent) für die öffentliche KI freigeben.
• Geben Sie persönliche Daten/Patientendaten (klinische Proben) niemals in identifizierbarer Form ein.
• Überprüfen Sie Vertraulichkeitsvereinbarungen, bevor Sie Wege zur Synthese von Geschäftsgeheimnissen teilen.
• Entscheiden Sie sich bei Bedarf für interne/benutzerdefinierte Bereitstellungs-KI-Tools.

Achtung: Eine allgemeine KI nach einem Molekül zu fragen, kann bedeuten, die Struktur dieses Moleküls preiszugeben. Bei einer einzigartigen Struktur, die nicht patentiert wurde, kann dies Ihre Priorität (Patentrecht) gefährden. Fragen Sie nach versteckten Strukturen mit generischen/Ersatzbeispielen.

Ethik: vier Prinzipien

1. Transparenz: Verheimlichen Sie nicht, wo Sie KI einsetzen; Halten Sie sich an die Veröffentlichungs- und institutionellen Richtlinien.
2. Verantwortung: Der Mensch ist für die endgültige Entscheidung verantwortlich; „KI vorgeschlagen“ entschuldigt keine Sicherheits- oder Integritätsverletzung.
3. Nicht-Schaden: Verwenden Sie KI nicht für gefährliche/illegale Synthese- oder Dual-Use-Anwendungen (Waffenpotenzial).
4. Fairness und Ehrlichkeit: Daten nicht verfälschen, Ergebnisse nicht beschönigen, keine Zuschreibungen erfinden.

End-to-End-Workflow: Molekül → Bericht

Jetzt kombinieren wir das gesamte Modul zu einem einzigen Flow. Achten Sie in jeder Phase auf den Unterschied zwischen dem, was die KI tut, und dem, was der Mensch tut.

Bühne

Rolle der KI

Die (entscheidende) Rolle des Menschen

1. Idee/Literatur

Konzeptzusammenfassung, Suchbegriff

Finden der wahren Quelle, Bestätigung der Namensnennung

2. Strukturbeschreibung

LÄCHELN erzeugen

Authentifizierung mit RDKit, InChIKey

3. Syntheseplan

Retrosynthese, Alternativen

Literaturbestätigung, Pfadauswahl

4. Sicherheit

SDS-Zusammenfassung, vorläufige Nichtübereinstimmung

Lesen des Sicherheitsdatenblatts, Genehmigung, PSA-Entscheidung

5. Bewerbung

(Keine)

Alle Laborarbeiten

6. Analyse

Unterstützung für Spectrum-Kommentare

Endgültige Strukturzuweisung

7. Datenverarbeitung

Code schreiben

Führen Sie den Code aus und überprüfen Sie das Ergebnis

8. Dokumentation

Formatierung, Kontrolle

Beobachtung, Abweichung, Unterschrift

9. Berichterstattung

Textentwurf

Nummern-/Zitatverifizierung, Verantwortlichkeit

Diese Tabelle zeigt, wie die 11 Einheiten des Moduls in einem einzigen Job angeordnet sind. KI beschleunigt sich; Menschen verifizieren und besitzen.

Schritt für Schritt: Workflow einrichten

1. Rollen klären: Für jede Aufgabe: „Entscheidet die KI oder der Mensch?“ von Anfang an bestimmen.
2. Richten Sie einen Datenschutzfilter ein: Ohne der KI etwas mitzuteilen, können Sie fragen: „Ist das privat/privat?“ fragen.
3. Verifizierungs-Gates setzen: Ein Verifizierungsschritt am Ende jeder Stufe (Tabelle in Einheit 10).
4. Behalten Sie die Rückverfolgbarkeit bei: Welcher Output kam von der KI, wie wurde er verifiziert, wer hat ihn genehmigt.
5. Genehmigungspunkte festlegen: An kritischen Punkten wie Sicherheit und Endergebnis ist die menschliche Genehmigung obligatorisch.
6. Feedback: Erfassen Sie jeden erkannten Fehler und verbessern Sie den Arbeitsablauf.

Vier kopierbare Vorlagen

1) Datenschutz-Vorfilter:

Bevor Sie eine Frage stellen, bedenken Sie Folgendes: Inhalt: [WAS ICH FRAGE] Aufgabe: Enthält dieser Inhalt unveröffentlichte Originalartefakte, persönliche Daten oder Geschäftsgeheimnisse? Wenn dies der Fall ist, schlagen Sie vor, wie ich die Frage mit einem generischen/Ersatzbeispiel umschreiben kann, das die Struktur verbirgt.

2) Überprüfungstor am Ende der Phase:

Ich habe folgende Phase abgeschlossen: [PHASE, z.B. Syntheseplan].Aufgabe: Listen Sie alle Elemente auf, die in dieser Phase überprüft werden müssen (Nummer, Zitat, Struktur, Sicherheitsanspruch). Geben Sie jeweils die Verifizierungsmethode an und geben Sie an, wer sie bestätigen soll. Markieren Sie alle offenen Posten, die geschlossen werden müssen, bevor Sie mit dem nächsten Schritt fortfahren.

3) Rollenverteilungsplan Mensch-KI:

Mein Projekt: [KURZE BESCHREIBUNG].Aufgabe: Teilen Sie dieses Projekt in Phasen auf. Unterscheiden Sie für jede Stufe zwischen: – Was die KI tun kann (Entwurf, Code, Zusammenfassung) – Was der Mensch entscheiden muss (Sicherheit, Konsequenz, Genehmigung). Markieren Sie die kritischen Punkte, an denen die letztendliche Verantwortung beim Menschen liegt.

4) Integritätsprüfung des Berichts:

Unten ist mein Berichtsentwurf:[ENTWURF]Aufgabe: Überprüfen und markieren Sie Folgendes:1) Gibt es unbestätigte Zahlen/Zitate?2) Wird die Verwendung von KI transparent angegeben?3) Erscheinen die Daten „verschönert“ (Ausblenden von Ausreißern)?4) Gibt es Sicherheits-/ethische Mängel? [PRÜFEN], wenn Sie sich nicht sicher sind.

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwach:

Wie lässt sich das neue geheime Molekül unseres Unternehmens am besten synthetisieren?[tatsächliche Originalstruktur]

Dadurch wird die ursprüngliche Struktur vor dem Patent einem allgemeinen Dienst zugänglich gemacht; Es gefährdet Priorität und Vertraulichkeit.

Stark:

Ich würde gerne die allgemeine Retrosynthesestrategie für eine ähnliche Struktur einer Klasse aromatischer Ketone lernen. Erklären Sie anhand eines generischen Beispiels (Acetophenon-Derivat), ohne die konkrete, ursprüngliche Struktur anzugeben. Ich werde die Strategie intern auf mein eigenes Molekül anwenden.

Unterschied: Ohne die latente Struktur offenzulegen, wurde der gleiche Lernerfolg erzielt wie mit dem generischen Ersatzbeispiel.

Mini-Hüllen

Fall 1 – Ursprüngliche Struktur offengelegt. Ein Team befragte eine allgemeine KI zu einem einzigartigen Molekül, bevor es ein Patent anmeldete. Die Rechtsabteilung gab an, dass dies die Priorität in Frage stellen könnte; Der Prozess verzögerte sich. Lektion: Fragen Sie nach einzigartigen Strukturen mit generischem Proxy und beachten Sie die Datenschutzbestimmungen.

Fall 2 – Menschliche Zustimmung verhinderte den Unfall. In einem automatisierten Workflow erstellte die KI einen Verfahrensentwurf und sollte direkt umgesetzt werden; Doch ein erfahrener Chemiker fing ein inkompatibles Reagenzienpaar an der Durchflussschleuse mit „Sicherheitsfreigabe“ auf. Lektion: An kritischen Punkten retten menschliche Zustimmungstore Leben.

Fall 3 – Durchgängige Disziplin. Ein Masterstudent hat das gesamte Modul in einem Projekt umgesetzt: Literaturzusammenfassung + tatsächliche Zitierverifizierung mit KI, Strukturverifizierung mit RDKit, Datenanalyse mit Code, Sicherheit mit SDS, ehrliche Dokumentation, transparente Berichterstattung. Das Ergebnis war sowohl schneller als auch robuster; in der Dissertationsverteidigung „Wie haben Sie KI verifiziert?“ Er beantwortete die Frage klar. Lektion: KI und Verifizierungsdisziplin funktionieren am besten zusammen.

Häufige Fehler

• Der allgemeinen KI die latente Struktur geben. Es gefährdet die Patentpriorität und das Geschäftsgeheimnis.
• Eingabe identifizierbarer Personen-/Patientendaten. Datenschutzverletzung und rechtliches Risiko.
• Genehmigungstore umgehen. Sicherheit und letztendliches Vorankommen ohne menschliche Zustimmung.
• Verantwortung an die KI übertragen. „KI vorgeschlagen“ entschuldigt keine Fehler.
• Transparenz vermeiden. Die Verschleierung des Einsatzes von KI untergräbt die Integrität.
• Das Risiko einer doppelten Verwendung wird ignoriert. Es ist unethisch, KI für schädliche Anwendungen einzusetzen.

Tipp: Gestalten Sie Ihren Arbeitsablauf so, dass „jede kritische Entscheidung ein Mensch stoppt und genehmigt“. Machen Sie KI zu einem Glied, das die Kette beschleunigt, und der Knoten, der die Kette hält, ist immer ein Mensch.

Zusammenfassend

• Menschliches Prinzip beim Experimentieren: Bei jeder kritischen chemischen Entscheidung versteht, überwacht und genehmigt ein Mensch.
• Datenschutz: Stellen Sie der öffentlichen KI keine einzigartigen Artefakte, persönlichen Daten und Geschäftsgeheimnisse zur Verfügung. Verwenden Sie einen generischen Proxy.
• Ethik: Transparenz, Verantwortung, Schadensfreiheit, Ehrlichkeit sind die vier Grundprinzipien.
• In einem End-to-End-Workflow beschleunigt sich die KI in jeder Phase; Menschen verifizieren und besitzen.
• Setzen Sie an kritischen Punkten (Sicherheit, Endergebnis) menschliche Genehmigungstore ein und sorgen Sie für die Nachverfolgbarkeit.

Anwendungsaufgabe

Wählen Sie ein eigenes Projekt (real oder hypothetisch) und entwerfen Sie einen KI-Mensch-Workflow von Anfang bis Ende. Passen Sie die obige 9-Stufen-Tabelle an Ihr eigenes Projekt an: Was wird die KI in jeder Stufe tun, was wird der Mensch genehmigen? Datenschutz-Vorfilter anwenden: Welche Informationen geben Sie nicht an die KI weiter, wie generisieren Sie sie? Definieren Sie mindestens zwei menschliche Genehmigungstore und eine Rückverfolgbarkeitsmethode. Schreiben Sie einen einseitigen „Workflow- und Überprüfungsplan“.

Checkliste

• [ ] Im Experiment habe ich das menschliche Prinzip verstanden und warum es notwendig ist.
• [ ] Ich generiere die verborgenen Strukturen/Daten, ohne sie der allgemeinen KI zu übergeben.
• [ ] Ich halte mich an die Grundsätze der Transparenz, Verantwortung, Schadensfreiheit und Ehrlichkeit.
• [ ] Ich habe die Rollen KI/Mensch im End-to-End-Workflow getrennt.
• [ ] Ich habe an kritischen Punkten menschliche Zustimmungstore eingerichtet.
• [ ] Ich verfolge, welche Ergebnisse von der KI kommen und wie sie überprüft werden.

Modulprüfung

1. Welche der folgenden Aussagen ist die genaueste Positionierung für künstliche Intelligenz in der Chemie?

• A) Künstliche Intelligenz ist ein Code-, Entwurfs- und Bearbeitungsassistent; Die Verantwortung für Struktur, Anzahl, Ressourcen, Sicherheit und ethische Entscheidungen liegt beim Menschen ✔
• B) Künstliche Intelligenz ist eine Chemiemaschine und die von ihr ermittelten Molekulargewichte sind immer exakt.
• C) Künstliche Intelligenz funktioniert nur bei der Literaturrecherche, sie hat nichts mit Analyse und Sicherheit zu tun
• D) Da künstliche Intelligenz unparteiischer ist als der Mensch, sollten Sicherheitsentscheidungen ihr überlassen werden

Beschreibung: Künstliche Intelligenz; Es handelt sich um einen Assistenten, der Code schreibt, Entwürfe erstellt, ein Retrosynthese-Skelett aufbaut und bei der Interpretation des Spektrums hilft und diese organisiert. Die deterministische Berechnung des Molekulargewichts und der Stöchiometrie, die Überprüfung der Struktur mit RDKit, die Bestätigung von Zitaten in der Datenbank, die Entscheidung über die Sicherheit mit SDS/GHS und die endgültige Verantwortung liegen jedoch beim zuständigen Chemiker. Das große Sprachmodell ist kein Taschenrechner oder eine Chemie-Engine; Es handelt sich um einen Textgenerator, der das „nächstwahrscheinlichste Wort“ erzeugt und dessen ungeprüfte Ausgabe zu einer falschen Struktur, Zahl oder Gefahr führen kann.

2. Wie lässt sich ein Molekül der künstlichen Intelligenz am zuverlässigsten beschreiben?

• A) Nur den gebräuchlichen türkischen Namen schreiben
• B) Geben Sie eine Strukturdarstellung wie SMILES und bestätigen Sie die Identität mit InChIKey ✔
• C) Einfach das Molekulargewicht angeben
• D) Es reicht aus, die Marke anzuschreiben

Erläuterung: Namen (insbesondere Handels- und Synonymnamen) sind mehrdeutig und können zum falschen Molekül führen. Wenn Sie dem Molekül eine Strukturnotation wie SMILES geben, erhalten Sie Präzision; Seine Identität wird in der Datenbank mit InChIKey bestätigt. Darüber hinaus müssen die von künstlicher Intelligenz bereitgestellten SMILES mit RDKit analysiert und durch Kanonisierung überprüft werden.

3. Wie sollte man ein durch künstliche Intelligenz vorgegebenes Molekulargewicht verwenden?

• A) Direkte Nutzung, denn KI ist in Zahlen zuverlässig
• B) Unabhängig von der Formel manuell oder mit RDKit ✔ berechnen und überprüfen
• C) Es reicht aus, einfach eine andere künstliche Intelligenz zu fragen und zu vergleichen
• D) Das Molekulargewicht ist unwichtig, eine Überprüfung ist nicht erforderlich

Erläuterung: Das Molekulargewicht ist eine Größe, die deterministisch aus der Summenformel berechnet wird. Daher ist die Frage nach dem Sprachmodell der schwächste Weg; Es sollte unabhängig mit einem Tool wie RDKit oder durch manuelle Berechnung anhand einer Formel überprüft werden. Das Sprachmodell kann solche Zahlen mit einem „wahrscheinlich aussehenden“ Wert ausstatten.

4. Was ist vor der Verwendung eines von künstlicher Intelligenz zurückgegebenen Literaturzitats (Artikel/DOI) zu tun?

• A) Nichts; Wenn künstliche Intelligenz eine Referenz gibt, ist sie real
• B) Es reicht aus, nur auf den Titel zu schauen, damit er überzeugend aussieht.
• C) Bestätigung aller Zitate und DOIs durch Dekodierung in einer Datenbank (doi.org, Crossref) ✔
• D) Die lange DOI-Nummer beweist, dass es real ist.

Beschreibung: Das Sprachmodell kann Artikel, Autoren und DOIs generieren, die realistisch aussehen, aber nicht existieren (gefälschte Zitate). Nur weil es einen DOI gibt, heißt das nicht, dass es gültig ist. Jedes Zitat muss durch Auflösung in einer Datenbank wie doi.org, Crossref oder der Website des Herausgebers überprüft werden; Der sicherste Weg besteht darin, dass ein Mensch den echten Artikel findet und den Text von künstlicher Intelligenz zusammenfassen lässt.

5. In welchem ​​Bereich ist künstliche Intelligenz am schwächsten und bedarf einer Bestätigung in der Reaktionsplanung?

• A) Beim Erkennen, zu welcher allgemeinen Klasse die Reaktion gehört
• B) Genaue Zustandsnummern, Ausbeutewerte und Namen der Reagenzien/Katalysatoren ✔
• C) Einen Mechanismus im Klartext erklären
• D) Brainstorming für alternative Routen

Erläuterung: KI sagt im Allgemeinen die Art der Reaktion und das Hauptprodukt gut dokumentierter Reaktionen gut voraus. Genaue Zustandszahlen (Temperatur, Zeit, Äquivalent), Ausbeutewerte, seltene Reaktionen und Namen von Reagenzien/Katalysatoren sind jedoch am schwächsten und am anfälligsten für Fabrikationen; diese sollten durch Literatur und Kataloge bestätigt werden.

6. Was ist der zuverlässigste Weg, künstliche Intelligenz bei der Spektruminterpretation einzusetzen?

• A) Geben Sie einfach ein paar Peaks an und fragen Sie: „Welches Spektrum ist das?“ fragen
• B) Bereitstellung der erwarteten Struktur und vollständiger Rohdaten sowie Durchführung einer Konsistenzprüfung (Hypothesetest) ✔
• C) Nur die Verschiebungswerte schreiben, ohne Integration und Division durchzuführen
• D) Definitive Strukturzuordnung mit einer einzigen Technik durchführen (nur IR)

Beschreibung: Fragen Sie die KI: „Welche Verbindung ist dieses Spektrum?“ Von Grund auf zu fragen, erhöht die Fehlerquote. Am zuverlässigsten ist es, die erwartete Struktur (SMILES) und die Rohdaten (Integration, Aufteilung, Löser, Peakliste) zusammenzugeben und zu fragen: „Sind diese Daten mit dieser Struktur konsistent?“ ist zu fragen; das heißt, künstliche Intelligenz als Hypothesentester einzusetzen. Die letzte Aufgabe ist für den Chemiker, der das experimentelle Spektrum untersucht.

7. Wie erhält man das Ergebnis einer chemischen Berechnung (z. B. prozentuale Ausbeute) am zuverlässigsten?

• A) Das Ergebnis direkt von der künstlichen Intelligenz mündlich anfordern
• B) Drucken Sie den Python-Code des Kontos aus, führen Sie ihn aus und testen Sie ihn mit einem bekannten Beispiel ✔
• C) Stellen Sie dieselbe Frage mehrmals und ermitteln Sie die Zahl, die am häufigsten vorkommt
• D) Schnelle Schätzung ohne Angabe der Einheit

Erläuterung: Das Sprachmodell rechnet, indem es „das wahrscheinliche Ergebnis vorhersagt“ und kann selbst bei sehr einfachen Multiplikationen falsch sein. Der zuverlässigste Weg besteht darin, die KI ihren CODE (z. B. Python) schreiben zu lassen, nicht das Konto selbst, und diesen Code auszuführen; Der Code ist deterministisch und überprüfbar. Der Code sollte auch mit einer kleinen Stichprobe getestet werden, deren Antwort bekannt ist.

8. Was bedeutet das Konzept des „Anwendungsbereichs“ bei der Vorhersage molekularer Eigenschaften?

• A) Rechenleistung des Computers, auf dem das Modell läuft
• B) Molekülbereich ähnlich den Trainingsdaten, in dem das Modell zuverlässige Vorhersagen liefert ✔
• C) Assurance-Bereich, in dem die vom Modell angegebene Zahl immer genau ist
• D) Temperaturbereich, in dem das Molekül im Labor synthetisiert werden kann

Erläuterung: Ein QSAR-/Vorhersagemodell funktioniert gut bei Molekülen, die den Molekülen ähneln, an denen es trainiert wurde. Bei einem Molekül, das sich stark von den Trainingsdaten unterscheidet, erzeugt das Modell zwar immer noch eine Zahl, diese ist jedoch unzuverlässig; dies wird als „außerhalb des Geltungsbereichs liegen“ bezeichnet. Das Modell gibt immer eine Antwort; Es liegt am Menschen, zu beurteilen, ob die Antwort zuverlässig ist oder nicht.

9. Wie geht man mit Beobachtungen in der Versuchsdokumentation richtig um?

• A) Beobachtungen in künstliche Intelligenz schreiben, um Zeit zu sparen
• B) Die Person, die das Experiment durchführt, schreibt die Beobachtungen auf; AI formatiert und prüft nur ✔
• C) Es reicht aus, die Beobachtungen nicht aufzuzeichnen, sondern nur den Endertrag aufzuschreiben
• D) Abweichungen vom Plan verbergen, damit der Bericht schöner aussieht

Erläuterung: Künstliche Intelligenz weiß nicht, was sie ist; Das Einpassen von Beobachtungen (Farbveränderung, Gasfreisetzung usw.) führt zu Aufzeichnungen, die plausibel erscheinen, aber nicht stattgefunden haben, und das ist wissenschaftlicher Betrug. KI formatiert die Aufzeichnung, ruft fehlende Felder ab und prüft die Wiederholbarkeit; aber der menschliche Experimentator muss die Beobachtungen und Fakten liefern. Auch Abweichungen vom Plan müssen protokolliert werden.

10. Welche Rolle spielt künstliche Intelligenz für die Laborsicherheit und die Quelle der Wahrheit?

• A) Wenn künstliche Intelligenz „sicher“ sagt, ist keine weitere Quelle erforderlich
• B) Die Quelle der Wahrheit sind SDS und GHS; KI ist hilfreich, kann aber nicht das letzte Wort haben ✔
• C) Sicherheitsentscheidungen können vollständig an künstliche Intelligenz delegiert werden
• D) Sicherheitsdatenblatt ist nicht erforderlich; Internetforen bieten ausreichend Informationen.

Beschreibung: Sicherheit hat in der Chemie höchste Priorität und künstliche Intelligenz kann hier nie das letzte Wort haben. Die Quelle der tatsächlichen Sicherheitsinformationen ist das vom Hersteller bereitgestellte SDB (Sicherheitsdatenblatt) und die GHS-Klassifizierung. KI kann SDS-Texte zusammenfassen, Formularentwürfe erstellen und vorläufige Überprüfungen auf Nichteinhaltung durchführen. Alle Ansprüche müssen jedoch mit SDS überprüft werden und das Verfahren muss von einer erfahrenen Person/Sicherheitsbeauftragten genehmigt werden.

11. Bei welcher der folgenden Reagenzienkombinationen handelt es sich um eine bekanntermaßen gefährliche (inkompatible) Übereinstimmung?

• A) Wasser und Speisesalz mischen
• B) Mischen einer sauren Lösung mit einer hypochlorithaltigen Lösung (Gefahr von Chlorgas) ✔
• C) Mischen von Ethanol und Wasser
• D) Zucker und Wasser auflösen

Erläuterung: Während einige Chemikalien allein relativ sicher sind, sind sie zusammen gefährlich. Beim Mischen von Säure und Hypochlorit wird Chlorgas freigesetzt; Oxidationsmittel + organische Stoffe stellen Brand-/Explosionsgefahr dar, Wasser + reaktive Metallhitze/Wasserstoff. Obwohl die KI die meisten dieser Kombinationen kennt, garantiert sie nicht alle und kann manchmal einen gefährlichen Vorschlag in harmloser Sprache präsentieren; Jedes Verfahren sollte auf Nichteinhaltung des Sicherheitsdatenblatts überprüft werden.

12. Was ist der treffendste Ausdruck für „Halluzination“ (künstliche Intelligenz, die erfundene Informationen erzeugt)?

• A) Es handelt sich um einen seltenen Softwarefehler, der durch ein Update vollständig behoben wird.
• B) Es handelt sich um ein dem Sprachmodell inhärentes Verhalten; Die Lösung besteht darin, jede Ausgabe unabhängig zu überprüfen ✔
• C) Es erscheint nur in falsch geschriebenen Eingabeaufforderungen, niemals in korrekten Eingabeaufforderungen.
• D) Wenn künstliche Intelligenz in einer sicheren Sprache spricht, handelt es sich nicht um eine Halluzination

Erläuterung: Die Halluzination ist keine Fehlfunktion, sondern das Ergebnis der Natur des Sprachmodells, das das „nächstwahrscheinlichste Wort“ erzeugt; Das Modell zielt auf das Mögliche, nicht auf das Wahre. Das Heimtückischste daran ist, dass falsche Informationen in der gleichen selbstbewussten Sprache präsentiert werden wie die Wahrheit. Die Lösung besteht nicht darin, zu versuchen, das Modell zu reparieren, sondern darin, um jede Ausgabe herum eine typgerechte Validierungshülle zu erstellen; Geläufigkeit ist niemals ein Beweis für Genauigkeit.

13. Was bedeutet „Triangulation“ zur Überprüfung eines kritischen Werts (z. B. Molekulargewicht)?

• A) Dreimal dieselbe Frage an dieselbe künstliche Intelligenz stellen
• B) Vergleichen und Erreichen derselben Schlussfolgerung auf mehr als einer unabhängigen Weise ✔
• C) Berechnen des Gewichts von drei verschiedenen Molekülen gleichzeitig
• D) Runden des Ergebnisses auf drei Dezimalstellen

Erläuterung: Bei der Triangulation gelangt man über mehrere unabhängige Wege zum gleichen Ergebnis. Zum Beispiel der Vergleich des Molekulargewichts gemäß künstlicher Intelligenz, RDKit-Berechnung und manuelle Berechnung. Wenn sich zwei unabhängige Pfade überschneiden, ist das Vertrauen hoch; Wenn jemand abweicht, wird dies gestoppt und untersucht. Anstatt sich auf eine einzige Quelle zu verlassen, sollten mindestens zwei unabhängige Methoden gesucht werden.

14. Wie kann man einen allgemeinen KI-Dienst richtig nach einem einzigartigen Molekül fragen, das nicht patentiert wurde?

• A) Die ursprüngliche Struktur direkt wiedergeben, denn Geschwindigkeit ist wichtig
• B) Erlernen einer Strategie anhand eines generischen/Ersatzbeispiels, ohne die ursprüngliche Struktur preiszugeben ✔
• C) Strukturierung ist kein Problem, KI verbirgt niemals Informationen
• D) Den Namen des Moleküls nicht zu nennen, sondern nur sein gesamtes SMILES zu teilen, ist ein ausreichender Schutz.

Beschreibung: In einen allgemeinen Dienst für künstliche Intelligenz eingegebene Inhalte können gemäß der Dienstrichtlinie gespeichert oder verarbeitet werden. Die Angabe einer Originalstruktur birgt das Risiko von Vertraulichkeit und Patentpriorität. Der richtige Ansatz besteht darin, die Strategie aus einem generischen/Ersatzbeispiel (einer ähnlichen Klasse von Strukturen) zu lernen und sie intern auf das eigene Molekül anzuwenden, ohne die ursprüngliche Struktur preiszugeben. Personen-/Patientendaten sollten ebenfalls nicht in identifizierbarer Form eingegeben werden.