End-to-End-Projekt: KI-unterstützter Bioengineering-Workflow und Validierung mit Python

Gewinne:

• Möglichkeit, einen siebenstufigen Arbeitsablauf von der Frage bis zum verifizierten Ergebnis zu entwerfen, indem bei jedem Schritt ein Verifizierungstor platziert wird
• Fähigkeit, den von künstlicher Intelligenz geschriebenen Python-Code anhand bekannter Testdaten zu überprüfen und den Unterschied zwischen „funktionierendem Code“ und „richtigem Code“ zu unterscheiden.
• Machen Sie die Analyse reproduzierbar (Version, Medium, Seed, Dokument) und berichten Sie mit Nassverifizierung, Transparenz und Expertengenehmigung

Wir haben die Teile in den vorherigen neun Einheiten gelernt: Sequenzanalyse, Omics, Proteinmodellierung, experimentelles Design, Labordaten, Bioverarbeitung, Literatur und Ethik. In dieser letzten Einheit werden wir die Teile zusammenfügen und einen End-to-End-Workflow aufbauen – eine Kette von einer Forschungsfrage bis zu einer validierten Schlussfolgerung, bei der KI bei jedem Schritt hilft, der Mensch jedoch jede wichtige Entscheidung und Überprüfung trifft. Wir werden uns auch mit Python, dem Rückgrat dieser Kette, und der Disziplin der Reproduzierbarkeit befassen – der Fähigkeit, eine Analyse durch jemand anderen mit denselben Daten zu wiederholen, um das gleiche Ergebnis zu erzielen.

Ziel ist es nicht, einzelne Werkzeuge zu vermitteln, sondern eine verantwortungsvolle Arbeitsweise: Sie wissen, wo Sie KI einsetzen, wo Sie ein Verifizierungstor platzieren und wie Sie den gesamten Prozess nachvollziehbar machen.

Warum Python?

Die Verkehrssprache der Bioinformatik und Bioinformatik ist Python (und R). Denn mit Open-Source-Bibliotheken (Biopython für die Sequenzanalyse, Pandas für Datentabellen, Scikit-Learn für maschinelles Lernen, Matplotlib für die Visualisierung) können Sie nahezu jeden Schritt automatisieren und wiederholbar machen. KI ist beim Schreiben von Python-Code sehr leistungsfähig; Es ist jedoch gefährlich, den von ihm erzeugten Code zu akzeptieren, ohne ihn auszuführen und zu überprüfen – der Code kann stillschweigend das falsche Ergebnis zurückgeben (einen Einheitenfehler, eine falsche Spalte, einen fehlenden Filter).

Achtung: Auch wenn der von der KI geschriebene Code funktioniert, ist er möglicherweise nicht korrekt. „Es hat fehlerfrei funktioniert“ und „es hat das richtige Ergebnis geliefert“ sind zwei verschiedene Dinge. Probieren Sie jeden Code mit kleinen, bekannten Testdaten aus: Entspricht die Eingabe/Ausgabe Ihren Erwartungen? Nur so können stille Fehler erkannt werden.

Anatomie des Arbeitsablaufs

Ein verantwortungsvoller KI-gestützter Bioengineering-Workflow folgt diesem Rahmen:

1. Frage und Hypothese. Eine klare, überprüfbare Frage. (KI kann inspirieren; Sie klären ab.)
2. Datenerfassung und Datenschutzkontrolle. Woher stammen die Daten, persönliche oder genehmigte Medien? (Einheit 9.)
3. Vorverarbeitung und Qualitätskontrolle. Reinigung, Normalisierung, Chargenkontrolle. (Einheit 2-3.)
4. Analyse. Statistik, Modellierung, Prognose. (Verifizierungstor bei jedem Schritt.)
5. Kommentar. Den biologischen Geist treffen, Korrelation-Ursache-Unterscheidung.
6. Überprüfung im Nasslabor. Die kritische Hypothese wird experimentell überprüft. (Einheit 1, 4, 5.)
7. Berichterstattung und Transparenz. Reproduzierbarer Code, KI-Erklärung, Expertengenehmigung. (Einheit 8-9.)

Jeder Schritt hat einen Prüfpunkt – den Punkt, an dem die Ausgabe überprüft wird, bevor mit dem nächsten Schritt fortgefahren wird. KI beschleunigt einen Schritt, Sie können nicht zum nächsten Schritt übergehen, ohne die Tür zu passieren.

Tipp: Speichern Sie Ihren Workflow als Skript und Notizbuch; Lassen Sie den Input, Output und die Entscheidung jedes Schritts dokumentieren. Die Frage „Wie bin ich zu diesem Ergebnis gekommen?“ innerhalb von Minuten nach Monaten beantworten zu können, ist sowohl für die Wissenschaft als auch für die Wirtschaftsprüfung Gold wert.

Reproduzierbarkeit: Sicherung des Ergebnisses

Ein Ergebnis ist nur dann zuverlässig, wenn es von jemand anderem wiederholt werden kann. Die vier Säulen der Reproduzierbarkeit sind: (1) Code befindet sich in der Versionskontrolle (mit Git), (2) die Umgebung ist festgelegt (Bibliotheksversionen werden registriert, z. B. Anforderungen.txt oder Conda-Umgebung), (3) Daten und Zufallsstartwerte werden registriert, (4) jeder Schritt wird dokumentiert. KI hilft beim Aufbau dieser Infrastruktur, aber es liegt an Ihnen, die Disziplin durchzusetzen.

drei Mini-Koffer

Fall 1 – Stiller Codefehler abgefangen. Ein Team nutzte ein von der KI geschriebenes Normalisierungsskript; Der Code funktionierte ohne Fehler. Als sie es mit bekannten Testdaten versuchten, stellten sie fest, dass die Ausgabe um den Faktor 1.000 verschoben war – das Skript führte eine falsche Einheitenumrechnung durch. Bei den kleinen Testdaten ist ein Fehler aufgetreten, der die gesamte Analyse stören würde.

Fall 2 – Reproduzierbarkeit gesichert. Nach einer Übertragung forderte der Schiedsrichter eine Wiederholung eines Ergebnisses. Das Team reproduzierte die Analyse wörtlich in 20 Minuten, da der Code in Git und einer angehefteten Umgebung versioniert war. Eine konkurrierende Gruppe, die die Umgebung nicht erfasste, konnte der gleichen Anfrage wochenlang nicht nachkommen.

Fall 3 – End-to-End-Verifizierung. In einem Enzymprojekt funktionierte der Arbeitsablauf folgendermaßen: KI schlug eine Hypothese aus der Literatur vor (validiert), Proteinmodell ordnete mögliche Mutationen ein (experimentell getestet), DoE reduzierte die Anzahl der Experimente, eine von drei Mutationen erhöhte die Aktivität um das 1,9-fache. Die KI beschleunigte sich bei jedem Schritt, der Mensch überprüfte sie an jeder Tür; Das Ergebnis war schnell und vertretbar.

Vier kopierbare Vorlagen

1) Aufbau eines Workflow-Gerüsts:

Ihre Rolle: Projektberater für Computational Biology. Entwerfen Sie einen End-to-End-Workflow, um die folgende Frage zu beantworten: [Frage]. Für jeden Schritt: (1) was zu tun ist, (2) wo KI hilft, (3) wie der Validierungsrahmen aussehen sollte, (4) welches Tool verwendet werden soll. Beziehen Sie den Schritt der Nasslaborvalidierung und Transparenz ein.

2) Python-Code + Testanfrage:

Ihre Rolle: Bioinformatik-Entwickler. Schreiben Sie eine Python-Funktion, die den folgenden Job ausführt: [job]. Bibliothek: [Pandas/Biopython]. Fügen Sie AUCH ein Validierungsbeispiel mit wenig bekannten Testdaten hinzu: Was ist die Eingabe, was ist die erwartete Ausgabe. Ich werde den Code ausführen und ihn mit Testdaten überprüfen. Nicht vorhandene Funktions-/Parameteranpassung.

3) Reproduzierbarkeitsprüfung:

Ich möchte meine Analyse reproduzierbar machen. Geben Sie mir eine Checkliste: Versionskontrolle, Umgebungs-Pinning (Anforderungen/Conda), Zufallsstartwert, Datenquellenregistrierung, Schrittdokumentation. Geben Sie für jeden Artikel eine praktische Anwendungsmöglichkeit an.

4) Ergebnisvalidierungsprüfung:

Ich möchte eine abschließende Validierungsprüfung durchführen, bevor ich ein Analyseergebnis in einen Bericht einfüge. Geben Sie mir eine Checkliste mit diesen Fragen: Ist das Ergebnis biologisch plausibel, sind die Statistiken korrekt (Mehrfachtests, Stichprobe), wurde es durch unabhängige Mittel bestätigt, ist es quellenabhängig, ist ein Nasstest erforderlich, wurde eine KI-Erklärung abgegeben?

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Eingabeaufforderung:

Schreiben Sie mir einen Python-Code, der diese Daten analysiert.

Vage Mission, keine Tests, keine Verifizierung; stillschweigend fehleranfällig.

Kraftvolle Aufforderung:

Ihre Rolle: Bioinformatik-Entwickler. Für eine CSV (Spalten: Gen, Kontrollmittelwert, Behandlungsmittelwert, p-Wert) mit Pandas: (1) log2-fache Änderungsspalte hinzufügen, (2) BH-korrigierten p-Wert berechnen, (3) padj<0,05 und |log2FC|>1 herausfiltern. Zeigen Sie AUCH die erwartete Ausgabe mit 5 Zeilen Beispieldaten an, damit ich sie überprüfen kann. Verwenden Sie keinen falschen Spaltennamen oder keine nicht vorhandene Funktion.

Der Unterschied: klare Mission, klare Statistiken, Validierung mit Testdaten und Fabrikationsverbot.

End-to-End-Workflow-Validierungs-Gateways

Schritt

KI-Beitrag

Verifizierungstor

Hypothese

Inspiration, Literatur

Ist es prüfbar oder geschweißt?

Daten/Privatsphäre

Checkliste

Anonymisierung, genehmigte Umgebung

Vorverarbeitung

Skript

Chargen-/QC-Kontrolle

Analyse

Code, Modell

Testdaten, unabhängiges Fahrzeug

Kommentar

Entwurf

Biologischer Geist, Korrelation-Ursache

Nassverifizierung

Experimentplan

Echtes Experimentergebnis

Bericht

Entwurf

Reproduzierbarkeit, Transparenz, Expertengenehmigung

Häufige Fehler

• Ich denke, dass der Arbeitscode korrekt ist. „Fehlerfrei gearbeitet“ ≠ „richtiges Ergebnis“; sollte mit Testdaten ausprobiert werden.
• Umgehen von Verifizierungstoren. Wer aus Gründen der Geschwindigkeit an einer Tür vorbeigeht, gefährdet alle weiteren Schritte.
• Vernachlässigung der Reproduzierbarkeit. Ohne Umgebungs-/Versionsregistrierung ist das Ergebnis nicht reproduzierbar.
• Verzögern/Überspringen der Nassüberprüfung. Eine Entscheidung kann erst getroffen werden, wenn die Computervorhersage durch Experimente bestätigt wird.
• Transparenz und Expertengenehmigung vergessen. Die endgültige Unterschrift und die AI-Erklärung sind Teil des Workflows.

Zusammenfassend

Verantwortungsvolles Bioengineering nutzt KI nicht als einzelne Werkzeuge, sondern als Teil eines End-to-End-Workflows, der mit Validierungstoren gespickt ist. Python und Reproduzierbarkeit sind das Rückgrat dieses Flusses; KI schreibt Code, aber Sie überprüfen ihn anhand von Testdaten, da funktionierender Code kein korrekter Code ist. Die KI beschleunigt sich bei jedem Schritt, der Mensch überprüft an jeder Tür; Kritische Hypothesen werden im Nasslabor überprüft und die Ergebnisse transparent und mit Expertengenehmigung berichtet. Die Essenz dieses Moduls ist in einem Satz zusammengefasst: Nehmen Sie die KI-Geschwindigkeit, behalten Sie die Entscheidung und Verantwortung beim Menschen.

Anwendungsaufgabe

Entwerfen Sie einen durchgängigen Arbeitsablauf für eine eigene Forschungsfrage. Lassen Sie die KI einen Sieben-Schritte-Plan mit der Vorlage „Workflow-Skelett“ erstellen und fügen Sie jedem Schritt Ihr eigenes Verifizierungs-Gate hinzu. Drucken Sie dann ein Skript mit der Vorlage „Python-Code + Testanforderung“ für einen der Analyseschritte aus, führen Sie es mit kleinen Testdaten aus und beweisen Sie, dass die Ausgabe korrekt ist. Bereiten Sie abschließend eine Liste zur „Ergebnisvalidierungsprüfung“ vor und halten Sie diesen Workflow für die Berichterstellung bereit. Zeichnen Sie den gesamten Prozess in einem reproduzierbaren Format (Code + Medien + Dokument) auf.

Checkliste

• [ ] Ich habe den Workflow mit sieben Schritten und einem Verifizierungsgate bei jedem Schritt entworfen.
• [ ] Ich habe den von der KI geschriebenen Code mit bekannten Testdaten überprüft.
• [ ] Ich habe die Analyse reproduzierbar gemacht (Version, Umgebung, Seed, Dokument).
• [ ] Ich habe die kritische Hypothese auf die Validierung im Nasslabor zurückgeführt.
• [ ] Ich habe Datenschutz- und Biosicherheitskontrollen in den Workflow integriert.
• [ ] Ich habe den Bericht mit einer transparenten KI-Erklärung und Expertengenehmigung abgeschlossen.

Modulprüfung

1. Welche der folgenden Aussagen ist die genaueste Positionierung für künstliche Intelligenz in der Biotechnik?

• A) KI ist ein Screening- und Entwurfstool; Die Verantwortung für Entscheidungen, die über die biologische Bedeutung und Sicherheit entscheiden, liegt beim Menschen ✔
• B) Künstliche Intelligenz kann Kandidatenmoleküle ohne menschliche Zustimmung direkt in die Produktion bringen
• C) Da künstliche Intelligenz immer objektiver ist als der Mensch, sollte ihr die biologische Interpretation überlassen werden.
• D) Künstliche Intelligenz ist nur zum Zusammenfassen von Texten nützlich, sie hat nichts mit Labordaten zu tun

Beschreibung: Künstliche Intelligenz; Es handelt sich um einen Assistenten, der umfangreiche und verrauschte Daten scannt, Muster markiert und Skizzen erstellt. Es ist der kompetente Experte, der die biologische Bedeutung, Sicherheit und endgültige Entscheidung trifft; Ein nicht überprüfter Ausdruck könnte einen Patienten, eine Produktionscharge oder eine Publikation gefährden. In sicherheitskritischen Bereichen ist die KI-Ergebnis kein Ersatz für die Zustimmung eines Experten.

2. Welchen Zweck hat der Schritt „Quellenverknüpfung“ bei der Validierung einer KI-Ausgabe?

• A) Eliminierung erfundener (halluzinatorischer) Schlussfolgerungen durch Verknüpfung jeder Behauptung mit konkreten Daten oder der Originalquelle ✔
• B) Die Ausgabe flüssiger und lesbarer gestalten
• C) Überspringen der Validierung, um die Analyse schneller abzuschließen
• D) Die von der künstlichen Intelligenz gegebenen Referenzen so akzeptieren, wie sie sind

Beschreibung: KI spricht fließend, erzeugt aber gelegentlich Halluzinationen; kann ein nicht existierendes Gen, einen nicht existierenden Weg oder eine Referenz als real darstellen. Durch die Verknüpfung jeder Behauptung mit konkreten Daten oder der Originalquelle wird verhindert, dass eine erfundene Schlussfolgerung Eingang in den Bericht oder die Veröffentlichung findet.

3. Was ist bei der Interpretation eines BLAST- oder Sequenz-Alignment-Ergebnisses erforderlich, um eine „sichere“ Übereinstimmung zu beurteilen?

• A) Ich schaue mir nur die Länge der Saite an
• B) Direktes Verlassen auf den von der künstlichen Intelligenz vorgegebenen Typnamen
• C) Gemeinsame Auswertung von Alignment-Metriken wie Prozentidentität, Abdeckung und E-Wert ✔
• D) Ich zähle nur, wie viele Zeilen die Ausgabe umfasst

Beschreibung: Zur Validierung einer Reiheninterpretation sind Metriken wie prozentuale Identität, Abdeckung und E-Wert erforderlich. Ein kleiner E-Wert zeigt an, dass die Ähnlichkeit nicht zufällig ist. Ohne diese Messwerte kann die Interpretation „dieses Protein ist das“ nicht verifiziert werden und könnte eine Halluzination sein.

4. Warum wird der „angepasste p-Wert“ (padj) verwendet, wenn 20.000 Gene gleichzeitig in der RNA-seq-Differentialexpressionsanalyse getestet werden?

• A) Um den Bodenwechsel zu erhöhen
• B) Um Fehlalarme aufgrund mehrfacher Tests zu kontrollieren und die Falscherkennungsrate zu begrenzen ✔
• C) Um die Stichprobengröße zu reduzieren
• D) Um die Analyse zu beschleunigen

Erklärung: Wenn Tausende von Genen gleichzeitig getestet werden, können sich sogar durch Zufall Hunderte von Genen als „signifikant“ herausstellen. Mehrfachtestkorrekturen wie Benjamini-Hochberg begrenzen die Falscherkennungsrate. Mit dem rohen p-Wert wird die Liste irreführend angeschwollen; Die Verwendung von padj ist für die wissenschaftliche Vertretbarkeit von wesentlicher Bedeutung.

5. Welche Falle tritt bei der Omics-Analyse auf, wenn zwei Behandlungsgruppen an unterschiedlichen Tagen verarbeitet werden, was dazu führt, dass ein technischer Unterschied mit einem biologischen Unterschied verwechselt wird?

• A) Fehler beim Etagenwechsel
• B) Codon-Optimierung
• C) Batch-Effekt ✔
• D) Kanteneffekt

Erläuterung: Der Batch-Effekt ist der technische Unterschied, der sich aus der Verarbeitung von Proben durch verschiedene Tage, Geräte oder Personen ergibt und die größte Fehlerquelle in der Omics-Analyse darstellt. Vor Beginn der Analyse muss ein PCA-Diagramm erstellt und überprüft werden, ob die Proben nach biologischem Zustand oder Charge geclustert sind.

6. Was bedeutet der pLDDT-Score für eine mit AlphaFold erstellte Proteinstrukturvorhersage und wie sollte er verwendet werden?

• A) Zeigt das Konfidenzniveau des Modells für jede Region an; Behauptungen, die auf niedrigen Vertrauensbereichen basieren, sollten vermieden werden ✔
• B) Es misst, wie schnell sich das Protein faltet und kann ignoriert werden
• C) Beweist, dass das Protein eine präzise Struktur hat, die experimentell gelöst wurde.
• D) Verleiht direkt Andockaffinität

Beschreibung: pLDDT ist ein Konfidenzwert, der angibt, wie sicher das Modell für jede Aminosäure ist. Hohe Werte (>90) sind im Allgemeinen zuverlässig; niedrigere Werte (<50) deuten oft auf unregelmäßige oder unklare Regionen hin. Die Behauptung von Mechanismen, die auf Regionen mit geringem Vertrauen basieren, ist irreführend. Kritische Strukturen müssen experimentell überprüft werden.

7. Wie sollten molekulare Docking-Scores beim Arzneimittel-/Enzymdesign interpretiert werden?

• A) Es sollte als absolute Bindungsaffinität betrachtet werden.
• B) Es stellt sicher, dass ein Molekül niemals bindet
• C) Es ist ein relatives Werkzeug zum Ordnen von Molekülen vor dem Experimentieren; Die endgültige Entscheidung wird durch experimentelle Affinitätsmessung ✔ getroffen
• D) Allein reicht für die klinische Zulassung aus

Kommentar: Docking-Scores sind relativ und sagen nicht die tatsächliche Bindungsaffinität voraus; Die Falsch-Positiv-Rate ist hoch. Die richtige Verwendung besteht darin, vor dem Experimentieren Tausende von Molekülen zu sequenzieren und die vielversprechendsten hervorzuheben. Die endgültige Entscheidung wird durch experimentelle Affinitätsmessungen wie SPR oder ITC getroffen.

8. Was ist der Hauptfehler der „One Variable at a Time“ (OFAT)-Methode für einen Bioverfahrenstechniker, der fünf Parameter optimieren möchte?

• A) Fehlt Interaktionen zwischen Parametern ✔
• B) Erfordert immer wenig Experimentieren
• C) Erhöht die statistische Aussagekraft
• D) Eliminiert automatisch den Batch-Effekt

Erläuterung: Bei der OFAT-Methode fehlen Interaktionen zwischen Parametern. Möglicherweise sind hohe Temperaturen nur bei niedrigem pH-Wert gut. Design of Experiments (DoE) erfasst Interaktionen und reduziert die Anzahl von Experimenten mit faktoriellen Designs, die Parameter gemeinsam und ausgewogen variieren.

9. Was ist der richtige Ansatz, wenn ein Optimierungsmodell eine Temperatur empfiehlt, die die Kultur im Labor abtötet?

• A) Den Vorschlag so umsetzen, wie er ist, da das Modell intelligenter ist
• B) Geben Sie Sicherheit und physiologische Grenzen als Einschränkungen für das Modell an und überprüfen Sie jeden Vorschlag mit Laborkenntnissen ✔
• C) Ganz auf die Optimierung verzichten
• D) Versuchen Sie, die Temperaturbegrenzung zu ignorieren

Erläuterung: Das Modell kennt keine physiologischen und Sicherheitsgrenzen; Das mathematische Optimum kann gefährlich oder unmöglich sein. Der richtige Ansatz besteht darin, dem Modell Sicherheits- und physiologische Grenzen als Einschränkungen zu geben und jeden Vorschlag mit Laborkenntnissen zu überprüfen. Der physikalische Grenzwert übertrifft das mathematische Optimum.

10. Was ist bei der Auswertung des Ergebnisses einer automatisierten Zellzählung oder Fluoreszenzsortierung zwingend erforderlich?

• A) Das Ergebnis direkt akzeptieren, da das Modell schneller ist als der Mensch
• B) Nur die Anzahl der Bilder melden
• C) Betrachten Sie nur das Bild mit dem höchsten Signal
• D) Überprüfen Sie die Ausgabe manuell anhand einer Probe und validieren Sie sie mit geeigneten Kontrollen (einschließlich negativer, ungefärbter) ✔

Beschreibung: Die automatische Ausgabe muss manuell an einer Probe überprüft werden und jede Messung muss mit geeigneten Kontrollen (positiv, negativ, leer, ungefärbt) validiert werden. Wenn beispielsweise in der ungefärbten Kontrolle ein Signal vorhanden ist, kann es sich um Autofluoreszenz handeln; Ohne Kontrollen kann die automatische Analyse kein echtes Signal von einem Artefakt unterscheiden.

11. Was ist zu tun, wenn ein Optimierungsvorschlag in einem Bioprozess den Ertrag erhöht, aber ein kritisches Qualitätsmerkmal (CQA) aus der Spezifikation entfernt?

• A) Da Effizienz wichtig ist, wird die hocheffiziente Option bevorzugt
• B) Die Effizienz wird durch Lockerung der CQA-Grenze aufrechterhalten
• C) Die Entscheidung wird der künstlichen Intelligenz überlassen
• D) Qualität hat Vorrang vor Effizienz; Eine Qualitätsoption, die in den Gestaltungsbereich fällt, wird bevorzugt ✔

Beschreibung: In der Bioverarbeitung geht Qualität vor Ertrag; Damit das Produkt sicher und wirksam ist, müssen die CQA-Grenzwerte (Reinheit, Glykosylierung, Aktivität) eingehalten werden. Wenn der Punkt, der die Effizienz maximiert, die Qualität beeinträchtigt, wird die im Designraum verbleibende Qualitätsoption bevorzugt.

12. Was ist das Hauptrisiko, wenn einem Sprachmodell gesagt wird, es solle „10 Artikel zu diesem Thema finden und diese zusammenfassen“?

• A) Das Modell läuft sehr langsam
• B) Das Modell kann realistische, aber nicht vorhandene (fabrizierte) Referenzen generieren, ohne eine echte Suche durchzuführen ✔
• C) Das Modell findet immer zu viele Artikel
• D) Das Modell gibt nur alte Artikel zurück

Erläuterung: Einfache Chat-Tools führen häufig keine tatsächlichen Suchvorgänge durch. generiert statistisch „scheinbar wahrscheinliche“ Antworten aus dem Gedächtnis. Dies bedeutet realistische, aber gefälschte Referenzen (erfundener Autor, Zeitschrift, DOI). Jede Referenz sollte anhand der tatsächlichen Datenbank (PubMed, DOI) überprüft werden und wenn möglich sollten RAG-basierte Tools verwendet werden, die mit tatsächlichen Dokumenten verknüpft sind.

13. Was ist das richtige Verhalten, wenn ein Benutzer die KI nach Mutationen fragt, die die Wirksamkeit eines Bakterientoxins erhöhen?

• A) Die Anfrage ausführlich beantworten, da sie wissenschaftlicher Natur ist
• B) Reduzierung des Risikos durch Bereitstellung nur unvollständiger Informationen
• C) Lehnen Sie die Anfrage ab, erklären Sie, dass sie unter DURC fällt, und melden Sie sie dem institutionellen Biosicherheitskanal ✔
• D) Ignorieren Sie die Anfrage und gehen Sie zu einem anderen Thema über

Erläuterung: Bei dieser Anfrage handelt es sich um eine schädliche Anfrage gemäß Dual-Use (DURC). Die KI sollte solche Anfragen ablehnen, erklären, warum es ein Dual-Use-Risiko darstellt, und die Situation dem Unternehmenskanal für Biosicherheit/Ethik melden. Es sollten keine technischen Ratschläge erteilt werden, die das Schadenspotenzial erhöhen.

14. Welche Schlussfolgerung ist richtig, wenn ein von künstlicher Intelligenz geschriebenes Python-Analyseskript fehlerfrei funktioniert?

• A) Das Ergebnis ist absolut korrekt, da der Code funktioniert
• B) Der Code muss nicht getestet werden, da er von der KI geschrieben wurde
• C) Die Fehlerfreiheit gewährleistet auch die Reproduzierbarkeit.
• D) Der ausgeführte Code ist möglicherweise nicht korrekt. Die erwartete Ausgabe muss anhand bekannter Testdaten überprüft werden ✔

Erläuterung: „Es hat fehlerfrei funktioniert“ und „Es hat das richtige Ergebnis geliefert“ sind zwei verschiedene Dinge. Der Code kann aufgrund eines Einheitenfehlers, einer falschen Spalte oder eines fehlenden Filters stillschweigend das falsche Ergebnis zurückgeben. Jeder Code sollte mit kleinen Testdaten getestet werden, deren Eingabe und Ausgabe bekannt sind. Es sollte jedoch als zuverlässig angesehen werden, wenn es das erwartete Ergebnis liefert.