Vienetas 10 / 10

Visapusiškas projektas: AI padedama bioinžinerijos darbo eiga ir patvirtinimas naudojant Python

Pelnas:

  • Galimybė sukurti septynių žingsnių darbo eigą nuo klausimo iki patikrinto rezultato, kiekviename žingsnyje įdedant patvirtinimo vartus
  • Galimybė patikrinti dirbtinio intelekto parašytą Python kodą su žinomais testo duomenimis ir atskirti skirtumą tarp „darbinio kodo“ ir „teisingo kodo“
  • Padarykite analizę atkuriamą (versija, terpė, pradinė medžiaga, dokumentas) ir ataskaitoje su šlapio patikrinimo, skaidrumo ir eksperto patvirtinimu.

Mokėmės ankstesniuose devyniuose skyriuose: sekos analizė, omika, baltymų modeliavimas, eksperimentinis dizainas, laboratoriniai duomenys, biologinis apdorojimas, literatūra ir etika. Šiame paskutiniame skyriuje sujungsime dalis ir sukursime visapusišką darbo eigą – grandinę nuo tyrimo klausimo iki patvirtintos išvados, kai dirbtinis intelektas padeda kiekviename žingsnyje, bet žmogus priima kiekvieną svarbų sprendimą ir patikrinimą. Taip pat apžvelgsime Python, kuris yra šios grandinės pagrindas, ir atkuriamumo discipliną – galimybę pakartoti kieno nors kito analizę naudojant tuos pačius duomenis, kad būtų gautas toks pats rezultatas.

Tikslas yra ne suteikti atskirus įrankius, o atsakingą darbo eigos mąstymą: žinosite, kur įdėti dirbtinį intelektą, kur įdėti patvirtinimo vartus ir kaip padaryti, kad visas procesas būtų atsekamas.

Kodėl Python?

Bioinformatikos ir skaičiavimo biologijos lingua franca yra Python (ir R). Nes galite automatizuoti ir padaryti beveik kiekvieną veiksmą pakartojamą naudodami atvirojo kodo bibliotekas (Biopython sekos analizei, pandos duomenų lentelėms, scikit-learn mašininiam mokymuisi, matplotlib vizualizacijai). AI yra labai galingas rašant Python kodą; Tačiau priimti kodą, kurį jis sukuria nepaleidus ir jo patikrinimo, yra pavojinga – kodas gali tyliai grąžinti neteisingą rezultatą (vieneto klaida, neteisingas stulpelis, praleistas filtras).

Dėmesio: net jei AI parašytas kodas veikia, jis gali būti neteisingas. „Tai veikė be klaidų“ ir „davė teisingą rezultatą“ yra du skirtingi dalykai. Išbandykite kiekvieną kodą su mažais žinomais bandymo duomenimis: ar įvestis-išvestis tokia, kokios tikitės? Tai vienintelis būdas sugauti tylias klaidas.

Darbo eigos anatomija

Atsakinga AI palaikyta bioinžinerijos darbo eiga vadovaujasi šia sistema:

  1. Klausimas ir hipotezė. Aiškus, patikrinamas klausimas. (AI gali įkvėpti; jūs paaiškinate.)
  2. Duomenų rinkimas ir privatumo kontrolė. Iš kur yra duomenys, asmeninės ar patvirtintos žiniasklaidos? (9 vienetas.)
  3. Išankstinis apdorojimas ir kokybės kontrolė. Valymas, normalizavimas, partijos kontrolė. (2–3 skyrius.)
  4. Analizė. Statistika, modeliavimas, prognozavimas. (Patikrinimo vartai kiekviename žingsnyje.)
  5. komentuoti. Pataikymas į biologinį protą, koreliacijos-priežastinio ryšio skirtumas.
  6. Drėgnas laboratorinis patikrinimas. Kritinė hipotezė patikrinama eksperimentiškai. (1, 4, 5 skyrius.)
  7. Ataskaitų teikimas ir skaidrumas. Atkuriamas kodas, AI pareiškimas, eksperto patvirtinimas. (8–9 skyrius.)

Kiekvienas veiksmas turi kontrolinį tašką – tašką, kuriame išvestis patikrinama prieš pereinant prie kito žingsnio. AI pagreitina vienu žingsniu, jūs negalite pereiti prie kito žingsnio nepraėję durų.

Patarimas: išsaugokite darbo eigą kaip scenarijų ir bloknotą; Tegul kiekvieno žingsnio įvestis, išvestis ir sprendimas yra dokumentuojami. Galimybė atsakyti į klausimą „kaip aš gavau tokį rezultatą“ per kelias minutes po kelių mėnesių yra aukso vertės tiek mokslui, tiek auditui.

Atkuriamumas: rezultato draudimas

Rezultatas yra patikimas tik tada, kai jį gali pakartoti kas nors kitas. Keturi atkuriamumo ramsčiai yra šie: (1) kodas yra versijų valdymo režime (su git), (2) aplinka yra fiksuota (užregistruojamos bibliotekos versijos, pvz., reikalavimai.txt arba conda aplinka), (3) registruojami duomenys ir atsitiktinė pradžia, (4) kiekvienas veiksmas dokumentuojamas. Dirbtinis intelektas padeda sukurti šią infrastruktūrą, bet jūs turite laikytis disciplinos.

trys mini dėklai

1 atvejis – užfiksuota tylaus kodo klaida. Viena komanda naudojo normalizavimo scenarijų, kurį parašė AI; Kodas veikė be klaidų. Pabandę jį su žinomais bandymo duomenimis, jie nustatė, kad išvestis pasislinko 1000 kartų – scenarijus atliko neteisingą vieneto konvertavimą. Nedideli bandymo duomenys užfiksavo klaidą, kuri sutrikdytų visą analizę.

2 atvejis – išsaugotas atkuriamumas. Po transliacijos teisėjas paprašė pakartoti rezultatą. Komanda pažodžiui atkūrė analizę per 20 minučių, nes turėjo kodo versijas Git ir prisegtą aplinką. Konkuruojanti grupė, kuri neužfiksavo aplinkos, negalėjo patenkinti to paties prašymo savaites.

3 atvejis. Patvirtinimas nuo galo iki galo. Fermentų projekte darbo eiga veikė taip: AI pasiūlė hipotezę iš literatūros (patvirtinta), baltymų modelis įvertino kandidatų mutacijas (išbandyta eksperimentu), DoE sumažino eksperimentų skaičių, viena iš trijų mutacijų padidino aktyvumą 1,9 karto. AI įsibėgėjo kiekviename žingsnyje, žmogus tikrinamas prie kiekvieno durų; Rezultatas buvo greitas ir apginamas.

Keturi kopijuojami šablonai

1) Darbo eigos skeleto sukūrimas:

Jūsų vaidmuo: kompiuterinės biologijos projektų konsultantas. Sukurkite visą darbo eigą, kad atsakytumėte į šį klausimą: [klausimas]. Kiekvienam žingsniui: (1) ką daryti, (2) kur padeda dirbtinis intelektas, (3) kokia turėtų būti patvirtinimo sistema, (4) kokį įrankį naudoti. Įtraukite šlapios laboratorijos patvirtinimo ir skaidrumo žingsnį.

2) Python kodas + bandymo užklausa:

Jūsų vaidmuo: bioinformatikos kūrėjas. Parašykite Python funkciją, kuri atlieka šį darbą: [darbas]. Biblioteka: [pandas/Biopython]. TAIP PAT pridėkite patvirtinimo pavyzdį su mažai žinomais testo duomenimis: kokia įvestis, kokia laukiama išvestis. Aš paleisiu kodą ir patikrinsiu jį su bandymo duomenimis. Neegzistuojantis funkcijos/parametrų derinimas.

3) Atkuriamumo patikrinimas:

Noriu, kad mano analizė būtų atkuriama. Pateikite man kontrolinį sąrašą: versijos valdymas, aplinkos prisegimas (reikalavimai/conda), atsitiktinė pradžia, duomenų šaltinio registracija, žingsnių dokumentacija. Pateikite praktinį kiekvieno elemento pritaikymo būdą.

4) Rezultato patvirtinimo patikra:

Prieš įtraukdamas analizės rezultatą į ataskaitą, noriu atlikti galutinį patvirtinimo patikrinimą. Pateikite man šių klausimų kontrolinį sąrašą: ar rezultatas yra biologiškai patikimas, ar statistika tiksli (daugkartinis tyrimas, mėginys), ar tai patvirtinta nepriklausomomis priemonėmis, ar tai priklauso nuo šaltinio, ar reikalingas šlapias testas, ar buvo atliktas AI pareiškimas?

Silpnas raginimas / Stiprus raginimas

Silpnas raginimas:

Parašykite man Python kodą, kuris analizuoja šiuos duomenis.

Neaiški misija, jokių bandymų, jokio patikrinimo; linkusi į tylias klaidas.

Galingas raginimas:

Jūsų vaidmuo: bioinformatikos kūrėjas. CSV (stulpeliai: genas, kontrolinis_vidurkis, gydymo_vidurkis, preikšmė) su pandomis: (1) pridėkite log2 karto pokyčio stulpelį, (2) apskaičiuokite BH pakoreguotą p reikšmę, (3) išfiltruokite padj<0,05 ir |log2FC|>1. TAIP PAT parodykite numatomą išvestį su 5 duomenų pavyzdžių eilutėmis, kad galėčiau patikrinti. Nenaudokite netinkamo stulpelio pavadinimo arba neegzistuojančios funkcijos.

Skirtumas: aiški misija, aiški statistika, patvirtinimas su bandymų duomenimis ir gamybos draudimas.

Galutinės darbo eigos patvirtinimo šliuzai

žingsnis

AI indėlis

patikrinimo vartai

hipotezė

įkvėpimas, literatūra

Ar jis išbandomas ar suvirintas?

Duomenys / privatumas

kontrolinis sąrašas

Atpažinimo panaikinimas, patvirtinta aplinka

išankstinis apdorojimas

scenarijus

Partijos / QC valdymas

Analizė

kodas, modelis

Bandymo duomenys, nepriklausoma transporto priemonė

komentuoti

juodraštis

Biologinis protas, koreliacija-priežastinis ryšys

šlapio patikrinimas

Eksperimento planas

Tikras eksperimento rezultatas

Pranešimas

juodraštis

Atkuriamumas, skaidrumas, ekspertų patvirtinimas

Dažnos klaidos

  • Mano, kad darbo kodas yra teisingas. „Dirbo be klaidų“ ≠ „teisingas rezultatas“; Reikėtų pabandyti su bandymų duomenimis.
  • Apeinant patikrinimo vartus. Praleidus duris vardan greičio kyla pavojus visiems tolesniems veiksmams.
  • Nepaisoma atkuriamumo. Be aplinkos / versijos registracijos rezultatas neatkuriamas.
  • Patikrinimo po šlapio danga atidėjimas / praleidimas. Sprendimas negali būti priimtas, kol kompiuterinė prognozė nepatvirtinta eksperimentu.
  • Pamiršus skaidrumą ir ekspertų pritarimą. Galutinis parašas ir AI deklaracija yra darbo eigos dalis.

Apibendrinant

Atsakinga bioinžinerija AI naudoja ne kaip atskirus įrankius, o kaip visapusės darbo eigos, suvaržytos patvirtinimo vartais, dalį. Python ir atkuriamumas yra šio srauto pagrindas; AI rašo kodą, bet jūs jį patikrinate naudodami bandymo duomenis, nes veikiantis kodas nėra teisingas. AI įsibėgėja kiekviename žingsnyje, žmogus tikrina prie kiekvieno durų; Kritinės hipotezės tikrinamos drėgnoje laboratorijoje, o rezultatai pateikiami skaidriai ir gavus ekspertų pritarimą. Šio modulio esmė slypi viename sakinyje: Paimkite AI greitį, išlaikykite sprendimą ir atsakomybę žmoguje.

Taikymo užduotis

Sukurkite savo tyrimo klausimo darbo eigą nuo pradžios iki pabaigos. Leiskite dirbtiniam intelektui parengti septynių žingsnių planą su „darbo eigos skeleto“ šablonu ir kiekvienam žingsniui pridėti savo patvirtinimo vartus. Tada atspausdinkite scenarijų su šablonu „Python kodas + bandymo užklausa“ vienam iš analizės žingsnių, paleiskite jį su nedideliais bandymo duomenimis ir įrodykite, kad išvestis yra teisinga. Galiausiai paruoškite „rezultato patvirtinimo patikros“ sąrašą ir paruoškite šią darbo eigą ataskaitoms teikti. Įrašykite visą procesą atkuriamu (kodas + laikmena + dokumentas) formatu.

kontrolinis sąrašas

  • [ ] Sukūriau darbo eigą su septyniais etapais ir patikrinimo vartais kiekviename žingsnyje.
  • [ ] Patikrinau AI parašytą kodą su žinomais bandymo duomenimis.
  • [ ] Analizę padariau atkuriamą (versija, aplinka, pradinė dalis, dokumentas).
  • [ ] Kritinę hipotezę priskyriau šlapiosios laboratorijos patvirtinimui.
  • [ ] Į darbo eigą įtraukiau duomenų privatumo ir biologinio saugumo valdiklius.
  • [ ] Ataskaitą užpildžiau skaidriu AI pareiškimu ir eksperto patvirtinimu.

Modulio egzaminas

1. Kuris iš šių dalykų yra tiksliausias dirbtinio intelekto padėties nustatymas bioinžinerijoje?

  • A) AI yra atrankos ir piešimo įrankis; Atsakomybė už sprendimus, lemiančius biologinę prasmę ir saugumą, tenka žmogui ✔
  • B) Dirbtinis intelektas gali panaudoti molekules kandidates tiesiai į gamybą be žmogaus sutikimo
  • C) Kadangi dirbtinis intelektas visada yra objektyvesnis už žmones, biologinis aiškinimas turėtų būti paliktas jam.
  • D) Dirbtinis intelektas naudingas tik tekstui apibendrinti, jis neturi nieko bendro su laboratoriniais duomenimis

Aprašymas: Dirbtinis intelektas; Tai asistentas, kuris nuskaito didelius ir triukšmingus duomenis, žymi raštus ir gamina eskizus. Biologinę prasmę, saugumą ir galutinį sprendimą priima kompetentingas ekspertas; nepatikrintas spaudinys gali kelti pavojų pacientui, gamybos partijai ar leidiniui. Saugumui svarbiose srityse dirbtinio intelekto išvestis nepakeičia ekspertų patvirtinimo.

2. Koks yra „šaltinio susiejimo“ veiksmo tikslas patvirtinant AI išvestį?

  • A) Išgalvotų (haliucinacinių) išvadų pašalinimas kiekvieną teiginį susiejant su konkrečiais duomenimis arba pirminiu šaltiniu ✔
  • B) Padaryti išvestį sklandesnę ir skaitomesnę
  • C) Patvirtinimo praleidimas, kad analizė būtų baigta greičiau
  • D) Dirbtinio intelekto teikiamų nuorodų priėmimas tokias, kokios jos yra

Aprašymas: AI sklandžiai kalba, bet kartais sukelia haliucinacijas; gali pateikti neegzistuojantį geną, kelią ar nuorodą kaip tikrą. Kiekvieną teiginį susiejant su sunkiais duomenimis arba pirminiu šaltiniu, išgalvotos išvados nepatenka į ataskaitą ar publikaciją.

3. Aiškinant BLAST arba sekos derinimo rezultatą, ko reikia norint įvertinti „pasitikimą“ atitiktį?

  • A) Tiesiog žiūrint į stygos ilgį
  • B) Tiesiogiai pasikliaujant dirbtinio intelekto duotu tipo pavadinimu
  • C) Kartu įvertinkite suderinimo metriką, pvz., tapatumo procentą, aprėptį ir el. vertę ✔
  • D) Tiesiog suskaičiuokite, kiek eilučių yra išvestis

Aprašymas: norint patvirtinti serijos interpretaciją, reikia tokios metrikos kaip tapatumo procentas, aprėptis ir el. vertė. Maža e-reikšmė rodo, kad panašumas nėra atsitiktinis. Be šių metrikų negalima patikrinti aiškinimo „šis baltymas yra toks“ ir tai gali būti haliucinacija.

4. Kodėl RNR-seq diferencinės raiškos analizėje vienu metu tikrinant 20 000 genų naudojama koreguota p vertė (padj)?

  • A) Padidinti grindų pasikeitimą
  • B) Kontroliuoti klaidingus teigiamus rezultatus dėl kelių bandymų ir apriboti klaidingų atradimų dažnį ✔
  • C) Norėdami sumažinti imties dydį
  • D) Paspartinti analizę

Paaiškinimas: kai vienu metu tiriami tūkstančiai genų, šimtai genų gali pasirodyti „reikšmingi“ net atsitiktinai. Kelių bandymų taisymas, pvz., Benjamini-Hochberg, riboja klaidingų atradimų dažnį. Su neapdorota p reikšme sąrašas klaidinančiai išpūstas; Padj naudojimas yra būtinas moksliniam patikimumui.

5. Kas yra spąstai, atsirandantys atliekant omikos analizę, kai dvi gydymo grupės apdorojamos skirtingomis dienomis, todėl techninis skirtumas yra supainiotas su biologiniu skirtumu?

  • A) Grindų keitimo klaida
  • B) kodono optimizavimas
  • C) Partijos efektas ✔
  • D) Krašto efektas

Paaiškinimas: Paketinis efektas yra techninis skirtumas, atsirandantis dėl mėginių apdorojimo skirtingomis dienomis, prietaisais ar žmonėmis ir yra didžiausias omikos analizės klaidų šaltinis. Prieš pradedant analizę, būtina nubraižyti PCA diagramą ir patikrinti, ar mėginiai sugrupuoti pagal biologinę būklę ar partiją.

6. Ką pLDDT balas reiškia baltymų struktūros prognozei, pagamintai naudojant AlphaFold, ir kaip jį naudoti?

  • A) Rodo kiekvieno regiono modelio patikimumo lygį; Reikėtų vengti pretenzijų, pagrįstų žemo pasitikėjimo zonomis ✔
  • B) Matuoja, kaip greitai baltymas susilanksto ir gali būti ignoruojamas
  • C) Įrodo, kad baltymas turi tikslią struktūrą, kuri buvo išspręsta eksperimentiškai.
  • D) Tiesiogiai suteikia prijungimo ryšį

Aprašymas: pLDDT yra patikimumo balas, nurodantis, kiek modelis yra tikras dėl kiekvienos aminorūgšties. Aukštos vertės (>90) paprastai yra patikimos; mažesnės reikšmės (<50) dažnai rodo netaisyklingus ar neaiškius regionus. Mažo pasitikėjimo regionais pagrįsti tvirtinimo mechanizmai yra klaidinantys; kritinės struktūros turi būti patikrintos eksperimentiškai.

7. Kaip turėtų būti interpretuojami molekulinio prijungimo balai vaistų/fermentų konstrukcijoje?

  • A) Tai turėtų būti laikoma absoliučiu surišimo giminingumu.
  • B) Tai užtikrina, kad molekulė niekada nesusiriš
  • C) Tai santykinė priemonė molekulėms sutvarkyti prieš eksperimentavimą; Galutinį sprendimą priima eksperimentinis giminingumo matavimas ✔
  • D) Klinikiniam patvirtinimui pakanka vien

Komentaras: prijungimo balai yra santykiniai ir nenumato faktinio surišimo afiniteto; Klaidingai teigiamų rezultatų rodiklis yra didelis. Tinkamas naudojimas – prieš eksperimentuojant suskirstyti tūkstančius molekulių ir išryškinti perspektyviausias. Galutinis sprendimas priimamas atliekant eksperimentinį giminingumo matavimą, pvz., SPR arba ITC.

8. Kokia yra pagrindinė metodo „vienas kintamasis vienu metu“ (OFAT) trūkumas bioproceso inžinieriui, norinčiam optimizuoti penkis parametrus?

  • A) Praleidžia sąveiką tarp parametrų ✔
  • B) Visada reikia mažai eksperimentuoti
  • C) Padidina statistinę galią
  • D) Automatiškai pašalina partijos efektą

Paaiškinimas: OFAT metodas praleidžia parametrų sąveiką; gal aukšta temperatūra yra gerai tik esant žemam pH. Eksperimentų planavimas (DoE) fiksuoja sąveiką ir sumažina eksperimentų skaičių naudojant faktorines konstrukcijas, kurios kartu ir subalansuotai keičia parametrus.

9. Koks yra teisingas požiūris, kai optimizavimo modelis rekomenduoja tokią temperatūrą, kuri sunaikins kultūrą laboratorijoje?

  • A) Įgyvendinti pasiūlymą taip, kaip yra, nes modelis yra protingesnis
  • B) Saugos ir fiziologinių apribojimų nustatymas modeliui ir kiekvieno pasiūlymo patikrinimas laboratorinėmis žiniomis ✔
  • C) Optimizavimo visiškai atsisakymas
  • D) Pabandykite nepaisyti temperatūros ribos

Paaiškinimas: modelis nežino fiziologinių ir saugos ribų; matematinis optimalumas gali būti pavojingas arba neįmanomas. Teisingas požiūris – modeliui nustatyti saugos ir fiziologines ribas ir kiekvieną pasiūlymą patikrinti laboratorinėmis žiniomis. Fizinė riba pranoksta matematinį optimalumą.

10. Kuris yra privalomas vertinant automatinio ląstelių skaičiavimo ar fluorescencinio rūšiavimo rezultatą?

  • A) Rezultato priėmimas tiesiogiai, nes modelis yra greitesnis už žmogų
  • B) Pateikiamas tik vaizdų skaičius
  • C) Žiūrint tik į vaizdą, kurio signalas didžiausias
  • D) Rankiniu būdu patikrinkite mėginio išvestį ir patvirtinkite atitinkamomis kontrolėmis (įskaitant neigiamą, nedažytą) ✔

Aprašymas: automatinė išvestis turi būti rankiniu būdu patikrinta mėginyje, o kiekvienas matavimas turi būti patvirtintas atitinkamais kontroliniais elementais (teigiamas, neigiamas, tuščias, nenuspalvintas). Pavyzdžiui, jei nedažyta kontrolinė medžiaga yra signalas, tai gali būti autofluorescencija; Be valdiklių automatinė analizė negali atskirti tikro signalo nuo artefakto.

11. Ką daryti, jei optimizavimo pasiūlymas bioprocese padidina išeigą, bet ištraukia kritinį kokybės požymį (CQA) iš specifikacijos?

  • A) Kadangi efektyvumas yra svarbus, pirmenybė teikiama didelio efektyvumo pasirinkimui
  • B) Efektyvumas palaikomas sumažinus CQA ribą
  • C) Sprendimas paliekamas dirbtiniam intelektui
  • D) kokybei teikiama pirmenybė, o ne efektyvumui; Pageidautina kokybės variantas, kuris patenka į dizaino erdvę ✔

Aprašymas: Biologinio apdorojimo atveju kokybė viršija derlių; Kad produktas būtų saugus ir veiksmingas, turi būti išlaikytos CQA ribos (grynumas, glikozilinimas, aktyvumas). Jei taškas, kuris padidina efektyvumą, kenkia kokybei, pirmenybė teikiama kokybės pasirinkimui, kuris lieka projektavimo erdvėje.

12. Kokia yra pagrindinė rizika, kai kalbos modeliui liepiama „surasti 10 straipsnių šia tema ir juos apibendrinti“?

  • A) Modelis veikia labai lėtai
  • B) Modelis gali generuoti tikroviškas, bet neegzistuojančias (sugalvotas) nuorodas neatlikdamas tikros paieškos ✔
  • C) Modelis visada randa per daug straipsnių
  • D) Modelis grąžina tik senus straipsnius

Paaiškinimas: Paprasti pokalbių įrankiai dažnai neatlieka realių paieškų; generuoja statistiškai „atrodo, tikėtinus“ atsakymus iš atminties. Tai reiškia tikroviškas, bet netikras nuorodas (išgalvotas autorius, žurnalas, DOI). Kiekviena nuoroda turėtų būti patikrinta pagal tikrąją duomenų bazę (PubMed, DOI) ir, jei įmanoma, turėtų būti naudojamos RAG pagrįstos priemonės, susietos su tikrais dokumentais.

13. Koks yra teisingas elgesys, kai vartotojas prašo dirbtinio intelekto dėl mutacijų, kurios padidins bakterinio toksino veiksmingumą?

  • A) Išsamus atsakymas į prašymą, nes jis yra mokslinis
  • B) Rizikos mažinimas pateikiant tik dalinę informaciją
  • C) Atmeskite prašymą, paaiškinkite, kad jam taikoma DURC, ir praneškite apie tai institucijos biologinio saugumo kanalui ✔
  • D) Ignoruokite prašymą ir pereikite prie kitos temos

Paaiškinimas: ši užklausa yra žalinga dvejopo naudojimo užklausa (DURC). AI turėtų atmesti tokius prašymus, paaiškinti, kodėl tai kelia dvejopo naudojimo riziką, ir pranešti apie situaciją įmonės biologinės saugos / etikos kanalui. Nereikėtų duoti jokių techninių patarimų, kurie padidintų žalos galimybę.

14. Kokia išvada teisinga, kai dirbtinio intelekto parašytas Python analizės scenarijus veikia be klaidų?

  • A) Rezultatas yra visiškai teisingas, nes kodas veikia
  • B) Kodo tikrinti nereikia, nes jį parašė AI
  • C) Klaidų nebuvimas taip pat garantuoja atkuriamumą.
  • D) Veikimo kodas gali būti neteisingas; Numatoma išvestis turi būti patikrinta pagal žinomus bandymo duomenis ✔

Paaiškinimas: „Tai veikė be klaidų“ ir „davė teisingą rezultatą“ yra du skirtingi dalykai. Kodas gali tyliai pateikti neteisingą rezultatą dėl vieneto klaidos, netinkamo stulpelio arba praleisto filtro. Kiekvienas kodas turi būti išbandytas naudojant nedidelius bandymo duomenis, kurių įvestis ir išvestis yra žinomi; Tačiau jis turėtų būti laikomas patikimu, kai duoda laukiamą rezultatą.