End-to-End жобасы: AI көмегімен биоинженерлік жұмыс процесі және Python көмегімен тексеру

Табыстар:

• Әр қадамда тексеру қақпасын қою арқылы сұрақтан тексерілген нәтижеге дейін жеті қадамдық жұмыс процесін жобалау мүмкіндігі
• Жасанды интеллектпен жазылған Python кодын белгілі сынақ деректерімен тексеру және «жұмыс коды» мен «дұрыс код» арасындағы айырмашылықты ажырату мүмкіндігі
• Талдауды қайталанатын етіп жасаңыз (нұсқа, орта, тұқым, құжат) және ылғалды тексеру, ашықтық және сарапшылық мақұлдау арқылы есеп беру

Біз алдыңғы тоғыз бөлімдегі бөліктерді үйрендік: реттілік талдауы, омика, ақуызды модельдеу, тәжірибелік дизайн, зертханалық деректер, биоөңдеу, әдебиет және этика. Бұл соңғы бөлімде біз бөліктерді біріктіріп, соңына дейін жұмыс процесін құрамыз - зерттеу сұрағынан расталған қорытындыға дейінгі тізбек, мұнда AI әр қадамда көмектеседі, бірақ адам әрбір маңызды шешім мен тексеруді қабылдайды. Біз сондай-ақ осы тізбектің негізі болып табылатын Python тілін және қайталану пәнін - сол деректермен басқа біреудің талдауын қайталау және сол нәтижені беру мүмкіндігін қарастырамыз.

Мақсат - жеке құралдарды беру емес, жауапты жұмыс үрдісі санасы: сіз AI-ны қайда қою керектігін, тексеру қақпасын қайда қою керектігін және бүкіл процесті қалай бақылауға болатынын білесіз.

Неліктен Python?

Биоинформатика мен есептеу биологиясының лингва франкасы - Python (және R). Өйткені сіз ашық бастапқы кітапханалармен әрбір дерлік қадамды автоматтандырып, қайталанатын ете аласыз (дәйектілікті талдау үшін Biopython, деректер кестелеріне арналған пандалар, машиналық оқыту үшін scikit-learn, визуализация үшін matplotlib). AI Python кодын жазуда өте күшті; Бірақ ол шығарған кодты іске қоспай қабылдау және оны тексеру қауіпті — код үнсіз қате нәтижені қайтаруы мүмкін (бірлік қатесі, қате баған, өткізіп алған сүзгі).

Назар аударыңыз: AI жазған код жұмыс істесе де, ол дұрыс болмауы мүмкін. «Бұл қатесіз жұмыс істеді» және «дұрыс нәтиже берді» - бұл екі түрлі нәрсе. Әрбір кодты шағын, белгілі сынақ деректерімен қолданып көріңіз: кіріс-шығыс сіз күткендей ме? Бұл үнсіз қателерді ұстаудың жалғыз жолы.

Жұмыс процесінің анатомиясы

Жауапты AI қолдайтын биоинженерлік жұмыс процесі осы құрылымды ұстанады:

1. Сұрақ және гипотеза. Түсінікті, тексерілетін сұрақ. (AI шабыттандырады; сіз түсіндіресіз.)
2. Деректерді жинау және құпиялылықты бақылау. Деректер қайдан алынған, жеке немесе бекітілген БАҚ? (9 бірлік.)
3. Алдын ала өңдеу және сапаны бақылау. Тазалау, қалыпқа келтіру, партияны бақылау. (2-3 бірлік.)
4. Талдау. Статистика, модельдеу, болжау. (Әр қадамда растау қақпасы.)
5. Түсініктеме. Биологиялық санаға тигізу, корреляциялық-себептік айырмашылық.
6. Ылғалды зертханалық тексеру. Сыни гипотеза эксперименталды түрде тексеріледі. (1, 4, 5 бірлік.)
7. Есеп беру және ашықтық. Қайталанатын код, AI мәлімдемесі, сарапшылардың мақұлдауы. (8-9 бірлік.)

Әрбір қадамда бақылау нүктесі бар — келесі қадамға өту алдында шығыс тексерілетін нүкте. AI бір қадамды жылдамдатады, есіктен өтпей келесі қадамға өту мүмкін емес.

Кеңес: Жұмыс процесін сценарий және жазу кітапшасы ретінде сақтаңыз; Әрбір қадамның кірісі, шығысы және шешімі құжатталсын. «Мен бұл нәтижеге қалай қол жеткіздім» деген сұраққа бірнеше айдан кейін жауап беру ғылым үшін де, аудит үшін де алтынға тұрарлық.

Репродукциялық: нәтижені сақтандыру

Нәтиже оны басқа біреу қайталай алатын болса ғана сенімді болады. Қайта шығару мүмкіндігінің төрт тірегі: (1) код нұсқаны басқаруда (git көмегімен), (2) орта бекітілген (кітапхана нұсқалары тіркелген, мысалы, талаптар.txt немесе conda ортасы), (3) деректер мен кездейсоқ тұқым тіркелген, (4) әрбір қадам құжатталған. AI бұл инфрақұрылымды құруға көмектеседі, бірақ тәртіпті сақтау сізге байланысты.

үш шағын іс

1-жағдай — Үнсіз код қатесі ұсталды. Бір команда AI жазған нормалау сценарийін пайдаланды; Код қатесіз жұмыс істеді. Олар оны белгілі сынақ деректерімен сынап көргенде, олар шығыстың 1000 факторға ауысқанын тапты — сценарий бірлікті дұрыс емес түрлендіруді орындады. Шағын сынақ деректері бүкіл талдауды бұзатын қатені анықтады.

2-жағдай — қайталану мүмкіндігі сақталды. Трансляциядан кейін төреші нәтижені қайталауды сұрады. Команда талдауды 20 минут ішінде сөзбе-сөз шығарды, өйткені оларда Git-те код нұсқасы және бекітілген орта болды. Қоршаған ортаны жазбаған бәсекелес топ апта бойы бірдей сұранысты қанағаттандыра алмады.

3-жағдай — Үздіксіз тексеру. Ферменттік жобада жұмыс процесі келесідей жұмыс істеді: AI әдебиеттен гипотезаны ұсынды (тексерілген), ақуыз моделі кандидат мутацияларын (тәжірибе арқылы сыналған), DoE эксперименттер санын азайтты, үш мутацияның біреуі белсенділікті 1,9 есе арттырды. AI әр қадамда жылдамдады, адам әр есікте тексерілді; Нәтижесі жылдам әрі қорғанды ​​болды.

Көшірілетін төрт үлгі

1) Жұмыс үрдісінің қаңқасын құру:

Сіздің рөліңіз: есептеу биологиясы жобасының кеңесшісі. Келесі сұраққа жауап беру үшін соңына дейін жұмыс процесін құрастырыңыз: [сұрақ]. Әрбір қадам үшін (1) не істеу керек, (2) AI қайда көмектеседі, (3) тексеру жүйесі қандай болуы керек, (4) қандай құралды пайдалану керек. Ылғалды зертханалық тексеруді және мөлдірлік қадамын қосыңыз.

2) Python коды + сынақ сұрауы:

Сіздің рөліңіз: биоинформатика әзірлеушісі. Келесі тапсырманы орындайтын Python функциясын жазыңыз: [жұмыс]. Кітапхана: [pandas/Biopython]. Сондай-ақ аз ғана белгілі сынақ деректері бар тексеру мысалын қосыңыз: кіріс дегеніміз не, күтілетін нәтиже қандай. Мен кодты іске қосып, оны сынақ деректерімен тексеремін. Функция/параметрді орнату жоқ.

3) Қайталану мүмкіндігін тексеру:

Мен өз талдауымды қайталанатын еткім келеді. Маған бақылау тізімін беріңіз: нұсқаны басқару, ортаны бекіту (талаптар/конда), кездейсоқ тұқым, деректер көзін тіркеу, қадамдық құжаттама. Әрбір элемент үшін практикалық қолдану тәсілін беріңіз.

4) Нәтижені тексеру:

Талдау нәтижесін есепке қоймас бұрын соңғы тексеруді орындағым келеді. Маған осы сұрақтардың бақылау тізімін беріңіз: нәтиже биологиялық тұрғыдан дұрыс па, статистика дәл ме (бірнеше сынақ, үлгі), тәуелсіз құралдармен расталды ма, көзге тәуелді ме, ылғалды сынақ қажет пе, AI мәлімдемесі жасалды ма?

Әлсіз шақыру / Күшті шақыру

Әлсіз шақыру:

Маған осы деректерді талдайтын Python кодын жазыңыз.

Бұлыңғыр миссия, тестілеу, тексеру жоқ; үнсіз қатеге бейім.

Күшті шақыру:

Сіздің рөліңіз: биоинформатика әзірлеушісі. Пандалары бар CSV (бағандар: ген, бақылау_орташа, өңдеу_орташасы, пмән) үшін: (1) log2 еселенген өзгерту бағанын қосыңыз, (2) BH түзетілген p-мәнін есептеңіз, (3) padj<0,05 және |log2FC|>1 сүзгісі. СОНДАЙЫҚ 5 жол үлгі деректерімен күтілетін нәтижені көрсетіңіз, осылайша мен тексере аламын. Қате баған атауын немесе жоқ функцияны пайдаланбаңыз.

Айырмашылық: нақты миссия, нақты статистика, сынақ деректерімен растау және құрастыруға тыйым салу.

Жұмыс үрдісін тексеру шлюздері

қадам

AI үлесі

тексеру қақпасы

гипотеза

шабыт, әдебиет

Ол сыналады ма немесе дәнекерленген бе?

Деректер/құпиялылық

бақылау парағы

Деидентификация, бекітілген орта

алдын ала өңдеу

сценарий

Пакет/QC бақылау

Талдау

код, модель

Сынақ деректері, тәуелсіз көлік

Пікір

жоба

Биологиялық ақыл, корреляция-себеп

ылғалды тексеру

Эксперимент жоспары

Нақты эксперимент нәтижесі

Есеп беру

жоба

Репродукциялық, ашықтық, сарапшылық мақұлдау

Жалпы қателер

• Жұмыс коды дұрыс деп ойлаймын. «Қатесіз жұмыс жасады» ≠ «дұрыс нәтиже»; сынақ деректерімен сынап көру керек.
• Тексеру қақпаларын айналып өту. Жылдамдық үшін есіктен өту барлық келесі қадамдарға қауіп төндіреді.
• Қайта шығару мүмкіндігін елемеу. Қоршаған ортаны/нұсқаны тіркеусіз нәтиже қайталанбайды.
• Ылғалды тексеруді кешіктіру/өткізу. Компьютерлік болжам эксперимент арқылы расталмайынша шешім қабылдау мүмкін емес.
• Ашықтық пен сарапшылардың мақұлдауын ұмыту. Соңғы қол қою және AI декларациясы жұмыс процесінің бөлігі болып табылады.

Қысқаша

Жауапты биоинженерия AI-ны жеке құралдар ретінде емес, валидация қақпаларымен байланыстырылған жұмыс процесінің бөлігі ретінде пайдаланады. Python және қайталану - бұл ағынның негізі; AI код жазады, бірақ сіз оны сынақ деректерімен тексересіз, себебі жұмыс коды дұрыс код емес. AI әр қадамда жылдамдайды, адам әр есікте тексереді; Сыни гипотезалар дымқыл зертханада тексеріліп, нәтижелер мөлдір және сарапшының мақұлдауымен баяндалады. Бұл модульдің мәні бір сөйлемде: AI жылдамдығын алыңыз, шешім мен жауапкершілікті адамда сақтаңыз.

Қолданбалы тапсырма

Өзіңіздің зерттеу сұрағыңыз үшін басынан аяғына дейін жұмыс процесін жобалаңыз. Жасанды интеллектке «жұмыс процесінің қаңқасы» үлгісі бар жеті қадамдық жоспар ойлап табыңыз және әрбір қадамға өзіңіздің тексеру қақпаңызды қосыңыз. Содан кейін талдау қадамдарының бірі үшін «Python коды + сынақ сұрауы» үлгісімен сценарийді басып шығарыңыз, оны шағын сынақ деректерімен іске қосыңыз және нәтиженің дұрыс екенін дәлелдеңіз. Соңында, «нәтижені тексеруді тексеру» тізімін дайындаңыз және осы жұмыс процесін есеп беруге дайын болыңыз. Бүкіл процесті қайталанатын (код + медиа + құжат) пішімінде жазыңыз.

бақылау парағы

• [ ] Мен жұмыс процесін жеті қадамнан және әр қадамда растау қақпасынан құрастырдым.
• [ ] Мен AI жазған кодты белгілі сынақ деректерімен тексердім.
• [ ] Мен талдауды қайталанатын етіп жасадым (нұсқа, орта, тұқым, құжат).
• [ ] Мен сыни гипотезаны ылғалды зертханалық тексеруге жатқыздым.
• [ ] Мен жұмыс процесіне деректердің құпиялылығы мен биоқауіпсіздік басқару элементтерін енгіздім.
• [ ] Мен есепті мөлдір AI мәлімдемесі мен сарапшының мақұлдауымен аяқтадым.

Модуль емтиханы

1. Төмендегілердің қайсысы биоинженерияда жасанды интеллект үшін ең дәл позиция болып табылады?

• A) АИ – скринингтік және сызба құру құралы; Биологиялық мәні мен қауіпсіздігін анықтайтын шешімдер үшін жауапкершілік адамдарда ✔
• B) Жасанды интеллект кандидат молекулаларын адамның рұқсатынсыз тікелей өндіріске енгізе алады
• C) Жасанды интеллект адамдарға қарағанда әрқашан объективті болғандықтан, биологиялық түсіндіруді оған қалдыру керек.
• D) Жасанды интеллект мәтінді қорытындылау үшін ғана пайдалы, оның зертханалық мәліметтерге еш қатысы жоқ

Сипаттама: Жасанды интеллект; Бұл көлемді және шулы деректерді сканерлейтін, үлгілерді белгілейтін және эскиздерді шығаратын көмекші. Биологиялық мәнін, қауіпсіздігін және соңғы шешімді қабылдайтын құзыретті сарапшы; тексерілмеген басып шығару пациентке, өндірістік топтамаға немесе жарияланымға қауіп төндіруі мүмкін. Қауіпсіздік маңызды аймақтарда AI шығысы сарапшылардың мақұлдауын алмастыра алмайды.

2. AI шығысын тексеру кезінде «көзді байланыстыру» қадамының мақсаты қандай?

• A) Әрбір шағымды нақты деректерге немесе бастапқы көзге қосу арқылы ойдан шығарылған (галлюцинаторлық) қорытындыларды жою ✔
• B) Шығарылымды өтімді және оқылатын етіп жасау
• C) Талдауды тезірек аяқтау үшін тексеруді өткізіп жіберу
• D) Жасанды интеллект берген анықтамаларды сол қалпында қабылдау

Сипаттама: AI еркін сөйлейді, бірақ кейде галлюцинациялар тудырады; жоқ генді, жолды немесе сілтемені шынайы ретінде көрсетуі мүмкін. Әрбір шағымды қатты деректермен немесе бастапқы көзбен байланыстыру ойдан шығарылған қорытындының есепте немесе жарияланымда жолын табуына жол бермейді.

3. «Сенімді» сәйкестікті бағалау үшін қажет BLAST немесе дәйекті туралау нәтижесін интерпретациялау кезінде?

• A) Жіптің ұзындығына қарап
• B) Жасанды интеллект берген тип атауына тікелей сүйену
• C) % сәйкестендіру, қамту және электрондық мән сияқты теңестіру көрсеткіштерін бірге бағалау ✔
• D) Шығару неше жолды ғана санау

Сипаттама: Пайыз сәйкестігі, қамту және электрондық мән сияқты көрсеткіштер сериялық интерпретацияны тексеру үшін қажет. Кішкентай электрондық мән ұқсастықтың кездейсоқ еместігін көрсетеді. Бұл көрсеткіштерсіз «бұл ақуыз» түсінігін тексеру мүмкін емес және галлюцинация болуы мүмкін.

4. Неліктен RNA-seq дифференциалды экспрессия талдауында 20 000 генді бір уақытта сынау кезінде «түзетілген p-мәні» (padj) қолданылады?

• A) Еденнің өзгеруін арттыру үшін
• B) Бірнеше тестілеуге байланысты жалған позитивтерді бақылау және жалған табу жылдамдығын шектеу үшін ✔
• C) Үлгі көлемін азайту үшін
• D) Талдауды жеделдету үшін

Түсініктеме: Мыңдаған гендер бір уақытта сыналғанда, жүздеген гендер кездейсоқ «маңызды» болып шығуы мүмкін. Бенджамин-Хочберг сияқты бірнеше сынақты түзету жалған табу жылдамдығын шектейді. Шикі p-мәнімен тізім жаңылыстырып ісінеді; padj пайдалану ғылыми қорғану үшін өте маңызды.

5. Техникалық айырмашылықты биологиялық айырмашылық деп қате қабылдауға әкелетін екі өңдеу тобы әртүрлі күндерде өңделген кезде, омикалық талдауда қандай тұзақ пайда болады?

• A) Еденді ауыстыру қатесі
• B) Кодонды оңтайландыру
• C) Топтамалық әсер ✔
• D) Жиектер эффектісі

Түсініктеме: Пакеттік эффект - үлгілерді әр түрлі күндер, құрылғылар немесе адамдармен өңдеуден туындайтын техникалық айырмашылық және омикалық талдаудағы қателердің ең үлкен көзі. Талдауды бастамас бұрын, ПҚА диаграммасын салу және үлгілердің биологиялық жағдайға немесе партияға сәйкес топтастырылғанын тексеру қажет.

6. AlphaFold көмегімен жасалған ақуыз құрылымын болжау үшін pLDDT ұпайы нені білдіреді және оны қалай пайдалану керек?

• A) Әрбір аймақ үшін үлгінің сенімділік деңгейін көрсетеді; Төмен сенімді аймақтарға негізделген шағымдардан аулақ болу керек ✔
• B) Ол ақуыздың қатпарлану жылдамдығын өлшейді және оны елемеуге болады
• C) Ақуыздың тәжірибе жүзінде шешілген нақты құрылымы бар екенін дәлелдейді.
• D) Тікелей қондыруға жақындық береді

Сипаттама: pLDDT - әрбір амин қышқылы үшін модель қаншалықты сенімді екенін көрсететін сенімділік көрсеткіші. Жоғары мәндер (>90) әдетте сенімді; төменгі мәндер (<50) жиі дұрыс емес немесе анық емес аймақтарды көрсетеді. Сенім деңгейі төмен аймақтарға негізделген тетіктерді талап ету жаңылыстыру; сыни құрылымдар эксперименталды түрде тексерілуі керек.

7. Дәрі/фермент дизайнында молекулалық қондыру көрсеткіштерін қалай түсіндіру керек?

• A) Оны абсолютті байланыстырушы жақындық ретінде қарастыру керек.
• B) Молекуланың ешқашан байланыспауын қамтамасыз етеді
• C) Тәжірибеге дейін молекулаларды ретке келтірудің салыстырмалы құралы; Соңғы шешім тәжірибелік жақындықты өлшеу арқылы қабылданады ✔
• D) Клиникалық бекіту үшін жалғыз өзі жеткілікті

Түсініктеме: Қондыру ұпайлары салыстырмалы және нақты байланыстыру ұқсастығын болжамайды; Жалған оң көрсеткіш жоғары. Тәжірибе жасамас бұрын мыңдаған молекулаларды ретке келтіру және ең перспективалыларын бөлектеу дұрыс қолдану болып табылады. Соңғы шешім SPR немесе ITC сияқты эксперименттік жақындықты өлшеу арқылы қабылданады.

8. Бес параметрді оңтайландыруды көздейтін биопроцесс инженері үшін «бір уақытта бір айнымалы» (OFAT) әдісінің негізгі кемшілігі неде?

• A) Параметрлер арасындағы өзара әрекеттесулерді өткізіп жібереді ✔
• B) Әрқашан аз тәжірибені қажет етеді
• C) Статистикалық қуатты арттырады
• D) Пакеттік әсерді автоматты түрде жояды

Түсініктеме: OFAT әдісі параметрлер арасындағы өзара әрекеттесулерді өткізіп жібереді; мүмкін жоғары температура төмен рН кезінде ғана жақсы. Эксперименттерді жобалау (DoE) өзара әрекеттесулерді түсіреді және параметрлерді бірге және теңгерімді түрде өзгертетін факторлық конструкциялармен эксперименттер санын азайтады.

9. Оңтайландыру үлгісі зертханада культураны өлтіретін температураны ұсынғанда қандай тәсіл дұрыс?

• A) Ұсынысты сол қалпында жүзеге асыру, себебі модель ақылдырақ
• B) Модельге шектеу ретінде қауіпсіздік және физиологиялық шектеулер беру және әрбір ұсынысты зертханалық біліммен тексеру ✔
• C) Оңтайландырудан мүлде бас тарту
• D) Температура шегін елемеуге тырысыңыз

Түсініктеме: Модель физиологиялық және қауіпсіздік шектерін білмейді; математикалық оптимум қауіпті немесе мүмкін емес болуы мүмкін. Модельге шектеулер ретінде қауіпсіздік және физиологиялық шектеулерді беру және әрбір ұсынысты зертханалық біліммен тексеру дұрыс тәсіл болып табылады. Физикалық шек математикалық оптимумнан асып түседі.

10. Автоматтандырылған ұяшықтарды санау немесе флуоресцентті сұрыптау нәтижесін бағалау кезінде қайсысы міндетті болып табылады?

• A) Нәтижені тікелей қабылдау, өйткені модель адамға қарағанда жылдамырақ
• B) Суреттер санын ғана хабарлау
• C) Сигналы ең жоғары суретке ғана қарау
• D) Үлгідегі шығысты қолмен тексеру және тиісті басқару элементтерімен (оның ішінде теріс, боялмаған) тексеру ✔

Сипаттама: Автоматты шығыс үлгіде қолмен тексерілуі керек және әрбір өлшем сәйкес басқару элементтерімен (оң, теріс, бос, боялмаған) тексерілуі керек. Мысалы, егер боялмаған бақылауда сигнал болса, бұл автофлуоресценция болуы мүмкін; Басқару элементтерінсіз автоматты талдау шынайы сигналды артефакттен ажырата алмайды.

11. Егер биопроцесстегі оңтайландыру ұсынысы өнімділікті арттырса, бірақ спецификациядан маңызды сапа атрибутын (CQA) алып тастаса, не істеу керек?

• A) Тиімділік маңызды болғандықтан, тиімділігі жоғары нұсқаға артықшылық беріледі
• B) Тиімділік CQA шегін жеңілдету арқылы сақталады
• C) Шешім жасанды интеллектке қалдырылды
• D) Сапа тиімділіктен жоғары; Дизайн кеңістігіне сәйкес келетін сапа опциясына артықшылық беріледі ✔

Сипаттама: Биологиялық өңдеуде сапалы өнім береді; Өнім қауіпсіз және тиімді болуы үшін CQA шектеулері (тазалық, гликозилдену, белсенділік) сақталуы керек. Тиімділікті арттыратын нүкте сапаны нашарлатса, дизайн кеңістігінде қалған сапа опциясы таңдалады.

12. Тілдік модельге «осы тақырып бойынша 10 мақала тауып, оларды қорытындылаңыз» дегенде, негізгі қауіп қандай?

• A) Модель өте баяу жұмыс істейді
• B) Модель нақты іздеуді орындамай-ақ шынайы, бірақ жоқ (жасанды) сілтемелерді жасай алады ✔
• C) Модель әрқашан тым көп мақалаларды табады
• D) Модель тек ескі мақалаларды қайтарады

Түсініктеме: Қарапайым чат құралдары көбінесе нақты іздеулерді орындамайды; жадтан статистикалық «ықтимал болып көрінетін» жауаптарды жасайды. Бұл шынайы, бірақ жалған сілтемелерді білдіреді (ойдан шығарылған автор, журнал, DOI). Әрбір сілтеме нақты дерекқормен (PubMed, DOI) тексерілуі керек және мүмкін болса, нақты құжаттармен байланыстырылған RAG негізіндегі құралдарды пайдалану керек.

13. Пайдаланушы АИ-ден бактериялық токсиннің тиімділігін арттыратын мутацияларды сұрағанда дұрыс әрекет қандай?

• A) Сұраныс ғылыми болғандықтан толық жауап беру
• B) Ішінара ақпарат беру арқылы тәуекелді азайту
• C) Сұраныстан бас тарту, оның DURC астында екенін түсіндіріп, институционалдық биоқауіпсіздік арнасына хабарлау ✔
• D) Өтінішті елемеу және басқа тақырыпқа көшу

Түсініктеме: Бұл сұрау қосарлы пайдалану (DURC) аясындағы зиянды сұрау. AI мұндай сұрауларды қабылдамауы керек, оның неліктен қосарлы пайдалану қаупін тудыратынын түсіндіруі және жағдайды корпоративтік биологиялық қауіпсіздік/этика арнасына хабарлауы керек. Зиянның ықтималдығын арттыратын техникалық кеңес бермеу керек.

14. Жасанды интеллектпен жазылған Python талдау сценарийі қатесіз жұмыс істегенде қандай қорытынды дұрыс?

• A) Нәтиже абсолютті дұрыс, себебі код жұмыс істейді
• B) Кодты тестілеудің қажеті жоқ, себебі оны AI жазды
• C) Қателердің болмауы да қайталануға кепілдік береді.
• D) Іске қосу коды дұрыс болмауы мүмкін; Күтілетін нәтиже белгілі сынақ деректерімен тексерілуі керек ✔

Түсініктеме: «Ол қатесіз жұмыс істеді» және «дұрыс нәтиже берді» екі түрлі нәрсе. Код бірлік қатесі, қате баған немесе өткізіп алған сүзгі салдарынан қате нәтижені үнсіз қайтаруы мүмкін. Әрбір код кірісі мен шығысы белгілі шағын сынақ деректерімен сыналуы керек; Дегенмен, ол күтілетін нәтижені берген кезде сенімді деп санау керек.