Yunit 1 / 11

Panimula sa Artificial Intelligence at Safety-Critical Verification Discipline sa Aerospace

Mga nadagdag:

  • Kakayahang tukuyin kung saan ang AI ay nakakatipid ng real time sa aerospace engineering workflow at kung aling mga desisyon ang dapat manatili sa mga tao para sa mga kadahilanang pangkaligtasan at responsibilidad
  • Kakayahang maglapat ng disiplinang kritikal sa kaligtasan na nagpapatunay sa bawat engineering na maihahatid ayon sa pagkakasunud-sunod ng magnitude, pagkakapare-pareho ng unit, at independiyenteng pagpaparami
  • Kakayahang ugaliing mag-prompt sa pamamagitan ng pag-anonymize ng konteksto para protektahan ang ITAR/EAR export control at kumpidensyal na data ng disenyo

Tumingin sa desk ng aerospace engineer: wing load calculations, finite element results, wind tunnel data, flight test records, certification documents, supplier correspondence at walang katapusang pagpupulong. Ang oras na inilaan sa aktwal na paghatol sa engineering, iyon ay, ang mga tanong na "ligtas ba ang numerong ito, lilipad ba ang disenyong ito, katanggap-tanggap ba ang panganib na ito?" ay durog sa ilalim ng paulit-ulit na pagkalkula at paggawa ng dokumento. Dito pumapasok ang artificial intelligence (AI para sa maikli; software na gumagana sa text, code at mga numero na may malaking modelo ng wika at machine learning). Ang AI ay hindi gumagawa ng desisyon para sa iyo; Inihahanda ka nito para sa desisyon, gumagawa ng draft, pinapabilis ang pagkalkula at inilalagay ang naprosesong impormasyon sa harap mo.

Gayunpaman, ang aviation at space ay isang field kung saan ang error ay sinusukat hindi sa text kundi sa buhay at milyon-milyong dolyar. Ang isang sanggunian na ginawa ng isang modelo ng wika, isang maling conversion ng unit, o isang "makatuwirang hitsura" ngunit pisikal na imposibleng resulta ay maaaring isang maliit na pag-aayos sa ibang mga industriya, ngunit dito maaari itong maging isang structural failure o pagkawala ng misyon. Kaya naman sa buong modyul na ito, ipoposisyon namin ang AI hindi bilang isang "awtomatikong inhinyero" ngunit bilang isang katulong na napapailalim sa disiplinang kritikal sa kaligtasan na ang output ay nabe-verify sa bawat oras.

Sa unang yunit na ito, nililinaw namin ang tatlong bagay: sa anong mga yugto ng aerospace workflow nagdaragdag ang AI ng tunay na halaga, anong mga desisyon ang dapat manatiling mahigpit na nasa kamay ng mga kwalipikadong tao, at anong pag-verify, kontrol sa pag-export at disiplina sa pagiging kumpidensyal ang dapat mong sundin kapag ginagawa ito. Kung wala ang bubong na ito na naka-install nang tama, ang mga diskarte sa kasunod na mga yunit ay maaaring maging mapanganib.

Mga Konsepto: Hallucination: Ang nakakumbinsi na katha ng AI ng isang numero, equation, karaniwang item, o pinagmulan na hindi talaga umiiral. Konteksto: Ang input na ibibigay mo sa AI (data ng disenyo, mga pagpapalagay, tanong). Pag-verify: Sinusuri ang output sa pamamagitan ng isang independiyenteng paraan (pagkalkula ng kamay, pangalawang tool, karaniwang teksto). Ang tatlong konseptong ito ang sandigan ng buong modyul.

Sa Aling Mga Negosyo Ang AI Accelerator, Sa Aling Mga Negosyo Ito Mapanganib?

Ang mga aerospace mission ay nahuhulog sa isang dalawang-pronged spectrum sa mga tuntunin ng kanilang mga kahihinatnan. Sa isang dulo ay maaaring makuha, mababang-panganib na gawain sa paghahanda (isang buod ng panitikan, isang code skeleton, isang balangkas ng presentasyon); Sa kabilang dulo, may mga hindi maibabalik na desisyon (isang safety coefficient, isang control law, isang orbital burn time) na direktang tumutukoy sa airworthiness, kaligtasan sa buhay at tagumpay sa misyon. Ang halaga ng AI ay nag-iiba depende sa kung saan ka nakatayo sa spectrum na ito.

uri ng negosyo

kontribusyon ng AI

Papel ng engineer

Panitikan/pamantayang buod

Pagkuha ng extract mula sa mahabang dokumento

Ihambing ang artikulo sa orihinal na teksto

Pagkalkula ng kamay / pre-sizing

Setting ng formula, unang numero

Pagsusuri ng yunit, ranggo at pagpapalagay

Code ng pagsusuri / scripting

Pagbuo ng balangkas at lohika

Pagpapatunay na may test input, unit testing

draft ng ulat/mga kinakailangan

Pagmumungkahi ng istraktura at salaysay

I-link ang bawat expression sa mapagkukunan at kinakailangan

Pagsusuri ng data / pag-scan ng anomalya

Pagkuha ng pattern at kaganapan ng kandidato

Kumpirmasyon gamit ang raw data at physics

Desisyon sa kaligtasan/sertipikasyon

Pagsusuri ng paghahanda ng materyal

Panghuling pagsusuri, pagsusuri at lagda

Ang panuntunan ay simple: ang panganib ng isang output ng AI ay katumbas ng pinsalang matatanggap nito kung ang output ay nagkamali. Ang maling spelling ng pamagat ng isang slide ay hindi nakakapinsala; Ang pagkalkula ng safety coefficient ng isang wing spar bilang 0.5 sa halip na 1.5 ay isang kalamidad. Kaya ang unang tanong na itatanong bago gamitin ang output ay: "Ano ang mangyayari kung mali ito, sino ang nasaktan, at sino ang nakakapansin?"

Pansin: Gumagawa ang AI ng matatas at kumpiyansa na teksto. Ang katatasan ay hindi garantiya ng katumpakan. Pinupuno ng modelo ng wika ang puwang ng mga salitang "malamang" ayon sa istatistika, kahit na wala itong eksaktong data; Sa aviation, ang fill-in-the-blank na ito ay maaaring makita bilang isang made-up na detalye ng materyal o isang hindi umiiral na FAR clause.

Disiplina sa Pagpapatunay na Kritikal sa Seguridad: Tatlong Layer

Ang kultura ng aviation ay binuo na sa prinsipyo ng "tiwala ngunit patunayan"; Ang AI ay dapat gamitin upang palakasin ang prinsipyong ito, hindi pahinain ito. Ipasa ang bawat output ng AI sa pamamagitan ng tatlong-layer na filter.

Ang unang layer ay ang pagkakasunud-sunod ng magnitude control. Tingnan kung ang resulta ay halos nasa loob ng inaasahang kapangyarihan ng 10 range. Ang take-off mass ng isang pampasaherong eroplano ay nasa order ng sampu-sampung tonelada; Kung sasabihin sa iyo ng AI ang 800 kg, alam mong may pagkakamali nang hindi nagdedetalye.

Ang pangalawang layer ay pagkakapare-pareho ng unit at laki. Ang isa sa pinakamamahal na pagkakamali sa kasaysayan ng aviation ay ang pagkawala ng Mars Climate Orbiter noong 1999: ang isang koponan ay gumamit ng pound-segundo, ang isa pang newton-segundo, at ang humigit-kumulang $327 milyon na spacecraft ay nawala sa kapaligiran ng Martian. Sa output ng AI, dapat na malinaw na nakasaad ang mga unit at dapat isagawa ang dimensional analysis.

Ang ikatlong layer ay independiyenteng pagpaparami. Gumawa ng isang kritikal na resulta sa pamamagitan ng pangalawang paraan (ibang manu-manong account, hiwalay na tool, o pangalawang engineer). Tumataas ang kumpiyansa kung ang dalawang independiyenteng landas ay magbibigay ng parehong sagot; Kung hindi, huminto hanggang sa maunawaan mo kung bakit ito naiiba.

Tip: Kapag humingi ka ng resulta sa AI, itanong din ang parehong tanong sa kabaligtaran. Sabihin ang "kalkulahin ang puwang na kinakailangan para sa pakpak na ito" at pagkatapos ay sabihin ang "ibalik na kalkulahin ang pag-load ng pakpak sa espasyong ibinigay mo dito at ihambing ito sa karaniwang espasyo ng airliner." Ang pagtatanong sa modelo na i-cross-check ang sarili nitong output ay nagiging sanhi ng mga tahimik na error na nakikita.

Kontrol at Pagkapribado sa Pag-export: Pribadong Frontier ng Aviation

Ang mga teknolohiya ng aerospace ay napapailalim sa mga kontrol sa pag-export sa karamihan ng mga bansa. Sa US, ito ay pinamamahalaan ng ITAR (International Traffic in Arms Regulations) at EAR (Export Administration Regulations) (mga panuntunang kumokontrol sa dual-use na teknolohiya). Ang pagpasok ng classified missile control algorithm, satellite propulsion data, o parameter ng performance ng sasakyang panghimpapawid ng militar sa isang hindi nakokontrol na external na serbisyo ng AI ay maaaring parehong paglabag sa pag-export, pagkawala ng intelektwal na ari-arian, at paglabag sa kontrata.

Rule of thumb: huwag kailanman maglagay ng tunay, kumpidensyal o kontroladong teknikal na data sa isang hindi naaprubahang panlabas na tool. Sa halip, i-anonymize ang konteksto at palitan ang mga tunay na numero ng mga kinatawan na halaga. Halimbawa, sa halip na ibahagi ang isang aktwal na engine thrust curve, itanong ang "ilarawan ang pangkalahatang anyo ng isang tipikal na turbofan thrust-speed na relasyon."

Mahinang prompt / Malakas na prompt

Ang sumusunod na dalawang senyas ay may parehong layunin, ngunit ang isa ay parehong lumalabag sa pagiging kompidensiyal at tumatanggap ng hindi nabe-verify na tugon.

Mahinang prompt:

Ang XR-7 unmanned vehicle sa aming proyekto ay may wingspan na 4.2 m, bigat na 38 kg, engine at speed envelope. Sabihin sa akin ang pinakamainam na altitude.

Napakahusay na prompt:

Tungkulin: Isa kang aviation aerodynamics consultant. Konteksto: Gumagawa ako ng pangkalahatang pagsusuri para sa isang maliit na fixed-wing UAV (ang mga value ay kinatawan, hindi aktwal na data ng proyekto): wingspan ~4 m, mass ~40 kg, cruise speed ~25 m/s. Gawain: Ipaliwanag ang mga pisikal na prinsipyo na tumutukoy sa pinakamahusay na hanay ng altitude at ilista kung anong mga parameter ang dapat kong sukatin. Paghadlang: Isulat nang malinaw ang bawat pormula at palagay; Kung magbibigay ka ng numerical na resulta, tukuyin ang unit at idagdag kung paano ito i-verify.

Pinoprotektahan ng malakas na prompt ang aktwal na data ng proyekto, nililinaw ang tungkulin at pagpilit, at humihiling ng landas sa pag-verify.

Nakokopyang Prompt Template

Magagamit mo ang apat na template sa ibaba sa pamamagitan ng pag-aangkop sa mga ito sa sarili mong negosyo. Lahat sila ay naka-embed ng disiplina ng anonymization at pag-verify.

Template 1 — Paghiling ng mandatoryong pagpapatunay para sa output na kritikal sa seguridad:

Tungkulin: Isa kang senior aerospace engineer at akma sa disiplinang kritikal sa kaligtasan. Konteksto: [Problema na hindi kilalang kilala; kinatawan ng mga halaga, hindi aktwal na data ng proyekto].Gawain: [Ang pagsusuri/kalkulasyon na gusto ko].Paghihigpit:- Isulat ang yunit ng bawat numero.- Malinaw na ilista ang bawat formula at palagay na iyong ginagamit.- Ihambing ang pagkakasunud-sunod ng magnitude ng resulta sa isang kilalang reference.- Sa huling hakbang, magbigay ng control plan na nagsasabing "paano ko independiyenteng i-verify ang output na ito". Kung walang katiyakan, huwag hulaan; Itanong kung anong data ang kailangan mo.

Template 2 — Cross-check (sinusuri ng modelo ang sarili nitong output):

Ngayon kalkulahin ang [result] na halaga na ibinigay mo lamang gamit ang isang independiyenteng paraan: gumamit ng ibang formula o kabaligtaran na solusyon. Sumasang-ayon ba ang dalawang resulta? Kung hindi, ilista ang mga posibleng pinagmumulan ng error (unit, assumption, pagpili ng formula). Markahan ang hakbang na hindi ka sigurado.

Template 3 — Na-verify na kahilingan para sa pamantayan/pinagmulan na pagpapatungkol:

Ilista ang nauugnay na sertipikasyon/karaniwang sangkap para sa [paksa]. Para sa bawat substance: karaniwang pangalan, substance number at buod ng substance. BABALA: Huwag sumulat ng substance number kung hindi ka sigurado. Markahan ito bilang "dapat ma-verify". Pagbibigay ng mga gawa-gawang sanggunian; Kung hindi mo alam, sabihin mo sa akin na hindi mo alam. Sabihin din sa akin kung paano kumpirmahin ang mga item na ito mula sa orihinal na teksto.

Template 4 — Anonymization precheck (bago ibahagi):

Kailangan kong i-clear ang sumusunod na text para sa kontrol sa pag-export (ITAR/EAR) at pagiging kumpidensyal ng kumpanya bago ito ilagay sa isang panlabas na tool ng AI. I-flag ang mga potensyal na sensitibong elemento sa text (aktwal na mga numero ng bahagi, mga halaga ng pagganap, mga pangalan ng proyekto, impormasyon ng supplier) at magmungkahi ng isang kinatawan/anonymous na kapalit para sa bawat isa. Text: [idikit dito]

Mga Mini Case

Kaso 1 — Nilikhang karaniwang sugnay. Upang suportahan ang isang katwiran sa disenyo, tinanong ng isang junior engineer ang AI "aling sugnay ng FAR ang nag-uutos nito?" Binanggit ng AI ang isang sugnay na "FAR 25.1493" na hindi talaga umiiral. Kapag inihambing ng inhinyero ang teksto sa orihinal na regulasyon, nakita niya na ang sugnay ay gawa-gawa at nahanap ang tamang sugnay (14 CFR 25.303, kadahilanan ng kaligtasan). Aralin: Ang bawat karaniwang sanggunian na ibinigay ng AI ay na-verify mula sa orihinal na teksto.

Case 2 — Unit trap. Ang isang koponan ay nakakakuha ng tulong mula sa AI sa isang pagkalkula ng thrust. Ibinibigay ng AI ang thrust bilang 5000, ngunit ang unit nito na "lbf o N" ay nananatiling hindi malinaw. Mayroong humigit-kumulang 4.45 beses na pagkakaiba sa pagitan ng 5000 lbf at 5000 N; Ang pagkakaibang ito ay ganap na nagbabago sa pagpili ng isang makina. Kung magpapatuloy ang unit ng crew nang hindi tahasang nagtatanong, pupunta ito sa maling klase ng makina. Aralin: anumang numero na walang yunit ay hindi tinatanggap.

Kaso 3 — Ang kontrol sa ranggo ay nagliligtas ng mga buhay. Ang isang pangkat ng mga mag-aaral ay nagkaroon ng AI na kalkulahin ang delta-v (kinakailangan sa pagbabago ng bilis) para sa rocket at nakuha ang resulta ng 95 m/s. Ang karaniwang delta-v upang maabot ang mababang orbit ay humigit-kumulang 9.4 km/s, ibig sabihin, sa pagkakasunud-sunod ng 9400 m/s. Ang isang pagkakaiba ng humigit-kumulang 100 beses ay agad na nagtataksil ng isang error sa pag-edit; hinahanap ng mga mag-aaral ang base logarithm error sa equation. Aralin: palaging ihambing ang resulta sa isang kilalang hanay ng sanggunian.

Mga karaniwang pagkakamali

  • Napagkakamalang katatasan para sa katumpakan. Ang isang mahusay na nakasulat na paliwanag ay maaaring hindi tama sa bilang. Ang kalidad ng teksto at ang katumpakan ng resulta ay dalawang magkaibang bagay.
  • Pagtanggap ng walang unit na numero. Sa aviation, ang isang numero na hindi tumutukoy sa isang yunit ay isang hindi natukoy na numero. Ang mga kalituhan ng lbf/N, ft/m, knot/m·s ay mga pagkakamaling nagtatapos sa karera.
  • Pagpasok ng kumpidensyal na data sa panlabas na tool. Paglabag sa ITAR/EAR at kumpidensyal ng kumpanya; Kapag na-leak, hindi na mababawi ang teknikal na data.
  • Nagtitiwala sa iisang pinagmulan. Ang paggamit ng kritikal na resulta nang hindi ito ginagawa sa pangalawang paraan ay ang paglabag sa pinakapangunahing tuntunin ng disiplinang kritikal sa seguridad.
  • Hindi bini-verify ang karaniwang attribution. Ang mga numero ng item na ibinigay ng AI ay maaaring peke; Ang bawat sanggunian ay nakumpirma mula sa orihinal na regulasyon.

Sa buod

Ang AI ay kapansin-pansing nagpapabilis sa paulit-ulit na gawain ng mga kalkulasyon, code, mga dokumento at data sa aerospace engineering; ngunit ang mga desisyon na tumutukoy sa kaligtasan, pagiging karapat-dapat sa hangin at tagumpay sa misyon ay nananatili sa kwalipikadong tao. Dapat i-filter ang bawat output sa pamamagitan ng pagkakasunud-sunod ng magnitude, pagkakapare-pareho ng unit, at independiyenteng pagpaparami. Para sa kontrol sa pag-export (ITAR/EAR) at mga dahilan sa pagiging kumpidensyal, ang aktwal na teknikal na data ay dapat na anonymize at ang mga inaprubahang tool lang ang dapat gamitin. Ang disiplina na ito ay isang kinakailangan para sa lahat ng kasunod na mga yunit.

Gawain ng aplikasyon

Pumili ng tanong sa engineering mula sa iyong field (aerodynamics, structure, control, aerospace, manufacturing). Mag-type muna ng "mahina na prompt" at tanungin ang AI; Pagkatapos ay magsulat ng "power prompt" na kinabibilangan ng tungkulin, anonymized na konteksto, paghihigpit, at kahilingan sa pag-verify at itanong muli ang parehong tanong. Ihambing ang dalawang sagot sa mga tuntunin ng pagkakasunud-sunod ng magnitude at pagkakapare-pareho ng yunit at kumpirmahin ang hindi bababa sa isang resulta sa pamamagitan ng isang independiyenteng pagkalkula ng kamay. Ibuod ang iyong mga natuklasan sa kalahating pahina.

checklist

  • [ ] Sinuri ko ang panganib ng output sa tanong na "sino ang masasaktan kung mali?"
  • [ ] Inihambing ko ang resulta sa isang kilalang sanggunian sa mga tuntunin ng mga order ng magnitude.
  • [ ] Malinaw kong nakumpirma ang yunit ng lahat ng numero.
  • [ ] Ginawa ko ang kritikal na resulta sa pamamagitan ng pangalawang independiyenteng pamamaraan.
  • [ ] Gumamit ako ng hindi nagpapakilalang halaga ng kinatawan sa halip na tunay/kumpidensyal na teknikal na data.
  • [ ] Na-verify ko na ang bawat standard/source citation na ibinigay ng AI mula sa orihinal na text.