Ieguvumi:
- Spēja atšķirt, kur mākslīgais intelekts ietaupa reālo laiku aviācijas un kosmosa inženierijas darbplūsmā un kuri lēmumi ir jāpaliek cilvēku ziņā drošības un atbildības apsvērumu dēļ
- Spēja piemērot drošības ziņā kritisku disciplīnu, kas pārbauda katru inženiertehnisko rezultātu pēc lieluma, vienības konsekvences un neatkarīgas reproducēšanas
- Iespēja iegūt ieradumu mudināt, anonimizējot kontekstu, lai aizsargātu ITAR/EAR eksporta kontroli un konfidenciālos dizaina datus
Apskatiet kosmosa inženiera galdu: spārnu slodzes aprēķini, galīgo elementu rezultāti, vēja tuneļa dati, lidojuma testu ieraksti, sertifikācijas dokumenti, piegādātāju sarakste un nebeidzamas sanāksmes. Laiks, kas veltīts faktiskajam inženiertehniskajam spriedumam, tas ir, jautājumiem "vai šis numurs ir drošs, vai šis dizains lidos, vai šis risks ir pieņemams?" tiek saspiests zem atkārtota aprēķinu un dokumentu darba. Šeit tiek izmantots mākslīgais intelekts (īsumā AI; programmatūra, kas darbojas ar tekstu, kodu un cipariem ar lielu valodas modeli un mašīnmācīšanos). AI nepieņem lēmumu jūsu vietā; Tas sagatavo jūs lēmuma pieņemšanai, sagatavo uzmetumu, paātrina aprēķinu un nodod jūsu priekšā apstrādāto informāciju.
Tomēr aviācija un kosmoss ir joma, kurā kļūda tiek mērīta nevis tekstā, bet gan dzīvībās un miljonos dolāru. Valodas modeļa sniegta atsauce, nepareiza vienību pārveidošana vai “saprātīgs, bet fiziski neiespējams rezultāts var būt neliels labojums citās nozarēs, taču šeit tas var kļūt par strukturālu kļūmi vai misijas zaudēšanu. Tāpēc visā šajā modulī AI pozicionēsim nevis kā “automātisko inženieri”, bet gan kā palīgu, kas pakļauts drošībai kritiskai disciplīnai, kura izvade tiek pārbaudīta katru reizi.
Šajā pirmajā daļā mēs izskaidrojam trīs lietas: kuros aviācijas un kosmosa darbplūsmas posmos mākslīgais intelekts rada reālu pievienoto vērtību, kādi lēmumi ir stingri jāpaliek kvalificētu cilvēku ziņā un kāda verifikācijas, eksporta kontroles un konfidencialitātes disciplīna jums jāievēro, to darot. Ja šis jumts nav pareizi uzstādīts, turpmāko iekārtu tehnika var kļūt bīstama.
Jēdzieni: Halucinācijas: AI pārliecinošs skaitļa, vienādojuma, standarta elementa vai avota izdomājums, kas patiesībā neeksistē. Konteksts: ievade, ko sniedzat AI (dizaina dati, pieņēmumi, jautājums). Pārbaude: izvades pārbaude ar neatkarīgiem līdzekļiem (rokas aprēķins, otrais rīks, standarta teksts). Šie trīs jēdzieni ir visa moduļa pamats.
Kuros uzņēmumos ir AI paātrinātājs, kādos uzņēmumos tas ir riskants?
Aviācijas un kosmosa misijas to seku ziņā ir divējāds. Vienā galā ir atgūstami, zema riska sagatavošanas darbi (literatūras kopsavilkums, koda skelets, prezentācijas izklāsts); Otrā galā ir neatgriezeniski lēmumi (drošības koeficients, kontroles likums, orbītas degšanas laiks), kas tieši nosaka lidojumderīgumu, dzīvības drošību un misijas panākumus. AI vērtība mainās atkarībā no tā, kur šajā spektrā atrodaties.
biznesa veids
AI ieguldījums
Inženiera loma
Literatūra/standarta kopsavilkums
Izvilkums no gara dokumenta
Salīdziniet rakstu ar oriģinālo tekstu
Rokas aprēķins / iepriekšēja izmēra noteikšana
Formulas iestatīšana, pirmais numurs
Vienības, ranga un pieņēmumu pārbaude
Analīzes kods/skripts
Skeleta un loģikas ģenerēšana
Validācija ar testa ievadi, vienību testēšana
Ziņojuma/prasību projekts
Ierosinot struktūru un stāstījumu
Saistiet katru izteiksmi ar resursu un prasību
Datu analīze / anomāliju skenēšana
Modeļa un kandidāta notikumu iegūšana
Apstiprinājums ar neapstrādātiem datiem un fiziku
Drošības/sertifikācijas lēmums
Analīzes materiāla sagatavošana
Gala novērtējums, izskatīšana un parakstīšana
Noteikums ir vienkāršs: AI izvades risks ir vienāds ar bojājumiem, kas radīsies, ja šī izvade radīs kļūdu. Nepareiza slaida nosaukuma pārrakstīšana ir nekaitīga; Aprēķināt spārnu spara drošības koeficientu 0,5, nevis 1,5, ir katastrofa. Tāpēc pirmais jautājums, kas jāuzdod pirms izvades izmantošanas, ir: "Kas notiek, ja tas ir nepareizi, kurš tiek ievainots un kurš to pamana?"
Uzmanību: AI rada tekošu un pārliecinošu tekstu. Plūsma negarantē precizitāti. Valodas modelis aizpilda robu ar statistiski "visticamāk" vārdiem, pat ja tam nav precīzu datu; Aviācijā šī aizpildīšana var būt izdomāta materiāla specifikācija vai neeksistējoša FAR klauzula.
Drošībai kritiskās verifikācijas disciplīna: trīs slāņi
Aviācijas kultūra jau ir veidota pēc principa "uzticieties, bet pārbaudiet"; AI ir jāizmanto šī principa nostiprināšanai, nevis vājināšanai. Izlaidiet katru AI izvadi caur trīs slāņu filtru.
Pirmais slānis ir lieluma kontrole. Skatiet, vai rezultāts ir aptuveni paredzētajā diapazonā no 10. Pasažieru lidmašīnas pacelšanās masa ir desmitiem tonnu; Ja mākslīgais intelekts jums norāda 800 kg, jūs zināt, ka ir kļūda, neiedziļinoties detaļās.
Otrais slānis ir vienības un izmēra konsistence. Viena no dārgākajām kļūdām aviācijas vēsturē ir 1999. gada Mars Climate Orbiter zaudējums: viena komanda izmantoja mārciņas sekundes, otra ņūtonsekundes, un aptuveni 327 miljonus dolāru vērtais kosmosa kuģis tika pazaudēts Marsa atmosfērā. AI izvadē ir skaidri jānorāda mērvienības un jāveic izmēru analīze.
Trešais slānis ir neatkarīga reprodukcija. Reproducējiet kritisko rezultātu, izmantojot otru metodi (citu manuālu kontu, atsevišķu rīku vai otru inženieri). Pārliecība palielinās, ja divi neatkarīgi ceļi sniedz vienādu atbildi; Ja tā nav, apstājieties, līdz saprotat, kāpēc tas atšķiras.
Padoms. Kad prasāt AI rezultātu, uzdodiet to pašu jautājumu arī otrādi. Sakiet "aprēķiniet šim spārnam nepieciešamo vietu" un pēc tam sakiet "aprēķiniet spārna slodzi ar atvēlēto vietu un salīdziniet to ar parasto lidmašīnas atstarpi". Lūdzot modelim pārbaudīt pašam savu izvadi, kļūst redzamas klusās kļūdas.
Eksporta kontrole un privātums: aviācijas privātā robeža
Vairumā valstu aviācijas un kosmosa tehnoloģijas ir pakļautas eksporta kontrolei. ASV to regulē ITAR (International Traffic in Arms Regulations) un EAR (Eksporta administrācijas noteikumi) (noteikumi, kas regulē divējāda lietojuma tehnoloģijas). Klasificēta raķešu vadības algoritma, satelīta piedziņas datu vai militārā gaisa kuģa veiktspējas parametra ievadīšana nekontrolējamā ārējā AI pakalpojumā var būt gan eksporta pārkāpums, gan intelektuālā īpašuma zaudēšana, gan līguma pārkāpums.
Īkšķis: nekad neievadiet reālus, konfidenciālus vai kontrolētus tehniskos datus neapstiprinātā ārējā rīkā. Tā vietā anonimizē kontekstu un aizstāj reālos skaitļus ar reprezentatīvām vērtībām. Piemēram, tā vietā, lai kopīgotu faktisko dzinēja vilces līkni, jautājiet "aprakstiet tipiskas turboventilatora vilces un ātruma attiecības vispārīgo formu".
Vāja uzvedne / spēcīga uzvedne
Tālāk norādītajām divām uzvednēm ir viens un tas pats mērķis, taču viena no tām pārkāpj konfidencialitāti un saņem nepārbaudāmu atbildi.
Vāja uzvedne:
Mūsu projektā esošajam bezpilota transportlīdzeklim XR-7 ir 4,2 m spārnu platums, 38 kg svars, dzinējs un ātruma diapazons. Pastāstiet man optimālo augstumu.
Spēcīga uzvedne:
Loma: Jūs esat aviācijas aerodinamikas konsultants. Konteksts: veicu vispārīgu analīzi nelielam fiksēta spārna bezpilota lidaparātam (vērtības ir reprezentatīvas, nevis faktiskie projekta dati): spārnu platums ~4 m, masa ~40 kg, kreisēšanas ātrums ~25 m/s. Uzdevums: Izskaidrojiet fiziskos principus, kas nosaka labāko diapazona augstumu, un uzskaitiet, kādi parametri man jāmēra. Ierobežojums: skaidri uzrakstiet katru formulu un pieņēmumu; Ja sniedzat skaitlisku rezultātu, norādiet vienību un pievienojiet, kā to pārbaudīt.
Spēcīgā uzvedne aizsargā faktiskos projekta datus, precizē lomu un ierobežojumus un pieprasa verifikācijas ceļu.
Kopējamas uzvedņu veidnes
Varat izmantot četras tālāk norādītās veidnes, pielāgojot tās savam biznesam. Tie visi ietver anonimizācijas un pārbaudes disciplīnu.
1. veidne — obligāts validācijas pieprasījums drošībai kritiskai izvadei:
Loma: Jūs esat vecākais aviācijas un kosmosa inženieris un atbilstat drošībai kritiskai disciplīnai. Konteksts: [Anonimizēta problēma; reprezentatīvās vērtības, nevis faktiskie projekta dati].Uzdevums: [Vēlamo analīzi/aprēķinu].Ierobežojums:- Uzrakstiet katra skaitļa vienību.- Skaidri uzskaitiet katru izmantoto formulu un pieņēmumu.- Salīdziniet rezultāta lieluma secību ar zināmu atsauci.- Pēdējā darbībā norādiet kontroles plānu, kurā teikts "kā es varu neatkarīgi pārbaudīt šo rezultātu". Ja ir nenoteiktība, neuzminiet; Jautājiet, kādi dati jums ir nepieciešami.
2. veidne — kontrolpārbaude (modelis pārbauda savu izvadi):
Tagad aprēķiniet [rezultāta] vērtību, kuru tikko norādījāt, izmantojot neatkarīgu metodi: izmantojiet citu formulu vai apgrieztu risinājumu. Vai abi rezultāti sakrīt? Ja nē, uzskaitiet iespējamos kļūdu avotus (vienība, pieņēmums, formulas izvēle). Atzīmējiet soli, par kuru neesat pārliecināts.
3. veidne — pārbaudāms standarta/avota attiecinājuma pieprasījums:
Norādiet attiecīgās sertifikācijas/standarta vielas [priekšmetam]. Katrai vielai: standarta nosaukums, vielas numurs un vielas kopsavilkums.BRĪDINĀJUMS: Nerakstiet vielas numuru, ja neesat pārliecināts. Atzīmējiet to kā "jāpārbauda". Sagatavotu atsauču sniegšana; Ja nezini, saki, ka nezini. Pastāstiet man arī, kā apstiprināt šos vienumus no sākotnējā teksta.
4. veidne — anonimizācijas iepriekšēja pārbaude (pirms kopīgošanas):
Man ir jānotīra tālāk norādītais teksts eksporta kontrolei (ITAR/EAR) un uzņēmuma konfidencialitātei, pirms to ievadu ārējā AI rīkā. Atzīmējiet potenciāli jutīgos elementus tekstā (faktiskie detaļu numuri, veiktspējas vērtības, projektu nosaukumi, piegādātāja informācija) un iesakiet katram reprezentatīvu/anonīmu aizstājēju. Teksts: [ielīmēt šeit]
Mini futrāļi
1. gadījums — izdomāta standarta klauzula. Lai atbalstītu dizaina pamatojumu, jaunākais inženieris jautā AI “kurai FAR klauzulai tas ir noteikts?” AI atsaucas uz "FAR 25.1493" klauzulu, kas faktiski neeksistē. Kad inženieris salīdzina tekstu ar sākotnējo noteikumu, viņš redz, ka klauzula ir izdomāta, un atrod pareizo punktu (14 CFR 25.303, drošības faktors). Nodarbība: katra AI sniegtā standarta atsauce tiek pārbaudīta no sākotnējā teksta.
2. gadījums — vienības slazds. Komanda saņem palīdzību no AI, veicot vilces aprēķinus. AI dod vilces spēku kā 5000, bet tā mērvienība "lbf vai N" joprojām nav skaidra. Starp 5000 lbf un 5000 N ir aptuveni 4,45 reižu atšķirība; Šī atšķirība pilnībā maina dzinēja izvēli. Ja apkalpes vienība turpinās bez skaidras lūgšanas, tā dosies uz nepareizo dzinēju klasi. Nodarbība: neviens numurs bez vienības netiek pieņemts.
3. gadījums — ranga kontrole glābj dzīvības. Studentu komandai AI lika aprēķināt delta-v (ātruma maiņas prasību) raķetei un ieguva rezultātu 95 m/s. Tipisks delta-v, lai sasniegtu zemu orbītu, ir aptuveni 9,4 km/s, t.i., aptuveni 9400 m/s. Apmēram 100 reižu atšķirība uzreiz norāda uz rediģēšanas kļūdu; skolēni vienādojumā atrod logaritma bāzes kļūdu. Nodarbība: vienmēr salīdziniet rezultātu ar zināmu atsauces diapazonu.
Biežas kļūdas
- Plūsmu sajauc ar precizitāti. Labi uzrakstīts skaidrojums var būt skaitliski nepareizs. Teksta kvalitāte un rezultāta precizitāte ir divas dažādas lietas.
- Bezvienības skaitļa pieņemšana. Aviācijā skaitlis, kas nenorāda vienību, ir nedefinēts skaitlis. lbf/N, ft/m, knot/m·s neskaidrības ir karjeras beigu kļūdas.
- Konfidenciālu datu ievadīšana ārējā rīkā. ITAR/EAR un uzņēmuma konfidencialitātes pārkāpums; Pēc noplūdes tehniskos datus nevar izgūt.
- Uzticoties vienam avotam. Kritiska rezultāta izmantošana, neradot to otrā veidā, ir drošības kritiskās disciplīnas vissvarīgākā noteikuma pārkāpums.
- Netiek pārbaudīts standarta attiecinājums. AI norādītie vienumu numuri var būt viltoti; Katra atsauce ir apstiprināta no sākotnējās regulas.
Rezumējot
AI ievērojami paātrina aprēķinu, koda, dokumentu un datu atkārtotu darbu aviācijas un kosmosa inženierijā; taču lēmumus, kas nosaka drošību, lidojumderīgumu un misijas panākumus, pieņem kvalificēta persona. Katra izvade ir jāfiltrē pēc lieluma, vienības konsekvences un neatkarīgas reproducēšanas. Eksporta kontroles (ITAR/EAR) un konfidencialitātes apsvērumu dēļ faktiskie tehniskie dati ir anonimizēti un jāizmanto tikai apstiprināti rīki. Šī disciplīna ir priekšnoteikums visām turpmākajām vienībām.
Lietojumprogrammas uzdevums
Izvēlieties inženiertehnisko jautājumu no savas jomas (aerodinamika, struktūra, vadība, aviācija, ražošana). Vispirms ierakstiet "vāja uzvedne" un pajautājiet AI; Pēc tam uzrakstiet “barošanas uzvedni”, kas ietver lomu, anonimizētu kontekstu, ierobežojumu un verifikācijas pieprasījumu, un vēlreiz uzdodiet to pašu jautājumu. Salīdziniet abas atbildes pēc lieluma un vienības konsekvences un apstipriniet vismaz vienu rezultātu ar neatkarīgu roku aprēķinu. Apkopojiet savus atklājumus puslapā.
kontrolsaraksts
- [ ] Izlaiduma risku novērtēju ar jautājumu "kurš tiek ievainots, ja tas ir nepareizi?"
- [ ] Es salīdzināju rezultātu ar zināmu atsauci lieluma kārtu izteiksmē.
- [ ] Esmu skaidri apstiprinājis visu skaitļu vienību.
- [ ] Es reproducēju kritisko rezultātu ar otru neatkarīgu metodi.
- [ ] Es izmantoju anonimizētu reprezentatīvu vērtību, nevis reālus/konfidenciālus tehniskos datus.
- [ ] Esmu pārbaudījis katru standarta/avota citātu, ko AI sniedzis no oriģinālā teksta.