Kasu:
- Võimalus teha vahet, kus tehisintellekt säästab lennunduse ja kosmosetehnika töövoos reaalaega ning millised otsused peaksid ohutuse ja vastutuse huvides jääma inimeste teha
- Võimalus rakendada ohutuskriitilist distsipliini, mis kontrollib iga tehnilist tulemust suurusjärgu, ühiku järjepidevuse ja sõltumatu reprodutseerimise järgi
- Võimalus omandada harjumus anonüümseks muutes konteksti viidata, et kaitsta ITAR-i/EAR-i ekspordikontrolli ja konfidentsiaalseid disainiandmeid
Vaadake kosmoseinseneride töölauda: tiivakoormuse arvutused, lõplike elementide tulemused, tuuletunneli andmed, lennukatsete kirjed, sertifitseerimisdokumendid, tarnijate kirjavahetus ja lõputud koosolekud. Aeg, mis on pühendatud tegelikule inseneriotsusele, st küsimustele "kas see number on ohutu, kas see disain lendab, kas see risk on vastuvõetav?" on korduva arvutus- ja dokumenteerimistöö all muserdatud. Siin tuleb mängu tehisintellekt (lühidalt AI; tarkvara, mis töötab teksti, koodi ja numbritega koos suure keelemudeli ja masinõppega). AI ei tee otsust teie eest; See valmistab teid ette otsuse tegemiseks, koostab mustandi, kiirendab arvutamist ja annab töödeldud teabe teie ette.
Lennundus ja kosmos on aga valdkond, kus viga mõõdetakse mitte tekstis, vaid eludes ja miljonites dollarites. Keelemudeli tehtud viide, vale ühikute teisendus või "mõistliku välimusega", kuid füüsiliselt võimatu tulemus võib teistes tööstusharudes olla väike parandus, kuid siin võib see muutuda struktuuririkkeks või missiooni kadumiseks. Seetõttu positsioneerime selle mooduli jooksul tehisintellekti mitte "automaatse insenerina", vaid abimehena, kelle suhtes kohaldatakse ohutuskriitilist distsipliini, kelle väljundit kontrollitakse iga kord.
Selles esimeses tükis selgitame kolme asja: millistel lennundus- ja kosmosetöövoo etappidel lisab tehisintellekt tõelist väärtust, millised otsused peavad jääma rangelt kvalifitseeritud inimeste kätesse ning millist kontrolli, ekspordikontrolli ja konfidentsiaalsusdistsipliini peate seda tehes järgima. Kui see katus pole õigesti paigaldatud, võivad järgnevate seadmete tehnikad muutuda ohtlikuks.
Mõisted: Hallutsinatsioonid: AI veenev väljamõeldis arvust, võrrandist, standardüksusest või allikast, mida tegelikult ei eksisteeri. Kontekst: sisend, mille annate tehisintellektile (kujundusandmed, eeldused, küsimus). Kontrollimine: väljundi kontrollimine sõltumatute vahenditega (käsiarvutus, teine tööriist, standardtekst). Need kolm kontseptsiooni on kogu mooduli selgroog.
Millistes ettevõtetes on AI Accelerator, millistes ettevõtetes on see riskantne?
Lennundus- ja kosmosemissioonid kuuluvad nende tagajärgede poolest kahesuunalisele spektrile. Ühes otsas on otsitavad madala riskitasemega ettevalmistustööd (kirjanduse kokkuvõte, koodiskelett, esitluskonspekt); Teises otsas on pöördumatud otsused (ohutuskoefitsient, juhtimisseadus, orbiidi põlemisaeg), mis määravad otseselt lennukõlblikkuse, eluohutuse ja missiooni edukuse. AI väärtus varieerub sõltuvalt sellest, kus te selles spektris asute.
äri tüüp
AI panus
Inseneri roll
Kirjandus/standard kokkuvõte
Pikast dokumendist väljavõtte väljavõte
Võrrelge artiklit originaaltekstiga
Käsitsi arvutamine / eelmõõtmine
Valemi seadistus, esimene number
Ühiku, auastme ja eelduste kontroll
Analüüsi kood / skriptimine
Skeleti ja loogika genereerimine
Valideerimine testsisendiga, ühikutestimine
Aruande/nõuete kavand
Struktuuri ja narratiivi soovitamine
Siduge iga avaldis ressursi ja nõudega
Andmete analüüs / anomaaliate skaneerimine
Mustri ja kandidaatsündmuse ekstraheerimine
Kinnitus algandmete ja füüsikaga
Ohutus/sertifitseerimisotsus
Analüüsimaterjali ettevalmistamine
Lõpphindamine, läbivaatamine ja allkirjastamine
Reegel on lihtne: tehisintellekti väljundi risk võrdub kahjuga, mis tekib, kui see väljund teeb vea. Slaidi pealkirja valesti kirjutamine on kahjutu; Arvutada tiivavarre ohutuskoefitsiendiks 1,5 asemel 0,5 on katastroof. Nii et esimene küsimus, mida enne väljundi kasutamist küsida, on: "Mis juhtub, kui see on vale, kes saab viga ja kes märkab?"
Tähelepanu: AI toodab sujuvat ja enesekindlat teksti. Sujuvus ei garanteeri täpsust. Keelemudel täidab tühimiku statistiliselt "kõige tõenäolisemate" sõnadega, isegi kui sellel puuduvad täpsed andmed; Lennunduses võib see täitmine tunduda väljamõeldud materjali spetsifikatsioonina või olematu FAR-klauslina.
Turvakriitilise kontrolli distsipliin: kolm kihti
Lennukultuur on juba üles ehitatud põhimõttele "usalda, aga kontrolli"; AI-d tuleks kasutada selle põhimõtte tugevdamiseks, mitte nõrgendamiseks. Laske iga AI väljund läbi kolmekihilise filtri.
Esimene kiht on suurusjärgu kontroll. Vaadake, kas tulemus jääb ligikaudu eeldatava võimsuse vahemikku 10. Reisilennuki stardimass on kümnete tonnide suurusjärgus; Kui tehisintellekt ütleb teile 800 kg, teate, et on viga, ilma detailidesse laskumata.
Teine kiht on ühiku ja suuruse konsistents. Lennuajaloo üks kulukamaid vigu on 1999. aasta Mars Climate Orbiteri kadu: üks meeskond kasutas naelsekundeid, teine njuutonsekundeid ja umbes 327 miljonit dollarit maksnud kosmoseaparaat läks Marsi atmosfääri kaduma. AI väljundis tuleks ühikud selgelt välja tuua ja teha mõõtmete analüüs.
Kolmas kiht on iseseisev paljundamine. Kriitilise tulemuse reprodutseerimine teise meetodiga (teine käsitsi konto, eraldi tööriist või teine insener). Usaldus suureneb, kui kaks sõltumatut teed annavad sama vastuse; Kui ei, siis lõpetage, kuni saate aru, miks see on teistsugune.
Näpunäide: kui küsite AI-lt tulemust, esitage sama küsimus ka vastupidises järjekorras. Öelge "arvuta selle tiiva jaoks vajalik ruum" ja seejärel "arvuta tiivakoormus tagasi antud ruumiga ja võrrelge seda tüüpilise lennuki vahekaugusega". Kui palute mudelil oma väljundit ristkontrollida, muutuvad vaikivad vead nähtavaks.
Ekspordikontroll ja privaatsus: lennunduse erapiir
Enamikus riikides kohaldatakse lennundustehnoloogiate ekspordikontrolli. USA-s reguleerivad seda ITAR (International Traffic in Arms Regulations) ja EAR (Export Administration Regulations) (kahesuguse kasutusega tehnoloogiat reguleerivad reeglid). Salastatud raketi juhtimisalgoritmi, satelliidi tõukejõu andmete või sõjalennuki jõudlusparameetri sisestamine kontrollimatusse välisesse tehisintellekti teenusesse võib olla nii ekspordi rikkumine, intellektuaalomandi kaotamine kui ka lepingu rikkumine.
Rusikareegel: ärge kunagi sisestage tõelisi, konfidentsiaalseid või kontrollitud tehnilisi andmeid heakskiitmata välisesse tööriista. Selle asemel muutke kontekst anonüümseks ja asendage reaalarvud representatiivsete väärtustega. Näiteks mootori tegeliku tõukejõu kõvera jagamise asemel paluge "kirjeldage tüüpilise turboventilaatori tõukejõu ja kiiruse suhte üldist vormi".
Nõrk viip / Tugev viip
Järgmisel kahel viibal on sama eesmärk, kuid üks neist rikub konfidentsiaalsust ja saab kontrollimatu vastuse.
Nõrk viip:
Meie projekti XR-7 mehitamata sõiduki tiibade siruulatus on 4,2 m, kaal 38 kg, mootor ja kiirus. Öelge mulle optimaalne kõrgus merepinnast.
Võimas viip:
Roll: olete lennunduse aerodünaamika konsultant. Kontekst: Teen üldanalüüsi väikese fikseeritud tiivaga UAV kohta (väärtused on esinduslikud, mitte tegelikud projekti andmed): tiibade siruulatus ~4 m, mass ~40 kg, reisikiirus ~25 m/s. Ülesanne: Selgitage füüsikalisi põhimõtteid, mis määravad parima ulatuse kõrguse ja loetlege, milliseid parameetreid peaksin mõõtma. Piirang: kirjutage iga valem ja eeldus selgelt; Kui annate numbrilise tulemuse, määrake ühik ja lisage, kuidas seda kontrollida.
Võimas viip kaitseb tegelikke projektiandmeid, selgitab rolli ja piiranguid ning taotleb kinnitusteed.
Kopeeritavad viipade mallid
Saate kasutada nelja allolevat malli, kohandades neid oma ettevõtte jaoks. Kõik need sisaldavad anonüümseks muutmise ja kontrollimise distsipliini.
Mall 1 – turvakriitilise väljundi kohustuslik kinnitamistaotlus:
Roll: olete vanemlennundusinsener ja sobite ohutuskriitilise distsipliiniga. Kontekst: [Anonüümne probleem; esinduslikud väärtused, mitte tegelikud projektiandmed].Ülesanne: [Soovitav analüüs/arvutus].Piirastus:- Kirjutage iga numbri ühik.- Loetlege selgelt kõik kasutatavad valemid ja eeldused.- Võrrelge tulemuse suurusjärku teadaoleva viitega.- Viimases etapis esitage juhtimisplaan, kus on kirjas "kuidas ma saan seda väljundit iseseisvalt kontrollida". Kui on ebakindlus, ärge arvake; Küsige, milliseid andmeid vajate.
Mall 2 – ristkontroll (mudel testib oma väljundit):
Nüüd arvutage äsja antud [tulemuse] väärtus sõltumatu meetodi abil: kasutage teist valemit või pöördlahendust. Kas need kaks tulemust ühtivad? Kui ei, siis loetlege võimalikud veaallikad (ühik, eeldus, valemi valik). Märkige samm, milles te pole kindel.
3. mall – standardse/allika omistamise kontrollitav taotlus:
Loetlege [teema] asjakohased sertifitseerimis-/standardained. Iga aine kohta: standardnimetus, aine number ja aine kokkuvõte. HOIATUS: Ärge kirjutage aine numbrit, kui te pole kindel. Märkige see kui "peab olema kinnitatud". Väljamõeldud viidete andmine; Kui sa ei tea, ütle mulle, et sa ei tea. Samuti öelge mulle, kuidas neid üksusi algtekstist kinnitada.
Mall 4 – anonüümseks muutmise eelkontroll (enne jagamist):
Pean järgmise teksti ekspordikontrolli (ITAR/EAR) ja ettevõtte konfidentsiaalsuse tagamiseks enne selle sisestamist välisesse AI-tööriista kustutama. Märgistage tekstis potentsiaalselt tundlikud elemendid (tegelikud osade numbrid, jõudlusväärtused, projektinimed, tarnija teave) ja soovitage iga jaoks esindaja/anonüümne asendus. Tekst: [kleebi siia]
Mini korpused
Juhtum 1 – väljamõeldud standardklausel. Disaini põhjenduse toetamiseks küsib nooreminsener tehisintellektilt „milline FAR-klausel seda nõuab?” AI viitab "FAR 25.1493" klauslile, mida tegelikult ei eksisteeri. Kui insener võrdleb teksti algse määrusega, näeb ta, et klausel on välja mõeldud ja leiab õige klausli (14 CFR 25.303, ohutustegur). Õppetund: iga tehisintellekti antud standardviide kontrollitakse algteksti põhjal.
Juhtum 2 – üksuslõks. Meeskond saab tõukejõu arvutamisel abi tehisintellektilt. AI annab tõukejõuks 5000, kuid selle ühik "lbf või N" jääb ebaselgeks. 5000 naela ja 5000 N vahel on ligikaudu 4,45-kordne erinevus; See erinevus muudab mootori valikut täielikult. Kui meeskonnaüksus liigub edasi ilma selgesõnalise küsimiseta, suundutakse valesse mootoriklassi. Õppetund: ühtegi numbrit ilma ühikuta ei aktsepteerita.
Juhtum 3 – järgu juhtimine päästab elusid. Õpilaste meeskond lasi tehisintellektil arvutada raketi delta-v (kiiruse muutumise nõude) ja sai tulemuseks 95 m/s. Tüüpiline delta-v madalale orbiidile jõudmiseks on umbes 9,4 km/s, st suurusjärgus 9400 m/s. Umbes 100-kordne erinevus reedab koheselt toimetamisvea; õpilased leiavad võrrandist baaslogaritmi vea. Õppetund: võrrelge tulemust alati teadaoleva võrdlusvahemikuga.
Levinud vead
- Segi ajab sujuvust täpsusega. Hästi kirjutatud selgitus võib olla numbriliselt vale. Teksti kvaliteet ja tulemuse täpsus on kaks eri asja.
- Ühikuta arvu aktsepteerimine. Lennunduses on arv, mis ei määra ühikut, määratlemata arv. lbf/N, ft/m, knot/m·s segadused on karjääri lõpetavad vead.
- Konfidentsiaalsete andmete sisestamine välisesse tööriista. ITAR/EAR ja ettevõtte konfidentsiaalsuse rikkumine; Kord lekkinud tehnilisi andmeid ei saa enam kätte.
- Usaldades ühte allikat. Kriitilise tulemuse kasutamine ilma seda teisel viisil saavutamata rikub turvakriitilise distsipliini kõige põhilisemat reeglit.
- Standardset omistamist ei kinnitata. AI antud kaubanumbrid võivad olla võltsitud; Iga viide on kinnitatud algsest määrusest.
Kokkuvõttes
Tehisintellekt kiirendab järsult arvutuste, koodide, dokumentide ja andmete korduvat tööd kosmosetehnika valdkonnas; kuid otsused, mis määravad ohutuse, lennukõlblikkuse ja missiooni edu, jäävad kvalifitseeritud isikule. Iga väljund tuleb filtreerida suurusjärgu, ühiku järjepidevuse ja sõltumatu reprodutseerimise kaudu. Ekspordikontrolli (ITAR/EAR) ja konfidentsiaalsuse huvides tuleks tegelikud tehnilised andmed muuta anonüümseks ja kasutada tuleks ainult heakskiidetud tööriistu. See distsipliin on kõigi järgnevate üksuste eeltingimus.
Rakenduse ülesanne
Valige oma valdkonnast inseneriküsimus (aerodünaamika, struktuur, juhtimine, lennundus, tootmine). Esmalt tippige "nõrk viip" ja küsige tehisintellektilt; Seejärel kirjutage "toiteviip", mis sisaldab rolli, anonüümseks muudetud konteksti, piirangut ja kinnitustaotlust, ning esitage sama küsimus uuesti. Võrrelge kahte vastust suurusjärgu ja ühiku järjepidevuse osas ning kinnitage vähemalt üks tulemus sõltumatu käsitsi arvutusega. Tehke oma leidudest kokkuvõte poolel leheküljel.
kontrollnimekiri
- [ ] Väljundi riski hindasin küsimusega "kes saab viga, kui see valesti läheb?"
- [ ] Võrdlesin tulemust suurusjärkudes teadaoleva referentsiga.
- [ ] Olen selgelt kinnitanud kõigi arvude ühiku.
- [ ] Reprodutseerisin kriitilise tulemuse teise sõltumatu meetodiga.
- [ ] Kasutasin tegelike/konfidentsiaalsete tehniliste andmete asemel anonüümseks muudetud tüüpilist väärtust.
- [ ] Olen kontrollinud kõiki algteksti AI antud standard-/allikaviiteid.