Pelnas:
- Gebėjimas atskirti, kur dirbtinis intelektas sutaupo realų laiką aviacijos ir kosmoso inžinerijos darbo eigoje ir kurie sprendimai turėtų likti žmonėms dėl saugumo ir atsakomybės
- Gebėjimas taikyti saugai svarbią discipliną, kuri patikrina kiekvieną inžinerinį rezultatą pagal dydį, vieneto nuoseklumą ir nepriklausomą atkūrimą
- Galimybė įpratinti raginti anonimizuojant kontekstą, siekiant apsaugoti ITAR/EAR eksporto kontrolę ir konfidencialius dizaino duomenis
Pažvelkite į aviacijos ir kosmoso inžinieriaus stalą: sparnų apkrovos skaičiavimai, baigtinių elementų rezultatai, vėjo tunelio duomenys, skrydžio bandymų įrašai, sertifikavimo dokumentai, tiekėjų korespondencija ir nesibaigiantys susitikimai. Laikas, skirtas tikram inžineriniam sprendimui, ty klausimams "ar šis skaičius saugus, ar šis dizainas skris, ar ši rizika priimtina?" yra sugniuždyta po pasikartojančio skaičiavimo ir dokumentų darbo. Čia pradeda veikti dirbtinis intelektas (sutrumpintai AI; programinė įranga, kuri veikia su tekstu, kodu ir skaičiais su dideliu kalbos modeliu ir mašininiu mokymusi). AI nepriima sprendimo už jus; Jis paruošia jus sprendimui, parengia juodraštį, pagreitina skaičiavimą ir pateikia apdorotą informaciją.
Tačiau aviacija ir kosmosas yra sritis, kurioje klaida matuojama ne tekstu, o gyvybėmis ir milijonais dolerių. Kalbos modelio nuoroda, neteisingas vieneto konvertavimas arba „protingai atrodantis“, bet fiziškai neįmanomas rezultatas gali būti nedidelis pataisymas kitose pramonės šakose, tačiau čia tai gali tapti struktūriniu gedimu arba misijos praradimu. Štai kodėl visame šiame modulyje AI pozicionuosime ne kaip „automatinį inžinierių“, o kaip asistentą, kuriam taikoma saugos požiūriu svarbi disciplina, kurio išvestis tikrinama kiekvieną kartą.
Šiame pirmajame skyriuje paaiškiname tris dalykus: kuriuose aviacijos ir kosmoso darbo eigos etapuose AI suteikia tikros vertės, kokie sprendimai turi likti griežtai kvalifikuotų žmonių rankose ir kokios tikrinimo, eksporto kontrolės ir konfidencialumo disciplinos turite laikytis tai darydami. Teisingai neįrengus šio stogo, tolesnių įrenginių technika gali tapti pavojinga.
Sąvokos: Haliucinacijos: AI įtikinamas skaičiaus, lygties, standartinio elemento ar šaltinio, kurio iš tikrųjų nėra, išgalvojimas. Kontekstas: įvestis, kurią suteikiate AI (projektavimo duomenys, prielaidos, klausimas). Patikrinimas: Išvesties tikrinimas nepriklausomomis priemonėmis (rankinis skaičiavimas, antrasis įrankis, standartinis tekstas). Šios trys sąvokos yra viso modulio pagrindas.
Kuriose įmonėse yra AI Accelerator, kuriose įmonėse tai rizikinga?
Aviacijos ir kosmoso misijos jų pasekmių požiūriu yra dvipusės. Viename gale yra atkuriami, mažos rizikos parengiamieji darbai (literatūros santrauka, kodo skeletas, pristatymo metmenys); Kitame gale yra negrįžtami sprendimai (saugos koeficientas, valdymo įstatymas, orbitos degimo laikas), kurie tiesiogiai lemia tinkamumą skraidyti, gyvybės saugą ir misijos sėkmę. AI reikšmė skiriasi priklausomai nuo to, kur esate šiame spektre.
verslo tipas
AI indėlis
Inžinieriaus vaidmuo
Literatūra/standartinė santrauka
Ištrauka iš ilgo dokumento
Palyginkite straipsnį su originaliu tekstu
Rankinis skaičiavimas / išankstinis dydžio nustatymas
Formulės nustatymas, pirmasis numeris
Vieneto, rango ir prielaidų tikrinimas
Analizės kodas / scenarijus
Skeleto ir logikos generavimas
Patvirtinimas naudojant testo įvestį, vienetų testavimas
Ataskaitos/reikalavimų projektas
Siūloma struktūra ir pasakojimas
Susiekite kiekvieną išraišką su ištekliu ir reikalavimu
Duomenų analizė / anomalijų nuskaitymas
Šablonų ir kandidatų įvykių ištraukimas
Patvirtinimas su neapdorotais duomenimis ir fizika
Saugos/sertifikavimo sprendimas
Analizės medžiagos paruošimas
Galutinis įvertinimas, peržiūra ir parašas
Taisyklė paprasta: AI išvesties rizika yra lygi žalai, kurią ji patirs, jei išvestis padarys klaidą. Klaidingai parašyti skaidrės pavadinimą yra nekenksminga; Skaičiuojant sparno koto saugos koeficientą 0,5, o ne 1,5, yra katastrofa. Taigi pirmasis klausimas, kurį reikia užduoti prieš naudojant išvestį, yra: „Kas atsitiks, jei tai neteisinga, kas nukentės ir kas pastebės?
Dėmesio: AI kuria sklandų ir patikimą tekstą. Sklandumas negarantuoja tikslumo. Kalbos modelis užpildo spragą statistiškai „labiausiai tikėtinais“ žodžiais, net jei jis neturi tikslių duomenų; Aviacijoje šis užpildymas gali pasirodyti kaip paruošta medžiagos specifikacija arba neegzistuojanti FAR sąlyga.
Saugumui svarbios patikros disciplina: trys sluoksniai
Aviacijos kultūra jau sukurta remiantis principu „pasitikėk, bet patikrink“; AI turėtų būti naudojamas sustiprinti šį principą, o ne jį susilpninti. Praleiskite kiekvieną AI išvestį per trijų sluoksnių filtrą.
Pirmasis sluoksnis yra dydžio valdymas. Pažiūrėkite, ar rezultatas apytiksliai atitinka numatytą 10 galią. Keleivinio lėktuvo kilimo masė siekia dešimtis tonų; Jei dirbtinis intelektas jums nurodo 800 kg, jūs žinote, kad yra klaida, nesigilindami į detales.
Antrasis sluoksnis yra vieneto ir dydžio konsistencija. Viena brangiausių klaidų aviacijos istorijoje yra 1999-ųjų „Mars Climate Orbiter“ praradimas: viena komanda naudojo svaro sekundes, kita – niutonines sekundes, o maždaug 327 mln. USD vertės erdvėlaivis buvo prarastas Marso atmosferoje. AI išvestyje turi būti aiškiai nurodyti vienetai ir atlikti matmenų analizę.
Trečiasis sluoksnis yra nepriklausomas dauginimasis. Atkurkite kritinį rezultatą antruoju metodu (kitu rankiniu būdu, atskiru įrankiu arba antruoju inžinieriumi). Pasitikėjimas didėja, jei du nepriklausomi keliai pateikia tą patį atsakymą; Jei ne, sustokite, kol suprasite, kodėl tai skiriasi.
Patarimas: kai klausiate dirbtinio intelekto rezultato, užduokite tą patį klausimą atvirkščiai. Pasakykite „apskaičiuokite šiam sparnui reikalingą erdvę“, tada pasakykite „atgal apskaičiuokite sparno apkrovą pagal jūsų suteiktą erdvę ir palyginkite ją su įprastu lėktuvo atstumu“. Prašant modelio kryžmiškai patikrinti savo išvestį, matomos tylios klaidos.
Eksporto kontrolė ir privatumas: Aviacijos privati siena
Daugumoje šalių oro erdvės technologijoms taikoma eksporto kontrolė. JAV tai reglamentuoja ITAR (International Traffic in Arms Regulations) ir EAR (Export Administration Regulations) (taisyklės, reglamentuojančios dvejopo naudojimo technologijas). Įslaptinto raketų valdymo algoritmo, palydovo varymo duomenų ar karinio orlaivio veikimo parametro įvedimas į nekontroliuojamą išorinę AI paslaugą gali būti eksporto pažeidimas, intelektinės nuosavybės praradimas ir sutarties pažeidimas.
Nykščio taisyklė: niekada neįveskite tikrų, konfidencialių ar kontroliuojamų techninių duomenų į nepatvirtintą išorinį įrankį. Vietoj to, anoniminkite kontekstą ir pakeiskite tikrus skaičius reprezentatyviomis reikšmėmis. Pavyzdžiui, užuot bendrinę tikrąją variklio traukos kreivę, paprašykite „apibūdinti bendrą tipiško turboventiliatoriaus traukos ir greičio santykio formą“.
Silpnas raginimas / Stiprus raginimas
Toliau pateikiami du raginimai turi tą patį tikslą, tačiau vienas pažeidžia konfidencialumą ir gauna nepatikrinamą atsakymą.
Silpnas raginimas:
Mūsų projekte esančios nepilotuojamos transporto priemonės XR-7 sparnų plotis yra 4,2 m, svoris 38 kg, variklis ir greičio diapazonas. Pasakyk man optimalų aukštį.
Galingas raginimas:
Pareigos: esate aviacijos aerodinamikos konsultantas. Kontekstas: darau bendrą analizę nedideliam fiksuoto sparno UAV (vertės reprezentatyvios, o ne faktiniai projekto duomenys): sparnų plotis ~4 m, masė ~40 kg, kreiserinis greitis ~25 m/s. Užduotis: Paaiškinkite fizinius principus, kurie lemia geriausią diapazono aukštį ir išvardinkite, kokius parametrus turėčiau matuoti. Apribojimas: Aiškiai parašykite kiekvieną formulę ir prielaidą; Jei pateikiate skaitinį rezultatą, nurodykite vienetą ir pridėkite, kaip jį patikrinti.
Galingas raginimas apsaugo faktinius projekto duomenis, paaiškina vaidmenį ir apribojimus bei prašo patvirtinimo kelio.
Kopijuojami raginimo šablonai
Galite naudoti keturis toliau pateiktus šablonus pritaikydami juos savo verslui. Jie visi įtvirtina anonimiškumo ir patikrinimo discipliną.
1 šablonas – privaloma saugumui svarbios išvesties patvirtinimo užklausa:
Vaidmuo: esate vyresnysis aviacijos ir kosmoso inžinierius ir atitinkate saugai svarbią discipliną. Kontekstas: [Anonimizuota problema; reprezentacinės vertės, o ne faktiniai projekto duomenys].Užduotis: [Norima analizė/skaičiavimas].Apribojimas:- Parašykite kiekvieno skaičiaus vienetą.- Aiškiai išvardykite kiekvieną naudojamą formulę ir prielaidą.- Palyginkite rezultato dydžio eilę su žinoma nuoroda.- Paskutiniame žingsnyje pateikite valdymo planą, kuriame sakoma "kaip savarankiškai patikrinti šią išvestį". Jei yra neapibrėžtumas, neatspėkite; Paklauskite, kokių duomenų jums reikia.
2 šablonas – kryžminė patikra (modelis išbando savo išvestį):
Dabar apskaičiuokite [rezultato] reikšmę, kurią ką tik nurodėte naudodami nepriklausomą metodą: naudokite kitą formulę arba atvirkštinį sprendimą. Ar abu rezultatai sutampa? Jei ne, nurodykite galimus klaidų šaltinius (vienetą, prielaidą, formulės pasirinkimą). Pažymėkite žingsnį, dėl kurio nesate tikri.
3 šablonas – patikrinama standartinio / šaltinio priskyrimo užklausa:
Išvardykite atitinkamas [dalykas] sertifikavimo / standartines medžiagas. Kiekvienai medžiagai: standartinis pavadinimas, medžiagos numeris ir medžiagos santrauka. ĮSPĖJIMAS: Nerašykite cheminės medžiagos numerio, jei nesate tikri. Pažymėkite kaip „būtina patikrinti“. Sugalvotų nuorodų teikimas; Jei nežinai, sakyk, kad nežinai. Taip pat pasakykite man, kaip patvirtinti šiuos elementus iš pradinio teksto.
4 šablonas – išankstinė anonimiškumo patikra (prieš bendrinimą):
Turiu išvalyti šį tekstą dėl eksporto kontrolės (ITAR / EAR) ir įmonės konfidencialumo prieš įvesdamas jį į išorinį AI įrankį. Pažymėkite galimai jautrius elementus tekste (faktinius dalių numerius, eksploatacines vertes, projektų pavadinimus, informaciją apie tiekėjus) ir pasiūlykite kiekvieno iš jų reprezentatyvų / anoniminį pakeitimą. Tekstas: [įklijuokite čia]
Mini dėklai
1 atvejis. Sugalvota standartinė sąlyga. Siekdamas pagrįsti projekto pagrindimą, jaunesnysis inžinierius klausia AI: „kuri FAR sąlyga tai įpareigoja? AI cituoja „FAR 25.1493“ sąlygą, kuri iš tikrųjų neegzistuoja. Kai inžinierius lygina tekstą su pirminiu reglamentu, jis mato, kad sąlyga yra sukurta, ir randa tinkamą punktą (14 CFR 25.303, saugos faktorius). Pamoka: kiekviena standartinė AI pateikta nuoroda yra patikrinta pagal originalų tekstą.
2 atvejis – vieneto gaudyklė. Komanda gauna AI pagalbos apskaičiuojant trauką. AI nurodo trauką kaip 5000, bet jo vienetas „lbf arba N“ lieka neaiškus. Skirtumas tarp 5000 lbf ir 5000 N yra maždaug 4,45 karto; Šis skirtumas visiškai pakeičia variklio pasirinkimą. Jei įgulos padalinys tęsis be aiškaus klausimo, jis pasirinks netinkamą variklių klasę. Pamoka: bet koks skaičius be vieneto nepriimamas.
3 atvejis – rango valdymas gelbsti gyvybes. Studentų komanda AI apskaičiavo raketos delta-v (greičio kitimo reikalavimą) ir gavo 95 m/s rezultatą. Tipiškas delta-v, norint pasiekti žemą orbitą, yra apie 9,4 km/s, t.y. maždaug 9400 m/s. Maždaug 100 kartų skirtumas iš karto išduoda redagavimo klaidą; mokiniai lygtyje randa bazinio logaritmo paklaidą. Pamoka: visada palyginkite rezultatą su žinomu atskaitos diapazonu.
Dažnos klaidos
- Sklandumas klaidinamas su tikslumu. Gerai parašytas paaiškinimas gali būti neteisingas. Teksto kokybė ir rezultato tikslumas yra du skirtingi dalykai.
- Priimamas skaičius be vieneto. Aviacijoje skaičius, nenurodantis vieneto, yra neapibrėžtas skaičius. lbf/N, ft/m, knot/m·s painiavos yra karjeros pabaigos klaidos.
- Konfidencialių duomenų įvedimas į išorinį įrankį. ITAR/EAR ir įmonės konfidencialumo pažeidimas; Nutekėjus techninių duomenų negalima atkurti.
- Pasitikėjimas vienu šaltiniu. Kritinio rezultato naudojimas negaunant jo antruoju būdu yra pagrindinės saugumo kritinės disciplinos taisyklės pažeidimas.
- Nepatvirtina standartinio priskyrimo. AI pateikti prekių numeriai gali būti netikri; Kiekviena nuoroda patvirtinama iš pirminio reglamento.
Apibendrinant
AI labai pagreitina pasikartojančius skaičiavimus, kodą, dokumentus ir duomenis aviacijos ir erdvės inžinerijoje; tačiau sprendimus, lemiančius saugą, tinkamumą skraidyti ir misijos sėkmę, turi priimti kvalifikuotas asmuo. Kiekviena išvestis turi būti filtruojama pagal dydį, vieneto nuoseklumą ir nepriklausomą atkūrimą. Eksporto kontrolės (ITAR/EAR) ir konfidencialumo sumetimais faktiniai techniniai duomenys turėtų būti anonimiški ir turėtų būti naudojamos tik patvirtintos priemonės. Ši disciplina yra būtina sąlyga visiems tolesniems padaliniams.
Taikymo užduotis
Pasirinkite inžinerinį klausimą iš savo srities (aerodinamika, struktūra, valdymas, aviacija, gamyba). Pirmiausia įveskite „silpną raginimą“ ir paklauskite AI; Tada parašykite „maitinimo raginimą“, kuriame būtų nurodytas vaidmuo, anoniminis kontekstas, apribojimas ir patvirtinimo užklausa, ir dar kartą užduokite tą patį klausimą. Palyginkite du atsakymus pagal dydį ir vieneto nuoseklumą ir patvirtinkite bent vieną rezultatą nepriklausomu skaičiavimu ranka. Apibendrinkite savo atradimus per pusę puslapio.
kontrolinis sąrašas
- [ ] Išvesties riziką įvertinau klausimu „kas nukentės, jei negerai?
- [ ] Rezultatą palyginau su žinoma nuoroda pagal didumo eiles.
- [ ] Aš aiškiai patvirtinau visų skaičių vienetą.
- [ ] Kritinį rezultatą atkūriau antruoju nepriklausomu metodu.
- [ ] Vietoj tikrų/konfidencialių techninių duomenų naudojau anoniminę reprezentatyviąją vertę.
- [ ] Aš patikrinau kiekvieną standarto / šaltinio citatą, kurią AI pateikė iš originalaus teksto.