Voitot:
- Kyky tunnistaa hallusinaatiomuotoja fysiikassa (väärevakio, väärennetty laki, yksikkövirhe, väärä tulos, väärä attribuutio) ja saada ne kiinni sopivalla menetelmällä.
- Mahdollisuus suojata julkaisemattomia, luottamuksellisia ja henkilökohtaisia tietoja anonymisoimalla ja minimoimalla niitä olematta syöttämättä niitä luvattomiin työkaluihin
- Pystyä ymmärtämään, että perimmäinen vastuu on ihmisillä raportoimalla tiedot rehellisesti, kaunistamatta niitä ja dokumentoimalla tekoälyn käyttö avoimesti.
Koko tämän moduulin aikana käsittelimme samaa tieteenalaa jokaisessa yksikössä: tekoäly (AI) kiihtyy, ihmiset varmistavat. Tässä viimeisessä osiossa kokoamme tämän varmennuskäytännön tieteellisen eheyden, fysiikan perusarvon, sateenvarjon alle. Fysiikka on pyrkimys tuottaa todennettavissa olevaa tietoa luonnosta; Tämän pyrkimyksen ytimessä ovat rehellisyys, toistettavuus ja vastuullisuus. Tekoälyä voidaan käyttää vahvistamaan näitä arvoja – mutta väärin käytettynä se uhkaa niitä kaikkia. Tässä osiossa keskustelemme hallusinaatioiden fyysisistä muodoista, tieto- ja yksityisyysvastuusta, eettisistä rajoista ja siitä, miksi perimmäinen vastuu on aina ihmisillä.
Hallusinaatioiden muodot fysiikassa
Hallusinaatiot – tekoälyn luottavainen väärän tiedon tuotanto – saa ainutlaatuisia ja vaarallisia muotoja fysiikassa. Näiden tunnistaminen on ensimmäinen askel kohti:
hallusinaatioiden tyyppi
esimerkki
Kaappausmenetelmä
Asennus kiinteä/data
Väärä materiaalin tiheys
Vahvistus luotettavalla viitteellä
Väärä kaava/laki
Olematon "periaatteellinen" nimi
Oppikirja/SymPy-johdannainen
Yksikkö/tilausvirhe
sekoittaa eV:n J
Mittaanalyysi, yksikön ohjaus
Virheellinen numeerinen tulos
Väärä kooditulostus
Suorita koodi
apokryfinen attribuutio
olematon artikkeli
Varmennus DOI:lla
Väärin ilmoitettu tulos
Todellisen artikkelin vääristyminen
Lue alkuperäinen lähde
Yhteinen lanka on tämä: suuri kielimalli ei ole suunniteltu kertomaan totuutta, vaan tuottamaan "mahdollisen näköistä tekstiä". Fysiikassa ero "näennäisen mahdollisen" ja "todellisen" välillä on juuri tieteen olemassaolon syy.
Tieto-, yksityisyys- ja immateriaalioikeusvastuu
Fyysikot työskentelevät usein arkaluontoisten tietojen kanssa: julkaisemattomien kokeellisten tietojen, esipatenttisuunnitelmien, teollisen yhteistyön luottamuksellisten mittausten, henkilökohtaista terveyttä tai turvallisuutta koskevien tietojen kanssa. Tällaisten tietojen syöttäminen yleiseen tekoälytyökaluun voisi tehdä niistä kolmansien osapuolten ja mahdollisesti mallin harjoitustietojen saatavuuden – mikä merkitsisi sekä luottamuksellisuuden rikkomista että tieteellisen prioriteetin menettämistä (oikeus olla ensimmäinen, joka tekee löydön). Sääntö on selvä: älä syötä julkaisemattomia, luottamuksellisia tai henkilökohtaisia tietoja tekoälytyökaluun, jota organisaatiosi ei ole hyväksynyt. Jos aiot syöttää, anonymisoi, pienennä (ilmoita vain tarpeelliset) ja lue työkalun tietoehdot.
Varoitus: Laboratorion julkaisemattomien mittausten tai yrityksen luottamuksellisten suunnitteluparametrien syöttäminen tekoälytyökaluun "nopeaa analysointia varten" voi olla peruuttamaton virhe. Kun tiedot on jaettu, niitä ei voi palauttaa. Jos olet epävarma, älä syötä tietoja; Selvitä ensin oppilaitoksesi käytäntö ja työkalun tietosuojaehdot.
Eettiset rajat ja tieteellinen rehellisyys
Käyttö voi olla teknisesti mahdollista ja jopa laillista, mutta silti epäeettistä. Fysiikassa on useita punaisia viivoja, jotka koskevat tieteellistä eheyttä:
Tietojen valmistus tai koristelu. Tekoälyn pyytäminen "luomaan pisteitä, jotka sopivat paremmin tuottoon" tai "tekemään kaaviosta vakuuttavamman näköinen" on tietopetosta. Tiedot raportoidaan sellaisenaan; Poikkeamat eliminoidaan vain dokumentoidusta, laillisesta syystä.
Osallistumisen avoimuus. Jos olet käyttänyt tekoälyä tutkimuksessa – koodin kirjoittamisessa, kielen korjauksessa, analysoinnissa – on reilua tehdä se selväksi sopivassa paikassa. Monet lehdet ja laitokset vaativat tätä.
Tekijyys ja vastuu. AI ei ole kirjailija; ei voi olla vastuussa teoksen sisällöstä. Vastuu on aina ihmiskirjoittajilla. Tekoälyn aiheuttamaa virhettä ei voida puolustaa sanomalla "ajoneuvo teki sen".
Toistettavuus. Tieteellinen tulos edellyttää menetelmän (mukaan lukien käytetty koodi, parametrit, tekoälykehotteet) selkeää dokumentointia, jotta muut voivat kopioida sen.
kolme minilaukkua
Tapaus 1 – Luottamuksellisten tietojen vuoto. Yksi tutkija liitti mittaustiedot yrityksen kanssa tehdystä salassapitosopimuksesta yleiseen tekoälytyökaluun "nopeaa kuvaajaa varten". Myöhemmin hän tajusi, että tämä työkalu voi tallentaa syötteitä. On tapahtunut sopimusrikkomus ja mahdollinen etuoikeuden menetys. Oppitunti: luottamuksellisia tietoja ei koskaan syötetä ei-hyväksyttyyn työkaluun.
Tapaus 2 – Kaunistusprintti. Yksi opiskelija pyysi tekoälyltä muokkausta, joka "saa tiedon lähemmäs teoriaa", koska kokeelliset tiedot eivät täysin vastanneet teoriaa. Hänen neuvonantajansa huomasi tämän ja pysäytti hänet: poikkeama merkitsi joko systemaattista virhettä kokeessa tai mielenkiintoista uutta fysiikkaa – jotain tutkittavaa, ei salattavaa. Tiedot ilmoitettiin rehellisesti ja järjestelmällinen virhe havaittiin.
Tapaus 3 – Avoimuus lisääntyi. Eräs tiimi kirjoitti data-analyysikoodin paperille tekoälyn avulla ja ilmaisi tämän selkeästi menetelmäosiossa; jakoi koodin ja kehotteet lisätiedostoina. Erotuomari tarkasti koodin ja ehdotti pientä korjausta. Avoimuus havaitsi virheen ennen julkaisua ja lisäsi tutkimuksen uskottavuutta.
Neljä kopioitavaa mallia
1) Hallusinaatioiden seulonta:
Tarkista seuraava fysiikan tulos hallusinaatioiden varalta: onko olemassa vääriä vakioita, vääriä kaavojen/lakien nimiä, yksikkö-/järjestysvirheitä, vahvistamattomia numeerisia tuloksia ja vahvistamattomia määrityksiä? Merkitse jokainen epäilyttävä kohde ja määritä, kuinka se vahvistetaan (viite, koodi, DOI). Lähtö: [täällä]
2) Tietosuojan ennakkotarkastus:
Arvioi seuraavat tiedot/teksti ennen kuin syötät ne tekoälytyökaluun: sisältääkö se julkaisematonta, luottamuksellista, henkilökohtaista tai sopimuksella suojattua tietoa? Jos on, ehdota, kuinka voin tehdä sen nimettömäksi tai minimoida sen. Jos olet epävarma, sano "tarkista yrityspolitiikka". Sisältö: [täällä]
3) Avoimuus-/panoslausuntoluonnos:
Yhdessä tutkimuksessa käytin tekoälyä: [koodaus / kielen korjaus / analyysi jne.]. Kirjoita lyhyt luonnos "AI-käyttölausunto", joka dokumentoi tämän rehellisesti. Sen tulee myös osoittaa, mitkä osat ovat ihmisten tarkistamia.
4) Tieteellisen eheyden varmistaminen:
Suorita eheyden tarkistus seuraavalle analyysille/tulokselle: tiedot raportoidaan sellaisenaan (ei koristelua), raportoidaanko epävarmuustekijät, onko menetelmä dokumentoitu toistettavalla tavalla, onko tekoälyn käyttö läpinäkyvää? Listaa mahdolliset puutteet. Sisältö: [täällä]
Heikko kehote / Vahva kehote
Heikko: "Muokkaa tuottoa niin, että se sopii paremmin teoriaan ja tee kaaviosta vakuuttava."
Tulos: Tietopetos; Tieteellisen eheyden suora loukkaus, maineen peruuttamaton menetys.
Vahva: "Tuotto ei ole täysin samaa mieltä teorian kanssa. Auta minua analysoimaan tämän poikkeaman mahdollisia syitä (systeeminen virhe, tilastollinen vaihtelu, puuttuva malli tai uusi vaikutus); ehdota, kuinka poikkeama raportoida rehellisesti tietoja muuttamatta."
Tulos: Rehellinen, tutkiva ja uskollinen lähestymistapa tieteelliseen rehellisyyteen; Konfliktista tulee mahdollisuus löytää.
Yleisiä virheitä
- Sekoittaa hallusinaatiot itseluottamukseen. Vain siksi, että tekoäly puhuu luottavaisesti, ei ole tae tarkkuudesta; Tarkinkin lause voidaan keksiä.
- Luottamuksellisten tietojen syöttäminen ajoneuvoon ilman lupaa. Kun tietoja on jaettu, niitä ei voi hakea. Prioriteetti ja luottamuksellisuus menetetään.
- Kaunista dataa. Tietojen muuttaminen "soviteoriaksi" on yksi vakavimmista tieteellisistä rikoksista.
- Tekoälyn käytön piilottaminen. Avoimuus on rehellisyyden vaatimus ja pakollinen monissa toimielimissä.
- Vastuun siirtäminen ajoneuvolle. "Tekoäly teki sen" ei ole puolustus; Lopullinen vastuu on aina ihmisellä.
Vinkki: Kysy itseltäsi jokaisen tekoälyllä toimivan tutkimuksen lopussa kolme kysymystä: (1) Onko kaikki tämän tuloksen tosiasiat, numerot ja attribuutit tarkistettu itsenäisesti? (2) Sisälsivätkö käyttämäni tiedot luottamuksellisia/henkilökohtaisia tietoja, joita minun ei pitäisi antaa? (3) Olenko dokumentoinut tekoälyn käytön ja menetelmäni riittävän läpinäkyvästi, jotta joku muu voi kopioida sen? Jos et voi vastata selkeästi "kyllä" näihin kolmeen kysymykseen, tutkimus ei ole vielä valmis.
Yhteenvetona
Tieteellinen eheys on fysiikan olemassaolon perusta, ja se on vielä tärkeämpää tekoälyn aikakaudella. Hallusinaatiot esiintyvät fysiikassa väärien vakioiden, väärien lakien, yksikkövirheiden, väärien johtopäätösten ja väärien viittausten muodossa; jokainen on kaapattu omalla ainutlaatuisella vahvistusmenetelmällään. Luottamuksellisia ja henkilötietoja ei syötetä luvattomiin työkaluihin; dataa ei koskaan kaunisteta; Tekoälyn käyttö on läpinäkyvästi dokumentoitu; ja lopullinen vastuu on aina ihmisellä. Tässä moduulissa opit vain yhden tieteenalan: tekoäly on voimakas kiihdytin, mutta todentaminen, eheys ja vastuu ovat pätevän fyysikon – eli sinun – harteilla. Vahvistamaton AI-tuloste ei koskaan korvaa fyysikon vahvistusta.
Sovellustehtävä
Valitse tässä moduulissa luomasi tekoälytulos (tili, analyysi tai teksti). 1. Hallusinaatioiden näyttö mallin avulla: onko olemassa valevakioita, vääriä kaavoja, yksikkövirheitä tai vahvistamattomia määrityksiä? Arvioi mallin 2 avulla, ovatko käyttämäsi tiedot tietosuojaystävällisiä. Laadi lopuksi lyhyt tekoälyn käyttö/avoimuuslausunto mallilla 3. Kirjoita muistiin 5-6 lausetta: mitä skannaus paljasti, mitä varmistusvaiheita teit?
tarkistuslista
- [ ] Tarkastin itsenäisesti jokaisen tuloksen vakion, kaavan ja tuloksen.
- [ ] Olen tarkistanut jokaisen lainauksen DOI:lla/lähteellä.
- [ ] Olen tarkistanut, etten ole syöttänyt luottamuksellisia/henkilökohtaisia tietoja työkaluun ilman lupaa.
- [ ] Ilmoitin tiedot sellaisenaan, ilman koristelua.
- [ ] Olen dokumentoinut tekoälyn käytön läpinäkyvällä ja toistettavissa olevalla tavalla.
- [ ] Hyväksyin, että lopullinen vastuu oli minun; En katsonut autoon mitään vikaa.
Moduulin tentti
1. Mikä seuraavista on fysiikan tekoälyn tarkin paikannus?
- A) Tekoäly on koodi-, luonnos- ja muokkausavustaja; Vastuu yksiköstä, asemasta, tarkastuksesta ja eettisistä päätöksistä on ihmisellä ✔
- B) Tekoäly on laskin ja sen antamat numeeriset tulokset ovat aina tarkkoja
- C) Tekoäly toimii vain laskennassa, sillä ei ole mitään tekemistä koeanalyysin ja opetuksen kanssa
- D) Koska tekoäly on puolueettomampaa kuin ihminen, yksikkö- ja tulospäätökset tulisi jättää sen tehtäväksi.
Kuvaus: Tekoäly; Se on assistentti, joka kirjoittaa koodia, tuottaa luonnoksia, luo ja organisoi johtamiskehyksiä. Lopullinen vastuu tuloksen yksikkö- ja tilausvarmentamisesta, sen varmistamisesta säilymislakien, vakio- ja referenssivahvistuksen avulla on kuitenkin pätevällä fyysikolle. Suuri kielimalli ei ole laskin tai fysiikan moottori; on tekstigeneraattori, joka tuottaa "seuraavan todennäköisimmän sanan" ja sen vahvistamaton tulos voi johtaa väärään arvoon, suunnitteluun tai tulokseen.
2. Mikä on tarkin likiarvo suureen kielimalliin tulostetun laskentakoodin numeeriselle tulokselle?
- A) Luottaen numeroon malli sanoo "tämä koodi antaa sen", koska hän kirjoitti koodin
- B) Suorita koodi itse ja katso tulos; ✔ ei luota mallin sanalliseen numeeriseen ennusteeseen
- C) Koodin hyväksyminen oikeaksi katsomalla, miten se luetaan, suorittamatta sitä ollenkaan
- D) Jos tulos kysytään suoraan mallilta uudelleen ja se kertoo saman numeron, se katsotaan oikeaksi.
Selitys: LLM voi "laskea" päässään kirjoittamansa koodin tulosteen ja palauttaa väärän luvun; kun taas sama koodi suoritetaan, se antaa oikean tuloksen. Determinististä on suoritettava koodi; Se ei ole mallin sanallinen ennuste. Siksi koodi tulee aina ajaa omassa ympäristössäsi ja tulos tulee nähdä.
3. Mikä on tehokkain tapa testata, heijastaako kitkattoman dynaamisen järjestelmän simulaatio tarkasti fysiikkaa?
- A) Nähdäksesi, että kaavio näyttää visuaalisesti siistiltä ja vakuuttavalta
- B) Simuloinnin suorittaminen vain yhdellä aikavaiheella ja tulokseen luottaminen
- C) Säilytettävän suuren, kuten kokonaisenergian tai liikemäärän seuranta ja sen tarkistaminen, pysyykö se vakiona ✔
- D) Simuloinnin arvioiminen sen nopeudella
Selitys: Kitkattomassa järjestelmässä kokonaisenergia (ja liikemäärä, jos sellainen on) on säilytettävä. Tämän suuruuden tarkkaileminen koko simulaation ajan ja sen tarkistaminen, pysyykö se vakiona, paljastaa numeerisia virheitä (esim. primitiivinen Euler-menetelmä lisää jatkuvasti energiaa). Jos energia ajautuu, simulaatio on epäluotettava; Se, että se tuottaa kauniin grafiikan, ei tarkoita, että se olisi oikein.
4. Mikä seuraavista on oikea tapa sovittaa malli kokeelliseen dataan?
- A) Valitse dataan parhaiten sopiva korkeamman asteen polynomi, koska se kulkee kaikkien pisteiden läpi
- B) Parametrien ilmoittaminen yhtenä numerona ilman epäselvyyttä
- C) Istuvuuden laadun ilmoittaminen yksinkertaisesti katsomalla, kuinka kauniilta käyrä näyttää.
- D) Mallin valinta fysiikasta, parametrien raportointi epävarmuuksineen ja sopivuuden arviointi jäännösten kanssa ✔
Selitys: Malli tulee valita fysikaalisesta laista, jota tapahtuman on noudatettava, ei katsomalla tietoja ja pohtimalla "kumpi sopii parhaiten". Riittävällä määrällä vapaita parametreja (esim. korkean asteen polynomi) voidaan tehdä "täydellinen", mutta fyysisesti merkityksetön sovitus (overfit) mihin tahansa dataan. Parametrit tulee raportoida niiden epävarmuudella, sovituksen laatu tulee arvioida jäännöksillä ja fyysinen uskottavuus tulee tarkistaa.
5. Mittauksen toistaminen monta kertaa vähentää minkä tyyppistä epävarmuutta?
- A) Satunnainen epävarmuus; systemaattinen epävarmuus ei vähene toiston myötä, syy on löydettävä ja korjattava ✔
- B) Systemaattinen epävarmuus; koska se eliminoi uudelleenkalibrointivirheen
- C) Poistaa täysin molemmat epäselvyydet
- D) Ei vähennä mitään niistä; epävarmuus on riippumaton mittausten määrästä
Selitys: Toistuva mittaus vähentää satunnaista epävarmuutta (keskiarvon std/√N standardivirheellä), joka johtuu tulosten satunnaisesta jakautumisesta. Systemaattinen epävarmuus puolestaan on virhe, joka poikkeaa aina samaan suuntaan (esimerkiksi virheellisesti kalibroitu vaaka) eikä pienene toiston myötä; Syy voidaan kuitenkin löytää ja korjata. "Erittäin pienestä" epävarmuudesta ilmoittaminen useilla mittauksilla voi piilottaa taustalla olevan systemaattisen virheen.
6. Mikä on luotettavin itsenäinen tapa varmistaa AI:n johdettu virheen leviämiskaava?
- A) Luottaa siihen, että kaava näyttää juoksevalta ja vakuuttavalta
- B) Ristiintarkastus Monte Carlo -laskelmalla, joka ottaa satunnaisesti näytteitä syötteistä niiden epävarmuudella ✔
- C) Kysytään samaa kaavaa tekoälyltä uudelleen ja odotetaan sen antavan saman tuloksen
- D) Kerää epävarmuudet suoraan ja vertaa niitä tulokseen
Selitys: AI sekoittaa usein osittaiset derivaatan kertoimet ja neliöjuurirakenteen virheiden leviämiskaavoissa. Tehokas tapa saavuttaa tämä itsenäisesti on Monte Carlon ristiintarkistus: ottaa satunnaisesti näyte jokaisesta syötteestä sen epävarmuudella, laskea funktio tuhansia kertoja ja vertaamalla lähdön keskihajontaa kaavan antamaan epävarmuuteen. Kahden itsenäisen menetelmän kohtaaminen lisää luottamusta.
7. Mikä on oikea työnjako tekoälyn ja SymPyn välillä pitkässä symbolisen fysiikan johdannaisessa?
- A) SymPy luo idean johtamisesta, tekoäly tarkistaa tarkasti jokaisen vaiheen
- B) Molemmat ovat tarpeettomia; pitkät johdannaiset tulee tehdä vain manuaalisesti
- C) AI rakentaa johtamisen puitteet, SymPy tarkistaa tarkasti jokaisen algebrallisen vaiheen ✔
- D) Tekoäly tekee johtamisen itse, varmennusta ei tarvita, koska se näyttää sujuvalta
Selitys: AI strategoi johtamisen ja selittää polun, mutta pitkässä algebrassa se tekee merkkivirheitä, pakotettuja termejä ja virheellisiä yksinkertaistuksia. SymPy puolestaan toimii sääntöjen mukaan ja tarkistaa tarkasti jokaisen algebrallisen askeleen. Tehokkain työnkulku yhdistää nämä kaksi: hanki luuranko tekoälystä, hanki jokainen vaihe SymPyllä, testaa tulos derivaatan ja integraalin käänteisellä ja rajatapauksella.
8. Mitä dimensioanalyysi kertoo fysikaalisen kaavan tarkkuudesta?
- A) Ulottuvuusanalyysi osoittaa aina lopullisesti, että kaava on oikea
- B) Dimensioanalyysillä ei ole käytännön arvoa fysiikassa
- C) Dimensioanalyysi antaa vain kaavan vakiotekijän, ei sen johdonmukaisuutta
- D) Kaava, joka ei pidä mittoja, on ehdottoman väärä; mitta-analyysi havaitsee virheen laskematta numeroita ✔
Selitys: Fysikaalisen yhtälön kahden puolen on oltava dimensioiltaan yhtä suuret, ennen kuin ne voivat olla numeerisesti yhtä suuret. Kaava, joka ei pidä mittoja, on yksinkertaisesti väärä; tämä on otettu laskelmasta. Dimensioanalyysi ei todista lopullisesti, että kaava on oikea (sitä voi puuttua dimensioton vakiotekijä tai kulma), mutta se todistaa lopullisesti, että se on virheellinen; joten se on ensimmäinen ja halvin tarkastus jokaiselle tilille.
9. Mikä on kriittisin ensimmäinen askel laskettaessa 36 km/h liikkuvan esineen kineettistä energiaa?
- A) Muunnetaan kaikki syötteet yhdeksi yksikköjärjestelmäksi (SI); Muuntaa 36 km/h nopeuteen 10 m/s ✔
- B) Nopeuden laittaminen km/h suoraan kaavaan muuntamatta sitä m/s
- C) Kerrotaan vain numerot ottamatta huomioon yksiköitä
- D) Olettaen, että tilausta ei tarvitse tarkistaa tuloksen laskemisen jälkeen
Selitys: SI-pohjaiset kaavat (E = ½mv²) odottavat nopeutta m/s. Km/h:n ja m:n tai tuntien ja sekuntien sekoittaminen laskelmissa on yksi yleisimmistä fysiikan virheistä. Ensin kaikki syötteet on muutettava yhdeksi yksikköjärjestelmäksi (SI): 36 km/h = 10 m/s. Koska tekoäly voi tehdä hiljaisia virheitä yhdistetyissä yksikkömuunnoksissa, tämä muunnos on tarkistettava manuaalisesti tai yksikkötietoisella työkalulla.
10. Mikä käytäntö on oikea "rehellisyyden" suhteen tieteellisessä kaaviossa?
- A) Epävarmuuden piilottaminen, koska virhepalkit sotkevat kaaviota
- B) Merkitse akselit yksiköillä, valitse asteikko ilman vääristymiä ja näytä epävarmuus virhepalkeilla ✔
- C) Aloita y-akseli aina siltä alueelta, jolla on dramaattisin ero
- D) Akselien jättäminen ilman yksiköitä, koska lukija voi arvata yksikön
Kuvaus: Rehellinen tieteellinen kaavio; se merkitsee akselit magnitudin ja yksikön mukaan, valitsee mittakaavan tietoisesti ja ilman vääristymiä (y-akselin aloittaminen pois nollasta liioittelua varten on harhaanjohtavaa) ja tekee mittausepävarmuuden näkyväksi virhepalkeilla. Epävarmuuden piilottaminen saa tiedot näyttämään varmilta ja luo väärän kuvan puolueellisuudesta tai yksimielisyydestä. Mitä vakuuttavampi grafiikka on, sitä tärkeämpää on eheyden tarkistus.
11. Mikä on suurin riski ja oikea kurinalaisuus hankittaessa tekoälyltä kirjallisuutta ja viittaustukea?
- A) Tekoäly tuhlaa aikaa, koska se tuottaa lainauksia erittäin hitaasti
- B) Tekoälyn ehdottamat lähteet ovat aina todellisia, varmennustarvetta ei ole
- C) Tekoäly voi tuottaa attribuutteja, jotka vaikuttavat todellisilta, mutta joita ei ole olemassa; Jokainen lainaus on tarkistettava DOI:lla/lähteellä ja kirjallisuus on löydettävä varsinaisesta tietokannasta ✔
- D) Tehdyt lainaukset tunnistetaan helposti, koska niissä käytetään aina epätodellisia lehtien nimiä
Selitys: Laajaa kielimallia ei ole yhdistetty varsinaiseen tietokantaan. Jäljittelemällä lainausmalleja se voi tuottaa artikkeleita, joissa on oikea lehden nimi, uskottavat kirjoittajat ja kohtuullinen vuosi, mutta jotka ovat täysin olemattomia. Siksi kirjallisuutta tulisi löytää oikeista tietokannoista, tekoälyä tulisi käyttää vain yhteenvedon tekemiseen/kääntämiseen käsillä olevasta tekstistä, ja jokainen lainaus tulee varmistaa itsenäisesti DOI:n tai otsikon avulla. Vahvistamaton lainaus loukkaa akateemista rehellisyyttä.
12. Mitä tarvitaan luotettavien tulosten saamiseksi, kun tekoäly tekee yhteenvedon artikkelista?
- A) Riittää, kun annat artikkelin otsikon, malli tietää sisällön
- B) Yhteenvedon käyttäminen suoraan tarkistamatta sitä ollenkaan, koska se näyttää juoksevalta
- C) Pyydetään mallilta sama yhteenveto kahdesti ja hyväksytään se oikeaksi, jos se on samanlainen.
- D) Alkuperäisen tekstin antaminen mallille ja tuotetun yhteenvedon vertaaminen alkuperäiseen tekstiin varmistaaksesi, ettei mitään ole lisätty/vääristetty ✔
Selitys: Pelkästään artikkelin otsikon antaminen tekoälylle ja tiivistelmän pyytäminen saa mallin luomaan "uskottavan yhteenvedon" näkemättä artikkelia. Tämä yhteenveto voi olla totuuden vastakohta. Luotettava yhteenveto saadaan vain, kun alkuperäinen teksti syötetään malliin ja luotua yhteenvetoa verrataan alkuperäiseen tekstiin. Lisäksi tulee tarkistaa, että yhteenvetoon ei lisätä tuloksia tai numeroita, joita ei ole tekstissä.
13. Mikä pätee tekoälyn tuottoon fysiikan kurssimateriaalin tuotannossa?
- A) Jokainen ratkaisu tulee todentaa itsenäisesti, analogioiden rajat tulee määritellä ja häiritsevien tekijöiden tulisi kohdistua todellisiin väärinkäsityksiin ✔
- B) Tekoälyn tuottama vastausavain on aina oikea, auditointia ei tarvita
- C) Analogiat ovat täydellisiä kaikissa tapauksissa, niiden rajoja ei tarvitse määritellä.
- D) Häiriöt tulee valita täysin satunnaisesti, koska väärän valinnan luonteella ei ole merkitystä.
Kuvaus: Tekoäly on nopea luomaan kysymyksiä, esimerkkejä ja analogioita, mutta tarkistaminen on olennaista kolmessa kohdassa: jokaisen ongelman ratkaisu on tarkistettava itsenäisesti (käsin tai koodilla), koska malli voi tehdä ratkaisuun merkki/yksikkövirheitä; Jokainen analogia on ilmoitettava, missä se hajoaa, muuten se aiheuttaa uuden virheen; Häirintätekijöiden tulisi kohdistua todellisiin väärinkäsityksiin. Vastuu on opettajalla; Väärä vastausavain jättää oppilaille väärinkäsityksiä, joita on vaikea korjata.
14. Mikä on tieteellisen eheyden mukaista käyttäytymistä, kun kokeelliset tiedot eivät ole täysin yhtäpitäviä teorian kanssa?
- A) Tekoäly järjestää tiedot teorian mukaiseksi ja näyttää kaavion vakuuttavasti
- B) Poikkeaman syiden (systeeminen virhe, mallin puute, uusi vaikutus) selvittäminen ja rehellinen raportoiminen tietoja muuttamatta ✔
- C) Erimielisyyksien huomioimatta jättäminen ja vain sopivien asioiden ilmoittaminen
- D) Tietojen poistaminen ja uuden koetuloksen sovittaminen
Selitys: Tekoälyn pyytäminen "järjestämään tiedot vastaamaan paremmin teoriaa" on tietopetos ja törkeä tieteellisen eheyden loukkaus. Erimielisyys on tutkittavaa, ei piilotettavaa: se voi viitata systemaattiseen virheeseen, tilastolliseen vaihteluun, kuvion puutteeseen tai mielenkiintoiseen uuteen vaikutukseen. Tiedot raportoidaan sellaisenaan, epävarmuudella; Lopullinen vastuu on henkilöllä, eikä "työkalu teki sen" ole puolustus.