ESB AI lög og áhættuflokkar

Hagnaður:

• Að viðurkenna fjóra áhættuflokka og bönnuð starfshætti ESB AI-löganna
• Sanngjarnt mat á því í hvaða áhættuflokki notkun fellur
• Skilja hvers vegna mikil áhætta og AI skuldbindingar hafa áhrif á tyrknesk fyrirtæki

Gervigreindarlög ESB (ESB lög um gervigreind), sem taka gildi árið 2024, eru fyrsta alhliða gervigreindarreglugerð heimsins og áhrif hennar ná langt út fyrir landamæri Evrópusambandsins. Þessi lög geta verið beint bindandi fyrir fyrirtæki með aðsetur í Türkiye en þjónar ESB-markaðnum, hefur ESB-viðskiptavini eða selur vörur til ESB. Í þessari einingu muntu læra grundvallarrökfræði laganna - áhættumiðuð nálgun þeirra - með fjórum flokkum, bönnuðum starfsháttum og áhættuskuldbindingum; Við munum reyna að meta í hvaða kassa notkun fellur.

Grunnhugmynd: því meiri áhætta, því strangari regla

Lögin um gervigreind ESB blanda ekki öllum gervigreindum saman. Það skiptir gervigreindarkerfi í fjóra flokka eftir hugsanlegum skaða þess og leggur mismunandi skyldur á hvern flokk. Tónlistarráðgjöf felur ekki í sér sömu áhættu og ráðningarskimunarkerfi; Lögin gilda ekki sömu reglu um þá. Þessi áhættumiðaða nálgun er burðarás laganna.

Áhættuflokkur

Merking

dæmi

regla

Bannað (óviðunandi)

Opinská ógn við grundvallarréttindi

Félagsleg stigagjöf, undirmeðvitundarnotkun

algjört bann

mikil áhætta

Það hefur alvarleg áhrif á mannlífið

Ráðningar, lánsfé, heilbrigðisþjónusta, menntun, mikilvægir innviðir

Strangri ábyrgð

takmarkaða áhættu

Krefst gagnsæis

Spjallbotn, deepfake, gervigreind efni

Upplýsingar eru skyldar

lágmarksáhætta

Óveruleg áhætta

Ruslpóstsía, gervigreind leikja, meðmælavél

ókeypis

Bönnuð forrit: rauð lína

Sum notkun gervigreindar er talin svo skaðleg að ekki er hægt að sleppa henni, sama hversu mikil hætta er minni. Þetta eru í flokki bannaðs (óviðunandi áhættu):

• Ríkið studd félagsleg stigagjöf (að skora fólk eftir hegðun/einkennum þess og óhagræði).
• Kerfi sem stjórna undirmeðvitund fólks og valda skaða.
• Kerfi sem nýta sér veikleika eins og aldur og fötlun.
• Ákveðnar rauntíma líffræðileg tölfræði auðkenning og fjöldaeftirlit forrit (með þröngum undantekningum).
• Sértæk forrit eins og tilfinningaviðurkenning á vinnustað og menntun.

Athugið: Sú staðreynd að notkun er í flokknum „bönnuð“ er ekki hindrun sem hægt er að yfirstíga með því að segja „ég hef góða ástæðu“. Þessi vinnubrögð eru algjörlega bönnuð; ekki hægt að sleppa jafnvel með áhættuminnkandi ráðstöfunum. Fyrsta athugunin sem þarf að gera er hvort verkefnið sé á þessum lista.

Mikil áhættuskuldbinding

Mikil áhættukerfi eru ekki bönnuð en eru háð ströngum skilyrðum. Dæmigert áhættusvið: ráðningar og starfsmannastjórnun, lána- og tryggingar, menntun og prófmat, heilsugæsla, mikilvægir innviðir, löggæsla og innflytjendamál. Dæmigerðar skyldur í þessum kerfum:

1. Koma á og viðhalda áhættustjórnunarkerfi.
2. Gagnagæða- og hlutdrægnistjórnun (fulltrúi og nákvæm þjálfunargögn).
3. Tækniskjöl og skráningarhald (rekjanleiki).
4. Gagnsæi og upplýsingagjöf til notanda.
5. Mannleg stjórn (geta mannsins til að grípa inn í og ​​hnekkja).
6. Nákvæmni, styrkleiki og netöryggistryggingar.

Almennar skyldur AI (GPAI).

Lögin leggja sérstakar skyldur á gagnsæi og skjöl varðandi gervigreindarlíkön (GPAI) – það er fjölnota grunnlíkön eins og stór tungumálalíkön – sem og einstaka notkun: útvegun á samantektum um þjálfunargögn, stefnu um að farið sé að höfundarrétti, viðbótarmat fyrir líkön með kerfisáhættu. Ef stofnun fellur þessi líkön inn í sína eigin vöru, gæti eitthvað af þessum skuldbindingum endurspeglast í keðjunni.

þrjú smámál

Tilfelli 1 — Ráðningarskimun (mikil áhætta). Hugbúnaðarfyrirtæki í Izmir þróar ráðningarvettvang sem þjónar ESB-fyrirtækjum; Kerfið skorar sjálfkrafa og útilokar frambjóðendur. Þetta er svið sem lögreglan telur greinilega áhættusamt. Fyrirtæki; verður að uppfylla gagnagæði, hlutdrægnipróf, endurskoðun manna og skjalaskyldu. Rökin „Við erum í Tyrklandi, það bindur okkur ekki“ er ógild; Þar sem kerfið er notað á markaði ESB gilda lögin.

Tilfelli 2 - Chatbot viðskiptavinar (takmörkuð áhætta). Netverslunarsíða setur upp spjallbot sem þjónar viðskiptavinum sínum í ESB. Þetta er í takmörkuðum áhættuflokki; Meginskyldan er gagnsæi: Notandinn verður að vera skýrt upplýstur um að „þú ert að tala við gervigreind“. Að fela þetta er brot; Það er nóg að tilgreina.

Mál 3 — Að nálgast bönnuðu línuna. Verslunarkeðja vill greina tilfinningaleg viðbrögð viðskiptavina í gegnum myndavélar verslana og gefa einkunn fyrir „mögulegan búðarþjóf“. Þetta fellur undir bönnuð/mjög áhættusvæði með bæði tilfinningaþekkingu og stigavídd. Lögfræðiteymið stöðvar verkefnið á hönnunarstigi; Það er ljóst að það er ekki hægt að framkvæma það jafnvel með áhættuminnkandi aðgerðum.

Ábending: Fyrsta spurningin þegar byrjað er á nýju gervigreindarverkefni er "hversu gagnlegt er þetta?" heldur frekar "í hvaða áhættuflokki fellur þetta?" ætti að vera. Með því að gera flokkunina í fyrsta lagi kemur í veg fyrir að fjármunum sé sóað í verkefni sem verður hætt síðar.

Afritanleg sniðmát

SNIÐMÁT 1 — Bráðabirgðamat á áhættuflokki: "Fyrirmetið eftirfarandi gervigreindarnotkun samkvæmt lögum um gervigreind í ESB: [lýsið notkuninni]. Tilgreinið í hvaða áhættuflokki (bannaður/hár/takmörkuð/lágmarks) hann gæti fallið, með rökstuðningi. Merktu við þau atriði sem þú ert ekki viss um sem 'lagaleg staðfesting krafist'; ekki fella endanlegan lagadóm."

SNIÐMÁT 2 — Bannuð skönnun forrita: "Skannaðu eftirfarandi verkefnishugmynd eingöngu á móti listanum 'EU AI Act prohibited applications': [lýstu verkefninu]. Er áhætta með tilliti til félagslegrar einkunnar, meðhöndlunar á undirmeðvitund, misnotkun á varnarleysi, óviðkomandi líffræðileg tölfræði eftirlit, tilfinningaþekking? Skrifaðu já/nei og rökstuðning."

SNIÐMÁT 3 – Gátlisti fyrir áhættuskuldbindingar: "Fyrir þessa áhættusömu gervigreindarnotkun, [lýsið notkuninni] býr til „hver er núverandi staða okkar, hvað vantar“ töflu yfir sex ábyrgðarfyrirsagnir (áhættustýring, gagnagæði, skjöl, gagnsæi, endurskoðun manna, traustleika). Leggðu til áþreifanlega aðgerð í hverri röð."

SNIÐMÁT 4 — Tilkynning um gagnsæi (takmörkuð áhætta): "Fyrir spjallvíti sem þjónar notendum ESB, skrifaðu stutta 'þú ert að tala við gervigreind' tilkynningu til að birtast notandanum. Einföld, traustvekjandi, 2 setningar að hámarki. Láttu þann möguleika að skipta yfir í mannlegan umboðsmann."

Veik kvaðning / Sterk kvaðning

VEIK: „Lögin um gervigreind ESB varða okkur?“-> Líkanið gefur almennt svar; Það flokkar ekki steypunotkun þína, það metur ekki tengingu þína við ESB-markaðinn. GÜÇLÜ: "Við erum fyrirtæki með aðsetur í Izmir, við seljum nýliðun og skimun gervigreind til fyrirtækis í Þýskalandi. Hvaða áhættuflokkur fellur þessi notkun undir AI lögin um gervigreind ESB, hvaða skyldur hvíla á okkur og hvers vegna er það ekki undanþegið okkur að vera í Tyrklandi? Merktu við hvar þú ert ekki viss." -> Líkanið framleiðir samhengis-sértæka flokkun og ábyrgðarlista.

Algeng mistök

• Að hugsa "Við erum í Tyrklandi, lög ESB binda okkur ekki"; Hins vegar er nóg að snerta ESB-markaðinn.
• Gera áhættuflokkun eftir þróun verkefnisins; Hins vegar ætti að gera það í fyrsta lagi.
• Að misskilja bönnuð framkvæmd sem hindrun sem hægt er að yfirstíga með „góðum rökstuðningi“.
• Framhjá gagnsæisskýrslum í takmörkuðum áhættukerfum (sem lætur botninn líta út eins og manneskju).
• Vanræksla mannlegrar endurskoðunar og hlutdrægni í stjórnun vegna áhættuskuldbindinga.
• Þegar litið er framhjá því að skuldbindingar vegna gervigreindar í almennum tilgangi (GPAI) geta endurómað eftir keðjunni.
• Skipta um gervigreindarlög ESB við KVKK; þær eru ólíkar en bæta þó upp.

Í stuttu máli

• Lögin um gervigreind ESB taka áhættumiðaða nálgun og skipta gervigreind í fjóra flokka: bannað, hátt, takmarkað, lágmark.
• Ekki er hægt að sleppa bönnuðum vinnubrögðum (félagslegum stigum, meðferð o.s.frv.) þótt áhættan sé minni.
• Mikil áhættukerfi; Það er háð ströngum skyldum eins og áhættustýringu, gagnagæði, mannaeftirliti og skjölum.
• Í takmörkuðum áhættukerfum er meginskyldan gagnsæi (tilkynning um að til sé gervigreind).
• Tyrknesk fyrirtæki sem snerta ESB-markaðinn verða einnig fyrir áhrifum af lögum; Flokkun ætti að fara fram strax í upphafi verkefnis.

Umsóknarverkefni

Íhugaðu þrjár mismunandi notkun gervigreindar sem fyrirtæki þitt (eða uppdiktað fyrirtæki) gæti notað í tengslum við ESB-markaðinn. Settu hvern í einn af fjórum áhættuflokkum ESB AI-laganna og skrifaðu rökstuðning þinn. Settu sex áhættuskuldbindingarnar fyrir þá notkun sem þú telur áhættumesta í eftirlitstöflu: fylltu út dálkana „núverandi staða“ og „ófullkomin/aðgerð“. Skrifaðu gagnsæisyfirlýsingu sem verður birt notanda fyrir notkun sem fellur í takmarkaðan áhættuflokk. Að lokum, ef eitthvað af notkun þinni nálgast bönnuðu línuna, athugaðu það og hvers vegna.

gátlisti

• [ ] Ég setti hverja notkun gervigreindar í einn af fjórum áhættuflokkum.
• [ ] Ég skannaði verkefnin mín út frá listanum yfir bönnuð forrit.
• [ ] Ég bjó til ábyrgðarkort fyrir notkun með mikilli áhættu.
• [ ] Ég tók mannlega endurskoðun og hlutdrægni stjórnun inn í skyldurnar.
• [ ] Ég hef útbúið gagnsæisyfirlýsingu fyrir takmarkaða áhættunotkun.
• [ ] Ég skil hvers vegna ESB markaðstengingin mín kveikti lögin.
• [ ] Ég gerði áhættuflokkunina í upphafi verkefnisins, ekki í lokin.