Unitajiet
1. Injezzjoni fil-pront u Difiża f'Saffi 2. Prevenzjoni tat-Tnixxija tad-Data u Masking tal-PII 3. Verifika tal-Output u Spezzjoni tal-Bniedem 4. Kontroll tal-Aċċess, Ġestjoni tal-Identità u Sigrieti 5. Logging, Audit Trail u Provenability 6. Mudell ta' Ġestjoni tar-Riskju u Tim l-Aħmar 7. Evalwazzjoni tal-Fornitur u Riskju għal Parti Terza 8. On-Prem, VPC u Openweight Hosting 9. Monitoraġġ Kontinwu, Osservabbiltà u Drift 10. Rispons għall-Inċidenti u Kontinwità tan-Negozju 11. Lista ta' Kontroll u Governanza tas-Sigurtà tal-Intrapriża AI
Unità 4 / 11

Kontroll tal-Aċċess, Ġestjoni tal-Identità u Sigrieti

Qligħ:

  • Kapaċità li tissepara l-awtentikazzjoni u l-awtorizzazzjoni u tapplika awtorizzazzjoni minima ma 'RBAC/ABAC
  • Kapaċità li tevita riskju ta' prokura mħallta billi tħaddem il-mudell fil-kuntest tal-utent
  • Kapaċità li taħżen u ddawwar iċ-ċwievet API bis-sistema ta 'ġestjoni sigrieta

Porzjon sinifikanti ta 'attakki fuq sistema ta' AI ma jibdewx b'"tgħawwiġ" tal-mudell, iżda b'ċavetta API misruqa jew kont awtorizzat żżejjed. Dan is-saff ta 'sigurtà ġej minn sigurtà klassika tal-informazzjoni, iżda jżid riskji ġodda fil-kuntest tal-AI: mudell isejjaħ rikba f'isem xi ħadd ieħor, kont tas-servizz jaċċessa d-dejta kollha, tnixxijiet ewlenin għal GitHub. F'din l-unità, se nitgħallmu kif tnaqqas l-aċċess għas-sistema AI b'awtentikazzjoni, awtorizzazzjoni (RBAC/ABAC), awtorizzazzjoni minima u ġestjoni sigrieta.

Differenza Bejn Awtentikazzjoni u Awtorizzazzjoni

Iż-żewġ termini huma spiss konfużi:

  • Awtentikazzjoni: "Min int?" — jipprova li l-utent/servizz huwa verament dak li jgħidu li hu (password, token, ċertifikat, MFA).
  • Awtorizzazzjoni: "X'tista' tagħmel?" — tiddetermina liema riżors/azzjoni tista' taċċessa l-parti awtentikata.

Is-sottilità kritika fis-sistemi AI hija din: meta l-mudell ikun qed iwettaq xogħol f'isem utent, qed jopera bl-awtorità ta 'dak l-utent jew b'kont ta' servizz wiesa '? Dan tal-aħħar huwa perikoluż - minħabba li l-mudell imqarraq mill-injezzjoni jikseb aċċess sħiħ għall-kont tas-servizz.

Attenzjoni: Problema ta' "Deputat konfuż": utent b'awtorità baxxa jaċċessa indirettament dejta li ma jistax ikollu aċċess għaliha billi jesternalizza mudell ta' awtorità għolja. Il-mudell għandu dejjem jopera fil-kuntest tal-awtorità tal-utent, mhux l-awtorità wiesgħa tiegħu stess.

RBAC u ABAC

  • RBAC (Kontroll tal-Aċċess Ibbażat fuq Rwol): L-aċċess jiddependi fuq ir-rwol tal-utent. Ir-rwol ta '"speċjalista ta' appoġġ" jista 'jaqra n-noti tal-klijenti, iżda ma jistax iħassarhom. Sempliċi u komuni.
  • ABAC (Kontroll tal-Aċċess Ibbażat fuq Attributi): L-aċċess jiddependi fuq attributi: id-dipartiment tal-utent, it-tikketta tal-privatezza tad-dejta, il-ħin tal-ġurnata, in-netwerk li minnu tiġi t-talba. Aktar irfinat iżda aktar kumpless.

Ħafna mill-organizzazzjonijiet jibdew bl-RBAC u japprofondixxu lejn l-ABAC għal data sensittiva. Regola ġenerali għall-AI: il-mudell għandu jiffiltra kull aġent li jsejjaħ u kull data li jaċċessa abbażi tar-rwol/attributi tal-utent li jagħmel it-talba.

Pass pass: Eżerċizzju ta' Awtorità Minima

  1. Ħu inventarju. Liema għodod isejjaħ il-mudell, liema dejta jaċċessa? Elenkahom kollha.
  2. Iġġustifika kull aċċess. "Dan l-assistent verament jeħtieġ li tħassar l-awtorità?" Inkella, neħħiha.
  3. Default tal-qari biss. Il-mudell għandu jkun kapaċi jaqra awtomatikament; Teħtieġ tikteb/tħassar token separat, b'ambitu dejjaq.
  4. Ċaqlaq il-kuntest tal-utent. Ċempel il-vettura bl-awtorità tal-utent, mhux mal-kont tas-servizz.
  5. Kredenzjali għal żmien qasir. Uża tokens ta' ħajja qasira u li jġeddu awtomatikament minflok ċwievet ta' ħajja twila.

Ġestjoni Sigrieta

Sigriet huwa kredenzjali li jridu jibqgħu sigrieti, bħal API key, password, token, jew ċertifikat. L-aktar inċident komuni fil-proġetti AI huwa meta ċ-ċavetta API tal-fornitur tal-mudell tkun inkorporata fil-kodiċi u tnixxi fil-kontroll tal-verżjoni (Git).

Applikazzjoni korretta:

  • Qatt daħħal ċwievet fil-kodiċi; Uża varjabbli ambjentali jew sistema ta' ġestjoni sigrieta (servizz li jaħżen iċ-ċwievet kriptati u jikkontrolla l-aċċess).
  • Rotazzjoni: Ġedded iċ-ċwievet f'intervalli regolari (eż. kull 90 jum); Jekk hemm suspett ta' tnixxija, ikkanċella immedjatament.
  • Tnaqqis fl-ambitu: Kull swiċċ għandu biss is-servizz meħtieġ u l-awtorizzazzjoni meħtieġa.
  • Verifika: Log min uża ċ-ċavetta, meta, u fejn.

Erba' Mudelli Kopjabbli

Kontroll tar-reviżjoni tal-aċċess fil-pront:

Għal kull għodda fil-lista ta' għodda hawn taħt, evalwa:- Din l-għodda hija MEĦTIEĠA biex twettaq ix-xogħol ta' dan l-assistent? (iva/le) - Jinqara biss jew tikteb/tħassar? - Din l-għodda tissejjaħ bl-awtorità jew il-kont tas-servizz tal-utent? Immarka dawk li mhumiex meħtieġa jew awtorizzati żżejjed bħala "NEĦĦI/IRRATTA".<tools>{{ tool_list }}</tools>

Skanjar sigriet ta' tnixxija fil-pront:

Sib xi ħaġa li tista' tkun sigrieta hardcoded fis-snippet tal-kodiċi li ġej: ċavetta API, password, token, sekwenza ta' konnessjoni, ċavetta privata. Agħti ringiela u tip għal kull wieħed. KOPJA valur fit-tweġiba;maskra (l-ewwel 4 karattri + ***).<code>{{ sors }}</code>

Regola tad-deċiżjoni tal-inqas awtorità:

Meta tasal talba ġdida ta' għodda/aċċess, staqsi:1. Jista' l-kompitu jitwettaq mingħajr dan l-aċċess? -> Jekk iva: ĊAĦDA2. Jinqara biss biżżejjed? -> Jekk iva: GĦOT il-permess tal-kitba3. Jista' l-ambitu jitnaqqas għal sors wieħed? -> Jekk iva: daratIt-tweġiba default hija "le"; L-aċċess jinkiseb mir-raġuni.

Tfakkira tal-kalendarju tar-rotazzjoni:

Għal kull sigriet, irreġistra: sid, data tal-ħolqien, skadenza, ambitu. Irrapporta kwalunkwe ċavetta li qabżet id-90 jum jew ma ntużatx għal 30 jum bħala "KANDIDAT TA' ROTAZIONE/KANĊELLAZZJONI".

Prompt Dgħajjef / Prompt Qawwija

approċċ fqir

Approċċ qawwi

Mudell jaċċessa d-dejta kollha b'kont wieħed tas-servizz

Il-mudell jaċċessa bl-awtorità tal-utent li jagħmel it-talba

Iċ-ċavetta API hija inkorporata fil-kodiċi, ma tinbidel qatt

Rotazzjoni fil-maniġer sigriet ewlieni, 90 jum

Awtorità wiesgħa "tagħmel xejn" lill-assistent

Default tal-qari biss, ikteb b'mod dejjaq

L-aċċessi qatt ma jiġu riveduti

Reviżjoni u revoka tal-aċċess regolari

Tliet Każijiet Mini

Każ 1 — Dejta ta' prokura mħallta leaked. Assistent intern kien qed jaħdem b'kont tas-servizz li kellu aċċess għar-rekords kollha tal-impjegati. Utent intern aċċessa dejta li normalment ma kienx jara billi qal "jiġbor fil-qosor it-tabella tas-salarji eżekuttivi"; minħabba li l-mudell ikkontestah fil-kuntest tal-awtorità wiesgħa tiegħu stess, mhux tal-utent. Ladarba l-kuntest tal-utent ġie aġġustat biex jiġi mċaqlaq, l-intern seta 'jiġbed reġistrazzjonijiet li hu jew hi biss setgħu jaraw.

Każ 2 — Ċavetta leaked, kont ta '190,000 TL f'ġimgħatejn. Żviluppatur daħħal iċ-ċavetta API tal-mudell fi skript helper u mbuttaha għal repożitorju pubbliku. Bot sab iċ-ċavetta f'40 minuta u użaha għal ġimgħatejn; Il-kont laħaq 190,000 TL. Meta ċ-ċavetta ġiet imċaqalqa għall-maniġer sigriet, imqabbda mar-rotazzjoni, u ġie miżjud skanjar tar-repożitorju, l-inċident ma seħħx mill-ġdid.

Każ 3 — Interruzzjoni prevenuta ta' default ta' qari biss. Assistent DevOps irċieva kmand ta’ “reset production database” permezz ta’ injezzjoni fil-pront. Madankollu, l-assistent ingħata biss token li jinqara biss; kitba/tħassir kien fi fluss approvat separat. Il-kmand ġie miċħud bi żball ta' awtorizzazzjoni u l-avveniment ġie rreġistrat bħala allarm; Ma kien hemm l-ebda telf ta 'data.

Tip: Agħmel "le" it-tweġiba default tiegħek għal talba ġdida ta' aċċess. L-aċċess huwa xi ħaġa miksuba permezz tal-ġustifikazzjoni; L-għoti ta’ kulħadd wiesa’ u mbagħad il-qtugħ lura kważi qatt ma jsir u r-riskju jakkumula.

Żbalji komuni

  • Tmexxi l-mudell b'kont ta 'servizz kbir u titlef il-kuntest tal-utent (proxy imħallat).
  • L-inkorporazzjoni taċ-ċavetta API fil-kodiċi u t-tnixxija tagħha fil-kontroll tal-verżjoni.
  • Mhux iddawwar iċ-ċwievet għal kollox ("xogħol, tmissx").
  • Tagħti lill-assistent permessi ta’ tikteb/tħassar b’mod awtomatiku.
  • Tagħti l-aċċess darba u qatt ma terġa' tikkunsidrah.
  • Tħawwad l-awtentikazzjoni mal-awtorizzazzjoni u wieħed jassumi "hu illoggjat, jista' jaċċessa kollox".

Fil-qosor

  • L-awtentikazzjoni hija kwistjoni ta’ “min int”, l-awtorizzazzjoni hija kwistjoni ta’ “x’tista’ tagħmel”; Fl-AI, it-tnejn għandhom joperaw fil-kuntest tal-utent.
  • Il-mudell għandu jopera bl-awtorità tal-utent li jagħmel it-talba, mhux bl-awtorità wiesgħa tiegħu stess (li jevita r-riskju ta' aġenzija mħallta).
  • Ibda bl-RBAC, approfondixxi bl-ABAC fuq data sensittiva; Agħmel l-awtorità minima bħala default.
  • M'għandekx midfuna sigrieti fil-kodiċi; aħżen fil-maniġer sigriet, iddejjaq u poġġih f'rotazzjoni regolari.
  • In-nuqqas ta 'qari biss u l-kitba dejqa jillimitaw ħafna l-impatt tal-injezzjoni.

Kompitu ta' applikazzjoni

Elenka l-għodod u d-dejta kollha li taċċessa l-assistent AI tiegħek. Wieġeb tliet mistoqsijiet għal kull waħda: (1) Huwa verament meħtieġ? (2) Il-qari biss huwa biżżejjed? (3) Tmexxi fil-kuntest tal-utent? Imbagħad fittex is-sigrieti kollha hard-coded (permezz tal-pront tal-iskannjar hawn fuq) u ikteb pjan ta 'rotazzjoni għal kull ċavetta li ssib. Neħħi mill-inqas awtorizzazzjoni waħda bla bżonn.

lista ta' kontroll

  • [ ] Il-mudell jaħdem fil-kuntest tal-awtorità tal-utent li jagħmel it-talba.
  • [ ] L-aċċess għall-għodda u d-dejta ġie ristrett għall-prinċipju tal-inqas privileġġ.
  • [ ] Il-kitba/t-tħassir hija separata mill-qari biss, awtentikata u dejqa.
  • [ ] L-ebda sigriet ma huwa midfun fil-kodiċi; Huwa miżmum fil-maniġer sigriet.
  • [ ] Hemm skeda ta' rotazzjoni u proċedura ta' kanċellazzjoni għaċ-ċwievet.
  • [ ] L-aċċessi huma riveduti regolarment.
Ex Li jmiss