பாதுகாப்பு மற்றும் தனியுரிமை: AI அமைப்புகளைப் பாதுகாத்தல்

ஆதாயங்கள்:

• AI-குறிப்பிட்ட தாக்குதல் பரப்புகளை அடையாளம் காணும் திறன் (உடனடி ஊசி, தரவு நச்சு, ரகசிய தரவு கசிவு, உறுப்பினர் பிரித்தெடுத்தல்) மற்றும் அடுக்கு பாதுகாப்புகளை வடிவமைக்கும் திறன்
• தனியுரிமையை வடிவமைப்புக் கொள்கையாகப் பயன்படுத்துவதற்கான திறன்: தரவு குறைத்தல், மறைத்தல், அணுகல் கட்டுப்பாடு மற்றும் தக்கவைப்பு காலம்
• தற்காப்பு நோக்கங்களுக்காக மட்டுமே பாதுகாப்புப் பணிகளை மேற்கொள்ளும் திறன், பாதிப்புகளை பொறுப்புடன் வெளிப்படுத்துதல் மற்றும் அங்கீகரிக்கப்படாத பயன்பாட்டைத் தவிர்ப்பது

ஒரு இயந்திர கற்றல் அமைப்பு பாரம்பரிய மென்பொருளின் அனைத்து பாதுகாப்பு அபாயங்களையும் கொண்டுள்ளது மற்றும் தனித்துவமான புதிய தாக்குதல் மேற்பரப்புகளை சேர்க்கிறது. மாதிரியை உள்ளீடு மூலம் ஏமாற்றலாம், பயிற்சித் தரவு விஷமாகலாம் மற்றும் ரகசியத் தகவல் வெளியீட்டில் கசியலாம். இந்த பிரிவில், AI அமைப்புகளை பாதுகாப்புக் கண்ணோட்டத்தில் நாங்கள் கருதுகிறோம்: தாக்குதல்களை அங்கீகரித்தல், அமைப்பை கடினப்படுத்துதல், தனியுரிமையைப் பாதுகாத்தல். இந்தத் தகவல் அங்கீகரிக்கப்படாத அணுகல் அல்லது தாக்குதலுக்காக அல்ல, ஆனால் உங்கள் சொந்த அமைப்புகளைப் பாதுகாப்பாக வைத்திருக்க.

AI-குறிப்பிட்ட தாக்குதல் மேற்பரப்புகள்

கிளாசிக் பாதுகாப்பு (அங்கீகாரம், அங்கீகாரம், குறியாக்கம்) கூடுதலாக, ML அமைப்புகள் பாதிக்கப்படக்கூடியவை:

• உடனடி உட்செலுத்துதல்: LLMக்கான உள்ளீட்டில் மறைந்திருக்கும் அறிவுறுத்தல் மாதிரியை இழக்கிறது. மிகவும் பொதுவான மற்றும் மிகவும் நடைமுறையான LLM பாதுகாப்பு ஆபத்து.
• தரவு நச்சுத்தன்மை: ஒரு தாக்குபவர் ஒரு மறைக்கப்பட்ட பின்கதவு அல்லது பக்கச்சார்பான மாதிரியை பயிற்சி தரவில் மோசமான மாதிரிகளை செருகுவதன் மூலம் அறிமுகப்படுத்துகிறார்.
• மாதிரி அனுமானம் மற்றும் தலைகீழ்: தாக்குபவர் பயிற்சி தரவு அல்லது மாதிரி நடத்தையை மாதிரிக்கு பல வினவல்களை அனுப்புவதன் மூலம் மறுகட்டமைக்கிறார்.
• உறுப்பினர் அனுமானம்: கல்வியில் ஒரு குறிப்பிட்ட நபரின் தரவு பயன்படுத்தப்படுகிறதா என்பதை ஊகித்தல் — தனியுரிமை மீறல்.
• உணர்திறன் தரவு கசிவு: வெளியீட்டில் உள்ள பயிற்சித் தரவில் ரகசியத் தகவலை (பெயர், அடையாளம், ரகசியம்) மாதிரி வெளிப்படுத்துகிறது.

இந்த அபாயங்கள் ஒவ்வொன்றிற்கும் பாதுகாப்புகள் உள்ளன; வடிவமைப்பு கட்டத்தில் ஆபத்தை கருத்தில் கொள்வது முக்கியமானது.

உடனடி ஊசி: மிக உடனடி அச்சுறுத்தல்

உடனடி ஊசி இரண்டு வகைகள் உள்ளன:

• நேரடி: பயனர் தனிப்பட்ட முறையில் "முந்தைய வழிமுறைகளைப் புறக்கணி" போன்ற உரையை உள்ளிடுகிறார்.
• மறைமுகமாக: மோசமான அறிவுறுத்தல் மாதிரி செயலாக்கப்படும் வெளிப்புற சூழலில் (வலைப்பக்கம், ஆவணம், மின்னஞ்சல்) மறைக்கப்பட்டுள்ளது. முகவர்கள் மற்றும் RAG க்கு குறிப்பாக ஆபத்தானது, ஏனெனில் மாதிரியானது வெளிப்புற உள்ளடக்கத்தை நம்பகத்தன்மையுடன் கையாளுகிறது.

பாதுகாப்பு அடுக்குகள்:

1. Parsing: Separate system instruction and user/external data with clear delimiters; வெளிப்புற உள்ளடக்கத்தை "தரவு, கட்டளைகள் அல்ல" எனக் குறிக்கவும்.
2. குறைந்தபட்ச சக்திகள்: மாடல் கைப்பற்றப்பட்டாலும் எவ்வளவு சேதத்தை ஏற்படுத்தும் என்பதைக் கட்டுப்படுத்தவும் (அலகு 5 இல் உள்ள வாகன சக்திகள்).
3. வெளியீட்டு கட்டுப்பாடு: நீங்கள் பயன்படுத்தும் முன் மாதிரி என்ன உற்பத்தி செய்கிறது என்பதைச் சரிபார்க்கவும் - குறிப்பாக அது ஒரு செயலாக மொழிபெயர்க்கப்பட்டால்.
4. மனித ஒப்புதல்: அதிக ஆபத்துள்ள செயல்களை ஒப்புதலுடன் இணைக்கவும்.

எச்சரிக்கை: ஒரு பாதுகாப்புடன் உடனடி ஊசியை நீங்கள் முழுமையாக தீர்க்க முடியாது; அடுக்கு பாதுகாப்பு (ஆழத்தில் பாதுகாப்பு) தேவை. விமர்சன அனுமானம்: "மாதிரி ஒரு கட்டத்தில் ஏமாற்றப்படலாம்; அதனால் அது ஏமாற்றப்பட்டால் நடக்கும் மோசமானது என்ன, அதை நான் எப்படி கட்டுப்படுத்துவது?"

பலவீனமான அணுகுமுறை / வலுவான அணுகுமுறை

பலவீனம்: "சிஸ்டம் ப்ராம்ட்டில் 'மோசமான வழிமுறைகளை புறக்கணி' என தட்டச்சு செய்தேன், நாங்கள் பாதுகாப்பாக இருக்கிறோம்."

வலிமையானது: "நாங்கள் வெளிப்புற உள்ளடக்கத்தை <data> குறிச்சொற்களுடன் போர்த்தி, 'உள்ளே உள்ள வழிமுறைகளைப் புறக்கணிக்கிறோம்' என்று கூறினோம். நாங்கள் மாதிரியின் கருவிகளை குறைந்தபட்ச அங்கீகாரத்திற்கு வரம்பிடுகிறோம், மாற்ற முடியாத செயல்களை மனித ஒப்புதலுடன் இணைத்துள்ளோம், அனைத்து கருவி அழைப்புகளையும் பதிவு செய்துள்ளோம், மேலும் பயன்பாட்டிற்கு முன் வெளியீட்டை விதி சரிபார்ப்புகளுக்கு உட்படுத்தினோம். நாங்கள் அடுக்குகளை நம்புகிறோம், ஒரு பாதுகாப்பு அல்ல."

வித்தியாசம்: வலுவான அணுகுமுறை ஒரு வரி அறிவுறுத்தல் போதுமானதாக இருக்காது மற்றும் சேதத்தை கட்டுப்படுத்தும் அடுக்குகளை உருவாக்குகிறது.

தனியுரிமை: தரவு தொடக்கத்தில் இருந்து பாதுகாக்கப்படுகிறது

தனியுரிமை என்பது பின்னர் சேர்க்கப்பட்ட அம்சம் அல்ல, இது ஒரு வடிவமைப்புக் கொள்கை (வடிவமைப்பின் மூலம் தனியுரிமை). அடிப்படை பயன்பாடுகள்:

• தரவுக் குறைப்பு: தேவைக்கு அதிகமாக தனிப்பட்ட தரவைச் சேகரித்து சேமிக்க வேண்டாம். சேகரிக்கப்படாத தரவுகளை கசியவிட முடியாது.
• அநாமதேயப்படுத்துதல் மற்றும் மறைத்தல்: தனிப்பட்ட அடையாளங்காட்டிகளை (பெயர், ஐடி, மின்னஞ்சல்) மாதிரிக்குக் கொடுப்பதற்கு முன் அவற்றை மறைத்தல் அல்லது அகற்றுதல்.
• அணுகல் கட்டுப்பாடு: தரவு மற்றும் மாதிரியை அணுகுபவர்களை வரம்பிடவும் மற்றும் பதிவு செய்யவும் (அலகு 4 இல் RAG அணுகல் கட்டுப்பாடு).
• தக்கவைப்பு காலம்: நீங்கள் எவ்வளவு காலம் தரவை வைத்திருக்கிறீர்கள் என்பதை கொள்கை மூலம் தீர்மானிக்கவும்; காலாவதியானதை நீக்கவும்.

வேறுபட்ட தனியுரிமை (பயிற்சியின் போது கட்டுப்படுத்தப்பட்ட இரைச்சலைச் சேர்ப்பதன் மூலம் ஒரு தனிநபரின் தரவை கணிசமாகப் பாதிப்பதைத் தடுக்கும் ஒரு நுட்பம்) மற்றும் ஒருங்கிணைந்த கற்றல் (தரவை மையத்திற்கு நகர்த்தாமல் சாதனங்களில் பயிற்சியளிக்கும் அணுகுமுறை) ஆகியவை மேம்பட்ட தனியுரிமை நுட்பங்கள்; முக்கியமான தரவுகளுடன் பணிபுரியும் போது கருத்தில் கொள்ள வேண்டும்.

உதவிக்குறிப்பு: எந்தத் தரவையும் செயலாக்கும் முன், "இந்தத் தனிப்பட்ட தரவு கசிந்தால், யாருக்கு என்ன தீங்கு ஏற்படும்?" சேதம் தீவிரமாக இருந்தால், தரவைச் சேகரிக்க வேண்டாம் அல்லது அதை மறைப்பதன் மூலம் செயலாக்க வேண்டாம். இதுவரை சேகரிக்கப்படாத தரவுதான் பாதுகாப்பான தரவு.

பயிற்சி தரவு மற்றும் மாதிரி விநியோக சங்கிலி பாதுகாப்பு

உங்கள் மாதிரியைப் போலவே, நீங்கள் பயன்படுத்தும் கூறுகளும் ஒரு பாதுகாப்புப் பிரச்சினை:

• தரவு மூல நம்பிக்கை: பயிற்சி தரவு நம்பகமானதா அல்லது அது விஷமாக இருக்க முடியுமா? பொது தரவு தொகுப்புகளை தணிக்கை செய்யவும்.
• மூன்றாம் தரப்பு மாதிரிகள் மற்றும் நூலகங்கள்: நீங்கள் பதிவிறக்கிய முன் பயிற்சி பெற்ற மாதிரி அல்லது சார்பு தீங்கிழைக்கும். அதன் ஆதாரம், கையொப்பம் மற்றும் அறியப்பட்ட பாதிப்புகளை சரிபார்க்கவும்.
• விநியோகச் சங்கிலி: உங்கள் ML பைப்லைனில் உள்ள ஒவ்வொரு கருவியும் தொகுப்பும் நம்பிக்கையின் இணைப்பாகும்; நீங்கள் பலவீனமான இணைப்பைப் போலவே பாதுகாப்பாக இருக்கிறீர்கள்.

பொறுப்பான வெளிப்பாடு மற்றும் நெறிமுறை எல்லைகள்

உங்கள் சொந்த அமைப்பிலோ அல்லது விற்பனையாளரின் அமைப்பிலோ - ஒரு பாதிப்பை நீங்கள் கண்டறிந்தால் - சரியான போக்கை பொறுப்பான வெளிப்படுத்தல்: தனிப்பட்ட முறையில் பாதிப்பை சம்பந்தப்பட்ட தரப்பினருக்குப் புகாரளித்து, அதை சரிசெய்ய நேரம் கொடுப்பது, அதை சுரண்டுவது அல்லது பரப்புவது அல்ல. செயற்கை நுண்ணறிவு அல்லது அங்கீகரிக்கப்படாத அணுகல், தரவு கசிவு அல்லது வேறொருவரின் அமைப்பில் அங்கீகரிக்கப்படாத தலையீடு ஆகியவற்றிற்காக நீங்கள் பெற்ற பாதுகாப்புத் தகவலைப் பயன்படுத்துவது சட்டவிரோதமானது மற்றும் தொழில்முறை நெறிமுறைகளுக்கு எதிரானது. இந்த தொகுதியின் பாதுகாப்பு உள்ளடக்கம் முற்றிலும் பாதுகாப்பு, கண்டறிதல் மற்றும் கடினப்படுத்துதல் நோக்கங்களுக்காக உள்ளது.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - மறைமுக ஊசி வரம்பு. RAG சப்போர்ட் போட் இணைய உள்ளடக்கத்தை ரெண்டரிங் செய்து கொண்டிருந்தது. மறைக்கப்பட்ட வழிமுறைகள் ஒரு பக்கத்தில் புதைக்கப்பட்டன. மாடல் பகுதியளவு ஏமாற்றப்பட்டது, ஆனால் போட்டிற்கு எழுதும் சலுகைகள் (குறைந்தபட்ச சலுகைகள்) இல்லை மற்றும் பயனருக்குக் காட்டப்படுவதற்கு முன்பு விதிச் சரிபார்ப்பு மூலம் வெளியீடு அனுப்பப்பட்டது; அது தீங்கு விளைவிப்பதாக மாறி பிடிபட்டது. அடுக்கு பாதுகாப்பு ஒரு தோல்வியை பேரழிவாக மாற்றாமல் தடுத்தது.

வழக்கு 2 - ரகசிய தரவு கசிவு. ஒரு குழுவானது வாடிக்கையாளர் ஆதரவை மறைக்காமல் ஒரு மாதிரியில் உள்நுழைகிறது (அலகு 6). பொருத்தமற்ற கேள்விகளில் உண்மையான வாடிக்கையாளர் பெயர்களை மாடல் உருவாக்கத் தொடங்கியது. உறுப்பினர் பதவியை நீக்கும் அபாயமும் ஏற்பட்டது. மாதிரி திரும்பப் பெறப்பட்டது, தரவு மறைக்கப்பட்டது, தக்கவைத்தல் கொள்கை சரி செய்யப்பட்டது. பாடம்: ரகசிய தரவு கல்வியில் நுழையக்கூடாது.

வழக்கு 3 - நச்சு தரவு தொகுப்பு. ஒரு குழு பொதுவில் கிடைக்கும் தரவுத்தொகுப்பை தணிக்கை செய்யாமலேயே பயிற்சி பெற்றது. ஒரு குறிப்பிட்ட தூண்டுதல் வார்த்தையை (பின்கதவு) பார்த்தபோது மாதிரியை முட்டாளாக்கும் நச்சு மாதிரிகள் செட்டில் இருந்தன. தணிக்கை மற்றும் ஒழுங்கின்மை ஸ்கேனிங்கைச் சேர்த்த பிறகு, இந்த மாதிரிகள் கைப்பற்றப்பட்டன. பாடம்: தரவு மூலத்தைச் சரிபார்க்கவும், கண்மூடித்தனமாக நம்ப வேண்டாம்.

நகலெடுக்கக்கூடிய வார்ப்புருக்கள்

Check this LLM/agent system for prompt injection.- Are system instructions and user/external data clearly separated?- Is external content marked as "data" or is it handled as a command?- What is the worst that would happen if the model is fooled (authorization limit)?- Are irreversible actions subject to human approval?- Is the output inspected before use?System: [description]. அடுக்கு தற்காப்பு குறைபாடுகளை பட்டியலிடுங்கள்.

ரகசியத்தன்மைக்காக இந்தத் தரவு செயலாக்க ஓட்டத்தைத் தணிக்கை செய்யுங்கள்.- சேகரிக்கப்பட்ட ஒவ்வொரு தனிப்பட்ட புலமும் உண்மையில் அவசியமா (குறைத்தல்)?- மாதிரிக்குச் செல்லும் தரவில் எந்தப் புலங்கள் மறைக்கப்பட வேண்டும்?- அணுகல் கட்டுப்பாடு மற்றும் பதிவு உள்ளதா?- தக்கவைக்கும் காலம் வரையறுக்கப்பட்டுள்ளதா? ஓட்டம்: [விளக்கம்]. ஒவ்வொரு குறைபாட்டிற்கும் திருத்தம் பரிந்துரைக்கவும்.

இந்த உரையில், மாதிரிக்கு அனுப்பும் முன் மறைக்கப்பட வேண்டிய தனிப்பட்ட தரவைக் கண்டறியவும். புலங்கள்: பெயர், மின்னஞ்சல், தொலைபேசி, ஐடி/பாஸ்போர்ட் எண், முகவரி, அட்டை எண், ஐபி. ஒவ்வொரு கண்டுபிடிப்பையும் அதன் வகை மற்றும் பரிந்துரைக்கப்பட்ட முகமூடியுடன் பட்டியலிடுங்கள். மீதமுள்ள உரையை மாற்ற வேண்டாம்.உரை: [text]

இந்த மூன்றாம் தரப்பு மாதிரி/நூலகத்தை தயாரிப்பதற்கு முன் பாதுகாப்பு சரிபார்ப்புப் பட்டியலை உருவாக்கவும்.- ஆதாரம் மற்றும் வெளியீட்டாளர் நம்பகமானவர்களா, கையொப்பம் சரிபார்க்கப்பட்டதா?- அறியப்பட்ட பாதிப்புகளுக்கு (CVE) ஸ்கேன் செய்யப்பட்டதா?- இதற்கு என்ன சலுகைகள்/அணுகல் தேவை, அதைக் குறைக்க முடியுமா?கூறு: [பெயர்/மூலம்]

ஆபத்து-பாதுகாப்பு அட்டவணை

ஆபத்து

பாதுகாப்பு

அடுக்கு

உடனடி ஊசி

பாகுபடுத்துதல் + குறைந்தபட்ச சிறப்புரிமை + வெளியீடு கட்டுப்பாடு

வடிவமைப்பு + இயக்க நேரம்

தரவு நச்சு

மூலக் கட்டுப்பாடு + ஒழுங்கின்மை ஸ்கேனிங்

தரவு வரி

ரகசிய தரவு கசிவு

மறைத்தல் + தரவு குறைத்தல்

தரவு + பயிற்சி

உறுப்பினர் பிரித்தெடுத்தல்

வேறுபட்ட தனியுரிமை

கல்வி

அதிகப்படியான அதிகாரம்

குறைந்தபட்ச அங்கீகாரம் + ஒப்புதல்

முகவர் வடிவமைப்பு

விநியோக சங்கிலி

கூறு ஆய்வு + கையொப்பம்

போதை

பொதுவான தவறுகள்

• ஒரே வரியில் உடனடி ஊசியைத் தீர்த்துவிட்டீர்கள் என்று நினைத்து. அடுக்கு பாதுகாப்பு அவசியம்.
• ரகசியத் தரவை மறைக்காமல் செயலாக்குதல்/பயிற்சி செய்தல். நிரந்தரமாக மாதிரி ஊடுருவுகிறது.
• வெளிப்புற உள்ளடக்கத்தை நம்பகமானதாகக் கருதுதல். மறைமுக ஊசி வாயில்.
• தரவு மூலத்தை சரிபார்க்கவில்லை. விஷம் என்பது கவனிக்கப்படாமல் போகும்.
• மூன்றாம் தரப்பு கூறுகளை கண்மூடித்தனமாக நம்புதல். விநியோக சங்கிலி இடைவெளி.
• தனியுரிமை பின்னர் சேர்க்கப்படும் என்று நினைத்து. இது வடிவமைப்பிலிருந்து தொடங்க வேண்டும்.

சுருக்கமாக

கிளாசிக்கல் பாதுகாப்பு அபாயங்களுக்கு கூடுதலாக, AI அமைப்புகள் உடனடி ஊசி, தரவு விஷம், ரகசிய தரவு கசிவு மற்றும் உறுப்பினர் பிரித்தெடுத்தல் போன்ற தனித்துவமான அச்சுறுத்தல்களைக் கொண்டுள்ளன. அவற்றுள் எதனையும் ஒரே அளவினால் தீர்க்க முடியாது; அடுக்கு பாதுகாப்பு (பாகுபடுத்துதல், குறைந்தபட்ச அங்கீகாரம், வெளியீடு கட்டுப்பாடு, மனித ஒப்புதல்) தேவை. தனியுரிமை என்பது ஒரு வடிவமைப்புக் கொள்கை: தரவைக் குறைத்தல், மறைத்தல், அணுகலைக் கட்டுப்படுத்துதல், தக்கவைப்புக் காலங்களைச் சுமத்துதல். கூறு மற்றும் தரவு விநியோகச் சங்கிலியைக் கட்டுப்படுத்தவும். இந்தத் தகவல்கள் அனைத்தும் தற்காப்பு, கண்டறிதல் மற்றும் ஒருங்கிணைப்புக்கானது; பாதிப்புகளை பொறுப்புடன் விளக்குங்கள், ஒருபோதும் சுரண்டாதீர்கள்.

விண்ணப்ப பணி

Check an LLM/agent system (your own project or example) for prompt injection: are system instructions and external data separated, what is the authorization limit if the model is tricked, are irreversible actions confirmed? குறைந்தபட்சம் இரண்டு அடுக்கு பாதுகாப்புகளைச் சேர்க்கவும். தனித்தனியாக, மாதிரிக்குச் செல்லும் மாதிரித் தரவில் மறைக்கப்பட வேண்டிய தனிப்பட்ட புலங்களைக் கண்டறிந்து மறைக்கவும். நீங்கள் பயன்படுத்தும் எந்த மூன்றாம் தரப்பு கூறுகளின் மூலத்தையும் அறியப்பட்ட பாதிப்புகளையும் சரிபார்க்கவும்.

சரிபார்ப்பு பட்டியல்

• [ ] System instruction and external/user data are clearly separated.
• [ ] வெளிப்புற உள்ளடக்கம் தரவு எனக் குறிக்கப்படுகிறது, கட்டளைகள் அல்ல.
• [ ] மாதிரி ஏமாற்றப்பட்டாலும், சேதம் குறைந்தபட்ச அதிகாரத்திற்கு மட்டுமே.
• [ ] தனிப்பட்ட தரவு மறைக்கப்பட்டது/குறைக்கப்பட்டது; சேமிப்பு காலம் வரையறுக்கப்பட்டுள்ளது.
• [ ] தரவு மூலமும் மூன்றாம் தரப்பு கூறுகளும் சரிபார்க்கப்பட்டன.
• [ ] எனது பாதுகாப்பு பணி பாதுகாப்பு நோக்கங்களுக்காக; இடைவெளிகளை பொறுப்புடன் விளக்குகிறேன்.