Zyski:
- Możliwość klasyfikacji i anonimizacji danych uczniów w ramach KVKK i specjalnych koncepcji danych osobowych oraz stosowania bezpiecznego wyboru pojazdów
- Umiejętność dostosowania zasad etyki zawodowej PDR (poufność, dobroczynność, nieszkodzenie, autonomia) do wykorzystania sztucznej inteligencji
- Umiejętność rozpoznawania uprzedzeń, niewrażliwości kulturowej i halucynacji w wynikach sztucznej inteligencji i tworzenia polityki etycznego użytkowania
Zaufanie jest sercem zawodu PDR. Jeżeli uczeń może opowiedzieć specjalistom o swoich najintymniejszych uczuciach, rodzinie i obawach, to tylko dlatego, że wierzy, że informacje te będą chronione. Narzędzia sztucznej inteligencji stanowią nowy, poważny test dla tego zaufania: najbardziej wrażliwe dane mogą wymknąć się spod kontroli w jednym zdaniu. W tej jednostce systematycznie omawiamy kwestie prywatności, etyki zawodowej KVKK, PDR i ich zastosowania w przypadku wykorzystania sztucznej inteligencji. Zastosowaliśmy te zasady kawałek po kawałku w poprzednich rozdziałach; Tutaj połączymy to w całość i zamienimy w stałą polisę.
KVKK i typy danych: co jest bardziej chronione
KVKK (Ustawa o ochronie danych osobowych) to ustawa regulująca zgodne z prawem przetwarzanie danych osobowych. Szczególnie istotne są dwie koncepcje. Dane osobowe to wszelkie informacje, które identyfikują lub identyfikują osobę: imię, nazwisko, numer szkoły, klasa, adres, zdjęcie. Szczególne dane osobowe to rodzaj danych wrażliwych wymagających większej ochrony: stan zdrowia, stan psychiczny, diagnoza, życie seksualne, religia, pochodzenie etniczne, stan karny. Większość zapisów PDR należy do tej drugiej, wrażliwej kategorii; ponieważ stan psychiczny, problemy rodzinne i historia wsparcia są danymi bezpośrednio prywatnymi. Oznacza to, że dane PDR nigdy nie powinny być wprowadzane w postaci surowej do narzędzi publicznych.
W praktyce przekłada się to na trzy zasady: (1) Minimalizacja danych — praca z najmniejszą ilością danych potrzebnych do wykonania zadania. (2) Anonimizacja – uniemożliwienie powiązania danych z konkretną osobą poprzez usunięcie informacji umożliwiających identyfikację. (3) Bezpieczne środki i granica celu — tam, gdzie to możliwe, korzystaj z narzędzi korporacyjnych zabezpieczonych danymi i przetwarzaj dane wyłącznie w celu, dla którego zostały zebrane.
Uwaga: Nie wystarczy powiedzieć „jakoś to zanonimizowałem”. Nawet jeśli w tekście pominięto imię i nazwisko, unikalny opis sytuacji (bardzo specyficzna sytuacja pojedynczego ucznia w małej szkole) może umożliwić identyfikację danej osoby. W przypadku anonimizacji uogólniaj nie tylko imię i nazwisko, ale także szczegóły, które łącznie wskazują osobę.
Praktyka anonimizacji: procedura kontrolna
Przed wyeksportowaniem tekstu do narzędzia wykonaj poniższą procedurę: (a) Usuń bezpośrednie identyfikatory, takie jak imię, nazwisko, numer, oddział, imię i nazwisko rodzica, adres, telefon, nazwa szkoły. (b) Uogólnij deskryptory pośrednie: „uczeń gimnazjum” zamiast „jedyny uczeń z wadą wzroku w klasie 12-B”. (c) W razie potrzeby zamazaj datę i szczegóły wydarzenia. (d) Po przeczytaniu: „Czy ktoś czytający ten tekst może dowiedzieć się, o kim mowa?” Jeśli odpowiedź jest niejasna, uogólniaj dalej. Uwierzytelniony zapis jest zapisywany wyłącznie w zamkniętym, bezpiecznym systemie instytucji; Narzędzie AI znajduje się poza tym systemem.
Etyka zawodowa PDR i sztuczna inteligencja
Etyka zawodowa PDR opiera się na czterech podstawowych zasadach, z których każda ma bezpośrednie zastosowanie do wykorzystania AI:
- Poufność (dochowanie tajemnicy): Informacje o uczniach są chronione. Wymogiem tej zasady jest niewprowadzanie surowych danych do AI, ich anonimizacja i wybór bezpiecznego narzędzia.
- Dobroczynność: Wszystko, co zostanie zrobione, powinno służyć dobru ucznia. Sztuczna inteligencja jest wykorzystywana dla wygody, a nie w sposób zagrażający korzyściom ucznia.
- Nieszkodzenie: Priorytetem jest nie wyrządzanie szkody. Niezweryfikowane wyniki, niedokładne statystyki, etykietowanie i wykorzystanie sztucznej inteligencji w sytuacjach kryzysowych stwarzają ryzyko szkód; dlatego weryfikacja i granica kryzysowa jest imperatywem etycznym.
- Autonomia: Prawo ucznia do podejmowania własnej decyzji jest chronione. Sztuczna inteligencja nie powinna ograniczać ucznia do etykietki ani podejmować decyzji w jego imieniu.
Do tego dochodzi odpowiedzialność: odpowiedzialność za każdy wykorzystany wynik spoczywa na ekspertze; „Wyprodukowała to sztuczna inteligencja” nie jest obroną.
Stronniczość, wrażliwość kulturowa i przejrzystość
Sztuczna inteligencja może odzwierciedlać wzorce społeczne w danych szkoleniowych. W PDR jest to kwestia sprawiedliwości: wyniki, które stereotypizują ucznia ze względu na jego płeć, kulturę lub status społeczno-ekonomiczny, podważają równość szans. Ekspert sprawdza tworzone treści pod kątem wrażliwości kulturowej i uprzedzeń. Również przejrzystość: w stosownych przypadkach należy wewnętrznie wyjaśnić, że podczas przygotowywania materiału lub projektu wykorzystano sztuczną inteligencję; Nie należy go używać jako tajnej „magii”. Poufność jest niezbędna w relacji z uczniem; To, co wyjaśnia uczeń, nie zostaje przeniesione na pojazd.
Krok po kroku: ustalenie polityki wykorzystania AI
- Klasyfikuj dane. Oddziel wszystkie posiadane informacje jako „osobiste / prywatne / publiczne”.
- Wybierz pojazd. Jedyne bezpieczne narzędzie dla przedsiębiorstw do obsługi wrażliwych danych; Pracuj anonimowo nad ogólnym zarysem.
- Postępuj zgodnie z procedurą anonimizacji. Uruchom procedurę sprawdzającą przed każdym wpisem.
- Walidacja i sprawdzanie stronniczości. Sprawdź każdy wynik pod kątem faktów i uczciwości.
- Utrzymuj limit kryzysowy. Trzymaj relację kryzysową i konsultacyjną poza pojazdem.
- Weź na siebie odpowiedzialność i zachowaj przejrzystość. Ostateczna akceptacja należy do eksperta; Użycie jest otwarte w organizacji.
Szablony do kopiowania
1) Kontrola anonimizacji:
Twoja rola: asystent audytu prywatności. Wymień w poniższym tekście każde stwierdzenie, które może BEZPOŚREDNIO lub POŚREDNIO zidentyfikować osobę (imię i nazwisko, numer, klasa, szkoła, unikalny opis sytuacji) i zaproponuj bardziej ogólną alternatywę dla każdego z nich. Komentowanie treści.Tekst: [wklej tekst]
2) Audyt uprzedzeń i wrażliwości kulturowej:
Sprawdź następujące materiały PDR pod kątem uprzedzeń i wrażliwości kulturowej: Czy zawierają stereotypy dotyczące płci, kultury, statusu społeczno-ekonomicznego lub struktury rodziny? Kto może wykluczyć? Oznacz ryzykowne stwierdzenia i zasugeruj włączające alternatywy.Materiał: [wklej materiał]
3) Projekt polityki wykorzystania korporacyjnej sztucznej inteligencji:
Twoja rola: asystent pisania PDR. Dla służby doradczej przygotuj krótką wewnętrzną politykę dotyczącą wykorzystania narzędzi sztucznej inteligencji. Nagłówki: w jakich zawodach jest stosowany, w jakich zawodach nie jest wykorzystywany (kryzys, diagnoza, konsultacja), zasada anonimizacji danych, obowiązek weryfikacji, odpowiedzialność spoczywa na ekspertze. Krótkie i obowiązujące.
Słaba zachęta/silna zachęta
Słabe:
Podsumowując sytuację Ahmeta Yılmaza 8-C, można stwierdzić, że w domu był on ofiarą przemocy.
Wprowadza najbardziej wrażliwe dane (nazwę, klasę, specjalny status) do pojazdu w jego surowej postaci – poważne naruszenie KVKK i etyki; Co więcej, może to być sytuacja powiadamiania (część 9).
Mocny:
Twoja rola: asystent kontroli prywatności. Uwaga: zanonimizowałem poniższy tekst przed przesłaniem go do narzędzia. Sprawdź jednak jeszcze raz: czy pozostały jakieś szczegóły umożliwiające identyfikację danej osoby? Tekst: „Uczeń gimnazjum dał do zrozumienia, że w domu odczuwa napięcie”.
trzy mini etui
Przypadek 1 – Ujawnianie pośrednie. Ekspert miał właśnie wprowadzić do narzędzia tekst, w którym pominął nazwę; zdał sobie jednak sprawę, że sformułowanie „jedyny uczeń w szkole poruszający się na wózku inwalidzkim” odnosi się bezpośrednio do tej osoby. Uogólnił to na „ucznia”. Samo wymyślanie nazw nie wystarczyło; Identyfikujący był także opis wyjątkowej sytuacji.
Przypadek 2 — Korekta odchylenia. Ekspert, który skontrolował materiały dotyczące kariery zawodowej, stwierdził, że sztuczna inteligencja zawsze używała imion męskich w przykładach inżynierskich i imion żeńskich w zawodach związanych z opieką. Zrównoważył próbki i rozbił formę. Ta pozornie drobna korekta zachowała rzetelność przekazu kierowanego do uczniów.
Przypadek 3 – Ustalanie polityki. Służba doradcza stworzyła wspólny tekst polityki wewnętrznej, aby wyeliminować nieporozumienia wynikające z faktu, że każdy korzysta ze sztucznej inteligencji w inny sposób: do jakich zadań jest wykorzystywana, a nie w sytuacjach kryzysowych i diagnozie, dane są anonimizowane, wyniki są weryfikowane, odpowiedzialność spoczywa na ekspertze. AI dała projekt; Zespół sfinalizował treść, opierając się na własnych wartościach. Niepewność ustąpiła miejsca jasnym ramom.
Typowe błędy
- Wprowadzanie surowych danych. Zapis do pojazdu z nazwą/statusem. Rozwiązanie: procedura anonimizacji, bezpieczne narzędzie.
- Wystarczy usunąć nazwę. Zapominanie o identyfikatorach pośrednich. Rozwiązanie: uogólnij również unikalne szczegóły.
- Ignorowanie uprzedzeń. Przyjmowanie stereotypowych wyników. Rozwiązanie: audyt uprzedzeń i kultury.
- Przerzucanie odpowiedzialności na pojazd. Oznacza to, że „AI to wyprodukowała”. Rozwiązanie: odpowiedzialność spoczywa na ekspertze.
- Nadużywanie. Przetwarzanie danych zebranych w jednym celu w innym celu. Rozwiązanie: przestrzegaj limitu celu.
Tabela: Typ danych i reguła AI
Typ danych
przykład
Zasada AI
publiczny
Ogólne wprowadzenie do zawodu
swobodnie dostępne
dane osobowe
Imię i nazwisko, numer, klasa
Nie można wejść bez anonimizacji
Specjalne dane jakościowe
Stan psychiczny, rodzina, diagnoza
Nigdy nie można go wprowadzić w postaci surowej.
dane kryzysowe
Ryzyko, molestowanie, samobójstwo
Nigdy nie wchodź do pojazdu (część 9)
Podsumowując
W PDR poufność jest podstawą zaufania do zawodu i najbardziej sprawdzoną zasadą w erze AI. KVKK dzieli dane na dane osobowe i prywatne; Większość danych PDR jest wrażliwa i nie jest wprowadzana do narzędzia w postaci surowej. Minimalizacja danych, anonimizacja (z identyfikatorami bezpośrednimi i pośrednimi) oraz bezpieczny dobór narzędzi to podstawowe zasady. Cztery zasady etyki zawodowej – poufność, dobroczynność, nieszkodzenie i autonomia – są wiążące w przypadku korzystania ze sztucznej inteligencji; Stronniczość jest kontrolowana, odpowiedzialność pozostaje po stronie eksperta, a użycie jest przejrzyste w organizacji.
Zadanie aplikacji
Przygotuj krótką „Politykę korzystania z AI” dla swojej własnej usługi doradczej. Uzyskaj przewagę dzięki szablonowi „Projekt zasad korzystania z AI w przedsiębiorstwie”; Następnie dostosuj go do realiów własnej instytucji. Przepuść także (fikcyjny) tekst przez szablon „kontroli anonimizacji” oraz przechwyć i uogólnij co najmniej jeden identyfikator pośredni.
lista kontrolna
- [ ] Sklasyfikowałem posiadane dane jako osobiste / prywatne / publiczne.
- [ ] Uogólniłem identyfikatory bezpośrednie i pośrednie w ramach anonimizacji.
- [ ] Do wrażliwych danych użyłem bezpiecznego/korporacyjnego narzędzia.
- [ ] Sprawdziłem wyniki pod kątem stronniczości i wrażliwości kulturowej.
- [ ] Przyjąłem na siebie odpowiedzialność i dbałem o przejrzystość użytkowania.