Zyski:
- Umiejętność rozróżnienia sześcioetapowego przepływu pracy w data science (definiowanie problemu, gromadzenie, czyszczenie, odkrywanie, modelowanie, komunikacja) oraz uprawnienia, w ramach których sztuczna inteligencja działa na każdym etapie, w zależności od poziomu ryzyka zadania
- Możliwość zastosowania dyscypliny weryfikującej każdy wynik sztucznej inteligencji poprzez podłączenie go do źródła, uruchomienie i porównanie oraz poddanie go specjalistycznemu filtrowaniu.
- Możliwość przekształcenia zasad odtwarzalności i prywatności (zapisywanie w kod, anonimizacja) w nawyki analityczne od pierwszego dnia
Surowe, niechlujne i często „kłamliwe” dane codziennie lądują na biurku analityka danych. W tabeli sprzedaży kolumna daty jest zapisana w trzech różnych formatach; numery klientów są puste w niektórych wierszach; Nazwa kolumny to „income”, ale zawiera ona zarówno wartości TL, jak i USD. Zadaniem analityki danych jest podjęcie wiarygodnej decyzji w tym chaosie: zebrać dane, oczyścić je, zbadać, zbudować model, zweryfikować wynik i przekształcić go w historię. Sztuczna inteligencja (AI lub w skrócie AI – systemy komputerowe, które potrafią generować tekst i kod, rozpoznawać wzorce, podsumowywać i przewidywać) może dotknąć każdego ogniwa w tym łańcuchu: pisania kodu czyszczącego w ciągu kilku minut, polecania wykresów do analizy eksploracyjnej, interpretowania metryki modelu, poprawiania zapytania SQL. Ale ta sama sztuczna inteligencja może również zapewnić pewne sfabrykowanie, takie jak „korelacja 0,72” dla danych, których nigdy nie widziała.
Ta pierwsza część nie jest wprowadzeniem do biblioteki. Jego celem jest wyjaśnienie, gdzie należy umieszczać sztuczną inteligencję w procesie analizy danych, a gdzie nigdy jej nie umieszczać. Ustalmy od początku podstawową zasadę: AI jest asystentem, a nie analitykiem danych. Decyzja o tym, jakie dane zebrać, jakie mierniki wybrać, czy wprowadzić model do produkcji i gdzie wytyczyć granice etyczne, należy do kompetentnego eksperta. Niezweryfikowane wyniki AI są ryzykowne, podobnie jak niepodpisany raport analityczny.
Przepływ pracy związany z analizą danych: kompleksowa mapa
Aby zrozumieć projekt danych, warto podzielić go na sześć faz. Cały moduł jest zgodny z tą mapą.
1. Definicja problemu: Co mierzymy, dlaczego, aby wesprzeć jaką decyzję? Ta faza nie jest delegowana AI; To osoba definiuje tę pracę.
2. Gromadzenie danych: Identyfikacja źródeł, wyodrębnianie danych, pobieranie próbek. (Część 2)
3. Czyszczenie i wstępne przetwarzanie danych: brakująca wartość, wartość odstająca, konwersja typu. (Część 3)
4. Eksploracyjna analiza danych (EDA – Exploratory Data Analysis, etap rozpoznawania rozkładu i powiązań danych „na oko”): (Część 4)
5. Inżynieria i modelowanie cech: generowanie zmiennych, dobór algorytmów, uczenie, ocena. (Część 5, 6, 7)
6. Komunikacja i produkcja: Wizualizacja, historia, MLOps (dyscyplina wprowadzenia modelu na żywo i jego monitorowania). (Część 8, 11)
Na każdym z tych sześciu etapów sztuczna inteligencja działa z różnymi uprawnieniami. Poniższa tabela podsumowuje ten podział władzy; Jest to najważniejsza tabela modułu.
Scena
Rola sztucznej inteligencji
Poziom ryzyka
Kto zatwierdza
Definicja problemu
partnera burzy mózgów
niski
Analityk danych + interesariusz
Napisz kod czyszczący
Generator szkicu kodu
średni
Analityk danych (czyta kod)
Komentarz EDA
sugestia wzoru
średni
analityk danych
Generowanie funkcji
Generator pomysłów i kodów
średnio-wysoki
Kontrola wycieków jest koniecznością
Wybór modelu/metryka
konsultant
wysoki
analityk danych
Decyzja o wprowadzeniu do produkcji
wejście pomocnicze
bardzo wysoki
Zespół + właściciel firmy
Zatwierdzenie zasad etyki/prywatności
środek pobudzający
bardzo wysoki
człowieku, zawsze
Należy pamiętać o jednym zdaniu z tego wykresu: wraz ze wzrostem stawki rola sztucznej inteligencji maleje, a akceptacja ludzi rośnie.
Dlaczego weryfikacja jest sercem tego biznesu
Modele językowe AI wyglądają na pewne, ale mogą nie być pewne. W języku technicznym nazywa się to halucynacją: jest to fabrykowanie przez model nieistniejących informacji w płynnym zdaniu, tak jakby były one prawdziwe. W nauce danych występuje to w trzech postaciach. Pierwsza to liczba fałszywa: jeśli zapytasz modela „jaka jest średnia kwota zamówienia”, nie podając żadnych danych, z pewnością poda Ci liczbę, mimo że nigdy nie widział Twoich danych. Druga to funkcja, która nie istnieje: model może sugerować funkcję, która w ogóle nie istnieje, np. pandas.read_excel_fast(). Po trzecie, błędna interpretacja statystyczna: model może płynnie powtórzyć klasyczny błąd statystyczny, taki jak „wartość p wynosi 0,04, więc hipoteza jest poprawna w 96%”.
Dyscyplina weryfikacji składa się z trzech etapów:
- Link do źródła: każda liczba, kurs i trend powinny pochodzić z Twoich danych, a nie z pamięci sztucznej inteligencji. Używaj sztucznej inteligencji do tworzenia kodu działającego na danych, a nie do zapamiętywania danych.
- Uruchom i porównaj: samodzielnie uruchom każdy fragment kodu podany przez sztuczną inteligencję; Porównaj każdą wygenerowaną metrykę z niezależną wartością bazową.
- Filtr ekspercki: sprawdź sam, czy wynik jest sprzeczny ze statystykami i wiedzą dziedzinową.
Uwaga: Umieszczenie analizy napisanej przez sztuczną inteligencję w prezentacji bez jej uruchomienia i przeczytania jest jak prezentowanie niepodpisanego raportu. To, że kod działa, nie oznacza, że jest poprawny; Kod sumujący niewłaściwą kolumnę również działa bez błędów.
Powtarzalność: możliwość uzyskania tego samego wyniku dwa razy
Cichą, ale kluczową zasadą analityki danych jest odtwarzalność: jeśli ponownie przeprowadzisz analizę sześć miesięcy później lub na innym komputerze, otrzymasz ten sam wynik. Ryzyko to wzrasta podczas pracy z AI, ponieważ kiedy powiesz AI, aby „utworzyła ten wykres” i odtworzyła go ręcznie, kroki znikają. Reguła: każdy krok musi być zarejestrowany w kodzie i kontroli wersji (jak Git); W krokach obejmujących losowość należy ustalić ziarno losowe (wartość początkowa generatora liczb losowych; jeśli zostanie ustalona, wynik będzie powtarzalny). Pogłębimy ten temat w części 10; Na razie wyrób sobie nawyk: „Nie klikaj ręcznie, pisz kodem”.
trzy mini etui
Przypadek 1 – Bezpieczne przyspieszenie. Analityk e-commerce zwykle spędzałby pół dnia na czyszczeniu tabeli zamówień składającej się z 240 tysięcy wierszy. Podał AI nazwy kolumn i pierwszych 5 wierszy (bez danych osobowych) i poprosił o kod czyszczący pandy. AI stworzyła projekt w 8 sekund; Analityk przeczytał kod linia po linii, naprawił błąd w analizie daty i uruchomił go. Czas trwania: 35 minut zamiast 4 godzin. AI dostarczyła kod, weryfikacja pozostała w gestii człowieka.
Przypadek 2 — Gotowa pułapka metryczna. Stażysta zapytał sztuczną inteligencję: „Jak dokładny jest losowy las w tych danych?” w ogóle bez szkolenia modelu. „Około 89%” – stwierdziła AI. Stażysta umieścił to w prezentacji; Po przeszkoleniu prawdziwego modelu dokładność wyniosła 71%. Błąd: Oczekiwanie na metryki bez przekazywania danych i modeli AI.
Przypadek 3 – Cichy wyciek. Jeden zespół wdrożył sugerowany przez sztuczną inteligencję pomysł „dodania średniej zmiennej docelowej jako cechy” bez kwestionowania go. Model wykonał 98% testów na zestawie testowym, ale uległ awarii w środowisku produkcyjnym, ponieważ funkcja powodowała wyciek przyszłych informacji (wyciek danych, Jednostka 10). Błąd: Brak statystycznego filtrowania rekomendacji AI.
Słaba zachęta/silna zachęta
Słaba zachęta:
Przeanalizuj te dane dotyczące sprzedaży i powiedz mi średni przychód.
Twierdzenie to jest błędne: AI nie otrzymała danych, więc „średni dochód” można jedynie uzupełnić. Ani kolumny, ani okres, ani waluta nie są jasne.
Potężny monit:
Twoja rola: asystent pomagający analitykowi danych. Mam pandę DataFrame: df. Kolumny: – data_zamówienia (tekst, w formacie „2024-03-01”) – ilość_tl (dziesiętna, NaN w niektórych wierszach) – id_klienta (liczba całkowita) Zadanie: (1) napisz kod pandy, który oblicza średnią kwotę, (2) wyjaśnij, jak obsługuje wartości NaN, (3) wypisz założenia, jakie przyjmuje kod. Nie wymyślaj treści danych; po prostu wygeneruj kod, a ja uruchomię i zweryfikuję wynik.
W tej prośbie schemat, oczekiwania i „zakaz fabrykacji” są jasne. Nadal samodzielnie uruchamiasz i sprawdzasz dane wyjściowe.
Początki etyki i prywatności
Data science często pracuje z danymi osobowymi: danymi klientów, pacjentów, pracowników. KVKK (ustawa o ochronie danych osobowych) w Turcji i RODO w Europie chronią te dane. Wklejanie swojego prawdziwego imienia i nazwiska, identyfikatora, adresu e-mail lub adresu do publicznego narzędzia AI stanowi naruszenie. Zasada: anonimizuj dane przed udostępnieniem, podaj tylko schemat (nazwy kolumn, typy) i fikcyjny przykładowy wiersz, jeśli to konieczne. Temat etyki pogłębimy w części 11; Postawmy zasadę od początku: aby zrozumieć dane, często wystarczy podzielenie się ich strukturą, a nie treścią.
Typowe błędy
- Oczekiwanie na liczby/metryki bez podawania danych AI. Model nie może uzyskać dostępu do danych; Numer, który podaje, jest fałszywy. Zawsze należy obliczyć i uruchomić wynik.
- Myślenie, że działający kod jest poprawny. Kod manipulujący niewłaściwą kolumną również działa bez błędów; Nie ufaj bez przeczytania logiki.
- Wklejanie prawdziwych danych osobowych do otwartego narzędzia. Imię i nazwisko, numer identyfikacyjny, adres e-mail nigdy nie są udostępniane; Schemat wystarczy.
- Wykonywanie kroków ręcznie i nie zapisywanie ich w kodzie. Analiza, która nie jest powtarzalna, jest niewiarygodna.
- Akceptowanie interpretacji statystyk przez sztuczną inteligencję bez żadnych wątpliwości. Sztuczna inteligencja może powtarzać klasyczne błędy w pojęciach takich jak wartość p i korelacja.
Wskazówka: do każdej sesji sztucznej inteligencji dołącz krótką „linię zasad”: „Nie wymyślaj treści danych; po prostu wygeneruj kod/analizę, a ja przeprowadzę i zweryfikuję wynik; wskaż „nie wiem”, gdzie nie jesteś pewien”. To jedno zdanie znacząco zmniejsza ryzyko wystąpienia halucynacji.
Podsumowując
AI to potężny asystent w nauce danych: przyspiesza czyszczenie kodu, interpretację EDA, rekomendację modelu i wizualizację. Jednak definicja problemu, wybór wskaźników, decyzje produkcyjne i granice etyczne należą do ludzi. Przepływ pracy składa się z sześciu etapów, a rola sztucznej inteligencji staje się mniejsza wraz ze wzrostem ryzyka. Podstawą wszystkiego są trzy nawyki: łączenie źródeł (walidacja), odtwarzalność (kodowanie) i anonimizacja (poufność). Kiedy już zinternalizujesz te trzy, każde narzędzie w pozostałej części modułu stanie się dla Ciebie bezpiecznym akceleratorem.
Zadanie aplikacji
Po prostu utwórz schemat małej tabeli, którą posiadasz (lub hipotetycznej): nazwy kolumn, typy i 2-3 fikcyjne przykładowe wiersze (bez prawdziwych danych osobowych). Poproś sztuczną inteligencję o kod podsumowujący statystyki, korzystając z powyższego szablonu „Potężny monit”. Uruchom kod, porównaj dane wyjściowe z wartością ręczną, sprawdź, czy nie ma fałszywych założeń i zapisz swoje ustalenia w 5 punktach.
lista kontrolna
- [ ] Czy zamiast prawdziwych danych osobowych dałem AI schemat i fałszywą próbkę?
- [ ] Czy przeczytałem i uruchomiłem kod, który wygenerował, linia po linii?
- [ ] Czy niezależnie zweryfikowałem każdą liczbę na wyjściu?
- [ ] Czy zapisałem w kodzie każdy etap analizy i zapewniłem jego powtarzalność?
- [ ] Czy określiłem poziom ryzyka misji i przypisałem ostateczną decyzję człowiekowi?