Przejdź do treści

Zautomatyzowane podejmowanie decyzji (art. 22 RODO)

Definicja

Art. 22 RODO daje osobie prawo do tego, by nie podlegać decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, i wywołuje wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływa.

Wyjątki są trzy. Decyzja:

  1. jest niezbędna do zawarcia lub wykonania umowy,
  2. jest dopuszczona przez prawo Unii lub państwa członkowskiego z odpowiednimi zabezpieczeniami,
  3. opiera się na wyraźnej zgodzie osoby.

Przy umowie i zgodzie administrator musi zapewnić co najmniej prawo do:

  • interwencji człowieka,
  • wyrażenia własnego stanowiska,
  • zakwestionowania decyzji.

Dla AI w administracji i biznesie oznacza to, że model może przygotować propozycję, ale istotną decyzję wobec człowieka powinien podjąć człowiek, realnie, a nie tylko formalnie.

Co to w zasadzie jest?

  • Uproszczenie szkoleniowe: AI może pomóc przygotować decyzję, ale nie powinno samo jej wydawać, jeśli ma ona poważne skutki dla osoby.
  • „Wyłącznie zautomatyzowana” oznacza brak realnego udziału człowieka. Klikanie „zatwierdź” bez czytania nie jest realnym udziałem.
  • TSUE w wyroku C-634/21 (SCHUFA, 7.12.2023) uznał, że już sam automatycznie wyliczony wynik (scoring) może być „decyzją”, jeśli w praktyce przesądza o rozstrzygnięciu.
  • Przykłady decyzji o istotnym wpływie:
    • przyznanie świadczenia,
    • odmowa kredytu,
    • odrzucenie kandydata do pracy.

Praktyczne zastosowania (konkretne scenariusze)

Scenariusz 1: Wstępna analiza wniosków w urzędzie

  • Cel: szybsza obsługa spraw.
  • Wejście: wniosek obywatela.
  • Kroki: AI sprawdza kompletność i streszcza wniosek → urzędnik analizuje sprawę i podejmuje decyzję → uzasadnienie pisze lub zatwierdza człowiek.
  • Rezultat: krótszy czas obsługi, decyzja po stronie urzędnika.
  • Zabezpieczenie: urzędnik ma czas i uprawnienia, żeby nie zgodzić się z AI.

Scenariusz 2: Rekrutacja

  • Cel: uporządkowanie dużej liczby zgłoszeń.
  • Wejście: CV kandydatów.
  • Kroki: AI porządkuje zgłoszenia według jawnych kryteriów → rekruter przegląda wszystkie, także odrzucone przez model.
  • Rezultat: szybsza praca bez automatycznego odrzucania ludzi.
  • Zabezpieczenie: kontrola stronniczości, informacja dla kandydatów o użyciu AI.

Scenariusz 3: Ocena zdolności klienta

  • Cel: wstępna ocena ryzyka.
  • Wejście: dane klienta.
  • Kroki: model wylicza wynik → analityk ocenia całość i może zmienić rekomendację → klient może zakwestionować decyzję.
  • Rezultat: decyzja z udziałem człowieka i ścieżką odwołania.
  • Zabezpieczenie: zapis, kto i na jakiej podstawie podjął decyzję (ślad audytowy).

Typowe błędy i pułapki

  • „Człowiek w pętli” tylko na papierze: urzędnik zatwierdza setki rekomendacji dziennie bez analizy.
  • Brak informacji dla osoby, że w procesie użyto AI.
  • Brak ścieżki zakwestionowania decyzji.
  • Traktowanie wyniku modelu jako obiektywnego, bez sprawdzenia stronniczości.
  • Uznanie, że skoro decyzję formalnie podpisuje człowiek, art. 22 nie ma znaczenia.

Ryzyka i jak je ograniczać

Ryzyko 1: Pozorny udział człowieka

  • Ryzyko: decyzja jest w praktyce automatyczna.
  • Jak ograniczać: realny czas na analizę, prawo do odmiennej decyzji, monitorowanie, jak często człowiek nie zgadza się z modelem.

Ryzyko 2: Dyskryminacja

  • Ryzyko: model powiela uprzedzenia z danych.
  • Jak ograniczać: testy stronniczości, przegląd kryteriów, DPIA.

Ryzyko 3: Brak wyjaśnienia

  • Ryzyko: osoba nie wie, dlaczego zapadła decyzja.
  • Jak ograniczać: zrozumiałe uzasadnienie, wyjaśnialność, informacja o prawie do zakwestionowania.

Checklista “zanim użyjesz”

  • Czy decyzja wywołuje skutki prawne lub istotnie wpływa na osobę?
  • Kto podejmuje decyzję i czy ma realną możliwość nie zgodzić się z AI?
  • Czy osoba wie o użyciu AI i może zakwestionować decyzję?
  • Czy przeprowadzono ocenę skutków (DPIA)?
  • Czy IOD i prawnik ocenili proces?

Diagram

flowchart LR
    A[Wniosek lub sprawa]
    B[AI przygotowuje analizę]
    C[Człowiek analizuje i decyduje]
    D[Decyzja z uzasadnieniem]
    E[Prawo do zakwestionowania]
    A --> B --> C --> D --> E

Diagram pokazuje, że AI przygotowuje analizę, ale decyzję podejmuje człowiek, a osoba, której decyzja dotyczy, może ją zakwestionować.

Materiał ma charakter edukacyjny i nie jest poradą prawną. Opis art. 22 jest uproszczeniem szkoleniowym; wiążące jest brzmienie przepisu. Przed wdrożeniem AI w procesie decyzyjnym wymagana jest ocena prawnika i Inspektora Ochrony Danych. W administracji publicznej trzeba uwzględnić także przepisy krajowe, np. Kodeks postępowania administracyjnego, oraz AI Act, którego obowiązki wchodzą etapami.

Dalsza lektura

Miejsce w mapie

  • Zautomatyzowane podejmowanie decyzji → wymaga: Human-in-the-loop
  • Zautomatyzowane podejmowanie decyzji → wymaga: RODO i DPIA
  • Zautomatyzowane podejmowanie decyzji → ryzyko: Bias

Powiązane hasła