[Krótka seria o AI dla każdego] Co mają dziury w drodze do AI? Dzisiaj znów o jakości danych.
Wyobraź sobie, że Twoje miasto opiera proces wyszukiwania i łatania dziur w drogach na bazie modelu AI. Założenie jest proste – kierowcy podczas jazdy korzystają z aplikacji mobilnej do zbierania danych o stanie dróg. Aplikacja jest taka sama dla wszystkich kierowców. Dane te dostarczają miastu informacje w czasie rzeczywistym, aby szybko wyszukiwać dziury i naprawiać drogi. Później wyobraź sobie, że dziury znikają, ale tylko w bogatych dzielnicach miasta, a problem dziur pogłębia się w biednych dzielnicach.
O co chodzi? Jak zwykle jak nie wiadomo o co chodzi to chodzi o pieniądze.
AI to dane, a dane nie są tak obiektywne, jak się powszechnie wydaje. W wielkich zbiorach danych istnieje szereg ukrytych uprzedzeń („algorithmic biases”), które wynikają m.in. z procesów gromadzenia danych, stosowanych algorytmów i zakorzenionych w nich uprzedzeń społecznych.
Aplikację, o której mowa, wdrożyło miasto Boston (USA), które borykało się z problemem dziur w drogach. Problem w tym, że w czasie uruchomienia aplikacji (2013) smartphony nie były jeszcze ani tanie, ani bardzo powszechne (szczególnie wśród starszych osób). W konsekwencji okazało się, że dane o dziurach były zbierane w większości przez względnie młodych i bardziej zamożnych kierowców, których życie koncentrowało się w droższych dzielnicach miasta (posiadaczy smartphonów). Tymczasem, dzielnice ludzi starszych i mniej zamożnych zostały przez system „zaniedbane”, gdyż z tych dzielnic nie napływały dane o dziurach w drogach. Skoro nie ma danych o dziurach, to tych dziur nie ma, prawda?
Teoretycznie zatem obiektywny system prowadził do pogłębienia różnic w społeczeństwie, alokując pieniądze do ludzi bogatych, a pomijając w tej alokacji ludzi biednych. Przykład pokazuje jak wiele pułapek czeka na drodze do pozyskania dobrej jakości danych, które są przecież niezbędne w całej technologii AI.
Z tego względu jednym z kluczowych elementów aktu w sprawie sztucznej inteligencji (AI Act) jest nacisk na zapewnienie wysokiej jakości danych dla systemów AI. Zgodnie z AI Act systemy sztucznej inteligencji wysokiego ryzyka muszą spełniać surowe wymogi w zakresie zarządzania danymi. Obejmuje to używanie wysokiej jakości zestawów danych do trenowania, weryfikowania i testowania modeli sztucznej inteligencji. Ponadto istnieją obowiązki w zakresie ciągłego monitorowania i zarządzania ryzykiem w celu utrzymania jakości danych i złagodzenia potencjalnych uprzedzeń.
