
- adw. TOMASZ SOWA, LL.M.
- +48 22 243 34 75
- kancelaria@sowaip.pl
[Seria wpisów o AI – nie podrzucaj dziecka!] Zaczynamy serię ciekawych wpisów o AI dla każdego. Jako, że prace legislacyjne nad AI Act posuwają się przodu chcemy przybliżyć kilka historii dających do myślenia w kontekście rozwoju technologii sztucznej inteligencji i europejskiej legislacji.
Ostatni wpis o Marywilskiej 44 nie był przypadkowy. Historia Willinghman’a, który został niesłusznie skazany na karę śmierci pokazuje co może się stać, jeżeli opieramy wnioskowanie na niewłaściwych przesłankach. Mówiąc inaczej, jeżeli dane na których opieramy wnioskowanie są wadliwe, decyzja oparta na tych danych również (najprawdopodobniej) będzie wadliwa. Jakość danych, na których trenowane są algorytmy jest więc kluczowa z punktu widzenia generowanych przez system wyników. Jak trudne może być odróżnienie dobrej jakości danych treningowych od złej jakości danych pokazuje historia serii niesłusznych skazań za tzw. syndrom SBS.
Shaken Baby Syndrome (SBS), czyli zespół dziecka potrząsanego, to poważny rodzaj urazu mózgu u dzieci, który jest wynikiem gwałtownego potrząsania niemowlęcia lub małego dziecka. Potrząsanie powoduje gwałtowne przemieszczanie się głowy dziecka, co może prowadzić do poważnych uszkodzeń mózgu, a nawet do śmierci.
Istnieją przypadki, gdzie rodzice lub opiekunowie zostali niesłusznie skazani za przestępstwa związane z SBS, tylko po to, aby później okazało się, że urazy mogły być spowodowane innymi czynnikami (zob. m.in. sprawa Del Prete, skazanej niesłusznie na 20 lat pozbawienia wolności i faktyczną, dziesięcioletnią rozłąkę z własnymi dziećmi (https://www.law.umich.edu/special/exoneration/stronas/casedetail.aspx?caseid=6426).
Niesłuszne skazania wynikały stąd, że stwierdzenie co najmniej jednego z trzech objawów (z tzw. „triady”) skutkowało przyjęciem, że u dziecka wystąpił SBS. Jeżeli badania wskazywały, że u dziecka doszło do krwawień w obszarze mózgu, siatkówki oka lub powstania opuchlizny mózgu, uznawano, że jedynym tego powodem jest potrząśnięcie dziecka (chyba, że dziecko miało wypadek samochodowy, lub spadło z dużej wysokości). W procesie z 1988 roku zeznawało sześciu biegłych lekarzy – od pediatrów po neurologów. Każdy z nich zgodnie twierdził, że urazy wskazują jednoznacznie na SBS. Stwierdzenie SBS przekładało się natomiast wprost na przypisanie winy. Co więcej, jeżeli objawy u dziecka wystąpiły w czasie sprawowania opieki, to temu kto sprawował opiekę stawiano zarzuty i jeżeli stwierdzono SBS przypisywano mu winę.
Powyższe wnioskowanie było w zasadzie niepodważalne przez prawie trzy dekady. Na czym polegał błąd? Literatura dotycząca SBS opierała się na błędach logicznych. Naukowcy wybrali obiekty do badania na podstawie obecności krwiaków podtwardówkowych i krwotoków siatkówkowych (z obrzękiem mózgu) a następnie, bez badania lub ograniczonym badaniu innych możliwych przyczyn tych objawów, po prostu doszli do wniosku, że niemowlęta były potrząsane. W rzeczywistości, o ile SBS zawsze wiązało się z tymi objawami, tak nie zawsze objawy te były wynikiem potrząsania.
Mówiąc krótko, niesłuszne skazania za SBS wynikały z kiepskiej jakości danych wejściowych, w oparciu o które ukształtowana została powszechna i błędna opinia. Niemal trzy dekady niesprawiedliwości przez „kiepskiej jakości dane”. Warto mieć to na uwadze w kontekście trenowania algorytmów, szczególnie w kontekście systemów, jakie mogą być wykorzystywane we wspieraniu wymiaru sprawiedliwości.