[Krótka seria o AI dla każdego] Co ma kolor skóry do otrzymywania świadczeń zdrowotnych?
Algorytmy mogą odzwierciedlać różnice rasowe i płciowe, wynikające zarówno z uprzedzeń osób, które je tworzą, jak i z danych używanych do ich treningu.
Badania empiryczne na konkretnych algorytmach wskazują – przykładowo – że:
- reklamy związane z wysoko płatnymi stanowiskami były rzadziej wyświetlane kobietom.
- wyszukiwania obrazów dla zawodów takich jak prezes zarządu pokazywały mniej zdjęć kobiet;
- wyszukiwania imion i nazwisk typowych dla ludzi czarnoskórych skutkowały znacznie częściej wyświetlaniem wyników nawiązujących do spraw kryminalnych; przykładowo dla hasła „Jan Kowalski” wyświetlany wynik: „Jan Kowalski, aresztowany?”
I tak dalej, i tak dalej… Wyobraźmy sobie jednak, że takie problemy pojawiają się także podczas podejmowania decyzji o udzielaniu świadczeń zdrowotnych, przez co czarnoskórzy mieszkańcy Stanów Zjednoczonych otrzymują mniejsze świadczenia od ludzi białych…
Amerykański system opieki zdrowotnej wykorzystuje algorytmy do podejmowania decyzji zdrowotnych. Algorytmy bazują na założeniu, że największe korzyści z programów zdrowotnych (tj. otrzymanie największej ilości pieniędzy na leczenie) mają osiągnąć osoby o największych potrzebach. Założenie wydaje się proste i sprawiedliwe – decydują potrzeby pacjenta bez względu na rasę. Badania wskazują jednak, że system dyskryminuje czarnoskórych pacjentów, przez co – mimo iż statystycznie są bardziej schorowani – otrzymują tych świadczeń mniej. Jak to się dzieje?
Otóż predykcja algorytmu co do potrzeb odbywa się na danych historycznych dotyczących kosztów leczenia. To jest, im większe wydatki na leczenie w danej grupie pacjentów występowały w przeszłości, tym większa alokacja środków do tej właśnie grupy nastąpi w przyszłości. Im bardziej chory pacjent tym więcej kosztów, prawda?
Otóż nie. Czarnoskórzy pacjenci generują mniej wydatków na leczenie, mimo że są bardziej schorowani. Czarnoskórzy pacjenci statystycznie częściej napotykają bariery w dostępie do opieki zdrowotnej. Nawet jeżeli są objęci ubezpieczeniem zdrowotnym to pojawia się m.in. problem wykluczenia komunikacyjnego, świadomości konieczności uzyskania pomocy medycznej, czy zapewnienia opieki nad dziećmi, nie wspominając o innych, trudnych do uchwycenia problemach.
Badacze wskazują, że wyeliminowanie tej dysproporcji zwiększyłoby odsetek pacjentów rasy czarnej otrzymujących dodatkową pomoc z 17,7 do 46,5%…
Czy w tym wypadku dane były złe? Niekoniecznie. Problem leży w założeniach algorytmu, który zamiast bazować na kosztach leczenia danej grupy, powinien bazować na danych dotyczących zdrowia. W tym wypadku zawiódł człowiek a nie dane.
