Algorytmy, sprawiedliwość i władza

Sprawiedliwość można zmierzyć – ale nie wszystko naraz

Jon Kleinberg, Sendhil Mullainathan i Manish Raghavan (2016) oraz Alexandra Chouldechova (2017) wykazali, że gdy grupy różnią się częstością bazową, wskaźnik ryzyka nie może być jednocześnie równie dobrze skalibrowany dla każdej grupy i mieć jednakowych wskaźników błędów. Wybór kryterium sprawiedliwości jest więc decyzją moralną, a nie szczegółem technicznym. Zwolennicy algorytmicznego podejmowania decyzji dodają, że uprzedzonych ludzi trudno kontrolować, podczas gdy dane wejściowe i wyniki algorytmu można testować i korygować, tak że dobrze uregulowane algorytmy mogą nawet zmniejszać dyskryminację (Kleinberg, Ludwig, Mullainathan i Sunstein, 2018). Brian Hedden (2021) pokazuje za pomocą eksperymentu myślowego, że całkowicie sprawiedliwa procedura może naruszać niemal wszystkie zwykłe kryteria statystyczne – więc większość z nich nie może być warunkami koniecznymi sprawiedliwości.

Stara niesprawiedliwość w nowym kodzie

Socjolodzy i krytyczni badacze techniki twierdzą, że problem leży mniej we wzorach, a bardziej w świecie, z którego się one uczą. Systemy trenowane na dawnych decyzjach odtwarzają dawną dyskryminację – w zatrudnianiu, policji czy pomocy społecznej – a przy tym sprawiają wrażenie neutralnych; Ruha Benjamin (Race After Technology, 2019) nazywa to „New Jim Code”, nawiązując do segregacyjnych praw Jima Crowa. Joy Buolamwini i Timnit Gebru (2018) stwierdziły, że komercyjne systemy analizy twarzy znacznie częściej błędnie rozpoznawały płeć ciemnoskórych kobiet niż jasnoskórych mężczyzn, a Virginia Eubanks (Automating Inequality, 2018) pokazuje, jak zautomatyzowane systemy pomocy społecznej poddają ubogich nadzorowi, jakiego inni nigdy nie doświadczają. Z tego punktu widzenia same miary sprawiedliwości nie wystarczą: liczy się to, kto projektuje systemy i w jakim celu – oraz czy niektórych w ogóle należy budować.

Władza nad danymi

Shoshana Zuboff (Wiek kapitalizmu inwigilacji, 2019) twierdzi, że czołowe platformy przywłaszczają sobie ludzkie doświadczenie jako darmowy surowiec: gromadzą „nadwyżkę behawioralną” ponad to, czego potrzebują ich usługi, przetwarzają ją w przewidywania, sprzedają je i w końcu usiłują kształtować samo zachowanie. Nick Couldry i Ulises Mejias (The Costs of Connection, 2019) mówią o „kolonializmie danych” – nowym zawłaszczaniu ludzkiego życia, które ich zdaniem kontynuuje logikę historycznego kolonializmu. Krytycy różnią się co do środków zaradczych – silniejsze prawa do prywatności, prawo konkurencji, alternatywy publiczne lub spółdzielcze – ale zgadzają się, że etyka pojedynczych algorytmów pomija koncentrację władzy w rękach kilku firm, które posiadają dane, moc obliczeniową i modele.

Od zasad do praktyki

Floridi i Josh Cowls (2019) streścili dziesiątki wytycznych etyki sztucznej inteligencji w pięciu zasadach: dobroczynności, nieszkodzenia, autonomii, sprawiedliwości i wyjaśnialności. Same zasady, przestrzega Floridi, zachęcają do „ethics shopping”, „ethics bluewashing” i „ethics dumping” – wybierania takich reguł, które odpowiadają, upiększania wizerunku deklaracjami etycznymi albo przenoszenia wątpliwych badań tam, gdzie reguły są słabsze. Trzeba je przełożyć na prawo, projektowanie i audyt, jak zaczęła to robić UE swoim opartym na ryzyku aktem o sztucznej inteligencji. Vallor dodaje perspektywę etyki cnót: technika zmienia nawyki, w których kształtujemy swój charakter, więc społeczeństwa potrzebują „technomoralnych” cnót, takich jak uczciwość, pokora, odwaga i praktyczna mądrość, aby dobrze z nią żyć.

Głoszone przez

• Luciano Floridiur. 1964
• Shannon Vallorosoba współczesna

Ryzyka na froncie badań

Bostrom (Superinteligencja, 2014) i informatyk Stuart Russell (Human Compatible, 2019) twierdzą, że systemy bardziej zdolne niż ludzie mogłyby dążyć do celów rozbieżnych z naszymi, a niezawodne „dostrojenie” ich do ludzkich wartości jest nierozwiązanym problemem technicznym i filozoficznym. W 2023 roku setki badaczy i szefów firm zajmujących się sztuczną inteligencją podpisały jednozdaniowe oświadczenie, że ograniczanie ryzyka wyginięcia z powodu SI powinno być globalnym priorytetem obok pandemii i wojny nuklearnej; międzynarodowy raport naukowy pod przewodnictwem Yoshuy Bengio (2025) zbadał te ryzyka wraz z obecnymi szkodami. Krytycy, tacy jak Emily Bender i Timnit Gebru, odpowiadają, że spekulacje o superinteligencji odwracają uwagę od konkretnych szkód wyrządzanych przez istniejące systemy – uprzedzeń, wyzysku pracowników przetwarzających dane, koncentracji władzy – i służą firmom, które zarabiają na szumie wokół SI.

Głoszone przez

• Nick Bostromur. 1973