W mojej prezentacji dla pracowniczek i pracowników Instytutu Nauk Politycznych Węgierskiej Akademii Nauk mówiłem między innymi o tym, dlaczego z wielką uwagą powinniśmy przyglądać się zjawisku postępującej algorytmizacji naszego życia społecznego i politycznego.
Na pozór wydawać się może, że wspomaganie procesów decyzyjnych szybkimi i bardziej przenikliwymi algorytmami jest ze wszech miar korzystne. Algorytmy są o wiele lepsze od człowieka w odnajdywaniu korelacji pomiędzy zmiennymi opisującymi olbrzymie zbiory danych. Najważniejszym argumentem za algorytmizacją jest zatem ich efektywność.
Czy jednak taka efektywność zawsze jest czymś korzystnym? Zastanówmy się nad algorytmem, z którego korzystamy niezwykle często. Prawie za każdym razem, kiedy chcemy dokądś dojechać, używamy aplikacji w rodzaju Google Maps. Wskazujemy w nich miejsce docelowe – punkt początkowy aplikacja zwykle sama wykrywa – i po najwyżej paru sekundach otrzymujemy najbardziej dogodną trasę. To znaczy najczęściej taką, którą najszybciej dotrzemy do celu. I zapewne w przygniatającej liczbie przypadków o to właśnie nam chodzi: życie jest zbyt krótkie, by niepotrzebnie nadkładać drogi, czas to pieniądz i tak dalej.
A jednak trzeba zauważyć, że opisywany algorytm przyjmuje tylko jedną z możliwych wersji rozumienia pojęcia efektywności. Możemy sobie wyobrazić, że nasze preferencje dotyczą nie czasu przejazdu, lecz, na przykład, doświadczeń estetycznych: chcemy z okien samochodu obserwować możliwie najpiękniejszy krajobraz. Ktoś może odpowiedzieć: nic nie stoi na przeszkodzie, można przecież taką aplikację stworzyć. A może nawet już ona istnieje, sprawdziłeś w App Storze?
To prawda, potencjalnie moglibyśmy stworzyć i używać takiej aplikacji. Jednak realnie korzystamy z tej, która została nam dana. I, tym samym, podporządkowujemy się algorytmowi i ideałowi efektywności, który ów algortytm przyjmuje. W pewnym sensie jesteśmy zatem w jego władzy. W przypadku Google Maps upierać się można, że realizuje on preferencje zdecydowanej większości użytkowników. Czy jednak tak jest w przypadkach mniej oczywistych? Albo: czy jesteśmy świadomi, w jak wielu przypadkach optymalizacja, której ulegamy, pozbawia nas innych wartości?
Przenosząc te pytania na grunt polityki, można zauważyć, że zastępowanie człowieka algorytmami, obiecującymi większą efektywność podejmowania decyzji, zmieni naturę samego decydowania. Zamiast negocjować decyzje z innymi, słuchać argumentów wielu stron, a może i zmieniać nasze własne preferencje, oddamy maszynie prawo decydowania w oparciu o dane zastane. A z tych nie musi przecież wynikać najlepsza możliwa decyzja. Przy bliższych oględzinach okazać się może, że efektywność to tylko jedna z wielu cech decydowania, które powinniśmy brać pod uwagę.
Ponieważ kwestie te są niezwykle złożone, moje wystąpienie zakończyłem zaproszeniem do współpracy – i już teraz zapowiada się, że zostanie ona nawiązana