Gdy algorytm zastępuje człowieka

Steven Rosenbaum chciał zwrócić uwagę opinii publicznej na zagrożenia związane ze sztuczną inteligencją (AI). Dlatego opublikował książkę The Future of Truth (Przyszłość prawdy), w której miał ostrzegać, że często AI miewa halucynacje i zamiast sprawiać, że uzyskamy poprawną odpowiedź, zostaniemy przez nią wprowadzeni w błąd. Autor miał się też martwić, że prawda przestaje być czymś, do czego dochodzimy dyskusją czy wspólnym wysiłkiem, lecz staje się polem bitwy, o której wyniku decydują algorytmy.

W pełni się z nim zgadzam, gdy – podobno – zauważa, że serwisy społecznościowe oraz AI nie tylko zmieniają sposób, w jaki się komunikujemy, ale też sposób poznawania świata, a nawet myślenia. Rosenbaum miał ostrzegać, że AI umożliwia masowe generowanie fałszów udających rzeczywistość, od fałszywych filmików (deepfake'ów), przez fałszywe zdjęcia po fałszywe informacje (fake newsy). Miał też ostrzegać przed rozpadaniem się prawdy na różne kawałki, w zależności od wieku, a także podkreślać, że pokolenie Z zupełnie inaczej ustala prawdę niż starsze pokolenia.

Zgadzam się z wieloma tezami, które są podobno zawarte w tej książce. Podobno, bo przyznam się od razu, że jej jeszcze nie przeczytałem. Poprosiłem kilka modeli sztucznej inteligencji, by zebrały dla mnie informacje na temat tego, co Rosenbaum napisał. Dlatego też zastrzegałem się, że Rosenbaum „miał ostrzegać” albo „miał się martwić”, ponieważ nie jestem pewien, czy rzeczywiście tak zrobił. Ale to, co mi na ten temat pokazała sztuczna inteligencja, wydało się dość rozsądne. I w wielu miejscach zgodne z moimi własnymi przemyśleniami.

Często na spotkaniach ze studentami mówię, jakie ryzyka są związane z algorytmizacją przestrzeni informacyjnej. W tradycyjnych mediach są dziennikarze, którzy zbierają informację, i redaktorzy, którzy później nad artykułem, reportażem czy inną formą z dziennikarzem pracują, chcąc być pewnymi, że przekazują prawdę. Algorytmy zaś kierują się innymi zasadami. To, co budzi emocje, co nas oburza albo wzbudza gniew, jest promowane bez względu na to, czy jest prawdziwe, czy fałszywe. Już parę lat temu badania pokazały, że w serwisach społecznościowych fałszywe informacje rozchodzą się znacznie szybciej niż prawdziwe. A AI tylko wszystkie negatywne zjawiska, które zaczęły trapić nasze społeczeństwa doby informacyjnej, wzmacniało. Bo platformami społecznościowymi rządzą wyłącznie algorytmy. To one decydują o tym, co nam się wyświetli, o czym się dowiemy, a co pozostanie przemilczane. Czy to Facebook, Instagram, X/dawniej Twitter, TikTok czy YouTube – wszędzie algorytmy proponują nam kolejne treści do przeczytania czy kolejne filmy do obejrzenia.

Pewnie książka Rosenbauma trafiłaby wyłącznie do grona ekspertów, gdyby nie błąd, jaki popełnił autor. Śledztwo The New York Times’a wykazało, że autor użył… sztucznej inteligencji, która zmyśliła cytaty ekspertów, na których się powoływał. Jeden z nich twierdził, że nigdy czegoś takiego nie powiedział. Inny, owszem, wypowiedział takie zdanie, ale w wywiadzie radiowym, ale nie w książce, którą „cytował” Rosenbaum. Wybuchł skandal. Ale przynajmniej okazało się, że książka Rosenbauma sama jest dowodem na prawdziwość stawianej w niej tez. Choć pewnie autor wolałby zyskać sławę w inny sposób.