Równowaga zaufania, nie strachu

Nie tylko politycy powtarzają chętnie sentencję „Jeśli chcesz pokoju, przygotuj się do wojny” (Si vis pacem, para bellum). To sparafrazowane zdanie z dzieła żyjącego w czwartym stuleciu rzymskiego historyka Wegecjusza O sztuce wojennej niejednokrotnie przywołują ci, którzy chcą się czuć bezpiecznie w swojej ojczyźnie. Uważają oni także, że trzeba nadążać za innymi w zdobywaniu i wprowadzaniu do swojego arsenału coraz nowych rodzajów broni. Problem w tym, że narzędzia do zabijania wraz z rosnącymi możliwościami technicznymi stają się coraz bardziej „samodzielne” i niezależne od człowieka. Wyposażone w sztuczną inteligencję, bez udziału człowieka, same wybierają cel i „decydują”, kogo zabić. Produkowanie, sprzedaż, a nawet posiadanie takiej broni może stanowić poważny problem moralny. Podobnie jak na przykład dysponowanie bronią jądrową.
 
Wymknęły się spod kontroli
Wiosną 2016 r. Paul Scharre, były urzędnik Pentagonu, opublikował raport, w którym stwierdził, że systemy broni autonomicznej mogą w warunkach prawdziwego placu boju wymykać się spod ludzkiej kontroli. Streszczając jego raport, „Młody Technik” przypomniał, że Scharre nie tylko przez lata zajmował się rozwojem tego typu broni, ale również był żołnierzem w Iraku i Afganistanie. W swym opracowaniu skupił się na faktycznych sytuacjach, w których zautomatyzowane systemy zawiodły. Wielokrotnie podkreślił, że jakkolwiek wyrafinowane byłyby systemy autonomicznej broni, brakuje im ludzkiej elastyczności i zrozumienia złożoności sytuacji.
Być może członkowie Stałej Misji Stolicy Apostolskiej przy ONZ w Genewie czytali tamten raport, ponieważ w jej dokumencie, wydanym w sierpniu br. w ramach eksperckiej debaty nad użyciem niektórych rodzajów broni konwencjonalnej, znalazły się podobne sformułowania. Zdaniem przedstawicieli Watykanu człowieka (osoby ludzkiej) w praktyce nic nie jest w stanie zastąpić w kwestii oceny celowości i skutków operacji militarnych.
 
Maszyna nie zawsze rozróżnia
Jak podał serwis Vatican News, w swym oświadczeniu reprezentacja Stolicy Apostolskiej wskazała, że automatyczne systemy broni, wyposażone w zdolność samosterowania i samoprogramowania, pozostawiają duży margines nieprzewidywalności. Wynika z tego, że mogłyby one łatwo zostać skierowane przeciwko ludziom, którzy nie są uczestnikami walk. Po co? W celu osiągnięcia maksymalnej skuteczności działań militarnych. Problem w tym, że służąca do zabijania maszyna nie stosuje zasady właściwego „rozróżnienia” celów, którą kieruje się człowiek.
W swej wypowiedzi Misja Stolicy Apostolskiej odnosiła się do bardzo konkretnego typu broni. Chodziło o możliwość użycia grup (lub jak mówią niektórzy „rojów) minidronów wykorzystujących metodę kojarzącą się z japońskimi lotnikami-samobójcami, znanymi jako „kamikadze”. Jednak w przypadku systemów uzbrojenia o zdolnościach autonomicznych w atakujących maszynach nie ma ludzi. Zdaniem watykańskich ekspertów wykorzystanie tego typu uzbrojenia na obszarach miejskich mogłoby rodzić wysokie ryzyko dla ludności cywilnej. „Takie systemy pozostawione bez bezpośredniej ludzkiej kontroli mogą również prowadzić do błędów w identyfikacji celów ataków, powodując masowe obrażenia, co stoi w jawnej sprzeczności z międzynarodowym prawem humanitarnym” – wyjaśniał Vatican News.
 
Nie da się zaprogramować
Chodzi też o coś więcej. Od początku dyskusji na temat śmiercionośnych systemów broni automatycznej, Stolica Apostolska podkreśla, że wyzwania stawiane przez pojawiające się technologie w tej dziedzinie nie ograniczają się do sfery międzynarodowego prawa humanitarnego, ale rodzą także poważne implikacje dla pokoju. Dlatego Kościół jest przeciwko stosowaniu sztucznej inteligencji w uzbrojeniu. Nie jest w tym odosobniony. Podobnie myśli wielu naukowców, inżynierów, badaczy, wojskowych, etyków, a także, jak to ujęto, „coraz szersza wspólnota społeczeństwa obywatelskiego”.
Coraz więcej ludzi zdaje sobie sprawę z tego, na co w Genewie zwróciła uwagę Stolica Apostolska. Chodzi o to, że unikalna ludzka zdolność do moralnego osądu i etycznego podejmowania decyzji jest czymś więcej niż złożonym zbiorem algorytmów. Tej zdolności nie da się zaprogramować w maszynie. Jednak odpowiedzialność moralna obejmuje tych, którzy o wytwarzaniu, zakupie, sprzedaży, posiadaniu i zastosowaniu takiej broni decydują. Podobnie jak tych, którzy dysponują bronią jądrową.
 
Broń, która okrada
Jesienią 2017 r. Dykasteria ds. Integralnego Rozwoju Człowieka zorganizowała w Watykanie międzynarodową konferencję pod hasłem „Perspektywy świata wolnego od broni nuklearnej i integralnego rozbrojenia”. Kard. Peter Turkson, prefekt dykasterii, zwrócił wtedy uwagę, że bezpieczeństwa, tak bardzo potrzebnego ludziom na całym świecie, nie można zapewnić przez rozprzestrzenianie broni masowego rażenia i broni jądrowej. To raczej sposób na pogłębianie problemów związanych z nierównością społeczną oraz zagrożeniami dla środowiska naturalnego człowieka. „Broń nuklearna jest okradaniem ludności, ponieważ odbiera nadzieję dzieciom” – powiedział wprost, podkreślając koszty, jakie ona niesie ze sobą.
Nie mniej bezpośrednio o konieczności nuklearnego rozbrojenia mówił dwa lata później papież Franciszek w Nagasaki. Apel o całkowity zakaz broni nuklearnej wygłosił w epicentrum wybuchu bomby atomowej z 9 sierpnia 1945 r. „Musimy niestrudzenie działać i nalegać na niezwłoczne wsparcie głównych międzynarodowych instrumentów prawnych dotyczących rozbrojenia i zakazu broni jądrowej, w tym traktatu o zakazie broni jądrowej” – powiedział.
 
Zaprzestać współzawodnictwa
Ten jego apel w minionych latach wielokrotnie został powtórzony przez biskupów i innych przedstawicieli Kościoła katolickiego na całym świecie. „Najgorsza ze wszystkich broni masowego rażenia już dawno została oceniona jako niemoralna. Teraz jest też w końcu nielegalna” – wyrażali w styczniu br. zadowolenie z wejścia w życie Traktatu ONZ o zakazie broni jądrowej. Zakazuje on m. in. rozwijać, wypróbowywać, produkować, wytwarzać, uzyskiwać w inny sposób, posiadać lub gromadzić broń jądrową lub inne jądrowe urządzenia wybuchowe. Nie pozwala również jej przekazywać ani grozić jej użyciem.
Kościół katolicki nie od dziś mówi o potrzebie rozbrojenia. Za klasyczny uważa się dzisiaj w tej kwestii obszerny fragment wydanej w 1963 r. encykliki św. Jana XXIII Pacem in terris. Papież zauważył w niej, że skutkiem dążenia do równowagi zbrojeń, która zdaniem niektórych miałaby być gwarantem pokoju, jest nie tylko nieustanny strach, w którym żyją miliony ludzi, ale również narastające nierówności gospodarcze. Dlatego, według Jana XXIII, sprawiedliwość, rozum i poczucie ludzkiej godności domagają się zaprzestania współzawodnictwa w rozbudowie potencjału wojennego. Wymagają też równoczesnej redukcji uzbrojenia poszczególnych państw oraz zakazu używania broni atomowej. Papież sugerował również dokonanie przez wszystkie państwa „odpowiedniego rozbrojenia na podstawie układów, z zachowaniem skutecznych gwarancji wzajemnych”.
 
Kto sprzedaje broń terrorystom?
Kościół wciąż zachęca do odejścia w dziedzinie światowego pokoju od równowagi strachu i zastąpienie jej równowagą wzajemnego zaufania. To może brzmieć jak utopia, ale nie musi być utopią. Aby taka równowaga mogła zaistnieć, potrzeba odpowiedzi na wiele pytań związanych z bronią. Nie tylko o jej produkcję, ale także o handel. „Kto sprzedaje broń terrorystom, dokonującym masakr w innych miejscach, na przykład w Afryce?” – zapytał publicznie papież Franciszek w czasie audiencji generalnej w marcu br. Powiedział dobitnie, że reakcją na wojnę nie jest kolejna wojna, a reakcją na broń nie jest nowa broń. Jednak odejście od myślenia sformułowanego przez rzymskiego historyka, według którego w imię pokoju trzeba się zbroić, wciąż jest mocno zakorzenione w ludzkich umysłach. Dlatego Kościół z naciskiem wskazuje moralny wymiar takich kwestii jak broń jądrowa albo maszyny do zabijania wyposażone w sztuczną inteligencję. To też część dążenia do równowagi wzajemnego zaufania, a nie strachu.