Doomerstwo AI to też forma hype’u technologicznego
W debacie wokół AI obok entuzjastycznych wizji przyszłości pojawia się druga skrajność. Narracje oparte na strachu, budujące katastroficzne wizje o utracie kontroli nad sztuczną inteligencją również wzmacniane są przez media, ekspertów i samą branżę technologiczną. W efekcie doomerstwo AI zaczyna pełnić podobną funkcję jak hype: przyciąga uwagę, generuje kliknięcia i buduje pozycję jego autorów.
W hypie na AI, odwrotnością składania ciągłych obietnic jest straszenie. Mówi się na przykład, że rozwój AI może przynieść powszechny dobrobyt, ale może też sprawić, że ludzkość wyginie. Niczego nie można być pewnym. W tworzeniu przewidywań metodą kija i marchewki specjalizują się oczywiście rozmaici CEO i prezesi firm, spółek i startupów technologicznych.
Wiele mediów, także tych tradycyjnych, w lot podchwytuje takie kasandryczne wizje, opatruje je stosownymi nagłówkami w stylu Apokalipsa rynku pracy w ciągu kilku lat. Szef firmy AI wieszczy katastrofę (to dokładny cytat z portalu RMF FM). Praktyka bezkrytycznego przytaczania i rozważania fragmentów wypowiedzi szefów dużych firm technologicznych doczekała się nawet specyficznego określenia - to "CEO Said A Thing!" Journalism.
Innym, równie chętnie wykorzystywanym przez główne media źródłem narracji o sztucznej inteligencji, są alarmiści AI, określani też czasem dosadniej jako doomerzy AI. Funkcjonują oni wokół rozmaitych instytutów, centrów badawczych (niekiedy samozwańczych), działają także na uczelniach. Nie oznacza to oczywiście, że wszystkich podnoszących krytycznie tematy AI należy wrzucić do jednego worka - warto jednak sprawdzać, na czym polega ich krytyka.
W marcu w polskich mediach pojawiły się informacje o wydaniu w USA Pro-ludzkiej Deklaracji AI (The Pro-Human AI Declaration), wypracowanej w ramach działań bardzo szerokiej koalicji osób i podmiotów (bipartisan coalition endorses pro-human principles for shared AI future). Chociaż deklaracja została przygotowana w środowisku amerykańskiej polityki, mediów i nauki, podpisują ją także osoby z zewnątrz: także z Polski. Szanujemy ten gest, chcemy jednak zwrócić uwagę na pewne nieoczywiste fakty, związane z powstaniem tej deklaracji.
Przede wszystkim, czego wyraźnie nie napisano na stronie deklaracji, jej inicjatorem jest organizacja Future of Life Institute (FLI), założona przez Maxa Tegmarka - fizyka, informatyka, profesora MIT. Współzałożycielem FLI jest jednak Elon Musk, który w 2015 roku wsparł jej działalność kwotą 10 mln dolarów. Również w 2015 roku Musk założył OpenAI - równocześnie wspierając rozwój sztucznej inteligencji i ostrzeganie przed nią.
Ponieważ ani Musk ani OpenAI nie mają dziś dobrej prasy, FLI ostrożnie prowadzi swoją komunikację medialną. Nie afiszuje się już tak bardzo bliskimi kontaktami z czołowymi postaciami przemysłu AI, szuka za to ponadbranżowego wsparcia. Pewnie dlatego jednym ze szczególnie eksponowanych sygnatariuszy tej deklaracji jest Steve Bannon, który oprócz bycia skrajnym prawicowym nacjonalistą znany jest z nieszczególnie entuzjastycznego podejścia do technologii. Taka postawa zbliża go paradoksalnie do części środowisk lewicowych czy liberalnych, o czym pisaliśmy już wcześniej w tekście “Odrzucenie akceleracjonizmu technologicznego łączy prawicę i lewicę”, pisanym wokół wcześniejszego listu otwartego FLI.
Po drugie, takie alarmistyczne inicjatywy, apele, listy otwarte, ujawniające się w mediach co jakiś czas, mają przede wszystkim nie pozwolić zapomnieć o autorach tych dokumentów i wygenerować medialny szum wobec modnego tematu. Mało tam treści merytorycznych. Przykładowo, w ostatniej deklaracji FLI roi się od wysoce alarmistycznych (żeby nie powiedzieć doomerskich) deklaracji w rodzaju
Odrzucenie wyścigu o superinteligencję: rozwój superinteligencji powinien być zabroniony, dopóki nie zostanie osiągnięty szeroki konsensus naukowy, że można ją stworzyć w sposób bezpieczny…
czy
Zakaz lekkomyślnych architektur (No Reckless Architectures): systemy AI nie mogą być projektowane w taki sposób, aby mogły się samoreplikować, samodoskonalić, opierać się wyłączeniu lub kontrolować broń masowego rażenia
Wiemy dobrze, że 🤖 superinteligencja jest jedynie technologicznym mitem, można ją więc zakazać tak samo jak UFO, które ponoć ktoś jednak kiedyś widział. Systemy AI również nie spiskują ze sobą i nie knują w celu uniknięcia ludzkiej kontroli.
Po trzecie, niektóre fragmenty tej deklaracji, chociaż brzmią słusznie, wydają się zbyt naiwne i ogólnikowe. Przykładowo, postulat nie chcemy monopoli AI jest oczywiście sam w sobie słuszny, ale kompletnie ignoruje, w jaki sposób od dekad zorganizowana jest amerykańska (i nie tylko) gospodarka. I że winę za rozwój monopoli technologicznych ponosi deregulacja gospodarki jeszcze za czasów Reagana albo zblatowanie elit technologicznych z politycznymi. Wszyscy wiemy, że mono- czy oligopole technologiczne są złe, ale przecież FLI powstało jako swoisty spin-off oligopolu technologicznego Muska. Nie jest to więc jakiś bardzo autentyczny głos w tej sprawie.
Tezy deklaracji oderwane są od socjo-ekonomicznych i politycznych realiów rozwoju i funkcjonowania AI. Niektóre uwagi, jak najbardziej słuszne w kontekście deregulacji AI companion, czy podkreślania tego, że chatboty nie powinny uzależniać ani manipulować użytkownikami, umieszczono obok stwierdzeń przydających tej technologii (nad)ludzkiej sprawczości:
Ochrona więzi rodzinnych i społecznych: AI nie powinna zastępować podstawowych relacji, które nadają życiu sens, takich jak rodzina, przyjaźń, wspólnoty religijne i lokalne społeczności.
To przecież nie technologia “sama w sobie” zastępuje te relacje, lecz dzieje się to wskutek szerszego procesu społecznego, w którym technologia odgrywa wprawdzie negatywną rolę, ale nie jest tu jedynym czynnikiem. Takie argumenty stanowią przykład myślenia życzeniowego, jak gdyby wystarczyło wziąć w karby “nadludzką technologię” a fundamentalne problemy społeczne miałyby odtąd magicznie zniknąć.
Fragmenty Pro-ludzkiej Deklaracji AI brzmią uderzająco podobnie do treści wywiadu z Peterem Wallichem, przedstawiającym się jako doradca ds. bezpieczeństwa AI, jaki niedawno zamieściła “Gazeta Wyborcza”. Warto zwrócić uwagę, że termin “bezpieczeństwo AI” jest nieco mylący, ponieważ w języku angielskim wyróżnia się tu dwa różne terminy “AI Security” i “AI Safety”.
“AI Security” obejmuje kwestie związane z cyberbezpieczeństwem, tj. ochronę systemów sztucznej inteligencji przed atakami czy nadużyciami, tymczasem „AI Safety” to badania nad “bezpiecznym rozwojem i działaniem AI”, czyli przede wszystkim nad bezpieczeństwem i ochroną ludzi przed sztuczną inteligencją. Z przekazem tego wywiadu obszernie polemizowałem również na łamach “Wyborczej”, przytoczę tu tylko najważniejsze wątki.
Podobnie jak Pro-ludzka Deklaracja AI, Peter Wallich również ostrzega przed superinteligencją oraz przed oligopolem firm technologicznych, zarazem jednak wychwala OpenAI czy Anthropic, szczycąc się tym, że Constellation Institute, w którym jest zatrudniony, współpracuje z powyższymi startupami AI.
Bo tak jak FLI było sponsorowane przez Muska, tak Peter Wallich i wielu innych zalicza się do zwolenników efektywnego altruizmu. Dlaczego to problem?
Adam Becker, autor książki More Everything Forever: AI Overlords, Space Empires, and Silicon Valley's Crusade to Control the Fate of Humanity (Basic Books, 2025), trafnie wskazuje tu na nierozerwalny konflikt interesów, który strukturalnie trapi efektywnych altruistów. Zauważa, że ruch ten w bardzo ograniczonym stopniu podejmuje próbę zrozumienia mechanizmów władzy, zwłaszcza tych związanych z dominacją technologicznych oligopoli. A jeśli już, to robi to raczej po to, by skuteczniej się w ich ramach poruszać, a nie żeby je podważać.
To nie przypadek, ponieważ ruch ten w dużej mierze finansowany jest przez miliarderów-filantropów z Doliny Krzemowej, takich jak Dustin Moskovitz, niegdysiejszy współzałożyciel Facebooka, czy kiedyś Sam Bankman-Fried, dziś niesławny przestępca finansowy. Także Muskowi jest po drodze z efektywnym altruizmem czy powiązanymi z nim ideologiami takimi jak longtermizm.
Nie będzie przesadą powiedzieć, że to efektywny altruizm i jego sponsorzy-filantropi z Doliny Krzemowej w niemałej mierze ufundowali ruch “AI Safety”. Dlatego - i to nie tylko w świetle książki Beckera - co najmniej groteskowo brzmią słowa Wallicha przestrzegającego przed dominacją kilku firm technologicznych, skoro reprezentowany przez niego nurt “AI Safety” nie tylko wyrasta z efektywnego altruizmu (czyli z filantropii Doliny Krzemowej), ale jest z nim bardzo ściśle strukturalnie i finansowo spleciony.
Ten ekosystem startupów AI i alarmistów uzupełnia się wzajemnie. Alarmiści i efektywni altruiści potrzebują przemysłu AI i ciągłego rozwoju, by móc przed czymś straszyć. A z kolei przemysł ten potrzebuje działów “AI Safety” niczym listka figowego jako sygnał odpowiedzialności i troski o społeczne konsekwencje rozwoju technologii. Ręka rękę myje.
Ostatecznie takie apele, wywiady i cały ten alarmistyczny aktywizm tylko pogarszają to, przed czym miały przestrzegać, czyli redukują ludzką sprawczość, przydając technologii status samoistnego sprawczego bytu żyjącego własnym życiem. Być może oni sami autentycznie w to wierzą, natomiast krytyczne spojrzenie pozwala rozpoznać tu gigantyczny konflikt interesów. Oraz oczywiście medialny hype służący obydwu stronom, tj. sektorowi technologicznemu oraz wspierającym go chcąc nie chcąc alarmistycznym aktywistom.
Dlatego nie zdziwiłbym się, jeśli za parę miesięcy pojawi się kolejna deklaracja, list, apel albo chociaż wywiad w tej czy innej poczytnej gazecie.
Autor: jacekmanko