Uczony hype, niemoc katolickiego języka i zmęczenie dyskusjami o AI

Okazuje się, że nawet w siedzibie warszawskiego biskupa można bez żadnej reakcji krytykować humanizację debaty o sztucznej inteligencji i przyznawać AI niepodważalną wartość poznawczą, geopolityczną i gospodarczą.

Oczywistym kontekstem spotkania w warszawskim Pałacu Biskupów i Arcybiskupów "Wieża Babel vs. Nowe Jeruzalem: Czy AI może być zbawione? Creatio Continua VIII" była nie tylko encyklika Magnifica Humanitas papieża Leona XIV, ale też cała tradycja personalizmu i humanizmu katolickiego, z trudem i niekonsekwentnie rozwijana przynajmniej od Rerum novarum (1891). Redakcje i środowiska, które organizowały tam poszczególne panele, w różny sposób do tej tradycji podchodzą, ale w żadnym wypadku, jak się wydaje, nie powinny jej kwestionować. Takie umocowanie religijne i ideologiczne może okazać się jednak zadziwiająco kruche, kiedy od ogólnych deklaracji o poszanowaniu godności człowieka rozważa się konkretne wątki problemu AI.

Podejście lucyferyczne

Nie oznacza to na szczęście, że cała debata (obejrzałem wszystkie panele poza ostatnim) pozbawiona była głosów odwołujących się, czy też czerpiących z ducha Magnifica Humanitas. Nie trzeba zresztą być katolikiem czy inspirować się katolickimi encyklikami, żeby publicznie wyrażać niezgodę na sprowadzanie człowieka (czy też kultury, o której na konferencji prawie nikt nie mówił) do roli zasobu treningowego i żeby krytykować dążenia do przekształcenia państwa w startup, działający w logice Facebooka ("we should move faster and break things"). W jednym z paneli prof. Michał Krzykawski, deklarujący się od razu jako osoba niewierząca, odwołał się do romantycznej tradycji lucyferiańskiej - źródłem sprzeciwu wobec technofaszyzmu może być biblijne non serviam, którym Lucyfer rzuca wyzwanie Bogu, utożsamianemu w XIX-wiecznej kulturze romantycznej z tyranią. Tak jak Szatan zdecydować się miał - w świetle tej tradycji - na niezależność i samostanowienie, tak my możemy sprzeciwiać się władzy garstki firm technologicznych i blokować za pomocą regulacji procesy redukowania ludzi, kultur i środowiska do zasobów, na których wytwarza się coraz to potężniejsze modele. Kościół jednak, jak przypomniał Krzykawski, jest dla takiej postawy dość niepewnym partnerem, ponieważ jego historia - od czasów nowożytnych

z jednej strony walczy z siłami abstrakcji powiązanymi z technologią, a z drugiej sama te siły intensyfikuje, afirmuje i przyczynia się do zjawisk ściśle związanych z siłami kapitału, delokalizacją, formalizacją oraz standaryzacją.

W historii Kościoła odkrywamy przecież utopijne republiki jezuickie, ale też jesteśmy świadomi wielkiego wsparcia procesu kolonizacji przez proponowanie jego filozoficznych i teologicznych podstaw i standaryzowanie języka, obyczajów i kultury podbitych ludów do wzorców europejskich i modelu kapitalistycznego.

Za dużo humanistyki

W wystąpieniu Michała Krzykawskiego, a potem Marka Popieralskiego z "Nowej Konfederacji", nauczanie i tradycja Kościoła były przynajmniej punktem odniesienia - Popieralski w bardzo dynamiczny sposób streścił teorię niewolnictwa AI, zaproponowaną przez papieża w Magnifica Humanitas (warto przeczytać przygotowane przez niego ogólne streszczenie tej encykliki). Niewolnictwo AI ma wiele wymiarów: od traktowania człowieka jako zasobu treningowego i źródła danych, poprzez fizyczny wyzysk (niskopłatna praca przy etykietowaniu danych), eksploatację ciała (traktowanego jako źródło danych medycznych) i kultury aż po degradację własnej tożsamości osoby w celu budowy utopii technologicznej.

To niesamowite, że te - oczywiste przecież problemy związane z rewolucją AI tak łatwo było przykryć prof. Piotrowi Sankowskiemu opowieścią o niepotrzebnie ograniczanych innowacjach. Usłyszeć w pałacu biskupim, na konferencji wokół papieskiej encykliki, że w Europie podejście do rozwoju technologii stało się zbyt humanistyczne i nie widzieć żadnej reakcji współdyskutantów, odwołujących się przecież do tradycji katolickiej, było dla mnie największym zaskoczeniem tej konferencji. Obecny na sali warszawski arcybiskup także nie reagował. Oczywiście trudno odrzucić rozpoznania Sankowskiego na temat globalnych liderów wyścigu AI - konfrontacji na nakłady, moce obliczeniowe i wielkie modele (frontier models), dyskutować można też z opinią na temat efektywności regulacji, przyjmowanych na poziomie UE. Jednak trudno zaakceptować wizję, w której humanizm, prawa człowieka, ekologia i przejrzystość AI stają się niechcianym kosztem dla rozwoju technologicznego i prowadzenia biznesu.

Podobna alternatywa, ale odwołująca się do innego wymiaru rewolucji AI, pojawiła się w wypowiedziach Jacka Dukaja w jednym z kolejnych paneli, tym razem poświęconym sumieniu. Dukaj mówił m.in.:

Pewnym blueprintem dla tych rozmów o outsource'owaniu sumienia są samochody autonomiczne, prawda? Czyli moment, w którym dostajesz obiektywną informację, że samochody, których nie prowadzi człowiek, mają o tyle i o tyle mniej wypadków, mniej ofiar śmiertelnych i tak dalej. No i co? Czy po to, żeby zachować autonomię decyzji moralnych człowieka, godzimy się na więcej ofiar? Ale to jest pewien blueprint dla całej kategorii tego typu wyborów.

Punkt widzenia Dukaja w języku kościelnym można by uznać za diaboliczny, ponieważ pod warstwą bardzo przenikliwej analizy podważa on podstawowe zasady funkcjonowania społeczeństwa. O ile dla Sankowskiego celem jest nie człowiek, ale innowacja i zysk, o tyle dla Dukaja celem jest dotarcie do sedna procesu technologicznego. Czy efektywność oprogramowania, odrzucenie ograniczających ją tradycyjnych barier moralnych czy kultury i maksymalne zbliżenie się do szybkości i bezwzględności algorytmów ma być podstawą funkcjonowania ludzkich zbiorowości? Bardzo trudno występować przeciwko takiemu technologicznemu cynizmowi, jednak obecni w panelu Sylwia Czubkowska i ks. Grzegorz Strzelczyk przynajmniej podjęli próbę: Czubkowska wielokrotnie odwoływała się do procedur demokratycznych, Strzelczyk - co było bardzo ciekawą perspektywą - do ciała:

Mówimy o sumieniu, to mówimy o sądzie, który się dokonuje w tym dokładnie momencie i w tych okolicznościach. I tego się - przynajmniej na razie - nie da wyoutsourcować w żaden sposób. Da się zrobić skrót i ten skrót moim zdaniem jest groźny. [...] odruch moralny jest częścią odruchu stadnego i on jest zabudowany w biologii, od tego nie uciekniemy.

W panelu z prof. Sankowskim sprzeciw wobec startupowego myślenia o państwie i społeczeństwie niestety nie wybrzmiał wyraźnie. Co więcej, uczestnik tego panelu, Sebastian Wijas (wicedyrektor Centrum Analiz Klubu Jagiellońskiego), w pewien sposób poparł rozpoznania Sankowskiego, stwierdzając - w kontekście dominacji wyścigu AI przez Chiny, społeczeństwo o głębokiej kolektywistycznej tradycji, że:

...w Europie miejmy też na uwadze, że my mamy jednak traumę II wojny światowej [...], gdzie jesteśmy bardzo skoncentrowani na krzywdę człowieka i faktycznie to nas..., częściowo się zgodzę z panem profesorem, że jest dużo humanistyki, czasem za dużo po II wojnie światowej.

Humanizm ma być w takiej optyce nie tyle przeszkodą w budowie przewagi konkurencyjnej w AI, ale w nawet barierą blokującą wzięcie udziału w tym wyścigu. Z jakich konkretnych powodów mielibyśmy brać w nim udział, niestety nie dowiedziono.

Uczony hype

Nie wyniosłem ze spotkania w pałacu arcybiskupim żadnej nowej nadziei, nie odczuwam też żadnej trwogi. Czułem przede wszystkim zmęczenie - nie tyle bardzo intensywnym planem paneli i wystąpień, co wszystkimi debatami. Zazwyczaj nie śledzę takich spotkań, wybierając raczej wydarzenia bardzo sprofilowane tematycznie i technicznie, takie jak niedawna świetna konferencja w Instytucie Pileckiego, gdzie rozmawiano o konkretach i omawiano możliwości i ograniczenia metod maszynowych w zadaniach historycznych i archiwistycznych. W takiej przestrzeni nie ma miejsca na wytwarzanie obaw i logikę rywalizacji.

Głównym źródłem zmęczenia było dla mnie coś, co określiłbym jako uczony hype. Wielu panelistów dużo mówiło o sztucznej inteligencji, jednak chyba tylko ks. Grzegorz Strzelczyk wyszedł poza perspektywę wielkich modeli ogólnego zastosowania i mówił o efektywności konkretnych rozwiązań, projektowanych dla konkretnych, nieraz niszowych zadań. Uczony hype polega więc na tym, że rozmawiamy o AI bardzo ogólnie: to siła strategiczna, źródło innowacji, zysku i przewagi, ewentualnie demoniczny lewiatan, którego możliwości są (albo już za chwilę będą) niemal nieograniczone. Nikt nie wspominał o realnej efektywności AI w biznesie (poza branżą IT czy w medycynie), w dyskusji o sumieniu wspomaganym albo wypieranym przez mechanizmy sztucznej inteligencji zabrakło wątku przypadkowości i stabilności decyzji (modele są przecież niedeterministyczne). Uczony hype polegał na zadawaniu poważnych i zaawansowanych pytań wobec zjawiska, które łatwo podważyć przez odwołanie do benchmarków, statystyk ekonomicznych, badań społecznych. Raziła w tym wszystkim faktyczna nieobecność, a może po prostu niemoc refleksji katolickiej, która - w ustach wielu panelistów - nawet jeśli miała być krytyką AI, faktycznie akceptowała i powielała hype. Być może to zresztą globalny problem efektywności języka religijnego. Czy rzeczywiście stosowana przez papieża metafora AI jako Wieży Babel dodaje jakąś nową wartość ponad niereligijną krytykę sprowadzania człowieka do roli zasobu, i czy wartość tej krytyki nie jest osłabiana oczywistymi odwołaniami do Boga, które nie dla wszystkich są przecież użyteczne? Przecież także hype na AI budowany jest za pomocą języka religijnego, tyle że o przeciwnym wektorze.

W części dyskusji i wypowiedzi podczas sobotniego spotkania rewolucję AI, omnipotencję modeli i determinizm gospodarczy uznano za niepodważalne fakty. Ponieważ jednak nawet uczony hype jest oszustwem, wszystkie uwagi, zalecenia i komentarze proponowane przez uczestników paneli okazały się dyskusją z mirażem. Mimo to spotkanie w warszawskim Pałacu Biskupów i Arcybiskupów można uznać za wartościowe ćwiczenie i cieszyć się, że głos w debacie o sztucznej inteligencji zabierają również środowiska humanistyczne i społeczne. Byłoby jednak zdecydowanie lepiej, gdyby szukając własnej podmiotowości i nowych form oporu, nie budowały ich na opowieściach fałszywych proroków z Doliny Krzemowej.

Autor: redakcja