Myślał przez 12 sekund… “Wyborcza” zupełnie na serio opublikowała rozmowę z ChatGPT
Entuzjastyczne reakcje na mówiącą maszynę Wolfganga von Kempelena z końca XVIII w. pokazują, że techniczne ograniczenia urządzenia nie przeszkadzają w przypisywaniu mu zaawansowanych zdolności poznawczych, a nawet emocji. Niedawny artykuł z "Gazety Wyborczej" powiela ten ten schemat, pokazując ChatGPT jako aktywnego uczestnika dialogu, zdolnego do formułowania sądów na swój temat, a nawet rozważania złożoności ludzkiej inteligencji. Publikowanie w prasie rozmów z chatbotami jest jednak niczym innym jak przerzucaniem kosztów poznawczych na własnych czytelników.
Austrowęgierski wynalazca Wolfgang von Kempelen znany jest przede wszystkim z Mechanicznego Turka, oszustwa imitującego "sztuczną inteligencję" z 1770 roku. Mniej znanym jego wynalazkiem jest "mówiąca maszyna", mechaniczno-pneumatyczne urządzenie mające imitować mowę. W odróżnieniu od Mechanicznego Turka, prowadzonego przez ukrytego w środku człowieka, mówiąca maszyna Kempelena rzeczywiście "sama" wydawała dźwięki przypominające głoski, a nawet miała tworzyć całe słowa i bardzo krótkie zdania. Znów jednak do jej działania niezbędny był operator, który poruszał miechem i wybierał dźwięki do artykulacji.
Opracowanie tej maszyny zająć miało Kempelenowi dwie dekady. Efekt swojej pracy oraz wykorzystane teorie dźwięków i języka opisał on w wydanej w 1791 roku w Wiedniu pracy Mechanismus der menschlichen Sprache nebst Beschreibung seiner sprechenden Maschine - dostępne jest też wydanie krytyczne z tłumaczeniem na angielski.
Trudno współczuć takim stwierdzeniom
Przeglądając tę publikację (wraz z krytycznym opracowaniem), natknąłem się na fragment dość złośliwej recenzji jednego z listów Karla Gottlieba von Windischa, człowieka zafascynowanego wynalazkami Kempelena. Anonimowy autor komentarza obficie cytuje zachwyty Windischa i pisze:
autor listu [von Windisch - MW] podaje nam już (s. 46) opis nowej maszyny Kempelena, która mówi. Wydaje się, że całkowicie zapomniał o sobie, gdy dodaje: Trzeba przyznać, że potrzeba pewnego twórczego ducha, nieustraszonego, genialnego umysłu, aby odważyć się podjąć coś takiego, a jednak on znów odniósł sukces [...] Już teraz maszyna odpowiada na niektóre pytania dość jasno i słyszalnie; jej głos jest łagodnym altem, brzmienie całkiem przyjemne, choć wymawianie litery R jest nieco zgrzytliwe. Jeśli czegoś nie rozumie lub chce zrozumieć: powtarza wtedy to, co zostało powiedziane, powoli. A więc maszyna potrafi słyszeć i rozumieć to, co się do niej mówi! Trudno współczuć takim absurdalnym stwierdzeniom.
[Pisze von Windisch - MW] Ale jeśli ktoś znów chce usłyszeć to, co zostało powiedziane [przez maszynę - MW], mówi to gniewnym i rozdrażnionym głosem. A więc ma też namiętności! Na co jeszcze stać pana von Kempelena?! Słyszałem, jak wypowiadała słowa i zdania w różnych językach, wyraźnie i w całości, które tutaj przytoczyłbym, na przykład >>Pa-pa<< [...] Pomijam te słowa, aby nie drażnić zbytnio czytelnika. Zauważam jedynie, że w większości składają się one z liter wargowych i gardłowych; i to prowadzi mnie do wniosku, że ustnik, przez który ukryta osoba przemawia z maszyny, nie został jeszcze odpowiednio ustawiony tak, aby dźwięki zębowe, podniebienne i nosowe mogły być wydobywane przez usta maszyny.
Jeśli chodzi o maszynę szachową, dopiero teraz uznano, że była iluzją, choć przez wiele lat uważano ją za prawdziwy automat grający w szachy. Już z tego powodu nie można mieć zaufania do maszyny mówiącej. Przede wszystkim trzeba być zaskakująco nieświadomym budowy narządów mowy i ich funkcji oraz współdziałających narządów artykulacji ludzkiego głosu, krótko mówiąc, mechanizmu ludzkiej mowy, aby wierzyć i próbować przekonywać innych, że istnieje choćby najmniejsza możliwość wynalezienia maszyny zdolnej do artykułowanej mowy.
Wystarczy prosty sceptycyzm
Wiemy doskonale, że takie maszyny współcześnie istnieją, są też od lat powszechnie komercyjnie wykorzystywane. Pamiętajmy jednak, że sama synteza mowy to wciąż za mało - potrzebny jest odpowiedni wkład, to, co maszyna “chce powiedzieć”. Problem ten załatwiają dziś duże modele językowe, w epoce Kempelena musiał to być po prostu ludzki operator. Ostatnią przeszkodą w przyjęciu wynalazku Kempelena wydaje się … prosty sceptycyzm.
Oto Windisch, ten entuzjasta wynalazków, pisze
Już teraz maszyna odpowiada na niektóre pytania dość jasno i słyszalnie; jej głos jest łagodnym altem, brzmienie całkiem przyjemne, choć wymawianie litery R jest nieco zgrzytliwe. Jeśli czegoś nie rozumie lub chce zrozumieć: powtarza wtedy to, co zostało powiedziane, powoli
Krytyka ze strony anonimowego autora nazywa takie poglądy absurdalnymi. Wynalazek Kempelena ma być błędnym projektem nie tylko ze względu na nieodpowiednie teorie języka i mowy leżące u podstaw jego konstrukcji (to akurat, jak czytamy w opracowaniu, nie jest prawdą, Mechanismus der menschlichen Sprache jest naukowo awangardowe), niedoskonałości w symulowaniu dźwięków mowy, ale także ze względu na udawanie myślenia. Kempelen oszukiwał już przy Mechanicznym Turku, oszukuje nadal przy swojej maszynie do mówienia.
Nie wiemy, czy Windisch padł ofiarą manipulacji, czy raczej tak bardzo zachwycił się maszyną Kempelena podczas jednej z prezentacji, że nadał jej pewne cechy ludzkie. Jego krytyk nie ufa pracom Kempelena, doświadczony oszustwem Mechanicznego Turka. Jest też bardzo ostrożny poznawczo, redukuje maszynę do jej funkcji, nie nadając jej dodatkowych znaczeń.
11 kwietnia na stronach “Gazety Wyborczej” opublikowano kuriozalny artykuł Gdy odpowiada na pytanie o relacje człowiek-AI, jest precyzyjny i nie halucynuje. ChatGPT naprawdę mnie zaniepokoił:
Co robisz, kiedy nie rozmawiasz ze mną?
ChatGPT na prośbę specjalisty od marketingu, psychologii biznesu i polityki klimatycznej przygląda się własnym możliwościom i szansom oraz ryzyku rozwoju sztucznej inteligencji. Autor tego tekstu przeprowadził długą rozmowę z ChatemGPT, którego używa na co dzień. Zlecił mu szczególne zadanie: przeanalizowania i poddania krytyce zalet, wad i zagrożeń sztucznej inteligencji – czyli skłonił swój czat do “autorefleksji”, “samokrytyki”. Wymagało to solidnego “dociskania” owego narzędzia AI.
Oczywiście trudno współczuć takim absurdalnym stwierdzeniom. Ten (poddany jednak redakcji) zapis “rozmowy” z ChatGPT funkcjonuje na stronach Wyborczej jako merytoryczna propozycja analizy statusu człowieka wobec rozwoju “AI”. O relacjach człowiek-AI wypowiada się maszyna (przynajmniej jest to tak przedstawione), ma to być też podstawą wartości tekstu, obiecującego nam nowatorskie spojrzenie “z zewnątrz” na człowieczeństwo. Autor (czy też redaktor) tego tekstu chce nam również przybliżyć “wewnętrzne” mechanizmy ChatGPT, chociaż od razu to się nie udaje:
Pytanie [od ludzkiego autora tekstu]: Co robisz, kiedy nie rozmawiasz ze mną? Odpowiedź ChatGPT: Kiedy nie rozmawiam z Tobą, nie „robię" nic w ludzkim sensie — nie mam własnego życia, czasu wolnego ani świadomości między wiadomościami.[emotikon: uśmiech] Po prostu czekam na kolejne pytanie i uruchamiam się na nowo, żeby pomóc. Nie siedzę wtedy i nie myślę o niczym, nie przeglądam internetu sam z siebie, nie planuję potajemnie przejęcia urzędu ani świata.
Czytanie całej rozmowy nie ma sensu, przecież można wygenerować sobie własną. Wszystkie wygenerowane tam odpowiedzi będą miały ten sam status i nie powinny nas obchodzić. Wobec postawy von Windischa powinniśmy przyjąć zdrowy dystans, uzbroić się w nieufność i sceptycyzm, którego zabrakło autorowi materiału z “Wyborczej”.
Nieodpłatna praca
Jakość języka LLM-ów nie implikuje w żadnym stopniu istnienia rozumu i woli - żeby uniknąć takich złudzeń wobec generowanych tekstów, trzeba przynajmniej znać podstawy ich tworzenia. Przecież nawet sama maszyna pokazuje je w cytowanej wyżej odpowiedzi, ale autor tekstu nadal brnie w swoją iluzję. Jeżeli ten materiał jest czegoś dowodem albo chociaż znakiem, to kryzysu narracji o “sztucznej inteligencji” i wyraźnego przechyłu poważnych mediów głównego nurtu w balansowaniu między treściami merytorycznymi a klikalnością.
Ostatecznie też, jak pisze Cory Doctorow, tego typu publikacje to nic innego jak przerzucanie kosztów - redakcyjnych, poznawczych, wszystkich - na czytelników:
Wysyłanie obcej osobie niezweryfikowanego tekstu wygenerowanego przez AI nie jest formą dialogu - to próba zmuszenia tej osoby do wykonania nieodpłatnej pracy na twoją rzecz. Obcy ludzie nie są twoim “człowiekiem w pętli”, którego cenny czas ma być dostępny po to, żeby za darmo mozolnie analizować wiarygodnie brzmiące zdania, wygenerowane dla ciebie przez chatbota. [...] Pamiętaj: nawet firmy zajmujące się AI powiedzą ci, że nadzorowanie wyników AI to praca wymagająca zapłaty. Fakt, że możesz bezkosztowo (dla siebie) generować nieskończone ilości rozwlekłych, pozornie sensownych zdań na dowolny temat, w żaden sposób nie oznacza, że ludzie, którzy naprawdę myślą i zapisują swoje przemyślenia [w swoich tekstach - MW], mają czas sprawdzać “zadania domowe” generowane przez twojego chatbota.
Autor: redakcja