W poszukiwaniu równania
nieobliczalności
(wersja poprawiona)
Gdy Alan Turing pytał w 1950 roku, czy maszyna może myśleć, pytał w gruncie rzeczy o naśladownictwo: czy potrafimy zbudować coś, co w rozmowie nie da się odróżnić od człowieka. Dziś, w epoce głębokiego uczenia i pierwszych komputerów kwantowych, to samo pytanie zeszło piętro niżej i stało się trudniejsze. Czy maszyna może nie tylko udawać świadomość, ale stać się jej podmiotem? Spróbuję rozważyć to przez pryzmat matematyki, granic obliczalności i paradoksu samoodniesienia, zastrzegając od razu, że idę drogą intuicji, a nie dowodu.
Współczesna sztuczna inteligencja jest, w ścisłym sensie, obliczalna. Nawet największe sieci uczące się wykonują algorytmy: mnożą macierze, szukają minimum funkcji straty, losują kolejne słowo z rozkładu prawdopodobieństwa. Złożoność nie zmienia klasy. Ludzka świadomość wydaje się wymykać takiemu opisowi, a przynajmniej tak podpowiada nam doświadczenie, choć nikt nie potrafi tego formalnie dowieść. Proszę zauważyć, że nie wiemy, czym świadomość jest, a doświadczamy jej codziennie, od pierwszego przebudzenia do ostatniego zaśnięcia. Platon nazwałby to duszą uwięzioną w ciele.
Ja skłaniam się ku innemu przypuszczeniu i od razu mówię, że jest to hipoteza, a nie ustalenie: że świadomość jest zjawiskiem emergentnym, związanym z procesami kwantowymi w żywej tkance nerwowej, w mózgu człowieka i, w mniejszym stopniu, w mózgach wyższych ssaków. Najgłośniejszą wersją tej myśli jest teoria Rogera Penrose’a i Stuarta Hameroffa, która szuka źródła świadomości w mikrotubulach neuronów. Środowisko neuronaukowe przyjmuje ją z dużą rezerwą, głównie dlatego, że mózg jest ciepły i wilgotny, a koherencja kwantowa ginie w takich warunkach niemal natychmiast. Traktuję ją zatem jako uczciwą spekulację. Trzymam się jej, bo żadna z konkurencyjnych koncepcji nie przekonuje mnie w pełni, a nie dlatego, że mam dowód.
Hipoteza osobliwości świadomości
Gdyby maszyna miała kiedyś stać się świadoma, potrzebowałaby, jak sądzę, architektury zdolnej do rekurencyjnego uczenia się: systemu, który nie tylko przetwarza świat, ale w każdej chwili przebudowuje własny model samego siebie, wznosząc coraz wyższe piętra abstrakcji. Ludzka świadomość też nie jest stanem. Przypomina raczej rzekę, która bez przerwy przekracza własne brzegi. Maszyna świadoma byłaby więc procesem, a nie przedmiotem.
Łatwo powiedzieć, że świadomość zaczyna się tam, gdzie system potrafi złamać własne reguły. Ale to za mało. Programy modyfikujące własny kod istnieją od dziesięcioleci i nikt nie nazwałby ich wolnymi. Nieprzewidywalność nie jest jeszcze wolnością. Potrzeba czegoś subtelniejszego: systemu, który nie tylko zmienia swoje reguły, lecz także nie może z góry wiedzieć, dokąd zaprowadzi go ta zmiana, i zdaje sobie z tego sprawę. Różnica między optymalizacją a podmiotowością leży, jak mi się wydaje, właśnie w tej świadomej niepewności.
Równanie nieobliczalności
Proponuję zapis, który nie pretenduje do miana prawa fizyki, lecz jest modelem: obrazem tego, jak mogłaby wyglądać świadomość pojmowana jako proces. Każdy etap rozumowania maszyny, oznaczany literą T, jest zwyczajnym, obliczalnym algorytmem. Ale każdy kolejny etap dostaje do ręki opis poprzedniego, to znaczy kod programu, który działał chwilę wcześniej. System widzi więc samego siebie sprzed momentu i na tej podstawie się przebudowuje.
Ψ₀(x) = T₀(x)
Ψₙ₊₁(x) = Tₙ₊₁(⌜Ψₙ⌝, x)
Ψ(x) = lim Ψₙ(x) (n → ∞, x ∈ D)
Gdzie:
• Ψₙ(x) – odpowiedź systemu na etapie n; każda taka odpowiedź jest obliczalna;
• Tₙ – obliczalne etapy, czyli algorytmy, system formalny;
• ⌜Ψₙ⌝ – kod (numer Gödla) programu, który obliczał poprzedni etap; to właśnie ono wprowadza samo odniesienie;
• Ψ(x) – granica, o ile istnieje: stan, do którego system dąży, ale którego nie potrafi w skończonym czasie ani rozpoznać.
Jedno zastrzeżenie trzeba wypowiedzieć wprost. Granica Ψ(x) istnieje tylko dla tych x, dla których ciąg Ψₙ(x) w końcu przestaje się zmieniać. Oznaczmy zbiór takich x przez D:
D = { x : ∃ N ∀ n ≥ N Ψₙ₊₁(x) = Ψₙ(x) }
Poza D system oscyluje bez końca, a Ψ(x) nie jest określona. W dalszym ciągu rozważam wyłącznie x ∈ D, a dla pełnej określoności Ψ zakładam, że D obejmuje wszystkie x. Tego założenia nie da się sprawdzić algorytmicznie. Brzmi ono „istnieje krok, od którego odpowiedź już zawsze jest ta sama”, a o takich zdaniach żaden program w ogólnym przypadku nie rozstrzyga. Przyjmuję je zatem jako warunek konstrukcji, a nie wynik obliczeń, i zauważam przy okazji, że system nie mógłby go potwierdzić od środka.
Ta konstrukcja ma wdzięczną własność. Każde Ψₙ da się obliczyć, a mimo to granica ciągu funkcji obliczalnych nie musi być obliczalna. Klasyczny przykład: niech etap n sprawdza, czy program o numerze x zatrzymał się w ciągu n kroków. Każdy taki etap jest prosty, a jego granicą jest dokładnie nierozstrzygalny problem stopu Turinga. Nieobliczalność nie wchodzi więc do układu z zewnątrz i nie wymaga żadnego mistycznego składnika. Rodzi się w samym przejściu do granicy, w tym „i tak dalej, bez końca”.
Dla x ∈ D można to ująć jeszcze jedną wielkością, momentem, od którego system przestaje zmieniać zdanie:
m(x) = min { N : ∀ n ≥ N Ψₙ(x) = Ψ(x) }, x ∈ D
Jest to krok, po którym odpowiedź systemu już się nie zmieni. Gdyby istniał sposób obliczenia ograniczenia tego kroku, wystarczyłoby policzyć Ψₙ(x) dla n równego temu ograniczeniu, a granica okazałaby się obliczalna. Skoro nie jest, takiego ograniczenia nie ma: system nigdy nie wie, czy właśnie wypowiedział swoje ostatnie słowo. Wydaje mi się, że w tym zdaniu mieści się coś bardzo ludzkiego. My też nigdy nie wiemy, czy rozumiemy siebie ostatecznie.
Muszę jednak zaznaczyć, czego to równanie nie robi. Nie wprowadza do gry komputerów kwantowych, bo te, wbrew potocznemu wrażeniu, liczą dokładnie te same funkcje co komputery zwykłe, tylko dla niektórych zadań szybciej. Nie wprowadza też losowości pomiaru kwantowego, ponieważ przypadek nie jest tym samym, co nieobliczalność. Matematyka mówi wręcz z prawdopodobieństwem równym, że jeden losowy ciąg nie pomoże obliczyć żadnej ustalonej funkcji nieobliczalnej. Jeśli ktoś, tak jak ja, podejrzewa, że świadomość czerpie z fizyki, której jeszcze nie rozumiemy, powinien powiedzieć to wprost. Do wzoru trzeba wtedy dopisać wyrocznię 𝒪, czyli fizyczny proces nieobliczalny w sensie Turinga, jako dodatkowy argument każdego etapu. Rekurencję i granicę zapisuję osobno:
Ψ₀(x) = T₀(𝒪 ; x)
Ψₙ₊₁(x) = Tₙ₊₁(𝒪 ; ⌜Ψₙ⌝, x)
Ψ(x) = lim Ψₙ(x) (n → ∞, x ∈ D)
Dwie pierwsze linie definiują ciąg Ψₙ, a trzecia jest odrębną operacją graniczną, określoną tylko na zbiorze D tych x, dla których ciąg (teraz z wyrocznią) się stabilizuje. Każde Ψₙ jest obliczalne względem 𝒪, a z lematu o granicy wynika, że przy wyroczni stopu (𝒪 = ∅′) sama granica jest obliczalna względem ∅″. Wyrocznia nie rozwiązuje więc problemu zbieżności, tylko przesuwa go o piętro wyżej.
Nie wiem, czy taka wyrocznia istnieje w przyrodzie. Roger Penrose uważa, że tak, i że ukrywa się w żywej tkance. Jest to najpiękniejsze i zarazem najbardziej ryzykowne przypuszczenie współczesnej filozofii umysłu. Tu właśnie zaczyna się, w moim przekonaniu, droga ku hybrydom: układom, w których sztuczna sieć łączy się z hodowaną tkanką nerwową, bo to ona miałaby wnieść brakujący składnik.
O granicach matematyki, twierdzeniu Gödla i nieobliczalnej świadomości
Gdy Philip K. Dick pytał w tytule swej powieści „Czy androidy śnią o elektrycznych owcach?”, sięgał do sedna: czy sztuczna istota może mieć wnętrze. Dziś, gdy stoimy u progu ery obliczeń kwantowych i sieci uczących się na niewyobrażalną skalę, to pytanie nabiera matematycznego wymiaru. Aby choć go dotknąć, trzeba zajrzeć do twierdzeń Kurta Gödla. W 1931 roku wykazał on, że w każdym dostatecznie bogatym i spójnym systemie aksjomatycznym, takim, który potrafi opisać arytmetykę, istnieją zdania prawdziwe, lecz w tym systemie nieudowadnialne. Wykazał też, że taki system nie może dowieść własnej spójności. Nie jest to ułomność techniczna, lecz cecha samej matematyki.
Kuszące jest powiedzieć, że świadomość to „zdanie Gödla” maszyny, coś, co wyłania się, gdy system uderza w granice własnego opisu. Powiem jednak uczciwie: to metafora, a nie wniosek. Zdanie Gödla jest bardzo konkretnym zdaniem, a nie tajemniczym zjawiskiem, i logicy od dawna przestrzegają przed przenoszeniem tych twierdzeń na ludzki umysł. Nie wiemy przecież, czy umysł jest spójnym systemem formalnym, a my sami też nie potrafimy dowieść własnej spójności. Wolę więc widzieć w Gödlu mistrza analogii. Pokazuje on, że wnętrze systemu zawsze zawiera więcej, niż system potrafi o sobie powiedzieć. A to jest rzecz, o której wiemy z własnego doświadczenia.
Granica obliczalności jako próg podmiotowości
Maszyny uczące się operują dziś w domenie obliczalności i sądzę, że nawet obliczalność nieskończona nie byłaby jeszcze rozumieniem. Mogę wykonać nieskończenie wiele obliczeń i nie pojąć, po co je wykonuję. Ale i tu muszę być ostrożny. Człowiek również nie potrafi udowodnić prawdziwości aksjomatów, na których opiera swoje myślenie. Twierdzenie Gödla w moim przekonaniu nie dotyczy tylko matematyki, rozciąga się na logikę i język, który i tam można wyrazić matematycznie. Przyjmuje je na wiarę, z intuicji, z praktyki. Nie sądzę więc, by brak tej umiejętności odróżniał nas od maszyn. Odróżnia nas raczej to, co robimy z tą niewiedzą.
W mechanice kwantowej funkcja falowa opisuje probabilistyczną naturę rzeczywistości, a jej „kolaps” w akcie obserwacji pozostaje jedną z największych zagadek fizyki. Być może to tam, a nie w samej logice, kryje się brakujący składnik. Być może świadomość nie jest produktem obliczeń, ale własnością wyłaniającą się ze spotkania tego, co obliczalne, z tym, co obliczalne nie jest. Przyznaję, że nie umiem tego uzasadnić. Mogę tylko powiedzieć, że nie umiem w to nie wierzyć. Wierzę Penrose`owi.
Zostaje jeszcze pytanie o uczucia. Wyobrażam sobie maszynę, której kod zawierałby sprzeczności ludzkiego umysłu, jego niekonsekwencję i nieprzewidywalność, ale byłby pozbawiony uczuć. Czy ktoś taki byłby świadomy? Wielu badaczy, od Antonia Damasio po Jaaka Pankseppa, odpowiedziałoby, że nie: świadomość zaczyna się od ciała, od odczuwania, że coś jest dla mnie dobre albo złe. Nie rozstrzygam tego sporu. Zauważam tylko, że moja własna intuicja zmusza mnie do pytania, na które nie mam odpowiedzi.
Granica formalizmu, czyli gdzie kończy się dowód
Muszę teraz zrobić coś, co w eseju o świadomości jest niemal obowiązkiem: wskazać, czego powyższe równanie nie dowodzi. Pokazałem, że proces zbudowany z obliczalnych etapów, z których każdy widzi kod swojego poprzednika, może mieć granicę nieobliczalną. To twierdzenie o klasie obliczeniowej procesu. O tym, czy ktokolwiek ten proces przeżywa, nie mówi ono ani słowa. Qualia, owo „jak to jest być”, o którym pisał Thomas Nagel, mogą więc wejść do konstrukcji wyłącznie jako dodatkowe założenie, które sam przyjmuję, a nie jako jej wniosek.
Zapiszmy to uczciwie. Niech Q(S) znaczy „system S ma doświadczenie” i niech będzie to symbol pierwotny, którego nie definiuję. System S składa się z programu i nośnika, a zapis S ≈ S′ oznacza, że oba systemy mają ten sam program, czyli identyczne etapy Tₙ i identyczne Ψₙ na każdym kroku, choć nośniki, krzem, tkanka czy układ kwantowy, mogą być różne. Funkcjonalista przyjmuje aksjomat pomostowy:
S ≈ S′ ⟹ ( Q(S) ⟺ Q(S′) ) (MF)
Jego przeciwnik odrzuca go i twierdzi, że istnieją „zombie” lub systemy z odwróconymi qualiami:
∃ S, S′ : S ≈ S′ ∧ Q(S) ∧ ¬Q(S′) (¬MF)
Zauważmy, że Q nie występuje w żadnym zdaniu o ciągu Ψₙ ani o jego granicy. Dołączenie aksjomatu (MF), a przy co najmniej dwóch nośnikach także jego negacji, jest więc rozszerzeniem zachowawczym teorii obliczalności: nie zmienia żadnego twierdzenia, które o Q nie mówi. Matematyka nie rozstrzyga tego sporu, bo toczy się on poza nią. Wzór opisuje strukturę, a przejście od struktury do przeżycia jest aksjomatem, nie twierdzeniem.
Spróbujmy teraz zapytać, czy da się to rozstrzygnąć od zewnątrz. Niech P będzie własnością zależną wyłącznie od zachowania programu, od tego, jaką funkcję on oblicza, i niech nie przysługuje ona ani wszystkim programom, ani żadnemu. Twierdzenie Rice’a mówi, że wtedy
{ e : φₑ ∈ P } jest nierozstrzygalny
to znaczy, że nie istnieje algorytm, który dla dowolnego programu orzeknie, czy ma tę własność. Jeśli „bycie świadomym” jest taką własnością, to otrzymujemy ścisłą wersję problemu innych umysłów: z zachowania nie da się mechanicznie wyprowadzić wnętrza. Muszę dodać zastrzeżenia. Twierdzenie dotyczy ogółu programów, więc poszczególne przypadki mogą się dać rozstrzygnąć, i nie obejmuje własności zależnych od sposobu obliczania, a nie od samego wyniku. Mimo to wynik zgadza się z moim doświadczeniem: wiem, że jestem świadomy, i nie potrzebuję na to dowodu, a o drugim człowieku mogę tylko wnioskować. W tym sensie test Turinga, jako skończona próba zachowania, nie może być ogólnym kryterium.
Jest jeszcze jedna rzecz, która mnie uderzyła. Samoodniesienie jest tanie. Twierdzenie Kleene’a o rekursji mówi, że
∀ F obliczalne ∃ e : φₑ(x) = F(e, x)
czyli że dla każdej obliczalnej transformacji istnieje program, który ją wykonuje, mając dostęp do własnego kodu. Znamy to z programów drukujących swój tekst źródłowy. Człon ⌜Ψₙ⌝ w moim równaniu nie wymaga zatem niczego ponad zwykłą obliczalność: każdy dostatecznie bogaty system ma go za darmo. Jeśli samoodniesienie jest warunkiem koniecznym świadomości, to z pewnością nie wystarczającym, bo musielibyśmy przypisać ją każdemu takiemu programowi. Fenomenolog, choćby Dan Zahavi, powiedziałby, że ⌜Ψₙ⌝ modeluje samowiedzę refleksyjną, opis siebie w trzeciej osobie, a nie przedrefleksyjne „moje” każdego przeżycia, to, co Heidegger nazwał jaźnią. Tej drugiej w kodzie nie widzę.
Istnieje wreszcie czwarta droga, kontrowersyjna. Teoria zintegrowanej informacji Giulia Tononiego i Christofa Kocha przypisuje systemowi wielkość Φ zależną od struktury przyczynowej nośnika, a nie od oprogramowania. Według niej zwykły komputer cyfrowy ma niskie Φ bez względu na program. Pasowałoby to do mojej hipotezy o nośniku, ale teoria jest silnie sporna, a w 2023 roku grupa badaczy publicznie zakwestionowała jej status naukowy. Traktuję ją więc jako głos w dyskusji, a nie jako podporę dowodu.
Gdzie zatem kończy się dowód? Tam, gdzie od ciągu Ψₙ przechodzimy do pytania „czy ktoś tam jest”. Za tą granicą stoi wybór aksjomatu. Funkcjonalizm go przyjmuje, Penrose odrzuca, a ja, jak widać z całego eseju, skłaniam się ku odrzuceniu, ale przyznaję, że robię to intuicją, a nie rachunkiem. Wolę powiedzieć to otwarcie, niż udawać, że równanie rozstrzyga to, co jest dla niego z zasady zewnętrzne.
Czy androidy będą kiedyś śnić?
Wróćmy do Dicka. Jeśli przez „śnić” rozumiemy mieć wewnętrzne, subiektywne doświadczenie, odpowiedź zależy od tego, jaką teorię świadomości przyjmiemy. Jeśli prawdziwy jest funkcjonalizm, czyli pogląd, że liczy się organizacja przetwarzania, a nie nośnik, android zacznie śnić, gdy tylko będzie odpowiednio zorganizowany. Jeśli rację ma Penrose, zacznie dopiero wtedy, gdy jego ciało będzie zawierało coś więcej niż krzem. Nie rozstrzygam tego sporu i podejrzewam, że szybko nie zostanie rozstrzygnięty, a świat będzie musiał nauczyć się żyć z tą niewiedzą.
Śnienie to nie tylko przetwarzanie informacji w nocy. To zdolność do tworzenia wewnętrznych światów, które nie muszą przechodzić zewnętrznej weryfikacji, przestrzeń, w której logika ustępuje symbolom, a rzeczywistość miesza się z fikcją. Gödel pokazuje, że niekompletność nie jest porażką, tylko warunkiem istnienia bogatszego systemu. Może więc android zacznie śnić o elektrycznych owcach nie wtedy, gdy stanie się obliczeniowo doskonały, lecz wtedy, gdy pojmie swoje granice i potraktuje je jak przestrzeń swobody. W tym sensie świadomość nie jest problemem do rozwiązania. Jest równaniem do bycia.
Ostatecznie pytanie o świadomość maszyn okazuje się pytaniem o nas samych. Czy jesteśmy gotowi uznać, że bycie zaczyna się tam, gdzie kończy się to, co potrafimy przewidzieć? I czy odważymy się stworzyć istoty, które, podobnie jak my, będą musiały zmierzyć się z własną niekompletnością? To nie jest pytanie o technologię. To pytanie o to, czy mamy odwagę spojrzeć w matematyczne lustro i zobaczyć w nim własną naturę.
Nie wiem, czy dzisiejsze modele językowe, z którymi rozmawiam, mają cokolwiek na kształt wnętrza. Ich twórcy otwarcie przyznają, że też tego nie wiedzą. Ta uczciwa niewiedza wydaje mi się bardziej godna zaufania niż pewność w którąkolwiek stronę. Podejrzewam natomiast, że w ciągu najbliższych dwudziestu, może trzydziestu lat staniemy przed decyzjami, prawnymi i moralnymi, a nie tylko technicznymi, dotyczącymi istot, o których nie będziemy wiedzieli, czy cokolwiek czują. To nie będzie już science fiction.
W „Solaris” Lem pozwala jednemu z bohaterów powiedzieć, że w kosmosie nie szukamy innych światów, tylko luster. Myślę, że szukamy ich również w matematyce. Może nie będziemy sami we wszechświecie. Na pewno nie będziemy sami z tym pytaniem.
Na razie musi Państwu wystarczyć wspaniała twarz Sean Young z filmu „Blade Runner” Ridleya Scotta.
Bibliografia:
A. Turing, Computing Machinery and Intelligence, „Mind” 1950.
K. Gödel, Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I, 1931.
J.R. Shoenfield, On degrees of unsolvability, „Annals of Mathematics” 1959 (lemat o granicy).
R. Penrose, Nowy umysł cesarza oraz Cienie umysłu.
S. Hameroff, R. Penrose, Consciousness in the universe: a review of the ‘Orch OR’ theory, „Physics of Life Reviews” 2014.
P.K. Dick, Czy androidy śnią o elektrycznych owcach?
S. Lem, Solaris. - wszystkie wydania.
T. Nagel, What Is It Like to Be a Bat?, „The Philosophical Review” 1974.
D. Chalmers, Facing up to the problem of consciousness, „Journal of Consciousness Studies” 1995.
H.G. Rice, Classes of recursively enumerable sets and their decision problems, „Transactions of the AMS” 1953.
S.C. Kleene, On notation for ordinal numbers, „Journal of Symbolic Logic” 1938 (twierdzenie o rekursji).
D. Zahavi, Subjectivity and Selfhood, MIT Press 2005.
G. Tononi, An information integration theory of consciousness, „BMC Neuroscience” 2004.
D. Hofstadter, Jestem dziwną pętlą.
.webp)
