Duch w maszynie

Duch w maszynie
(Ghost in the machine)

UMK - logo

       Włodzisław Duch  

duch1

Katedra Informatyki Stosowanej,
Uniwersytet Mikołaja Kopernika

Grudziądzka 5, 87-100 Toruń

e-mail: id: wduch, na serwerze fizyka.umk.pl.

WWW: https://www.fizyka.umk.pl/~duch

 


  1. Mit Kartezjański i rozumienie umysłu.


  2. Trudny problem świadomości i jego rozwiązania.


  3. Mózgo-podobna organizacja przetwarzania informacji.


  4. Sztuczny intelekt - argumenty za i przeciw.


  5. Czym są wrażenia i dlaczego istnieją?


  6. Wnioski i przewidywania.

1. Mit Kartezjański i rozumienie umysłu.

Fizyka - badania eksperymentalne i matematyczne modele rzeczywistości.
Czy fizyka wystarczy jako podstawa do zrozumienia rzeczywistości?
Czy jest w naszym rozumieniu świata miejsce dla umysłu?
Biofizyka - procesy bioelektryczne zachodzące w mózgu.
Psychofizyka - do XX wieku ważna dziedzina, Izaac Newton, Thomas Young, Herman von Helmholtz, Erwin Schrödinger (kolor); Ernst Mach (słuch, teoria pomiaru).

Czy teoria umysłu jest możliwa? Sporo ludzi sądzi, że przekracza to możliwości nauki.
“... bardzo chcę, by się to nam nigdy nie udało” (Ł. Turski, recenzja książki R. Penrose'a “Nowy umysł cesarza”, Postępy Fizyki, 1996)

50 lat od wydania książki “The concept of mind” (Czym jest umysł)
Gilbert Ryle (1900-1976), prof. Oxfordu - kartezjański mit “ducha w maszynie”, przekonanie o istnieniu kierującego ciałem ducha. Mit głęboko zakorzenionych w naszej kulturze, leżący u podstaw wielu religii.
Indianie widząc pędzący przez prerie pociąg byli pewni, że musi w nim być ukryty koń.

Pojęcie umysłu wynika z pomyłki kategorialnej, jaką jest uznanie umysłu za obiekt różny od sumy jego aktów i stanów, za rzecz a nie proces. Odwoływanie się do “ducha w maszynie” (deus ex machina) nie pomaga w wyjaśnieniu natury umysłu, bo każde odwołanie się do wewnętrznych procesów celem wyjaśnienia inteligencji wymaga użycia procesów inteligentnych, a więc niczego nie wyjaśnia.


2. Trudny problem świadomości

Świadomość – wiele aspektów, tutaj tylko najtrudniejszy.

Jakościowy charakter subiektywnych doświadczeń – stary problem w nowym ujęciu Davida Chalmersa (1995,96), jego książka (ma 43 recenzje!) i dyskusja (26 komentarzy) na łamach “Journal of Consciousness Studies”.

Qualis (łac.) oznacza własność w oderwaniu od rzeczy, posiadających daną własność, stąd w literaturze filozoficznej “qualia problem”.

Wrażenia subiektywne – nie wystarczy wyjaśnić funkcje, tak jak np. dla problemu integracji wrażeń o różnych modalnościach w jedną całość, dostępności informacji, tworzenia raportów na temat stanu wewnętrznego, dialogu wewnętrznego itp.

Wrażenie barwy nie daje się rozłożyć na czynniki prostsze, stąd wyjaśnienia redukcjonistyczne nie są możliwe.

Czy sztuczny system może mieć wrażenia? Jak można się do tego zabrać i jak to sprawdzić?

Zaprogramować można jedynie “różnice, które robią różnice”, a więc stany informacyjne. Istnienie wrażeń nie jest obserwowalną różnicą – tak się przynajmniej wydaje bo przetwarzanie informacji może zachodzić bez wrażeń (np. ślepota korowa).

Istnieje logiczna możliwość przetwarzania informacji “w ciemności”, bez doświadczania wrażeń, istnienia zombi.

Trudny problem: wrażenia. Reszta teoretycznie “łatwa”, bo sprowadza się do wyjaśnienia funkcji (wielu jeszcze nie poznanych).


Rozwiązania trudnego problemu

1. Czy jest tu jakiś realny problem ?

Dennett (1996): życie, “fajność” - trudne sztuczne problemy.
Wrażenia subiektywne kwestią mentalnych dyspozycji.
Życie, fajność – koncepcje abstrakcyjne, wrażenia nie.

2. Rozwiązania nie-redukcyjne.

Chalmers: podwójny aspekt informacji, fizyczny i fenomenalny (związany z wrażeniami) = naturalistyczny dualizm (por. Spinoza 1677)
Jest to właściwie rezygnacja z próby wyjaśnień i wprowadzenie nowego, fundamentalnego prawa przyrody: doświadczenia subiektywne istnieją, bo tak jest.

3. Teorie neurobiologiczne

Francis Crick i Chris Koch (1995), neurobiologiczna teoria znaczenia – dlaczego znaczeniu miałyby towarzyszyć doświadczenia świadome? Propozycja “neuronów świadomości” – naiwne, bo w mózgu nie ma słabych sprzężeń.
Crick, F. Koch, C. Towards a neurobiological theory of consciousness. Seminars in the Neurosciences, 2 (1991) 263-275.

4. Teorie psychologiczne

Bernd Baars – “brutalny fakt”, z jakimi często mają do czynienia psycholodzy. Globalnie dostępna informacja staje się świadoma, ale czy sztuczne systemy mogą mieć wrażenia?

5. Panpsychizm.

Stare rozwiązanie - świadomość własnością materii. W słabej wersji (Seager 1995, Rosenberg 1996) pojawia się jako panprotopsychizm: materia ma własność X, która w połączeniu ze złożoną materią tworzy świadomość. Własność X ma się tak do świadomości jak czas do ruchu. Czas wraz z przestrzenią umożliwiają istnienie ruchu, podobnie własność X wraz z innymi pozwala na istnienie świadomości.

6. Teorie redukcjonistyczne.

Podstawowe elementy świadomości, “protofenomeny”.
Jak te protofenomeny wiążą procesy fizyczne z umysłowymi?

7. Świadomość przejawem praw kwantowych.

Opis kwantowy konieczny dla nielokalnego modelu umysłu (Stapp 1993, Clarke 1995).
Różne rozwiązania, od grawitacyjnego kolapsu Penrose‘a do psychonów Ecclesa.

Żadne z tych rozwiązań niczego nie tłumaczy!


3. Mózgo-podobna organizacja przetwarzania informacji: świadomość wirtualna

Komputery i maszyny Turinga – niewłaściwa metafora, chociaż przydatna w przezwyciężeniu behawioryzmu.

Umysł: układ kontrolny systemu o specyficznej architekturze.
Umysł jest tym, co robi mózg.

Im dokładniejsze modele mózgu => tym więcej funkcji umysłu.
Nawet prymitywne modele pokazują zdumiewająco wiele podobieństw z działaniem umysłu!

Neuronowe modele pamięci asocjacyjnej:

  1. zdolność do rozpoznawania uszkodzonych wzorców,
  2. czas nie zależy od liczby zapamiętanych wzorców,
  3. uszkodzenie części macierzy połączeń nie prowadzi do zapomnienia konkretnych wzorców,
  4. pomyłki dla podobnych wzorców częstsze niż dla różnych,
  5. przepełnienie pamięci prowadzi do chaotycznego zachowania.

Komputerowa psychiatria: modele pamięci, różnego rodzaju amnezji (w tym dziecięcej), procesów degeneracji (neuropsychologia), zaburzeń mowy, halucynacji, problemów psychiatrycznych.

“Neural network models offer a better chance of rescuing the study of human psychological responses to drugs than anything else currently available” (Callaway, Halliday, Naylor, Yano, Herzig, Neuropsychopharmacology 1994).

Inne osiągnięcia:

  1. Gra w szachy, warcaby, systemy doradcze.
  2. Dowodzenie twierdzeń (np. hipoteza Robbinsa, 1936).
  3. Systemy ewoluujące, działające w oparciu o ogólne wartości, np. robot Cog z MIT, robot Nomad z La Jolla, gruntowanie sensu nie w symbolach, lecz w reprezentacjach senso-motorycznych.
  4. Ontologia podstawowa systemu CYC, powstanie zespołów ekspertów zdolnych do dyskusji, plany komputerowego doradcy prezydenta USA w sprawach kryzysów politycznych.

Dostępne komputery: poniżej 0.1% szybkości przetwarzania i wielkości pamięci ludzkiego mózgu!

Sztuczny umysł: pamięć robocza (WM), pamięć trwała, dyskryminacja ciągłych reprezentacji, aktywacja asocjacji, reprezentacja jestestwa, możliwość komentowania stanu WM. Struktura umysłu wynikła z oddziaływania ze środowiskiem, nie ma skończonej logicznej specyfikacji. Jaka jest granica możliwości tego typu modeli?

Artilekt: sztuczny umysł w miarę doskonalenia modelu obliczeń opartego na mózgopodobnej organizacji stanie się coraz bardziej podobny do prawdziwego umysłu. Będzie nie tylko twierdzić, iż ma wrażenia, ale i będzie sam o tym przekonany, interpretując stan swojej pamięci roboczej.

Czy możemy uznać, iż będzie to przekonanie fałszywe?
Wiele wysiłku w filozofii umysłu poświęcono próbom pokazania, że intencjonalność, rozumienie, wrażenia, świadomość to cechy maszynom niedostępne.


4. Sztuczny intelekt - argumenty za i przeciw.

Poszukiwanie rozwiązań w teoriach fundamentalnych jest błędne; w równaniu Schrödingera są zachody słońca i rechotanie żab ale niewiele się z niego o żabach nauczyliśmy, więc i kwantowa grawitacja nam nie pomoże.
Świadomość pojawia się jedynie w systemach o mózgo-podobnej złożonej organizacji.
Fizyka wyjaśnia złożone zjawiska w oparciu o proste prawa, tu jest dokładnie odwrotnie, mamy proste odczucia, ale stoją za nimi złożone procesy.

Dobra teoria powinna pytać: jakiego rodzaju systemy mają umysły? Jak musza być zbudowane? Na jakie inne, istotne pytania dotyczące działania umysłu odpowiada teoria?

Rozważania filozoficzne: uwikłane w problemy lingwistyczne.

Czym jest ładunek? Krzesło? Proszę o następne pytanie.

Czy mamy dobry test, odróżniający systemy posiadające wrażenia od systemów przetwarzających informację, np. kosmity? Skąd wiemy, że mamy do czynienia ze sztucznym umysłem?

Test Turinga – do dzisiaj dyskutowany. Czy wystarczy przejść test Turinga by uznać, że mamy do czynienia z systemem świadomym?
Turing w piśmie Mind (1950) rozważył różne argumenty przeciw takiej możliwości:

  1. Zarzut teologiczny: maszyna nie ma duszy.
    Wersja współczesna – psychony wokół dendronów, John Eccles.
  2. Lepiej schować głowę w piasek – straszne konsekwencje, przede wszystkim dla naszego antropocentryzmu. Efekt: racjonalizacje i emocje, przekonanie o beznadziejności badań nad umysłem, nadzieje na to, że problem nigdy nie zostanie zrozumiany (np. Turski).
  3. Zarzut matematyczny – twierdzenia Gödla, Churcha, Turinga o zdaniach nierozstrzygalnych (por. Lukas, Penrose). Poszukiwania nowej fizyki, mikrotubule - niepotrzebne. Ograniczenia umysłu są dużo silniejsze!
    Wniosek: nie można stworzyć maszyny wszechwiedzącej.
  4. Świadomość, emocje, uczucia to rzeczy niedostępne maszynom – trudny problem Chalmersa.
  5. Argumenty dotyczące różnych niemożliwości, w tym trudności ze zrozumieniem koncepcji matematycznych, czyli ... maszyna jest głupia i zawsze taka być musi?
  6. Twórcze działanie. Maszyna sama nie może nic wymyślić – teraz już może !
  7. Układ nerwowy nie działa w sposób dyskretny – ale możliwe są dowolnie dokładne aproksymacje (analogowe komputery zastąpiły cyfrowe).
  8. Zachowanie człowieka nie da się opisać przy pomocy reguł – wielu programów również!
  9. Postrzeganie pozazmysłowe – argument równie mało aktualny teraz jak i w 1950 roku.

Turing odrzucił wszystkie te argumenty. Filozofowie umysłu znaleźli inne argumenty przeciw:

Inne problemy związane ze świadomością:

  • Eksperyment z Chińskim Pokojem (J. Searl, 1980) – nie odróżnia umysłu od przetwarzania informacji, odwołuje się do tajemnych mocy biologicznych neuronów, zły test.
  • Nieprzestrzenna natura umysłu (np. McGinn) – oczywiście, konieczna jest teoria relacyjna!
  • Jak to jest być nietoperzem (T. Nagel, 1974)? Trudność wyobrażenia sobie świata z innej perspektywy, bezradność wobec problemu wrażeń.
  • Mary daltonistka (Jackson, 1982) - wrażenia to realne stany mózgu, nowe wrażenia => nowe stany.
  • Wrażenia są iluzją (Putnam, 1998) – paradoks Zenona?
  • Rozumienie - S. Harnad, The Symbol Grounding Problem. Physica D 42 (1990) 335 - 346.
    W jaki sposób symbole mogą nabrać znaczenia wewnątrz systemu a nie tylko dzięki projekcji naszych intencji?
  • Czy umysł może sam siebie zrozumieć? To zależy.


Funkcjonalizm: zasada niezmienniczości organizacyjnej.

Liczy się tylko organizacja, stany informacyjne, a nie materia (nieładnie być “węglowym szowinistą”). Jest to podstawa większości argumentów w filozofii umysłu, wpływ analogii umysł-komputer uniwersalny.

Ale: atomu węgla nie można jednak zastąpić atomem krzemu, ani też neuronu biologicznego podmienić sztucznym. Drobne zmiany struktury mózgu sumują się prowadząc do zmian postrzeganych wrażeń.

Krzemowe mózgi nie mogą być identyczne z biologicznymi ale modele aproksymujące funkcje mózgu w granicy dokładności powinny dążyć do zachowań typowych dla prawdziwego mózgu.

Wszystkie wypowiedzi dotyczące wrażeń wymagają działania mechanizmów poznawczych.
Jestem przekonany, że mam wrażenia, które nie są tylko złudzeniem.

Czy podobne przekonania mieć może maszyna? Jeśli tak, należy uznać, że systemy o odpowiedniej architekturze mogą być świadome.

Nie widzę dobrych argumentów przeciw takiej możliwości.
Eksperymenty myślowe przeciw nie są przekonywujące!


5. Czym są wrażenia i dlaczego istnieją?

Podstawowe operacje mózgu: kategoryzacja, wartościowanie i odnoszenie do modelu wewnętrznego jestestwa.

Konieczne jest szybkie porównanie np. smaku z zapamiętanymi smakami w długotrwałej pamięci (szczury są w tym dobre), a więc centralny system dystrybucji informacji do wszystkich części mózgu – jest to rola pamięci roboczej (por. Baars).

Pamięć robocza jest niewielka, oparta na dynamicznych stanach mózgu (stan bioelektryczny); pamięć długotrwała jest ogromna (struktura połączeń synaptycznych).

Brak adekwatnej reprezentacji symbolicznej ciągłych wrażeń. Zwierzęta nie używają języka. Liczba rozróżnialnych stanów jest znacznie większa niż liczba dostępnych symboli.

Wrażenia pozwalają na niewerbalne odróżnienie różnych niewerbalnych stanów mózgu.
Stan pamięci roboczej zawiera ciągle aktualizowany komentarz aktualnego stanu pobudzenia mózgu, interpretowany jako “wrażenie”.

Dyskryminacja sygnałów od różnych zmysłów i różnych sygnałów z tego samego zmysłu ułatwia porównania. Rezultaty dyskryminacji pojawiają się jako stany umysłu – może pojawić się myśl (reprezentacja dźwięku, symbolu, common sensorum), lub wrażenie, reprezentacja niewerbalna.

Wrażenia to niewerbalne “nazwy” pozwalające na porównanie ciągłych reprezentacji na poziomie globalnej dynamiki mózgu, “stany rezonansowe” mózgu (Adaptive Resonance Theory, ART Steva Grossberga).

Wrażenia są ściśle związane z mechanizmami uwagi. (Ikkyu – uwaga!).

Wniosek: Wrażenia spełniają rolę funkcjonalną.

“Czyste doświadczenie fenomenalne”, wrażenia bez odniesienia do pamięci czy ich funkcji, to filozoficzna fikcja.

Czemu jestem przekonany, że mam wrażenia, na czym polega odczuwanie wrażeń?
Odczuwanie jakości wrażeń wymaga interpretacji stanów pamięci roboczej przez mechanizmy poznawcze. Sens słów wynika z kontekstu (nie tylko bieżącego), sens (odczucie) wrażeń również, odniesień do pamięci. Jeśli te mechanizmy interpretujące nie działają odczuwanie jakości wrażeń powinno znikać.

Nie jest to redukcja stanów świadomości do stanów mózgu – istotne są relacje pomiędzy tymi stanami i interpretacji tych relacji, w tym rola środowiska w kształtowaniu stanów umysłu i relacji między nimi.

Pytanie “czym jest świadomość” nie znika (jak np. u Dennetta czy Churchland). Czerwony kolor wywołuje specyficzne wrażenie nie tylko z powodu dyspozycji mentalnych, lecz również realnych stanów mózgu/umysłu.

Świadomość jest zdolnością do interpretacji stanu pamięci roboczej.

Świadomość refleksyjna: wymaga modelu jestestwa (Dasein).
Poczucie tożsamości wiąże się z wewnętrznym modelem ciała i propriocepcją, przewidywaniem skutków swoich ruchów.

Czym jest umysł? Systemem kontrolnym organizmu o specyficznej budowie, a nie maszyną Turinga.


6. Wnioski i przewidywania

Przy odpowiedniej konstrukcji sztuczne mózgi będą twierdzić, że mają wrażenia i że są świadome!

Jednak sztuczny mózg => sztuczny umysł.
Bardzo trudno jest modelować szczegóły uczenia synaptycznego, dynamikę receptorów, a tym samym zachowania emocjonalne.

Prawdziwe mózgi prowadzą do prawdziwych umysłów: w ciele (embodied), w środowisku (por. Merleau-Ponty, Fenomenologia Percepcji 1962) a nie tylko w głowie. Pojęcie umysłu w oderwaniu od środowiska nie ma sensu.

Wrażenia świadome nie mają specjalnego statusu wśród innych zjawisk umysłowych, za poczucie jakości wrażeń odpowiedzialne są skomplikowane mechanizmy poznawcze (alternatywa - wrażenia bez żadnej funkcji, prowadzi do ogromnych trudności).

Iluzja, że musi być “duch w maszynie” (koń w parowozie?) jest bardzo silna. Dlaczego?
Brakuje dobrej fenomenologii świadomości, potrzeba neurofenomenologii (cf. F. Varela), głębokiej introspekcji, a nie powierzchownych obserwacji.

Czy jest to możliwe? Prajnia Paramita Hridaja, napisana (ok. 350 r.) przez ekspertów od głębokiej introspekcji:

“Bodhisatwa Awalokiteśwara,
praktykując głęboko Doskonałość Mądrości (Prajnia Paramita),
ujrzał pustkę wszystkich pięciu skand
i odrzucił więzy, które powodowały jego cierpienia"

5 skand to: ciało fizyczne, wrażenia, postrzeżenia, tendencje i świadomość.
Świadomość i inne zjawiska mentalne oraz fizyczne są wynikiem "wzajemnego warunkowania", żadne z nich nie ma specjalnego statusu.


6. Przewidywania

Takie podejście do problemu pozwala na sformułowanie wielu wniosków, nie dających się wyprowadzić z innych rozwiązań trudnego problemu świadomości.
  • Wrażenia zależą od działania mechanizmów poznawczych. Zawieszenie działania tych mechanizmów prowadzi do zaniku wrażeń (np. habituacja, brak uwagi).
    Brak interpretacji = brak wrażeń, można “patrzeć nie widząc”, nie zauważając nawet dużych zmian w środowisku.
  • Trenowanie mechanizmów poznawczych prowadzi do “wyostrzania zmysłów”, nowych jakości wrażeń słuchu, smaku, wzroku (np. układanki). Pamięć wrażeń konieczna jest do dobrej dyskryminacji, dostępność nowych wrażeń w snach.
  • Fenomenologia bólu.
    Ból zwykle wywołuje cierpienie, u masochistów przyjemność. Pełna koncentracja na przeżyciu bólu prowadzi do zaniku wrażenia cierpienia.
    Causalgia – piekący ból pourazowy, może być wywołany i uśmierzony czynnikami nie związanymi z sygnałami bólu dostarczanymi przez nerwy.
    Tabes dorsalis, syndrom pojawiający się w późnych stadiach syfilisu, w którym wrażenie bólu pojawia się wiele minut po ukłuciu.
    Bez interpretacji poznawczej ból to czyste wrażenie (np. Beecher Ann. of Surgery, 1946).
  • Kończyny fantomatyczne są błędną interpretacją stanów mózgu. Inne błędne interpretacje: zaniedbanie jednostronne, różne syndromy neuropsychologiczne, synestezje.
  • Interpretacja wymaga czasu - eksperymenty z "jasnowidzącym rzutnikiem" i eksperymenty Libeta.
  • Świadomość zachowana jest w trakcie marzeń sennych, możliwa jest kontynuacja wrażeń sennych na jawie np. pod wpływem chlordiazepoxidu.
  • Wewnętrzny komentarz związany jest ze zdolnościami lingwistycznymi i przekonaniem “mam dane wrażenie”. Habituacja lub wyłączenie dominującej półkuli mózgu (próba Wada, drażnienie prądem) prowadzi do zaniku wrażeń. Znikające wrażenia wywołują zredukowaną kompetencję behawioralną, np. w przypadku ślepoty korowej.
  • Funkcjonalna rola wrażeń wymaga różnych własności strukturalnych wrażeń świadomych, np. wrażenia wzrokowe dotykowe, czucie temperatury i bólu mają strukturę przestrzenną, w mniejszym stopniu mają ją wrażenia słuchowe, ale nie wrażenia smaku, zapachu, myśli czy wyobrażenia.
  • Stymulacja struktur mózgu, odpowiedzialnych za przetwarzanie danych wrażeń, powinna prowadzić do ich powstawania tylko wtedy, gdy mogą one wpłynąć na globalną dynamikę działania mózgu. Poczucie wstrętu powstaje w wyniku reakcji na bodźce wzrokowe, słuchowe i smakowe – jest to funkcja przedniej części wyspy.
  • Gra aktorska, udawanie w stanie pełnej absorpcji: sztuczne emocje stają się prawdziwymi emocjami.

Uwagi końcowe

Co dam nam poczucie, że rozumiemy czym jest umysł?

Nic! Rozumienie i poczucie to różne procesy w mózgu, rozumienie głównie płatów czołowych i obszarów związanych ze zdolnościami językowymi (zwykle lewej półkuli), poczucie zależne jest od stanów ośrodków podkorowych, wzgórza i ciała migdałowatego.

Czy jest duch w maszynie?
Tak! Psycho-logia, "logika duszy", to poziom autonomiczny, emergentny, jego fizycznym substratem są relacje pomiędzy elektrochemicznymi falami pobudzeń mózgu.
Nie! Odwołanie do zjawisk niefizycznych niczego nie wyjaśnia.

Czym jest umysł? Tym, co robi mózg, lecz jednocześnie to mózg jest organem umysłu.

Czy trudny problem świadomości jest istotny?
Naprawdę ważne pytania mają naturę etyczną !

Czy jest coś jeszcze do wyjaśnienia?











Polecam archiwa dostępne ze strony WWW:

https://www.fizyka.umk.pl/~duch

Ten referat

Archiwa do nauk kognitywnych: AI, modeli kognitywnych, lingwistyki, filozofii, psychologii, psychofizyki ... https://www.is.umk.pl/~duch/cognitive.html

Nauki kognitywne na UMK (projekt) https://www.cc.uni.torun.pl/~cogsci/cogsci.htm

Pismo "Kognitywistyka i media w edukacji" https://www.ped.uni.torun.pl/kognityw/a>

Do sieci neuronowych, neurobiologii i matematyki https://www.is.umk.pl/~duch/neural.html oraz https://www.fizyka.umk.pl/neural/neural.html

Wszystko o komputerach, oprogramowaniu, Internecie ... https://www.is.umk.pl/~duch/book-fsk.html