Uświadom to sobie – komputer to nie człowiek

Szczegóły

Utworzono: 03 listopada 2010

Steven Pinker

W jednym z pierwszych odcinków popularnego w latach 80' serialu Twilight Zone mężczyzna zwany Jamesem Corry został sam na asteroidzie. Kapitanowi Allenby najwyraźniej zrobiło się go żal, bo zostawił mu robota o imieniu Alicja, który wyglądał i zachowywał się jak kobieta. Po roku, kiedy kapitan Allenby wrócił po Corry'ego, ten był już po uszy w Alicji zakochany. Na statek wrócić mógł ze względu na wagę ciała jedynie Corry, jednak on bez Alicji lecieć nie chciał. Wtedy ma miejsce słynna scena, w której Allenby strzela Alicji w twarz i mówi, że wszystko co Corry zostawia na tym asteroidzie to samotność.

Ta dramatyczna scena pozwala na zadanie kilku istotnych pytań. Po pierwsze – czy maszyna będzie kiedykolwiek w stanie skopiować ludzką inteligencję? Czy człowiek byłby zdolny do zakochania się w robocie ze względu na jego osobowość? Jeżeli taka maszyna-humanoid może być istotnie zbudowana, to czy ona naprawdę będzie świadoma? Czy po rozłożeniu humanoida na części jego świadomość by zanikła tak jak w przypadku zastrzelonej Alicji?

Gdybyśmy te pytania skierowali do ekspertów od Sztucznej Inteligencji (Artificial Intelligence – AI), to uzyskalibyśmy jedną z dwóch odpowiedzi: tak – ludzkie roboty są już niemal w zasięgu ręki lub nie – to nigdy nie będzie możliwe. Nie przywiązywałbym się jednak do żadnej z tych odpowiedzi. Podobni „eksperci” wypowiadali się już kiedyś odnośnie tego, że człowiek nigdy nie postawi nogi na księżycu, a nasze odkurzacze będą posiadały napęd nuklearny. Z pewnością komputery będą stawały się coraz mądrzejsze – wystarczy przypomnieć sobie lekcje szachów z Garym Kasparovem i komputerem marki IBM, żeby nie mieć co do tego wątpliwości. Dzisiejsze komputery potrafią rozmawiać w różnych językach na tematy zakazane, kontrolować mechaniczne kończyny, malować sprayem czy duplikować ludzkie ekspertyzy w tysiącach spraw. Sztuczna Inteligencja praktycznie wyskoczyła z laboratorium do naszego codziennego życia, z czego nawet nie zdajemy sobie sprawy. Część z nas korzysta z różnego rodzaju organizerów telefonicznych, które zdają się myśleć samodzielnie albo jest zaskakiwana, że niektóre serwisy społecznościowe (czy internetowe w ogóle) zwracają się do nas po imieniu, a po wejściu na nie pojawia się oferta plików do przeglądnięcia zgodna z naszymi preferencjami.

Pomimo zaawansowanych i rozbudowywanych zdolności komputery nie są jednak nawet bliskie osiągnięcia zdolności czterolatka w zakresie mówienia, widzenia, poruszania się czy używania złożonego i zintegrowanego aparatu zmysłowego. Jednym z powodów jest moc obliczeniowa. Oszacowano, że nawet najlepszy superkomputer wykorzystuje tyle, ile układ nerwowy ślimaka – zaledwie maleńki fragment dostępny dla superkomputera wewnątrz naszych czaszek. Ale i rodzaje przetwarzania informacji są diametralnie różne w przypadku komputerów i ludzi. Komputery z łatwością przechowują w pamięci 25 cyfrowy numer, ale mają olbrzymi problem z podsumowaniem i streszczeniem Alicji w Krainie Czarów. Ludzie mają problem z zapamiętaniem numeru, lecz z łatwością odtworzą opowieść. Czynnikiem, który wpływa na taki stan rzeczy jest fakt, że komputer posiada jeden niezawodny i rzetelny procesor (lub kilka), który pracuje bardzo, bardzo szybko; ludzkie procesory w mózgu z kolei są znacznie wolniejsze i głośniejsze, ale są ich miliardy połączone z tysiącami innych. Pozwala to człowiekowi dostrzec złożony wzór tam, gdzie komputer musi rozkładać go na czynniki pierwsze i nieskończenie porównywać oraz przeprowadzać miliony działań.

Ludzkie mózgi mają także inną przewagę. Mianowicie siedzą one sobie wewnątrz ludzkich istnień od milionów lat i dzięki temu mogą wykorzystać informacje, które jednostka zdobywała w toku całego swojego życia w interakcji z innymi ludźmi oraz środowiskiem. Dodatkowo mózg jest wyposażony w narzędzia przekazywane genetycznie dzięki procesom ewolucji, a pozwalające manewrować, manipulować czy oszukiwać inne obiekty, zwierzęta czy ludzi.

Jak sobie zatem poradzą maszyny w przyszłości? Postęp technologiczny jest nieprzewidywalny. Jeszcze niedawno nikt nie przypuszczał, że komunikatory z serialu Star-Trek, w których można było oglądać twarz rozmówcy zostaną wdrożone w nasze codzienne życie na początku XXI wieku w postaci technologii komórkowej 3G. Podobnie nikt nie zakładał, że sztuczne protezy i chipy będą tak łatwe do wdrożenia, ale już sztuczne serce nie. Kiedy więc przychodzi do kopiowania ludzkiego umysłu, to najbardziej rozsądna wydaje się hipoteza, że komputery raczej będą radzić sobie znacznie lepiej niż to robią dzisiaj w pewnych obszarach i formach myślenia, lecz nie będą sobie radziły tak dobrze jak ludzie z milionem innych rzeczy i operacji, które wykonuje nasz mózg.

Wróćmy jednak do science-fiction i załóżmy, że niegdyś będziemy naprawdę posiadali roboty takie jak Alicja. Czy będą one świadome? Tutaj znowu trzeba zwrócić uwagę na znaczenie słowa „świadomość”. Woody Allen powiedział kiedyś, że psychologia bada: „Ze szczególnym uwzględnieniem świadomość w opozycji do nieświadomości, z wieloma pomocnymi aluzjami dotyczącymi tego jak pozostać świadomym”. Śmiech nas ogarnia, gdyż uświadamiamy sobie, że słowo „świadomość” ma co najmniej dwa znaczenia.

Jedno z nich to oczywiście freudowskie rozróżnienie na umysł świadomy i nieświadomy. Gdybym zapytał: „Grosik za Twoje myśli”? Opowiedziałbyś mi o swoich planach, pragnieniach i bolączkach oraz kolorach, kształtach i dźwiękach, które znajdują się przed Tobą. Ale nie mógłbyś mi powiedzieć o tym jakie enzymy w tej chwili uwalnia Twój żołądek, odtworzyć dokładnej reguły gramatycznej właśnie wypowiedzianego zdania czy poczuć wszystkich mięśni, które pomogły Ci podnieść szklankę ze stolika. Ten przykład unaocznia, że procesy przetwarzania informacji w ludzkim mózgu mogą mieć dwie płaszczyzny. Pierwsza to moduły umysłowe wyrażane za pomocą raportów werbalnych, racjonalnego myślenia i rozważnego podejmowania decyzji. Druga płaszczyzna, która uwzględnia odważne i szybkie decyzje, język, poruszanie się i wyparte pragnienia czy wspomnienia, pozostaje poza dostępem modułów pierwszego rzędu. Kiedy po raz pierwszy uczymy się prowadzić samochód, to każda czynność jest świadoma i wymaga nie lada wysiłku. Z czasem staje się ona zautomatyzowana, a samo jechanie samochodem wymaga od nas jedynie intencji jazdy (świadome czynności stają się nieświadome). Przy maksymalnej koncentracji i biofeedbacku możemy skupić się na ukrytym wrażeniu czy uczuciu jak np. biciu serca (nieświadome czynności stają się świadome).

Czy zatem komputery kiedykolwiek osiągną taką formę świadomości i nieświadomości opartą o dostęp do swoich danych i procesów? W pewnym sensie one już takie są. System operacyjny Twojego komputera jest tak zaprogramowany, żeby wiele informacji było widocznych przed użytkownikiem – otwieranie i zapisywanie plików, wysyłanie informacji do drukarki, wyświetlanie katalogów i plików. Inne z kolei są ukryte: kody wysyłane przez klawiaturę, zapisy i operacje dysku twardego, tłumaczenie ruchów myszy na skomplikowane algorytmy zrozumiałe dla maszyny. Dzieje się tak dlatego, że każdy system operacyjny – czy to komputer czy ludzki mózg, musi funkcjonować w czasie rzeczywistym. Sytuacja, w której każda operacja musiałaby być dostępna w każdej chwili i w każdym następującym procesie przyczyniłaby się do paraliżu. Wyobraź sobie, że musisz kontrolować czy przywoływać do świadomości to, którą nogę najpierw wysuniesz do przodu względem drugiej - unieruchomionej częściowo, w celu wykonania kroku. Tylko niektóre informacje są istotne z punktu widzenia tego, co system wykonuje w danym momencie i tylko takie powinny zostać przywołane przez procesory operacyjne. Nawet roboty przyszłości z tysiącem procesorów będą potrzebowały pewnego rodzaju systemu kontroli, który pozwoli na decydowanie co zostaje dopuszczone do systemu operacyjnego, a co pozostaje poza dostępem. W innym wypadku robot będzie wykonywał dziwne, nieskoordynowane ruchy wraz z walką procesorów o pierwszeństwo przetwarzania informacji. W tym sensie więc komputery i dziś, i w przyszłości są tworzone z rozróżnieniem na procesy, które możemy określić mianem „świadomych” i „nieświadomych”.

Ale to innym znaczeniem słowa „świadomość” fascynują się ludzie i ono zdaje się stanowić główny cel lub może bardziej zagwozdkę dla osób zajmujących się AI. To znaczenie to szekspirowskie „Być albo nie być – oto jest pytanie”; subiektywne doświadczenie; pierwsza osoba liczby pojedynczej czasu teraźniejszego czy wreszcie – jak to jest widzieć czerwień, czuć ból lub smakować sól. Kiedy chodzi o uchwycenie tak rozumianego sensu świadomości, to nie mamy innego wyjścia niż zacytować Louisa Armstronga, który na pytanie reporterki o definicję jazzu odpowiedział: „Jeżeli tylko pytasz, to nigdy się tego nie dowiesz”.

W jaki sposób jednak dowiedzieć się czy Alicja jest świadoma w tym sensie? Czy jest ktoś, kto widzi świat jej oczyma, czuje przez jej układ sensoryczny? Niezależnie od tego jak mądrze się zachowuje, jak szybko reaguje na otoczenie i udziela odpowiedzi na pytania, Allenby zawsze może powiedzieć, że to jedynie zgrabna i zaawansowana symulacja. W dodatku zaprogramowana w taki sposób, żeby sprawiać wrażenie, iż jest istotą świadomą. Można spróbować zrobić testy i eksperymenty, które mają na celu udowodnienie istnienia jej świadomości. Ale choćby nie wiem jak bardzo ktoś się postarał, to i tak nie będzie w stanie wykazać fałszywości przekonań Allenby'ego.

Być może jest w tym jakieś pocieszenie, że nasza obecność tu i teraz nie jest technologiczną zagadką, lecz posiada swoje źródła w filozofii. Jeżeli nie mogę stwierdzić czy Alicja jest istotą czującą, to dlaczego mogę uznać Ciebie za takową? Myślę, że jesteś istotą czującą i świadomą, choć nie jestem przekonany czy Alicja jest. Być może wynika to z szowinistycznego założenia, że tylko stworzenia z mięsa mogą być świadome, a istoty z metalu – nie. Czy mogę być przekonanym, że świadomość jest ukryta w tkankach mojego mózgu, który znajduje się z kolei w czaszce i niczym komputer - mózg odpala software, który stanowi moją świadomość? Jednocześnie jednak czy analogiczny software nie może być odpalony przez komputer Alicji?

Jeżeli uważasz, że odpowiedzi na te pytania są jednoznaczne w tę czy inną stronę, to przeprowadźmy mały eksperyment wizualizacyjny. Wyobraź sobie, że chirurg zastępuje jeden z Twoich neuronów mikrochipem. Chip jest silikonowy i działa poprawnie. Spełnia więc rolę usuniętego neuronu i przewodzi impulsy elektryczne do innych neuronów, odbierając je wcześniej od pozostałych. Nie czujesz się inaczej niż dotychczas, ani nie zachowujesz się inaczej. Następnie zastępują Tobie kolejne neurony chipami i kolejne aż mózg staje się cały silikonowy. Chipy robią to samo, co wcześniej neurony, więc Twoja pamięć i zachowanie pozostają bez zmian. Dzięki stopniowej zamianie nie doszło do wyłączenia mózgu i uruchomienia tego silikonowego. Czy kiedykolwiek zauważyłbyś różnicę? Czy to wzbudziłoby w Tobie uczucie umierania? Czy jakieś inne świadome jestestwo weszłoby w Twoją skórę? Wyobraźmy sobie, że transporter z serialu Star Trek działa w taki sposób, że skanuje każdą komórkę Twojego ciała, następnie kopiuje ją w miejscu przeznaczenia i usuwa „plik wyjściowy”, którym jest Kirk wchodzący do transportera. Czy zatem w momencie, kiedy został on usunięty to się zaledwie zdrzemnął czy popełnił samobójstwo? Czy gdyby doszło do awarii transportera i nie doszło do usunięcia postaci Kirka w bazie, to czy istniałby podwójnie?

Pewnie od tego typu dywagacji rozbolała Cie głowa Drogi Czytelniku, bo mnie z pewnością. Ciężko wyobrazić sobie satysfakcjonującą odpowiedź na te wszystkie pytania. Ale to nie są jedynie rozterki dla studenta, który uczy się późnym wieczorem do sesji i zrobi wszystko, żeby zająć się milionem ważniejszych spraw w tym momencie. Te kwestie także prowadzą do wątpliwości moralnych. Czy Allenby był winny zabójstwa czy zniszczenia czyjejś własności?

Te wszystkie poruszone przeze mnie kwestie nie będą do rozwikłania w najbliższym czasie. Jeżeli więc ktoś mówi, że komputer już niebawem będzie świadomy i czujący, to nie istnieją żadne podstawy, żeby w to wierzyć. Będziemy znacznie bliżej takiego momentu, kiedy choć część z pytań, które postawiłem staną się jasne i klarowne. Być może jest to na wyrost i w ogóle nie powinniśmy się nad tymi kwestiami zastanawiać. Być może są one po prostu niemożliwe. Być może urodzi się geniusz, który rozwiąże te zagadki w oka mgnieniu, a my będziemy zachodzić w głowę jakim cudem na to nie wpadliśmy. A być może ludzki mózg – jeden z wielu produktów ewolucji na naszej planecie jest zbyt ograniczony, żeby kiedykolwiek dostrzec rozwiązania, które istnieją. Nie ważne jednak czy komputer kiedykolwiek będzie świadomy. Nasza własna świadomość bowiem - co jest najbardziej oczywistą rzeczą, może pozostać zawsze poza naszym koncepcyjnym rozumieniem, a chyba to właśnie od niej powinniśmy zacząć, zanim zbudujemy Sztuczną Inteligencję.

Przekład: Jarosław Świątek

Bądź na bieżąco! Zapisz się na nasz newsletter! (dodatkowo otrzymasz eBooka "Iluzje codzienności")

e-mail: