Wyobraźmy sobie sytuację, w której budzimy się w zamkniętym pokoju, a pod naszymi drzwiami zostawiane są dwa rodzaje dokumentów. Pierwszym z nich jest notatka napisana w obcej mowie, której znaczenia nie potrafimy zinterpretować, a drugim jest szczegółowa instrukcja obsługi w naszym własnym języku. Instrukcja ta precyzyjnie wyjaśnia, że dla każdego znaku w zagadkowej notatce musimy zapisać wskazany odpowiadający mu symbol z tabeli.
Proces wymiany informacji w pokoju
Postępując ściśle zgodnie z dostarczoną tabelą, piszemy odpowiedź, którą wsuwamy pod drzwi. Przez kolejne kilka dni ta wymiana trwa bez przerwy, a my nie mamy pojęcia, co w rzeczywistości oznaczają te znaki. Poza pokojem obcy naukowcy są zachwyceni tym procesem, ponieważ uważają, że rozmawiamy z nimi na równych zasadach. Jednakże my nadal nie mamy żadnego pojęcia o prawdziwym sensie tych komunikatów.
Kontrowersje wokół eksperymentu myślowego
Ta sytuacja to nie tylko dziwne nieporozumienie, lecz cenny eksperyment myślowy służący zrozumieniu sztucznej inteligencji. Filozof John Searle opracował oryginalną wersję tego założenia w 1980 roku jako odpowiedź na pewne prace nad AI prowadzone w tamtym czasie. Choć współczesne modele AI nie działają jak te przestarzałe maszyny ani jak więzień w hipotetycznej sytuacji Searle'a, pytanie motywujące jego eksperyment myślowy pozostaje aktualne.
Cytując Searle'a, chciał on zbadać, czy odpowiednio programowany komputer dosłownie posiada stany poznawcze. Innymi słowy, jeśli komputer wydaje się rozumieć coś, czy oznacza to, że faktycznie rozumie w sposób ludzki? Pytanie Searle'a wpisuje się w długą tradycję badania, czy AI może posiadać umysł podobny do naszego.
Trudność z zdefiniowaniem świadomości
Ale odpowiedź na te pytania jest niezwykle trudna, ponieważ, jak powie Ci każdy filozof i naukowiec poznawczy, nadal nie wiemy, jak działają nasze umysły. Nawet nasze podstawowe definicje są nieprecyzyjne! Teoretycy generalnie zgadzają się, że pojęcia takie jak rozumienie, świadomość i samoświadomość są różne, ale również powiązane, i nie wiemy, jak.
Gorsza jest jeszcze sytuacja, gdy nasze zwykłe narzędzia naukowe mają trudności z wyjaśnianiem tych doświadczeń. Rozważ wypicie filiżanki kawy. Naukowcy mogą obserwować fizyczny proces spożycia kawy, a my możemy zmierzyć chemiczne oddziaływania kofeiny na nasze ciało. Te rzeczy są obiektywną rzeczywistością.
Jakie jest źródło naszej subiektywnej doświadczenia?
Ale nasze zbiorowe odczucie zapachu, picia, oceny i doświadczania porannego rytuału jest więcej niż sumą jego części. To jest świadomość – nasze subiektywne doświadczenie bycia żywym. I pomimo dużych skoków w psychologii, nauce poznawczej i neurologii, badacze nadal nie wiedzą, jak różne ognione neurony powodują to doświadczenie.
Więc jeśli nie możemy zdefiniować świadomości i rozumienia ani zidentyfikować tego, co w nich jest unikalnie ludzkie, jak w ogóle możemy testować te stany w komputerach? Oceny takie jak Test Turinga proponują, że jeśli człowiek nie może stwierdzić, że rozmawia z komputerem, to komputer można uznać za posiadający pewną wewnętrzną kognicję. Ale ta sytuacja to dokładnie to, co Searle krytykował!
Uprzedzenia w badaniach nad sztuczną inteligencją
Ten komputer może po prostu mieć pozór rozumienia. I tak samo jak naukowcy poznawczy mają trudności z mapowaniem świadomości na aktywność mózgu, dzisiejsi badacze AI wiedzą, jak przeszkolili swoje twory, ale nie wiedzą, jak AI dochodzą do swoich dokładnych wniosków. Istnieją pewne sposoby, w których współczesne modele uczenia maszynowego są mniej tajemnicze niż ich poprzednicy.
Podejścia takie jak sieci neuronowe i głębokie uczenie są zaprojektowane tak, aby naśladować znane elementy ludzkiej kognicji. Jak my, te modele są wybitne w rozpoznawaniu wzorców – uczą się, zapoznając się z informacjami i tworząc połączenia między zestawami danych. Tego rodzaju przetwarzanie bez wątpienia zbliża się do definicji rozumienia Searle'a, ale również ujawnia uprzedzenie w jego oryginalnym pytaniu.
Wyzwania dla teoretyków sztucznej inteligencji
Ponieważ ludzie uczą się poprzez rozpoznawanie wzorców i uważamy się za świadomych, możemy również być predysponowani do myślenia, że inne istoty uczące się w ten sam sposób są w pewien sposób bliższe świadomości. Aby walczyć z tym uprzedzeniem, niektórzy teoretycy opracowali inny miernik; konkretnie, że w pełni świadomy AI mógłby tworzyć połączenia wykraczające poza informacje zawarte w jego zestawie danych.
Na przykład test sztucznej świadomości jednego laboratorium bada AI, które nie posiada żadnych danych o świadomości. Tego typu eksperymenty mają na celu sprawdzenie, czy system potrafi generować nowe koncepcje, a nie tylko przetwarzać dane. To kluczowe rozróżnienie między symulacją a prawdziwym zrozumieniem.