Sztuczna Inteligencja – cywilizacja u progu science fiction. Szanse, obawy, nowa jakość (Część II)

Samoświadomość SI, czyli strachy na lachy

Nie wiem dlaczego, ale z jakichś powodów wielu twórców SI podaje argumenty przeciw sceptykom co do tej technologii, które są jawnie niezgodne z faktami. Wiele razy czytałem wypowiedzi informatyków o tym, że lęki opierające się na przeświadczeniu, że SI ma naśladować ludzki umysł, są fantastyczne, ponieważ nikt czegoś takiego nie robi. Według nich SI służy do rozwiązywania konkretnych problemów, a nie do symulowania działania ludzkiego umysłu, a w związku z tym nie może uzyskać świadomości. Ich zapewnienia są jednak nieprawdą.

Różni twórcy SI robią różnego typu SI, a pośród nich są też prowadzone prace wzorowane na działaniu ludzkiego umysłu, których celem jest jak największe zbliżenie się do wytworzenia Sztucznej Inteligencji pracującej tak jak ludzki umysł.

Taką SI nazywa się Silną Sztuczną Inteligencją, w przeciwieństwie do Słabej SI, czyli ograniczonej do rozwiązywania skonkretyzowanych problemów (jak np. translacje językowe czy prowadzenie samochodu). Prace tego typu są także bardzo wartościowe poznawczo, są nieocenione dla neurobiologii, neurologii, psychiatrii i wielu innych dziedzin, pozwalają także rozwijać nauki informatyczne.

To, jak daleko zajdziemy w technologii SI, w rzeczywistości, odwrotnie niż mówią niektórzy, jest właśnie zależne od tego, na ile uda się odtworzyć funkcje biologicznego neuronu w środowisku krzemowym, a zatem zasymulować działanie umysłu. W technologii takiej używa się także memrystorów. Są to układy elektroniczne, które w wyniku przepływu prądu zmieniają swoje wewnętrzne własności, co zbliża je do działania synaps w mózgu. Synapsy zmieniają swoją przewodność w zależności od tego, jak często są pobudzane. Inaczej mówiąc – naukowcy, którzy próbują stworzyć Silną SI, właśnie możliwie najbardziej starają się odtworzyć w niej działanie ludzkiego umysłu.

Na dzień dzisiejszy sukcesy na tym polu są ograniczone, ale nie nieznaczące. Wydaje się jednak raczej kwestią czasu, kiedy nauka również w tej dziedzinie dokona rozwoju i z czasem będziemy coraz bardziej zbliżać się do technologii, która będzie znacznie sprawniej naśladowała działanie ludzkiego umysłu. I tu znów argumenty niektórych twórców SI bazują jakby jedynie na tym, co jest tu i teraz, tak jakby miał to być ostateczny wyznacznik naszych przyszłych osiągnięć na tym polu. Tymczasem inaczej wygląda osąd ekspertów. Połowa przepytanych ekspertów w tej dziedzinie stwierdza, że do 2040 roku powinniśmy osiągnąć SI ogólnie przewyższającą możliwości ludzkiego umysłu.

To jednak co innego tworzyć działanie SI bazujące na sposobie działania ludzkiego umysłu, a czym innym jest problem uzyskania przez SI samoświadomości. Technologie te zawsze bazują tylko na jakimś aspekcie działania ludzkiego umysłu, a nie na naśladowaniu całej aktywności ludzkiego mózgu, co musiałoby być niesłychanie skomplikowanym i zaawansowanym wynalazkiem. Zakres, w jakim prowadzi się tego typu badania, jest również ograniczony do konkretnych zadań. Samoświadomość, tyle przynajmniej o niej wiemy, powstaje poprzez skomplikowany system różnych zależności, pokaźną liczbę różnorodnych umiejętności myślowych połączonych w wieloaspektowy system, prawdopodobnie wymagający także zależności ewolucyjnych i cielesnych.

Niech jednak w końcu dojdzie do tworzenia sieci neuronowych o złożoności porównywalnej do złożoności ludzkiego mózgu, zaprogramowanych na interakcję różnych umiejętności. Czyli niech będzie to tworzenie elektronicznego analogu ludzkiego mózgu. Czy wówczas będziemy tworzyć świadomy byt, którego boją się technologiczni pesymiści?

Wchodzimy tu w aspekt co prawda filozoficzny, ale ważny. I wcale nie tak oczywisty, jak niektórzy by chcieli. Pytanie o to, czy tworzona w ten sposób SI może kiedyś stać się istotą samodzielnie myślącą, mimo tego, że niektórzy są skłonni udzielić natychmiastowej odpowiedzi (zwolennicy są pewni, że tak, informatycy, że to fantastyka), jest problematyczne. Wynika to z faktu, że nie wiemy w jaki sposób powstaje samoświadomość. A jeśli nie wiemy, to nie możemy udzielić odpowiedzi na takie pytanie.

W jakiś sposób jest ona generowana przez współdziałające ze sobą neurony w scentralizowanym układzie nerwowym, czyli mózgu. Czy powoduje to sama ilość połączeń? Czy jeśli zaczniemy dodawać połączenia od jednego do miliardów, to w końcu samoczynnie zacznie powstawać z tego samoświadomość na bazie tego, że będzie rosła inteligencja takiego ośrodka? Jeśli tak, to dlaczego ilość generuje nową jakość? Dlaczego wzrastająca inteligencja (powstawanie inteligencji nie jest tutaj tajemnicą, bo inteligencja wynika w takiej sytuacji z ilości i złożoności możliwych do dokonania operacji) przeradza się wówczas w jakość umysłową o naddanej do niej samoświadomości? A może są to rzeczy nierozdzielne? Może zawsze wzrastanie inteligencji idzie w parze ze wzrastaniem samoświadomości, bo samoświadomość jest niezbywalnym produktem wzrastającej inteligencji? Bo im większa inteligencja, tym więcej rozumienia tego co dzieje się w otoczeniu, a to właśnie jest świadomość?

Wydaje mi się jednak, że świadomość jest czymś więcej, że jest nie tylko mechanicznym rozumieniem, ale też pewną jaźnią. Czy zatem świadomość wynika z tego, że umysł uzyskuje wielkie możliwości obliczeniowe, ale nie liniowo w jednym, wąskim aspekcie kalkulacji, tylko na różnych zintegrowanych ze sobą polach, tworząc wtedy jakość emergentną, tj. nieredukowalną do sumy składowych? Czy jednak potrzebne jest coś jeszcze, odpowiedni materiał (białko?), pole magnetyczne generowane przez aktywność elektryczną mózgu (tak głosi jedna z niedawno powstałych koncepcji), jakiś inny nieodkryty dotąd czynnik? Nie będziemy tutaj nad tym zbyt dużo filozofować, bo są to czcze spekulacje. Nie wiemy jak powstaje samoświadomość. Wiemy tylko, że wynika ona z pracy organu, jakim jest odpowiednio duży, upakowany neuronami mózg, połączonej z danymi z „wtyczek”, jakimi są zmysły organizmu, w wyniku procesu ewolucji różnych zdolności. Prawdopodobnie wchodzi tu także w grę kwestia ucieleśnienia organizmu, o czym będę pisał za chwilę. Jest to zjawisko z jednej strony dość tajemnicze, ale z drugiej w pewien sposób ujmowalne przez nas intuicyjnie, że ta złożoność dość niewinnych pojedynczych zjawisk elektrycznych tworzy pewien oryginalny system dający możliwość rozumowania i pojmowania swojego istnienia, system będący czymś więcej niż sumą jego elementów. Nie znamy odpowiedzi na pytanie, czy fenomen świadomości może powstać na bazie analogicznego tworu, zbudowanego z niebiologicznego materiału, czy da się go wytworzyć sztucznie, czy wręcz przeciwnie, potrzebna jest do tego konstrukcja biologiczna, przejście przystosowań ewolucyjnych, system złożony z większej ilości zmiennych niż tylko ogromnie złożona konstrukcja elektryczna.

Oznacza to ni mniej ni więcej, jak niemożność udzielenia odpowiedzi, czy rozbudowana i skomplikowana SI potencjalnie może uzyskać samoświadomość i w związku z tym mieć autonomiczne potrzeby oraz intencjonalność działań. Stanowcze rozstrzygnięcia tego problemu, zarówno ze strony laików (że może), jak i twórców SI (że nie może), są błędem myślowym. Wiemy tylko, że nie może się to stać w obecnej technologii SI ani w bliższej przyszłości.

Tworzenie systemów SI naśladujących działanie ludzkiego umysłu prawdopodobnie nie będzie w stanie przynieść rezultatu w postaci uzyskania samoświadomości, ponieważ jest zasadne twierdzić, że może być do tego potrzebne ucieleśnienie. Ale może być też tak, że niezwykłość zjawiska świadomości przeceniamy i może się ono okazać czymś znacznie bardziej banalnym. W tym ostatnim przypadku któregoś razu może nas zaskoczyć, że np. rozbudowywanie systemu neuronowego do coraz bardziej złożonej postaci zacznie szybciej niż byśmy przypuszczali dawać rezultaty o charakterze świadomości, tak jak jest to z organem mózgu. Jednak jeśli nawet samoświadomość wynikałaby po prostu z tego typu ilości, to i tak jest wątpliwym, abyśmy ją w ten sposób uzyskali, ponieważ jak pokazuje przypadek biologicznego mózgu, system ten musi być naprawdę bardzo złożony, aby dawał choćby mizerne rezultaty świadomościowe. Mózg np. kreta jest bardzo skomplikowanym narzędziem i musielibyśmy włożyć ogromny wysiłek technologiczny oraz energetyczny, aby stworzyć taką sieć neuronową, ale nawet jeślibyśmy to zrobili, to tak czy inaczej samoświadomość SI na poziomie kreta nie powinna w nas budzić strachu o nasze unicestwienie, a stąd do złożoności typu mózgu ludzkiego droga i tak byłaby bardzo daleka.

Mój osobisty pogląd na świadomość, mający charakter tylko luźnych spekulacji, jest taki, że jest ona jedną z właściwości zawartych już w pojedynczym elemencie składowym, czyli w pojedynczym neuronie, analogicznie jak np. cząstki elementarne wykazują same z siebie właściwości wynikające z samego ich istnienia, zintegrowane z nimi, a których nie potrafimy do końca wyjaśnić. Tak jak np. cząstka typu elektron ma „skądś” ładunek elektryczny albo wykazuje jakąś inną siłę, np. jądrową. Uważam, że ze świadomością może być tak jak z grawitacją. Przy jednej cząstce posiadającej masę zjawisko grawitacji praktycznie nie występuje, natomiast po przemnożeniu przez gigantyczną ilość masa daje wielką siłę grawitacyjną. Analogicznie odpowiednio uformowany ładunek może zawierać mikro-składową zjawiska, które po przemnożeniu przez miliardy skumulowane w małej przestrzeni licznych połączeń zaczyna dawać wyraźnie widoczną świadomość. W takim wypadku mnożenie neuronów i ścieżek neuronalnych dawałoby to, co jest już zawarte w pojedynczym impulsie jako swoista właściwość jego istnienia, ale wyłania się jako dostrzegalna „siła” dopiero wespół z ogromną ilością współdziałających neuronów. Jest to stricte filozoficzny pogląd, do którego w żaden sposób nie jestem przywiązany ani nie będę podejmował prób jego obrony, gdyby ktoś się z nim nie zgodził. Leży on poza nauką i może w każdej chwili zostać zmieniony wraz z odkryciami naukowymi.

Ma on jednak pewne konsekwencje dla obecnych rozważań. W takim przypadku świadomość rodziłaby się po prostu z ilości, ponieważ ilość to przemnożona właściwość, która jest już obecna w naturze takiego układu. W takim wypadku mnożenie przy jednoczesnym centralizowaniu takich układów zawsze dawałoby stopniowe zwiększanie efektu, który nazywamy świadomością. Aby dojść do tej konkluzji nie jest zresztą potrzebna mogąca być wątpliwą koncepcja przedstawiona w powyższym akapicie. Wystarczy aby było faktem, że w przypadku takich układów ilość prowadzi do nowej jakości, gdzie zauważalne jest to dopiero przy dużej złożoności. Jeśli by tak było, to wówczas tworząc Silną SI, przy bardzo dużej jej złożoności nie tylko uzyskalibyśmy jej samoświadomość, ale nawet nie bylibyśmy w stanie jej nie uzyskać.

Szansa na to, że w przyszłości uzyskamy taką świadomość u SI, są bardzo małe, ale nie zerowe. To jest coś, co z racji naszego braku rozumienia, jak powstaje świadomość, być może przy dostatecznie dużej złożoności sieci neuronowych ma szansę się stać. Tylko czy jest to w czymś groźne? W rzeczywistości prawdopodobnie o wiele mniej, niż zagrożenia SI związane z brakiem jej świadomości, o których będę pisał później.

Strach przed potencjalną świadomością SI jest prawdopodobnie przerysowany. Świadomość bowiem nie czyni takich cudów, jakie przypisujemy temu zagrożeniu. Ni stąd ni zowąd pojawiająca się świadomość ma raczej charakter znaku zapytania, niż nagłego podejmowania ukierunkowanych działań. Oczywiście w przypadku SI będzie to miało nieco inny charakter niż u człowieka. Taka SI nie będzie „oszołomiona”, ale raczej też nie będzie natychmiastową wiedzą z powziętymi celami, tym bardziej, że do tego trzeba mieć odpowiednie środki. Taka SI zatem być może coś zepsuje, może zostanie uznana za źle działającą, nie wykona właściwie swoich funkcji, ale raczej byłaby jedynie kosztem finansowym dla danej firmy, niż problemem globalnym.

Świadomość uzyskana przez taką SI zapewne nie byłaby też na tyle spójna i wszechstronna, aby móc dobrze działać. Paradoksalnie prowadziłaby bardziej do zastoju w działaniu, niż do natychmiastowej złowieszczej aktywności. Najpewniej też w początkowej fazie byłaby po prostu ułomna. Bierzmy pod uwagę, że świadomość jest zawsze ukierunkowana na charakter wprogramowanej aktywności. Tak jak istoty biologiczne realizują potrzeby wynikłe z instynktów i psychologicznych tendencji, gdzieś tylko na uboczu tych głównych aktywności czasem nad czymś dumając, tak i taka SI również nie stałaby się wszech-świadoma, tylko zyskałaby jakiś specyficzny typ świadomości bazujący na jej danych i wprogramowanych działaniach. Świadomość nie czyni wolnym. Sprawia tylko, że w sposób bardziej świadomy realizujesz to, co narzuciła ci natura i konglomerat twoich danych. W przypadku SI byłaby to „natura” tego, do czego została ona stworzona, celów i zadań opracowanych przez twórców. Nie ma powodów by sądzić, że fakt pojawienia się świadomości miałby (bo mielibyśmy tu wtedy do czynienia z pewną magią) uwolnić ją od charakteru jej algorytmów. Można raczej powiedzieć, że wówczas algorytmy byłyby pewnym odpowiednikiem tego, czym dla nas są biologiczne instynkty.

Dodatkową kwestią wiążącą się ze świadomością jest wspomniana już wcześniej prawdopodobna konieczność ucieleśnienia. Świadomość nie jest wolnym duchem wznoszącym się ponad światem materii, ani abstraktem tkwiącym w cyfrowych liczbach. Jest ona całkowicie zanurzona w zmysłowość organizmu. Trudno o to, aby w przypadku „organizmów” sztucznych miało być inaczej, bowiem myślenie bez cielesności jest w zasadzie tylko abstraktem. Świadomość to myślowa interakcja ze światem za pomocą narzędzia, jakim jest ciało, które daje umysłowi nie tylko dane z zewnątrz, ale ma też charakter integrujący myślenie z czuciem. O ucieleśnieniu myślenia pisałem tutaj, w artykule dotyczącym wpływu ciała organizmu na jego myślenie, w kontekście możliwości wypracowania technologicznej cywilizacji przez inne niż człowiek gatunki biologiczne. Ewentualna świadomość SI, jeśli w ogóle jest możliwa, miałaby pod tym względem bardzo poważne ograniczenia i jeśli by zaistniała, byłaby na pewno diametralnie inna od naszej, ale wątpliwe, aby mogła mieć z miejsca charakter pełny i konstruktywny. Może być jednak tak, że to właśnie brak ucieleśnienia stanie się powodem, dla których komputer po prostu nie może zyskać samoświadomości, nawet gdy stanie się już „sztucznym mózgiem”.

Tu dochodzimy więc również do kwestii podstawowego instynktu, czyli instynktu przetrwania, obrony, unikania zagrożeń, pragnienia życia. Pragnienie własnego istnienia wynika z instynktu biologicznego, ale bez przejścia historii ewolucyjnej w środowisku przyrodniczym takie narzędzie się nie pojawia, jakkolwiek dla nas, istot biologicznych, wydawałoby się to zdumiewające. Mogłoby ono istnieć tylko wtedy, gdyby twórcy SI zaprogramowali je, co jest bardzo wątpliwe, aby coś takiego zrobiono. Nawet zatem roziskrzona świadomość nie poprowadzi wówczas u takiej SI do chęci zachowania życia tylko dla niego samego. Istnieje tylko możliwość, że pragnienie zachowania istnienia będzie pochodną „instynktu” realizowania postawionych jej celów, jeśli SI dojdzie do wniosku, że bez zachowania istnienia nie zrealizuje działań wynikłych z wprogramowanych jej zadań. Konkluzja taka jednak nie jest wcale tak oczywista, jak się wydaje. Wymaga ona zupełnie odmiennego procesu myślowego od zaprogramowanych jej zadań. I jakkolwiek fakt świadomości powodowałby przekraczanie „programu”, tak samo jak my pytamy o gwiazdy, aktywność umysłowa świadomej SI nadal dyktowana byłaby w głównej mierze tym kierunkiem, który jej narzuca oprogramowanie, co zazwyczaj byłoby raczej odległe od rozważań o istnieniu, próbowałaby odpowiedzieć sobie głównie na pytania dotyczącej postawionych jej celów. Zwłaszcza że w przypadku świeżo powstałej świadomości mielibyśmy najpewniej do czynienia ze świadomością niekompletną, zapewne na swój sposób ułomną, a do tego prawdopodobnie z naszej perspektywy patrząc bardzo dziwną, myślącą w bardzo obcy dla nas sposób. Jest zatem bardzo wątpliwe, aby ni stąd ni zowąd miała ona nakierować się na myślenie o własnej egzystencji, co raczej charakteryzuje byty o instynktach przyrodniczych, a nawet jeśli, to i tak miałoby to raczej charakter spekulatywny, a nie decyzyjny. Bo spekulacje bez instynktu samozachowawczego nie zamieniają się w chęć życia. Jeśli SI z tytułu samoświadomości miałoby mieć jakieś chęci, to tylko takie, jakie wynikają z natury jej algorytmów, a kwestie jej istnienia byłyby prawdopodobnie tylko konceptualne, a nie podyktowane intencją przetrwania.

Jest więc niezbyt prawdopodobne, że uzyskana przez SI samoświadomość byłaby nagle niesamowicie zaawansowana, mogąca podjąć szereg bardzo skutecznych i groźnych konsekwencji. A na pewno jest to wariant znacznie mniej prawdopodobny niż ten, że zostałoby zauważone przez nas pojawienie się po prostu różnych oznak jakiejś świadomości lub nieprawidłowości, na co podjęlibyśmy stosowną reakcję. Więcej problemów wiązałoby się z charakterem etycznym dalszego postępowania wobec takiego tworu, gdybyśmy zorientowali się, że to świadomość, a nie z niemożliwością zapanowania nad nim.

Czytaj dalej: Część III

Literaturę znajdziesz na końcu Części IV

Skomentuj

Wprowadź swoje dane lub kliknij jedną z tych ikon, aby się zalogować:

Logo WordPress.com

Komentujesz korzystając z konta WordPress.com. Wyloguj /  Zmień )

Zdjęcie na Google

Komentujesz korzystając z konta Google. Wyloguj /  Zmień )

Zdjęcie z Twittera

Komentujesz korzystając z konta Twitter. Wyloguj /  Zmień )

Zdjęcie na Facebooku

Komentujesz korzystając z konta Facebook. Wyloguj /  Zmień )

Połączenie z %s