O sztucznej inteligencji i prawdziwym człowieczeństwie

Stanisław Lem Rozprawa

(fragment)

[PirxPirx[Pirx] Wciąż patrzał na własne splecione ręce. – Niech pan mówi dalej…

– Jeśli pan chce… Ale będę mówił tylko we własnym imieniu.
Nie wiem nic o innych. Powstawałem, jako osobowość, podwójnie: z przedprogramowania i z uczenia się. I człowiek
tak powstaje, ale ten pierwszy czynnik gra w nim mniejszą rolę, bo on przychodzi na świat ledwo rozwinięty, ja natomiast byłem od razu taki, jaki jestem obecnie, pod względem fizycznym,
i nie musiałem uczyć się tak długo jak dziecko. Przez to zaś,
że nie miałem ani dzieciństwa, ani dojrzewania, a tylko byłem multistatemj00000002ZB2v27_000tp001multistatem, w który najpierw włożono masę przedprogramowania, a potem trenowano go wielopostaciowo i ładowano weń mnóstwo informacji – przez to stałem się bardziej jednorodny niż ktokolwiek z was. Bo każdy człowiek jest chodzącą formacją geologiczną, która przeszła przez tysiąc epok żaru i drugi tysiąc zastygania, kiedy warstwy osiadały
na warstwach – najpierw ten ostateczny, bo pierwszy, a przez
to niezrównany z niczym świat sprzed poznania mowy, który ginie później pochłonięty przez nią, ale tli się jeszcze gdzieś u dna; jest to inwazja kolorów, kształtów i zapachów w mózg, wtargnięcie przez zmysły, otwierające się po urodzeniu; dopiero potem dochodzi do polaryzacjij00000002ZB2v27_000tp002polaryzacji na świat i nie‑świat, czyli
na nie‑ja i ja. No, a potem te powodzie hormonów, te sprzeczne i różnopoziomowe programy wiar i popędów – historia kształtowania się jest historią wojen: mózg przeciw sobie – wszystkich tych szaleństw i rezygnacji nie znałem,
nie przeszedłem takich etapów i dlatego nie ma we mnie
ani śladu dziecka. Jestem zdolny do wzruszeń i pewno mógłbym nawet zabić, ale nie z miłości. Słowa w moich ustach brzmią
jak w waszych, ale znaczą dla mnie coś innego.

– To znaczy, że pan nie może kochać? – spytał PirxPirxPirx. Wciąż patrzał już tylko na własne ręce.

– Ale skąd ta pewność? Tego nikt nie może wiedzieć do czasu…

– Tego nie chciałem powiedzieć. Może i mógłbym. Ale to oznaczałoby coś całkiem innego niż u was. Dwa uczucia
nie opuszczają mnie właściwie nigdy: zdziwienia i zarazem śmieszności. A jest tak, myślę, bo tą cechą waszego świata,
która wszędzie mi się narzuca, jest jego umowność. Nie tylko w kształtach maszyn i w waszych obyczajach, ale także w waszej cielesności, która stała się wzorem dla mojej. Widzę, że wszystko mogłoby wyglądać inaczej, być inaczej zbudowane, działać inaczej, i nie byłoby przez to ani lepsze, ani gorsze od tego,
co jest. Dla was świat najpierw po prostu jest, to znaczy istnieje jako jedyna możliwość, a dla mnie, od kiedy w ogóle umiałem myśleć, świat nie tylko był, ale był śmieszny. To znaczy wasz świat – miast, teatrów, ulic, rodzinnego życia, giełdy, tragedii miłosnych i filmowych gwiazd. Chce pan usłyszeć moją ulubioną definicję człowieka? Istota, która mówi najchętniej o tym,
na czym się najmniej zna. (…)
– Pan nienawidzi tych, którzy pana stworzyli, prawda? – spytał cicho PirxPirxPirx.

– Myli się pan. Uważam, że każde istnienie, nawet najbardziej ograniczone, lepsze jest od nieistnienia. Oni, ci konstruktorzy moi, na pewno wielu rzeczy nie mogli przewidzieć, ale bardziej nawet niż za inteligencję jestem im wdzięczny za to, że odmówili mi ośrodka rozkoszy. Jest taki ośrodek w waszym mózgu, wie pan o tym?

– Czytałem to gdzieś.

– Ja go widocznie nie mam, dzięki temu nie jestem beznogim, który nie chce niczego – tylko chodzić… Tylko chodzić, ponieważ to niemożliwe.

– Wszyscy inni są śmieszni, tak? – poddał PirxPirxPirx. – A pan?

– O, ja też. Tylko w inny sposób. Każdy z was, skoro istnieje, posiada takie ciało, jakie ma, i na tym koniec – a ja mógłbym
na przykład wyglądać jak lodówka.

– Nie widzę w tym nic śmiesznego – mruknął PirxPirxPirx. Rozmowa
ta męczyła go coraz bardziej.

– Chodzi o umowność, o przypadkowość – powtórzył Burns. – Nauka jest rezygnacją z rozmaitych absolutówabsolutabsolutów: z absolutnej przestrzeni, z absolutnego czasu i absolutnej, to znaczy wiecznotrwałej, duszy, z absolutnego, bo przez Boga stworzonego, ciała. Takich umowności, które bierzecie za rzeczy realne, od niczego niezawisłe, jest więcej.

– Co jeszcze jest umowne? Zasady etycznezasady etyczneZasady etyczne? Miłość? Przyjaźń?

– Uczucia nigdy nie są umowne, chociaż mogą wynikać z umownych, konwencjonalnychkonwencjonalnykonwencjonalnych przesłanek. Ale ja naprawdę tylko dlatego mówię o was, bo w takim zestawieniu łatwiej
mi powiedzieć, jaki sam jestem. Etyka na pewno jest umowna, przynajmniej dla mnie. Nie muszę postępować etycznie, a jednak robię to.

– Ciekawe. Dlaczego?

– Nie mam jakiegoś „odruchu dobra”. Nie jestem zdolny do litości, aby tak powiedzieć – „z natury”. Ale wiem, kiedy należy się litować i potrafię się do tego wdrożyć. Wyrozumowałem sobie,
że tak trzeba. A więc niejako zapełniłem to puste miejsce w sobie dzięki logicznemu rozumowaniu. Może pan powiedzieć, że mam „zastępczą etykę”, że ją sobie sprotezowałemprotezasprotezowałem tak dokładnie, iż jest „jak prawdziwa”.

– Nie rozumiem dobrze. Więc na czym polega różnica?

– Na tym, że działam zgodnie z logiką przyjętych aksjomatówaksjomataksjomatów, a nie zgodnie z odruchem. Ja nie mam takich odruchów. Jednym z waszych nieszczęść jest to, że oprócz nich nie macie prawie nic. Nie wiem, może kiedyś to wystarczało, ale obecnie na pewno nie wystarcza. Jak przejawia się w praktyce tak zwana miłość bliźniego? Ulituje się pan nad ofiarą wypadku i pomoże jej.
Ale jeśli stanie pan wobec dziesięciu tysięcy ofiar naraz,
nie ogarnie pan wszystkich litością. Współczucie jest mało pojemne i mało rozciągliwe. Dobre, dopóki w grę wchodzą jednostki – bezradne, kiedy pojawia się masa. (...)

– Współzawodniczył pan z ludźmi w rozmaitych sytuacjach doświadczalnych. Czy zawsze bywał pan górą?

– Nie. Jestem tym lepszy, im bardziej zadanie wymaga algorytmizacjialgorytmizacjaalgorytmizacji, matematyki i ścisłości. IntuicjaintuicjaIntuicja jest moją stroną najsłabszą. Mści się na mnie pochodzenie od maszyn cyfrowych.

– Jak to wygląda w praktyce?

– Jeżeli sytuacja komplikuje się nadmiernie, jeżeli ilość nowych czynników staje się zbyt wielka, gubię się. Człowiek, jak wiem, stara się wtedy zdać na domysł, to znaczy rozwiązanie przybliżone, i udaje mu się to czasem, a ja tego nie potrafię. Muszę uwzględnić wszystko dokładnie, świadomie, a jeśli
nie mogę – przegrywam.

– To bardzo ważne, co pan mi powiedział, Burns. Więc powiedzmy, w sytuacji awaryjnej, jakiejś katastrofy…?

– To nie takie proste, komandorzekomandorkomandorze, bo ja nie odczuwam strachu, w każdym razie nie tak jak człowiek, i chociaż groźba zagłady
nie jest mi oczywiście obojętna, nie tracę, jak to się mówi, głowy, i tak uzyskana równowaga może wtedy skompensowaćskompensowaćskompensować niedomogęniedomoganiedomogę intuicji.

– Pan próbuje opanować sytuację – do końca?

– Tak, nawet wtedy, gdy widzę, że przegrałem.

– Dlaczego? Czy to nie jest irracjonalneirracjonalnyirracjonalne?

– To jest tylko logiczne, bo tak sobie postanowiłem.

– Dziękuję panu. Może naprawdę mi pan pomógł – rzekł Pirx. – Niech mi pan tylko powie jeszcze, co pan zamierza robić po naszym powrocie?

– Jestem cybernetykiemcybernetykcybernetykiem-neurologiemneurologneurologiem, i to niezłym. Zdolności twórczych mam mało, bo one są nieoddzielne od intuicji,
ale i tak znajdę dość interesującej roboty.

– Dziękuję panu – powtórzył PirxPirxPirx.

Tamten wstał, skłonił się nieznacznie i wyszedł. PirxPirxPirx zerwał się z koikojakoi, ledwo drzwi zamknęły się za Burnsem, i jąłjąćjął chodzić
od ściany do ściany.

j00000002ZB2v27_00000_BIB_001 Źródło: Stanisław Lem, Rozprawa, [w:] tegoż, Dzieła zebrane: Opowieści o pilocie Pirxie, Kraków 2000, s. 350–355.