O sztucznej inteligencji i prawdziwym człowieczeństwie
Literatura fantastycznonaukowa często wykorzystuje motyw sztucznej inteligencji. Co cenne, robi to nierzadko w sposób zmuszający do refleksji nad sensem i wartością człowieczeństwa. Dzięki temu skłania do zastanowienia nad tym, jak sami siebie pojmujemy w odniesieniu do świata natury i wytworów ludzkiej technologii. By zmierzyć się z tym problemem, sięgnijmy do prozy Stanisława Lema.
Zajrzyj do lekcji poświęconej Genezis Bernarda Becketta i przypomnij sobie dialog, który toczył się w cytowanym tam fragmencie utworu. Następnie raz jeszcze zaproponuj hierarchię cech, które stanowią – w twoim przekonaniu – o wartości człowieczeństwa.
„Rozprawa” Stanisława Lema
O dziele
W opowiadaniu Stanisława Lema Rozprawa Pirx uczestniczy w eksperymencie, który ma sprawdzić, jak w obliczu wyzwań kosmicznej żeglugi sprawdzają się maszyny skonstruowane na ludzkie podobieństwo. Jako dowódca załogi złożonej z ludzi i androidów, nie znając prawdziwej tożsamości swoich podkomendnych, Pirx musi ocenić skuteczność załogi w realizacji powierzonego im zadania. Ciekaw jest oczywiście, kto z członków załogi jest człowiekiem, kto zaś – maszyną, ale nie potrafi znaleźć niezawodnej metody rozwiązania tego problemu. Sytuacja komplikuje się, gdy niektórzy członkowie załogi sami odkrywają przed dowódcą prawdę o swojej – ludzkiej bądź maszynowej – tożsamości. Burns, z którym rozmawia Pirx w przywołanym fragmencie, wyjawia, że jest androidem.
Do przeczytania
Rozprawa(fragment)
[Pirx] Wciąż patrzał na własne splecione ręce. – Niech pan mówi dalej…– Jeśli pan chce… Ale będę mówił tylko we własnym imieniu. Nie wiem nic o innych. Powstawałem, jako osobowość, podwójnie: z przedprogramowania i z uczenia się. I człowiek tak powstaje, ale ten pierwszy czynnik gra w nim mniejszą rolę, bo on przychodzi na świat ledwo rozwinięty, ja natomiast byłem od razu taki, jaki jestem obecnie, pod względem fizycznym, i nie musiałem uczyć się tak długo jak dziecko. Przez to zaś, że nie miałem ani dzieciństwa, ani dojrzewania, a tylko byłem multistatemmultistatem, w który najpierw włożono masę przedprogramowania, a potem trenowano go wielopostaciowo i ładowano weń mnóstwo informacji – przez to stałem się bardziej jednorodny niż ktokolwiek z was. Bo każdy człowiek jest chodzącą formacją geologiczną, która przeszła przez tysiąc epok żaru i drugi tysiąc zastygania, kiedy warstwy osiadały na warstwach – najpierw ten ostateczny, bo pierwszy, a przez to niezrównany z niczym świat sprzed poznania mowy, który ginie później pochłonięty przez nią, ale tli się jeszcze gdzieś u dna; jest to inwazja kolorów, kształtów i zapachów w mózg, wtargnięcie przez zmysły, otwierające się po urodzeniu; dopiero potem dochodzi do polaryzacjipolaryzacji na świat i nie‑świat, czyli na nie‑ja i ja. No, a potem te powodzie hormonów, te sprzeczne i różnopoziomowe programy wiar i popędów – historia kształtowania się jest historią wojen: mózg przeciw sobie – wszystkich tych szaleństw i rezygnacji nie znałem, nie przeszedłem takich etapów i dlatego nie ma we mnie ani śladu dziecka. Jestem zdolny do wzruszeń i pewno mógłbym nawet zabić, ale nie z miłości. Słowa w moich ustach brzmią jak w waszych, ale znaczą dla mnie coś innego.
– To znaczy, że pan nie może kochać? – spytał Pirx. Wciąż patrzał już tylko na własne ręce.
– Ale skąd ta pewność? Tego nikt nie może wiedzieć do czasu…
– Tego nie chciałem powiedzieć. Może i mógłbym. Ale to oznaczałoby coś całkiem innego niż u was. Dwa uczucia nie opuszczają mnie właściwie nigdy: zdziwienia i zarazem śmieszności. A jest tak, myślę, bo tą cechą waszego świata, która wszędzie mi się narzuca, jest jego umowność. Nie tylko w kształtach maszyn i w waszych obyczajach, ale także w waszej cielesności, która stała się wzorem dla mojej. Widzę, że wszystko mogłoby wyglądać inaczej, być inaczej zbudowane, działać inaczej, i nie byłoby przez to ani lepsze, ani gorsze od tego, co jest. Dla was świat najpierw po prostu jest, to znaczy istnieje jako jedyna możliwość, a dla mnie, od kiedy w ogóle umiałem myśleć, świat nie tylko był, ale był śmieszny. To znaczy wasz świat – miast, teatrów, ulic, rodzinnego życia, giełdy, tragedii miłosnych i filmowych gwiazd. Chce pan usłyszeć moją ulubioną definicję człowieka? Istota, która mówi najchętniej o tym, na czym się najmniej zna. (...)
– Pan nienawidzi tych, którzy pana stworzyli, prawda? – spytał cicho Pirx.– Myli się pan. Uważam, że każde istnienie, nawet najbardziej ograniczone, lepsze jest od nieistnienia. Oni, ci konstruktorzy moi, na pewno wielu rzeczy nie mogli przewidzieć, ale bardziej nawet niż za inteligencję jestem im wdzięczny za to, że odmówili mi ośrodka rozkoszy. Jest taki ośrodek w waszym mózgu, wie pan o tym?
– Czytałem to gdzieś.
– Ja go widocznie nie mam, dzięki temu nie jestem beznogim, który nie chce niczego – tylko chodzić… Tylko chodzić, ponieważ to niemożliwe.
– Wszyscy inni są śmieszni, tak? – poddał Pirx. – A pan?
– O, ja też. Tylko w inny sposób. Każdy z was, skoro istnieje, posiada takie ciało, jakie ma, i na tym koniec – a ja mógłbym na przykład wyglądać jak lodówka.
– Nie widzę w tym nic śmiesznego – mruknął Pirx. Rozmowa ta męczyła go coraz bardziej.
– Chodzi o umowność, o przypadkowość – powtórzył Burns. – Nauka jest rezygnacją z rozmaitych absolutów: z absolutnej przestrzeni, z absolutnego czasu i absolutnej, to znaczy wiecznotrwałej, duszy, z absolutnego, bo przez Boga stworzonego, ciała. Takich umowności, które bierzecie za rzeczy realne, od niczego niezawisłe, jest więcej.
– Co jeszcze jest umowne? Zasady etyczne? Miłość? Przyjaźń?
– Uczucia nigdy nie są umowne, chociaż mogą wynikać z umownych, konwencjonalnych przesłanek. Ale ja naprawdę tylko dlatego mówię o was, bo w takim zestawieniu łatwiej mi powiedzieć, jaki sam jestem. Etyka na pewno jest umowna, przynajmniej dla mnie. Nie muszę postępować etycznie, a jednak robię to.
– Ciekawe. Dlaczego?
– Nie mam jakiegoś „odruchu dobra”. Nie jestem zdolny do litości, aby tak powiedzieć – „z natury”. Ale wiem, kiedy należy się litować i potrafię się do tego wdrożyć. Wyrozumowałem sobie, że tak trzeba. A więc niejako zapełniłem to puste miejsce w sobie dzięki logicznemu rozumowaniu. Może pan powiedzieć, że mam „zastępczą etykę”, że ją sobie sprotezowałem tak dokładnie, iż jest „jak prawdziwa”.
– Nie rozumiem dobrze. Więc na czym polega różnica?
– Na tym, że działam zgodnie z logiką przyjętych aksjomatów, a nie zgodnie z odruchem. Ja nie mam takich odruchów. Jednym z waszych nieszczęść jest to, że oprócz nich nie macie prawie nic. Nie wiem, może kiedyś to wystarczało, ale obecnie na pewno nie wystarcza. Jak przejawia się w praktyce tak zwana miłość bliźniego? Ulituje się pan nad ofiarą wypadku i pomoże jej. Ale jeśli stanie pan wobec dziesięciu tysięcy ofiar naraz, nie ogarnie pan wszystkich litością. Współczucie jest mało pojemne i mało rozciągliwe. Dobre, dopóki w grę wchodzą jednostki – bezradne, kiedy pojawia się masa. (...)
– Współzawodniczył pan z ludźmi w rozmaitych sytuacjach doświadczalnych. Czy zawsze bywał pan górą?
– Nie. Jestem tym lepszy, im bardziej zadanie wymaga algorytmizacji, matematyki i ścisłości. Intuicja jest moją stroną najsłabszą. Mści się na mnie pochodzenie od maszyn cyfrowych.
– Jak to wygląda w praktyce?
– Jeżeli sytuacja komplikuje się nadmiernie, jeżeli ilość nowych czynników staje się zbyt wielka, gubię się. Człowiek, jak wiem, stara się wtedy zdać na domysł, to znaczy rozwiązanie przybliżone, i udaje mu się to czasem, a ja tego nie potrafię. Muszę uwzględnić wszystko dokładnie, świadomie, a jeśli nie mogę – przegrywam.
– To bardzo ważne, co pan mi powiedział, Burns. Więc powiedzmy, w sytuacji awaryjnej, jakiejś katastrofy…?
– To nie takie proste, komandorze, bo ja nie odczuwam strachu, w każdym razie nie tak jak człowiek, i chociaż groźba zagłady nie jest mi oczywiście obojętna, nie tracę, jak to się mówi, głowy, i tak uzyskana równowaga może wtedy skompensować niedomogę intuicji.
– Pan próbuje opanować sytuację – do końca?
– Tak, nawet wtedy, gdy widzę, że przegrałem.
– Dlaczego? Czy to nie jest irracjonalne?
– To jest tylko logiczne, bo tak sobie postanowiłem.
– Dziękuję panu. Może naprawdę mi pan pomógł – rzekł Pirx. – Niech mi pan tylko powie jeszcze, co pan zamierza robić po naszym powrocie?
– Jestem cybernetykiem‑neurologiem, i to niezłym. Zdolności twórczych mam mało, bo one są nieoddzielne od intuicji, ale i tak znajdę dość interesującej roboty.
– Dziękuję panu – powtórzył Pirx.
Tamten wstał, skłonił się nieznacznie i wyszedł. Pirx zerwał się z koi, ledwo drzwi zamknęły się za Burnsem, i jął chodzić od ściany do ściany.
Po uważnym przeczytaniu fragmentu opowiadania Stanisława Lema wykonaj polecenia.
Uczniowskie odpowiedzi powinny zmierzać ku rozpoznaniu problemu człowieczeństwa jako centralnego problemu tekstu. Problem ten ukazany jest poprzez konfrontację człowieka ze sztuczną inteligencją, którą reprezentuje niemal nieodróżnialna od człowieka maszyna. Poetyka science fiction została zatem wykorzystana w celu takiego ujęcia tego problemu, które w literaturze realistycznej zapewne nie mogłoby być zaprezentowane lub zostałoby wyartykułowane ze znacznie mniejszą siłą. Ku takim wnioskom prowadzić ma uczniów w założeniu zadanie 1.6.
Przedstaw sądy, które Burns wypowiada na temat człowieka. Swoje spostrzeżenia poprzyj odpowiednimi fragmentami z tekstu.
Wyjaśnij, dlaczego Burns uważa, że cechą świata ludzi jest umowność.
Na podstawie informacji zawartych w cytowanym tekście oceń, które z przedstawionych stwierdzeń są prawdziwe, a które – fałszywe. Uzasadnij swoje rozstrzygnięcia.
Stwierdzenie | Prawda | Fałsz |
W cytowanym fragmencie opowiadania dominuje dialog. | □ | □ |
W tekście występuje narracja w formie trzecioosobowej. | □ | □ |
Burns – „sztuczny człowiek” – przechodził te same fazy rozwoju, które przechodzi dorastający człowiek. | □ | □ |
Burns doznaje uczuć zdziwienia i śmieszności zarazem w obliczu umowności ludzkiego świata. | □ | □ |
Burns nienawidzi swoich konstruktorów za to, że powołali go do istnienia. | □ | □ |
Burns postępuje etycznie na zasadzie naturalnego odruchu. | □ | □ |
Przewaga Burnsa nad człowiekiem przejawia się w zadaniach wymagających ścisłego myślenia. | □ | □ |
Burns nie jest zdolny do działania intuicyjnego. | □ | □ |
Burns posiada kompetencje cybernetyka-neurologa. | □ | □ |
Rozpoznaj i zaznacz w cytowanym fragmencie opowiadania Stanisława Lema te elementy świata przedstawionego, które pozwalają uznać je za tekst reprezentujący fantastykę naukową. Uzasadnij swój wybór.
Zastanów się i ustal, jaka jest problematyka przytoczonego fragmentu opowiadania Rozprawa.
Odpowiedz na pytanie: czy problematyka zawarta w przytoczonym fragmencie Rozprawy jest charakterystyczna przede wszystkim dla tekstów reprezentujących fantastykę naukową, czy też mogłaby się pojawić w innych odmianach literatury? Odpowiedź uzasadnij.
Zadaniowo
Korzystając z wiedzy i przemyśleń, których dostarczyła ci lekcja, przygotuj wypowiedź ustną, w której dowiedziesz jednej z tez:
Człowiek zawsze będzie miał przewagę nad nawet najbardziej inteligentną i sprawną maszyną.
Inteligentne maszyny nieuchronnie staną się doskonalszą formą istnienia od człowieka.
Zadbaj o uporządkowanie argumentów według ich ważności dla poparcia wybranej tezy oraz o formułowanie wniosków w taki sposób, by wynikały one z przedstawionych argumentów. Przygotowany tekst zaprezentuj na forum klasy, wygłaszając go z zachowaniem reguł podobnych wystąpień publicznych i z wykorzystaniem niezbędnych środków retorycznych (operowanie głosem, gestem itd.).
Korzystając ze źródeł internetowych, poszukaj informacji na temat filmów, powstałych na podstawie prozy Stanisława Lema. Wynotuj odnalezione przykłady, podając nazwisko reżysera oraz rok produkcji.