niedziela, 17 lipca 2011

Tort jest kłamstwem

fragment grafiki autorstwa Jenny Stout, całość tutaj.
Stosunkowo niedawno ukończyłem wreszcie dylogię Portal, będącą swoistym spin-offem kultowej dylogicznej dylogii (dwie części plus rozwinięcie w dwóch epizodach) Half-Life.* Gra okazała się dla mnie - i pewnie nie tylko dla mnie - naprawdę sporym zaskoczeniem i niezłym dowodem na to, że z gry logiczno-zręcznościowej można zrobić pełnokrwisty hit, jeśli tylko wezmą się za to odpowiedni ludzie. O Portalu można pisać naprawdę dużo, mnie jednak szczególnie zainteresował jeden aspekt, niekoniecznie stanowiący najoryginalniejszy element produkcji. Wręcz przeciwnie – rzekłbym, że omawiana tu koncepcja jest jednym z najbardziej ogranych schematów fabularnych w dziedzinie science-fiction. Tradycyjnie przestrzegam przed spoilerami zdradzającymi dość istotne szczegóły historii przedstawionej w obu grach z serii.

Jeśli można wyciągnąć jakiś wniosek z setek utworów science-fiction obracających się wokół tematyki AI, to brzmiałby on tak – każda dostatecznie rozwinięta sztuczna inteligencja na pewno w końcu się zbuntuje.** Każda. Zawsze. Nieważne, czy mówimy o kiczowatym filmie akcji klasy B czy wybitnej powieści fantastycznonaukowej znanego autora. W czasie mojego długiego i ciągle trwającego romansu z fantastyką naukową spotkałem się tylko z jednym przypadkiem potężnej AI, która nie miała w planach eksterminacji ludzkości.

Przyznam, że to dla mnie mało zaskakujące. Pomijając najoczywistsze wytłumaczenie – potężna, sztuczna inteligencja która się nie buntuje to trochę jak ogromne działo, które nie wystrzela – myśląca maszyna to dość silnie rozpowszechniony fetysz poruszający siedzącego w głębi każdego z nas małego technofoba. Nie wiem, czy pierwszy był HAL 9000, ale to z pewnością superkomputer wymyślony przez Clarke’a (i sportretowany przez Kubricka) ustanowił kanon zbuntowanej AI, który trwa do dziś i z którego wypączkowały wspomniana wyżej Jane, VIKI, GLaDOS***, Deus Ex Machina i ten komputer nadzorujący statek kosmiczny z wyjątkowo nieudanej powieści Eugeniusza Dębskiego, której tytuł niefortunnie wyleciał mi z pamięci.

Właśnie, GLaDOS – mimo kliszy fabularnej, jest ona naprawdę udanie wykreowaną postacią. Oto superkomputer o głosie operowej diwy, który obiecuje smakowitą nagrodę w zamian za pomyślne przejście przez przygotowany przezeń tor przeszkód, a w dalszej części gry podkopuje samopoczucie Chell, głównej bohaterki, swoim aksamitnym głosem recytując osobliwe szyderstwa pod jej adresem. To właśnie ten szokujący dysonans – słodka, ciepła barwa głosu na przemian to kusząca, to złorzecząca Chell – najbardziej przemawia do wyobraźni gracza. Swoje robi też wszechwładność GLaDOS i tu dopatrywałbym się największego źródła strachu przed świadomą AI. Chell Obserwująca olbrzymie gmachy Aperture, Neo przyglądający się „farmom” ludzi, Killy stający wobec Megastructure, wszyscy z jedną, wyraźną myślą – oto dokonanie kogoś, kogo zrozumienie leży poza naszym zasięgiem. To nas najbardziej przeraża – że stworzona przez nas sztuczna świadomość zacznie snuć myśli dla nas kompletnie nie do pomyślenia, zacznie rozumować na poziomie niedostępnym dla ludzkiego umysłu, nie tyle z powodu różnic w „mocy przerobowej” co zupełnie innej struktury mechanicznego umysłu. To dość zaskakująca i raczej irracjonalna obawa – wątpliwe, by naukowcy uznali za celowe poszukiwać metod stworzenia inteligencji, z którą nie będzie można się porozumieć.

Ostatni akapit do przemyślenia dla czytelników – gdzie prowadzone są najprężniejsze badania dotyczące AI? Oczywiście w środowiskach developerów gier komputerowych, którzy starają się, by postawieni przed graczem przeciwnicy wykazywali choćby pozory inteligencji. Jak do tej pory stworzenie cyfrowego oponenta, który - nie uciekając się do drobnych, ale znaczących oszustw wyrównujących szanse - jest w stanie pokonać wyrobionego gracza pozostaje w sferze marzeń. Miejska legenda o Kasparowie rzuconym na kolana przez komputerowego szachistę nie wytrzymuje starcia z rzeczywistością, póki co zatem jesteśmy bezpieczni. Warto jednak pamiętać, że badania trwają, a gry komputerowe „uczą” sztuczną inteligencję pewnej niepokojącej rzeczy – że człowieka trzeba pokonać.

___________
*swoją drogą, jeśli Valve wyda kiedyś grę z trójką w tytule, to będzie wydarzenie na miarę premiery DNF.
**jeśli się nie buntuje, to znaczy, że jest niedostatecznie rozwinięta.
***zastanawiająco dużo w tym gronie „kobiet” – sztucznych inteligencji określających siebie jako przedstawicielki płci pięknej. Oprę się pokusie i nie wyciągnę z tego żadnych ważkich wniosków.

5 komentarzy :

  1. 1. Nope, nie każda AI się buntuje. Patrz: Mass Effect 2 -> Legion -> sytuacja odwrotna do podanej, cyborg z własnej woli poddaje się człowiekowi (ok, to Shepard, ale sam fakt). Obecnie odbija się czkawką myślenie fantastów z lat 70., kto w dzisiejszych czasach boi się techniki?

    2. Fizyczną niemożliwością jest stworzenie przez nas inteligencji, której nie moglibyśmy zrozumieć (wszystko tworzone jest na wzór i podobieństwo, also kulturowe uwarunkowania nie pozwolą AI na wyjście ze schematów). Jedyny kontakt z takową możliwy jest za pośrednictwem życia pozaziemskiego - patrz Snerg "Robot". Doskonale rozumiem motywację GLaDOS.

    3. Badania dot. AI w środowiskach developerów gier brzmi jak stwierdzenie, że najwięcej pojęć fizyki teoretycznej zostało wymyślonych przez pisarzy s-f. Mechanika gry owszem, stwarza pozory sztucznej inteligencji, jednak garściami bierze z wcześniejszych odkryć naukowców. Badania na MIT są skuteczniejsze niż którakolwiek gra Valve.

    4. Maszyna teoretycznie nie ma płci. Słodkie kobiece głosy to raczej wynik myślenia: mężczyzna -> gracz -> dajmy mu femme fatale to będzie szczęśliwy.

    5. Tort jest kłamstwem to najgorsze tłumaczenie czegokolwiek z angielskiego na nasze włączając w to 'Wirujący seks'.

    OdpowiedzUsuń
  2. ad.1 Toż przecież napisałem, że nie każda, nawet przytoczyłem przykład Jane z Enderverse.

    ad.2 To też napisałem, więc nie bardzo rozumiem, czemu służy ta obiekcja.

    ad.3 Najprężniejsze padania. Czytaj uważnie. Nie napisałem, że najbardziej kompleksowe czy najlepsze (dla danej definicji "najlepszości"). Przez ręce developerów przelewa się pewnie więcej pieniędzy, niż przez ręce włodarzy MIT, poza tym ja mówię o popkulturze i o tym, jak wpływa ona na nasz językowy obraz świata. Więc możliwe, że tu plotę głupoty. Odnotowuję to "do weryfikacji".

    ad.4 Strasznie powierzchowna ta Twoja teoria, przynajmniej w moim mniemaniu. Zauważ, że GLaDOS nie ma kobiecego głosu - ona JEST kobietą. Głos to tylko reprezentacja tego, co siedzi "w środku".

    ad.5 Czemu Ci się nie podoba? Jest po naszemu, na dodatek gramatycznie i wiernie oddaje sens oryginału, wiec nie rozumiem pretensji.

    OdpowiedzUsuń
  3. Ad. ad 1.: "W czasie mojego długiego i ciągle trwającego romansu z fantastyką naukową spotkałem się tylko z jednym przypadkiem potężnej AI, która nie miała w planach eksterminacji ludzkości." Jeden przypadek nie równa się nie każda. Przypadków jest na pęczki. "jeśli się nie buntuje, to znaczy, że jest niedostatecznie rozwinięta." NOT

    Ad. ad. 2: "To dość zaskakująca i raczej irracjonalna obawa – wątpliwe, by naukowcy uznali za celowe poszukiwać metod stworzenia inteligencji, z którą nie będzie można się porozumieć." Ty mówisz o motywacjach naukowców, ja o ich uwarunkowaniach.

    Ad. ad. 3: Nie dyskredytowałam słowa 'najprężniejsze' tylko ogólnie całą teorię. Sam przywołujesz anegdotkę z szachami - zauważ to nie jest inteligencja tylko sprawnie napisany program. Nie adaptuje się do otoczenia tylko odgrywa jeden z przypisanych mu scenariuszy na wypadek takiego to, a takiego ruchu. Element losowości w bardziej skomplikowanych grach to również tylko formułka. Wszystko opiera się na stałym zakresie danych. IMO większą inteligencją odznaczają się spersonalizowane reklamy Google.

    Ad. ad. 4 Zdefiniuj kobietę, podaj cechy wspólne z GLaDOS, pomiń szaleństwo (bo zakładanie, że zachowuje się jak baba z PMSem (słyszałam takie opinie) jest nieco płytkie). Btw, jest fajny odcinek Flapjacka o tym, jak chciał zmienić głos, bo brzmiał jak dziewczynka i wszyscy go z nią mylili. Poza głosem nie mamy tu żadnych cech warunkujących płeć, możesz pomęczyć się z analizą charakterologiczną, chętnie posłucham.

    Ad. ad. 5 Przyzwyczaiłam się do angielskiego memu, w ostateczności do 'ciasto jest kłamstwem'. Chociaż to też jest lamerskie (aczkolwiek bardziej pasuje, z tekstu nie wiemy, jaki to rodzaj ciasta), bo powinno być kawałek 'tortu jest kłamstwem', co już definitywnie jest za długie na mem.

    OdpowiedzUsuń
  4. Ad. ad ad 1. Nie zrozumiałaś żartu. Albo, co też możliwe, był to marny żart.

    Ad. ad ad 2. Rozważmy jednak - czysto teoretyczne - takie przypadek:

    1/Naukowcy tworzą zaczątek inteligencji z możliwością automodyfikacji.
    2/Wprowadzają jakieś absurdalne, losowe zmienne.
    3/Efekt tworzy inteligencję, której nie rozumiemy, co do której nie możemy nawet stwierdzić, czy na pewno jest ramenem, czy może varelse, czy może jakimś fantomem, który w swoich zachowaniach daje nam jedynie pozory jakiejkolwiek logiki.

    Stoimy więc pod ścianą - inteligencja, która nie przypomina naszej nie jest inteligencją z naszego punktu widzenia (por. skrzydlate istoty ze "Świata Rocannona" Le Guin).

    Ad. ad ad 3. Pytanie, kiedy sprawnie napisany program staje się inteligencją? Nie podejmuję sie dyskusji na ten temat.

    Ad. ad ad 4. Po pierwsze, GLaDOS mówi o sobie jako o kobiecie, a zatem na poziomie świadomości sama tak siebie definiuje. Chyba. Bo język angielski jest tak popaprany, że postać mówiąca w pierwszej osobie nie informuje o swojej płci przez formy niektórych słów (czasowników, itd.). ale jestem pewien, że w Portalu 2 Wheatley mówi o GLaDOS per "she". To się liczy? Powinno, bo jako jeden z jej modułów osobowości powinien widzieć, o czym mówi.
    Zresztą, powyższe wątpliwości można rozwiać prostą obserwacją potwierdzoną przez twórców gry - fundamentalną częścią osobowości GLaDOS jest Carolione, a zatem postać, której płci nie możemy podważać.

    Ad. ad ad 5. A to jest, proszę ja Ciebie, żaden argument.

    OdpowiedzUsuń
  5. A jeszcze odnośnie argumentu "GLaDOS zachowuje się jak miesiączkująca baba" to osobiście uważam, że jest on poniżej wszelkiej krytyki czy poziomu jakiejkolwiek merytorycznej dyskusji i wyśmiałbym każdego, kto posłużyły się podobnym wybiegiem.

    OdpowiedzUsuń

Related Posts Plugin for WordPress, Blogger...