Wprowadzenie do książki

Płytki umysł

     Gdy kończyłem pisać tę książkę u schyłku 2009 roku, natknąłem się w prasie na pewną krótką informację zamieszczoną w mało widocznym miejscu. Opowiadała ona o tym, że Edexcel — największa w Anglii firma, która wydaje materiały edukacyjne służące do oceniania postępów w nauce — ogłosiła wprowadzenie na rynek narzędzia do „zautomatyzowanego oceniania wypracowań egzaminacyjnych opartego na sztucznej inteligencji”. Komputerowy system oceniania miał „czytać i oceniać” wypracowania, które brytyjscy uczniowie piszą w ramach powszechnie przeprowadzanego sprawdzianu biegłości językowej. W ramach raportu opublikowanego na łamach „Times Education Supplement” rzecznik firmy Edexcel — która należy do potentata na rynku wydawniczym, czyli firmy Pearson — wyjaśniał, że system „charakteryzuje się dokładnością taką samą jak osoby sprawdzające wypracowania, lecz nie dotyczy go element ludzki taki jak zmęczenie czy subiektywność oceny”. Z kolei specjalista w dziedzinie oceniania prac pisemnych powiedział gazecie, że skomputeryzowana ewaluacja wypracowań uczniowskich stanie się w przyszłości filarem systemu edukacji:      „Niepewność dotyczy momentu, »kiedy« to nastąpi, a nie tego, »czy w ogóle« będzie to miało miejsce”.
      Pomyślałem więc, jak oprogramowanie firmy Edexcel rozpozna tych nielicznych uczniów, którzy wyłamują się z konwencji obowiązujących przy pisaniu wypracowania — nie dlatego, że nic nie umieją, ale dlatego, że wyróżniają się inteligencją. Odpowiedź jednak była oczywista: oprogramowanie po prostu takich uczniów nie rozpozna. Komputery — jak wskazywał Joseph Weizenbaum — działają według określonych reguł, nie wydają własnych opinii. Zamiast subiektywnej oceny dają nam formułkę. Wzmianka prasowa pokazała więc, jak prorocze były słowa Weizenbauma, gdy kilkadziesiąt lat temu ostrzegał, że w miarę przyzwyczajania się do komputerów i uzależniania się od nich będziemy odczuwali coraz większą pokusę, aby powierzać im „zadania, które wymagają wykazania się mądrością”. Kiedy zaś to się stanie, nie będzie odwrotu. Oprogramowanie okaże się absolutnie niezbędne do wykonywania tych zadań.
Trudno jest oprzeć się uwodzicielskim urokom technologii. W dobie natychmiastowego przepływu informacji korzyści płynące z szybkości i wydajności możemy uznawać za oczywiste, a ich atrakcyjność — za wprost bezdyskusyjną. Nadal jednak mam nadzieję, że nie wejdziemy miękko w przyszłość, jaką piszą dla nas inżynierowie i programiści. Nawet jeśli nie weźmiemy sobie do serca słów Weizenbauma, powinniśmy co najmniej zastanowić się nad nimi, aby mieć świadomość, co mamy do stracenia. Jakże smutne by było — zwłaszcza w kontekście kształtowania umysłów naszych dzieci — gdybyśmy musieli bezkrytycznie zaakceptować to, że „element ludzki” wyszedł z mody i można się go pozbyć.
    Informacja o produkcie firmy Edexcel przypomniała mi ponownie scenę pojawiającą się pod koniec Odysei kosmicznej 2001. Scena ta zresztą prześladowała mnie, odkąd obejrzałem film po raz pierwszy w latach siedemdziesiątych, w okresie mojej analogowej młodości. O tym, że scena ta jest tak przejmująca, a jednocześnie tak dziwna, stanowi emocjonalna reakcja komputera na demontaż jego umysłu — rozpacz, gdy odłączane są kolejne obwody, niemal dziecięce błaganie skierowane do astronauty („Czuję to, czuję. Boję się”) oraz ostateczny powrót do tego, co można nazwać wyłącznie stanem niewinności. Potok emocji wylewających się z HAL-a kontrastuje z obojętnością, która cechuje w filmie postacie ludzkie, wykonujące swoje zadania z niemal maszynową wydajnością. Można odnieść wrażenie, że myśli i działania ludzi stanowią realizację przygotowanego wcześniej scenariusza, kolejnych etapów przewidzianych algorytmem. W świecie Odysei kosmicznej 2001 bohaterowie tak bardzo upodobnili się do maszyn, że najbardziej ludzka w całym filmie okazuje się maszyna. Jest to istota mrocznego proroctwa Kubricka: jeżeli będziemy zapośredniczać nasze rozumienie świata przez komputery, to postawimy znak równości między naszą — ludzką inteligencją a inteligencją sztuczną.