Budeme schopni odolat pokušení přestat myslet sami za sebe? Budeme upřednostňovat bezbolestné produkování myšlenek před skutečným myšlením, které drhne a bolí, a právě proto nás posouvá dál?
Hlavním nebezpečím umělé inteligence není, že bude chytřejší než člověk, ale že člověk bude tak chytrý jako ona.
Na tuto myšlenku v chestertonovském duchu jsem narazil v knize Are we all cyborgs now? Jejím skutečným autorem ovšem nejsou autoři knihy, ale – kdo jiný, že? – nějaký AI chatbot.
Mohli bychom se také zaštítit starým klišé nástroj X je dobrý sluha, ale zlý pán, jistě tím nic nezkazíme. Platí o kladivu stejně jako o atomové energii nebo o umělé inteligenci. X je dobrým sluhou, jestliže je ve službě lidství, umožňuje člověku prožít lépe svůj život, řeší jeho problém, přispívá k lidskému rozkvětu či naplnění. Ve chvíli, kdy X naopak člověka ničí nebo ho ovládá, stává se zlým pánem. Prosté, že? Alespoň do chvíle, než začneme promýšlet konkrétní příklady. Léky proti bolesti mohou být dobrým sluhou, u lidí, kteří jsou na nich závislí, se proměnily ve zlého pána. Kudy ale přesně vede hranice? A jak je to v případě čtení zpráv na internetu, sledování seriálů nebo používání sociálních sítí?
Technologie – jakákoliv – není neutrální (ano, vím, ne všichni s tím souhlasí). Ovlivňuje, jak svět vnímáme a jak k němu přistupujeme. Kdo má v ruce kladivo, považuje každý problém za hřebík. Další klišé, ale výstižné. S mikroskopem bychom cestu tramvají vnímali jako náročnou expedici v pralese plném nepřátel.
Zaujal mě příklad s obyčejnými mechanickými hodinami.[1] Vnímání času je prý jiné v kultuře, v níž je lidé používají, a jiné tam, kde se orientují podle slunce. Nejde přitom zdaleka jen o to, že jsme schopni se podívat na hodinky a říci, že právě je 21:06:49. Mechanické hodiny den představují jako rozdělený do 86 400 vteřinových úseků,[2] Strojem rozkouskovaný čas nás možná vede k tomu, že své životy žijeme trochu jako stroje: jsou rozděleny do časových úseků, kterým je přiřazena určitá činnost, prostoje vnímáme jako neefektivitu. Náš pohyb časem je algoritmizován, měřen a hodnocen z hlediska efektivity nebo tlaku na výkon. Sluneční chápání času jako kontinua a plynulého sledu v zásadě nekonečného množství přítomných okamžiků nás naopak může lépe disponovat k prožívání krásy nebo k usebranému prodlévání tady a teď.
Jiným příkladem může být navigace v automobilech. V roce 2008 jsem vyrazil autem do Francie. Koupil jsem si autoatlas, ale už jsem ho ani neotevřel, protože těsně před cestou jsem si z Map Google vytiskl přesný itinerář trasy. Již se přede mnou nerozprostírala trojrozměrná krajina, ale jednorozměrná předem definovaná trasa vedoucí dopředu. Dnes jsme v tom až po uši. Zatímco dříve byl řidič pánem svého vozidla a musel trasu průběžně promýšlet a rozhodovat se mezi alternativami, u nichž bylo jen stěží možné říct, která je správná, nyní plní pokyny, jež na něj chrlí stroj. Jeď rovně, zařaď se do pravého pruhu, zaboč doleva. Jediným autonomním okamžikem je zadání cíle cesty. Zatímco dříve byla cesta autem projevem panství člověka nad věcí, projevem umu zkrotit stroj, zorientovat se ve světě a využít stroje i světa pro své potřeby, nyní je člověk jedním strojem instruován, jak má jiný stroj ovládat.[3]
Nechci užívání navigace hodnotit, určitě není jen dobré nebo jen špatné – bezpochyby jde ale o kvalitativní změnu v důsledku přijetí technologie. Člověk se vzdává rozhodování a určité úrovně dokonalosti, ale možná za to také něco získá. Například možnost v klidu poslouchat oblíbený podcast.
Je zde ale jedno důležité rozlišení: schopnost řídit automobil patrně nebude pro člověka jako takového zásadní; schopnost myslet už ano.
Alespoň v případě velkých jazykových modelů, na nichž stojí současní AI asistenti, spočívá jejich síla v přesvědčivé nápodobě lidské řeči. Nemyslí, ale projevují se tak, jako by myslely. Nápodoba je tak věrohodná, že člověk získává dojem, že má co do činění s rozumem nadaným tvorem: vypadá to jako myslící partner, projevuje se to jako myslící partner, bude to myslící partner. Nejenže ho nazveme „inteligencí“, ale co je horší, uvěříme, že jeho „myšlení“ je to správné, protože počítače jsou přece přesné, nestranné, objektivní a bezchybné. Tento dojem vytváří zpětnovazební smyčku: lidé začínají napodobovat stroj. Nakonec se může stát, že samotný pojem myšlení, rozumu nebo inteligence budeme chápat po vzoru toho, co produkuje stroj. Hrozí, že lidské myšlení budeme poměřovat tím, nakolik se podobá strojovému zpracování informací – přestaneme přemýšlet jako lidé, lidské myšlení se přizpůsobí stroji a stane se mechanickým. Možná už ani nebudeme umět říci „nevím“, protože chatbot vždy s nějakou odpovědí přijde a my získáme dojem, že tak to má být. Možná budeme upřednostňovat jazykově uhlazené výstupy před argumentační sílou, upozadíme odvahu ke kreativitě a nebudeme ochotni přijmout nejistotu a riziko.
V tom vidím smysl chestertonovského bonmotu z úvodu.
Phillips v této souvislosti klade zajímavé otázky:
„Pokud se počítač stává symbolem skutečné objektivity, nehrozí nám, že ztratíme cit pro materiální podmínky poznání, včetně úlohy, kterou tělesné a fyzické procesy hrají při nabývání moudrosti?
Nehrozí nám, že budeme zlehčovat, nebo dokonce pohrdat těmi vlastnostmi, které se stroji nesdílíme, jako je nezištnost, úžas, neefektivita, empatie, zranitelnost či ochota podstupovat riziko?
Jestliže svěříme správu světa strojům, neztratíme motivaci porozumět světu vlastními silami a předávat své poznání dalším generacím?
Nemůže přílišná závislost na asistentech využívajících umělou inteligenci vést k tomu, že lidé získají přehnanou důvěru ve své tvůrčí či intelektuální výstupy vznikající s pomocí těchto systémů? Nehrozí, že budeme nekriticky upřednostňovat řešení navrhovaná strojem jen proto, že se zdají být účinnější a objektivnější (bot přece musí vidět něco, co já ne)?“[4]
Nechci brojit proti AI ani idealizovat minulost. Věřím, že umělá inteligence může být v mnohém užitečná. S její pomocí jsem například dokázal „naprogramovat“ složitou excelovou tabulku, na kterou bych si jinak netroufl. Zpřístupnil se mi nový horizont. Ale moje znalost Excelu se nezvýšila ani o milimetr. Nevadí mi to, protože intelektuální projekt mého života se nachází jinde.
Budeme ale schopni odolat pokušení přestat myslet sami za sebe? Budeme upřednostňovat bezbolestné produkování myšlenek před skutečným myšlením, které drhne a bolí, a právě proto nás posouvá dál?
[1] Phillips, R., Pauling, J. Are We All Cyborgs Now? Reclaiming Our Humanity from the Machine. Basilian Media & Publishing, 2004, s. 32.
[2] Ano, vím, není to tak úplně pravda. Z fyzikálního hlediska neplatí, že každý skutečný den má přesně 86 400 sekund.
[3] Samozřejmě i automobil je technologií a platí o něm to samé jako o navigaci: nějakým způsobem nás přetváří. Už nechodíme pěšky, už nevolíme cestu, na níž spatříme podmanivý východ slunce nebo zakusíme vůni lesa, ale takovou, kde je méně výmolů, plynulejší doprava a čerpací stanice.
[4] Phillips, R., Pauling, J. Are We All Cyborgs Now? Reclaiming Our Humanity from the Machine. Basilian Media & Publishing, 2004, s. 34.
Jakub Kříž