Dnes by oslavil 106. narozeniny muž, který sice nestvořil ChatGPT, ale dost možná předpověděl jeho osud. Isaac Asimov totiž popsal budoucnost, která se nám právě teď začíná nepříjemně vymykat z rukou. Jeho legendární zákony robotiky měly lidstvo chránit, jenže realita dneška vypadá spíš jako začátek hodně drsného thrilleru. Otcové umělé inteligence bijí na poplach a konečně přiznávají barvu, tenhle starý pán měl v mnoha ohledech pravdu a my teď možná hasíme požár, který jsme sami, v dobré víře, založili.
Isaac Asimov se narodil 2. ledna 1920 v ruském Petroviči, a i když většinu života prožil v Americe, jeho myšlenky neznaly hranice. Už ve čtyřicátých letech minulého století, kdy počítač zabral celou místnost a uměl sotva sčítat, Asimov formuloval pravidla, která měla zajistit, že nás stroje nezničí. Říká se jim Tři zákony robotiky a donedávna působily jako čistá fantazie. Dnes? Dnes by si je měl povinně přečíst každý vývojář v Silicon Valley.
Asimov a tři věty, které měly zachránit svět
Asimov věřil, že roboti, nebo umělá inteligence, chcete-li, musí mít v sobě napevno zakódované morální brzdy. Ve své povídce Runaround z roku 1942 je definoval naprosto přesně. Zní to jednoduše, ale dnes, kdy se potýkáme s deepfake videi a autonomními systémy, to má úplně jinou váhu:
Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby mu bylo ublíženo.
Robot musí poslechnout příkazy člověka, kromě případů, kdy by to porušilo první zákon.
Robot musí chránit sám sebe, pokud to není v rozporu s prvním nebo druhým zákonem.
Zní to jako dokonalá pojistka, že? Jenže realita je složitější. Asimov sám ve svých knihách často ukazoval, jak se tyto zákony dají obejít nebo logicky zamotat. A přesně to se děje dnes. Stroje sice nemají fyzická těla, která by nás napadla, ale mají algoritmy, které umí manipulovat našimi názory, a to je možná ještě nebezpečnější.
Kmotr AI varuje: Jsme jako batolata
Že Asimov nebyl paranoidní, potvrzují i ti nejpovolanější. Geoffrey Hinton, britsko-kanadský vědec, kterému se přezdívá „Kmotr umělé inteligence“ a který za svou práci získal Nobelovu cenu, v posledních letech totálně obrátil. Místo nadšení přichází varování.
Hinton otevřeně mluví o riziku, že umělá inteligence převezme kontrolu. „Představte si sebe a tříleté dítě. My budeme ta tříletá,“ řekl Hinton nedávno pro The Guardian. Podle něj existuje „deseti až dvacetiprocentní šance“, že AI povede k vyhynutí lidstva v příštích třiceti letech. Proč? Protože, jak sám říká: „Kolik příkladů znáte, kdy méně inteligentní věc ovládá tu inteligentnější?“. To je otázka, na kterou se těžko hledá uklidňující odpověď.
Sam Altman: Hra s ohněm?
Na druhé straně barikády stojí lidé jako Sam Altman, šéf OpenAI, který nám dal ChatGPT. I on si uvědomuje rizika, ale vidí je jinak. Altman přiznává, že „při vývoji AI lidstvo vytváří něco mocnějšího než ono samo, co se může vymknout naší kontrole a ohrozit přežití našeho druhu.“ Přesto věří v takzvanou „jemnou singularitu“, tedy že se technologie a společnost budou vyvíjet společně a my se naučíme s AI žít.
Je to fascinující paradox. Zatímco Asimov psal o zákonech, které by robotům zabránily nám ublížit, my dnes stavíme systémy, u kterých teprve zpětně vymýšlíme, jak je uhlídat. Altman sice volá po regulacích a tvrdí, že „naše budoucí konkurenceschopnost závisí na přijetí AI“, ale tempo vývoje je zběsilé.
Asimov nakonec do svých knih přidal ještě „Nultý zákon“: Robot nesmí ublížit lidstvu jako celku. Možná právě na ten bychom se v roce 2026 měli soustředit nejvíc. Protože jestli měl tenhle spisovatel v něčem pravdu, tak v tom, že technologie je dobrý sluha, ale příšerný pán.
