Umělá inteligence přináší obrovské možnosti, její vývoj a používání však stále provází některé neduhy. Ačkoli jsou její odpovědi obvykle rychlé, nevyhnou se nepřesnostem či dokonce naprostým výmyslům. Zatímco běžné uživatele to rozčiluje, vědci to vidí zcela jinak. Některým z nich totiž tzv. „AI halucinování“ urychlují jejich bádání.
Jezte denně kámen
Třeba loni na jaře řešil Google jeden skutečný bizár. Jeho model Overviews zarytě a opakovaně tvrdil uživatelům, že geologové radí, aby lidé jedli denně jeden kámen. I při běžných dotazech se tak lze setkat se vším od prostých nepřesností (záměna letopočtů) po podobné excesy.
AI zkrátka občas neříká pravdu, což ale vědecká obec čím dál tím více kvituje. Fenoménu říkají „halucinování“ a už vedlo k některým novým objevům i oceněním.
Biochemie a biologie
Jeden takový se přihodil americkému biochemikovi a biologovi Davidu Bakerovi a získal za něj Nobelovku. Akademikovi z Washingtonské univerzity se totiž dle výboru pro cenu podařil „skoro nemožný umělecký kousek“. Díky programu využívajícímu AI sestavil program na vývoj zcela nového typu proteinů.
Jeho objev by mohl zcela zásadním způsobem změnit léčbu rakoviny i neurodegenerativních chorob. Případně pomoci s vývojem léků. Kde je tedy ona anomálie? Deníku The New York Times Baker řekl, že pro tvorbu proteinů zcela „od nuly“ byla klíčová právě představivost umělé inteligence.
Komplikovaný tvar
Při zpracování lidmi je u proteinů problém v tom, že lze jen velmi obtížně „spočítat“ jejich tvar. AI se však naučila již známé proteiny, a tedy i princip jejich architektury. Podle toho pak model domyslel ty, které v přírodě neexistují. Biologicky to znamená naprostý průlom.
Program zvaný Rosetta měl původně odpovídat na otázky prostého složení proteinů již existujících. Pak ale vědce napadlo pustit ji na zpětný chod. A ona začala navrhovat proteiny na základě požadovaného tvaru. Tým tak třeba vyvinul nosní sprej s antiviry založený na proteinech pro boj s koronaviry.
Autem do Itálie: Mýtné, doklady, povinná výbava, termíny a na co si dát pozor
Stovka patentů
Právě díky tomuto postupu se celý proces rapidně zrychlil. Bakerova laboratoř pak podala asi stovku žádostí o patenty, jeden z nich třeba na nový způsob léčby rakoviny, další proti virovým infekcím.
„Věci se hýbou rychle. Dokonce vědci, kteří se proteiny už zabývají, netuší, jak daleko jsme se vlastně dostali,“ konstatuje biolog pro The New York Times. Dodal, že jeho laboratoř navrhla celkem asi deset milionů proteinů, které v přírodě přirozeně nenajdete.
Bláznivé hypotézy pro ověření
Dá se tedy konstatovat, že AI oživuje ve vědě tvořivou část. Pomáhá totiž generovat hypotézy, které pak mohou vědci ověřovat v praxi. „Veřejnost pokládá AI halucinace za chybu. Jenže vědcům přináší zcela nové nápady. Díky tomu máme možnost zkoumat zcela nové myšlenky, na které bychom možná nikdy nenarazili,“ uvádí Amy MCGovern, počítačová vědkyně z jednoho z výzkumných institutů zaměřených právě na AI.
Proč se to ale děje?
Nabízí se otázka, kde se vlastně ty halucinace berou. Pomáhají tomu lidé, kteří v hlubinách internetu tvoří nepravdivý obsah, ze kterého se chatboti a další aplikace učí. „Protikladné a nesmyslné znalostí způsobují v odpovědích AI míru variability, což zvyšuje šanci na halucinace,“ vysvětluje pro TechRadar Simona Vasyté-Kudakauské, šéfka společnosti Perfection42.
AI navíc nezná kontext. „AI vlastně sděluje: Na základě tohoto slova si myslím, že s vysokou pravděpodobností je toto slovo jako další správně. To je všechno, jde prostě o naprosto základní matematiku,“ vysvětluje pro CNET Tarun Chopra, více prezident IBM. Hodně modelu svou omylnost jasně deklaruje. A jak je vidět, je taky velmi cenná.
