Dvě výrazné tváře AI revoluce – OpenAI a Anthropic – tahají za brzdu a do popředí staví bezpečnost, neboť se obávají, že schopnosti moderních AI modelů rostou tak rychle, že odvětví nemusí dostatečně rozumět všem rizikům, která s sebou tato technologie přináší. Reakce finančních trhů či administrativy amerického prezidenta Donalda Trumpa ale není příliš pozitivní…
Generální ředitel Anthropicu Dario Amodei v rozsáhlém textu o 3 800 slovech zveřejněném během víkendu argumentoval, že odvětví potřebuje větší důraz na bezpečnostní testování a nezávislou kontrolu nových modelů ještě před jejich uvedením do provozu. Jeho stanovisko podpořili také šéf konkurenční OpenAI Sam Altman a Elon Musk, který dlouhodobě patří mezi hlasité zastánce diskuse o rizicích spojených s vysoce pokročilou AI.
Myšlenka opatrnějšího postupu však přichází v době, kdy finanční trhy počítají s dalším masivním růstem investic do umělé inteligence. AI se stala hlavním motorem technologického investičního cyklu a očekávání ohledně budoucích výnosů stojí mimo jiné na přesvědčení, že vývoj nových modelů bude pokračovat vysokým tempem.
Prvotní reakce trhu je proto negativní. Akcie klíčových hráčů v oblasti infrastruktury pro umělou inteligenci – Samsung Electronics a SK Hynix – se v pondělí v Soulu propadly o více než čtyři procenta a akcie společnosti SoftBank Group, jež masivně investovala do OpenAI, klesly dokonce o 13 procent, informuje agentura Bloomberg.
Výprodej je patrný i v Evropě, kde třeba akcie ASML, výrobce litografických strojů pro výrobu čipů, po 10. hodině odepisovaly bezmála pět procent. Výrazně padaly i cenné papíry Nokie (-7,8 %) či Infineonu (-7 %).
A propad se očekává i odpoledne na Wall Street. Zpomalení ve vývoji by mohlo například negativně ovlivnit výrobce čipů, jako jsou či AMD, kteří dosud ze zvýšených výdajů na GPU a CPU určeným k trénování a provozu nových generací modelů nejvíce těžili. Dopady by mohly pocítit ale také další velké společnosti jako či , které poskytují cloudové služby pro AI právě Anthropicu a OpenAI.
„Tyto dvě společnosti (OpenAI a Anthropic) a jejich plány mají značný dopad na celý technologický sektor,“ sdělil Bloombergu Mark Mahaney, analytik společnosti ISI. „Pokud by tyto dvě firmy výrazně omezily výdaje na výzkum a vývoj, nábor zaměstnanců či kapitálové investice, mohlo by to mít zásadní vliv na finanční trhy,“ dodal.
Trump: Amerika musí zůstat před Čínou
„Když mluvíme o ‚zpomalení tempa‘, nemáme na mysli ‚zastavení‘. Pomoc vlády budeme potřebovat v oblasti mezinárodní koordinace. Nejdříve bychom však měli udělat to, co je v našich vlastních silách,“ vysvětlil Altman ve svém příspěvku na sociální síti X.
Komplikaci v tomto záměru ale představuje aktuální politická situace ve Spojených státech. Prezident Donald Trump opakovaně zdůrazňuje, že umělá inteligence představuje klíčový nástroj ekonomického růstu i otázku národní bezpečnosti. Během víkendu pak šéf Bílého domu znovu zdůraznil, že USA musí udržet náskok před Čínou. Podle něj nelze dopustit, aby přílišná regulace oslabila konkurenceschopnost amerických technologických firem.
„Upřímně řečeno, chci, aby to tak zůstalo, protože kdo ovládne umělou inteligenci, ten zvítězí,“ řekl Trump novinářům a dodal: „Můžeme sice zavést určitá pravidla či omezení, ale myslím, že se touto otázkou zabývá řada velmi negativních sil, které ji vnášejí do veřejné debaty, ačkoliv by neměly.“
Obavy z existenčních rizik sílí
Debata o bezpečnosti AI minulý týden zesílila také kvůli odchodu výzkumníka Jacoba Coxona z Anthropicu. Ten veřejně varoval, že technologické firmy v rámci závodu o superinteligenci podceňují možná rizika a "hazardují s našimi životy".
Jeho stanovisko podpořila skupina dalších odborníků zabývajících se umělou inteligencí, kteří vyzvali k větší opatrnosti. Podle nich se schopnosti modelů vyvíjejí rychleji, než jakým tempem vznikají kontrolní mechanismy.
Otázkou se začínají zabývat také američtí zákonodárci. V Kongresu zaznívají návrhy od přísnější regulace až po krajní varianty, které by některé formy vysoce pokročilé AI přímo zakazovaly. Vzhledem k politické polarizaci ve Washingtonu však analytici neočekávají rychlé přijetí zásadní legislativy.
Amodei navrhuje, aby nejpokročilejší modely podléhaly nezávislému hodnocení ještě před uvedením na trh. Externí hodnotitelé by měli získat přístup srovnatelný se zaměstnanci firmy a mohli by ověřovat bezpečnost i potenciální rizika nových systémů.
Podobný přístup podporuje také OpenAI. Altman uvedl, že myšlenka externího přezkumu dává smysl a že by mohla být zavedena i v jeho společnosti. Musk označil vzájemné hodnocení mezi předními AI laboratořemi za krok, který stojí za zvážení.
Anthropic i OpenAI plánují vstup na burzu, avšak Altman v sobotním rozhovoru pro časopis Fortune uvedl, že nové obavy o bezpečnost jsou důvodem pro odklad letošního IPO.
Anthropic zatím nesdělil, zda budou mít Amodeiovy obavy na firemní IPO vliv. Společnost investory jen nově informovala, že v tomto čtvrtletí dosáhne zisku, napsal Financial Times.
Kdo však nejeví žádné známky zpomalení, je Čína. Řada nově uvedených AI modelů od tamních firem letos snížila náskok USA a společnosti jako DeepSeek či Z.AI získávají nový kapitál, aby urychlily svůj rozvoj, upozorňuje Bloomberg.
Podle analytiků by každopádně Anthropic a OpenAI – jakožto lídři na trhu – mohli těžit z případného zavedení plošných opatření zpomalujících vývoj. „Čím více regulace v této fázi vznikne, tím obtížnější bude pro kohokoliv jim konkurovat,“ řekl Bloombergu Gil Luria z D.A. Davidson. Zároveň však očekává konkrétní kroky, které by Amodeiho slova podložily. „Pokud Anthropic odloží vstup na burzu nebo oznámí, že po dobu následujících šesti měsíců nebude provádět předtrénink modelů, pak to možná začnu brát vážněji,“ dodal.