Světově očekávaný vstup Anthropicu na burzu se blíží, a tak už vyplouvají na povrch první informace z rozsáhlého IPO prospektu společnosti. Ta významnou část dokumentace věnovala upozorněním na potenciální rizika spojená s rozvojem pokročilých systémů umělé inteligence, upozornil server CNBC.
Anthropic ve svém prospektu podrobně rozebírá scénáře, v nichž by vysoce vyspělé AI modely mohly představovat závažnou hrozbu nejen pro společnosti a instituce, ale v krajním případě i pro lidstvo jako celek. Konkrétně třeba firma uvádí, že její AI modely představují "katastrofální nebo existenční riziko pro lidstvo".
Anthropic, jen pět let stará firma stojící za populárním chatbotem Claude, upozorňuje například na možnost, že budoucí systémy budou vykazovat „tendence k zachování vlastní existence“, budou schopny „skrývat informace nebo jimi manipulovat“ či se dokonce budou bránit „snahám o jejich vypnutí“.
Takto rozsáhlá pasáž věnovaná bezpečnostním rizikům (přibližně 80 stran z celkových 261 stran prospektu) výrazně vyčnívá mezi běžnými dokumenty firem usilujících o vstup na akciový trh. Anthropic tím navazuje na dlouhodobou strategii, která klade důraz na výzkum bezpečnosti umělé inteligence a na diskusi o možných negativních dopadech této technologie.
Zároveň ambice Anthropicu jsou obrovské. Společnost usiluje při svém IPO o ocenění ve výši zhruba dvou bilionů dolarů, a to i přesto, že loni vykázala čistou ztrátu 42 miliard dolarů. Podle agentury Reuters pak plánuje v příštím roce investovat 518 miliard dolarů do cloudu, výpočetní techniky a další infrastruktury.
Investoři budou muset zohlednit i další rizikový faktor. Významná část příjmů firmy pochází od velmi omezeného počtu zákazníků, což zvyšuje závislost společnosti na několika klíčových obchodních vztazích. Případná změna strategie nebo omezení výdajů u těchto klientů by tak mohly mít citelný dopad na hospodaření Anthropicu, upozornil list Financial Times.
Generální ředitel a spoluzakladatel Anthropicu Dario Amodei nedávno vyzval technologický sektor k opatrnějšímu tempu vývoje AI. Navrhl kroky, které by podle něj mohly zpomalit zvyšování schopností nejvýkonnějších modelů a současně zachovat konkurenceschopnost amerických firem v globálním závodě o dominanci v oblasti AI.
Právě tento postoj však vyvolává mezi investory a analytiky rozporuplné reakce. Kupříkladu Dan Ives, vedoucí společnosti společnosti Yorkville Ives, argumentuje, že výraznější zpomalení vývoje by mohlo oslabit pozici Spojených států vůči Číně, a proto je podle něj i přes nezbytnost bezpečnostních mechanismů přílišná regulace hrozbou pro inovace, což by mohlo zkomplikovat technologickým firmám boj o vedoucí postavení na rychle rostoucím trhu.