Při pohledu na to, jak moc je umělá inteligence nebezpečná a do jaké míry je tak potřeba její vývoj regulovat, se zdá, že se mezi šéfy technologických gigantů začínají vytvářet dva tábory. Zatímco CEO Anthropicu Dario Amodei či Sam Altman z konkurenční OpenAI volají po zpomalení a větších bezpečnostních opatřeních, tak šéf Nvidie Jensen Huang a jeho protějšek Mark Zuckerberg z Meta Platforms vyslovili názor, že bezpečnost AI lze zajistit především prostřednictvím odpovědnosti firem a tržních mechanismů.
Huang na konferenci Dreamforce pořádané společností Salesforce odmítl názor, že by AI představovala zcela nový typ technologie vyžadující zvláštní legislativní rámec. Podle něj je AI v konečném důsledku pouze sofistikovaný výpočetní systém vytvořený lidmi, a proto by měla podléhat stejným principům odpovědnosti jako jiné technologické produkty.
„Bezpečnost je technický problém, nikoliv legislativní. Přeci jen vyvíjíme software, výpočetní systémy. Je to složitý výpočetní systém, ale pořád je to výpočetní systém,“ citoval Huanga server TechCrunch.
Proto podle něj není potřeba nové zákony nebo předpisy, které by AI upravovaly. Volný trh bude stačit k tomu, aby firmy vyvíjely tlak na nebezpečné produkty, míní.
„Pokud si nejsme jisti bezpečností produktů, tak jako všechny firmy, jako vy a já, všechny firmy tady, pokud vytvoříte produkt nebo službu a nejste si jisti jeho funkčností, schopnostmi nebo bezpečností, tak pak ho nevydáváte,“ dodal s tím, že tlak zákazníků a reputační rizika představují dostatečně silný mechanismus kontroly a že nové regulace by mohly zbytečně brzdit inovace.
Na podobnou stranu barikády se postavil i Zuckerberg. Ten zdůraznil význam takzvaného „alignmentu“, tedy snahy zajistit, aby systémy AI jednaly v souladu s lidskými hodnotami a záměry. „Realitou je, že lidé nebudou chtít využívat agenty, kteří nejsou v souladu s jejich záměry a neplní jejich požadavky; výzkumné laboratoře proto mají silnou přirozenou motivaci zajistit, aby jejich modely byly s těmito záměry lépe sladěny,“ napsal ve svém příspěvku na X.
Zároveň ale dodal, že AI laboratoře mají přirozenou ekonomickou motivaci věnovat bezpečnosti dostatečnou pozornost. V opačném případě by totiž čelily právním sporům, finančním ztrátám a poškození pověsti.
Zuckerberg také uvedl, že Meta sama odložila uvedení nového modelu Muse o několik měsíců, aby zajistila dostatečnou bezpečnost a ochranu. „Nevyzývali jsme ostatní, aby udělali totéž ještě před námi; prostě jsme to udělali v rámci naší běžné práce, protože to bylo zjevně správné rozhodnutí – jak pro lidi, tak pro nás samotné,“ argumentuje.
Huangovy a Zuckerbergovy komentáře jsou tak v poměrně ostrém kontrastu s výroky Amodeie, Altmana či Elona Muska. Ti během víkendu vyzvali ke zpomalení tempa ve zvyšování schopností AI modelů, dokud nebude dosaženo větší jistoty ohledně jejich bezpečnosti. Právě opatrnější přístup by podle Amodeie mohl vytvořit nový standard pro celé odvětví. Více si můžete přečíst ZDE.
Zdroj foto: