Šéfka Evropské komise Ursula von der Leyenová v sobotu přivítala první ucelená pravidla pro regulaci umělé inteligence (AI) na světě. Vyjednavači Evropského parlamentu a členských zemí bloku dosáhli v noci na sobotu předběžné dohody na podobě unijních pravidel po 37hodinovém vyjednávacím maratonu. Ohledně konečné podoby dokumentu, který vstoupí v platnost nejdříve v roce 2025, poskytli zástupci unijních institucí ale jen málo informací, upozornil v sobotu list The Guardian. V oblasti regulace AI se podle něj EU nicméně dostává před USA, Čínu a Británii.
"Umělá inteligence již mění náš každodenní život. A to je teprve začátek. Uvážlivé a široké využití umělé inteligence slibuje obrovský přínos pro naši ekonomiku a společnost," komentovala noční dohodu v tiskovém prohlášení von der Leyenová. "Proto velmi vítám dnešní politickou dohodu Evropského parlamentu a Rady EU o Aktu o umělé inteligenci. Akt EU o umělé inteligenci je vůbec prvním uceleným právním rámcem pro umělou inteligenci na světě. Jedná se tedy o historický okamžik. Akt o umělé inteligenci přenáší evropské hodnoty do nové éry," dodala.
"Historický okamžik," napsal už v noci na síti X komisař pro vnitřní trh Thierry Breton. "EU se stává vůbec prvním kontinentem, který stanoví jasná pravidla pro používání umělé inteligence," dodal. Podle Bretona dohodu vyjednávala stovka lidí v jedné místnosti téměř tři dny. Uzavření "historické" dohody podle něj "za ten omezený počet hodin spánku stálo".
Text podpořilo Německo a Francie, uvedla španělská státní tajemnice pro digitalizaci a umělou inteligenci Carme Artigasová.
EP a členské státy jednaly zdlouhavě mimo jiné o AI řízených systémech dohledu, které by mohla využívat policie, zaměstnavatelé nebo maloobchodníci. Europarlament podle médií prosadil zákaz sledování v reálném čase a používání biometrických technologií včetně rozpoznávání emocí. Breton ale v tomto ohledu zmínil tři výjimky. Policie bude moci tyto technologie případně používat pouze v případě hrozby teroristického útoku, při pátrání po obětech trestné činnosti a při stíhání skutečně závažné trestné činnosti.
Základem dohody je odstupňovaný systém založený na riziku, v němž se nejvyšší úroveň regulace vztahuje na nástroje, které představují nejvyšší riziko pro zdraví, bezpečnost a lidská práva. Původní návrh legislativy předložený Evropskou komisí předpokládal, že do této kategorie budou patřit všechny systémy s více než 10.000 firemních uživatelů.
Kategorie nejvyššího rizika je nyní definována počtem počítačových operací potřebných k trénovaní stroje. Do této kategorie podle zdrojů zatím spadá ale pouze jeden model, kterým je Chat GPT4 společnosti OpenAI.
Regulace dále službám AI ukládá povinnost, aby zveřejňovaly údaje o způsobu trénování systému v širokém spektru činností od psaní novinových článků až po diagnostiku rakoviny.
"Měli jsme jediný cíl - vytvořit právní předpis, který by zajistil, že se ekosystém umělé inteligence v Evropě bude rozvíjet s ohledem na člověka, s respektem k základním právům, lidským hodnotám," řekl mimo jiné novinářům na tiskové konferenci Brando Benifei, jeden ze dvou zákonodárců EP, kteří vedou jednání o chystaných předpisech.
EU je odhodlána neopakovat chyby z minulosti, kdy bylo technologickým gigantům, jako je , umožněno vyrůst v multimiliardové korporace bez povinnosti regulovat obsah na svých platformách, včetně zasahování do voleb, sexuálního zneužívání dětí a nenávistných projevů, konstatoval už dříve Dragos Tudorache, druhý z vyjednavačů europarlamentu.
Přísná a ucelená regulace ze strany EU by mohla "být silným příkladem pro mnoho vlád, které o regulaci uvažují", uvedla odbornice na EU a digitální regulaci Anu Bradfordová, která se na Kolumbijské univerzitě zabývá právem. Ostatní země "možná nebudou kopírovat všechna ustanovení, ale pravděpodobně budou napodobovat mnoho jejích aspektů", dodala.