Evropská komise navrhla vůbec první pravidla využívání umělé inteligence, s jejichž pomocí by chtěla omezit škodlivé dopady například sledovacích či manipulativních technologií. Zásadně regulovat chce zejména možnosti rozpoznávání obličejů, které vzbuzují obavu u ochránců soukromí. Za porušování pravidel, jimiž by exekutiva Evropské unie chtěla zavést mezinárodní standardy v této dosud neregulované oblasti, mají hrozit vysoké pokuty.
Navrhované nařízení zavádí několik kategorií systémů umělé inteligence podle jejich rizikovosti. Jako nepřijatelné označuje ty, které ohrožují životy, bezpečí či práva lidí. Zakázány proto mají být v EU například systémy umožňující vládám takzvané sociální hodnocení, které běžně používá ke sledování svých občanů například Peking. Zákaz se má týkat třeba i hraček s hlasovými asistenty, které navádí děti a mladé lidi k nebezpečnému chování.
Další skupinou jsou technologie s vysokým rizikem, které budou povoleny jen při splnění přísných požadavků. Mezi ně patří třeba software třídící uchazeče o práci či o bankovní půjčku, hodnotící zkoušky ve škole nebo ověřující spolehlivost důkazů u soudu. Řadí se sem také všechny systémy biometrické identifikace včetně rozpoznávání obličejů. Jejich obecné využívání bude zcela zakázáno a sáhnout k němu budou moci úřady jen ve výjimečných případech, například při pátrání po dětech či odhalování teroristických útoků.
"Pokud jde o umělou inteligenci, je důvěra nutností, nikoli jen výhodou. Přijetím těchto přelomových pravidel udává EU směr vývoje nových celosvětových norem, které zajistí umělé inteligenci důvěryhodnost," prohlásila dnes místopředsedkyně EK pro hospodářskou soutěž Margrethe Vestagerová. Podle komise by regulace na druhé straně neměla zásadně omezit používání technologií, které posouvají kupředu zdravotní péči, bezpečnost v dopravě či prevenci kriminality.
Vysoká pokuta součástí návrhu
Firmám porušujícím pravidla mají hrozit pokuty až do výše šesti procent jejich obratu či do 30 milionů eur (780 milionů korun), pokud bude tato částka vyšší.
Technologické firmy, které vidí v umělé inteligenci motor budoucího růstu, se k omezování stavějí spíše skepticky. I proto se očekává, že potřebné schválení pravidel členskými státy unie a Evropským parlamentem potrvá až několik let. Největší globální společnosti působící v AI se v současnosti nacházejí v USA a v Číně. Jsou to Google, , a Tencent.
Opatření jsou nejnovějším pokusem unijního bloku stanovit globální standardy, které budou nuceny následovat firmy po celém světě, jak se tu ukázalo už u opatření na ochranu osobních dat GDPR, poznamenal k tomu Bloomberg. Rozpoznávání obličejů je ovšem obzvláště kontroverzní formou AI, podotýká také Bloomberg. Skupiny na ochranu občanských práv a svobod upozorňují na nebezpečí diskriminace nebo chybného určení identity v případech, kdy tuto technologii využívají orgány pro vymáhání práva.
Někteří experti dále varují, že v případě schválení unijních regulí mohou nová omezení znamenat pro evropské firmy konkurenční nevýhodu proti společnostem z jiných částí světa. Očekávají proto, že během vyjednávání v europarlamentu a mezi členskými státy budou značně lobbovat za zmírnění některých podrobností.
Tlak však patrně přijde i na přísnější formulaci částí návrhu, které jsou zvláště podle některých europoslanců nedůsledné. "Musí zde být třetí strana, která nezávisle posoudí, zda systémy s vysokým rizikem odpovídají předpisům," prohlásil například pirátský místopředseda EP Marcel Kolaja, podle něhož například nechává návrh prostor k diskriminaci uchazečů o práci při jejich posuzování umělou inteligencí. Stejně jako někteří další kolegové hodlá co nejdříve začít pracovat na jeho úpravách.
Obličeje se rozpoznávají také v Americe
Technologie pro rozpoznávání obličejů se přitom stále více rozmáhají také v USA, napsala tento týden agentura Reuters
Technologii od izraelského start-upu AnyVision tam ve svém kampusu v Houstonu používá ropný gigant , a to prý už minimálně dva roky. Pracovníkům ostrahy to má údajně pomoci identifikovat osoby ze seznamu lidí, které je třeba pozorně sledovat, protože v minulosti třeba představovali ohrožení. Uživatelem technologie je prý také nemocnice Cedars-Sinai v Los Angeles.
Více než dvacítka organizací v USA včetně Greenpeace USA vybídla tento měsíc vlády, aby metodu rozpoznávání obličejů ve firmách zakázaly. Podle generálního ředitele AnyVision Aviho Golana by ovšem byl plošný zákaz nezodpovědný. Jinak ale je prý hlasitým obhájcem regulací, protože, jak tvrdí, technologii je možné zneužít.
Zdroje: ČTK, Bloomberg, Reuters