Evropská unie se chystá regulovat využití umělé inteligence tak, aby nedocházelo k diskriminaci lidí nebo porušování jejich občanských svobod. ČTK to tento týden řekl místopředseda Pirátů a člen frakce Zelených v Evropském parlamentu Marcel Kolaja, který se podílí na vyjednávaní příští podoby chystaného nařízení. To by se mělo zaměřit například na technologie rozpoznávání obličejů na veřejnosti. Připravovaná regulace je podle Kolaji zatím první svého druhu na světě.
"Využití umělé inteligence je oblast, kde je potřeba větší pozornost politiků. Protože ten rozvoj je velmi rychlý a dopad na společnost bude v následujících letech skutečně obrovský," uvedl Kolaja.
Většina oblastí využití umělé inteligence je podle europoslance z pohledu EU naprosto neproblematická, existují ale případy, které unijní exekutiva považuje za rizikové. Jako příklad uvedl technologie rozpoznávání obličejů využívané orgány činnými v trestním řízení nebo například takzvaný e-proctoring, nástroj, pomocí něhož mohou školy kontrolovat, že studenti nepodvádějí při skládání zkoušek na dálku.
E-proctoring funguje tak, že sleduje kameru a mikrofon počítače studenta a díky tomu vyhodnocuje, zda zkoušený například odněkud něco neopisuje, nebaví se s někým nebo nemá v ruce mobilní telefon. "Je ale nebezpečí, že systém bude špatně fungovat, což při špatném naučení toho systému může," řekl Kolaja, který je vzděláním softwarový inženýr. Nástroj podle něj může špatně vyhodnocovat situaci například u člověka se zdravotním handicapem. U někoho s tmavou barvou pleti zase může dojít k závěru, že drží mobilní telefon, vysvětlil Kolaja, který podle svých slov prosadil, aby byl e-proctoring kvůli riziku diskriminace v připravovaném nařízení zařazen do kategorie s vysokým rizikem. V této kategorii se unijní exekutiva chystá zavést omezení, která se budou týkat například transparentnosti vstupních dat nebo dohledu člověka nad systémem.
Jedno z nejkontroverznějších témat současného vyjednávání je podle Kolaji použití technologie rozpoznávání obličeje orgány činnými v trestním řízení, například za účelem identifikace podezřelých ze spáchání trestného činu. "Evropská komise dokonce navrhovala zákaz s nějakými výjimkami," sdělil. Podle místopředsedy Pirátů je nyní v předběžném jednání verze, že vyhodnocení záznamu z kamery by bylo možné jen se soudním příkazem. Za zcela nepřípustnou pak podle europoslance EU považuje praxi takzvaného sociálního kreditu známou z Číny, kdy je systém rozpoznávání obličejů spojený s bodováním chování lidí.
V Evropském parlamentu jsou podle Kolaji také "náznaky", že by se chystané nařízení mohlo týkat i copyrightu u vstupních dat, která vývojáři používají k tomu, aby se jejich nástroj zlepšoval. Sám ale scénář, kdy by společnosti musely platit poplatky za použití dat ke zlepšování umělé inteligence, za správnou cestu nepovažuje. "Byla by to obrovská brzda pro inovace," sdělil.
List Financial Times s odvoláním na italského europoslance Branda Benifeie z levicového uskupení Pokrokové spojenectví socialistů a demokratů (S&D) dříve napsal, že někteří vyjednavači v Evropském parlamentu si přejí, aby společnosti měly povinnost zveřejňovat seznamy materiálů, které ke zlepšování nástrojů umělé inteligence používají. Požadavek se objevuje v době, kdy například fotobanka Getty Images žaluje v Británii generátor obrázků Stability AI, který viní z neoprávněného použití milionů svých fotografií, připomněl list.
Kolaja věří, že chystaná regulace umělé inteligence by mohla být schválena už do konce letošního roku. Podotýká, že v současnosti k nástrojům umělé inteligence a s nimi spojenými potenciálními problémy přistupují členské státy různě. Itálie například nedávno na svém území zakázala kvůli obavám z porušování ochrany osobních údajů populárního chatovacího robota ChatGPT americké společnosti OpenAI.