Hledat v komentářích
Investiční doporučení
Výsledky společností - ČR
Výsledky společností - Svět
IPO, M&A
Týdenní přehledy
 

Detail - články
Project Syndicate: Lži, hnusné lži a umělá inteligence

Project Syndicate: Lži, hnusné lži a umělá inteligence

15.12.2018 15:23

Algoritmy jsou ovlivněné stejně tak jako data, na nichž stojí. A ovlivněná jsou veškerá data. Ani u „oficiálních“ statistik nelze předpokládat, že přestavují objektivní, věčná „fakta“. Čísla, jež vlády publikují, zachycují společnost, jaká je teď, optikou toho, co považují za podstatné a důležité ti, kdo tyto údaje sestavují. Kategorie a klasifikace používané k orientaci v datech nejsou neutrální. Stejně tak jako měříme, co vidíme, máme také sklon vidět jen to, co měříme.

Jak se algoritmické rozhodování rozšiřuje do širší škály tvorby politik, vrhá nelítostné světlo na společenské předsudky, které bývaly skryté ve stínu shromažďovaných údajů. Napínáním stávajících struktur a procesů do logických extrémů nás umělá inteligence (UI) nutí postavit se čelem tomu, jakou společnost jsme vytvořili.

Problém není jen v tom, že počítače jsou uzpůsobené tak, aby uvažovaly jako korporace, jak tvrdí můj kolega z Cambridgeské univerzity Jonnie Penn. Ale i v tom, že počítače přemýšlejí jako ekonomové. Vždyť UI je nepochybnou verzí homo economicus, jakou si lze jen představit. Jedná se o racionálně kalkulujícího, logicky konzistentního a na výsledek orientovaného činitele, schopného s omezenými výpočetními zdroji dosahovat požadovaných výsledků. Co se týče „maximalizace užitku“, je mnohem efektivnější než kdokoli z lidí.

„Užitek“ je pro ekonomii tím, čím pro chemii kdysi býval „flogiston“. První chemici měli hypotézu, že hořlavé látky obsahují skrytý prvek – flogiston – vysvětlující, proč látky při hoření mění podobu. Jenže ať se vědci snažili sebevíc, potvrdit tuto hypotézu se jim nikdy nepodařilo. Vystopovat flogiston nedokázali z téhož důvodu, z jakého dnes ekonomové neodkážou přijít s mírou skutečného užitku.

Ekonomové koncepci užitku využívají, aby vysvětlili, co lidi vede k jejich rozhodnutím – co koupit, kam investovat, jak moc pracovat: každý se snaží maximalizovat užitek v souladu se svými preferencemi a přesvědčeními a v mantinelech tvořených omezenými příjmy či zdroji. Užitek, ač neexistuje, je vlivná koncepce. Zdá se naprosto přirozené předpokládat, že se každý snaží dělat to nejlepší pro sebe.

Pojem užitku užívaný ekonomy se navíc zrodil z klasického utilitarismu, jehož cílem je zajistit co nejvíc blaha pro co nejvíc lidí. Většina z těch, kdo koncipují algoritmy, jsou, stejně jako moderní ekonomové kráčející ve stopách Johna Stuarta Milla, utilitaristé, přesvědčení, že pokud je „dobro“ známé, lze jej maximalizovat.

Tento předpoklad ale může přinášet znepokojující důsledky. Vezměme si kupříkladu, jak se algoritmy využívají k rozhodování, jestli si vězni zaslouží podmínečné propuštění. Důležitá studie z roku 2017 zjistila, že algoritmy dokážou daleko lépe než člověk předpovědět recidivu a lze je využít ke snížení „míry uvěznění“ o víc než 40 % „bez nárůstu kriminality“. Ve Spojených státech by pak bylo možné snížit počet vězněných, mezi nimiž jsou neúměrně zastoupeni černoši. Co se ale stane, pokud podmínečné propouštění vězňů převezme UI a Afroameričané budou dál vězněni častěji než běloši?

Vysoce efektivní algoritmické rozhodování přináší takové otázky do popředí a nutí nás rozhodnout se přesně, jaké výsledky se mají maximalizovat. Chceme pouze snížit celkový počet vězňů, nebo se máme zabývat i spravedlností? Zatímco politika umožňuje mlžení a kompromisy, jimiž se toto balancování maskuje, počítačový kód vyžaduje jasnost.

Vzhledem k tomuto požadavku jasnosti je těžší ignorovat strukturální prameny společenských nerovností. Ve věku UI nás algoritmy přinutí uvědomit si, jak se prostřednictvím způsobu využívání dat do současnosti přenášejí důsledky minulých společenských a politických střetů.

Díky skupinám jako AI Ethics Initiative a Partnership on AI se začala objevovat širší diskuse o etice UI. Algoritmy UI ale samozřejmě dělají jen to, k čemu jsou naprogramovány. Jádro otázky přesahuje využívání algoritmického rozhodování ve firemní a politické správě a otřásá samotnými etickými základy naší společnosti.

Rozhodně sice musíme vést debatu o praktických a filozofických kompromisech maximalizace „užitku“ pomocí UI, ale musíme se také věnovat sebereflexi. Algoritmy nadnášejí zásadní otázky ohledně toho, jak jsme do současnosti organizovali společenské, politické a hospodářské vztahy. Teď se musíme rozhodnout, jestli opravdu chceme současná společenská uspořádání vetknout do rozhodovacích struktur budoucnosti. Vzhledem k politickému štěpení, k němuž nyní dochází po celém světě, se zdá, že nadešel vhodný okamžik napsat nový scénář.

Autorka: Diane Coyle je profesorka veřejné politiky na Cambridgeské univerzitě.

Copyright: Project Syndicate, 2018.
www.project-syndicate.org


 

Čtěte více:

V hlavní roli sociální média. Jak rozhodují o tom, co je správné a co už ne
10.09.2018 13:46
V centrále Facebooku každé druhé úterý a v YouTube každý pátek se schá...
Obraz byl vydražen za čtyřicetinásobek vyvolávací ceny. Namalovala ho umělá inteligence
26.10.2018 15:08
Edmond de Belamy není žádné obyčejné umělecké dílo. Nejenže byl tento ...
Jak vychovat své obyvatelstvo: Level Čína
08.12.2018 16:02
Čína má radikální plán jak ovlivnit chování svých 1,3 miliard obyvatel...

Váš názor
  •  
    16.12.2018 23:28

    Ekonomika je taková mašinérie sama pro sebe. Spousta právě teď aktuálních dat, ale celkový komplexní obraz do budoucnosti chybí. Ten si musí člověk udělat sám. Když na to má, může z toho získat výhodu. Takový HDP třeba nic nevypovídá o té které zemi, jde pouze o průtok peněz z daní do státního rozpočtu. Ale je to No 1. Kdyby tady nebylo tolik automobilek (vč. všech dílčích dodavatelů), které nám za pár let ještě zhorší krizi, která bude i tak dost hluboká a vleklá, dalo by se říct, že na tom nejsme tak špatně. Pomohl by ostřejší kurs EU proti daňovým rájům (ono to v té krizi tak jako tak přijde). Vlastní vodu bychom měli také vykoupit, ta privatizace byla kardinální tupost. Musíme prostě dělat kroky k tomu, abychom nebyli v těžké krizi tolik vysáváni. Čím více nových realizovaných nápadů načich lidí a našich firem, tím lépe. Stát by měl žádoucí rychlý životaschopný rozvoj podporovat. Ne zůstat na malovýrobě a nechat se předskočit, nebo nechat si know-how ukrást Číňany či jinými vykuky. Naši lidé dokáží být schopní, ale musí se jim nechat prostor, ne aby z toho našeho Kocourkova odcházeli ven a tam se jako úspěšní usazovali trvale. Vše nemusí být černé, ale to temné lidské ego na všech úrovních (asi dědictví totality) nám neustále kalí pohled na tuto zemi.
    James Bond
Aktuální komentáře
20.08.2019
9:21Apple si nachystal 6 miliard dolarů na obsah nové Apple TV+. Vyzve Disney+
9:08Rozbřesk: Inflace dodává ECB argument k akci
8:59Asie byla díky obchodním signálům v mírném plusu, evropské burzy ale ráno mohou tápat  
8:38Trump vyzval Fed ke snížení úroků a obvinil Google z manipulace
8:38Šmarda se vzdal nominace na ministra kultury. Zeman dnes přijme Bartoše, Výborného a premiéra Babiše
5:52The Economist: Z průmyslově vyspělé země kvůli špatné vládě do bídy a utrpení
19.08.2019
22:01Americké akcie zahájily týden růstem, Nasdaq +1,4 %
17:43Proč jsou americké trhy podle mne hodně našponované
17:02Pomoc dostává reálné obrysy a drží na trzích pozitivní náladu. Eurodolar se však nehýbe  
16:50ČEZ, a. s. – Oznámení o výplatě úrokového výnosu
16:27Tři způsoby, jak vydělat na dluhu se záporným výnosem
15:53Německo by v případě krize mohlo utratit dalších 50 mld. euro
14:52Americký sen 2.0
14:25Brexit bez dohody poškodí i české strojírenství a elektronický průmysl
13:59Výhled Bundesbank: Německá ekonomika přes léto dále zeslábla. Je tedy už v recesi?
13:43ČEZ očekává rekordní zisky ze své nejrychleji rostoucí divize tradingu
12:31Týdenní výhled: Jak zareaguje Fed na eskalaci rizik?  
11:57Čína mění úvěrovou politiku, ceny akcií v reakci výrazně zpevňují
11:41Inflace v eurozóně klesla na jedno procento, v EU na 1,4 procenta
11:25Trhy začínají týden v pozitivním módu a vzhlížejí opět k centrálním bankám  

Související komentáře
Nejčtenější zprávy dne
Nejčtenější zprávy týdne
Nejdiskutovanější zprávy týdne
Kalendář událostí
ČasUdálost
Home Depot Inc/The (07/19 Q2, Bef-mkt)
Pandora A/S (06/19 Q2)
Seadrill Ltd (06/19 Q2, Bef-mkt)
8:00DE - PPI, y/y
11:00EMU - Stavební výroba, y/y
12:45Medtronic PLC (07/19 Q1)
14:00Kohl's Corp (07/19 Q2)