Hledat v komentářích
Investiční doporučení
Výsledky společností - ČR
Výsledky společností - Svět
IPO, M&A
Týdenní přehledy
 

Detail - články
Matematička z Harvardu varuje: Hrozí totalita algoritmů?

Matematička z Harvardu varuje: Hrozí totalita algoritmů?

24.06.2017 17:20
Autor: Petr Zelenka, Patria Online

Algoritmy do velké míry řídí náš život. Rozhodují třeba o tom, kdo dostane půjčku, koho ze stovek kandidátů pozvat na pohovor anebo jakou metodou léčit pacienta. Na rozdíl od lidí netrpí předsudky, jsou nestranné a spravedlivé. Skutečně tomu tak ale je? Co když jsou jedničky a nuly také opresivní a také předurčují náš osud na základě mylných předpokladů?

Této problematice se v nové knize „Weapons of Math Destruction“ věnuje matematička Cathy O’Neilová, která má doktorát z Harvardovy univerzity, zkušenosti z hedgeového fondu a po většinu své kariéry se zabývala analýzou „velkých dat“ (big data).

Současný pohled na věc O’Neilová ilustruje následujícím příkladem: „V 50. letech přijde muž do banky a chce si půjčit 10 000 dolarů na rozjetí nového byznysu. Bankéř udělal ‚svůj domácí úkol‘ a ví o tomto muži vše. Zná jeho etnicitu. Jeho rodinný stav. Ví, jestli ho má rád jeho šéf, jestli ho má ráda jeho žena a zda chodí do kostela. Ví, co si o něm myslí soused.“

Tento systém, založený na osobních vazbách a subjektivních dojmech bankéře, který může podle svého uvážení distribuovat kapitál žadatelům, byl nahrazen něčím, co dnešní společnost považuje za spravedlivější, píše ve své knize O’Neilová. „V roce 2017 tento bankéř neexistuje, byl dávno nahrazen počítačovými modely a algoritmy, které se ujistí, že se nikdo nestane obětí předsudků mocného jednotlivce. Je to systém, který umožňuje rovnost pro všechny, bez ohledu na rasu, pohlaví nebo víru.“

Půjčka pro chudého studenta nebo propuštěného vězně

„Až na to, že tohle je také fantazie,“ dodává O’Neilová. Algoritmy, které řídí ve 21. století alokaci kapitálu namísto opravdového bankéře z masa a kostí, totiž mohou utiskovat určité skupiny stejně krutě, jako onen bankéř sedící v kanceláři místní pobočky spořitelny. 

O’Neilová poukazuje na tři základní problémy. Tím prvním je, že algoritmy v sobě také mohou mít svým způsobem zabudované předsudky – každý člověk je unikátní a ne vždy se o něm dá všechno odhadnout pomocí statistických metod. Za druhé, algoritmy nedostávají „feedback“ podobným způsobem jako živí bankéři a neodkážou se tak zatím učit z chyb. Za třetí, algoritmy svými rozhodnutími samy ovlivňují realitu, na základě které pak definují svůj „úspěch“.

Pokud algoritmus rozhodne nepůjčit peníze člověku právě propuštěnému z vězení, zabrání mu v podnikatelské kariéře a možná ho tím nasměruje zpět na zločineckou dráhu. Takovýto člověk pak může opět skončit před soudem. Zdá se tak, že algoritmus fungoval dobře – odmítl půjčit peníze pochybnému recidivistovi, který znovu míří za mříže a půjčku by tak nejspíše nesplatil. Že mu algoritmus svým způsobem tento úděl předurčil svým negativním verdiktem, je však věc druhá. Podobně však mohou na Západě, kde je vysoké školství placené, dopadnout i studenti, kteří kvůli algoritmu nedosáhnou na půjčku na školné. I oni se snadno dostanou do začarovaného kruhu.

Klíčová slova v CV prozradí, jakou mzdu si zaslouží uchazeč

U půjček to však nekončí. Velké korporace čím dál více používají algoritmy k tomu, aby vyhodnocovaly životopisy uchazečů o zaměstnání – není divu, když i na ty méně prestižní pozice a stáže ve velkých účetnických firmách nebo bankách se na Západě každý rok hlásí stovky studentů z těch nejlepších škol. Podobnou „analýzu“ CV nabízí zdarma například portál Adzuna, který na základě klíčových slov v životopise dokonce i spočítá, o jakou mzdu si může uchazeč o zaměstnání říct. I o tom totiž v korporacích často rozhodují algoritmy!

„Velká data“ ale mohou ovlivňovat i dění mimo soukromý sektor. „Nesbíráme data o zločinu. Sbíráme data, která sbírá policie,“ píše O’Neilová. Počet zadržených a zatčených slouží jako nejlepší odhad intenzity zločinu v dané čtvrti. I zde však algoritmy mohou vést do začarovaného kruhu – muži zákona se na základě statistiky vracejí do čtvrtí, kde dochází k nejvíce zadržením, a tím pádem nemohou zadržovat podezřelé v jiných oblastech, čímž opět zhoršují statistiku oblasti, do které míří nejčastěji. Podobné vzorce podle O’Neilové používají i americké soudy, když vyhodnocují pravděpodobnost recidivy.

Tento netransparentní, neregulovaný, neviditelný a nenapadnutelný (ale mocný) systém je podle autorky vysoce nebezpečný. Frustrace lidí, které algoritmy předem odsoudí k chudobě, delšímu pobytu ve vězení nebo jimž odepřou vzdělání, se pak může obrátit proti západní liberální demokracii nebo tržnímu kapitalismu.

Jaké je řešení? Za prvé by autoři algoritmů měli vystoupit z anonymity a přijmout více osobní zodpovědnosti za to, jak jejich výtvory nakládají s osudy lidí. O'Neilová také doporučuje striktnější vládní dohled nad algoritmy. Celkově však jde především o to nezavrhovat úplně lidské analytické a vyhodnocovací schopnosti – co nám algoritmy doporučují, bychom podle O'Neilové měli vždy brát s rezervou a kritickým odstupem.

 

Čtěte více:

Ukradneme nebo vrátíme? Bohatí a chudí se příliš neliší
16.03.2017 15:58
„Skrblíky“ zajímají jen jejich peníze, blaho druhých je jim ukradené, ...
Jak průzkumy lákají voliče k urnám... a jak mohly Trumpovi pomoct vyhrát volby
13.06.2017 14:30
Klíčové hlasování se blíží. Televize i noviny opakují, že podle průzku...
Jsou k něčemu limity výdajů na politické kampaně? Ano, ukazuje výzkum
16.06.2017 18:04
Česká republika se na podzim minulého roku zařadila mezi země, které s...
Mohou odbory pomoci snížit příjmovou nerovnost?
21.06.2017 15:45
Po celém světě narůstá příjmová i majetková nerovnost. Největší pesimi...

Váš názor
  • Totalita politicky korektních feministek
    25.06.2017 8:46

    Aha, tak každý má nárok na půjčku a to i kriminálník nebo každý student, kterému se nelíbí studovat na státní univerzitě. Algoritmus jim prý zníčí život, zatímco bankéř z masa a kostí by půjčku jistě udělil bez ohledu na realitu. Banky jsou přece dobročinné ústavy odpovědné za sociální problémy společnosti. Nebezpečím nejsou algoiritmy, ale matematičky, které vystudovaly Harvard pouze na základě kvót a afirmativní akce bez ohledu na talent a schopnosti a které nyní hlásají politické rádoby rozumy, protože skutečnou matematiku neovládají. Kritizovat jejich bludy znamená ovšem být okamžitě oznažen za sexistu.
    Dan
    • Re: Totalita politicky korektních feministek
      26.06.2017 10:19

      Četl jste to proboha celé a v originále? A rozlišujete konkrétní tvrzení od principu/myšlenky? Z Vaší reakce spíše plyne, že ne a ne a ne. Na mně to spíše působí jako varování pro lidi, aby se měli více na pozoru před každým a vším, kdo/co nekriticky propaguje liduprospěšnost algoritmizace/digitalizace/automatizace/"schytření" každého kousku (zatím ještě) lidského světa.
      stan013
Aktuální komentáře
31.05.2025
15:22Fidelity International: Co mohou očekávat investoři do technologií?
10:05Víkendář: Cla a nedoceněné přínosy evropské měnové unie
30.05.2025
17:12Která země má nejvíce (čistých) zahraničních aktiv? A jak to souvisí s globálními (ne)rovnováhami?
17:02Trumpova celní politika opět zvedá volatilitu na akciovém trhu  
15:37Lee věří v další růst akcií, pozitivní je i Siegel
14:57ČNB: Český růst byl podpořen investicemi a exportem, výhled zhoršují cla
14:15Čeká nás akciový výprodej? Penzijní fondy se chystají vyvážit portfolia
14:01Trumpovy celní vrtochy už spálily firmám přes 34 miliard dolarů, spočetla agentura Reuters
12:22Perly týdne: TACO, umění vyjednávat a chvíle pro euro
11:54Philip Morris ČR vyplatí za loňský rok dividendu 1220 korun na akcii, stejnou jako loni
10:59Jan Bureš: HDP revidován vzhůru, rok 2025 již bude silný…
10:33Trumpova cla opět platí. A budou platit i zítra? Trhy na zprávy reagují tlumeně  
10:21Zpřesněný odhad HDP za první kvartál ukázal nejrychlejší růst ekonomiky za téměř 3 roky
9:09Rozbřesk: Trumpova cla: platí, neplatí a znovu platí
8:47Bessent: Obchodní rozhovory USA s Čínou váznou, měli by se zapojit prezidenti
8:46Odvolací soud obnovil Trumpova cla
8:44Ministerstvo financí navrhuje zrušit daňový strop 40 milionů, Trumpova cla znovu na scéně a futures jsou smíšené  
6:15Slavný index S&P 500 letos nestíhá. Má smysl začít kupovat akcie mimo USA?
29.05.2025
22:00Nvidia po výsledcích táhla trhy vzhůru  
18:23Nový inflačně - monetární režim a finanční síla obchodovaných firem

Související komentáře
Nejčtenější zprávy dne
Nejčtenější zprávy týdne
Nejdiskutovanější zprávy týdne
Kalendář událostí
Nebyla nalezena žádná data