„V letectví je černá skříňka zdrojem informací, protože obsahuje klíčová data, která mohou pomoci vysvětlit letecké katastrofy. Ovšem v technologické oblasti je situace jiná, protože tam výraz černá skříňka poukazuje na neznalost a nedostatek informací,“ píše The Atlantic. Tento výraz se pak podle něj používá i v situacích, kdy „tvůrci nějakého algoritmu nemohou či nechtějí vysvětlit, jaká je jeho vnitřní mechanika“. Takové algoritmy jsou pak „nekontrolované, nepoznatelné a nezávislé na lidském dohledu, přestože mohou podporovat extrémistický obsah na sociálních sítích nebo třeba rozhodovat o našem zdraví“.
The Atlantic poukazuje na to, že různá vyšetřování i mezinárodní soudní instituce viní firmy, jako je , Google a další, z toho, že používají své algoritmy pro zvyšování ziskovosti a obcházení antimonopolní regulace. Tyto společnosti ale popírají, že by nějakým nezákonným způsobem upravovaly algoritmy používané pro vyhledávání a „dokázat zmíněná obvinění je téměř nemožné“.
U Amazonu se například hovoří o tom, že vyhledávání modifikuje tak, aby dávalo prioritu značkám, které přinesou firmě vyšší ziskovost, a ne těm, které nabízí konkurence. Před několika dny o tom psal The Wall Street Journal s tím, že takové řazení produktů se objevuje při vyhledávání podle relevance, které dává prioritu například zboží typu „Amazon Basics“, kam patří papírové ubrousky, baterie či oblečení. The Wall Street Journal v této souvislosti zmiňoval nejmenovaného člověka z firmy, který podle svých slov proti změně algoritmů protestoval, ale byl ignorován.
Amazon uznává, že svou ziskovost bere v úvahu, ale popírá, že by při vyhledávání upřednostňoval své značky před konkurenčními. V e-mailu, který od firmy The Atlantic dostal, se píše, že firma zobrazuje produkty, „které budou zákazníci chtít bez ohledu na to, jaké jsou značky.“ Zároveň dodává, že „jako každý jiný obchod zvažuje ziskovost produktů na svých stránkách, ale jde jen o jeden z ukazatelů a není to klíčový faktor“. The Atlantic k tomu uvádí, že takto opatrně formulovaná odpověď ukazuje, jak složité je dokázat, že nějaký algoritmus preferuje určitý produkt či diskriminuje jiný. A poukazuje i na následující:
The Wall Street Journal tvrdí, že nemusí v daném algoritmu pracovat přímo se ziskovostí produktů. Namísto toho může použít nějakou proměnnou, která slouží jako dobrý ukazatel ziskovosti. Může to být například způsob balení a taková proměnná pak bude při větším objemu produktů dobře kopírovat i ziskovost. The Atlantic dodává, že je velmi ziskovou společností, která má silnou pozici v marketingu, prodeji a výrobě některých produktů. Pokud by k tomu ještě zneužívala algoritmy pro vyhledávání, její síla na trhu by ještě více rostla na úkor konkurence.
Online prodejců a technologických společností obecně si také častěji všímají regulátoři. EU například v roce 2017 udělila pokutu Googlu za to, že některé internetové stránky diskriminoval před těmi, které zvyšovaly jeho příjmy. The zase psaly o tom, že změnil algoritmus v Store tak, aby dával přednost jeho aplikacím (Apple tyto zprávy popřel s tím, že jeho algoritmy berou v úvahu celou řadu faktorů).
The Atlantic tvrdí, že algoritmy mohou upřednostňovat či naopak diskriminovat i bez toho, aby jejich tvůrci při jejich tvorbě měli tuto vlastnost přímo danou jako cíl. Někdy si toho, jak algoritmus funguje v praxi, ani nemusí být plně vědomi. Pak se hovoří o „strategické ignoranci“, kdy „je pro mocné pohodlné nevědět“. A regulátoři se musí ve složitých korporátních systémech technologických firem snažit najít konkrétní lidi, kteří jsou za algoritmy zodpovědní.
Zdroj: The Atlantic