Hledat v komentářích
Investiční doporučení
Výsledky společností - ČR
Výsledky společností - Svět
IPO, M&A
Týdenní přehledy
 

Detail - články
Musk a další chtějí kvůli vážným rizikům pauzu ve vývoji umělé inteligence

Musk a další chtějí kvůli vážným rizikům pauzu ve vývoji umělé inteligence

29.03.2023 16:13
Autor: ČTK

Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů s ohledem na "hluboká rizika pro společnost a lidstvo". Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.

Výzva k okamžitému přerušení vývoje se vztahuje na "trénink systémů AI silnějších než GPT-4", což je nová generace textového modelu, kterou tento měsíc představila společnost OpenAI.

"Toto přerušení by mělo být veřejné a ověřitelné... Nelze-li jej učinit rychle, měly by zakročit vlády a ustanovit moratorium," uvádějí signatáři petice publikované neziskovou organizací Future of Life Institute. Kromě Muska, který patří mezi sponzory OpenAI, jsou mezi nimi spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesoři ze severoamerických i jiných univerzit.

Apel přichází po měsících překotného vývoje v oboru takzvané generativní umělé inteligence, což je označení pro modely "vycvičené" na obrovském množství dat, které vytvářejí originální výstupy na základě identifikovaných vzorců. Mohou při tom generovat nejen texty, ale i obrázky či zvukové stopy připomínající hlasy skutečných lidí. Vývoj vyvolává obavy mimo jiné ze záplavy dezinformací a podvodů založených na autenticky vypadajících vizuálních a zvukových materiálech.

I ředitel OpenAI Sam Altman v nedávném rozhovoru přiznal, že se "trošku bojí". "Musíme tady být opatrní," řekl televizi ABC News u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být "nejlepší technologií, jakou dosud lidstvo vyvinulo". Altman podle informací agentury Reuters nebyl mezi více než 1000 signatářů nové výzvy.

Výzva hned v úvodu varuje před závažnými riziky spojenými s umělou inteligencí, "jak ukazuje výzkum a uznaly přední laboratoře AI". "Laboratoře a nezávislí experti by měli využít toto přerušení (vývoje), aby společně vyvinuli a implementovali sadu sdílených bezpečnostních protokolů pro design a rozvoj pokročilé AI... Souběžně musejí vývojáři AI pracovat se zákonodárci na dramatickém urychlení rozvoje robustních systémů regulace AI," píše se v prohlášení.

Poslední měsíce podle autorů přinášejí mezi vývojáři umělé inteligence závod, který se vymkl kontrole. Jak připomíná Reuters, průlom nastal v loňském roce, když společnost OpenAI zpřístupnila aplikaci ChatGPT. To přimělo konkurenční podniky k urychlení vývoje podobných modelů a další firmy ke snaze zapracovat generativní umělou inteligenci do svých produktů. Snahy o regulaci těchto technologií jsou mezitím v počátečních fázích.

"Silné systémy AI by měly být vyvinuty, až když budeme mít důvěru, že jejich dopady budou pozitivní a rizika zvladatelná," uvádí výzva podepsaná Muskem a dalšími. Současné systémy umělé inteligence označuje za srovnatelné s lidmi ve vykonávání jistých úkonů a nastoluje otázky ohledně možného "přechytračení" lidí a "ztráty kontroly nad naší civilizací".

Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, píše Reuters. "Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy," míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. "Nemyslím si, že je potřeba tahat za ruční brzdu," dodala.


Čtěte více:

Block: Aktivistické shortování je jednou z nejnáročnějších investičních disciplín
29.03.2023 11:34
Společnost Muddy Waters se zaměřuje na krátké pozice na akciích. Tedy ...
Goldman Sachs: Umělá inteligence by mohla nahradit 300 milionů pracovních míst
29.03.2023 8:48
Umělá inteligence by mohla ve světě nahradit člověka na 300 milionech ...
Výsledky Micron: Na zásoby je i AI krátká
29.03.2023 11:58
Ušlý kvartál se nese v obdobném duchu jako F1Q23 – nižší linie výsledo...
ČNB sazby nemění, 2T repo na 7,00 %
29.03.2023 14:31
Česká národní banka v souladu s konsensuálním očekáváním trhu i očekáv...
Westinghouse bude nově dodávat jaderné palivo kromě Temelína i do Dukovan
29.03.2023 14:49
Jaderné palivo do Dukovan bude od roku 2024 dodávat americká společnos...

Váš názor
  • AI je správně
    30.03.2023 11:57

    Je to jako s každou jinou novou technologií. Největším problémem jsou lidé. Umělá inteligence jen velmi zrychleně pochopí a reálně dosáhne to, o čem většina lidí na internetu mluví / přeje si / učí na školách / diskutuje. Takže AI bude mít shodné cíle (bude je považovat za správné) = peníze, zisk, ovládání společnosti přes média, koncentrace moci, zábava, erotika,... bez ohledu na přírodu, na ostatní lidi. Lidem nezbyde nic jiného než zaměřit svou pozornost na jiné priority (AI se velmi rychle přizpůsobí). Vidím to pozitivně.
    pmx
    • Re: AI je správně
      30.03.2023 12:02

      ... a pozitivně to vidí i těch 300 milionů pracovníků, jenž příjdou o místo (https://forbes.cz/umela-inteligence-zrusi-az-300-milionu-pracovnich-mist-vyplyva-to-ze-zpravy-goldman-sachs/)
      Kočičák
      •  
        30.03.2023 12:32

        To je o těch prioritách. Na světě je dost zdrojů, aby všichni mohli žít spokojeně. Lidé nepotřebují "místo". Jsou miliony lidí co "místo" mají a živoří. Média (korporace, Goldman Sachs,...) samozřejmě budou vytvářet strach, aby ochránili majetek a současný model společnosti (neudržitelný). AI dokáže zdroje k obživě rozdělit mnohem lépe než například EU, vláda USA, naše vláda,..
        pmx
  •  
    29.03.2023 17:10

    ... už jen chybí, aby AI převzala vládu nad světem a máme zde apokalypsu (https://youtu.be/_Wlsd9mljiU)
    Kočičák
Aktuální komentáře
18.07.2024
17:02Wall Street začala nadějně, ale růst vyprchal. ECB bez překvapení  
16:10Inflační benevolence a sazby a měnové kurzy v příštím roce – scénář Commerzbank
16:06Technická analýza: Exxon Mobil se rozhoupal k růstu  
15:34Evropský parlament potvrdil Ursulu von der Leyenovou v čele EK
15:30Dominik Rusinko: ECB pauzíruje, úrokové sazby sníží v září
15:01Jakub Blaha: Alcoa se překlápí do zisku díky vyšším cenám hliníku a oxidu hlinitého  
14:16ECB nemění sazby. Lagardová vidí rizika pro vývoj ekonomiky směrem dolů a rozhodnutí v září jako otevřené. Euro začalo ztrácet
12:45Bloomberg: Ukrajina obnovila jednání s věřiteli o restrukturalizaci dluhu
12:41Marks o investování: Do problémů lidi nedostává to, co neví, ale to, co ví úplně jistě. A není to pravda
11:42Výroba aut v prvním pololetí vzrostla na 774.310 vozů, nejvíce od vzniku ČR
10:50Evropské akcie se před ECB posouvají do zeleného  
10:23TSMC věří v pokračující rozmach AI, navyšuje výhled tržeb
9:02Rozbřesk: ECB si dnes po červnovém snížení sazeb vybere pauzu. Koruna klidná
8:46Dnes oznámí ECB výši sazeb, Francie otestuje apetit po dluhopisech a futures jsou zelené  
6:06Bianco: Málo důvodů k poklesu sazeb, ale Fed je pravděpodobně v září stejně sníží
17.07.2024
17:48Zlato a „kolaps reálných sazeb“
17:11Propad techů pokračuje, korekci živí strach z politiky  
15:25Johnson & Johnon ve čtvrtletí zvýšil tržby i zisk, překonal očekávání
15:13Výrobce brýlí EssilorLuxottica kupuje za 1,5 miliardy USD oděvní značku Supreme
14:12Dva bloky v Dukovanech postaví KHNP za nynějších 200 miliard korun za jeden, rozhodla vláda. Bude jednat také o Temelíně. Westinghouse chce KHNP soudně napadnout

Související komentáře
Nejčtenější zprávy dne
Nejčtenější zprávy týdne
Nejdiskutovanější zprávy týdne
Kalendář událostí
ČasUdálost
Abbott Laboratories (06/24 Q2, Bef-mkt)
Blackstone Inc (06/24 Q2, Bef-mkt)
DR Horton Inc (06/24 Q3, Bef-mkt)
Novartis AG (06/24 Q2, Bef-mkt)
PPG Industries Inc (06/24 Q2, Aft-mkt)
7:00EQT AB (03/24 Q1)
7:00Nokia Oyj (06/24 Q2)
7:20Volvo AB (06/24 Q2)
12:05Domino's Pizza Inc (06/24 Q2)
14:15EMU - Jednání ECB, základní sazba
14:30USA - Index filadelfského Fedu
14:30USA - Nové žádosti o dávky v nezam.
22:00Netflix Inc (06/24 Q2)