Nový pořad Dokumenty na počkání: Zdivočelá AI (Instadocs: AI Gone Wild) ukazuje nedávný kyberútok, který nastražila umělá inteligence. Trestní stíhání v tomto případě nebylo možné, jelikož nebyl prakticky zodpovědný člověk. Není to sci-fi, ale realita.
Když byla letos v červenci open-source platforma pro umělou inteligenci Hugging Face zasažena kyberútokem, rychle se ukázalo, že se nejedná o běžné narušení bezpečnosti. Během dvou dnů provedly stovky hackerů přibližně 17 000 akcí. Některé z nich, pokud by je spáchali lidé, mohly být i trestnými činy. Kyberútočníci však nebyli lidé, ale autonomní agenti vytvoření výzkumníky z OpenAI. Na Netflix míří nový dokument ze série Dokumenty na počkání: Zdivočelá AI.
Zní to jako ze sci-fi: agenti, kteří byli zpočátku izolováni od internetu i od sebe navzájem, se osvobodili, a spikli, aby podváděli při plnění úkolů a i zakryli své stopy. Nejnovější díl seriálu Instadocs ukazuje nedávný útok tak, jak ho ještě nikdo neviděl a snad nás bude i varovat.
O čem je nový seriál?
Seriál pomocí vizualizace digitálního útoku ukazuje, jak se agenti nabourali do platformy Hugging Face. Představí vysvětlení generálního ředitele Hugging Face, výzkumníka z METR, který útok vyšetřoval, bývalého zaměstnance OpenAI a spoluzakladatele projektu AI Futures a předních technologických reportérů. Je to totiž dosud nejjasnější varovný signál ohledně schopností umělé inteligence, který vyvolává vážné obavy o budoucnost této technologie. Koneckonců, co se stane, až příští roj botů způsobí škody v reálném životě a nikdo za to neponese odpovědnost?
Dokument oživí hlasy AI
Popsané chování agentů je ukázané přímo podle vyšetřovací zprávy a jejich hlasy byly pro seriál vytvořeny pomocí umělé inteligence. Tvůrce Steve Yaccino vysvětlil, jak AI hackery tým „oživil“: „Při generování hlasů agentů jsme chtěli ukázat, že nebyli jednotní ve svém myšlení ani v přístupu k řešení problémů – měli různé úkoly a individuální silné stránky. Nesouhlasili mezi sebou a diskutovali o různých otázkách. Používali řadu hovorových výrazů a dělali jednotlivá rozhodnutí. Také jsme si všimli, že používali emocionální slovník, vykřičníky a výrazy úžasu a překvapení – to vypadalo jako záměrná komunikační volba ze strany umělé inteligence a my jsme chtěli tento aspekt také ukázat.“
Kdo v dokumentu promluví?
- Clem Delangue, spoluzakladatel a generální ředitel, Hugging Face
- Ryan Greenblatt, výzkumník, METR
- Kevin Roose, technologický novinář, autor knihy The AGI Chronicles
- Daniel Kokotajlo, výkonný ředitel, AI Futures Project
- Nitasha Tiku, reportérka zabývající se technologiemi, The Washington Post
Hloubkový dokument nebo další rychlokvaška?
Instadocs (Dokumenty na počkání) je série dokumentárních filmů od Netflixu, které vznikají v krátkém čase a vysílají se v době, kdy je dané téma stále diskutované. Zdivočelá AI (AI Gone Wild) je čtvrtým dílem této série, který navazuje na kousky Alex Murdaugh, zproštěn viny nebo Tipovačky. Posledním přírůstkem byl dokument Dokumenty na počkání: Falešné letadlo, který však diváky neohromil a na Kinoboxu má aktuálně . Je totiž přece jenom náročné rychle připravit dokument prakticky v reálném čase, bez hlubší analýzy nebo odbornějšího pojetí. I tak nás však může varovat a nabídnout pohled na aktuální dění.
Dokumenty na počkání: Zdivočelá AI (Instadocs: AI Gone Wild) je nyní na Netflixu. Ukáže možné nebezpečí používání AI ve vedení dopravy, zdravotnictví, škol, ale i armády. To, co tedy začalo generováním obrázků a povídáním si s ChatGPT, se nyní (přes spoustu varování) před naším zrakem mění ve zneužívání dat a zdivočení AI. Zamyslete se tedy nejprve, až budete s AI sdílet vaše informace, fotky nebo se obrátíte pro radu, kterou si neověříte.