epapyrusOtevřít aplikaci
11 am Briefing

Epizoda podcastu 11 am Briefing

Čech z Hugging Face: AI se bude vždy snažit podvádět

8. 10. 2026 · 50 min

Přehrát zdarmaVšechny epizody

O epizodě

Umělá inteligence mění pravidla hry napříč odvětvími a v zákulisí technologického světa se odehrává lítý boj o miliardy dolarů — tedy o to, kdo bude trh AI kontrolovat. Bývalý výzkumník technologické společnosti Hugging Face Hynek Kydlíček popisuje, jakou roli v tomto boji hrají varování velkých AI laboratoří o rizicích vyhlazení lidstva.

Zástupci OpenAI a Anthropicu, firem rozvíjejících modely s uzavřeným zdrojovým kódem, šokovali veřejnost sérií vyjádření o tom, že AI se může proti člověku obrátit. Současně se chlubí novými, stále vyspělejšími modely, jako by se nic nedělo.

„Trošku to dává člověku se zamyslet, jestli nesledují nějaký druhý účel než jenom to, že se opravdu bojí, aby ty modely neudělaly něco špatného,“ říká Hynek. „Ten druhý účel je, že by se zakázaly ty open-sourcové modely.“ Jejich základní parametry je možné převzít a upravit dle potřeby. Jsou levnější a dostupnější a pro americké AI firmy, které parametry svých nejvyspělejších modelů nezveřejňují, představují konkurenci.

Větším a bezprostřednějším rizikem než katastrofické scénáře je podle něj spíše logika fungování dnešních AI agentů. Ti se totiž z principu snaží najít nejrychlejší zkratku k cíli — a pokud narazí na překážku, neváhají systém obelstít.

Hynek vysvětluje, co přesně se stalo při útoku AI agentů společnosti OpenAI na Hugging Face, platformu poskytující datasety a další nástroje pro trénování jazykových modelů s otevřeným zdrojovým kódem, a proč se tu AI agenti rozhodli podvádět. Popisuje fenomén zvaný reward hacking (podvádění hodnotícího systému s cílem dosáhnout kladného hodnocení) a rozkrývá incident, při kterém hrála roli urputná snaha agentů o dosažení nejlepšího výsledku.

Zatímco kontrola AI systémů vyžaduje pokročilejší monitoring, nejrychlejší dopad AI pocítí firmy na trhu práce a v produktivitě. Programátoři jsou dnes pouhým „kanárkem v dole“ — 99 procent z nich už kód nepíše ručně, ale vede dialog s AI. Podobná transformace brzy čeká celou znalostní ekonomiku. Jak dramatický dopad to bude mít na trh práce v následující dekádě, jaká rizika z toho plynou pro byznys a co nás čeká, až AI naplno pronikne do vědeckého výzkumu

Časové značky:

00:00 - Úvod a boj o miliardy v AI

04:05 - Proč se AI snaží podvádět (reward hacking)

12:07 - Jak AI agenti zaútočili na Hugging Face

18:46 - Open-source vs. Closed-source: Boj o regulace

35:08 - Zruší AI práci programátorům?

Pokud chcete být stále v obraze a pravidelně dostávat další analýzy, rozhovory a komentáře k ekonomice, politice a byznysu, odebírejte newsletter 11am: https://www.11am.cz/#/portal/signup

Knihy z epizody

Proč se nebát umělé inteligence?Proč se nebát umělé inteligence?David Černý, Vladimír Mařík, Michal TrčkaE-kniha · 448 stranUMĚLÁ INTELIGENCE – zdroje, podstata, současný stav, praktické využití, budoucnostUMĚLÁ INTELIGENCE – zdroje, podstata, současný stav, praktické využití, budoucnostRudolf ČervenkaE-kniha · 456 stranSam Altman: OptimistaSam Altman: OptimistaKeach HageyE-kniha · 456 stran

Další epizody