O epizodě
Ve třetím díle se podíváme pod kapotu lidského myšlení, abychom lépe pochopili rozdíly a podobnosti mezi strojovým a člověčím chápáním světa. V názvu 3. knihy: Stroj v duchovi si Yudkowski hraje s myšlenkou "ducha ve stroji" a jeho zrcadlení v bio-mechanické podstatě našeho myšlení. Ukážeme si, že naše vědomí není nehmotná magická entita, ale fyzický výpočetní systém vytvořený slepou evolucí. Dějiny nás nepostavily ke zdravému a udržitelnému fungování v pokročilé civilizaci. Spíš z nás udělaly kreativní plniče (a obcházeče) pravěkých vyhlášek. Odhalíme, jak nás zrazuje jazyk při nekonečných bitvách o definice. Naučíme se praktický nástroj „zákazu klíčového slova“, který přinutí mysl popsat syrovou realitu bez slovní schovávané. Přenese nás to až k zásadnímu zvratu: proč jsou lidské hodnoty jako spravedlnost, krása či láska neuvěřitelně křehkým konceptem. Proč je osudovou chybou předpokládat, že vyspělá umělá inteligence od nás automaticky přejme lidskou morálku. Prozkoumáme tezi ortogonality i mrazivou realitu problému souladu AI s lidskými hodnotami (AI alignment) – výzvy, kde i drobná chyba v dobře míněném zadání může znamenat nevratnou katastrofu. Hosted on Acast. See acast.com/privacy for more information.
Knihy z epizody
Další epizody
- Kniha 5. a 6. - Stát se silnějším & Obyčejné dobro 21. 10. 2026 · 28 min
- Kniha 4. - Pouhá skutečnost 20. 10. 2026 · 31 min
- Kniha 2. - Skutečně změnit názor 18. 10. 2026 · 21 min
- Kniha 1. - Mapa a území 17. 10. 2026 · 32 min