Co je další pro lidstvo: Automatizace a nová morálka

Jak bude vypadat naše budoucnost – ne za sto let, ale za pouhá dvě desetiletí?

Děsivé, pokud chcete věřit Yuval Noah Harari, izraelskému historikovi a autorovi “Sapiens” a “Homo Deus”, pár odvážných knih, které nabízejí rozsáhlou historii lidstva a předpověď toho, co leží před sebou: věk algoritmy a technologie, které by mohly vidět, že jsme se změnili v “super-lidi” s božskými vlastnostmi.

Na akci, kterou pořádají The New York Times a Jak na akademii, pan Harari dal své předpovědi časopisu Times Thomasovi Friedmanovi. Lidé, varoval, “vytvořili tak složitý svět, že už nedokážeme rozumět tomu, co se děje.” Zde jsou nejdůležitější body rozhovoru.

Umělá inteligence a automatizace vytvoří “globální zbytečnou třídu”

Stejně jako průmyslová revoluce vytvořila dělnickou třídu, automatizace by mohla vytvořit “globální zbytečnou třídu”, řekl Harari a politické a společenské dějiny nadcházejících desetiletí se budou otáčet kolem nadějí a obav z této nové třídy. Rozbíjející se technologie, které pomohly přinést obrovský pokrok, by mohly být katastrofální, pokud se dostanou z ruky.

“Každá technologie má dobrý potenciál a špatný potenciál,” řekl. “Jaderná válka je očividně strašná. Nikdo to nechce. Otázkou je, jak tomu zabránit. S rušivou technologií je nebezpečí mnohem větší, protože má nějaký úžasný potenciál. Existuje mnoho sil, které nás rychleji a rychleji vyvíjejí k rozvoji těchto rušivých technologií a je velmi obtížné předem vědět, jaké budou mít důsledky z hlediska komunity, pokud jde o vztahy s lidmi z politického hlediska. ”

Nové technologie by mohly útočit na demokracii a dokonce i na náš smysl pro sebe

Kombinace biotech a I.T. může dosáhnout místa, kde vytváří systémy a algoritmy, které nám rozumějí lépe než my sami.

“Jakmile budete mít externí odlehčení, které vás lépe rozumí, než vy rozumíte, liberální demokracie, jak jsme ji poznali za minulé století nebo tak, je odsouzena,” předpověděl pan Harari.

“Liberální demokracie věří v pocity lidských bytostí a to fungovalo tak dlouho, dokud nikdo nerozuměl vašim pocitům lépe než vy sám – nebo vaše matka,” řekl. “Ale pokud existuje algoritmus, který vás lépe chápe než vaše matka a ani nepochopíte, že se to děje, pak se liberální demokracie stane emoční loutkovou show,” dodal. “Co se stane, když vaše srdce je cizí agent, dvojitý agent, který slouží někomu jinému, kdo ví, jak stisknout vaše emocionální tlačítka, kdo ví, jak vás rozzlobit, jak vás učinit odvážné, jak vás radovat? To je druh hrozby, kterou začínáme dnes vidět, například ve volbách a referendu. ”

Technologie bude novým nástrojem diskriminace – nikoliv proti skupinám, ale i jednotlivcům

Ve 20. století byla diskriminace použita proti celé skupině na základě různých předsudků. Byla však fixovatelná, protože tyto předsudky nebyly pravdivé a oběti se mohly spojit a podnikat politické kroky. V nadcházejících letech a desetiletích však pan Harari řekl: “budeme čelit individuální diskriminaci, a to by mohlo být skutečně založeno na dobrém posouzení toho, kdo jste.”

Pokud algoritmy, které firma používá, vyhledávají váš profil nebo DNA na Facebooku, procházejí školní a profesionální záznamy, dokážou docela přesně zjistit, kdo jste. “Nejdříve nebudete moci dělat nic o této diskriminaci, protože jste jen vy,” řekl pan Harari. “Nevylučují vaše bytosti, protože jste židovský nebo homosexuální, ale protože jste vy. A nejhorší je, že to bude pravda. Zní to divně, ale je to strašné. ”

Čas se zrychluje

Trvalo to staletí, dokonce tisíce let, abychom mohli sklízet odměny rozhodnutí našich předků, například pěstování pšenice, která vedla k zemědělské revoluci. Už ne.

“Čas se zrychluje,” řekl Harari. Dlouhodobý termín již nemusí být definován ani po staletích ani tisíciletích – ale za 20 let. “Je to poprvé v historii, kdy nebudeme mít ponětí, jak bude lidská společnost za pár desetiletí,” řekl.

“Jsme v bezprecedentní situaci v historii v tom smyslu, že nikdo neví, jaké jsou základy toho, jak svět vypadá za 20 nebo 30 let. Nejde jen o základní geopolitické poznatky, ale o to, jak vypadá trh práce, o tom, jaké dovednosti budou lidé potřebovat, o tom, jaké rodinné struktury budou vypadat a jak budou vypadat genderové vztahy. To znamená, že poprvé v historii nemáme ponětí, co učit ve školách. ”

Vedoucí se soustředí na minulost, protože jim chybí smysluplná vizi budoucnosti.
Vedoucí představitelé a politické strany se stále nacházejí v 20. století, v ideologických bojích, které se nacházejí napravo proti levici, kapitalismu a socialismu. Dokonce ani nemají realistické představy o tom, jak vypadá trh práce za pouhé dvě desetiletí, řekl pan Harari, “protože nevidí.”

“Místo formulování smysluplných představ o tom, kde bude lidstvo v roce 2050, přebalují nostalgické fantazie o minulosti,” řekl. “A je tu určitá konkurence: kdo se může dívat dál. Trump se chce vrátit do padesátých let; Putin se v podstatě chce vrátit do carské říše a máte islámský stát, který se chce vrátit do Arabie sedmého století. Izrael – porazili všechny. Chtějí se vrátit zpět do věku Bible o 2500 let, a tak vyhrajeme. Máme nejdelší vizi zpět. ”

“Neexistuje žádná předem určená historie”

“Teď žijeme s rozpadem posledního příběhu nevyhnutelnosti,” řekl. V devadesátých letech minulého století došlo k nápadům, že historie skončila, že velkou ideologickou bitvu 20. století zvítězila liberální demokracie a kapitalismus volného trhu.

To se zdá být extrémně naivní, řekl. “Moment, kdy jsme nyní, je okamžik extrémní deziluze a zmatenosti, protože nemáme tušení, odkud to bude odtud. Je velmi důležité si uvědomit nevýhodu, nebezpečné scénáře nových technologií. Korporace, inženýři, lidé v laboratořích se přirozeně zaměřují na obrovské výhody, které nám tyto technologie přinášejí, a klesá na historiky, filozofy a sociální vědce, kteří myslí na všechny způsoby, jak by se věci mohly pokazit. ”

V složitém propojeném světě musí být morálka znovu definována

“Aby se dalo dobře, nestačí mít dobré hodnoty,” řekl Harari. “Musíte rozumět řetězcům příčin a účinků.”

Krádež, například, se v dnešním světě stalo tak komplikovaným. V biblických časech pan Harari řekl, že pokud jste krást, věděli jste o vašich činnostech a jejich následcích na vaši oběť. Dnešní krádež však může znamenat investování – i nevědomky – do velmi ziskové, ale neetické společnosti, která poškozuje životní prostředí a zaměstnává armádu právníků a lobbistů, aby se ochránila před soudními spory a předpisy.

“Jsem vinen krádežím řeky?” Zeptal se Harari a pokračoval ve svém příkladu. “I když si to uvědomuji, nevím, jak korporace vydělává peníze. Bude trvat měsíce a dokonce i roky, než zjistím, co dělají mé peníze. A během té doby se budu dopustit tak mnoha zločinů, o kterých bych nic nevěděla. ”

Problém, jak řekl, je chápání “extrémně komplikovaných řetězců příčin a účinků” ve světě. “Můj strach je, že homo sapiens nejsou jen na to. Vytvořili jsme tak složitý svět, že už nedokážeme rozumět tomu, co se děje. ”