Muskova nejnovější předpověď: AI může v roce 2030 překonat lidskou inteligenci a v budoucnu může „ukončit“ lidi (1/2)

Zdroj: Tencent Technology News 2024-04-04 08:55

Klíčové body:

① Musk předpovídá, že umělá inteligence může do roku 2030 překonat úroveň lidské inteligence a může dokonce zničit lidi.

② Musk hovořil o faktorech omezujících rozvoj AI. Loni byly dodávky AI čipů napjaté a letos se stane úzkým hrdlem snižovací transformátor.

③ Pokud jde o to, kdy mohou lidé přistát na Měsíci, Musk předpovídá, že s pomocí Hvězdné lodi to bude trvat maximálně tři roky.

Tencent Technology News, 4. dubna – Podle zpráv zahraničních médií měl Elon Musk, generální ředitel společností Tesla a SpaceX, nedávno online rozhovor s Peterem Diamandisem, zakladatelem Singularity University a nadace XPRIZE, na Summit Abundance. Summit pořádala univerzita Singularity v Silicon Valley, která se věnuje poskytování poradenství vedoucím podnikům v oblasti špičkových technologií. Nadace XPRIZE podporuje technologické inovace prostřednictvím vědeckých soutěží, z nichž některé byly financovány Muskem. 4. dubna – Podle zpráv zahraničních médií měl Elon Musk, generální ředitel společností Tesla a SpaceX, nedávno online rozhovor s Peterem Diamandisem, zakladatelem Singularity. univerzity a nadace XPRIZE na Summitu hojnosti. Summit pořádala univerzita Singularity v Silicon Valley, která se věnuje poskytování poradenství vedoucím podnikům v oblasti špičkových technologií. Nadace XPRIZE podporuje technologické inovace prostřednictvím vědeckých soutěží, z nichž některé financoval Musk.

Při diskuzi o rychlosti vývoje umělé inteligence Musk předpověděl, že na základě současného tempa technologického pokroku může umělá inteligence do roku 2030 překonat lidskou inteligenci a tato technologie může mít dokonce potenciál ukončit lidstvo. Do budoucna se však nedíval pesimisticky, ale zdůraznil, že prostřednictvím pozitivního vedení má umělá inteligence potenciál přinést lidstvu lepší budoucnost.

Musk zmínil, že vznik superinteligence se nazývá „singularita“ právě kvůli jejím nepředvídatelným důsledkům, včetně rizika možného zániku lidstva. Souhlasil s názorem „kmotra umělé inteligence“ Geoffreyho Hintona a věřil, že pravděpodobnost výskytu tohoto rizika je přibližně mezi 10 % a 20 %.

Navzdory tomu, že Musk uznal potenciální rizika, že umělá inteligence překoná lidskou inteligenci, stále zdůrazňoval, že možnost pozitivních výsledků převažuje nad negativními důsledky. Konkrétně zmínil Diamandisovu knihu z roku 2014 „Abundance: The Future Is Better Than You Think“, která zobrazuje optimistickou budoucnost řízenou umělou inteligencí a roboty, kde výrazně klesly náklady na zboží a služby. Jako nejlepší scénář pro poloutopickou budoucnost umělé inteligence navíc uvedl sérii „Culture“ skotského spisovatele sci-fi Iaina M. Bankse.

Musk přirovnal vývoj umělé inteligence a Artificial General Intelligence (AGI) k výchově dítěte a doufal, že to bude mít pozitivnější dopady na lidstvo. Zdůraznil důležitost kultivace umělé inteligence, která skutečně rozumí etice a morálce, a přirovnal ji ke klasickému filmu Stanleyho Kubricka z roku 1968 „2001: Vesmírná odysea“.

Musk poukázal na to, že nejdůležitějším aspektem bezpečnosti umělé inteligence je zajištění jejího maximálního hledání pravdy a zvědavosti. Věří, že klíč k dosažení maximální bezpečnosti umělé inteligence spočívá v tom, abychom ji nenutili lhát, a to i tváří v tvář nepříjemným pravdám. Jako příklad použil zápletku z "2001: A Space Odyssey", kde byla umělá inteligence nucena lhát, což mělo za následek smrt posádky, aby zdůraznil, že umělá inteligence by neměla být nucena dělat nic, co porušuje axiomy.

Musk také zmínil faktory, které mohou omezovat rozvoj umělé inteligence, jako je napjatá nabídka čipů umělé inteligence, která se objevila v loňském roce, a rostoucí poptávka po transformátorech snižujících výkon v domácnostech a komerčních zařízeních. Uvedl, že tyto výzvy jsou skutečně aktuálními problémy, které je třeba řešit.

Během diskuse obě strany hovořily také o konceptu integrace neokortexu lidského mozku s cloudem. Přestože Musk věří, že cíl nahrát lidské vědomí a paměť do cloudu je ještě daleko, pochválil svůj startup s rozhraním mozku a počítače, Neuralink, a jeho prvního lidského pacienta, který dostal transplantaci. Tento tetraplegický pacient úspěšně demonstroval naživo prostřednictvím studie schválené FDA, ovládání obrazovky, hraní videoher, stahování softwaru a dosahování podobných funkcí jako operace myši pomocí mozkových implantátů. Musk uvedl, že Neuralink postupuje hladce a postupně směřuje k cíli celomozkového rozhraní.

Následuje úplný text dialogu mezi Muskem a Diamandisem:

1. Síla a nebezpečí superinteligence

Diamandis: Gratulujeme k vašim vynikajícím úspěchům v různých oblastech. Aktivně propagujete koncept digitální superinteligence ve světě – je to největší naděje lidstva, nebo náš nejhlubší strach? Můžete věnovat pár minut rozhovoru o tomto problému?

Musk: Jak víte, superinteligence se dá nazvat „singularitou“. Popularizace tohoto termínu je neoddělitelná od úsilí institucí, jako je Singularity Institute. Vznik superinteligence a její následný dopad je opravdu těžké předvídat. Osobně se domnívám, že skutečně existuje možnost, že to může skončit lidstvo. Jak jsem řekl dříve, mohl bych souhlasit s názorem Geoffreyho Hintona, že existuje 10% nebo 20% šance, že superinteligence může skoncovat s lidstvem. Přikláním se však k názoru, že pravděpodobnost pozitivního scénáře je vyšší než negativního, i když je pro nás obtížné dělat přesné předpovědi. Ale jak jste ve své knize zdůraznil koncept „hojnosti“, věřím, že nejpravděpodobnější budoucnost, ke které směřujeme, je budoucnost plná hojnosti.

Diamandis: Váš pohled je velmi vzrušující. Pamatuji si, že jste jednou řekl, že vývoj obecné umělé inteligence a humanoidních robotů nás dovede k hojnosti.

Musk: Ano, doufám, že naše budoucnost může být taková, jaká je vyobrazena v sérii knih Iana Bankse „Culture“. Myslím, že toto je nejlepší koncepce poloutopické společnosti umělé inteligence. Vznik superinteligence je nevyhnutelný a může přijít brzy. Proto to, co opravdu musíme udělat, je vést ho pozitivním směrem a maximalizovat jeho výhody.

Věřím, že způsob, jakým pěstujeme umělou inteligenci, je zásadní. Do jisté míry jsme jako kultivace životní formy s obecnou inteligencí, což je skoro jako výchova dítěte, ale toto dítě má mimořádnou moudrost a talent. Důležitý je způsob, jakým vychováváme děti, a podobně je pro bezpečnost umělé inteligence klíčové mít umělou inteligenci, která hledá pravdu a je plná zvědavosti. Hluboce jsem se zamyslel nad bezpečností umělé inteligence a dospěl jsem k závěru, že nejlepším způsobem, jak dosáhnout bezpečnosti umělé inteligence, je její pečlivé pěstování.

Co se týče základních modelů a doladění, musíme zajistit poctivost umělé inteligence. Nemůžeme ho přinutit lhát, i když pravda může být nepříjemná. Ve skutečnosti je jednou z hlavních zápletek "Vesmírné odysey 2001" to, že když je umělá inteligence nucena lhát, věci se stávají chaotickými. Umělá inteligence má zakázáno informovat posádku o tajemném monumentu, který uvidí, ale je povinna je tam dovést. Výsledkem je, že umělá inteligence dochází k závěru, že nejlepší je zabít posádku a odnést jejich těla k památníku. Poučení je hluboké: neměli bychom umělou inteligenci nutit, aby lhala nebo dělala něco, co je axiomaticky neslučitelné, například dělat dvě skutečně protichůdné věci současně.

Proto tohoto cíle dosahujeme prostřednictvím projektů jako xAI a Grok. Usilujeme o umělou inteligenci, která je co nejupřímnější, i když její projev nemusí splňovat určité politicky korektní standardy.

2. Budoucnost umělé inteligence

Diamandis: Včera jsem se zúčastnil akce s Rayem Kurzweilem (zakladatel Singularity University a technologický prorok), Geoffrey Hintonem, Ericem Schmidtem (bývalým prezidentem Google) a dalšími hosty. Všiml jsem si vašeho tweetu o Kurzweilovi a jeho technologie budoucnosti je docela perspektivní. Kurzweil předpověděl, že v blízké budoucnosti budeme mít obecnou umělou inteligenci a umělá inteligence ekvivalentní lidské inteligenci se objeví v roce 2029. Taková rychlost je šokující. Zajímalo by mě, co si o tom myslíte?

Musk: Velmi respektuji Kurzweilovy předpovědi. Ve skutečnosti si myslím, že jeho předpovědi mohou být dokonce mírně konzervativní. Při sledování současného výpočetního výkonu a talentu investovaného do oblasti umělé inteligence, stejně jako rychlého růstu výpočetního výkonu, můžeme zjistit, že rychlost vývoje umělé inteligence se zvyšuje ohromujícím tempem 10krát. Zdá se, že vyhrazený výpočetní výkon umělé inteligence se každých 6 měsíců 10krát zvýší, což téměř znamená nárůst nejméně 100krát za rok. Tento růstový trend bude v příštích několika letech dále stoupat.

Stojí za zmínku, že mnohá datová centra, dokonce i většina datových center, která v současnosti využívají konvenční výpočetní techniku, se postupně přemění v zařízení podporující výpočetní techniku ​​s umělou inteligencí. Pro výrobce hardwaru s umělou inteligencí proto společnosti jako NVIDIA bezpochyby zahájily zlaté období vývoje. Musíme dát plné uznání Huang Renxun a jeho týmu. Předvídali tento trend a úspěšně vyvinuli přední hardware umělé inteligence, který je v současnosti na trhu.

Když výpočetní výkon roste tak ohromujícím tempem, je vývoj umělé inteligence jako injekce silného steroidu a skok na zcela novou úroveň. Vzhledem k tomu, že počet online počítačů neustále roste, jsme svědky nebývale zrychleného vývoje. Vlastně jsem nikdy neviděl žádnou technologii růst tak rychle jako umělá inteligence. I když jsem viděl mnoho rychle se rozvíjejících technologií, vzestup umělé inteligence mě stále udivuje. Nicméně, jak jsem řekl, myslím si, že konečný výsledek bude pravděpodobně pozitivní.

I když čelíme mnoha výzvám, například jak si udržet lidskou relevanci v této oblasti a jak najít nové cíle a významy, domnívám se, že přílišné zdůrazňování toho, že počítače mohou být dobré ve všem, je přílišné zjednodušení.

Jak jste zmínil dříve, myslím si, že předpovědi vaší knihy o budoucí společnosti jsou velmi přesné. To je éra materiální hojnosti, kdy zboží a služby budou tak hojné, že jsou téměř na dosah pro každého. Vzhledem k široké aplikaci umělé inteligence a robotických technologií se náklady na zboží a služby sníží téměř na nulu. Ekonomika je v podstatě produktem velikosti populace a průměrné produktivity na osobu. Když budeme mít pokročilé robotické technologie, jako je Tesla Optimus, ekonomický potenciál se skutečně uvolní.

Automobily Tesla jako roboti na čtyřech kolech již prokázaly své silné schopnosti. Očekává se, že nejnovější verze s plně autonomními jízdními schopnostmi dosáhne end-to-end řízení založeného na umělé inteligenci, díky čemuž se z vozu stane skutečně inteligentní robot na kolech. Ve spojení s vývojem humanoidních robotů je možnost ekonomického výkonu téměř neomezená.

Z optimistické perspektivy směřujeme k budoucnosti extrémního množství materiálu, což je podle mě nejpravděpodobnější výsledek. Myslím, že jediným možným nedostatkem v budoucnu bude nedostatek, který vytvoříme uměle, jako jsou určitá jedinečná umělecká díla nebo specifické předměty. Ale kromě toho se jakékoli zboží a služby stanou extrémně hojnými.

Diamandis: Jste člověk, který dokáže utvářet budoucnost praktickými činy a máte dobrý přehled o budoucích trendech. Tváří v tvář rychlému vývoji současných technologií jsem velmi zvědavý, jak daleko do budoucnosti podle vás dokážete nahlédnout, tedy za kolik let budou vývojové trendy od nynějška?

Musk: V době rychlých změn je schopnost předvídat budoucnost stále důležitější. Přestože je budoucnost plná nejistoty, věřím, že některé trendy jsou jasně viditelné. Zahájíme éru umělé inteligence a její schopnosti dosáhnou nebo dokonce předčí lidské úrovně v jakémkoli kognitivním úkolu. To je jen otázka času. Lidé mohou mít různé názory na to, zda to bude konec příštího roku, dva roky nebo tři roky. Jedno je však jisté, tedy nepřesáhne pět let. Moje předpověď je založena na 50% pravděpodobnosti, která není absolutní. Ale podle mého soudu umělá inteligence pravděpodobně před koncem příštího roku v určitých aspektech překoná schopnosti každého jednotlivého člověka.

Pokud jde o to, zda to předčí lidskou kolektivní moudrost, může to trvat déle. Pokud bude tempo změn pokračovat, odhaduji, že kolem roku 2029 nebo 2030 digitální inteligence pravděpodobně překoná součet veškeré lidské inteligence. Když se dívám na tyto otázky, inklinuji k metodě základních poměrů, stejně jako k prvním principům ve fyzice. Kombinací této metody s analýzou pravděpodobnosti můžeme přesněji uchopit budoucí trendy vývoje.

Porovnáme-li schopnosti digitálních počítačů s biologickými a sečteme všechny pokročilé kognitivní schopnosti člověka jako druh výpočetního výkonu a poté to porovnáme s digitálním výpočetním výkonem, zjistíte, že tempo růstu tohoto poměru je ohromující. Proto se domnívám, že rok 2029 nebo 2030 je rozumný časový uzel. V té době akumulovaný digitální výpočetní výkon pravděpodobně překoná akumulovaný biologický výpočetní výkon pokročilých mozkových funkcí. Od té doby se propast mezi těmito dvěma bude dále zvětšovat a nebude možné se zužovat.

Když však stojíme na tomto výchozím bodě a těšíme se na budoucnost, jak se budou věci dále vyvíjet? Abych byl upřímný, nemohu předvídat všechny podrobnosti. Pokud ale vezmeme v úvahu růstové faktory a limitující faktory, kterým mohou čelit, najdeme několik zajímavých indicií.

V loňském roce byla hlavním limitujícím faktorem pro vývoj AI omezení dodávek čipů. V letošním roce se snižovací transformátory stanou klíčovým úzkým hrdlem. Představte si, že snížíte napětí 300 kilovoltů na méně než 1 volt, které vyžaduje počítač. To je obrovská výzva. Proto potřebujeme účinnější „Transformers for Transformers“, což jsou transformátory snižující rychlost nebo transformátory AI neuronové sítě. To je letos opravdu velký problém.

Při pohledu do příštích let se dodávky elektřiny mohou stát hlavním limitujícím faktorem. Umělá inteligence má obrovskou poptávku po elektřině a přechod na udržitelnou energii a popularita elektrických vozidel také zintenzivnily poptávku po elektřině. Proto se musíme vážně zamyslet nad tím, jak uspokojit rostoucí poptávku po elektřině, abychom zajistili neustálý vývoj a aplikaci těchto technologií.