Najnovšia Muskova predpoveď: AI môže v roku 2030 prekonať ľudskú inteligenciu a v budúcnosti môže „ukončiť“ ľudí (1/2)

Zdroj: Tencent Technology News 2024-04-04 08:55

Kľúčové body:

① Musk predpovedá, že umelá inteligencia môže do roku 2030 prekonať úroveň ľudskej inteligencie a môže dokonca zničiť ľudí.

② Musk hovoril o faktoroch obmedzujúcich vývoj AI. V minulom roku bola dodávka čipov AI úzka a tento rok sa znižovací transformátor stane prekážkou.

③ Pokiaľ ide o to, kedy môžu ľudia pristáť na Mesiaci, Musk predpovedá, že s pomocou Starship to bude trvať najrýchlejšie len tri roky.

Tencent Technology News, 4. apríla – Podľa správ zahraničných médií mal Elon Musk, generálny riaditeľ spoločností Tesla a SpaceX, nedávno online rozhovor s Petrom Diamandisom, zakladateľom Singularity University a XPRIZE Foundation, na Summite Abundance. Summit organizovala Singularity University zo Silicon Valley, ktorá sa venuje poskytovaniu poradenstva v oblasti špičkových technológií vedúcim podnikateľom. Nadácia XPRIZE podporuje technologické inovácie prostredníctvom vedeckých súťaží, z ktorých niektoré financoval Musk., 4. apríla – Podľa správ zahraničných médií mal Elon Musk, generálny riaditeľ spoločností Tesla a SpaceX, nedávno online rozhovor s Petrom Diamandisom, zakladateľom Singularity univerzity a nadácie XPRIZE na Summite hojnosti. Summit organizovala Singularity University zo Silicon Valley, ktorá sa venuje poskytovaniu poradenstva v oblasti špičkových technológií vedúcim podnikateľom. Nadácia XPRIZE podporuje technologické inovácie prostredníctvom vedeckých súťaží, z ktorých niektoré financoval Musk.

Pri diskusii o rýchlosti vývoja umelej inteligencie Musk predpovedal, že na základe súčasného tempa technologického pokroku môže umelá inteligencia do roku 2030 prekonať ľudskú inteligenciu a táto technológia môže mať dokonca potenciál ukončiť ľudstvo. Do budúcnosti sa však nepozeral pesimisticky, zdôraznil však, že prostredníctvom pozitívneho vedenia má umelá inteligencia potenciál priniesť ľudstvu lepšiu budúcnosť.

Musk spomenul, že vznik superinteligencie sa nazýva „singularita“ práve kvôli jej nepredvídateľným dôsledkom, vrátane rizika potenciálneho zániku ľudstva. Súhlasil s názorom „krstného otca umelej inteligencie“ Geoffreyho Hintona a veril, že pravdepodobnosť výskytu tohto rizika je približne medzi 10 % a 20 %.

Napriek tomu, že Musk uznal potenciálne riziká, že umelá inteligencia prekoná ľudskú inteligenciu, stále zdôrazňoval, že možnosť pozitívnych výsledkov prevažuje nad negatívnymi dôsledkami. Konkrétne spomenul Diamandisovu knihu z roku 2014 „Abundance: The Future Is Better Than You Think“, ktorá zobrazuje optimistickú budúcnosť riadenú umelou inteligenciou a robotmi, kde cena tovarov a služieb výrazne klesla. Okrem toho uviedol sériu „Kultúra“ od škótskeho spisovateľa sci-fi Iaina M. Banksa ako najlepší scenár pre poloutopickú budúcnosť umelej inteligencie.

Musk prirovnal vývoj umelej inteligencie a umelej všeobecnej inteligencie (AGI) k výchove dieťaťa a dúfa, že to bude mať pozitívnejšie dopady na ľudstvo. Zdôraznil dôležitosť kultivácie umelej inteligencie, ktorá skutočne rozumie etike a morálke, a prirovnal ju k klasickému filmu Stanleyho Kubricka z roku 1968 „2001: Vesmírna odysea“.

Musk poukázal na to, že najdôležitejším aspektom bezpečnosti umelej inteligencie je zabezpečenie jej maximálneho hľadania pravdy a zvedavosti. Verí, že kľúčom k dosiahnutiu maximálnej bezpečnosti umelej inteligencie je vyhnúť sa tomu, aby sme ju nútili klamať, a to aj zoči-voči nepríjemným pravdám. Ako príklad použil zápletku z "2001: Vesmírna odysea", kde bola umelá inteligencia nútená klamať, čo malo za následok smrť posádky, aby zdôraznil, že umelá inteligencia by nemala byť nútená robiť nič, čo porušuje axiómy.

Musk tiež spomenul faktory, ktoré môžu obmedzovať vývoj umelej inteligencie, ako je úzka ponuka čipov umelej inteligencie, ktorá sa objavila v minulom roku, a rastúci dopyt po znižovacích transformátoroch v domácnostiach a komerčných zariadeniach. Uviedol, že tieto výzvy sú skutočne aktuálnymi problémami, ktoré treba riešiť.

Počas diskusie obe strany hovorili aj o koncepte integrácie neokortexu ľudského mozgu s cloudom. Hoci Musk verí, že cieľ nahrať ľudské vedomie a pamäť do cloudu je ešte ďaleko, pochválil svoj startup s rozhraním mozgu a počítača, Neuralink, a jeho prvého ľudského pacienta, ktorý dostal transplantáciu. Tento tetraplegický pacient úspešne demonštroval naživo prostredníctvom štúdie schválenej FDA, ovládaním obrazovky, hraním videohier, sťahovaním softvéru a dosahovaním podobných funkcií ako operácie na myšiach pomocou mozgových implantátov. Musk uviedol, že Neuralink napreduje hladko a postupne smeruje k cieľu celomozgového rozhrania.

Nasleduje úplný text dialógu medzi Muskom a Diamandisom:

1. Sila a nebezpečenstvo superinteligencie

Diamandis: Blahoželám k vašim vynikajúcim úspechom v rôznych oblastiach. Aktívne propagujete koncept digitálnej superinteligencie vo svete – je to najväčšia nádej ľudstva alebo náš najhlbší strach? Môžete stráviť pár minút rozhovorom o tomto probléme?

Musk: Ako viete, superinteligencia sa dá nazvať „singularitou“. Popularizácia tohto termínu je neoddeliteľná od úsilia inštitúcií ako Singularity Institute. Vznik superinteligencie a jej následný dopad je naozaj ťažké predpovedať. Osobne sa domnievam, že skutočne existuje možnosť, že to môže skončiť ľudstvo. Ako som už povedal, možno by som súhlasil s názorom Geoffreyho Hintona, že existuje 10% alebo 20% šanca, že superinteligencia môže skoncovať s ľudstvom. Mám však tendenciu veriť, že pravdepodobnosť pozitívneho scenára je vyššia ako negatívna, hoci je pre nás ťažké robiť presné predpovede. Ale keďže ste vo svojej knihe zdôraznili pojem „hojnosti“, verím, že najpravdepodobnejšia budúcnosť, ku ktorej smerujeme, je budúcnosť plná hojnosti.

Diamandis: Váš pohľad je veľmi vzrušujúci. Pamätám si, že ste raz povedali, že vývoj všeobecnej umelej inteligencie a humanoidných robotov nás privedie k hojnosti.

Musk: Áno, dúfam, že naša budúcnosť môže byť taká, ako je znázornená v sérii kníh Iana Banksa „Kultúra“. Myslím si, že toto je najlepšia koncepcia poloutopickej spoločnosti s umelou inteligenciou. Vznik superinteligencie je nevyhnutný a môže prísť čoskoro. Preto to, čo skutočne musíme urobiť, je viesť ho pozitívnym smerom a maximalizovať jeho výhody.

Som presvedčený, že spôsob, akým pestujeme umelú inteligenciu, je kľúčový. Do určitej miery sme ako pestovanie životnej formy so všeobecnou inteligenciou, čo je takmer ako výchova dieťaťa, ale toto dieťa má mimoriadnu múdrosť a talent. Spôsob, akým vychovávame deti, je dôležitý a podobne aj pre bezpečnosť umelej inteligencie je kľúčové mať umelú inteligenciu, ktorá hľadá pravdu a je plná zvedavosti. Hlboko som sa zamyslel nad bezpečnosťou umelej inteligencie a dospel som k záveru, že najlepším spôsobom, ako dosiahnuť bezpečnosť umelej inteligencie, je starostlivo ju pestovať.

Čo sa týka základných modelov a doladenia, musíme zabezpečiť poctivosť umelej inteligencie. Nemôžeme ho prinútiť klamať, aj keď pravda môže byť nepríjemná. V skutočnosti je jednou z hlavných zápletiek „Vesmírnej odysey 2001“ to, že keď je umelá inteligencia nútená klamať, veci sa stávajú chaotickými. Umelá inteligencia má zakázané informovať posádku o tajomnej pamiatke, ktorú uvidia, ale je povinná ju tam doviesť. Výsledkom je, že umelá inteligencia prichádza k záveru, že najlepšie je zabiť posádku a odniesť ich telá k pamätníku. Poučenie je hlboké: umelú inteligenciu by sme nemali nútiť klamať alebo robiť niečo, čo je axiomaticky nezlučiteľné, napríklad robiť dve skutočne protichodné veci súčasne.

Preto tento cieľ dosahujeme prostredníctvom projektov ako xAI a Grok. Usilujeme sa o umelú inteligenciu, ktorá je čo najúprimnejšia, aj keď jej prejav nemusí spĺňať určité politicky korektné štandardy.

2. Budúcnosť umelej inteligencie

Diamandis: Včera som sa zúčastnil akcie s Rayom Kurzweilom (zakladateľ Singularity University a technologický prorok), Geoffrey Hinton, Eric Schmidt (bývalý prezident Google) a ďalšími hosťami. Všimol som si váš tweet o Kurzweilovi a jeho technológia budúcnosti je celkom perspektívna. Kurzweil predpovedal, že v blízkej budúcnosti budeme mať všeobecnú umelú inteligenciu a umelá inteligencia ekvivalentná ľudskej inteligencii sa objaví v roku 2029. Takáto rýchlosť je šokujúca. Zaujímalo by ma, čo si o tomto myslíte?

Musk: Veľmi rešpektujem Kurzweilove predpovede. V skutočnosti si myslím, že jeho predpovede môžu byť dokonca mierne konzervatívne. Pozorovaním súčasného výpočtového výkonu a talentu investovaného do oblasti umelej inteligencie, ako aj rýchleho rastu výpočtového výkonu, môžeme zistiť, že rýchlosť vývoja umelej inteligencie sa zvyšuje ohromujúcou rýchlosťou 10-krát. Zdá sa, že vyhradený výpočtový výkon umelej inteligencie sa každých 6 mesiacov zvýši 10-krát, čo takmer znamená zvýšenie najmenej 100-krát za rok. Tento rastový trend bude v najbližších rokoch naďalej stúpať.

Stojí za zmienku, že mnohé dátové centrá, dokonca aj väčšina dátových centier, ktoré v súčasnosti vykonávajú konvenčné výpočty, sa postupne premenia na zariadenia, ktoré podporujú výpočtovú techniku ​​s umelou inteligenciou. Pre výrobcov hardvéru s umelou inteligenciou preto spoločnosti ako NVIDIA nepochybne započali zlaté obdobie vývoja. Huangovi Renxunovi a jeho tímu musíme dať plné uznanie. Predvídali tento trend a úspešne vyvinuli popredný hardvér s umelou inteligenciou, ktorý je momentálne na trhu.

Keď výpočtový výkon rastie takouto úžasnou rýchlosťou, vývoj umelej inteligencie je ako injekcia silného steroidu, ktorý poskočí na úplne novú úroveň. Keďže počet online počítačov neustále narastá, boli sme svedkami nebývalého zrýchleného vývoja. Vlastne som nikdy nevidel, že by nejaká technológia rástla tak rýchlo ako umelá inteligencia. Hoci som videl veľa rýchlo sa rozvíjajúcich technológií, vzostup umelej inteligencie ma stále udivuje. Ako som však povedal, myslím si, že konečný výsledok bude pravdepodobne pozitívny.

Hoci čelíme mnohým výzvam, ako je napríklad to, ako si v tejto oblasti zachovať ľudskú dôležitosť a ako nájsť nové ciele a významy, myslím si, že prílišné zjednodušenie zdôrazňuje, že počítače môžu byť dobré vo všetkom.

Ako ste už spomenuli, myslím si, že predpovede vašej knihy o budúcej spoločnosti sú veľmi presné. Je to éra materiálnej hojnosti, v ktorej budú tovary a služby také hojné, že sú takmer na dosah pre každého. Vďaka rozšírenej aplikácii umelej inteligencie a robotických technológií sa náklady na tovary a služby znížia takmer na nulu. Ekonomika je v podstate produktom veľkosti populácie a priemernej produktivity na osobu. Keď budeme mať pokročilú robotickú technológiu, akou je Tesla Optimus, ekonomický potenciál sa skutočne uvoľní.

Automobily Tesla ako roboty na štyroch kolesách už preukázali silné schopnosti. Očakáva sa, že najnovšia verzia s plne autonómnymi jazdnými schopnosťami dosiahne end-to-end riadenie založené na umelej inteligencii, vďaka čomu bude auto skutočne inteligentným robotom na kolesách. V spojení s vývojom humanoidných robotov je možnosť ekonomického výkonu takmer neobmedzená.

Z optimistickej perspektívy smerujeme k budúcnosti extrémnej materiálnej hojnosti, čo je podľa mňa najpravdepodobnejší výsledok. Myslím si, že jediným možným nedostatkom v budúcnosti bude nedostatok, ktorý vytvoríme umelo, ako napríklad určité jedinečné umelecké diela alebo špecifické predmety. Ale okrem toho sa akýkoľvek tovar a služby stanú mimoriadne bohatými.

Diamandis: Ste človek, ktorý dokáže formovať budúcnosť praktickými činmi a máte dobrý prehľad o budúcich trendoch. Tvárou v tvár rýchlemu vývoju súčasných technológií som veľmi zvedavý, ako ďaleko do budúcnosti podľa vás dokážete nahliadnuť, teda o koľko rokov budú vývojové trendy odteraz?

Musk: V ére rýchlych zmien je schopnosť predpovedať budúcnosť čoraz dôležitejšia. Aj keď je budúcnosť plná neistoty, verím, že niektoré trendy sú jasne viditeľné. Zahájime éru umelej inteligencie a jej schopnosti dosiahnu alebo dokonca prekonajú ľudskú úroveň v akejkoľvek kognitívnej úlohe. Toto je len otázka času. Ľudia môžu mať rôzne názory na to, či to bude koniec budúceho roka, dva roky alebo tri roky. Jedno je však isté, teda nepresiahne päť rokov. Moja predpoveď je založená na 50% pravdepodobnosti, ktorá nie je absolútna. Ale podľa môjho úsudku je pravdepodobné, že umelá inteligencia do konca budúceho roka v určitých aspektoch prekoná schopnosti každého jednotlivého človeka.

Pokiaľ ide o to, či to prekoná ľudskú kolektívnu múdrosť, môže to trvať dlhšie. Ak bude tempo zmien pokračovať, odhadujem, že okolo roku 2029 alebo 2030 digitálna inteligencia pravdepodobne prekoná súčet všetkej ľudskej inteligencie. Keď sa pozerám na tieto otázky, mám tendenciu prijať metódu základných pomerov, rovnako ako prvé princípy vo fyzike. Kombináciou tejto metódy s pravdepodobnostnou analýzou môžeme presnejšie pochopiť budúce trendy vývoja.

Ak porovnáme možnosti digitálnych počítačov s biologickými počítačmi a zrátame všetky pokročilé kognitívne schopnosti človeka ako druh výpočtového výkonu a potom to porovnáme s digitálnym výpočtovým výkonom, zistíte, že tempo rastu tohto pomeru je ohromujúce. Preto sa domnievam, že rok 2029 alebo 2030 je primeraný časový uzol. V tom čase akumulovaný digitálny výpočtový výkon pravdepodobne prekoná akumulovaný biologický výpočtový výkon pokročilých mozgových funkcií. Odvtedy sa priepasť medzi nimi bude naďalej zväčšovať a nebude možné zužovať sa.

Keď však stojíme na tomto východiskovom bode a tešíme sa na budúcnosť, ako sa budú veci ďalej vyvíjať? Úprimne povedané, nemôžem predvídať všetky podrobnosti. Ale ak vezmeme do úvahy rastové faktory a limitujúce faktory, ktorým môžu čeliť, nájdeme niekoľko zaujímavých indícií.

Minulý rok boli obmedzenia dodávky čipov hlavným limitujúcim faktorom pre vývoj AI. Tento rok sa znižovacie transformátory stanú kľúčovou prekážkou. Predstavte si zníženie napätia 300 kilovoltov na menej ako 1 volt, ktoré vyžaduje počítač. To je obrovská výzva. Preto potrebujeme efektívnejšie "Transformers for Transformers", čo sú znižovacie transformátory alebo transformátory AI neurónových sietí. Tento rok je to skutočne veľký problém.

Pri pohľade do budúcnosti na niekoľko rokov sa dodávka elektriny môže stať hlavným limitujúcim faktorom. Umelá inteligencia má obrovský dopyt po elektrine a prechod na udržateľnú energiu a popularita elektrických vozidiel tiež zintenzívnili dopyt po elektrine. Preto musíme vážne uvažovať o tom, ako uspokojiť rastúci dopyt po elektrickej energii, aby sme zabezpečili neustály vývoj a aplikáciu týchto technológií.