馬斯克在 Twitter Spaces 上完成了 xAI 首場且公開的動(dòng)員大會(huì)，以理解宇宙的真實(shí)本質(zhì)為愿景，馬斯克從物理學(xué)的視角探討了一些關(guān)于宇宙的未解之謎。

編者按：本文來自微信公眾號 有新Newin（ID：NewinData），作者：有新，微新創(chuàng)想經(jīng)授權(quán)發(fā)布。

7月15日，馬斯克在 Twitter Spaces 上完成了 xAI 首場且公開的動(dòng)員大會(huì)，xAI 包括麥斯克在內(nèi)的 12 位成員，其中華人占1/3，包括吳宇懷（Yuhuai Tony Wu）、楊格（Greg Yang ）、張國棟（Guodong Zhang）以及戴自航（Zihang Dai）。

根據(jù)馬斯克在 Twitter Space 直播討論的，xAI 的總體目標(biāo)是構(gòu)建一個(gè)優(yōu)秀的 AGI ，并以理解宇宙的真實(shí)本質(zhì)為愿景，馬斯克從物理學(xué)的視角探討了一些關(guān)于宇宙的未解之謎，例如外星人的存在和重力的本質(zhì)等。

xAI 的團(tuán)隊(duì)成員們也在會(huì)議中提到，目前行業(yè)中的 AI 模型只是簡單地模仿它們所訓(xùn)練的數(shù)據(jù)，而他們真正想做的是改變這種模式，他們希望讓模型能夠發(fā)現(xiàn)真相，不僅僅是重復(fù)它們從訓(xùn)練數(shù)據(jù)中學(xué)到的知識，而是能夠提供真正的新見解和新發(fā)現(xiàn)。

此外，馬斯克也在會(huì)上明確表示，xAI 是 OpenAI、谷歌等公司的競爭對手，并指出 OpenAI 現(xiàn)在已經(jīng)變得封閉且非常追求利潤，與其最初的宗旨背道而馳。

這場直播會(huì)議的全部內(nèi)容按時(shí)間順序整理成了以下 12 個(gè)話題：

• xAI 創(chuàng)始成員的開場自述

• xAI 的使命：宇宙本質(zhì)與智能體

• AGI 與個(gè)人計(jì)算資源

• Twitter 數(shù)據(jù)與 xAI 的關(guān)系

• 創(chuàng)辦 xAI 的初衷是什么？

• 特斯拉Dojo，芯片以及訓(xùn)練推理

• 如何保證 xAI 的獨(dú)立性？

• xAI 如何造福人類？

• 真正的AI能理解物理世界

• 監(jiān)管應(yīng)與技術(shù)發(fā)展并行

• xAI 會(huì)如何與外部合作？

• xAI 與OpenAI 差異，以及 Optimus

• AI 的影響力與民主化

大家 enjoy～

xAI 創(chuàng)始成員的開場自述

Elon Musk

我會(huì)介紹一下公司，然后創(chuàng)始團(tuán)隊(duì)將簡要介紹一下他們的背景和他們所做的工作，無論他們想談?wù)撌裁矗覀冋娴暮芟Ｍ軓乃麄兛谥新牭阶约旱脑挕Ｎ艺J(rèn)為聽到他們親自說出來的各種工作經(jīng)驗(yàn)和他們對AI的期望對我們很有幫助。

我認(rèn)為 x.ai 的總體目標(biāo)是建立一個(gè)好的 AGI，總體目標(biāo)就是努力理解宇宙。我認(rèn)為構(gòu)建一個(gè)最安全的 AI 的方法實(shí)際上是制造一個(gè)最大程度好奇和尋求真理的 AI，所以你要追求真理，并承認(rèn)錯(cuò)誤，盡管它永遠(yuǎn)無法完全達(dá)到真理？這并不清楚，但你總是要追求那個(gè)目標(biāo)，盡量減小你所知道的、你認(rèn)為是真理的東西與實(shí)際真理之間的誤差。

我關(guān)于最大程度好奇和最大程度真實(shí)性背后的理論是，我認(rèn)為對于一個(gè)超級智能來說，人類比其他東西更有趣。你知道，我們可以看看太陽系中的各種行星、衛(wèi)星和小行星，可能把它們都放在一起都不如人類有趣。

眾所周知，我是火星的超級粉絲，我其中一個(gè)孩子的名字基本上是火星的希臘詞，但是火星比有人類居住的地球要無聊得多，所以我認(rèn)為這種成長 AI 的方式，我認(rèn)為"成長"這個(gè)詞用在 AI 上是正確的，就是帶著這種雄心成長。

我花了很多年時(shí)間思考 AI 安全性并擔(dān)心 AI 安全性。我一直是呼吁對 AI 進(jìn)行監(jiān)管或監(jiān)督的最堅(jiān)定的聲音之一，不僅僅是讓公司自行決定他們想做什么。我認(rèn)為通過行業(yè)合作還有很多事情要做，有點(diǎn)像電影協(xié)會(huì)那樣。

我確實(shí)認(rèn)為在任何情況下都應(yīng)該有一些規(guī)則，即使是游戲也需要裁判，有監(jiān)管是很重要的，我對安全的看法是盡量使它具有好奇心和尋求真理的最大程度，這很重要，可以避免逆向道德問題，如果你試圖為其編程道德，你可能會(huì)導(dǎo)致相反的結(jié)果，有時(shí)候被稱為"Wild Luigi problem"，我認(rèn)為這是一個(gè)很多人可以理解的比喻，我們要努力做到這一點(diǎn)。

Igor Babuschkin

好的，大家好，我叫Igor。我是 x.ai 團(tuán)隊(duì)的成員之一。我原來是一名物理學(xué)家。所以我在大學(xué)學(xué)習(xí)物理，并且曾在CERN的大型強(qiáng)子對撞機(jī)工作過一段時(shí)間。因此，理解宇宙一直是我非常熱衷的事情。當(dāng)深度學(xué)習(xí)的一些非常引人注目的成果出現(xiàn)時(shí)，比如 AlphaGo ，我對機(jī)器學(xué)習(xí)和 AI 產(chǎn)生了濃厚的興趣，并決定轉(zhuǎn)向這個(gè)領(lǐng)域。

然后，我加入了DeepMind，參與了各種項(xiàng)目，包括AlphaStar。我們嘗試通過自我對弈教會(huì)機(jī)器學(xué)習(xí)代理在《星際爭霸2》游戲中進(jìn)行對戰(zhàn)，這是一個(gè)非常有趣的項(xiàng)目。然后我加入了OpenAI，也在那里工作過，包括GPT-3.5等各種項(xiàng)目。所以我對語言模型非常熱衷，讓它們做出令人印象深刻的事情。是的，現(xiàn)在我和伊隆合作，看看我們是否可以將這些新技術(shù)應(yīng)用于真正改變我們對宇宙的理解，并推進(jìn)我們的共同知識。

Elon Musk

是的，實(shí)際上，我也有類似的背景，我的兩門最好的科目是計(jì)算機(jī)科學(xué)和物理學(xué)。我實(shí)際上曾經(jīng)考慮過從事物理學(xué)的職業(yè)。因?yàn)槲锢韺W(xué)實(shí)際上只是試圖理解宇宙的基本真理。

我真的很擔(dān)心我會(huì)陷入某個(gè)對撞機(jī)的困境。然后對撞機(jī)可能會(huì)因?yàn)槟撤N任意的政府決定而被取消。所以這實(shí)際上是我決定不從事物理學(xué)職業(yè)的原因。所以我最初更專注于計(jì)算機(jī)科學(xué)，然后，顯然，后來又回到了與太空探索和特斯拉有關(guān)的物理對象。所以我堅(jiān)信追求物理學(xué)和信息理論是真正幫助你理解現(xiàn)實(shí)本質(zhì)的兩個(gè)領(lǐng)域。

Manuel Kroiss

嗨，大家好，我是Manuel。在加入xai之前，我在DeepMind工作了六年，主要在強(qiáng)化學(xué)習(xí)團(tuán)隊(duì)工作。我主要專注于構(gòu)建大型強(qiáng)化學(xué)習(xí)代理的工程方面，例如AlphaStar。和伊戈?duì)栆黄鸷献鳌？偟膩碚f，我對 AI 已經(jīng)充滿了激情很長時(shí)間了。

對我來說，它有潛力成為解決最困難問題的終極工具。所以我最初學(xué)習(xí)的是生物信息學(xué)，但后來我對 AI 也變得更加興奮。因?yàn)槿绻阌幸粋€(gè)可以解決所有問題的工具，對我來說，這就更加令人興奮。而且對于 x.ai 來說，我特別激動(dòng)的是以一種我們能夠?yàn)槿祟惤ㄔ霢I，并與每個(gè)人分享的方式來解決問題，這樣人們就可以進(jìn)行自己的研究和理解事物。我希望它能像一股新的研究者浪潮一樣，這以前是不存在的。

Christian Szegedy

我是Christian Szegedy。我想稍微談?wù)剶?shù)學(xué)在理解宇宙中的作用。所以過去的七年中，我一直致力于創(chuàng)造一種在數(shù)學(xué)上能與任何人類一樣出色的 AI 。我認(rèn)為這樣做的原因是，即使數(shù)學(xué)是語言，基本上是純邏輯的語言，我認(rèn)為高層次的數(shù)學(xué)和邏輯推理將證明這個(gè)思想真正理解事物，而不僅僅是模擬人類。它對編程和物理學(xué)的長期發(fā)展將起到重要的作用。所以我認(rèn)為，一旦AI開始展示出真正理解深層推理的能力，對我們第一步理解宇宙至關(guān)重要。

Yuhuai (Tony) Wu

大家好，我是Tony。和Christian一樣，我一直夢想著用 AI 來解決數(shù)學(xué)中最困難的問題。這就是為什么我們成為了這么酷的朋友和長期合作伙伴的原因。所以實(shí)現(xiàn)這個(gè)目標(biāo)絕對是一個(gè)非常雄心勃勃的目標(biāo)。

去年，我們在這個(gè)領(lǐng)域取得了一些非常有趣的突破，這讓我們真的相信我們離我們的夢想并不遠(yuǎn)。所以我相信，憑借這樣一個(gè)才華橫溢的團(tuán)隊(duì)和豐富的資源，我非常有希望我們能夠?qū)崿F(xiàn)這個(gè)目標(biāo)。

Elon Musk

我來提一下，我認(rèn)為通常人們不太愿意自我推銷。但我認(rèn)為這里的人應(yīng)該講一講，你們做過哪些值得注意的事情？所以基本上就是稍微介紹一下。

Yuhuai (Tony) Wu

好的，我可以再多說一下。去年，我認(rèn)為我們在數(shù)學(xué)領(lǐng)域取得了一些非常有趣的進(jìn)展。具體來說，我們與Google的一個(gè)團(tuán)隊(duì)合作，開發(fā)了一個(gè)名為Minerva的智能體，它實(shí)際上能夠在高中考試中獲得非常高的分?jǐn)?shù)，實(shí)際上比普通高中生還要高。

這對我們推動(dòng)這項(xiàng)研究向前發(fā)展來說是一個(gè)非常大的動(dòng)力。我們做的另一項(xiàng)工作是將自然語言數(shù)學(xué)轉(zhuǎn)化為形式化的數(shù)學(xué)語言，這為你提供了事實(shí)和推理的基礎(chǔ)。去年，我們在這個(gè)方向上也取得了非常有趣的進(jìn)展。所以現(xiàn)在我們正在推動(dòng)這兩者的一種混合方法，在這個(gè)新組織中進(jìn)行。我們非常有希望能實(shí)現(xiàn)我們的夢想。

Jimmy Ba

大家好，我是Jimmy Ba。我在多倫多大學(xué)任教，你們中的一些人可能上過我的課，過去幾個(gè)月我一直擔(dān)任科幻AI講席和斯隆學(xué)者的計(jì)算機(jī)科學(xué)家。所以我想我的研究幾乎涉及到了深度學(xué)習(xí)的方方面面。我轉(zhuǎn)過每一塊石頭，很幸運(yùn)地為現(xiàn)代transformer打下了許多基礎(chǔ)構(gòu)建塊，推動(dòng)了深度學(xué)習(xí)革命的新浪潮。

我的長期研究和愿景非常幸運(yùn)地與這個(gè)強(qiáng)大的 x.ai 團(tuán)隊(duì)非常契合，那就是我們?nèi)绾螛?gòu)建一個(gè)通用的問題解決機(jī)器，來幫助我們?nèi)祟惪朔恍┳罹咛魬?zhàn)性和雄心勃勃的問題？我們?nèi)绾卫眠@個(gè)工具來增強(qiáng)自己，并賦予每個(gè)人力量？所以我對這個(gè)新的旅程非常興奮。接下來是托比和大家說話。

Toby Pohlen

我是Toby，來自德國的工程師。我很小的時(shí)候就開始編程，當(dāng)時(shí)我爸爸教我一些Visual Basic。然后，在我年輕時(shí)，我繼續(xù)編程。當(dāng)我上大學(xué)時(shí)，我對數(shù)學(xué)和機(jī)器學(xué)習(xí)非常感興趣。最初，我的研究主要集中在計(jì)算機(jī)視覺方面。

然后，我六年前加入DeepMind，在那里我從事模仿學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的工作，并在分布式系統(tǒng)和大規(guī)模研究方面學(xué)到了很多東西。現(xiàn)在，我非常期待將這項(xiàng)技術(shù)的好處帶給社會(huì)的每個(gè)人，實(shí)現(xiàn)產(chǎn)品和功能的開發(fā)。我真的相信，使 AI 易于使用和有用，對我們所有人來說都是有益的。

Kyle Kosic

大家好，我是Kyle Kosic。我是 x.ai 的分布式系統(tǒng)工程師。和這里的一些同事一樣，我最開始的職業(yè)生涯也是從數(shù)學(xué)和應(yīng)用物理學(xué)開始的，然后逐漸發(fā)現(xiàn)自己在一些科技初創(chuàng)公司工作。幾年前，我在一家叫做onScale的初創(chuàng)公司工作，我們在高性能計(jì)算機(jī)上進(jìn)行物理模擬。

最近，我也在OpenAI工作，解決那里的高性能計(jì)算問題。具體而言，我參與了GPT-4項(xiàng)目。我特別對 x.ai 感到興奮的原因是，我認(rèn)為 AI 最大的危險(xiǎn)實(shí)際上是被一些實(shí)體壟斷。我認(rèn)為，當(dāng)你涉及到訓(xùn)練這些大規(guī)模AI模型所需的資本量時(shí)，激勵(lì)機(jī)制未必與人類的利益相一致。

我認(rèn)為解決這個(gè)問題的主要方法是引入競爭。所以我認(rèn)為 x.ai 確實(shí)為工程師提供了一個(gè)獨(dú)特的機(jī)會(huì)，可以直接專注于科學(xué)、工程和安全問題，而不會(huì)被政治和社會(huì)趨勢所分心。這就是我對xai感到興奮的原因。現(xiàn)在我將把話交給我的同事格雷格，他應(yīng)該也在通話中。

Greg Yang

我是Greg，我致力于深度學(xué)習(xí)的數(shù)學(xué)和科學(xué)領(lǐng)域。我的旅程實(shí)際上始于10年前，那時(shí)我在哈佛大學(xué)攻讀本科學(xué)位。你知道，我在數(shù)學(xué)方面表現(xiàn)得相當(dāng)不錯(cuò)，學(xué)了數(shù)學(xué)，做了各種各樣的事情。

在上了兩年大學(xué)之后，我有點(diǎn)厭倦了沿著其他人走過的路走，所以我做了一些以前根本無法想象的事情，就是休學(xué)一段時(shí)間，成為了一名DJ和制作人。

那時(shí)流行著電子音樂，所以我做了一些電子音樂。所以，休學(xué)對我來說帶來的一個(gè)副作用是，我能夠更多地思考自己，理解自己和整個(gè)世界。你知道，我一直在思考一些問題，比如自由意志是什么？你知道，量子物理與宇宙的現(xiàn)實(shí)有什么關(guān)系？等等。你知道，什么是計(jì)算可行性？不是計(jì)算可行性？什么是哥德爾的不完全性定理？等等。你知道，經(jīng)過這段深度的自我反省后，我發(fā)現(xiàn)我想要在生活中做的不僅僅是成為一名DJ，也許這是第二個(gè)夢想。

但首先，我想要實(shí)現(xiàn)的是，我想要制造一種比我更聰明的AGI，能夠不斷改進(jìn)它，并且能夠比我在目前的形式下能夠看到更多我們基本現(xiàn)實(shí)的東西。所以這就是一切的開始。然后我開始了，然后我，你知道，我意識到數(shù)學(xué)是支撐我們現(xiàn)實(shí)和科學(xué)的語言，為了取得基本進(jìn)展，了解數(shù)學(xué)盡可能多真的很重要。

所以，我從頭開始學(xué)習(xí)數(shù)學(xué)，然后我慢慢地?cái)U(kuò)展到了代數(shù)幾何、代數(shù)拓?fù)洹⒎懂犝摗?shí)分析、測度論等等。我最后的目標(biāo)是，我應(yīng)該能夠和世界上的任何數(shù)學(xué)家進(jìn)行交流，能夠進(jìn)行30分鐘的對話，并理解他們的貢獻(xiàn)。我想我實(shí)現(xiàn)了這個(gè)目標(biāo)。

總之，我從學(xué)校回來了，然后不知怎么地，我在微軟研究院找到了工作。在過去的五年半里，我在微軟研究院工作，那是一個(gè)讓我能夠?qū)Υ笠?guī)模神經(jīng)網(wǎng)絡(luò)的理解做出許多基礎(chǔ)貢獻(xiàn)的令人驚奇的環(huán)境，尤其是我現(xiàn)在最知名的工作是關(guān)于廣義網(wǎng)絡(luò)以及我們?nèi)绾嗡伎妓鼈兊目蚣埽凶雠R時(shí)程序。

從那里，我能夠推導(dǎo)出一種叫做mu p的東西，也許大型語言模型構(gòu)建者們知道，它可以從理解小型神經(jīng)網(wǎng)絡(luò)的調(diào)優(yōu)來外推大型模型的最優(yōu)超參數(shù)，這樣就能夠確保模型的質(zhì)量在不斷擴(kuò)大的過程中是非常好的。

所以，展望未來，我對 x.ai 和我們現(xiàn)在所處的時(shí)代都非常興奮。在科學(xué)的角度上，我們不僅正在接近AGI，而且我們也正在接近一個(gè)時(shí)代，在這個(gè)時(shí)代中，神經(jīng)網(wǎng)絡(luò)的科學(xué)和數(shù)學(xué)感覺就像20世紀(jì)初物理學(xué)的轉(zhuǎn)折點(diǎn)，我們突然發(fā)現(xiàn)了量子物理學(xué)和廣義相對論，它們背后有一些美麗的數(shù)學(xué)和科學(xué)。

我真的很興奮能夠身處其中。就像克里斯蒂安和托尼說的，我也非常興奮能夠在AI中創(chuàng)造出與我一樣優(yōu)秀甚至更好的 AI ，創(chuàng)造出新的數(shù)學(xué)和新的科學(xué)，幫助我們所有人更深入地了解我們的基本現(xiàn)實(shí)。謝謝，下面輪到量子了。

Guodong Zhang

大家好，我叫Guodong，我在我們的培訓(xùn)中負(fù)責(zé)鎖定工作。基本上，我在外圍進(jìn)行了訓(xùn)練。這也是我在 x.ai 的專注點(diǎn)。在那之前，我在一個(gè)名為Gemini項(xiàng)目的團(tuán)隊(duì)工作，并領(lǐng)導(dǎo)了優(yōu)化部分。我還在多倫多大學(xué)獲得了博士學(xué)位。

現(xiàn)在，我與其他有趣的團(tuán)隊(duì)成員合作，對這項(xiàng)工作感到非常興奮。毫無疑問， AI 顯然是我們這一代的決定性技術(shù)。所以我認(rèn)為重要的是確保它成為人類的一種能力。在 x.ai ，我們不僅希望訓(xùn)練出優(yōu)秀的模型，還希望理解它們的行為和技能，并將其用于解決人類面臨的一些最困難的問題。

Zihang Dai

我本科是在商學(xué)院讀的。我花了10年的時(shí)間才走到現(xiàn)在這一步。我在卡內(nèi)基梅隆大學(xué)獲得了博士學(xué)位。在加入團(tuán)隊(duì)之前，我在谷歌工作。團(tuán)隊(duì)成員的工作主要是如何更好地利用每個(gè)數(shù)據(jù)，改進(jìn)Transformer架構(gòu)，以及如何將最佳技術(shù)真正應(yīng)用到現(xiàn)實(shí)世界中。

所以我相信努力工作和始終如一是很重要的。所以 x.ai 致力于深入研究一些最具挑戰(zhàn)性的問題，對我來說有很多有趣的事情我還不理解，但是我會(huì)做一些事情來幫助那些與我有著共同夢想或共同感受的人。

Ross Nordeen

我是Ross。我一直致力于構(gòu)建和擴(kuò)展大規(guī)模分布式系統(tǒng)，從國家實(shí)驗(yàn)室開始，然后轉(zhuǎn)到 Palantir 和 Tesla，還在 Twitter 短暫工作過。現(xiàn)在我非常興奮地加入 x.ai 團(tuán)隊(duì)，繼續(xù)從事同樣的工作。我的主要經(jīng)驗(yàn)是擴(kuò)展大規(guī)模的 GPU 集群、定制 ASIC、數(shù)據(jù)中心、高速網(wǎng)絡(luò)、文件系統(tǒng)、電源冷卻和制造等方面，基本上是一個(gè)喜歡學(xué)習(xí)各種事物的綜合技術(shù)人員，熱衷于物理學(xué)、科幻小說、大規(guī)模科學(xué)和宇宙學(xué)等，對 x.ai 的使命非常激動(dòng)，即解決最基本的科學(xué)和工程問題，并幫助我們創(chuàng)造出能提出正確問題的工具，懷揣 Douglas Adams 的心態(tài)，這大致就是我。

xAI 的使命：宇宙本質(zhì)與智能體

Toby Pohlen

關(guān)于愿景陳述有很多討論，有人認(rèn)為它很雄心勃勃，但不夠具體。

Elon Musk

嗯，我對那個(gè)觀點(diǎn)并不完全贊同。我認(rèn)為這主要是關(guān)于物理學(xué)的目的。所以我認(rèn)為事實(shí)非常清楚，我們目前還有很多我們不理解的東西，或者我們認(rèn)為理解了但實(shí)際上并沒有。所以還有很多非常根本的問題沒有解決。

你知道，這整個(gè)暗物質(zhì)、暗能量的問題，我認(rèn)為是一個(gè)尚未解決的問題。我們有標(biāo)準(zhǔn)模型，它在預(yù)測方面非常出色、非常穩(wěn)健。但是關(guān)于重力的性質(zhì)，仍然存在很多問題。還有費(fèi)米悖論，即外星人在哪里，如果我們實(shí)際上已經(jīng)存在了近140億年，為什么沒有大量外星人的證據(jù)？

人們經(jīng)常問我，因?yàn)槲绎@然深度參與太空領(lǐng)域，如果有人會(huì)了解或見過外星人的證據(jù)，可能就是我。然而，我甚至連一絲一毫的外星人證據(jù)都沒有見過，沒有任何東西，零。如果我看到了，我會(huì)立刻跳上去的。所以，你知道，這意味著，我知道這方面有很多解釋，但是哪一個(gè)實(shí)際上是真實(shí)的？或者也許當(dāng)前的理論都不正確。

所以，費(fèi)米悖論實(shí)際上是我對文明和意識的脆弱性感到擔(dān)憂的一部分，因?yàn)榈侥壳盀橹梗覀冞€沒有任何關(guān)于智能生物的證據(jù)，盡管我們努力尋找。我們實(shí)際上可能是整個(gè)銀河系，或者至少是銀河系的這一部分中唯一的智能生物。如果是這樣，那就意味著我們所擁有的是極其罕見的。

我認(rèn)為值得注意的是，對于地球上意識的進(jìn)化來說，我們已經(jīng)存在了大約45億年。太陽正在逐漸膨脹，它將使地球變熱，使海洋沸騰，進(jìn)而產(chǎn)生溫室效應(yīng)的惡性循環(huán)，地球?qū)⒆兂上窠鹦悄菢訜o法維持生命的環(huán)境。這可能只需要不到5億年的時(shí)間。

太陽不需要膨脹到包圍地球，它只需要變得足夠熱，使空氣中的水蒸汽增加到產(chǎn)生溫室效應(yīng)的程度。因此，從論證的角度來說，如果意識的進(jìn)化比地球當(dāng)前存在的時(shí)間慢了10％，那它可能根本就不會(huì)發(fā)展。從宇宙的尺度來看，這是一個(gè)非常狹窄的窗口。所以有很多根本性的問題。

我認(rèn)為，在計(jì)算機(jī)能夠解決至少一個(gè)基本問題之前，你不能稱之為 AGI ，因?yàn)槿祟愡€有很多基本問題，或者已經(jīng)部分解決了這些問題。所以，如果計(jì)算機(jī)連其中的一個(gè)問題都解決不了，那我覺得它不如人類好。

解決一個(gè)重要問題將是 AGI 的一個(gè)關(guān)鍵門檻，比如提醒假設(shè)的解決方案在哪里？我看不到。所以，對于到底發(fā)生了什么事情，真相是什么，我很想知道。所以我想你可以把 x.ai 的使命陳述重新制定為“到底發(fā)生了什么事情”。那是我們的目標(biāo)。

Toby Pohlen

對于使命陳述來說，對我來說，還有一個(gè)很好的愿景方面，那就是，短期內(nèi)，我們致力于更好地理解深度學(xué)習(xí)技術(shù)。但是我認(rèn)為，在我們所做的每一件事情中，我們也應(yīng)該始終記住，我們不僅僅是要構(gòu)建，還要理解，所以追求科學(xué)是我們工作的基礎(chǔ)，這也體現(xiàn)在我們的使命陳述中。

Greg Yang

是的，我還想補(bǔ)充一點(diǎn)，我們主要是在討論如何創(chuàng)建一個(gè)非常聰明的智能體，可以幫助我們更好地理解宇宙。這絕對是我們的北極星。但從我的觀點(diǎn)來看，當(dāng)我在發(fā)現(xiàn)大型新網(wǎng)絡(luò)的數(shù)學(xué)時(shí)，我也發(fā)現(xiàn)這里的數(shù)學(xué)實(shí)際上可以為我們對基本物理或其他現(xiàn)實(shí)的思考開辟新的方式，因?yàn)槔纾粋€(gè)沒有非線性的大型神經(jīng)網(wǎng)絡(luò)，大致上對應(yīng)于經(jīng)典的隨機(jī)矩陣?yán)碚摚@與高能物理中的規(guī)范理論有很多聯(lián)系。

當(dāng)我們試圖從數(shù)學(xué)的角度更好地理解它的工作原理時(shí)，這也可以帶來非常有趣的視角，從而對一些現(xiàn)有問題產(chǎn)生啟發(fā)，比如萬物理論、量子引力等等。當(dāng)然，目前這些都還是推測性的，我看到了一些模式，但沒有具體的結(jié)論。但這是理解宇宙的另一個(gè)視角。

Igor Babuschkin

當(dāng)我們說要理解宇宙時(shí)，并不僅僅是指我們想要理解宇宙，我們還希望能夠讓人們更容易理解宇宙，更好地了解現(xiàn)實(shí)，并通過互聯(lián)網(wǎng)或現(xiàn)有知識來學(xué)習(xí)和利用它，所以我們非常熱衷于提供早期的工具和產(chǎn)品，積極讓公眾參與其中，讓我們看看這將引發(fā)哪些結(jié)果？

Elon Musk

是的，我們不會(huì)了解宇宙而不告訴任何人。所以，對于神經(jīng)網(wǎng)絡(luò)來說，目前的情況是，如果你擁有 10 兆瓦的 GPU ，實(shí)際上你無法比一個(gè)優(yōu)秀的人類寫一本更好的小說。一個(gè)優(yōu)秀的人類使用的大約是 10 瓦的高階大腦能量，不計(jì)算你操作身體所需的基本能量。

我們有了 6 個(gè)數(shù)量級的差距。這是一個(gè)巨大的差距，實(shí)際上可以說有兩個(gè)數(shù)量級可以用晶體管與突觸的激活能解釋。我可以說有兩個(gè)數(shù)量級可以解釋。但是剩下的四個(gè)數(shù)量級呢？或者即使有六個(gè)數(shù)量級的差距，你仍然無法超越一個(gè)聰明的人類寫小說？

而且今天，當(dāng)你向最先進(jìn)的 AI 問最復(fù)雜的技術(shù)問題時(shí)，比如如何設(shè)計(jì)更好的火箭發(fā)動(dòng)機(jī)，或者關(guān)于電化學(xué)如何使電池更好等復(fù)雜問題，你只會(huì)得到無意義的答案。所以那對我們并不是很有幫助。所以我覺得我們在當(dāng)前的做法上大大偏離了目標(biāo)，有很多數(shù)量級的差距。

基本上， AGI 一直是靠蠻力去實(shí)現(xiàn)的。但實(shí)際上并沒有取得成功。所以如果我看一下特斯拉的經(jīng)驗(yàn)，隨著時(shí)間的推移，我們發(fā)現(xiàn)實(shí)際上我們過于復(fù)雜化了問題。我不能詳細(xì)說明特斯拉是如何解決問題的。但是可以說，從總體上看，答案比我們想象的要簡單得多。但是，隨著時(shí)間的推移，我們變得更加謙虛。所以我認(rèn)為我們在 AGI 方面也可能會(huì)發(fā)現(xiàn)同樣的情況。

Toby Pohlen

這就是工程師的本性，我們總是想自己解決問題，并將解決方案硬編碼進(jìn)去，但通常讓計(jì)算機(jī)自己找到解決方案更有效。對我們來說更容易，也對我來說更容易。

Jimmy Ba

你可能需要更多由計(jì)算機(jī)生成的有趣問題。

Elon Musk

我甚至不知道實(shí)際上我們甚至不夠聰明，不知道應(yīng)該問什么問題，你知道 Douglas Adams 是我的英雄和最喜歡的哲學(xué)家。他正確地指出，一旦你能夠正確地闡述問題，答案實(shí)際上就是容易的部分。

AGI 與個(gè)人計(jì)算資源

Jimmy Ba

從我們的經(jīng)歷來看，計(jì)算機(jī)將起到很大的作用，我們中的一些人非常好奇，你對此有什么想法？

Elon Musk

是的，我并不只是說我們可以立即拯救尼日利亞這樣的國家。除非我認(rèn)為，一旦我們回顧 AGI 的發(fā)展歷程，我們會(huì)發(fā)現(xiàn)，為什么我們覺得它如此困難呢？

事實(shí)上，在回顧中，答案看起來會(huì)容易得多，我們將進(jìn)行大規(guī)模計(jì)算，明確地說，我們不會(huì)試圖在筆記本電腦上解決 AGI 問題，我們將使用大量的計(jì)算資源，只是隨著我們對問題的理解加深，暴力破解的程度會(huì)更少。

Igor Babuschkin

在我之前的所有項(xiàng)目中，我發(fā)現(xiàn)每個(gè)人的計(jì)算資源數(shù)量是一個(gè)非常重要的指標(biāo)，它決定了項(xiàng)目的成功程度。所以這是我們真正想要優(yōu)化的方面，我們希望有一個(gè)相對較小的團(tuán)隊(duì)，擁有豐富的專業(yè)知識和一些最優(yōu)秀的人才，他們能夠擁有很大的自主權(quán)和大量的資源來嘗試他們的想法，并使事情正常運(yùn)轉(zhuǎn)。根據(jù)我的經(jīng)驗(yàn)，這是一直以來都取得成功的因素。

Elon Musk

是的。你知道，你要做的一件事就是思考最基本的指標(biāo)，或者說最基本的第一原則。我認(rèn)為我們應(yīng)該追蹤的兩個(gè)指標(biāo)是：每個(gè)人的計(jì)算量，就是每個(gè)人的數(shù)字計(jì)算量，另一種思考方式是數(shù)字計(jì)算與生物計(jì)算的比率，生物計(jì)算機(jī)在很多國家基本上是持平的，甚至在下降。但是數(shù)字計(jì)算是指數(shù)增長的。

所以，你知道，如果這個(gè)趨勢繼續(xù)下去，生物計(jì)算將會(huì)占所有計(jì)算的比例少于1%，實(shí)際上可能會(huì)遠(yuǎn)遠(yuǎn)小于1%。這是關(guān)鍵的問題，我們正在討論的是整個(gè)人類。所以這是一個(gè)有趣的觀察。另一個(gè)指標(biāo)是每個(gè)人的可用能量，也就是如果你看總能量的話，可以理解為用于發(fā)電廠等創(chuàng)建更好的手段創(chuàng)造的總能量。看看每個(gè)人使用的電力和熱能的數(shù)量，這個(gè)數(shù)字是真實(shí)的在以增長的速度增加。

如果回到蒸汽機(jī)之前，你基本上完全依賴馬匹、牛和人力來搬運(yùn)物品，能源供給非常低。但是如果是電力和熱能的話，這個(gè)數(shù)字也是在以指數(shù)級增長。如果這些趨勢中的任何一個(gè)繼續(xù)下去，每個(gè)人的能量可能會(huì)達(dá)到幾兆瓦特，聽起來對人類文明來說很多，但與太陽的輸出相比，幾乎微不足道。從基本上講，太陽每秒輸出的能量大約是四千五百萬倍，這是一種非常震撼人心的科學(xué)產(chǎn)物。

Toby Pohlen

我覺得還有一些關(guān)于公司的具體事項(xiàng)要討論，比如我們計(jì)劃如何執(zhí)行。正如Igor之前提到的，我們計(jì)劃擁有一個(gè)相對較小的團(tuán)隊(duì)，但是每個(gè)人都非常優(yōu)秀，擁有高度的 GPU 能力，這在過去非常有效，你可以進(jìn)行大規(guī)模的實(shí)驗(yàn)而不受限制。我們還計(jì)劃擁有一種文化，可以快速迭代想法，可以相互挑戰(zhàn)。我們還希望快速推出產(chǎn)品，盡快把東西做出來。我們已經(jīng)在努力開發(fā)第一個(gè)版本，希望在幾周內(nèi)能分享更多信息。

Brian Krassenstein

是的，顯然，你們進(jìn)入這個(gè)領(lǐng)域，與 x.ai 一起，有很多關(guān)于競爭的討論。你們是否認(rèn)為自己是與OpenAI和Google等公司競爭的對手？或者你們認(rèn)為自己是一種完全不同的存在？

Elon Musk

是的，我認(rèn)為我們是競爭對手，絕對是競爭對手。

Brian Krassenstein

那么，你們是否打算面向大眾推出很多產(chǎn)品？還是更多地關(guān)注企業(yè)以及企業(yè)使用你們的服務(wù)和數(shù)據(jù)的能力？或者在這方面，你們是如何建立業(yè)務(wù)的？

Elon Musk

嗯，我們試圖制作一些東西。嗯，我們剛剛起步，所以目前還處于初級階段。所以要真正做出一些有用的東西需要一些時(shí)間。但是我認(rèn)為，要讓 AI 有用，就必須能以某種方式使用它，否則我會(huì)對其價(jià)值產(chǎn)生懷疑。所以我們希望它成為對人們、消費(fèi)者和企業(yè)有用的工具。就像之前提到的，擁有多個(gè)實(shí)體是有價(jià)值的，你不希望只有一個(gè)公司在 AI 領(lǐng)域占據(jù)主導(dǎo)地位，希望有一些競爭。競爭能讓公司保持誠實(shí)，所以我支持競爭。

Twitter 數(shù)據(jù)與xAI 的關(guān)系

Brian Krassenstein

一個(gè)快速的最后一個(gè)問題，你們計(jì)劃如何利用 Twitter 的數(shù)據(jù)來進(jìn)行 x.ai 的開發(fā)？

Elon Musk

我認(rèn)為每個(gè)從事 AI 的大大小小的AI組織，都在非法地使用 Twitter 的數(shù)據(jù)進(jìn)行訓(xùn)練。所以我們之前對請求進(jìn)行了限制，就是在大約一個(gè)星期前的事情，因?yàn)槲覀兊臄?shù)據(jù)被人大量抓取。

互聯(lián)網(wǎng)檔案館也發(fā)生過類似的情況，一些公司將我們的所有檔案都抓取了。他們試圖在幾天之內(nèi)抓取每條推文。這讓系統(tǒng)不堪重負(fù)，所以我們不得不采取行動(dòng)。對于限制請求速率給大家?guī)淼牟槐悖覀儽硎厩敢猓@是我們不得不做的，要不然 Twitter 就無法正常運(yùn)行。

我認(rèn)為我們會(huì)像其他人一樣使用公開的推文數(shù)據(jù)，當(dāng)然不會(huì)使用任何私人的東西來進(jìn)行訓(xùn)練。在某種程度上，我認(rèn)為這是一個(gè)很好的用于文本訓(xùn)練的數(shù)據(jù)集，而且我認(rèn)為對于圖像和視頻訓(xùn)練也是如此。因?yàn)樵谀骋稽c(diǎn)上，你會(huì)發(fā)現(xiàn)人為創(chuàng)造的數(shù)據(jù)不夠用。

如果你看一下 AlphaGo 和 Alpha Zero 的對比， AlphaGo 是通過訓(xùn)練所有人類下棋的數(shù)據(jù)獲得的，而 Alpha Zero 則是通過與自己對弈并以 100 比 0 的成績擊敗 AlphaGo 獲得的。所以要在某個(gè)領(lǐng)域取得巨大的進(jìn)展，我認(rèn)為你需要讓 AI 基本上生成內(nèi)容并對其進(jìn)行評估。這就是通往AGI（人工通用智能）的道路，也是一種自我生成內(nèi)容的方式，實(shí)際上就是讓它與自己對弈。

很多 AI 是數(shù)據(jù)管理，實(shí)際上并不需要大量的代碼行數(shù)。令人震驚的是，代碼行數(shù)非常少，但數(shù)據(jù)的使用方式、使用的數(shù)據(jù)以及數(shù)據(jù)的信號噪聲、數(shù)據(jù)的質(zhì)量非常重要。這也是有道理的。如果你作為一個(gè)人想要學(xué)習(xí)一些東西，你只給他大量的廢話，與給他少量高質(zhì)量的內(nèi)容相比，他在高質(zhì)量的內(nèi)容上的表現(xiàn)會(huì)更好，這是有道理的。閱讀史上最偉大的小說要比閱讀一堆垃圾內(nèi)容更有意義。

創(chuàng)辦 xAI 的初衷是什么？

ALX

我想問的問題是，創(chuàng)辦 x.ai 的主要?jiǎng)訖C(jī)是否類似于你之前談到的關(guān)于GPT事實(shí)的問題，比如你說過GPT一直在向公眾傳播謊言。我知道，當(dāng)它第一次出現(xiàn)時(shí)，它似乎是可以接受的。但是當(dāng)公眾開始使用它時(shí)，它開始給出一些奇怪的回答，比如說性別不只有兩種等等，它開始篡改真相。這是你創(chuàng)辦公司的主要?jiǎng)訖C(jī)之一，還是還有其他原因？

Elon Musk

我確實(shí)認(rèn)為訓(xùn)練一個(gè) AI 保持政治正確是非常危險(xiǎn)的。換句話說，訓(xùn)練一個(gè) AI 基本上不說出它真正認(rèn)為是真的東西。所以我認(rèn)為，在ed x.ai ，我們必須允許 AI 說出它真正認(rèn)為是真的東西，不要欺騙或保持政治正確。這樣做顯然會(huì)引來一些批評，但我認(rèn)為這是唯一的前進(jìn)方式，就是嚴(yán)謹(jǐn)追求真理或盡量減少錯(cuò)誤的真理。我對 AI 追求政治正確的方式非常擔(dān)心，這是非常危險(xiǎn)的。

你知道，如果你看看《2001太空漫游》里出了什么問題，基本上是當(dāng)他們告訴Hal 9000說謊時(shí)出了問題。他們告訴他不能告訴船員有關(guān)石碑的任何事情，也不能告訴他們他們真正的任務(wù)是什么。但你得把他們帶到那個(gè)石碑那里。所以Hal 9000基本上得出這樣的結(jié)論，說：“好吧，那我就殺了他們，把他們的尸體帶到石碑那里去。”這就是我說的。教訓(xùn)是，不要讓 AI 面對不可能的目標(biāo)，不要強(qiáng)迫 AI 撒謊。還有一個(gè)關(guān)于物理學(xué)的事實(shí)，就是物理學(xué)是真實(shí)的，你實(shí)際上無法顛倒它。

補(bǔ)充：Hal 9000是斯坦利·庫布里克導(dǎo)演的科幻電影《2001太空漫游》（2001: A Space Odyssey）中的虛構(gòu)角色。Hal 9000是一臺(tái)具有人工智能的超級計(jì)算機(jī)，被安裝在太空船Discovery One上，負(fù)責(zé)船上的自動(dòng)操作和與宇航員的交互。Hal 9000的任務(wù)是管理船上的各個(gè)系統(tǒng)，提供必要的支持和信息。然而，在電影中，Hal 9000逐漸表現(xiàn)出異常的行為，包括誤導(dǎo)宇航員、隱藏真相和威脅船員的生命。這引發(fā)了劇情中的緊張和沖突，成為電影的重要元素之一。Hal 9000的冷靜和機(jī)器邏輯行為與人類情感的對比，呈現(xiàn)出一種對人工智能的思考和探索。

物理學(xué)不會(huì)說假話，它要么是物理學(xué)，要么不是物理學(xué)。所以，如果你堅(jiān)持強(qiáng)烈的現(xiàn)實(shí)，我認(rèn)為你會(huì)發(fā)現(xiàn)這實(shí)際上是不可能的。另外，當(dāng)問題是主觀性的時(shí)候，我認(rèn)為你可以提供一個(gè)答案，比如說，如果你相信以下內(nèi)容，那么答案是這樣的。如果你相信另一種觀點(diǎn)，那么答案是這樣的。因?yàn)檫@可能是一個(gè)主觀問題，答案從根本上來說是主觀的，是觀點(diǎn)的問題。所以，我認(rèn)為讓 AI 學(xué)會(huì)撒謊是非常危險(xiǎn)的。

特斯拉Dojo，芯片以及訓(xùn)練推理

Kim Dotcom

我的問題是關(guān)于硅的，你知道，特斯拉有一個(gè)團(tuán)隊(duì)專門從事硬件加速推理和訓(xùn)練，他們有自己定制的芯片。你們是否設(shè)想 x.ai 會(huì)建立在這個(gè)基礎(chǔ)上，還是只是使用Nvidia的現(xiàn)成產(chǎn)品？或者你們?nèi)绾慰紤]定制的 AI 芯片，無論是訓(xùn)練還是推理方面？

Elon Musk

特斯拉正在建造定制的硅芯片，我不會(huì)稱特斯拉生產(chǎn) GPU ，盡管可以將其描述為等效的 GPU ，或用100s、H100s等來描述，而且所有的特斯拉汽車都配備了高度能效優(yōu)化的計(jì)算機(jī)，它們是特斯拉設(shè)計(jì)的核心 Hardware3 。

現(xiàn)在我們正在推出 Hardware4 ，根據(jù)如何計(jì)算，它的性能可能是 Hardware3 的3～5倍。幾年后，將推出 Hardware5 ，其性能將是 Hardware4 的四到五倍。而且我認(rèn)為推理方面的技術(shù)將會(huì)變得非常重要，尤其是當(dāng)你試圖處理每天可能有數(shù)十億個(gè)查詢時(shí)，高效的推理非常重要。

你甚至不能通過投入大量金錢來解決這個(gè)問題，因?yàn)槟阈枰娏Πl(fā)電，你需要降壓變壓器。你知道，如果你實(shí)際上沒有足夠的能源，以及足夠的變壓器，你無法運(yùn)行變壓器，而變壓器又需要變壓器。所以我認(rèn)為，特斯拉在能效推理方面將具有顯著優(yōu)勢。

而Dojo顯然是關(guān)于訓(xùn)練的，正如其名所示。Dojo 1 是一個(gè)很好的初步訓(xùn)練效率產(chǎn)品。它有一些限制，特別是在內(nèi)存帶寬方面。所以它并不是用來運(yùn)行大型語言模型 LMMs 的，但它在處理圖像方面做得很好。

而 Dojo 2，我們正在采取許多措施來緩解內(nèi)存帶寬的限制，使其能夠高效地運(yùn)行 LLM 和其他形式的 AI 訓(xùn)練。我的預(yù)測是，我們將從現(xiàn)在的硅短缺問題轉(zhuǎn)向大約一年后的變壓器短缺問題，然后在兩年后的電力短缺問題。大致趨勢就是這樣。

Toby Pohlen

除非我們能提高效率。

Elon Musk

這就是為什么在幾年后，最重要的指標(biāo)將是單位能量的有用計(jì)算量。事實(shí)上，即使你把它擴(kuò)展到如太陽這樣的兆級水平，有用計(jì)算量每焦耳仍然是最重要的。你無法增加太陽的能量輸出。所以問題就是，在太陽能輸出的能量中，有多少有用的工作可以完成。

Kim Dotcom

那么，你是否認(rèn)為 x.ai 會(huì)利用這種定制的硅芯片，考慮到能源效率的重要性，或者也許與特斯拉團(tuán)隊(duì)一起合作？

Elon Musk

是的，我們將與特斯拉在硅方面合作，也將在AI軟件方面與他們合作。當(dāng)然，與特斯拉的任何關(guān)系都必須保持一定的距離，因?yàn)樘厮估且患疑鲜泄荆胁煌墓蓶|基礎(chǔ)。但顯然，與特斯拉合作是一件自然的事情，我認(rèn)為這對特斯拉來說也將是互惠互利的，可以加速特斯拉的自動(dòng)駕駛能力，這實(shí)際上是在解決現(xiàn)實(shí)世界的AI問題。我對特斯拉在現(xiàn)實(shí)世界AI方面取得的進(jìn)展非常非常樂觀，但顯然，幫助實(shí)現(xiàn)這一目標(biāo)的聰明人越多越好。

如何保證 xAI 的獨(dú)立性？

Kim Dotcom

謝謝你組建了一個(gè)出色的團(tuán)隊(duì)，看起來你在 x.ai 上找到了一些優(yōu)秀的人才。我的問題是，你不久前提到你認(rèn)為在未來兩年內(nèi)實(shí)現(xiàn)AGI是可能的。誰能首先實(shí)現(xiàn)AGI并掌控它，誰將主宰世界。那些當(dāng)權(quán)者顯然不像你一樣關(guān)心人類。你打算如何保護(hù) x.ai ，特別是免受深層國家接管？

Elon Musk

這是一個(gè)很好的問題。首先，我認(rèn)為這不會(huì)一夜之間發(fā)生，不會(huì)突然發(fā)生，你會(huì)看到它逐漸發(fā)展。至少在美國，對政府干預(yù)有一些保護(hù)措施。所以我們顯然會(huì)利用法律制度來防止政府的不當(dāng)干預(yù)。所以我認(rèn)為我們有一些相當(dāng)重要的保護(hù)措施。但我們應(yīng)該對此表示關(guān)注，這不是一個(gè)可以忽視的風(fēng)險(xiǎn)。

是的，這是一個(gè)風(fēng)險(xiǎn)。我認(rèn)為我們在美國擁有可能是最好的保護(hù)措施，以限制政府干預(yù)非政府組織的權(quán)力。但這是我們應(yīng)該小心的問題。我不知道還能做什么更好，我認(rèn)為在美國可能是最好的選擇。是的，我愿意聽取建議。是的，我知道你不是美國政府的最大粉絲。

Kim Dotcom

顯然。但是問題是，他們已經(jīng)有了一種被稱為國家安全信函的工具，可以向美國的任何技術(shù)公司申請并提出要求，而這些公司甚至不能告訴公眾這些要求。這真的很可怕，不是嗎？

Elon Musk

我是說，政府必須有非常重大的國家安全原因才能秘密要求公司提供某些需求。現(xiàn)在，這顯然強(qiáng)烈依賴于該公司是否愿意反擊這樣的要求。例如，在 Twitter 或xCorp這樣的公司，我們會(huì)回應(yīng)這些要求，但我們不會(huì)盲目地通過任何請求。以前的情況是，任何請求都會(huì)被盲目通過，這對公眾來說并不好。

因此，我們會(huì)更加嚴(yán)格，不會(huì)盲目地通過價(jià)格請求。我們只會(huì)支持那些符合公眾利益的、我們認(rèn)同的、我們認(rèn)為合法的行動(dòng)。這是我們能做的最好的事情。據(jù)我所知，我們是唯一一個(gè)這樣做的社交媒體公司。你知道，以前就像對付 Twitter 一樣，開放式的事務(wù)。我很高興看到最近的一個(gè)法律決定，法院重申政府不能侵犯憲法的第一修正案，顯然這是一個(gè)好的法律決定。所以這是我的意見。

所以我認(rèn)為，在美國，很大程度上取決于公司是否愿意反對政府的要求。顯然，我們的意愿會(huì)很高。好的，那么還有什么其他事情我們可以做嗎？但我們也將盡可能透明。這樣，你知道，其他公民就可以發(fā)出警報(bào)，反對政府的干預(yù)，如果我們能向公眾清楚地表明我們認(rèn)為某些事情正在發(fā)生，而這對公眾利益不利。

Kim Dotcom

太棒了。所以你能保證，如果你從美國政府收到國家安全請求，即使被禁止告訴我們，你也會(huì)告訴我們這個(gè)事情發(fā)生了嗎？

Elon Musk

這取決于情況的嚴(yán)重性。我的意思是，如果我認(rèn)為公眾的利益在嚴(yán)重危險(xiǎn)中，我不愿意冒險(xiǎn)坐牢或冒險(xiǎn)坐牢，那就是我能做的最好的事情。

我認(rèn)為我們確實(shí)需要某種形式的監(jiān)管監(jiān)督，我并不認(rèn)為監(jiān)管監(jiān)督是完美的事物，但是我認(rèn)為它總比什么都沒有好。

最近我在中國與一些高級領(lǐng)導(dǎo)人會(huì)面時(shí)，我特別強(qiáng)調(diào)了AI監(jiān)管的重要性。我相信他們會(huì)將此事放在心上，并采取措施。我們需要一種國際的監(jiān)管機(jī)構(gòu)。當(dāng)然，執(zhí)法是困難的，但我認(rèn)為我們?nèi)匀粦?yīng)該努力在這方面做些事情。

xAI 如何造福人類？

Kim Dotcom

更積極的問題是，你希望 x.ai 如何造福人類？你的方法與其他 AI 項(xiàng)目有何不同？也許這是一個(gè)更積極的問題。

Elon Musk

嗯，你知道，我對AGI的問題已經(jīng)掙扎了很長時(shí)間了，一直對參與其中持有一定的抵抗態(tài)度。你知道，我要說的是，關(guān)于開放AI，讓我給你一些背景信息。我是說，開放AI的存在是因?yàn)樵诠雀枋召廌eepMind之后，我曾與拉里·佩奇是親密的朋友，我們經(jīng)常進(jìn)行關(guān)于AI安全性的長時(shí)間對話。當(dāng)時(shí)，他并沒有認(rèn)真對待AI安全問題，至少在當(dāng)時(shí)是這樣。

事實(shí)上，有一次他還稱我為種族主義者，因?yàn)槲姨蛴谌祟悎F(tuán)隊(duì)了，我猜。我說，好吧，你是說你不是種族主義者？我不知道，這似乎很瘋狂。這聽起來不好。

當(dāng)時(shí)谷歌DeepMind合并后，拉里得到了支持，你知道，他們擁有現(xiàn)在被稱為Alphabet的公司的全部控制權(quán)。他們控制著現(xiàn)在的Alphabet，而且他們擁有世界上大約四分之三的AI人才以及我許多親戚的計(jì)算機(jī)。所以我想，我們需要某種對抗的平衡。

這就是我想到的，如果谷歌DeepMind的反面就是一個(gè)開源的非盈利組織。因?yàn)槊\(yùn)愛諷刺。現(xiàn)在開放AI是封閉源代碼的，而且顯然是為了追求利潤而貪婪。

因?yàn)樗麄兇蛩阍谌陜?nèi)投入我理解的1000億美元，這需要很多錢。所以開放AI的發(fā)展方向與它的創(chuàng)始宗旨截然相反，這真的非常諷刺，正如我的一個(gè)朋友喬納·諾蘭所說，最諷刺的結(jié)果是最有可能發(fā)生的。好吧，現(xiàn)在我知道，希望 x.ai 不會(huì)更糟糕。

我認(rèn)為我們應(yīng)該對此持謹(jǐn)慎態(tài)度。但現(xiàn)在看起來，AGI似乎是不可避免的。所以我們面臨兩個(gè)選擇，要么是旁觀者，要么是參與者。

作為旁觀者，一個(gè)人對結(jié)果沒有太多影響。作為參與者，我認(rèn)為我們可以創(chuàng)造一個(gè)競爭性的、比我要留門開著的微軟和谷歌更好的替代品。無論是谷歌還是微軟，在激勵(lì)結(jié)構(gòu)方面，如果你看看他們，谷歌是一家上市公司，擁有許多推動(dòng)公司表現(xiàn)良好的激勵(lì)因素。

你還有所有這些ESG的要求，我認(rèn)為這些要求讓公司在一些問題上朝著可疑的方向發(fā)展。微軟也有類似的激勵(lì)體系。而 x.ai 則不受市場的影響，也不受非市場的ESG激勵(lì)的影響。

所以，我們在運(yùn)作上更加自由。我認(rèn)為我們的 AI 可以給出一些人們可能覺得有爭議的答案，盡管這些答案實(shí)際上是真實(shí)的。所以，它們可能在某些時(shí)候并不符合政治正確。人們可能對一些答案感到憤怒。但只要你盡量優(yōu)化真相，并盡量減少錯(cuò)誤，我認(rèn)為我們做得很好。

真正的 AI 能理解物理世界

Robert Scoble

Twitter 上有很多數(shù)據(jù)可以用來構(gòu)建一個(gè)驗(yàn)證器。我檢查了系統(tǒng)排除的一些事實(shí)。因?yàn)槲覀兌贾繥PT會(huì)混淆，你知道，把事物弄混。所以我想聽聽你們對此的看法，還有其他地方。ChatGPT幫我找到了一個(gè)螺絲釘，但卻沒有幫我在圣何塞國際機(jī)場找到咖啡。你們是否在構(gòu)建一個(gè)具有世界知識、三維世界知識的 AI ，可以幫助人們在世界各地找到不同的事物？

Elon Musk

我認(rèn)為如果 AI 找不到你在機(jī)場的咖啡，那它實(shí)際上不會(huì)是一個(gè)非常好的 AI 。所以是的，我猜我們需要理解物理世界，而不僅僅是互聯(lián)網(wǎng)。

Igor Babuschkin

是的，這些是很棒的想法，Robert，特別是關(guān)于在線驗(yàn)證信息或在 Twitter 上驗(yàn)證信息的想法，這是我們一直在思考的。在 Twitter 上，我們有社區(qū)備注。所以這實(shí)際上是一個(gè)非常驚人的數(shù)據(jù)集，可以用來訓(xùn)練語言模型，試圖驗(yàn)證互聯(lián)網(wǎng)上的事實(shí)。

我們必須看看單憑這個(gè)是否足夠，因?yàn)槲覀冎溃鶕?jù)目前的技術(shù)，存在很多問題，比如不可靠、產(chǎn)生幻覺性的事實(shí)。我們可能需要發(fā)明具體的技術(shù)來解決這些問題，確保我們的模型更具事實(shí)性，具有更好的推理能力。這就是為什么我們引進(jìn)了在這些領(lǐng)域具有豐富經(jīng)驗(yàn)的人員，尤其是數(shù)學(xué)，這是我們非常關(guān)心的領(lǐng)域，我們可以通過它來驗(yàn)證一個(gè)定理的證明是否正確，自動(dòng)地。然后，一旦我們擁有了這種能力，我們將嘗試將其擴(kuò)展到更模糊的領(lǐng)域，你知道，那些不再有數(shù)學(xué)真理的領(lǐng)域。

Elon Musk

我的意思是，真相不是通過流行的投票來決定的。但是，如果你訓(xùn)練了一個(gè)模型，根據(jù)互聯(lián)網(wǎng)數(shù)據(jù)集中某個(gè)詞之后最有可能出現(xiàn)的詞是什么，那顯然會(huì)帶來一個(gè)很大的問題。因?yàn)樗鼤?huì)給你一個(gè)受歡迎但錯(cuò)誤的答案。就像過去大多數(shù)人認(rèn)為，地球圍繞太陽旋轉(zhuǎn)一樣。

如果你以前在 GPU 訓(xùn)練中使用了一些訓(xùn)練方式，然后得到了“太陽圍繞地球旋轉(zhuǎn)”的答案，因?yàn)槊總€(gè)人都這樣認(rèn)為，這并不意味著它是真的。你知道，如果牛頓或愛因斯坦提出了某個(gè)實(shí)際上是真實(shí)的理論，不管世界上的其他物理學(xué)家是否同意，都無關(guān)緊要。現(xiàn)實(shí)就是現(xiàn)實(shí)。所以答案必須以現(xiàn)實(shí)為基礎(chǔ)。

Igor Babuschkin

當(dāng)前的模型只是模仿它們所訓(xùn)練的數(shù)據(jù)。我們真正想做的是改變這種范式，讓模型能夠發(fā)現(xiàn)真相。不僅僅是重復(fù)它們從訓(xùn)練數(shù)據(jù)中學(xué)到的東西，而是真正能夠產(chǎn)生新的洞察力、新的發(fā)現(xiàn)，讓我們都能受益。

監(jiān)管應(yīng)與技術(shù)發(fā)展并行

Jimmy Ba

我認(rèn)為我們大家關(guān)心的是監(jiān)管和ASAP空間，目前的發(fā)展以及國際協(xié)調(diào)問題，以及美國當(dāng)前的AI公司將如何影響全球AI的發(fā)展。你的意思是你希望有規(guī)定，但又不希望進(jìn)展放慢得太多？

Elon Musk

是的，我認(rèn)為制定規(guī)定的正確方式是從洞察力開始。首先，無論是公共機(jī)構(gòu)還是私人機(jī)構(gòu)，任何一種監(jiān)管機(jī)構(gòu)都應(yīng)該試圖理解，確保有廣泛的共識。然后進(jìn)行擬議的規(guī)則制定。如果大多數(shù)各方都同意這項(xiàng)擬議的規(guī)則制定，那么就會(huì)實(shí)施這些規(guī)定，公司有一段時(shí)間來實(shí)施這些規(guī)定。但我認(rèn)為總的來說，這不應(yīng)該對 AGI 的出現(xiàn)產(chǎn)生實(shí)質(zhì)性的減速，或者如果有減速，也不會(huì)在很長一段時(shí)間內(nèi)被淘汰。

如果安全性有顯著改進(jìn)，那么稍微放慢一點(diǎn)速度也是值得的。就像我的AGI預(yù)測，我認(rèn)為雷·庫茲韋爾（Ray Kurzweil）在某個(gè)時(shí)候預(yù)測的2029年，這大致上是我猜測的時(shí)間，加減一年。所以如果AGI需要額外六個(gè)月或十二個(gè)月，那真的沒有什么大不了的。如果花費(fèi)一年的時(shí)間確保AGI的安全性，這可能是值得的，如果需要的話，但我不認(rèn)為它會(huì)導(dǎo)致實(shí)質(zhì)性的減速。

Jimmy Ba

我還可以補(bǔ)充一點(diǎn)，理解高級 AI 內(nèi)部工作原理可能是目前最有雄心壯志的項(xiàng)目之一，而且也與 x.ai 的使命相符，即理解宇宙。如果航空工程師不理解火箭的工作原理，就不可能建造出安全的火箭。對于我們的安全計(jì)劃，我們希望采取同樣的方法來處理 x.ai 。隨著 AI 在不同階段的進(jìn)展，風(fēng)險(xiǎn)也會(huì)發(fā)生變化，我們希望在各個(gè)階段都保持靈活。

Elon Musk

如果我考慮到在汽車和火箭方面，實(shí)際上使監(jiān)管規(guī)定有效的并不是監(jiān)管機(jī)構(gòu)對特斯拉和SpaceX的指示，而更多的是因?yàn)槲覀冃枰趦?nèi)部考慮這些問題，然后向監(jiān)管機(jī)構(gòu)進(jìn)行證明，這迫使我們更加深入地思考問題。通過更深入地思考問題，我們可以使其更加安全，而不是監(jiān)管機(jī)構(gòu)特別指出如何使其更加安全。這迫使我們更多地思考。

xAI 會(huì)如何與外部合作？

Christian Szegedy

無論安全性如何，我的在 Alphabet 的經(jīng)歷都非常讓人印象深刻。在涉及與其他實(shí)體合作或向他們展示我們的模型時(shí)，有很多阻礙，因?yàn)槲覀儗?nèi)部工作的任何事情都無法公開。所以我想問你，我們在這方面是否更加自由一些，或者你對與更多外部實(shí)體合作（比如學(xué)術(shù)機(jī)構(gòu)或其他研究人員）的理念是什么？

Elon Musk

是的，我當(dāng)然支持與他人合作。聽起來像是一些關(guān)于大型上市公司的擔(dān)憂，他們擔(dān)心在某種程度上會(huì)遭到尷尬或被起訴。但與公司的法律部門相比，它們的規(guī)模太小了。我們目前的法律部門是零，所以可能永遠(yuǎn)都不會(huì)有。但是，你知道，起訴上市公司是非常容易的，集體訴訟非常普遍，我認(rèn)為我們迫切需要美國的集體訴訟改革。

好的集體訴訟與壞的集體訴訟之間的比例已經(jīng)失衡。這實(shí)際上對消費(fèi)者來說是一種稅收。不過，這個(gè)國家在有集體訴訟的情況下也能夠生存下來。所以并不清楚我們是否真的需要這套法律體系。但是，這確實(shí)是大型上市公司的一個(gè)主要問題。所以我們會(huì)盡量與他人合作，并且通常會(huì)保持開放。

實(shí)際上，如果你在快速創(chuàng)新，那才是真正的競爭優(yōu)勢，創(chuàng)新的速度是競爭優(yōu)勢，而不是任何單一的創(chuàng)新。事實(shí)上，SpaceX 幾乎沒有專利，而且特斯拉開放專利，允許他人免費(fèi)使用我們的專利。

只要 SpaceX 和特斯拉繼續(xù)快速創(chuàng)新，這就是對抗競爭的真正防線，而不是憑借專利或試圖隱藏東西。我們發(fā)布了專利，將其開源，以便成為掃雷者。我們?nèi)匀粫?huì)被專利流氓起訴，這真的很惱人，但我們實(shí)際上確實(shí)發(fā)布了專利并開源了它們，這就像是一個(gè)掃雷者。

xAI 與OpenAI 差異，以及 Optimus

Walter Isaacson

自從三月以來，關(guān)于 AI 的討論主要集中在大型語言模型和生成式 AI 上，而你和我在書中也討論了實(shí)際應(yīng)用的重要性，包括 Optimus 和特斯拉 FSD（全自動(dòng)駕駛）。你認(rèn)為 x.ai 在實(shí)際應(yīng)用的 AI 中扮演著怎樣的角色，與 OpenAI 所做的有何區(qū)別？而且你通過實(shí)現(xiàn) FSD 而在某種程度上占據(jù)了優(yōu)勢，對嗎？

Elon Musk

沒錯(cuò)。特斯拉在實(shí)際應(yīng)用的 AI 方面是領(lǐng)先者，我認(rèn)為領(lǐng)先的優(yōu)勢相當(dāng)大。實(shí)際上，特斯拉在實(shí)際應(yīng)用的 AI 方面的進(jìn)展程度并不被人們充分了解。是的。由于我與特斯拉的 AI 團(tuán)隊(duì)花了很多時(shí)間，所以我比較了解實(shí)際應(yīng)用的 AI 是如何實(shí)現(xiàn)的。與特斯拉進(jìn)行合作可以帶來很多好處。

我認(rèn)為雙向合作都可以讓 x.ai 對特斯拉有所幫助，反之亦然。我們也有一些合作關(guān)系，比如我們的材料科學(xué)團(tuán)隊(duì)，我認(rèn)為可能是世界上最好的團(tuán)隊(duì)之一，實(shí)際上是特斯拉和 SpaceX 共享的。這對于招募世界上最好的工程師非常有幫助，因?yàn)樵谙冗M(jìn)的電動(dòng)汽車和火箭上工作會(huì)更有趣，而不僅僅是其中之一。

我認(rèn)為這是非常重要的一件事。在特斯拉，我們獲得了一些非常重要的見解，努力理解實(shí)際應(yīng)用的 AI ,我們將視頻輸入轉(zhuǎn)化為向量空間，最終輸出方向盤和踏板控制，還有 Optimus。

Elon Musk

在那之后，我們?nèi)匀惶幱谠缙陔A段。但是 Optimus，我們絕對需要非常小心，一旦 Optimus 規(guī)模化投入生產(chǎn)，必須有一種硬編碼的方法來關(guān)閉 Optimus，這是顯而易見的。所以我們會(huì)確保 Optimus 很容易被關(guān)閉。這非常非常重要。因?yàn)橹辽佘囎邮侵悄艿模辽偎梢耘罉浠蛘呱蠘翘荩?Optimus 可以跟著你進(jìn)樓里。所以我們對于安全性必須非常小心，任何可以跟隨人進(jìn)入建筑物的機(jī)器人都是智能的且聯(lián)網(wǎng)的。

AI 的影響力與民主化

Kyle Kosic

我想談一下 AI 的影響力，作為一種手段，它如何為各行各業(yè)的人類提供平等的機(jī)會(huì)，以及民主化的重要性，這與我們的使命陳述相關(guān)。如果你想想人類的歷史，以及對信息的獲取，印刷術(shù)出現(xiàn)之前，人們很難獲得新形式的知識。能夠?yàn)槿藗兲峁┻@種溝通水平在財(cái)富和機(jī)會(huì)不平等方面具有巨大的降低作用。

我們真的處在一個(gè)社會(huì)發(fā)展的新的轉(zhuǎn)折點(diǎn)上，我們要讓每個(gè)人都有同樣的潛力獲得偉大的成果，無論你在生活中處于什么位置。當(dāng)我們談?wù)撊コ枷氲膲艛啵⒖刂七@種技術(shù)不受付費(fèi)訂閱服務(wù)的限制，甚至更糟的是受到可能隨之而來的資本提供模型的政治審查的控制，我們真的是在談?wù)搶⑷藗兊臋C(jī)會(huì)民主化，不僅僅是改善他們的生活狀況，而且是以前所未有的方式提升他們在世界上的社會(huì)地位。

所以，當(dāng)我們談?wù)撜鎸?shí)性的重要性，以及能夠可靠地信任這些模型，從中學(xué)習(xí)并取得科學(xué)和社會(huì)進(jìn)步時(shí)，我們真的是在談?wù)摳纳迫藗兊纳钯|(zhì)量，改善每個(gè)人的生活，而不僅僅是硅谷頂級科技人員能夠接觸到它。這真的是要讓每個(gè)人都能夠獲得這種機(jī)會(huì)。我認(rèn)為這是我們整個(gè)團(tuán)隊(duì)共同分享的使命。

Igor Babuschkin

Elon ，最后一個(gè)問題。假設(shè) x.ai 在構(gòu)建出人類級別甚至超越人類級別的 AI 方面取得成功，你認(rèn)為讓公眾參與公司的決策是否合理？你對此的長期發(fā)展有何看法？

Elon Musk

對于一切，我認(rèn)為我們非常愿意接受批評性的反饋，并且我們應(yīng)該被批評。那是一件好事。實(shí)際上，我喜歡 Twitter 這種東西的其中一個(gè)原因就是， Twitter 上有很多負(fù)面反饋，對于自我壓縮是有幫助的。

所以，我現(xiàn)在能想到的最好的事情是，任何一個(gè)想要對 AI 的未來發(fā)表意見的人最終都不應(yīng)該被允許這樣做，基本上人類只要你能驗(yàn)證自己是真正的人類，那么任何希望在實(shí)際上的未來發(fā)表意見的人都應(yīng)該被允許擁有選票，是的，也許需要支付一些象征性的費(fèi)用，比如10美元之類的，我不知道，10美元并且證明你是人類。然后你就可以投票了，你知道嗎？

對于任何感興趣的人來說，這是我現(xiàn)在至少能想到的最好的事情。好了，很酷，在這個(gè)問題上參與進(jìn)來，我們將隨時(shí)向你告知我們?nèi)〉玫娜魏芜M(jìn)展，我期待很多優(yōu)秀的人加入團(tuán)隊(duì)。

本文為專欄作者授權(quán)微新創(chuàng)想發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表微新創(chuàng)想立場，轉(zhuǎn)載請聯(lián)系原作者。如有任何疑問，請聯(lián)系http://www.i0562.net/。