編者按：本文來自微信公眾號 中國企業(yè)家雜志（ID：ciweigongshe），整理：吳瑩，微新創(chuàng)想經(jīng)授權發(fā)布。

7月24日，OpenAI首席執(zhí)行官山姆·阿爾特曼（Sam Altman，下稱“阿爾特曼”）上線了研發(fā)多年的加密貨幣項目世界幣（WorldCoin），再次引發(fā)廣泛關注。阿爾特曼正在像他宣稱的那樣，為人類在AI世界中更好生活不斷努力。

3個月前，山姆·阿爾特曼和OpenAI聯(lián)合創(chuàng)始人格雷格·布羅克曼（Greg Brockman，下稱“布羅克曼”）一起接受了美國播客的采訪。訪談中，兩位OpenAI的核心人物都闡述了自己的AI觀，此外，他們還探討了AI對各行各業(yè)的影響、安全問題以及他們在AI之外的投資布局。

兩人在闡述OpenAI的愿景時，不約而同地提出他們想要開發(fā)對全人類有益并安全的AGI（通用人工智能）。對熱議的AI安全問題，他們也承認了風險并表示在努力克服這些問題。另外，兩人還談到了在其他領域的投資，如阿爾特曼對清潔能源行業(yè)特別感興趣，而布羅克曼則是對醫(yī)療和教育行業(yè)頗感興趣。

以下是訪談的精彩觀點：

1.我們正在努力為全人類開發(fā)有益、安全的通用人工智能。

2.從根本上說，我們想的是為每個人提供這種技術，消除他們創(chuàng)造、完成新任務的障礙，并推動人類解決他們真正感興趣的問題。

3.我們不再只停留在擁有原始知識的階段，而是向第二階段前進——引導機器執(zhí)行我們下達的任務，并根據(jù)社會價值觀進行操作。

4.我們建立了一種文化——真正關注細節(jié)，并努力確保細節(jié)正確，吸引那些想要以這種方式工作的人進行非常仔細的工程設計和科學研究。

5.我認為豐富清潔的能源不僅能解決氣候危機，還能帶來其他方面的好處，投資能源是比投資我能想到的任何其他單一投入更重要的一件事。為從根本上改變能源獲取成本提供資金，是一件偉大的事情。

6.AI對每個人來說都是生產(chǎn)力工具，將使我們最好的科學家變得更好，促進科學研究的進步。

未來3～10年，AI將影響哪些行業(yè)

主持人：我們先從最基礎的問題開始，可以簡單介紹一下你們OpenAI的使命是什么嗎？你們做所有決策的目的是什么？

阿爾特曼：我們正在努力為全人類開發(fā)有益、安全的通用人工智能。這是一個前所未有的項目，我清楚做這件事的困難程度，一路上我們會犯很多錯誤，但這是我們堅持的方向。我堅信AI將是人類迄今為止開發(fā)出的最具變革性的技術，在某種程度上，它將會幫助我們開發(fā)未來所有的技術，前景光明。

布羅克曼：大約在8年前，我們創(chuàng)辦了OpenAI，當時我真的相信人工智能會出現(xiàn)，也清楚要實現(xiàn)它需要很長時間，不過一想到我們有機會影響這項技術的發(fā)揮，就覺得很興奮。我們的愿景是AGI對全人類有益，并且我們在嘗試用各種方式實現(xiàn)這一目標。

一開始我們有這樣的理想，但不知如何與實際行動結合起來，經(jīng)過多年的努力，我們弄清楚了如何建構一個真正有用的系統(tǒng)，如何將我們的價值觀融入到這個系統(tǒng)中。在過去的幾個月里，我們的技術慢慢成為主流，人們開始從我們的技術中獲得好處，我們感到很高興。這項技術仍然處于早期階段，要做的事情還有很多，不過我們堅信，應該讓每個人都參與其中，獲得發(fā)言權。弄清楚如何真正實現(xiàn)有效的全球治理，這與技術開發(fā)是同等重要的。

主持人：現(xiàn)在全球大約有10億人屬于經(jīng)濟條件優(yōu)越的中產(chǎn)階級，他們也正在自由地使用AI幫助自己工作和學習，那么AI要如何造福剩下的70億人呢？

布羅克曼：我們開發(fā)的AI有一個重要特征，那就是不設置訪問限制，每個人都能接觸和使用這項技術，將他們的偏好和反饋輸入到該系統(tǒng)中，用來改善他們的生活，這是我們開發(fā)這項技術的初衷。

現(xiàn)在有很多關于這項技術將如何發(fā)揮作用的問題。我們公司的結構比較特殊，是一家非營利性組織，因此，如果資本高度集中到OpenAI中，那它并不會由股東持有，而是歸公司所有，并最終向全世界分配。當利潤向全世界分配的時候，就可以考慮UBI（Universal Basic Income，全民基本收入），并以這種方式分配資源。從根本上說，我們想的是為每個人提供這種技術，消除他們創(chuàng)造、完成新任務的障礙，并推動人類解決他們真正感興趣的問題。

阿爾特曼：所有真正可持續(xù)的經(jīng)濟增長都來自技術進步，而社會政治管理和文化，可以幫助我們實現(xiàn)技術進步。因此，我們正在推進如何去幫助剩下的70億人，未來我們的技術還會更進一步，我相信技術是提升每個人生活質量的關鍵。

主持人：AI在教育領域可以帶來什么助力？

布羅克曼：如果我沒有創(chuàng)辦一家AI公司，可能就會去開一家編程教育公司。試想一下，如果未來能夠為孩子們提供一位真正了解他們的老師，愿意花時間去了解他們，知道怎樣去激勵他們，且這位老師是全天候免費服務的，這聽起來是不是非常棒。

你可以看看像可汗學院（Khan Academy，一家非營利教育機構）之類的機構，他們確實開始采用GPT-4并將其運用到課堂上，而且他們弄清楚了如何引導這項技術，使其成為一個有用的導師。如果孩子們對它提出“幫我做作業(yè)”的要求時，它會說“不，我不能這么做”。并且還會試圖去弄清楚孩子們對什么感興趣以及如何真正激勵他們去做更多的事情，現(xiàn)在我們正在進入何如充分使用它的階段。

主持人：很多人可能會說現(xiàn)在已經(jīng)有了可汗學院，還有很多線上課程，而你們提出來的都還只是設想，并沒有實際的產(chǎn)品。你們覺得那些沒有受過教育的人還需要你們的產(chǎn)品嗎？

布羅克曼：我們目前接受教育的方式是通過那些聰明的人，他們教會我們知識和解決問題的方法，那未來，如果有一臺機器可以做到比人還聰明，是不是會更方便。我們已經(jīng)開發(fā)了很多虛擬助手，像Alexa（亞馬遜公司推出的智能助理）和Siri（蘋果推出的AI助理），但對于一些需要大腦思考的問題，目前做的還是不夠，我們需要更先進的技術去增強我們思考和解決問題的能力。

毫無疑問，像GPT-4的功能讓所有人都看到了，我們不再只停留在擁有原始知識的階段，而是向第二階段前進——引導機器執(zhí)行我們下達的任務，并根據(jù)社會價值觀進行操作。所有這些技術都是我們正在研究和開發(fā)的。隨著技術使用規(guī)模的不斷擴大，下一階段的技術和產(chǎn)品測試將在未來幾年進行。

主持人：未來3～10年，AI將影響哪些行業(yè)？

布羅克曼：我覺得這項技術可以應用到法律行業(yè)，通過提供法律服務可以帶來很多好處。我最喜歡GPT-3的服務是一個名為Augrented的工具，它可以幫收到驅逐通知的租戶了解里面合同問題。因為該人群中有很多人不一定有機會聘請律師，這項技術就可以幫助他們做原本無法做到的事情。這就是我們看到的非常有效的使用案例之一。

主持人：現(xiàn)在市場有一種說法是AI將人類的智力放大了，比如可以用GPT-4去寫一本書，你們對此怎么看？

阿爾特曼：我十分贊同這種說法，這也是我們竭盡所能去推動的發(fā)展方向。我看到一條讓我印象深刻的推文，有人說他從未想過自己會與像GPT-4這樣強大的智能共存。你會發(fā)現(xiàn)，自己已經(jīng)深入到了AGI領域，事實證明，構建一個真正擅長放大人類意志并讓我們變得更強大的AI是完全有可能的。這會讓我們的工作更加高效、更加出色。更重要的是，事實證明人們真的很喜歡它。對我而言，OpenAI最令我欣慰之處就是人們非常喜愛它的產(chǎn)品，并從中獲得各種意料之外的好處。

“我們是一個非常追求真理的組織”

主持人：你們OpenAI的整個團隊在研究和開發(fā)ChatGPT等AI產(chǎn)品時，有沒有遇到讓你們驚喜的時刻？

布羅克曼：第一個驚喜要追溯到2017年。當時我們產(chǎn)出了這篇名為《無監(jiān)督情感神經(jīng)元》的論文，不過并沒有得到太多關注。但這對我們來說，是真正的突破，我們確實需要追求這種范式。我們訓練了一個模型來預測亞馬遜評論中的下一個字符，它能夠學習名詞在哪里，動詞在哪里，但更令人意想不到的是，它學會了最先進的情感分析和歸類，可以告訴你評論是正面還是負面的。我們從來沒有告訴機器這些語言的意義，它是通過執(zhí)行此任務以某種方式弄清楚了它。機器學習并不完美，我們還有很長的路要走，現(xiàn)在還處于早期階段，但已經(jīng)能夠開始解決問題了。

讓更多人感受到編程的樂趣對我來說是很有意義的。以前從未編程過的人能夠進入該領域，而那些本來就優(yōu)秀的程序員可以完成更多創(chuàng)造性活動，達到這種能力和水平可以加速我們的編碼工作流程。

主持人：你能展開說說怎么加速編碼嗎？

布羅克曼：編碼過程中，我們花費了大量時間來準確記住哪些庫可以執(zhí)行你在尋找的功能，如何實施它們，以及參數(shù)到底是什么。而你想構建一個系統(tǒng)或一個應用程序，這是個高級任務，以前的Copilot（輔助編程工具）只是樣板文件，它們只死記硬背。現(xiàn)在模型開始變得更好了，如果你不太了解某種特定的編程語言，或者你不清楚一組特定的庫，該模型會很樂意提供這些。而GPT-4的有趣之處在于，它能夠指出編碼的錯誤在哪里，這些錯誤消息有時晦澀難懂，你得四處尋找答案，比如查看各種網(wǎng)站，嘗試從其他人所說的內容中拼湊出來，現(xiàn)在GPT-4就可以幫助你解決這些問題。

主持人：阿爾特曼，你感受到的驚喜是什么？

阿爾特曼：我引用一段來自Noam Shazeer（Character.AI創(chuàng)始人）的話：“我們沒有解釋為什么這些架構似乎有效，我們將這些成果歸功于上帝的仁慈。”這對我來說是一個反復出現(xiàn)的主題，我認為自己是一個經(jīng)驗主義者，我相信如果某件事有效，你做得更多，它就會變得更好。剛剛格雷格提到的“無監(jiān)督情感神經(jīng)元”是一個非常大的驚喜，現(xiàn)在的GPT-4所做的一些事情開始解釋為什么AI應該發(fā)揮作用。我完全相信AI，我認為它會走得更遠。在我們創(chuàng)辦OpenAI之前，觀察到AlexNet（卷積神經(jīng)網(wǎng)絡）結果時，我就感覺很神奇。

主持人：你們在只有幾百人的情況下，超越了世界最大的科技公司才能達到的水平，這需要付出很多努力，也還要一些運氣。我很想知道，是什么力量推動你們實現(xiàn)這一目標的？OpenAI內部有主要領導者嗎？

阿爾特曼：我們做了很多事情，有些是有意為之，有些是幸運。其中一個重要因素是，我們建立了一種文化——真正關注細節(jié)，并努力確保細節(jié)正確，吸引那些想要以這種方式工作的人進行非常仔細的工程設計和科學研究。另一個原因是我認為我們是一個非常追求真理的組織，找到有效的方法并做更多的事情。

創(chuàng)立OpenAI時，我們與該領域存在的其他人工智能研究不同，他們有不同的激勵系統(tǒng)，要考慮的事情也很分散，而我們就做出了高度集中的冒險，做了當時被認為是難以想象的事情。我們將大部分資源投入到這個項目中，雖然有風險，但我們已經(jīng)仔細研究了它，有信心可以做出成果。

布羅克曼：我的想法是從“第一原則”出發(fā)。在很早的時候，Ilya（OpenAI首席科學家）每天都會和我辯論一個小時左右。比如，我們就應該雇用誰討論了很久，是要聘請傳統(tǒng)的機器學習博士，還是雇用以前從未這樣做過的軟件工程師，抑或雇用介于這兩者之間的人？對每一個決定，我們必須看到它們的后果，然后我們會繼續(xù)學習更新。

我們無法提前知道一切，但可以從實踐中學習。就像我們開發(fā)的OpenAI-Five并不斷擴大其規(guī)模，在Dota2的游戲比賽中，完全不落下風。（注：OpenAI-Five，一個可以玩Dota2游戲的人工智能，Dota2是一款擁有大量狂熱粉絲的多人在線戰(zhàn)斗競技游戲。2018年，他們全力挑戰(zhàn)世界冠軍隊伍OG戰(zhàn)隊。）

這是我們第一個真正規(guī)模化的系統(tǒng)，隨著我們投入更多的算力，系統(tǒng)每周都會變得更好。我們的目標是耗盡現(xiàn)有算法的空間，以便我們可以進行新的算法開發(fā)，這就是我們真正想做的。當你試圖去追求這個方向時，另一個方向會拉著你向前進，并說這是有效的。對我們面前所看到的做出反應，持續(xù)更新、轉向、改變，從技術角度來看，這非常重要。

阿爾特曼：當時我們擴大了OpenAI-Five項目規(guī)模，基本上沒有人認為這能成功。事實上，你可以向AI系統(tǒng)投入任意數(shù)量的計算來達到所需的智力水平，并且這涵蓋了令人難以置信的計算范圍和智能程度，這就像一個驚人的科學發(fā)現(xiàn)。

布羅克曼：我們還研究了算法的進步，將最好的系統(tǒng)和最好的算法組合在一起，GPT-4等系統(tǒng)就誕生了。當我們思考這個問題時，就意識到如果將GPU的所有信息都輸入到新算法的供應鏈中，甚至是上傳到大規(guī)模數(shù)據(jù)處理系統(tǒng)中，那么這是個大工程，任何一家公司都沒辦法單獨辦到。從某種程度上來說，這實際上是一個全人類的項目，需要很多公司參與進來。

“AI對每個人來說都是生產(chǎn)力工具”

主持人：阿爾特曼，有人在推特上給你發(fā)了一條推文：“你接下來要說的是我們應該監(jiān)管人工智能。”你回答：“是的，我們應該監(jiān)管人工智能。”所以你如何看待很多人都說“你們行動太快了”的觀點，在監(jiān)管、全球治理或吸納人才方面你們還有什么看法？

阿爾特曼：我理解大家的焦慮和恐懼，人們對于現(xiàn)在科技變化的速度感到害怕。我們也贊同謹慎行事，要加強對人工智能的監(jiān)管，但是暫停研究是沒有意義的。

我們真正需要做的是弄清楚什么樣的監(jiān)管方法、規(guī)則和安全標準能在混亂的現(xiàn)實背景下真正發(fā)揮作用。應該保持世界變化的速度相對穩(wěn)定，而不是秘密構建AGI，然后在某個時刻立即公開它。機構不會在一夜之間變得很好，他們應該是逐漸成為科技發(fā)展的一部分，為科學研究提供關鍵反饋，告訴我們什么時候犯了愚蠢的錯誤，找到有巨大好處和潛在危害的領域，在風險低于預期時犯錯誤并吸取教訓。

布羅克曼：我們確實在努力解決這個問題。我們創(chuàng)辦OpenAI時，真正考慮的是如何開發(fā)安全的AGI，這決定是否造福于全人類。這里存在兩個問題，一個是技術安全問題，另一個是社會安全問題，要確保人工智能技術被引導安全地使用。

我比較了解技術，所以我會專注于解決第一個問題。過去四五年我們已經(jīng)開始部署，當GPT-3出現(xiàn)問題時，我們會按照GPT-3的分布方式進行修補，使用過濾器和非模型級別的干預措施。現(xiàn)在我們的技術逐漸成熟，實際上能夠進行模型級別的干預，GPT-4能夠以自動化的方式理解模型中的結果，因此在安全過濾方面做得非常出色。

主持人：人工智能的批評之一是能源的使用。阿爾特曼你認為未來不僅會有無限的智能，而且會有無限的能源，你在Helion Energy（一家清潔能源公司）上進行了大量投資，能談談你投資它的原因以及你所期待的結果嗎？

阿爾特曼：我不認為AI的未來會有無限的智能或者能源，我認為應該是不斷下降的價格和不斷增加的豐富產(chǎn)品，我們是不可能達到無限這個程度的。我覺得這些對人工智能系統(tǒng)的能源批評是一種低俗批評。我認為豐富清潔的能源不僅能解決氣候危機，還能帶來其他方面的好處，投資能源是比投資我能想到的任何其他單一投入更重要的一件事。為從根本上改變能源獲取成本提供資金，是一件偉大的事情。Helion正在努力做到這一點，我希望明年能聽到好消息。

主持人：布羅克曼我們了解到你正在投資一些醫(yī)療保健、藥物開發(fā)等領域的公司，你是怎么想的？

布羅克曼：OpenAI內部有一個基金，專門投資一些技術初創(chuàng)公司，像Ambience Healthcare（醫(yī)療領域的人工智能公司）這樣的初創(chuàng)公司實際上正在嘗試將AI應用到實際醫(yī)療活動中。甚至微軟也開始通過Nuance（人工智能軟件公司）來完成它在醫(yī)療保健行業(yè)的AI戰(zhàn)略。如果你考慮一下醫(yī)生所面臨的一系列問題，你會發(fā)現(xiàn)其中很多都是行政問題。我的父母都是醫(yī)生，我聽說過所有關于他們如何被迫用iPad與病人交談的故事。我們將進入這樣一個世界，查看Nuance即時轉錄的醫(yī)生信息，并在事后獲取醫(yī)生筆記，這樣就減少了醫(yī)生在面對患者家屬的解釋精力，醫(yī)生也能夠真正專注于患者的護理。

我們已經(jīng)從推特上看到人們使用ChatGPT看病的好處了。還有人通過ChatGPT救了他狗狗的命，報道說他去看了獸醫(yī)，獸醫(yī)并沒有及時做出治療，網(wǎng)友焦急地將醫(yī)療記錄上傳到ChatGPT上。然而，ChatGPT非常肯定地說“我不是獸醫(yī)，你需要和獸醫(yī)談談”。不過也給他了一些建議和解釋，讓他有信心去找第二位獸醫(yī)。我認為這是一個非常有趣的例子，因為他確實指出了我們希望人工智能如何介入的問題。人類在醫(yī)學領域對醫(yī)生是非常依賴的，但人類也會犯錯誤，第一個醫(yī)生做出了一個錯誤的決定，可能會產(chǎn)生致命的后果。因此要弄清楚如何讓合適的人進行正確的監(jiān)督。

主持人：你們正在通過OpenAI投資使用你們平臺的公司，這會帶來改變嗎？是否有其他公司將使用你們的API（應用程序的調用接口）？很想知道使用AI讓所有行業(yè)變得更好的最佳方式是什么？

阿爾特曼：我們現(xiàn)在看到，人們在各地調用OpenAI的API，并且隨著模型變得越來越智能，可以不斷提升產(chǎn)品和服務的能力，所以我們可以充滿信心地回答這個問題，這種情況將會繼續(xù)下去。

主持人：你們認為使用人工智能或現(xiàn)代人工智能技術將給3~10年內的科學研究帶來什么助力？

布羅克曼：華裔數(shù)學天才陶哲軒最近說GPT-4加快了他的速度。陶哲軒是一位著名的數(shù)學家，他說用GPT-4來幫助他撰寫項目申報中的資金申領，可以帶來極大的幫助，解決一些單調乏味的工作。其實人們每天都會在一些單調重復的工作中花費大量的時間和精力。世界上最聰明的人正在花費他們大量的時間從事這項不太有創(chuàng)造性的工作，那真是太浪費了。AI可以幫助他們解決這些不太重要的繁瑣工作，讓人們有精力去做真正有價值的事情，他們也能取得更多成就。

阿爾特曼：是的，我覺得AI對每個人來說都是生產(chǎn)力工具，將使我們最好的科學家變得更好，促進科學研究的進步。最終，這些系統(tǒng)可以幫助我們儲存比人類大腦更豐富的知識，并發(fā)現(xiàn)新的聯(lián)系、新的想法等。

本文為專欄作者授權微新創(chuàng)想發(fā)表，版權歸原作者所有。文章系作者個人觀點，不代表微新創(chuàng)想立場，轉載請聯(lián)系原作者。如有任何疑問，請聯(lián)系http://www.i0562.net/。