微新創(chuàng)想(idea2003.com) 7月27日消息:谷歌、微軟等四家領(lǐng)先的人工智能公司于周三宣布成立了一個(gè)新的行業(yè)組織，旨在確定最佳的安全實(shí)踐，并推動(dòng)該技術(shù)在應(yīng)對(duì)重大社會(huì)挑戰(zhàn)方面的應(yīng)用。

該組織強(qiáng)調(diào)，在政策制定者制定新規(guī)則之前，該行業(yè)可能需要繼續(xù)自我監(jiān)管。

Anthropic、谷歌、微軟和OpenAI稱這個(gè)名為Frontier Model Forum（前沿模型論壇）的新組織有四個(gè)主要目標(biāo)，谷歌在一篇博文中概述了這些目標(biāo)：

1. 推進(jìn)AI安全研究，促進(jìn)前沿模型的負(fù)責(zé)任開發(fā)，最小化風(fēng)險(xiǎn)，并實(shí)現(xiàn)對(duì)能力和安全性的獨(dú)立、標(biāo)準(zhǔn)化評(píng)估。

2. 確定前沿模型的負(fù)責(zé)任開發(fā)和部署的最佳實(shí)踐，幫助公眾了解技術(shù)的性質(zhì)、能力、局限性和影響。

3. 與政策制定者、學(xué)者、民間社會(huì)和公司合作，共享有關(guān)信任和安全風(fēng)險(xiǎn)的知識(shí)。

4. 支持開發(fā)能夠應(yīng)對(duì)社會(huì)最大挑戰(zhàn)的應(yīng)用程序，例如氣候變化緩解和適應(yīng)、早期癌癥檢測(cè)和預(yù)防以及打擊網(wǎng)絡(luò)威脅。

滿足若干標(biāo)準(zhǔn)的組織可以加入該組織。這些標(biāo)準(zhǔn)包括開發(fā)或部署前沿模型，即“大規(guī)模的機(jī)器學(xué)習(xí)模型超越了目前最先進(jìn)的現(xiàn)有模型的能力，并能執(zhí)行各種各樣的任務(wù)，”谷歌在博文中表示。他們還必須通過技術(shù)和機(jī)構(gòu)方法表現(xiàn)出對(duì)安全的承諾。

該組織表示，在未來幾個(gè)月內(nèi)，將組建一個(gè)多樣化背景的咨詢委員會(huì)來指導(dǎo)其優(yōu)先事項(xiàng)。創(chuàng)始公司將咨詢民間社會(huì)組織，以制定其治理設(shè)計(jì)和資金籌集。

此舉發(fā)生在政策制定者權(quán)衡何種適當(dāng)?shù)募夹g(shù)監(jiān)管措施，同時(shí)又不會(huì)阻礙創(chuàng)新并讓該國(guó)在AI競(jìng)賽中失去優(yōu)勢(shì)。

參議院多數(shù)黨領(lǐng)袖查克·舒默（D-N.Y.）一直在帶頭努力制定一個(gè)AI立法框架，而其他很多涉及技術(shù)影響不同方面的法案已經(jīng)被提出。白宮還一直在與行業(yè)領(lǐng)袖和AI專家舉行會(huì)議，并最近宣布領(lǐng)先企業(yè)同意自愿承諾安全開發(fā)AI。

谷歌和 Alphabet 全球事務(wù)總裁肯特·沃克 (Kent Walker) 表示：「我們很高興與其他領(lǐng)先公司合作，分享技術(shù)專業(yè)知識(shí)，以促進(jìn)負(fù)責(zé)任的人工智能創(chuàng)新。我們都需要共同努力，確保人工智能造福每個(gè)人。」

微軟副董事長(zhǎng)兼總裁 Brad Smith 表示：「創(chuàng)造人工智能技術(shù)的公司有責(zé)任確保其安全、可靠并始終處于人類控制之下。這一舉措是將科技行業(yè)聚集在一起，負(fù)責(zé)任地推進(jìn)人工智能并應(yīng)對(duì)挑戰(zhàn)，使其造福全人類的重要一步。」

OpenAI 全球事務(wù)副總裁 Anna Makanju 表示：「先進(jìn)的人工智能技術(shù)具有給社會(huì)帶來深遠(yuǎn)影響的潛力，而實(shí)現(xiàn)這一潛力的能力需要監(jiān)督和治理。至關(guān)重要的是，人工智能公司——尤其是那些致力于最強(qiáng)大模型的公司——必須在共同點(diǎn)上保持一致，并推進(jìn)深思熟慮且適應(yīng)性強(qiáng)的安全實(shí)踐，以確保強(qiáng)大的人工智能工具擁有盡可能廣泛的利益。這是一項(xiàng)緊迫的工作，本論壇完全有能力迅速采取行動(dòng)，以提高人工智能安全水平。」

Anthropic 首席執(zhí)行官 Dario Amodei 表示：「Anthropic 相信人工智能有潛力從根本上改變世界的運(yùn)作方式。我們很高興與行業(yè)、民間社會(huì)、政府和學(xué)術(shù)界合作，促進(jìn)該技術(shù)的安全和負(fù)責(zé)任的開發(fā)。前沿模型論壇將在協(xié)調(diào)最佳實(shí)踐和分享前沿人工智能安全研究方面發(fā)揮至關(guān)重要的作用。」