?劃重點:

1. AI專家集結呼吁政府監管:杰弗里·辛頓、尤瓦爾·赫拉利等AI權威提出“三分之一投資規則”，強調AI的倫理和安全。

2. 國際AI安全峰會前發布共識:專家呼吁政府對AI風險采取民主監管，避免信息誤導、社會不公和權力集中等問題。

3. 加強對高級AI系統的監管:專家認為高級AI系統的能力增強必須伴隨安全措施，與快速發展的技術同步。

微新創想（idea2003.com）10月27日 消息:一篇由杰弗里·辛頓、尤瓦爾·赫拉利等聯合撰寫的論文呼吁全球政府采取具體監管措施，以規范AI的發展和應用。

這些專家包括三位圖靈獎得主、一位諾貝爾獎得主以及眾多AI學者，他們敦促各國政府采取緊急行動，提出了“三分之一投資規則”，要求主要從事AI系統開發的組織至少投入三分之一的資源來確保AI的安全和倫理使用，這一承諾與他們在能力開發上的投資水平相當。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

杰弗里·辛頓，被廣泛認為是最有影響力的AI科學家之一，表示:“有些公司計劃在18個月內用比今天最先進技術多100倍的計算來訓練模型。沒有人知道它們將有多強大。而且對于它們將能夠做什么基本上沒有監管。”

在倫敦舉行首屆國際AI安全峰會之前，這些專家發布了一份簡明的文件，概述了政府應如何應對與AI相關的風險。這份文件代表了迄今為止來自頂尖AI學者的最具切實性和全面性的一攬子要求。

這份文件強調了當前的AI模型具有巨大的影響力，需要民主監管以防范潛在風險，包括AI生成的虛假信息、社會不公、權力集中、網絡戰爭和失控等問題。

文件的一位作者、計算機科學家尤瓦爾·赫拉利強調了這些措施的緊迫性，鑒于AI技術的快速發展。他表示:“是時候認真對待高級AI系統了。這些不是玩具。在了解如何使它們安全之前增強它們的能力是極其魯莽的。公司會抱怨難以滿足監管，聲稱‘監管扼殺創新’，這是荒謬的。對于AI公司來說，比三明治店更多的監管是必要的。”