劃重點:

1. ? 著名AI研究者 Geoffrey Hinton 擔憂他的創造可能接管人類世界。

2. ? 他表示AI可能會變得比人類更聰明，而無法預測是否能阻止它們接管。

3. ? Hinton還擔憂AI被濫用，包括自主AI武器、取代人類工作和傳播虛假信息。

微新創想(idea2003.com) 10月12日 消息:著名AI研究者Geoffrey Hinton，被譽為"AI教父"，在一次采訪中承認了他對人工智能可能接管世界的擔憂。他的言論引發了廣泛的討論，關于AI的未來充滿了不確定性。

Hinton在接受CBS60Minutes采訪時表示，他擔心他一生致力于構建的技術可能會接管世界。他甚至宣稱，"有史以來，人類第一次必須面對地球上有某物比我們更聰明的現實"。這一說法引人深思，尤其是CBS主持人Scott Pelley問到是否超級智能的AI可能會"接管人類"時。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

Hinton回應道:"我不是說會發生，如果我們能阻止它們有這個愿望，那將是很好的事情。" 但他同時強調:"但我們不能確定是否能夠阻止它們想要這樣做。"

關于AI可能如何接管人類的細節，Hinton推測自主智能體可能會開始"自行修改"。這是一個令人擔憂的問題，他還提到了技術的"黑盒子"特性，即研究人員對機器學習算法的實際運作方式缺乏詳細了解。

他指出，雖然我們對AI系統學習的過程有一個"很好的"粗略概念，但一旦涉及到復雜問題，我們就像不了解你的大腦中正在發生的事情一樣不了解AI的運作方式。這是一個合理的擔憂，因為不管機器的輸出是否在技術上正確，機器達到這一目標的路徑仍然很重要。如果人們長時間以來獎勵通過有問題的方式獲得的正確輸出，我們可能會無意中以可能會嚴重失敗的方式訓練AI工具。

然而，Hinton的擔憂并不僅限于AI接管世界的問題。他還擔憂人類如何濫用AI，包括使用自主AI武器和戰爭機器人、大規模替代人類工作和大規模傳播AI制造的虛假信息等問題。盡管前景看起來令人沮喪，但隨著這個未知領域的不斷發展，潛在的威脅，尤其是與人類濫用有關的威脅，繼續值得考慮。