鳳凰網(wǎng)科技訊《AI前哨》北京時(shí)間7月6日消息，ChatGPT開(kāi)發(fā)商O(píng)penAI周三宣布，公司計(jì)劃投入大量資源，并組建一支新的研究團(tuán)隊(duì)，以確保其人工智能(AI)對(duì)人類是安全的，最終實(shí)現(xiàn)AI的自我監(jiān)督。

OpenAI聯(lián)合創(chuàng)始人伊利亞蘇斯克維爾(Ilya Sutskever)和AI一致性問(wèn)題主管簡(jiǎn)萊克(Jan Leike)周三在一篇博客文章中寫(xiě)道：“超級(jí)智能的巨大力量可能……導(dǎo)致人類被剝奪權(quán)力，甚至人類滅絕。目前，我們還沒(méi)有一個(gè)解決方案來(lái)操控或控制一個(gè)潛在的超智能AI，并防止它不受控制。”AI一致性(alignment)指的是AI的行為符合設(shè)計(jì)者的利益和預(yù)期目標(biāo)。

他們?cè)诓┪闹蓄A(yù)測(cè)，比人類更聰明的超智能AI可能在這個(gè)十年(2030年前)就會(huì)到來(lái)，人類將需要比目前更好的技術(shù)來(lái)控制超智能AI，因此需要在所謂的“一致性研究”方面取得突破。“一致性研究”的重點(diǎn)是確保AI對(duì)人類有益。

OpenAI發(fā)表的防AI失控博文

OpenAI承諾，將拿出未來(lái)四年所獲算力的20%用于解決AI失控的問(wèn)題。此外，該公司正在組建一個(gè)新的團(tuán)隊(duì)來(lái)組織這項(xiàng)工作，并將其稱之為超級(jí)一致性團(tuán)隊(duì)。該團(tuán)隊(duì)的目標(biāo)是創(chuàng)建一個(gè)“人類水平”的AI研究人員，然后借助大量算力擴(kuò)大這項(xiàng)努力。OpenAI表示，這意味著他們將使用人類反饋信息來(lái)訓(xùn)練AI系統(tǒng)，訓(xùn)練AI系統(tǒng)來(lái)輔助人類評(píng)估，然后最終訓(xùn)練AI系統(tǒng)開(kāi)展一致性研究。

不過(guò)，AI安全擁護(hù)者康納萊希(Connor Leahy)表示，OpenAI的計(jì)劃從根本上存在缺陷，因?yàn)榭蛇_(dá)到“人類水平”的初級(jí)版AI可能會(huì)在被用于解決AI安全問(wèn)題之前失控并造成嚴(yán)重破壞。“在構(gòu)建人類水平的智能之前，你必須先解決一致性問(wèn)題，否則你無(wú)法控制它，這是可以默認(rèn)的。我個(gè)人認(rèn)為這不是一個(gè)特別好或安全的計(jì)劃。”萊希表示。

另外，分析公司Similarweb的數(shù)據(jù)顯示，在去年11月推出便火爆全球后，ChatGPT網(wǎng)站的月度流量和獨(dú)立訪客數(shù)量在今年6月份首次出現(xiàn)下降。Similarweb稱，ChatGPT網(wǎng)站的全球桌面和移動(dòng)流量在6月份環(huán)比下降了9.7%，獨(dú)立訪客數(shù)量環(huán)比下降了5.7%，訪客在該網(wǎng)站上停留的時(shí)間也下降了8.5%。鳳凰網(wǎng)科技《AI前哨》對(duì)此將持續(xù)關(guān)注。