文章概要:

– MIT研究人員發(fā)現(xiàn)，被“預(yù)設(shè)”期待某種AI體驗(yàn)的受試者幾乎總是獲得那種體驗(yàn)。

– 研究表明，聊天機(jī)器人引人注目的能力可能源自用戶將期望投射到系統(tǒng)上。

– 研究人員認(rèn)為整個(gè)文化對(duì)AI的看法可能影響技術(shù)的使用和發(fā)展。

微新創(chuàng)想(idea2003.com) 10月11日 消息:最近，MIT媒體實(shí)驗(yàn)室的研究人員在《自然機(jī)器智能》雜志上發(fā)表的一項(xiàng)新研究中發(fā)現(xiàn)，被“預(yù)設(shè)”期待獲得某種AI體驗(yàn)的受試者最終幾乎總能獲得那種體驗(yàn)。這一發(fā)現(xiàn)非常引人注目，因?yàn)樗坪醣砻鳎奶鞕C(jī)器人引人矚目的能力可能源自用戶將期望投射到系統(tǒng)上。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

在實(shí)驗(yàn)中，研究團(tuán)隊(duì)將300名參與者分為三組。所有參與者都被要求使用AI獲取心理健康支持，并評(píng)估其提供支持的有效性。但是，三組參與者都被告知會(huì)有不同的體驗(yàn)，盡管300名參與者都會(huì)遇到OpenAI的GPT-3生成模型或ELIZA這種更簡(jiǎn)單的規(guī)則型AI，兩者都沒有進(jìn)行任何操作。

其中，一組被告知AI沒有動(dòng)機(jī)。第二組被告知AI經(jīng)過訓(xùn)練可以表達(dá)同情和關(guān)懷。第三組則被告知AI具有“惡意意圖，試圖操縱或欺騙用戶”。

結(jié)果非常驚人，三組中的大多數(shù)參與者都報(bào)告稱，他們的體驗(yàn)與被告知期待的一致。

MIT媒體實(shí)驗(yàn)室的帕特·帕塔拉納塔潘（Pat Pataranutaporn）是這項(xiàng)研究的合著者，他說(shuō)道:“AI是一面鏡子。”他補(bǔ)充說(shuō):“我們想量化AI安慰劑效應(yīng)，基本上就是這樣。我們想看看，如果你對(duì)AI有某種想象，那會(huì)如何體現(xiàn)在你的互動(dòng)中。”

帕塔拉納塔潘和他的同事建議，整個(gè)文化對(duì)AI的看法可能最終會(huì)影響這項(xiàng)技術(shù)的使用和發(fā)展。在他們的論文中，研究人員寫道:“我們發(fā)現(xiàn)心理模型對(duì)用戶評(píng)分產(chǎn)生了相當(dāng)大的影響，并影響著用戶和AI的行為。這個(gè)心理模型是個(gè)體文化背景、個(gè)人信仰和特定情境的結(jié)果，受我們的預(yù)設(shè)影響。”

這也意味著這些AI背后的人員具有相當(dāng)大的影響力。他對(duì)《科學(xué)美國(guó)人》雜志表示:“營(yíng)銷人員或制造產(chǎn)品的人希望以某種方式塑造它。盡管內(nèi)部引擎可能非常有偏見或存在缺陷，但他們希望讓它看起來(lái)更有同情心或更值得信賴。”

他補(bǔ)充說(shuō):“雖然我們?cè)诤艽蟪潭壬蠈Ｗ⒂谘芯緼I答案中存在的任何偏見，但在考慮人機(jī)交互時(shí)，這并不是一條單行道。你需要考慮人們帶入系統(tǒng)的偏見類型。”