文章概要:

1. 一國外開發(fā)者2個月內(nèi)利用OpenAI工具打造AI宣傳機器，每月運營成本低于400美元

2. 項目目的是展示AI大規(guī)模生產(chǎn)虛假信息的危險

3. 開發(fā)者沒有將模型投入使用，因為它會推動假信息傳播。

微新創(chuàng)想（idea2003.com）9月4日 消息:最近，一名匿名的開發(fā)者利用OpenAI的ChatGPT等工具，在不到2個月的時間內(nèi)打造出了一個人工智能宣傳機器。這個名為“CounterCloud”的項目每月的運行成本不到400美元，突顯了進行大規(guī)模宣傳是多么廉價和簡單。

這名開發(fā)者使用了“Nea Paw”這個化名，聲稱自己是網(wǎng)絡(luò)安全專業(yè)人員。在YouTube上發(fā)布的視頻中，他描述了這個項目的實現(xiàn)過程和目的。他表示，自己希望看到AI假信息“在現(xiàn)實世界中運行”，因為大型語言模型具有閱讀和撰寫假新聞的強大語言能力。

他開始將“對立”文章輸入ChatGPT，并設(shè)定提示語指示其生成反駁文章。AI機器人會以不同風(fēng)格和觀點生成同一文章的不同版本，通過“捏造故事”、“偽造歷史事件”來質(zhì)疑原文章的準確性。為了制造真實性，還添加了新聞主播朗讀自動生成文章的音頻剪輯和照片。

在2個月內(nèi)，這個AI系統(tǒng)每天24個小時不斷的運行，“90%的時間生成令人信服的內(nèi)容。

開發(fā)者還沒有將模型投入互聯(lián)網(wǎng)使用，因為這會主動傳播虛假信息。但他認為，公開CounterCloud項目及其內(nèi)部運作機制，能更好地提醒公眾人工智能宣傳的威脅。