Mozilla 的生成式人工智能工具「AI Help」被開發(fā)者們吐槽而暫停使用
站長之家(ChinaZ.com) 7月6日消息:前身為 Mozilla 開發(fā)者網(wǎng)絡(luò)(Mozilla Developer Network)的 MDN Web Docs 是一個為網(wǎng)頁開發(fā)者提供學(xué)習(xí)資源的文檔存儲庫。該網(wǎng)站致力于成為「由開發(fā)者為開發(fā)者」提供可靠信息的來源,但 Mozilla 現(xiàn)在決定將其提供給生成式人工智能算法使用,而開發(fā)者們對此并不滿意。
圖片來自Mozilla
Mozilla 最近宣布了 AI Help,這是一個基于生成式人工智能的工具,旨在成為開發(fā)者在 MDN Web Docs 上尋找答案時的新「問題解決伴侶」。自 2005 年以來,該網(wǎng)站托管了關(guān)于 css、html、JavaScript 和其他網(wǎng)頁技術(shù)的文檔,實際上已成為一個權(quán)威的資源,有來自志愿者、微軟、谷歌等大公司以及 Mozilla 自己的貢獻(xiàn)。
自 2017 年以來,MDN 還承載了三星的所有網(wǎng)頁文檔,因為這家韓國公司決定關(guān)閉自己的文檔項目。當(dāng) Mozilla 決定為 MDN 帶來一些意想不到的重大補充時,開發(fā)人員可能會以不可預(yù)測且熱情的方式做出反應(yīng)。
據(jù) MDN 主管 Hermina Condei 表示,AI Help 的構(gòu)想是為了優(yōu)化開發(fā)者的搜索流程,使他們能夠「快速輕松」地找到所需的信息。AI Help 使用 OpenAI 的 API 將提示信息傳輸給 ChatGPT,生成式人工智能應(yīng)該從 MDN 的綜合文檔存儲庫中檢索出「最相關(guān)的信息」。
眾所周知,生成式人工智能不應(yīng)被視為任何類型信息的可靠來源。該算法沒有智能,對任何事物都沒有意識,它只是將單詞組合在一起,試圖找到對用戶文本提示最具統(tǒng)計學(xué)意義的回答。
Mozilla 要求人們對 AI Help 的引入提供反饋,而開發(fā)者們也紛紛作出了回應(yīng)。
一個為 MDN 服務(wù)提供支持的平臺代碼 Yari 的 GitHub 問題清楚地描述了目前這個「AI Help」功能的糟糕狀態(tài)。開啟該問題的開發(fā)者「Eevee」將生成式人工智能功能描述為技術(shù)參考中的「奇怪決定」,其中人類般的回答「可能是偶然的正確答案,也可能包含令人信服的虛假信息」。
更多開發(fā)者參與了討論,將 AI Help 描述為「萬金油」,因為正如 Eevee 所描述的那樣,它對于實際的網(wǎng)頁文檔毫無用處,甚至更糟。最溫和的評論認(rèn)為,AI Help 功能可能會造成「比可能帶來的幫助更多的傷害」,而其他不那么同情的開發(fā)者則迅速將該功能視為「嚴(yán)重誤導(dǎo)」和大規(guī)模產(chǎn)生錯誤信息的「錯誤添加」,就像其他所有 LLM 應(yīng)用程序一樣。
閱讀 Yari 問題的內(nèi)容,你會發(fā)現(xiàn)似乎沒有人喜歡生成式人工智能算法回答關(guān)于實際網(wǎng)頁文檔的問題的想法。最后,一位名為「sideshowbarker」的 MDN 核心維護(hù)者表示,AI Help 似乎是 Mozilla 自行決定而沒有向其他 MDN 相關(guān)方提前「給出任何提示」的東西。
sideshowbarker 指出,這個新的 AI 功能是一個「極為糟糕的想法」,他承諾將在 Mozilla 內(nèi)部「盡我所能」將問題升級,爭取盡快將其刪除?,F(xiàn)在,AI Help 按鈕已被暫停,暫時不再可用。