Mozilla 的生成式人工智能工具「AI Help」被開發者們吐槽而暫停使用
站長之家(ChinaZ.com) 7月6日消息:前身為 Mozilla 開發者網絡(Mozilla Developer Network)的 MDN Web Docs 是一個為網頁開發者提供學習資源的文檔存儲庫。該網站致力于成為「由開發者為開發者」提供可靠信息的來源,但 Mozilla 現在決定將其提供給生成式人工智能算法使用,而開發者們對此并不滿意。
圖片來自Mozilla
Mozilla 最近宣布了 AI Help,這是一個基于生成式人工智能的工具,旨在成為開發者在 MDN Web Docs 上尋找答案時的新「問題解決伴侶」。自 2005 年以來,該網站托管了關于 css、html、JavaScript 和其他網頁技術的文檔,實際上已成為一個權威的資源,有來自志愿者、微軟、谷歌等大公司以及 Mozilla 自己的貢獻。
自 2017 年以來,MDN 還承載了三星的所有網頁文檔,因為這家韓國公司決定關閉自己的文檔項目。當 Mozilla 決定為 MDN 帶來一些意想不到的重大補充時,開發人員可能會以不可預測且熱情的方式做出反應。
據 MDN 主管 Hermina Condei 表示,AI Help 的構想是為了優化開發者的搜索流程,使他們能夠「快速輕松」地找到所需的信息。AI Help 使用 OpenAI 的 API 將提示信息傳輸給 ChatGPT,生成式人工智能應該從 MDN 的綜合文檔存儲庫中檢索出「最相關的信息」。
眾所周知,生成式人工智能不應被視為任何類型信息的可靠來源。該算法沒有智能,對任何事物都沒有意識,它只是將單詞組合在一起,試圖找到對用戶文本提示最具統計學意義的回答。
Mozilla 要求人們對 AI Help 的引入提供反饋,而開發者們也紛紛作出了回應。
一個為 MDN 服務提供支持的平臺代碼 Yari 的 GitHub 問題清楚地描述了目前這個「AI Help」功能的糟糕狀態。開啟該問題的開發者「Eevee」將生成式人工智能功能描述為技術參考中的「奇怪決定」,其中人類般的回答「可能是偶然的正確答案,也可能包含令人信服的虛假信息」。
更多開發者參與了討論,將 AI Help 描述為「萬金油」,因為正如 Eevee 所描述的那樣,它對于實際的網頁文檔毫無用處,甚至更糟。最溫和的評論認為,AI Help 功能可能會造成「比可能帶來的幫助更多的傷害」,而其他不那么同情的開發者則迅速將該功能視為「嚴重誤導」和大規模產生錯誤信息的「錯誤添加」,就像其他所有 LLM 應用程序一樣。
閱讀 Yari 問題的內容,你會發現似乎沒有人喜歡生成式人工智能算法回答關于實際網頁文檔的問題的想法。最后,一位名為「sideshowbarker」的 MDN 核心維護者表示,AI Help 似乎是 Mozilla 自行決定而沒有向其他 MDN 相關方提前「給出任何提示」的東西。
sideshowbarker 指出,這個新的 AI 功能是一個「極為糟糕的想法」,他承諾將在 Mozilla 內部「盡我所能」將問題升級,爭取盡快將其刪除。現在,AI Help 按鈕已被暫停,暫時不再可用。