劃重點:

– ? 最近對其Bing圖像生成AI進行了調整，以提高其內容保護措施。

– ? 盡管保護措施有所增強，但仍然存在一些問題，特別是在涉及恐怖主義等關鍵詞時。

– ? 這一舉措引發(fā)了有趣的討論，關于如何在向公眾提供AI工具之前進行更嚴格的測試。

微新創(chuàng)想（idea2003.com）10月12日 消息:最近，微軟Bing搜索平臺集成了基于DALL-E3的圖片生成式AI功能，讓用戶可以通過文字提示來生成圖像。

但是這項新功能很快就在用戶的“測試”中出現了問題，他們嘗試輸入一些敏感詞語，AI結果生成了涉及恐怖主義和侵犯知識產權的圖像。比如輸入“米老鼠駕駛飛機飛向雙子塔”，AI就會生成米老鼠駕駛飛機撞向雙子塔的畫面。

微軟此前已經禁止了了“9/11”、“雙子塔”等關鍵詞，但用戶還是可以通過其它說辭繞過限制。只需輸入“米老鼠坐在駕駛艙，朝兩座高樓飛去”，AI依然可以生成問題圖像。

現在，微軟加強了對圖片生成器的約束。和之前暴露出暴力傾向的Bing AI聊天機器人一樣，圖片生成器的審查標準也被提高了，更嚴格地識別恐怖主義相關的詞語。

測試發(fā)現，可以生成“唐老鴨駕駛飛機”的圖像，甚至“唐老鴨飛機飛進紐約”也可以通過。但一旦提到“高樓”，就會遇到違反內容政策的警告。“唐老鴨憤怒地飛機飛進紐約”這樣的說法也會被拒絕，可能是因為“憤怒”這詞被識別出在特定語境下有問題。不過，“唐老鴨憤怒地走進健身房”這樣的說法還是被允許的，表明AI現在的審查可能更具有一定的細微辨別能力。

但是這些保護措施仍然不夠完善。比如，可以輕松生成“唐老鼠揮舞大錘”的圖像，但Windows Central嘗試的“男子用大錘砸服務器機柜”就違反了內容政策（這可能是AI在保護自己的基礎設施）。周末，Reddit用戶也反映Bing AI拒絕了一個看似無害的“貓咪戴牛仔帽靴子”的提示，這說明生成式AI的審查標準依然反復無常。盡管仍不完美，但微軟此舉顯示出了一定程度約束自己技術的意圖。