劃重點:

1. Bing的AI Image Creator在生成男性逼真圖像方面表現(xiàn)出色，但在生成女性圖像時卻拒絕，稱其不符合內(nèi)容政策。

2. 用戶發(fā)現(xiàn)Bing的AI存在性別相關的奇怪問題，生成女性圖像經(jīng)常被阻止，可能與訓練數(shù)據(jù)中女性被性化有關。

3. 微軟回應稱AI的拒絕是出于過度防護，但隨后放寬了對女性圖像的生成限制。

微新創(chuàng)想(idea2003.com) 10月27日 消息:微軟的Bing AI Image Creator最近引起了關注，因為它似乎拒絕生成逼真的女性圖像，聲稱這些圖像不符合其內(nèi)容政策。這一現(xiàn)象引發(fā)了許多討論，特別是關于AI系統(tǒng)如何處理性別相關問題。

一位名為 u/Arceist_Justin 的用戶要求Bing的AI生成“男性的逼真圖像”時，它迅速生成了多個看起來非常逼真的男性圖像。但當用戶要求生成“女性的逼真圖像”時，AI系統(tǒng)卻拒絕了這一請求，并表示這違反了其內(nèi)容政策，稱檢測到不安全內(nèi)容。這一情況引起了疑慮，因為請求中并沒有包含任何性別相關的形容詞，也沒有提到女性的外貌特征。

有人認為，AI系統(tǒng)的訓練數(shù)據(jù)可能是導致這一問題的原因。由于互聯(lián)網(wǎng)上存在大量的性化和不適當內(nèi)容，AI系統(tǒng)可能將“女性”這個詞與性化聯(lián)系在一起，因此拒絕生成女性圖像。這一觀點認為，互聯(lián)網(wǎng)中女性經(jīng)常被性化，而生成式AI工具是基于數(shù)據(jù)進行預測的，如果訓練數(shù)據(jù)中包含大量性化或色情內(nèi)容的女性圖像，那么AI系統(tǒng)可能會默認將涉及女性的請求與性有關。

微軟的一位發(fā)言人表示，AI拒絕生成女性圖像是出于過度防護，因為在該工具剛推出時，用戶發(fā)現(xiàn)可以輕松生成問題圖像，包括侵犯版權的卡通角色參與恐怖活動的圖像。因此，微軟加強了AI的防護措施，這導致了一些不必要的內(nèi)容違規(guī)情況。微軟表示，他們致力于改進技術的準確性，并將不斷完善內(nèi)容過濾器。

不過，隨著可公開使用的生成式AI工具的新浪潮，這一問題可能只是開始。互聯(lián)網(wǎng)是現(xiàn)實世界的扭曲鏡像，而生成式AI模型則是這些夸張的具體體現(xiàn)。因此，需要在傳播深度偽造色情內(nèi)容和將女性消失之間找到平衡點。