劃重點(diǎn):

1. Bing的AI Image Creator在生成男性逼真圖像方面表現(xiàn)出色，但在生成女性圖像時(shí)卻拒絕，稱其不符合內(nèi)容政策。

2. 用戶發(fā)現(xiàn)Bing的AI存在性別相關(guān)的奇怪問(wèn)題，生成女性圖像經(jīng)常被阻止，可能與訓(xùn)練數(shù)據(jù)中女性被性化有關(guān)。

3. 微軟回應(yīng)稱AI的拒絕是出于過(guò)度防護(hù)，但隨后放寬了對(duì)女性圖像的生成限制。

微新創(chuàng)想(idea2003.com) 10月27日 消息:微軟的Bing AI Image Creator最近引起了關(guān)注，因?yàn)樗坪蹙芙^生成逼真的女性圖像，聲稱這些圖像不符合其內(nèi)容政策。這一現(xiàn)象引發(fā)了許多討論，特別是關(guān)于AI系統(tǒng)如何處理性別相關(guān)問(wèn)題。

一位名為 u/Arceist_Justin 的用戶要求Bing的AI生成“男性的逼真圖像”時(shí)，它迅速生成了多個(gè)看起來(lái)非常逼真的男性圖像。但當(dāng)用戶要求生成“女性的逼真圖像”時(shí)，AI系統(tǒng)卻拒絕了這一請(qǐng)求，并表示這違反了其內(nèi)容政策，稱檢測(cè)到不安全內(nèi)容。這一情況引起了疑慮，因?yàn)檎?qǐng)求中并沒有包含任何性別相關(guān)的形容詞，也沒有提到女性的外貌特征。

有人認(rèn)為，AI系統(tǒng)的訓(xùn)練數(shù)據(jù)可能是導(dǎo)致這一問(wèn)題的原因。由于互聯(lián)網(wǎng)上存在大量的性化和不適當(dāng)內(nèi)容，AI系統(tǒng)可能將“女性”這個(gè)詞與性化聯(lián)系在一起，因此拒絕生成女性圖像。這一觀點(diǎn)認(rèn)為，互聯(lián)網(wǎng)中女性經(jīng)常被性化，而生成式AI工具是基于數(shù)據(jù)進(jìn)行預(yù)測(cè)的，如果訓(xùn)練數(shù)據(jù)中包含大量性化或色情內(nèi)容的女性圖像，那么AI系統(tǒng)可能會(huì)默認(rèn)將涉及女性的請(qǐng)求與性有關(guān)。

微軟的一位發(fā)言人表示，AI拒絕生成女性圖像是出于過(guò)度防護(hù)，因?yàn)樵谠摴ぞ邉偼瞥鰰r(shí)，用戶發(fā)現(xiàn)可以輕松生成問(wèn)題圖像，包括侵犯版權(quán)的卡通角色參與恐怖活動(dòng)的圖像。因此，微軟加強(qiáng)了AI的防護(hù)措施，這導(dǎo)致了一些不必要的內(nèi)容違規(guī)情況。微軟表示，他們致力于改進(jìn)技術(shù)的準(zhǔn)確性，并將不斷完善內(nèi)容過(guò)濾器。

不過(guò)，隨著可公開使用的生成式AI工具的新浪潮，這一問(wèn)題可能只是開始。互聯(lián)網(wǎng)是現(xiàn)實(shí)世界的扭曲鏡像，而生成式AI模型則是這些夸張的具體體現(xiàn)。因此，需要在傳播深度偽造色情內(nèi)容和將女性消失之間找到平衡點(diǎn)。