聲明:本文來自于微信公眾號 AIGC開放社區（ID:AIGCOPEN），作者:AIGC開放社區，授權微新創想轉載發布。

全球社交、科技巨頭Meta（Facebook、Instagram等母公司）在官網宣布，開源數字水印產品Stable Signature，并公開論文。

據悉，Stable Signature是由Meta和INRIA（法國國家信息與自動化研究所）聯合開發而成，可將數字水印直接嵌入到AI自動生成的圖片中，防止其非法用途。

而數字水印也是目前增強生成式AI安全的重要手段之一，微軟、谷歌等科技巨頭已經在產品中使用。

Stable Signature生成的數字水印不受裁剪、壓縮、改變顏色等破壞性操作影響，能追溯到圖片的初始來源，可應用于擴散、生成對抗網絡等模型，例如，著名文生圖開源項目Stable Diffusion。

開源地址:https://github.com/facebookresearch/stable_signature

論文地址:https://arxiv.org/abs/2303.15435

Stable Signature技術原理

Stable Signature的技術原理并不復雜，開發人員用Alice訓練了一個主生成模型并進行了微調，以確定Bob給定的水印，用于識別AI圖片的版本、公司、用戶、特征等屬性。

Bob用于接收不同的擴散模型版本并生成圖片，并攜帶水印。而這些水印可以由Alice或第三方AI進行分析，以查看圖像是否由AI生成。

為了實現上述目標，開發人員使用了兩大步驟來完成。

1）訓練兩個卷積神經網絡。一種將圖像和隨機消息編碼為水印圖像，另一種則從水印圖像的增強版本中提取消息，目的是使編碼和提取的消息匹配。訓練完成后，只保留水印提取器。

2）對生成模型的潛在解碼器進行微調以生成包含固定簽名的圖像。在此微調過程中，會對批量圖像進行編碼、解碼和優化，以最大限度地減少提取的消息與目標消息之間的差異，并保持感知圖像質量。

這種優化過程快速有效，只需要小批量和很短的時間即可獲得高質量的結果。

Stable Signature性能評估

在性能評估過程中，開發人員發現Stable Signature不受裁剪、壓縮、改變顏色等破壞性操作影響，同時在被動檢測方面有兩大技術優勢。

1）可以控制并減少誤報的情況:誤報是指我們將人類制作的圖片，誤認為是AI生成的圖片。鑒于在線共享的非AI生成圖片的普遍性，這一點至關重要。

例如，最有效的現有檢測方法可以發現大約50%的編輯過的生成圖片，但仍然產生大約1/100的誤報率。

換句話說，在一個每天收到10億張圖片的用戶生成內容平臺上，為了僅檢測到一半的生成圖片，大約有1000萬張圖片會被錯誤地標記。

而Stable Signature 可以實現10-10的誤報率（可以設置為特定的期望值），提供高精準圖片檢測。

2）Stable Signature的水印方法，允許用戶追蹤同一模型的不同版本的圖片，這種能力對于識別AI圖片非常重要。

Meta表示，Midjourney、Stable Difusion等文本生成圖片生成式AI產品非常火爆，已經被大量用戶應用在各種業務場景。但也有很多人將其使用在非法用途，例如，通過Midjourney生成一張名人的合成照片，然后用于新聞造謠。

通過Stable Signature將數字水印嵌入到AI圖片中，可極大避免此類事件的發生。