要點:

1. 生成式AI安全新規發布，包含31項安全要求，生成式AI服務提供者需遵循這些要求，方可“持證上崗”。

2. 安全要求涵蓋語料安全、模型安全、安全措施、安全評估等四大方面，具體包括語料來源黑名單、模型使用規范、服務透明度等多個關鍵要求。

3. 不同場景的生成式AI服務需采取不同的保護措施，包括關鍵信息基礎設施、未成年人使用等，以確保生成內容質量和安全性。

微新創想（idea2003.com）10月13日 消息:最新發布的生成式AI安全規定明確了31項安全要求，只有符合這些要求的生成式AI服務提供者才能“持證上崗”。這一規范涵蓋了語料安全、模型安全、安全措施和安全評估等四大關鍵領域。

對于語料安全，要求提供者建立語料來源黑名單，不使用來自黑名單的數據進行訓練。如果某一來源的語料中包含違法不良信息超過5%，則該來源會被列入黑名單。此外，規定了多元化的語料來源，包括不同語言和不同類型的語料，以及要求語料來源可追溯。

在模型安全方面，提供者不得使用未備案的基礎模型進行研發，必須公開第三方基礎模型的使用情況。生成內容要符合科學常識，不得包含錯誤信息。

安全措施方面，根據不同場景和使用者需求，規定了不同的保護措施，特別是在關鍵信息基礎設施和未成年人使用的情況下。此外，要求設置監看人員以提高生成內容質量。

安全評估方面提供了具體的評估方法，包括語料安全評估、生成內容安全評估、內容拒答評估等。要求提供者使用人工抽檢，確保語料安全。

總的來說，這一生成式AI安全規定為生成式AI服務提供者提供了具體的安全標準，以確保其生成內容的質量和安全性。這對于保護用戶權益和社會安全具有重要意義。

關于征求信安標委技術文件《生成式人工智能服務 安全基本要求》（征求意見稿）意見的通知的原文地址：

https://www.tc260.org.cn/front/postDetail.html?id=20231011143225