文章概要:

1. OpenAI宣布了一項公開招募專家的計劃，旨在邀請跨領域的專家加入OpenAI“紅隊”網絡，以提高其人工智能模型的安全性。

2. “紅隊”網絡是OpenAI的迭代開發過程的一部分，包括內部和外部對抗性測試，旨在加深與外部專家的合作，確保模型安全。

3. 網絡成員將根據其專業領域在整個模型和產品開發生命周期中協助進行風險評估，而且他們不會被限制發表研究或尋求其他機會，但需要遵守保密協議。

微新創想(idea2003.com) 9月20日 消息:OpenAI宣布了一項旨在加強其人工智能模型安全性的重要計劃，即啟動了“紅隊”網絡。這一計劃的目標是邀請來自各個領域的專家，加入他們的“紅隊”網絡，共同評估和對抗其AI模型的潛在風險。

“紅隊”網絡是OpenAI迭代開發流程的一部分，它包括內部和外部的對抗性測試，以確保模型在各種情況下都能夠表現出安全性和穩定性。通過這一計劃的正式發布，OpenAI旨在與外部專家建立更為密切的合作關系，以提高其AI模型的整體安全性和可靠性。

“紅隊”網絡的成員將根據其專業領域在整個模型和產品開發生命周期中協助進行風險評估。這意味著他們將能夠提供多樣化和持續的專業意見，有助于將紅隊成為一個不斷迭代的過程。值得一提的是，OpenAI的行動號召向全球各地的專家敞開大門，無論他們之前是否擁有人工智能系統或語言模型的經驗。

參與紅隊項目的網絡成員將獲得報酬，同時還將有機會與其他專家就一般紅隊實踐和經驗教訓進行互動。值得注意的是，這些專家不會受到限制，可以自由發表研究或追求其他職業機會，但他們必須遵守保密協議（NDAs）。

OpenAI的“紅隊”網絡計劃無疑是為了加強其AI模型的安全性，并通過吸引來自不同領域的專家，使其能夠更全面地評估和改進其技術。這一舉措有望為人工智能的未來發展提供更堅實的基礎，確保其在各個領域的應用都能夠更加可靠和安全。