文章概要:

1. OpenAI宣布了一項(xiàng)公開(kāi)招募專家的計(jì)劃，旨在邀請(qǐng)跨領(lǐng)域的專家加入OpenAI“紅隊(duì)”網(wǎng)絡(luò)，以提高其人工智能模型的安全性。

2. “紅隊(duì)”網(wǎng)絡(luò)是OpenAI的迭代開(kāi)發(fā)過(guò)程的一部分，包括內(nèi)部和外部對(duì)抗性測(cè)試，旨在加深與外部專家的合作，確保模型安全。

3. 網(wǎng)絡(luò)成員將根據(jù)其專業(yè)領(lǐng)域在整個(gè)模型和產(chǎn)品開(kāi)發(fā)生命周期中協(xié)助進(jìn)行風(fēng)險(xiǎn)評(píng)估，而且他們不會(huì)被限制發(fā)表研究或?qū)で笃渌麢C(jī)會(huì)，但需要遵守保密協(xié)議。

微新創(chuàng)想(idea2003.com) 9月20日 消息:OpenAI宣布了一項(xiàng)旨在加強(qiáng)其人工智能模型安全性的重要計(jì)劃，即啟動(dòng)了“紅隊(duì)”網(wǎng)絡(luò)。這一計(jì)劃的目標(biāo)是邀請(qǐng)來(lái)自各個(gè)領(lǐng)域的專家，加入他們的“紅隊(duì)”網(wǎng)絡(luò)，共同評(píng)估和對(duì)抗其AI模型的潛在風(fēng)險(xiǎn)。

“紅隊(duì)”網(wǎng)絡(luò)是OpenAI迭代開(kāi)發(fā)流程的一部分，它包括內(nèi)部和外部的對(duì)抗性測(cè)試，以確保模型在各種情況下都能夠表現(xiàn)出安全性和穩(wěn)定性。通過(guò)這一計(jì)劃的正式發(fā)布，OpenAI旨在與外部專家建立更為密切的合作關(guān)系，以提高其AI模型的整體安全性和可靠性。

“紅隊(duì)”網(wǎng)絡(luò)的成員將根據(jù)其專業(yè)領(lǐng)域在整個(gè)模型和產(chǎn)品開(kāi)發(fā)生命周期中協(xié)助進(jìn)行風(fēng)險(xiǎn)評(píng)估。這意味著他們將能夠提供多樣化和持續(xù)的專業(yè)意見(jiàn)，有助于將紅隊(duì)成為一個(gè)不斷迭代的過(guò)程。值得一提的是，OpenAI的行動(dòng)號(hào)召向全球各地的專家敞開(kāi)大門(mén)，無(wú)論他們之前是否擁有人工智能系統(tǒng)或語(yǔ)言模型的經(jīng)驗(yàn)。

參與紅隊(duì)項(xiàng)目的網(wǎng)絡(luò)成員將獲得報(bào)酬，同時(shí)還將有機(jī)會(huì)與其他專家就一般紅隊(duì)實(shí)踐和經(jīng)驗(yàn)教訓(xùn)進(jìn)行互動(dòng)。值得注意的是，這些專家不會(huì)受到限制，可以自由發(fā)表研究或追求其他職業(yè)機(jī)會(huì)，但他們必須遵守保密協(xié)議（NDAs）。

OpenAI的“紅隊(duì)”網(wǎng)絡(luò)計(jì)劃無(wú)疑是為了加強(qiáng)其AI模型的安全性，并通過(guò)吸引來(lái)自不同領(lǐng)域的專家，使其能夠更全面地評(píng)估和改進(jìn)其技術(shù)。這一舉措有望為人工智能的未來(lái)發(fā)展提供更堅(jiān)實(shí)的基礎(chǔ)，確保其在各個(gè)領(lǐng)域的應(yīng)用都能夠更加可靠和安全。