微新創(chuàng)想(idea2003.com) 10 月 28 日消息: Google 宣布，將擴(kuò)展其漏洞獎(jiǎng)勵(lì)計(jì)劃（VRP），以獎(jiǎng)勵(lì)研究人員尋找針對(duì)生成式人工智能（AI）系統(tǒng)的攻擊方案，以增強(qiáng) AI 的安全性和安全性。

Google 的 Laurie Richardson 和 Royal Hansen 表示：「生成式 AI 帶來(lái)了與傳統(tǒng)數(shù)字安全不同的新問(wèn)題，例如可能存在的不公平偏見(jiàn)、模型操作或數(shù)據(jù)誤解（幻覺(jué)）。」

適用范圍內(nèi)的一些類(lèi)別包括提示注入、訓(xùn)練數(shù)據(jù)集中敏感數(shù)據(jù)的泄露、模型操縱、觸發(fā)誤分類(lèi)的對(duì)抗性擾動(dòng)攻擊和模型盜竊。

值得注意的是，Google 在今年 7 月早些時(shí)候成立了一個(gè) AI 紅隊(duì)，以幫助解決 AI 系統(tǒng)的威脅，作為其安全 AI 框架（SAIF）的一部分。

同時(shí)，作為致力于保障 AI 的承諾的一部分，Google 還宣布了通過(guò)現(xiàn)有的開(kāi)源安全倡議，如軟件的供應(yīng)鏈級(jí)別（SLSA）和 Sigstore 來(lái)加強(qiáng) AI 供應(yīng)鏈的努力。

Google 表示：「數(shù)字簽名，如來(lái)自 Sigstore 的簽名，允許用戶驗(yàn)證軟件是否被篡改或替換。」

「諸如 SLSA Provenance 之類(lèi)的元數(shù)據(jù)告訴我們軟件中有什么以及它是如何構(gòu)建的，允許消費(fèi)者確保許可兼容性，識(shí)別已知的漏洞，并檢測(cè)更高級(jí)的威脅。」

此項(xiàng)發(fā)展是在 OpenAI 揭幕了一個(gè)新的內(nèi)部準(zhǔn)備團(tuán)隊(duì)，以「跟蹤、評(píng)估、預(yù)測(cè)和保護(hù)」針對(duì)跨越網(wǎng)絡(luò)安全、化學(xué)、生物、放射性和核（CBRN）威脅的生成式 AI 的災(zāi)難性風(fēng)險(xiǎn)之際發(fā)生的。

兩家公司，連同 Anthropic 和微軟，還宣布了創(chuàng)建一個(gè) 1000 萬(wàn)美元的 AI 安全基金，專(zhuān)注于推動(dòng) AI 安全領(lǐng)域的研究。