劃重點(diǎn):

1. ? 加拿大發(fā)布自愿行為準(zhǔn)則:加拿大政府發(fā)布了有關(guān)生成式人工智能系統(tǒng)的自愿行為準(zhǔn)則，旨在規(guī)范該技術(shù)的發(fā)展與使用。

2. ? 準(zhǔn)則內(nèi)容概述:準(zhǔn)則要求開發(fā)者和管理者在系統(tǒng)開發(fā)中承擔(dān)責(zé)任、確保安全性、公平與公正，提高透明度、進(jìn)行人工監(jiān)督和監(jiān)控，并確保系統(tǒng)有效性與健壯性。

3. ? 影響與法律修正:這一準(zhǔn)則可能影響到加拿大的生成式AI系統(tǒng)開發(fā)和維護(hù)，同時(shí)也可能影響到有關(guān)人工智能法律的修訂，以更好適應(yīng)技術(shù)發(fā)展。

微新創(chuàng)想(idea2003.com) 10月13日 消息:加拿大政府最近發(fā)布了一份關(guān)于生成式人工智能系統(tǒng)的自愿行為準(zhǔn)則，旨在規(guī)范這一新興技術(shù)的發(fā)展與使用。這一準(zhǔn)則對生成式AI系統(tǒng)的開發(fā)者和管理者提出了一系列要求，以確保其發(fā)展與運(yùn)營在公平、安全、透明、有人工監(jiān)督和有效性方面達(dá)到一定標(biāo)準(zhǔn)。

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

這一自愿行為準(zhǔn)則涵蓋了多個(gè)關(guān)鍵方面，包括責(zé)任、安全、公平與公正、透明度、人工監(jiān)督和監(jiān)控，以及有效性與健壯性。以下是準(zhǔn)則的主要要點(diǎn):

• 問責(zé)制:準(zhǔn)則要求所有生成式AI系統(tǒng)的開發(fā)者和管理者建立全面的風(fēng)險(xiǎn)管理框架，包括政策、程序和培訓(xùn)。對于創(chuàng)建公共使用的生成式AI系統(tǒng)，還需要在發(fā)布之前采取多重防御措施，如第三方審計(jì)。

• 安全:生成式AI系統(tǒng)的開發(fā)者和管理者需要進(jìn)行全面的風(fēng)險(xiǎn)評估，包括可能的不當(dāng)或惡意使用風(fēng)險(xiǎn)。他們還需要采取適當(dāng)?shù)拇胧﹣頊p輕已識別的風(fēng)險(xiǎn)，并向下游開發(fā)者和管理者提供適當(dāng)?shù)南到y(tǒng)使用信息以及減輕措施。

• 公平與公正:特別適用于所有生成式AI系統(tǒng)的開發(fā)者，包括公共使用的系統(tǒng)。他們需要評估和策劃用于培訓(xùn)的數(shù)據(jù)集，以管理數(shù)據(jù)質(zhì)量和潛在偏見，并在發(fā)布AI系統(tǒng)之前實(shí)施多樣化的測試方法和措施，以評估和減輕輸出的偏見風(fēng)險(xiǎn)。

• 透明度:準(zhǔn)則要求公共使用的生成式AI系統(tǒng)的開發(fā)者發(fā)布有關(guān)系統(tǒng)能力和限制的信息，并實(shí)施可靠和免費(fèi)的檢測生成內(nèi)容的方法，重點(diǎn)關(guān)注音頻-視覺內(nèi)容。同時(shí)，他們需要公開描述用于開發(fā)系統(tǒng)的培訓(xùn)數(shù)據(jù)類型以及識別和減輕風(fēng)險(xiǎn)的措施。

• 人工監(jiān)督和監(jiān)控:開發(fā)者需要在部署后維護(hù)有關(guān)已報(bào)告事件的數(shù)據(jù)庫，并提供更新以確保有效的減輕措施。管理者需要在系統(tǒng)發(fā)布后監(jiān)控其操作，以防止有害使用或影響，并采取第三方反饋渠道和實(shí)施使用控制以減輕危害。

• 有效性與健壯性:生成式AI系統(tǒng)的開發(fā)者需要在部署之前使用各種測試方法來衡量性能和確保健壯性，包括采用對抗性測試來識別漏洞，評估網(wǎng)絡(luò)安全風(fēng)險(xiǎn)并實(shí)施適當(dāng)?shù)拇胧﹣頊p輕風(fēng)險(xiǎn)，以及基準(zhǔn)測試以衡量模型的性能。

這一自愿行為準(zhǔn)則已經(jīng)得到了許多知名機(jī)構(gòu)的簽署，表明其在當(dāng)前加拿大生成式AI系統(tǒng)開發(fā)和維護(hù)框架中的重要性。

此外，這一準(zhǔn)則還可能影響到有關(guān)《人工智能與數(shù)據(jù)法案》（AIDA）的修訂，使其更加結(jié)構(gòu)化和具體化，以適應(yīng)技術(shù)的發(fā)展。當(dāng)前，AIDA法案已經(jīng)在工業(yè)與技術(shù)委員會審議中，加拿大政府提出了一系列修改，包括明確定義“高影響”系統(tǒng)類別、為通用AI系統(tǒng)制定特定義務(wù)、加強(qiáng)AI系統(tǒng)價(jià)值鏈的區(qū)分、明確擬議AI專員的角色，并進(jìn)行與歐盟和其他OECD法域立法一致的修改，以確保加拿大企業(yè)能夠與其他法域互操作并進(jìn)入國際市場。