螞蟻集團發布“蟻鑒2.0”：一鍵識別AI模型漏洞
站長之家(ChinaZ.com) 7月7日 消息:7月7日消息，螞蟻集團與清華大學在2023世界人工智能大會上發布了名為蟻鑒2.0的AI安全檢測平臺。隨著大模型的發展，人們對AI的關注再度升溫。
事實上，AI已成為推動數字化發展的關鍵生產力工具，確保其應用符合安全規范成為業界重點關注的問題。
據介紹，蟻鑒2.0能夠利用生成式AI能力檢測生成式AI模型，識別數百種風險，包括數據安全、內容安全和科技倫理等三大類別。
蟻鑒2.0覆蓋了表格、文本、圖像等多種數據和任務類型，是業內第一個實現產業級應用的全數據類型AI安全檢測平臺。該平臺利用智能對抗技術生成大量測試集，通過與AIGC生成式模型的交互誘導，類似于一位24小時不間斷工作的安全黑客，以尋找大模型的弱點和安全問題。除了支持數字金融領域，蟻鑒2.0還滿足教育、文化、醫療、電商等對AI安全性檢測的需求。
