近日，第27屆聯合國科技大會在瑞士日內瓦召開。會議期間，世界數字技術院（WDTA）正式發布了《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。據悉，這兩項國際標準是由來自OpenAI、谷歌、微軟、英偉達、螞蟻集團、科大訊飛、百度、騰訊等數十家中外科技企業的專家學者共同編制而成，是國際組織首次就大模型安全領域發布國際標準，代表全球人工智能（AI）安全評估和測試進入新的基準。

據了解，世界數字技術院（WDTA）成立于2023年4月，是在日內瓦注冊的國際非政府組織。該組織致力于在全球范圍內推進數字技術，促進國際合作。AI STR（安全、可信、負責任）計劃是WDTA的核心倡議，旨在確保人工智能系統的安全性、可信性和責任性。螞蟻集團、華為、科大訊飛、國際數據空間協會（IDSA）、弗勞恩霍夫研究所、中國電子等均為其成員單位。

近年來，大模型的爆火點燃了市場對生成式AI技術的熱情，各式各樣的AI產品蜂擁而出，新業態、新模式不斷涌現。與此同時，大量AI生成內容的出現也導致監管與發展的矛盾更加突出。馬斯克等千名業界和學界人士曾聯署公開信，呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的AI系統，暫停至少6個月，以便制定和實施安全協議。ChatGPT的開發者也表示，全社會只剩下有限的時間來決定如何對其進行監管。

正因如此，世界各國都在加強對于大模型安全的研究和管控。歐盟通過了首個《人工智能法案》，開始對人工智能技術帶來的安全風險進行嚴格管控；美國推出了有關生成式人工智能的首套監管規定，要求對人工智能進行新的安全評估、公平和民權指引以及對勞動力市場影響的研究；我國先后發布了《全球人工智能治理倡議》《生成式人工智能服務管理暫行辦法》《生成式人工智能服務安全基本要求》等，旨在促進生成式人工智能安全可信發展，推進全球人工智能治理領域合作共識。此次《生成式人工智能應用安全測試標準》的頒布代表著人工智能安全評估和測試有了新的基準。該標準為測試和驗證生成式AI應用的安全性提供了一個框架，特別是那些使用大語言模型（LLM）構建的應用程序。它定義了人工智能應用程序架構每一層的測試和驗證范圍，包括基礎模型選擇、嵌入和矢量數據庫、RAG或檢索增強生成、AI應用運行時安全等等，確保AI應用各個方面都經過嚴格的安全性和合規性評估，保障其在整個生命周期內免受威脅和漏洞侵害。

WDTA人工智能安全可信負責任工作組組長黃連金表示，此次發布的標準填補了大語言模型和生成式AI應用方面安全測試領域的空白，為業界提供了統一的測試框架和明確的測試方法，有助于提高AI系統安全性，促進AI技術負責任發展，增強公眾信任。