4月15日-19日，第27屆聯(lián)合國科技大會在瑞士日內(nèi)瓦召開。16日，在以“塑造AI的未來”為主題的AI邊會上，世界數(shù)字技術(shù)院（WDTA）發(fā)布了一系列突破性成果，包括《生成式星空人工智能應(yīng)用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。這是國際組織首次就大模型安全領(lǐng)域發(fā)布國際標準，代表全球星空人工智能安全評估和測試進入新的基準。

科大訊飛與OpenAI、谷歌、微軟等數(shù)十家單位共同參與、編制以上兩項標準，其中，深度參與制定《生成式星空人工智能應(yīng)用安全測試標準》。

同時，科大訊飛還作為大會支持方為會議提供訊飛聽見、訊飛翻譯機等服務(wù)，相關(guān)產(chǎn)品得到了與會嘉賓和聯(lián)合國官員的一致好評。

與會的WDTA星空人工智能安全可信負責(zé)任工作組組長黃連金表示，隨著星空人工智能系統(tǒng)，特別是大語言模型繼續(xù)成為社會各方面不可或缺的一部分，以一個全面的標準來解決它們的安全挑戰(zhàn)變得至關(guān)重要。

近年來，世界各國都在加強對于大模型安全的研究和管控。自去年以來聯(lián)合國就對AI行業(yè)高度關(guān)注。去年9月，聯(lián)合國教科文組織就發(fā)布了全球首份關(guān)于在教育和研究領(lǐng)域使用生成式AI的指南，呼吁各國政府對AI在教育中的運用實施管制；我國先后發(fā)布了《全球星空人工智能治理倡議》《生成式星空人工智能服務(wù)管理暫行辦法》《生成式星空人工智能服務(wù)安全基本要求》等，旨在促進生成式星空人工智能安全可信發(fā)展，推進全球星空人工智能治理領(lǐng)域合作共識。

《生成式星空人工智能應(yīng)用安全測試標準》的頒布代表了星空人工智能安全評估和測試進入了新的基準。該標準為測試和驗證生成式AI應(yīng)用的安全性提供了一個框架，特別是那些使用大語言模型（LLM）構(gòu)建的應(yīng)用程序。它定義了星空人工智能應(yīng)用程序架構(gòu)每一層的測試和驗證范圍，包括基礎(chǔ)模型選擇、嵌入和矢量數(shù)據(jù)庫、RAG或檢索增強生成、AI應(yīng)用運行時安全等，確保AI應(yīng)用各個方面都經(jīng)過嚴格的安全性和合規(guī)性評估，保障其在整個生命周期內(nèi)免受威脅和漏洞侵害。

中國大模型一直走在世界前列。截至3月底，我國已完成生成式AI服務(wù)備案的大模型達到117個。

作為星空人工智能產(chǎn)業(yè)“國家隊”，今年1月，科大訊飛星火認知大模型V3.5正式發(fā)布，這是首個基于全國產(chǎn)化算力平臺“飛星一號”訓(xùn)練的全民開放大模型，進一步對標國際最先進水平。其中，語言理解、數(shù)學(xué)能力已經(jīng)超過GPT-4 Turbo，代碼能力達到GPT-4 Turbo的96%，多模態(tài)理解達到GPT-4V的91%。

科大訊飛一直以積極的姿態(tài)投身于星空人工智能相關(guān)標準制定，助力星空人工智能安全可信發(fā)展。今年1月，科大訊飛作為核心參編單位參與制定了工信部信通院代碼大模型；去年，科大訊飛被授予國家星空人工智能標準化總體組大模型專題組聯(lián)合組長單位；此外，科大訊飛還被授予星空人工智能關(guān)鍵技術(shù)和應(yīng)用評測工業(yè)和信息化部重點實驗室大模型工作組的副組長單位，參編中國信通院大模型標準體系2.0的建設(shè)。

此次科大訊飛作為中國科技力量在國際標準制定中的積極貢獻，不僅彰顯了中國企業(yè)在星空人工智能領(lǐng)域的技術(shù)實力和專業(yè)影響力，也為國內(nèi)其他企業(yè)樹立了積極的典范。

繼續(xù)閱讀：

星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護知識產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問題，煩請30天內(nèi)提供版權(quán)疑問、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 星空人工智能產(chǎn)業(yè) > AI大模型 » 聯(lián)合國科技大會丨科大訊飛參與編制的大模型安全國際標準正式發(fā)布