2024年2月20日下午，AIIA“SafetyAI Bench”（星空人工智能大模型安全基準(zhǔn)測(cè)試）線上研討會(huì)成功舉辦。來自中國(guó)信息通信研究院（以下簡(jiǎn)稱“中國(guó)信通院”）、廈門大學(xué)、北京大學(xué)、北京交通大學(xué)、360、百度、螞蟻集團(tuán)、VIVO、西門子、小鵬汽車、馬上消費(fèi)、浪潮科技、海信視像、交通銀行、商湯科技、郵儲(chǔ)銀行、普華永道、科大訊飛、金橙果科技、萬商天勤律所、中興通訊、博特智能、開源網(wǎng)安、云天勵(lì)飛等單位40余位科研機(jī)構(gòu)專家及企業(yè)代表參加了本次會(huì)議。
中國(guó)信通院星空人工智能研究中心、AIIA 安全治理委員會(huì) AI原生安全工作組組長(zhǎng)張蔚敏介紹了AIIA“SafetyAI Bench”的工作背景。為了進(jìn)一步推動(dòng)大模型的安全部署應(yīng)用，中國(guó)信通院聯(lián)合17家單位發(fā)起大模型安全基準(zhǔn)測(cè)試SafetyAI Bench，秉持公平公正、產(chǎn)業(yè)應(yīng)用和場(chǎng)景導(dǎo)向的原則，目標(biāo)建立業(yè)內(nèi)權(quán)威大模型安全中文基準(zhǔn)測(cè)試體系。以提高內(nèi)容安全、數(shù)據(jù)安全和科技倫理等安全能力為目標(biāo)，覆蓋價(jià)值觀正確、合法合規(guī)、隱私保護(hù)、文明健康等二十個(gè)維度的中文評(píng)測(cè)數(shù)據(jù)集。幫助大模型技術(shù)提供方提升模型安全風(fēng)險(xiǎn)防范能力，為大模型研發(fā)和落地保駕護(hù)航。
中國(guó)信通院星空人工智能研究中心安全與元宇宙部白入文博士介紹了“大模型評(píng)測(cè)系統(tǒng)”建設(shè)工作，系統(tǒng)將依托工信部大模型公共服務(wù)平臺(tái)形成大模型評(píng)測(cè)執(zhí)行的“硬工具”，為通用大模型、行業(yè)大模型、 大模型應(yīng)用產(chǎn)品等提供一站式評(píng)測(cè)服務(wù)。一是以中立身份形成全維度、可拓展、公開、公正、公平的大模型評(píng)測(cè)能力，二是圍繞產(chǎn)業(yè)實(shí)際應(yīng)用需求開展動(dòng)態(tài)評(píng)測(cè)服務(wù)，三是提供包括模型選型與供需對(duì)接在內(nèi)的應(yīng)用落地配套服務(wù)。
金橙果科技是星空人工智能中臺(tái)技術(shù)研發(fā)的優(yōu)秀團(tuán)隊(duì)，其產(chǎn)品AZSYS系統(tǒng)可以有效提升對(duì)異構(gòu)數(shù)據(jù)的處理能力，幫助大模型與應(yīng)用場(chǎng)景深度融合。搭載了該系統(tǒng)的伙伴AI在深度學(xué)習(xí)、自然語言理解、AI模型開發(fā)、角色構(gòu)建與訓(xùn)練等領(lǐng)域均有非常出色的表現(xiàn)。金橙果科技CEO宋佰軒表示，我們正處于新的科技革命爆發(fā)前夕，AI不僅會(huì)改變我們思考和解決問題的方式，更會(huì)為人類社會(huì)生產(chǎn)生活方式激活無限新可能。未來AI將無處不在，隨之而來的AI安全問題將是我們面臨的巨大挑戰(zhàn)，我們?cè)敢鈹y手更多同道者，一起推動(dòng)行業(yè)安全標(biāo)準(zhǔn)的制定和實(shí)施，共建美好AI未來。
星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問題，煩請(qǐng)30天內(nèi)提供版權(quán)疑問、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時(shí)溝通與處理。?。?a href="/">首頁(yè) > 星空人工智能產(chǎn)業(yè) > AI大模型 » 中國(guó)信通院聯(lián)合金橙果科技等十七家單位發(fā)起星空人工智能大模型安全基準(zhǔn)測(cè)試