6月28日,騰訊云正式對(duì)外發(fā)布TI平臺(tái)公有云版本,并推出全新AI加速功能TI-ACC,其訓(xùn)練加速性能較原生框架提升30%以上,模型推理加速比達(dá)2倍以上。該版本也是騰訊首個(gè)面向開(kāi)發(fā)者開(kāi)放的一站式機(jī)器學(xué)習(xí)平臺(tái)。
騰訊云AI副總經(jīng)理、AI開(kāi)發(fā)平臺(tái)資深技術(shù)專(zhuān)家李世平表示:“AI應(yīng)用如今正在各個(gè)領(lǐng)域蓬勃發(fā)展,AI開(kāi)發(fā)服務(wù)平臺(tái)也已成為各行業(yè)AI應(yīng)用的生產(chǎn)力工具。在此背景下,騰訊云全新推出TI平臺(tái)的公有云版本,幫助廣大開(kāi)發(fā)者簡(jiǎn)化在工程上的大量研發(fā)投入,將精力聚焦在業(yè)務(wù)本身,從而提高AI應(yīng)用的開(kāi)發(fā)效率。”
據(jù)介紹,此次發(fā)布的TI平臺(tái)公有云版本性能強(qiáng)大、兼容性高、計(jì)費(fèi)靈活、使用門(mén)檻低以及管理高效,可以有效幫助企業(yè)和開(kāi)發(fā)者提升數(shù)據(jù)接入、數(shù)據(jù)處理、模型訓(xùn)練、模型服務(wù)等環(huán)節(jié)的效率,助力AI開(kāi)發(fā)降本增效。
其中,TI-ACC是本次TI平臺(tái)全新升級(jí)發(fā)布的重磅功能,也是其強(qiáng)大性能的核心保障。TI-ACC支持大規(guī)模的訓(xùn)練和推理加速,幫助企業(yè)和開(kāi)發(fā)者解決了在AI加速方面的痛點(diǎn)和需求。
針對(duì)訓(xùn)練加速,TI-ACC能在模型精度不下降的前提下,提升模型的產(chǎn)出效率。依托優(yōu)圖實(shí)驗(yàn)室在各類(lèi)復(fù)雜模型訓(xùn)練加速的實(shí)踐經(jīng)驗(yàn),TI-ACC實(shí)現(xiàn)了對(duì)主流的訓(xùn)練框架和分布式訓(xùn)練工具的支持,同時(shí)加速效果優(yōu)異,較原生訓(xùn)練框架提升了30%以上的訓(xùn)練性能。
針對(duì)推理加速,TI-ACC能在不影響預(yù)測(cè)精度的前提下降低GPU資源占用率,其加速效果、使用便捷性較市面開(kāi)源方案均有明顯的優(yōu)勢(shì)。在產(chǎn)品能力上,TI-ACC除了可以支持主流的各類(lèi)模型格式,同時(shí)也包含了豐富的推理加速優(yōu)化手段,相比原始模型,其推理加速比通常達(dá)到兩倍以上。
以某商品識(shí)別行業(yè)ISV廠商客戶(hù)為例,該客戶(hù)采用了高精度的Detectron2商品識(shí)別模型,而隨著業(yè)務(wù)規(guī)模擴(kuò)大,其GPU卡資源投入成本不斷提高,降本訴求也愈加強(qiáng)烈。采用TI平臺(tái)后,客戶(hù)將TI-ACC加速優(yōu)化后的模型部署在生產(chǎn)環(huán)境,推理性能相比客戶(hù)baseline 提升了100%左右,服務(wù)QPS提升了45%,云資源成本支出也得到了有效降低。
目前,騰訊云TI平臺(tái)已在泛互、泛政務(wù)、醫(yī)療、金融、工業(yè)、傳媒等行業(yè)落地應(yīng)用,幫助實(shí)現(xiàn)了智能工業(yè)質(zhì)檢、金融AI中臺(tái)、智慧化城市運(yùn)營(yíng)管理、疾病輔助診斷等諸多細(xì)分領(lǐng)域AI應(yīng)用的開(kāi)發(fā)。
作為“下一個(gè)十年”的核心科技手段之一,AI正在加速滲透到各行各業(yè),推動(dòng)其發(fā)展與創(chuàng)新。面向未來(lái),騰訊云也將持續(xù)精進(jìn)AI開(kāi)發(fā)平臺(tái)的產(chǎn)品創(chuàng)新能力,為企業(yè)和開(kāi)發(fā)者提供更加豐富的平臺(tái)化服務(wù),賦能千行百業(yè),引領(lǐng)時(shí)代之聲。
星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問(wèn)題，煩請(qǐng)30天內(nèi)提供版權(quán)疑問(wèn)、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時(shí)溝通與處理。！：首頁(yè) > 新聞 » 騰訊云發(fā)布TI平臺(tái)公有云版,新功能TI-ACC助AI推理性能提升100%+