青云科技聚焦 AI 算力調(diào)度等能力,通過開放生態(tài),聯(lián)合 AI 硬件及軟件供應(yīng)商、算法模型服務(wù)商、各地不同規(guī)模的算力服務(wù)商以及行業(yè)應(yīng)用服務(wù)商等,深度融合算力、算法、行業(yè)數(shù)據(jù)以及場(chǎng)景應(yīng)用能力,讓 AI 真正能釋放出業(yè)務(wù)價(jià)值。
因此，青云科技 AI 算力發(fā)布會(huì)邀請(qǐng)了生態(tài)合作伙伴共同分享對(duì)于 AI 落地應(yīng)用的技術(shù)與實(shí)踐。無問芯穹商業(yè)化副總裁李楓以《加速大模型落地的最后一公里》為主題發(fā)表精彩演講，分享了無問芯穹在大模型落地方向的探索和進(jìn)展，以下為演講全文，經(jīng)整理：
最近大模型在文本對(duì)話、圖像生成等 AI 內(nèi)容生成領(lǐng)域上取得優(yōu)異的性能，標(biāo)志著 AI 2.0 時(shí)代的來臨。
如上圖所示的例子：微軟 Copilot 顯著提升辦公軟件 Office 的效率。比如我們輸入一個(gè)話題，程序可以自動(dòng)生成相關(guān)的問題描述與日程安排；Midjourney 的圖像生成功能，使我們可以給給出描述文字得到自動(dòng)生成圖片，同時(shí)能實(shí)現(xiàn)圖中所示的縮放功能。
在 AI 2.0 時(shí)代，大模型正引導(dǎo)了一輪巨大的技術(shù)變革，這幾個(gè)視頻都展示了大模型已經(jīng)能服務(wù)生產(chǎn)對(duì)話、代碼生成，而這些能力未來將賦能千行百業(yè)的技術(shù)。然而面對(duì)大模型這樣的重要技術(shù)突破，我國(guó)卻在算法層和算力層都受到了限制，包括最先進(jìn)的模型調(diào)用被攔截、最先進(jìn)的芯片被美國(guó)限制出口，因此國(guó)產(chǎn)化是 AI 2.0 時(shí)代突圍的必經(jīng)之路。
我們可以看到國(guó)內(nèi)外生態(tài)差異非常明顯，國(guó)外針對(duì)不同的算法模型，英偉達(dá)提供了統(tǒng)一的算力平臺(tái)和 Cuda 的軟件生態(tài)。反觀國(guó)內(nèi)的多種大模型、多套硬件平臺(tái)導(dǎo)致用戶難以實(shí)現(xiàn)高效統(tǒng)一部署，因此，算法模型和硬件平臺(tái)的適配成為生態(tài)和落地的最大瓶頸。
為了解決模型和算力之間的瓶頸，無問芯穹致力于提供大模型軟硬一體化自動(dòng)化優(yōu)化方案。向上，我們服務(wù)多家大模型算法企業(yè)。向下，我們聯(lián)動(dòng)多家國(guó)產(chǎn)芯片公司。產(chǎn)品上，我們實(shí)現(xiàn)了大模型在多種硬件上的 M×N 一鍵部署平臺(tái)，降低大模型的使用門檻，讓模型部署越快越好，真正成為 AI 2.0 時(shí)代大模型的基礎(chǔ)設(shè)施。
最后，為了助力 AI 2.0 時(shí)代大模型落地，無問芯穹著力于解決四個(gè)痛點(diǎn)需求：
1、支持長(zhǎng)文本或大輸入
比如之前支持 2K token 的模型，我們可以用快速推理和訓(xùn)練，使它支持 32K token，我們就可以做好例如專業(yè)長(zhǎng)文本的信息檢索、生成、會(huì)議聊天助手等應(yīng)用。
2、提升性價(jià)比
我們把語言和多模態(tài)生成模型部署到消費(fèi)級(jí)顯卡，甚至手機(jī)等終端設(shè)備上，讓廣大客戶用得起。
3、垂直領(lǐng)域適配
用大模型通用能力幫助各行各業(yè)的人們提升體驗(yàn)和效率。
4、一鍵式部署
讓大模型能低人力成本被部署到各種場(chǎng)景，讓每個(gè)工廠、學(xué)校、家庭甚至個(gè)人都能用到它的能力。
希望無問芯穹能真正滿足客戶的實(shí)際需求，解決好大模型落地的最后一公里。再次感謝青云科技的邀請(qǐng)，無問芯穹希望攜手青云科技共創(chuàng) AI 新紀(jì)元。
星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問題，煩請(qǐng)30天內(nèi)提供版權(quán)疑問、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時(shí)溝通與處理。！：首頁 > 星空人工智能產(chǎn)業(yè) > AI大模型 » 青云 QingCloud合作伙伴無問芯穹分享：加速大模型落地的最后一公里