此前市場(chǎng)有消息稱華為大模型“盤古 Chat”已申請(qǐng)相關(guān)商標(biāo)，將于 7 月 7 日發(fā)布，而華為官方表示不會(huì)有“盤古 Chat”此類命名。
華為輪值董事長胡厚崑出席參加了今日 2023 世界人工智能大會(huì)開幕式并發(fā)了表演講。他 表示：華為將在 7 月 7 日的華為云開發(fā)者大會(huì)上推出盤古大模型 3.0。
據(jù)介紹，從通用大模型走向行業(yè)大模型?；A(chǔ)大模型，行業(yè)大模型，場(chǎng)景模型。盤古大模型已經(jīng)深耕行業(yè) 10+，業(yè)務(wù)場(chǎng)景 400+。
他表示，去年年底 ChatGPT 的出現(xiàn)，把人工智能推向了新的風(fēng)口。人工智能將幫助我們改寫身邊的一切。
他介紹了華為在人工智能方面的布局，在深耕算力方面實(shí)現(xiàn)了架構(gòu)創(chuàng)新、發(fā)展生態(tài)、共建算力;在架構(gòu)創(chuàng)新上重新定義計(jì)算架構(gòu)，對(duì)等平構(gòu)架構(gòu)節(jié)點(diǎn)性能提升 30%，昇騰 AI 集群效率提升 10%。
此外，華為在發(fā)展生態(tài)上還聯(lián)合 5700 + 鯤鵬 / 昇騰合作伙伴，以及硬件合作伙伴 30+，實(shí)現(xiàn)了國內(nèi)大模型近一半創(chuàng)新使能，包括場(chǎng)景化系列 AI 硬件 100+，孵化 / 適配大模型 30+，鯤鵬 / 昇騰開發(fā)者 380 萬 +。
在共建算力方面，他表示華為已經(jīng)在構(gòu)建城市算力基礎(chǔ)設(shè)施，幫助各地政府打造了 25 個(gè)昇騰人工智能計(jì)算中心。
公開資料獲悉，華為盤古系列基礎(chǔ)大模型于 2021 年正式對(duì)外發(fā)布，包括 NLP(自然語言處理)、CV(機(jī)器視覺)和科學(xué)計(jì)算大模型;后續(xù)又發(fā)布了礦山、藥物分子、氣象、海浪等行業(yè)大模型。
據(jù)介紹，NLP 是首個(gè)千億參數(shù)中文預(yù)訓(xùn)練大模型，CV 大模型則首次達(dá)到 30 億參數(shù)。盤古 CV 大模型業(yè)界最大 CV 大模型、首次實(shí)現(xiàn)兼顧判別與生成能力、在 ImageNet 上小樣本學(xué)習(xí)能力上的業(yè)界第一;盤古氣象大模型提供秒級(jí)天氣預(yù)報(bào);紫東.太初是全球首個(gè)圖、文、音三模態(tài)大模型。
對(duì)于盤古大模型定位，華為內(nèi)部團(tuán)隊(duì)確立了三項(xiàng)最關(guān)鍵的核心設(shè)計(jì)原則：一是模型要大，可以吸收海量數(shù)據(jù);二是網(wǎng)絡(luò)結(jié)構(gòu)要強(qiáng)，能夠真正發(fā)揮出模型的性能;三是要具有優(yōu)秀的泛化能力，可以真正落地到各行各業(yè)的工作場(chǎng)景。
華為云官網(wǎng)顯示，盤古大模型由 NLP 大模型、CV 大模型、多模態(tài)大模型、科學(xué)計(jì)算大模型等多個(gè)大模型構(gòu)成，通過模型泛化，解決傳統(tǒng) AI 作坊式開發(fā)模式下不能解決的 AI 規(guī)?；?、產(chǎn)業(yè)化難題，可以支持多種自然語言處理任務(wù)，包括文本生成、文本分類、問答系統(tǒng)等等。
華為表示，盤古 NLP 大模型由華為云、循環(huán)智能和鵬城實(shí)驗(yàn)室聯(lián)合開發(fā)，具備領(lǐng)先的語言理解和模型生成能力：在權(quán)威的中文語言理解評(píng)測(cè)基準(zhǔn) CLUE 榜單中，盤古 NLP 大模型在總排行榜及分類、閱讀理解單項(xiàng)均排名第一，刷新三項(xiàng)榜單世界歷史紀(jì)錄;總排行榜得分 83.046，多項(xiàng)子任務(wù)得分業(yè)界領(lǐng)先，向人類水平(85.61)邁進(jìn)了一大步。
具體來看，盤古 NLP 大模型首次使用 Encoder-Decoder 架構(gòu)，兼顧 NLP 大模型的理解能力和生成能力，保證了模型在不同系統(tǒng)中的嵌入靈活性。下游應(yīng)用中，僅需少量樣本和可學(xué)習(xí)參數(shù)即可完成千億規(guī)模大模型的快速微調(diào)和下游適配，這一模型在智能輿論以及智能營銷方面都有不錯(cuò)的表現(xiàn)。
