6月(yue)14日(ri)，在北(bei)京智源(yuan)大(da)會(hui)上，中(zhong)國電(dian)信人工智能研(yan)究院（TeleAI）聯合北(bei)京智源(yuan)人工智能研(yan)究院發(fa)布全球首個單體稠密萬億(yi)(yi)參(can)數語義模型Tele-FLM-1T，成為國內首批發(fa)布稠密萬億(yi)(yi)參(can)數大(da)模型的機(ji)構(gou)。

針對大模型(xing)(xing)(xing)訓練算(suan)(suan)力(li)消(xiao)耗高的(de)問(wen)題(ti)，TeleAI與智源基于模型(xing)(xing)(xing)生長(chang)和損失預(yu)測(ce)等關鍵技(ji)術(shu)聯(lian)合研發出(chu)的(de)Tele-FLM系列模型(xing)(xing)(xing)僅使(shi)用了(le)業界(jie)普通(tong)訓練方(fang)案9%的(de)算(suan)(suan)力(li)資源。基于112臺A800服務(wu)器，用4個(ge)月完(wan)成3個(ge)模型(xing)(xing)(xing)總計2.3T tokens的(de)訓練。模型(xing)(xing)(xing)訓練全(quan)程做(zuo)到了(le)零調整(zheng)零重試，算(suan)(suan)力(li)能(neng)效高且模型(xing)(xing)(xing)收(shou)斂(lian)性和穩定性好。Tele-FLM-1T版本即(ji)將(jiang)開源，期望為社(she)區訓練萬(wan)億(yi)稠密模型(xing)(xing)(xing)提(ti)供技(ji)術(shu)參考(kao)，避免萬(wan)億(yi)模型(xing)(xing)(xing)訓練收(shou)斂(lian)難等問(wen)題(ti)。

作為(wei)最早(zao)布(bu)局并首(shou)先開(kai)源大(da)模型(xing)的(de)央(yang)企(qi)機構，TeleAI在(zai)中(zhong)國電信(xin)CTO、TeleAI院長(chang)李學(xue)龍(long)帶領下，堅持全(quan)鏈路完全(quan)自主(zhu)研(yan)(yan)發創新，去(qu)年便發布(bu)了千億參數(shu)“星(xing)辰”語(yu)義大(da)模型(xing)，性能(neng)處于(yu)國內同(tong)級別(bie)參數(shu)模型(xing)的(de)前列。今(jin)年2月，TeleAI自主(zhu)研(yan)(yan)發的(de)星(xing)辰大(da)模型(xing)首(shou)次通(tong)過(guo)了“境內深度合成(cheng)服務算法備案(an)”。隨后，在(zai)5月15日，根據北(bei)京(jing)市生(sheng)成(cheng)式人工智能(neng)服務備案(an)信(xin)息公告，星(xing)辰大(da)模型(xing)再次通(tong)過(guo)產品備案(an)。“雙(shuang)備案(an)”標(biao)志著星(xing)辰大(da)模型(xing)可正(zheng)式對(dui)外提(ti)供生(sheng)成(cheng)式人工智能(neng)服務。

同時，TeleAI也(ye)積極通過(guo)開(kai)源(yuan)推動大模(mo)(mo)型(xing)技術進(jin)步和大模(mo)(mo)型(xing)國產化(hua)進(jin)程(cheng)，加(jia)快(kuai)研發(fa)創新(xin)，接連開(kai)源(yuan)7B、12B、52B參數規(gui)模(mo)(mo)大模(mo)(mo)型(xing)，吸引國內外開(kai)源(yuan)社區(qu)開(kai)發(fa)者廣泛討論和使用(yong)，開(kai)源(yuan)模(mo)(mo)型(xing)下載量過(guo)萬，積累超40W+用(yong)戶。隨著TeleChat系列模(mo)(mo)型(xing)的(de)發(fa)布，TeleAI也(ye)同步對(dui)多個大模(mo)(mo)型(xing)落地(di)項(xiang)目進(jin)行了(le)能力升(sheng)(sheng)級，顯著提升(sheng)(sheng)了(le)項(xiang)目交付的(de)質量。在某市民生訴求(qiu)場景項(xiang)目上，通過(guo)引入(ru)TeleChat-52B模(mo)(mo)型(xing)能力，整(zheng)體(ti)應用(yong)效果(guo)提升(sheng)(sheng)40%，達到了(le)行業內領(ling)先水(shui)平。同時，在長文生成和知識采編等(deng)多個應用(yong)領(ling)域，也(ye)取得(de)了(le)顯著的(de)進(jin)步。

此外，依(yi)托中國(guo)電信在(zai)多個行(xing)(xing)業(ye)(ye)深耕多年(nian)的(de)(de)(de)深厚(hou)優勢(shi)與豐富經驗，攜(xie)手行(xing)(xing)業(ye)(ye)領(ling)軍者共同(tong)打造了(le)覆蓋教育、政務、應急等(deng)超過20個行(xing)(xing)業(ye)(ye)的(de)(de)(de)大(da)型(xing)模(mo)型(xing)。并通(tong)過不斷升級的(de)(de)(de)語音、視覺以及多模(mo)態大(da)模(mo)型(xing)技(ji)術能力(li)，共同(tong)推動大(da)模(mo)型(xing)技(ji)術與各行(xing)(xing)業(ye)(ye)的(de)(de)(de)深度融合，助力(li)千(qian)行(xing)(xing)百(bai)業(ye)(ye)轉型(xing)升級。未(wei)來，TeleAI也(ye)將進(jin)一步為客戶、生(sheng)態伙伴、開(kai)發者及個人用(yong)戶等(deng)提(ti)供前沿的(de)(de)(de)AI能力(li)，賦能千(qian)行(xing)(xing)百(bai)業(ye)(ye)變(bian)革的(de)(de)(de)同(tong)時也(ye)提(ti)升個人工作(zuo)效率和日常生(sheng)活(huo)便利性，切實推進(jin)國(guo)內AI技(ji)術進(jin)步及落地應用(yong)，加速全社(she)會(hui)邁向通(tong)用(yong)人工智能時代(dai)。

TeleChat-52B開源模(mo)型鏈接：//github.com/Tele-AI/TeleChat-52B

Tele-FLM-1T開源鏈接(jie)敬請期待。