螞蟻集團(tuán)公布自研金融大模型：算力集群可達(dá)萬(wàn)卡規(guī)模

9月8日在上海舉辦的2023年Inclusion·外灘大會(huì)上，螞蟻集團(tuán)發(fā)布了金融大模型，這一款大模型，是基于螞蟻資源基礎(chǔ)的大模型，專門對(duì)金融業(yè)定制，算力集群可達(dá)到萬(wàn)卡的規(guī)模，當(dāng)前螞蟻金融大模型在螞蟻集團(tuán)財(cái)富保險(xiǎn)平臺(tái)上已經(jīng)上限進(jìn)行全面的測(cè)試。

據(jù)螞蟻集團(tuán)官方的介紹，這一次公布的自研金融大模型有萬(wàn)卡異構(gòu)的集群，千卡規(guī)模訓(xùn)練在利用率方面為40%，在有效集群的訓(xùn)練時(shí)長(zhǎng)中占據(jù)了90%以上，而基于人類反饋強(qiáng)化學(xué)習(xí)方面，在相同模型效果之下訓(xùn)練吞吐性能比業(yè)界給出的方案有3.59倍的提升，在推理性能方面比業(yè)界方案給出的提升了約兩倍。

通用的大模型在專業(yè)嚴(yán)謹(jǐn)?shù)念I(lǐng)域是沒有辦法直接拿去商用的，尤其是在金融服務(wù)板塊，對(duì)于錯(cuò)誤容忍率極低，兼容的大模型要有專業(yè)的知識(shí)，并且邏輯上面要極為嚴(yán)謹(jǐn)，還可以真正實(shí)現(xiàn)產(chǎn)業(yè)上帶來價(jià)值，其中專業(yè)力、知識(shí)力、語(yǔ)言力和安全力這四大能力是進(jìn)行模型運(yùn)用的前提條件。

螞蟻金融大模型處于萬(wàn)億量級(jí)別token通用語(yǔ)料基礎(chǔ)之上，將千億級(jí)的token 金融知識(shí)注入，從300多真實(shí)的產(chǎn)業(yè)場(chǎng)景當(dāng)中將60萬(wàn)高質(zhì)量的指令數(shù)據(jù)提取出來，成為專屬于金融產(chǎn)業(yè)的數(shù)據(jù)資料庫(kù)。

目前螞蟻金融的大模型通過了保險(xiǎn)從業(yè)資格，證券從業(yè)資格，執(zhí)業(yè)醫(yī)師資格，執(zhí)業(yè)藥師資格等眾多專業(yè)試題的檢測(cè)，當(dāng)天螞蟻集團(tuán)也將基于金融大模型能力的兩款產(chǎn)品做出發(fā)布，特別是作為智能金融助理的“支小寶2.0”，服務(wù)金融專業(yè)，智能業(yè)務(wù)助手“支小助”，支小寶的2.0版本已處于內(nèi)測(cè)階段，當(dāng)完成有關(guān)備案工作之后，就會(huì)考慮上線。