體育資訊7月21日訊 近日，中國AI公司月之暗面發(fā)布新一代Kimi K3，參數(shù)規(guī)模達(dá)2.8萬億，為目前全球參數(shù)最大的開源模型。

據(jù)悉，Kimi K3模型原生支持圖像輸入和100萬Token上下文，采用Kimi Delta Attention、注意力殘差以及高度稀疏的混合專家架構(gòu)，處理每個(gè)Token時(shí)僅從896個(gè)專家中有效激活16個(gè)，以提高算力利用效率。

在Kimi K3發(fā)布后不久，馬斯克在相關(guān)評(píng)測(cè)報(bào)道評(píng)論區(qū)留言：“令人印象深刻。”而這是他繼今年3月點(diǎn)贊Kimi底層架構(gòu)技術(shù)報(bào)告后，第二次公開認(rèn)可該團(tuán)隊(duì)。

但贊賞余溫未散，7月18日，馬斯克再次發(fā)表評(píng)論稱，我們的2萬億參數(shù)模型將在下周完成初始訓(xùn)練，并稱其全面優(yōu)于1.5萬億版本，且“可能超越Kimi”。

而面對(duì)馬斯克的隔空“宣戰(zhàn)”， Kimi官方回應(yīng)稱：歡迎馬斯克加入“2萬億+俱樂部”