在AI界掀起波瀾的最新動態(tài)中，谷歌以雙重策略震撼了大模型戰(zhàn)場。一方面，T5Gemma的橫空出世重新點(diǎn)燃了encoder-decoder架構(gòu)的戰(zhàn)火，性能實(shí)現(xiàn)了顯著提升；另一方面，MedGemma則堅(jiān)守decoder-only路線，強(qiáng)勢進(jìn)軍醫(yī)療多模態(tài)領(lǐng)域，打破了閉源壁壘。
自2023年以來，decoder-only架構(gòu)幾乎壟斷了大模型的江湖。從GPT系列到LLaMA、Gemma、Mistral，再到Claude、Command-R、Yi系列，主流的大語言模型（LLM）幾乎清一色采用了這種“純解碼器”設(shè)計(jì)。然而，谷歌攜T5Gemma的回歸，打破了這一局面。
T5Gemma不僅重啟了encoder-decoder的技術(shù)路線，而且通過簡單的“適配”就實(shí)現(xiàn)了性能的飛躍，遠(yuǎn)遠(yuǎn)超過了原版Gemma 2。這一轉(zhuǎn)變令人矚目，T5Gemma 9B-9B在GSM8K（數(shù)學(xué)推理）上的得分比原始Gemma 2 9B高出9分，在DROP（閱讀理解）上的得分也高出4分。更令人驚訝的是，當(dāng)進(jìn)一步縮小參數(shù)量時(shí)，T5Gemma 2B-2B IT的MMLU得分比Gemma 2 2B提高了近12分，GSM8K準(zhǔn)確率暴漲到70.7%。
T5Gemma主要針對文本生成任務(wù)，包括問答系統(tǒng)、數(shù)學(xué)推理、閱讀理解等。其encoder-decoder架構(gòu)支持“不平衡”配置，例如9B編碼器配2B解碼器，能在質(zhì)量和效率之間實(shí)現(xiàn)最佳平衡。在相同的計(jì)算量下，T5Gemma的性能優(yōu)于僅解碼器模型，且靈活度更高，可以根據(jù)具體任務(wù)調(diào)整編碼器和解碼器的大小。
除了T5Gemma的技術(shù)回馬槍，Gemma 3系列也迎來了重大更新。谷歌此次專注于醫(yī)療多模態(tài)任務(wù)，推出了MedGemma和MedSigLIP兩款多模態(tài)模型。MedGemma支持圖文輸入，輸出醫(yī)學(xué)自由文本；而MedSigLIP則是輕量圖文編碼器。谷歌將“低資源友好”理念貫徹到底，MedGemma僅需4B模型即可逼近當(dāng)前最優(yōu)水平（SoTA），部署門檻極低，單卡甚至移動端也能輕松運(yùn)行。
4億參數(shù)的MedSigLIP同樣表現(xiàn)出色，不僅在醫(yī)學(xué)圖像領(lǐng)域游刃有余，還擅長檢索、零樣本分類等非醫(yī)學(xué)下游任務(wù)。在Med系列的“開源雙子星”的推動下，醫(yī)療模型的閉源壁壘岌岌可危，同行們紛紛對谷歌表示祝賀和期待。
谷歌的T5Gemma和Med系列模型不僅在架構(gòu)上實(shí)現(xiàn)了革新，更在產(chǎn)業(yè)落地方面邁出了堅(jiān)實(shí)步伐。T5Gemma系列預(yù)訓(xùn)練模型和指令微調(diào)模型已在Hugging Face上開源，助力社區(qū)在研究與開發(fā)中挖掘新機(jī)遇。而MedGemma和MedSigLIP的發(fā)布，更是直接將醫(yī)療AI的開源門檻大幅降低，醫(yī)療機(jī)構(gòu)可以輕松下載、部署，并在本地或自定義云平臺完成推理與微調(diào)。
谷歌的這一波操作，不僅打破了閉源神話，更為整個(gè)AI社區(qū)樹立了“工具+自由+性能”的典范。從T5Gemma到MedGemma，世界級開源模型已經(jīng)到來，接下來，就看開發(fā)者們?nèi)绾未箫@身手了。
