近期，據(jù)科技媒體晚點(diǎn)LatePost透露，字節(jié)跳動(dòng)在1月下旬悄然啟動(dòng)了一個(gè)代號(hào)為“Seed Edge”的前沿研究項(xiàng)目。該項(xiàng)目旨在探索比當(dāng)前預(yù)訓(xùn)練技術(shù)和大模型迭代更為長(zhǎng)遠(yuǎn)和基礎(chǔ)的人工智能通用智能（AGI）領(lǐng)域。Seed Edge項(xiàng)目已經(jīng)規(guī)劃了五個(gè)核心研究方向，預(yù)示著字節(jié)跳動(dòng)在AI研究上的深度布局。
其中，“下一代推理”方向致力于研究如何提升模型的推理效率與通用性，尋找更高效的方法來(lái)處理復(fù)雜問(wèn)題?！跋乱淮兄眲t聚焦于構(gòu)建統(tǒng)一的生成與理解表示體系，以更精準(zhǔn)地表示和壓縮真實(shí)世界信息，進(jìn)而構(gòu)建出“世界模型”。
在“軟硬一體的模型設(shè)計(jì)”方向上，Seed Edge項(xiàng)目計(jì)劃結(jié)合硬件發(fā)展，探索超越Transformer+GPU架構(gòu)的模型設(shè)計(jì)，充分發(fā)揮下一代硬件的潛力。而“下一代范式”研究則意在突破現(xiàn)有的反向傳播、Transformer架構(gòu)及預(yù)訓(xùn)練+對(duì)齊模式，探索更高效的模型結(jié)構(gòu)和學(xué)習(xí)方法。
“下一代Scaling方向”則專注于在預(yù)訓(xùn)練和推理階段的擴(kuò)展法則之外，探索Multi-Agent（多智能體）系統(tǒng)和Test-Time Training（測(cè)試時(shí)間訓(xùn)練）等新興方向，以期在模型性能和適應(yīng)性上取得突破。
據(jù)透露，Seed Edge項(xiàng)目初期將以虛擬項(xiàng)目組的形式運(yùn)作，針對(duì)這些充滿不確定性的研究方向進(jìn)行深入探索。這一舉措顯示出字節(jié)跳動(dòng)在AI前沿領(lǐng)域的積極探索精神。
在過(guò)去一年中，字節(jié)跳動(dòng)密集發(fā)布了多款A(yù)I大模型產(chǎn)品，展現(xiàn)了其在AI技術(shù)上的強(qiáng)勁實(shí)力。就在近日，字節(jié)跳動(dòng)還推出了豆包大模型1.5 Pro，據(jù)稱在知識(shí)、代碼、推理、中文等多個(gè)測(cè)評(píng)基準(zhǔn)上表現(xiàn)優(yōu)異，綜合得分甚至超越了GPT-4o、Claude 3.5 Sonnet等模型。
字節(jié)跳動(dòng)官方表示，豆包大模型1.5 Pro在訓(xùn)練過(guò)程中未使用任何其他模型生成的數(shù)據(jù)，確保了模型的獨(dú)立性和原創(chuàng)性。同時(shí)，豆包大模型1.5系列產(chǎn)品，包括Doubao-1.5-pro、Doubao-1.5-lite、Doubao-1.5-vision-pro等，將繼續(xù)保持原價(jià)不變，為用戶提供更多價(jià)值。
隨著Seed Edge項(xiàng)目的啟動(dòng)和豆包大模型1.5 Pro的發(fā)布，字節(jié)跳動(dòng)在AI領(lǐng)域的布局日益清晰。從基礎(chǔ)研究到應(yīng)用產(chǎn)品，字節(jié)跳動(dòng)正逐步構(gòu)建起完整的AI生態(tài)體系。
未來(lái)，隨著技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷拓展，字節(jié)跳動(dòng)有望在AI領(lǐng)域取得更多突破和創(chuàng)新。
對(duì)于用戶而言，這也意味著將能夠享受到更加智能、便捷、高效的服務(wù)和體驗(yàn)。
