法國新興人工智能企業(yè)Mistral AI于周四推出了一款全新的內(nèi)容審核API，意在加強(qiáng)AI安全并應(yīng)對(duì)行業(yè)日益嚴(yán)峻的內(nèi)容過濾需求。此舉被視為該公司與業(yè)界翹楚OpenAI等競(jìng)爭(zhēng)對(duì)手展開新一輪角力的標(biāo)志。
新審核服務(wù)依托于Mistral的Ministral 8B模型，經(jīng)過精細(xì)調(diào)整，現(xiàn)已能識(shí)別包括色情、仇恨言論、暴力內(nèi)容等在內(nèi)的九個(gè)類別的潛在風(fēng)險(xiǎn)內(nèi)容。該API還提供了對(duì)原始文本及對(duì)話內(nèi)容的深度分析能力。
在發(fā)布會(huì)上，Mistral團(tuán)隊(duì)強(qiáng)調(diào)了安全性在AI技術(shù)部署中的核心作用，并表示系統(tǒng)級(jí)的安全防護(hù)措施對(duì)于保障下游應(yīng)用的安全至關(guān)重要。
隨著AI技術(shù)的廣泛應(yīng)用，各大公司正面臨著越來越大的壓力，要求其對(duì)技術(shù)實(shí)施更為嚴(yán)格的保護(hù)措施。Mistral上月還參與了英國人工智能安全峰會(huì)，并與其他主要AI企業(yè)共同簽署了負(fù)責(zé)任開發(fā)AI的承諾書。
Mistral的這項(xiàng)新服務(wù)已率先在其自家的Le Chat平臺(tái)上投入使用，支持包括阿拉伯語、中文、英語等在內(nèi)的11種語言，展現(xiàn)了其在多語言環(huán)境下的強(qiáng)大適應(yīng)能力，相較于一些主要關(guān)注英語內(nèi)容的競(jìng)爭(zhēng)對(duì)手，這無疑是一大優(yōu)勢(shì)。
過去數(shù)月，行業(yè)與研究界對(duì)基于大型語言模型（LLM）的審核系統(tǒng)興趣激增，此類系統(tǒng)有助于提高審核的可擴(kuò)展性和穩(wěn)健性。Mistral的此次發(fā)布正是在這一背景下應(yīng)運(yùn)而生。
Mistral近期還與微軟Azure、高通及SAP等知名企業(yè)達(dá)成了一系列合作，進(jìn)一步鞏固了其在企業(yè)AI市場(chǎng)中的地位。
Mistral的方法論不僅關(guān)注云計(jì)算，還兼顧邊緣計(jì)算和全面的安全功能。在數(shù)據(jù)隱私、延遲和合規(guī)性等問題日益受到關(guān)注的當(dāng)下，其同時(shí)支持設(shè)備端AI和內(nèi)容審核的策略顯得頗具前瞻性，尤其對(duì)于受嚴(yán)格數(shù)據(jù)保護(hù)法規(guī)約束的歐洲企業(yè)來說，更具吸引力。
該公司的審核模型通過訓(xùn)練理解對(duì)話上下文，而非僅分析孤立文本，從而能夠捕捉到更為隱蔽的有害內(nèi)容。這一技術(shù)創(chuàng)新顯示了Mistral在AI安全領(lǐng)域的領(lǐng)先地位。
新推出的審核API現(xiàn)已通過Mistral的云平臺(tái)對(duì)外開放，價(jià)格依據(jù)使用量定制。公司方面表示，未來將繼續(xù)提升系統(tǒng)準(zhǔn)確性，并根據(jù)客戶反饋及安全需求不斷擴(kuò)展功能。
Mistral的迅速崛起及其在安全領(lǐng)域的布局，不僅展示了人工智能行業(yè)的快速發(fā)展，也反映了企業(yè)對(duì)AI安全的重視程度。在這個(gè)由美國科技巨擘主導(dǎo)的市場(chǎng)中，Mistral憑借其獨(dú)特的歐洲視角和對(duì)隱私安全的執(zhí)著，有望成為一股不可忽視的力量。
