<dd id='1odqp'></dd>

當前位置：網站首頁 > 新聞中心 > 產業動態

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱(yue)讀次數：1468 編輯：系統管理(li)員發(fa)布時間：2025-12-05 15:01

[字體：大中小]

想(xiang)象(xiang)這(zhe)樣一(yi)(yi)個畫面，在一(yi)(yi)個普(pu)通的(de)工作日，你(ni)坐進了心愛的(de)座駕(jia)，隨口問到：“今日有什(shen)么(me)新聞？”車(che)載(zai)AI立馬啟動，下一(yi)(yi)秒，它(ta)開(kai)始娓娓道(dao)來——上到事關國(guo)計民生(sheng)的(de)政策，下到市井俚俗的(de)民生(sheng)八卦，流暢(chang)、自然、像朋友聊天(tian)一(yi)(yi)樣貼心。但如果(guo)這(zhe)番溝(gou)通中暗含著什(shen)么(me)不該說的(de)內容(rong)？比(bi)如敏感(gan)話題、虛假(jia)信息(xi)、甚至來自釣魚網(wang)站的(de)惡意廣告(gao)......

這(zhe)不(bu)是科幻片的(de)橋段，在智能座(zuo)艙加速邁(mai)向“AI原(yuan)生”的(de)今天，每一輛搭載AI模(mo)型(xing)的(de)智能座(zuo)駕都必須面對的(de)現實考(kao)題。

作為智能(neng)座(zuo)艙(cang)領域的先行(xing)者(zhe)，斑馬智行(xing)聯(lian)合阿里云共(gong)同打造面向智能(neng)座(zuo)艙(cang)場(chang)景的AI安(an)全審核方案(an)，通過阿里云AI安(an)全護欄的能(neng)力加(jia)持和云基(ji)礎(chu)設施強調(diao)的彈性吞(tun)吐力，該方案(an)已經成(cheng)功(gong)應(ying)用于(yu)多個(ge)頭部(bu)品牌車(che)型中(zhong)，日均支撐千萬級大模型安(an)全審核調(diao)用，為行(xing)業(ye)樹立了大模型內容安(an)全與(yu)用戶體(ti)(ti)驗兼顧的新標桿(gan)。

斑馬智行安(an)(an)全(quan)負責人(ren)評(ping)價到(dao)：“我(wo)們與阿里云(yun)共同打造的這套(tao)安(an)(an)全(quan)護欄方案，不(bu)僅(jin)滿足(zu)了(le)(le)國家(jia)級合(he)規要求(qiu)，更在(zai)真(zhen)實量(liang)產場景中(zhong)驗證了(le)(le)其高性能、高可靠、可擴展的工(gong)程價值(zhi)。這不(bu)僅(jin)是技(ji)術方案的勝利，更是AI安(an)(an)全(quan)治理體系在(zai)汽(qi)車行業的成功(gong)落地(di)。”

當(dang)大模(mo)型成為汽車標配

千人千面背后的(de)安(an)全隱患(huan)

回到(dao)文章最初的(de)場景，隨著大(da)模(mo)型和AI Agent的(de)迅速發展，智(zhi)能(neng)座(zuo)艙里的(de)安全助手，早已不再是只(zhi)會(hui)導(dao)航(hang)、會(hui)放歌的(de)“工具人”，在Multi-Agent技術的(de)加(jia)持下，它不僅能(neng)聯網搜(sou)索，能(neng)多輪對(dui)話，還能(neng)一(yi)鍵(jian)幫你定制行程、分析新聞(wen)......但每一(yi)次看(kan)似普通的(de)交互(hu)背后，都(dou)隱藏著不容忽(hu)視的(de)安全風險：

用戶隨口一句“講個刺激的歷史故事(shi)”，會(hui)不(bu)會(hui)觸發不(bu)當內(nei)容？
AI從網上(shang)抓取的信息(xi)，是否混進了賭博、色情或釣魚鏈接？
聯網搜索(suo)功能(neng)加持下，用(yong)戶輸入(ru)是否會觸發對惡意網站的直接調(diao)用(yong)？

國家(jia)《信息(xi)安全(quan)技術生成式人(ren)工(gong)智(zhi)能(neng)服務安全(quan)基(ji)本要求》（TC260-003）中明確(que)要求，需對風(feng)險(xian)進行識別與攔(lan)截。熟悉安全(quan)的朋友(you)可能(neng)會疑惑，內(nei)容安全(quan)審核技術已經發展(zhan)了數十年，難道沒有直接(jie)可用的成熟解決方案嗎？實際上(shang)：

一方(fang)面(mian)，為了保證用戶與模型(xing)交互過(guo)程的流暢性，一句話往(wang)(wang)往(wang)(wang)被(bei)拆(chai)成十(shi)幾段流式輸(shu)出(chu)，傳統(tong)基于(yu)關鍵詞和規則的專家(jia)模型(xing)，面(mian)對這(zhe)類(lei)語義復雜(za)、上下文強(qiang)依賴的模型(xing)輸(shu)出(chu)時，最終(zhong)結果往(wang)(wang)往(wang)(wang)是(shi)“看(kan)得見字，但(dan)不懂意”；
另一(yi)方面(mian)，如果全部(bu)依賴大模(mo)型審核，雖然理解(jie)能力強，但因推(tui)理耗時長且成本(ben)高，難以滿足車載場(chang)景對實時性的(de)嚴(yan)苛要(yao)求；

“既要(yao)(yao)快，又要(yao)(yao)準”——這(zhe)正(zheng)是斑馬智行與阿里云聯合攻堅(jian)的核心命(ming)題。

阿里(li)云AI安(an)全護(hu)欄(lan)：

三大技術突破，重新定(ding)義(yi)車載AI安全標準

阿里云AI安全護(hu)欄(lan)（AI Guardrails）是云安全團(tuan)隊為人工智(zhi)能系統設計(ji)的(de)安全防護(hu)產品，防護(hu)對象覆蓋(gai)預訓練大模型、AI服務(wu)和(he)AI Agent等不(bu)同業(ye)務(wu)形態。在智(zhi)能座艙場(chang)景，AI安全護(hu)欄(lan)為斑馬智(zhi)行提供了精準的(de)風(feng)險(xian)檢(jian)測與主動防御能力，同時滿足車載(zai)場(chang)景對效率和(he)效果的(de)要求(qiu)。

1.雙引擎協(xie)同架構：毫秒級審核響應

不同于單一(yi)的審(shen)核策略，阿(a)里云AI安全護欄(lan)采(cai)用“規則(ze)引擎+小(xiao)模型+大(da)模型”協同審(shen)核策略：

所有輸(shu)入/輸(shu)出文本實(shi)時(shi)切(qie)片后，由輕量級專(zhuan)家模型(xing)并行執行毫(hao)秒(miao)級初篩，快速攔(lan)截明顯風險；

同時，重新編排大模型(xing)深度(du)審核鏈路，利用多線程智能化調(diao)度(du)；

最(zui)終(zhong)融合(he)雙(shuang)引(yin)擎結果，在不(bu)(bu)犧牲召回率的前(qian)提下，有效(xiao)降低了端(duan)到(dao)(dao)端(duan)審核(he)延(yan)的響應時(shi)間，完美適配車載用戶實時(shi)交互的流暢體(ti)驗，用戶感(gan)覺不(bu)(bu)到(dao)(dao)“檢(jian)查”的存在，安全卻(que)始終(zhong)在線。

2.流式(shi)上下文(wen)關聯審核：短文(wen)本不(bu)再“裸奔”

為(wei)了保障與客戶溝(gou)通的(de)實時性，大模(mo)型內(nei)容生成大多采用(yong)“邊(bian)(bian)生成，邊(bian)(bian)輸入(ru)”的(de)流式(shi)模(mo)式(shi)，一(yi)段回(hui)答可能會分為(wei)10次推送，單次切(qie)片可能僅10-20字，傳統審(shen)核(he)模(mo)型因缺乏上下文，面對這種“碎片化表達”，極易漏判。阿里云AI安(an)全護欄(lan)采用(yong)“大模(mo)型流式(shi)審(shen)核(he)方(fang)案”：

通(tong)過唯一(yi)標識關(guan)聯一(yi)次完(wan)整對(dui)話；
安全護欄自動聚(ju)合同一(yi)會話中的所有切片，進(jin)行跨片段語義理解；
即使敏感內容分散在多輪輸出中，也能精準識別并攔截；

實測顯(xian)示，該方案將短文本場景下的風(feng)險(xian)內容召回率提升(sheng)至(zhi)98%以(yi)上，遠超傳統方案。

3.聯網檢(jian)索風險(xian)實時攔(lan)截：堵住Agent的“后(hou)門”

在支持聯網搜(sou)索(suo)的Agent場景中(zhong)，用(yong)戶(hu)提(ti)問可(ke)能(neng)觸(chu)發對第三方網頁的抓取，例(li)如(ru)：

用戶問一句：“幫(bang)我找(zhao)附(fu)近評分最高的酒吧(ba)”，AI所搜索(suo)到的目標站點(dian)可能是某個偽裝(zhuang)成酒吧(ba)推薦網頁的釣魚、賭博或色情網站，將直(zhi)接污(wu)染大模型的輸(shu)入。阿里云AI安全(quan)所具有的“URL風(feng)險(xian)檢測”模塊(kuai)，則能快(kuai)速應對：

對所有聯網請求中(zhong)的(de)第三(san)方鏈接進行(xing)實時掃(sao)描；
精準識別色情(qing)信息、非法賭博、釣魚網站、虛假(jia)營銷(xiao)等(deng)風險(xian)類型：
一旦命中高風險(xian)標簽(qian)，立即(ji)終止任務，防止有害(hai)信息流入大模(mo)型。

目(mu)前該(gai)能(neng)力已覆蓋智能(neng)搜索、資訊推薦等多個(ge)高頻場景。

云基礎(chu)設施彈性保障：安全能(neng)力(li)“隨(sui)需調用(yong)”

對于(yu)各大車企，定期的(de)促(cu)銷、活動(dong)、新車上市(shi)......往往都伴隨著(zhu)流(liu)量(liang)激增。尤其在智(zhi)能駕駛、智(zhi)能座艙等新興領域，首發熱度動(dong)輒帶來數倍于(yu)日常(chang)的(de)調用量(liang)，這(zhe)對任(ren)何產(chan)品(pin)都是一(yi)次“壓力(li)測試(shi)”，如果安全審核(he)扛不(bu)住，輕(qing)則延(yan)遲卡(ka)頓、重則全面宕機。

阿里(li)云(yun)AI安全護(hu)欄依托于阿里(li)云(yun)強(qiang)大的(de)(de)基礎設施，為客戶(hu)提(ti)供可(ke)彈性拓展的(de)(de)安全防護(hu)力，支持(chi)客戶(hu)按(an)需購買QPS彈性擴展包，最短(duan)7天(tian)起訂，已驗證可(ke)支持(chi)單項(xiang)目峰值600 QPS的(de)(de)穩(wen)定運行。

無論是平日通(tong)勤，還是發布會后的“搶車潮(chao)”，安(an)全(quan)能力始終絲(si)滑在(zai)線。(斑馬智行(xing))

掃一(yi)掃在手機打開當前(qian)頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...