新(xīn)京報貝殼財經訊(記(jì)者羅亦丹)5月10日(rì),2025我(wǒ)國數穀·西湖論劍大會上,安恒信息高檔副(fù)總裁、研討院院(yuàn)長王欣發布了《安全智能體魔方:成熟度模型點評(píng)研討報告》。
關於近期各個大廠紛繁接入MCP(Model Context Protocol,模型上下文協議)這一現象,以及其背麵或許蘊藏的安全問(wèn)題,王欣告知新京報貝殼財經記者,相關於談天對話等簡略形式的大模(mó)型工業運用,許多安全場景中大模型需要和安全防(fáng)護(hù)係統相交融。MCP等標準呈現後形成(chéng)了必定(dìng)生態,這類生態會讓大模(mó)型、智能體、軟件世界的(de)安全防護係統做出更好的交融。
“MCP是一種協議,曩(nǎng)昔計(jì)算(suàn)機開展的(de)過程(chéng)中,許多協議開始(shǐ)並沒有安全規劃,MCP也是如此。因此會發生(shēng)一些(xiē)危(wēi)險,例如當MCP+大模型組合運用時,假如(rú)存在裝備(bèi)不妥,或許會導(dǎo)致正常大模型的價值觀對(duì)。齊。防護係統失效,然後變成歹(dǎi)意大模型。”王欣說。
王欣表明,跟著MCP的呈現,大模型和物理軟件世界銜接增多(duō),或許帶來各式各樣新的場景運用,但(dàn)也或許(xǔ)呈現新的安全問題,“在這個過程中咱(zán)們會不斷地繼續研討這個方向,盡量確保用戶在運用大模型時盡或許地安(ān)全。”。
修改 段文平。
校正 吳興(xìng)發。
印度客機墜毀機場康複運(yùn)營 — 新京報
“優(yōu)酷原創”廠牌露(lù)臉,強敘(xù)事、係列化、世界視界尋求“好故(gù)事” — 新京報