在“人工智能+”行動全面提速、AI原生應(yīng)用加速落地的關(guān)鍵階段，安全已成為支撐產(chǎn)業(yè)高質(zhì)量發(fā)展的核心底座。12月1日，由中國互聯(lián)網(wǎng)協(xié)會主辦、中國信息通信研究院（以下簡稱“中國信通院”）承辦的2025“人工智能+”產(chǎn)業(yè)生態(tài)大會“人工智能與安全論壇”在北京成功舉辦。論壇聚焦AI安全治理前沿議題，匯聚政產(chǎn)學(xué)研多方力量，發(fā)布多項(xiàng)研究成果、評估體系與行業(yè)標(biāo)準(zhǔn)，推動構(gòu)建可信、協(xié)同、韌性的AI安全新生態(tài)。

中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務(wù)副主任、工業(yè)和信息化部原總工程師趙志國表示，人工智能正成為全球科技競爭的最前沿，統(tǒng)籌人工智能的發(fā)展與安全已成為關(guān)乎產(chǎn)業(yè)全局的關(guān)鍵議題。為此，趙志國提出三點(diǎn)建議：一是筑牢技術(shù)根基，聚焦可信算法、對抗防御等核心技術(shù)，構(gòu)建具備內(nèi)生安全能力的人工智能底座；二是深化融合應(yīng)用，拓展人工智能在威脅識別、態(tài)勢感知等場景的深度應(yīng)用，提升風(fēng)險(xiǎn)響應(yīng)與防護(hù)能力；三是完善治理生態(tài)，加快標(biāo)準(zhǔn)體系建設(shè)，推動產(chǎn)業(yè)協(xié)同與國際合作，共同營造安全、可信的人工智能發(fā)展環(huán)境。

北京市通信管理局黨組成員、副局長王暉表示，“十五五”規(guī)劃建議提出要“加強(qiáng)網(wǎng)絡(luò)、數(shù)據(jù)、人工智能等新興領(lǐng)域國家安全能力建設(shè)”，為我們下一步工作提供了根本遵循。信息通信與人工智能深度融合，積極賦能科技、產(chǎn)業(yè)、消費(fèi)、民生、治理、全球合作等重點(diǎn)領(lǐng)域。未來，我們將圍繞突出政策引領(lǐng)、夯實(shí)安全基礎(chǔ)、強(qiáng)化技術(shù)攻關(guān)等方面，全面筑牢信息通信行業(yè)網(wǎng)絡(luò)和數(shù)據(jù)安全防護(hù)底座，以高水平安全護(hù)航人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展。

中國信通院黨委副書記王曉麗表示，堅(jiān)持發(fā)展與安全并重、統(tǒng)籌人工智能的創(chuàng)新應(yīng)用與安全治理，是保障人工智能健康有序發(fā)展的核心前提與必然要求。總體看，我國人工智能安全產(chǎn)業(yè)發(fā)展正邁入高質(zhì)量發(fā)展軌道，政策環(huán)境持續(xù)優(yōu)化，技術(shù)創(chuàng)新應(yīng)用不斷涌現(xiàn)，產(chǎn)業(yè)融合持續(xù)深化升級。未來，中國信通院將堅(jiān)持使命定位，持續(xù)布局人工智能安全產(chǎn)業(yè)前瞻領(lǐng)域研究，大力推動產(chǎn)業(yè)基礎(chǔ)設(shè)施生態(tài)與標(biāo)準(zhǔn)體系建設(shè)，促進(jìn)相關(guān)產(chǎn)業(yè)創(chuàng)新發(fā)展。

論壇上，中國信通院發(fā)布了系列AI安全研究成果，并公布最新一批“可信安全”評估結(jié)果，覆蓋可信云安全、可信AI云安全等領(lǐng)域，為行業(yè)技術(shù)選型與安全建設(shè)提供參考。

為響應(yīng)中央經(jīng)濟(jì)工作會議關(guān)于“開展‘人工智能+’行動，培育未來產(chǎn)業(yè)”的部署，中國互聯(lián)網(wǎng)協(xié)會主辦首屆“AI領(lǐng)航杯”“人工智能+”應(yīng)用與技能大賽，其中“AI+安全”賽道由中國信通院承辦。經(jīng)過多輪角逐，共評選出48個(gè)獲獎項(xiàng)目，包括3個(gè)一等獎、8個(gè)二等獎、15個(gè)三等獎及22個(gè)優(yōu)秀獎，充分展現(xiàn)我國在AI安全領(lǐng)域的創(chuàng)新活力與實(shí)踐成果。

隨著大模型與智能體技術(shù)的快速演進(jìn)，云上智能體已在政務(wù)、金融、通信、能源等關(guān)鍵領(lǐng)域規(guī)?；涞?，但其帶來的身份偽造、決策失控、權(quán)限濫用等新型風(fēng)險(xiǎn)日益凸顯。對此，中國互聯(lián)網(wǎng)協(xié)會與云計(jì)算標(biāo)準(zhǔn)和開源推進(jìn)委員會聯(lián)合發(fā)布《云上智能體安全發(fā)展研究報(bào)告》，系統(tǒng)梳理智能體安全挑戰(zhàn)與防護(hù)路徑，為云廠商、安全企業(yè)及行業(yè)用戶提供建設(shè)指引。

針對端云協(xié)同場景下交互復(fù)雜度激增帶來的隱私與數(shù)據(jù)泄露風(fēng)險(xiǎn)，論壇同步發(fā)布《端云協(xié)同 智能體交互雙重授權(quán)安全指引》。該指引由中國信通院聯(lián)合北京郵電大學(xué)、國家金融科技認(rèn)證中心、天翼安全等機(jī)構(gòu)共同研制，倡導(dǎo)建立“用戶+應(yīng)用”雙重授權(quán)機(jī)制，推動智能體應(yīng)用在合規(guī)前提下加速落地。

中國信通院云計(jì)算與大數(shù)據(jù)研究所郭雪在解讀報(bào)告時(shí)表示，當(dāng)前云上智能體正處于規(guī)模化落地的關(guān)鍵窗口期，其安全風(fēng)險(xiǎn)呈現(xiàn)傳導(dǎo)快、影響廣、隱蔽性強(qiáng)等特點(diǎn)。她呼吁通過“標(biāo)準(zhǔn)引領(lǐng)、技術(shù)突破、生態(tài)協(xié)同”三維共治，筑牢安全底座。

同場分享中，信通院馬銘洋指出，傳統(tǒng)安全工具已難以應(yīng)對AI催生的新型威脅，“AI對抗AI”將成為未來防護(hù)核心方向。安全體系正加速向內(nèi)生防御、主動智能與韌性自治轉(zhuǎn)型，亟需攻克智能化安全技術(shù)瓶頸。

來自中國移動、中國電信、360、興云數(shù)科等企業(yè)的專家也圍繞可信AI實(shí)踐、大模型安全運(yùn)營、AI安全新基建、Agentic SOC等主題展開案例分享。在圓桌對話環(huán)節(jié)，啟明星辰、奇安信、中國電信安全公司等代表就“智能化時(shí)代下AI安全的挑戰(zhàn)與破局之道”深入探討，一致認(rèn)為唯有構(gòu)建開放協(xié)同的產(chǎn)業(yè)生態(tài)，方能實(shí)現(xiàn)安全與發(fā)展雙贏。

值得關(guān)注的是，論壇正式啟動《AI原生云安全能力成熟度要求》標(biāo)準(zhǔn)研制工作。該標(biāo)準(zhǔn)將明確AI原生云安全的核心維度、評價(jià)框架與指標(biāo)體系，為各類主體提供可量化、可評估的建設(shè)指南，加速安全能力與AI原生場景的深度融合。

隨著本次論壇落幕，中國信通院表示將持續(xù)發(fā)揮產(chǎn)業(yè)平臺作用，通過標(biāo)準(zhǔn)制定、測試評估、生態(tài)對接等方式，推動AI安全產(chǎn)業(yè)邁向更高水平。在政策引導(dǎo)、技術(shù)驅(qū)動與多方協(xié)同下，一個(gè)安全可信、開放共贏的人工智能安全新生態(tài)正加速成型，為數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展注入堅(jiān)實(shí)保障與持久動能。