- 發(fā)布時(shí)間：2025-09-15
- 來(lái)源：學(xué)習(xí)時(shí)報(bào)
-
習(xí)近平總書(shū)記在中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，人工智能帶來(lái)前所未有發(fā)展機(jī)遇，也帶來(lái)前所未遇風(fēng)險(xiǎn)挑戰(zhàn)，并要求構(gòu)建應(yīng)急響應(yīng)體系。當(dāng)下，人工智能技術(shù)正從技術(shù)能力展示向深度融合應(yīng)用轉(zhuǎn)變，全球智能技術(shù)加速滲透社會(huì)生產(chǎn)生活，在提升效率的同時(shí)，也催生了算法偏見(jiàn)、數(shù)據(jù)泄露、倫理失序等新型社會(huì)風(fēng)險(xiǎn)。目前，全球由于人工智能系統(tǒng)存在缺陷、自動(dòng)化決策出現(xiàn)偏差或生成內(nèi)容被濫用而引發(fā)社會(huì)安全風(fēng)險(xiǎn)的事件時(shí)有發(fā)生，警示我們必須前瞻性地構(gòu)建具備敏捷響應(yīng)能力的新型應(yīng)急響應(yīng)體系，這是推動(dòng)人工智能健康有序發(fā)展的重要保障。
智能社會(huì)公共安全風(fēng)險(xiǎn)挑戰(zhàn)傳統(tǒng)的應(yīng)急管理思維。人工智能技術(shù)正以前所未有的廣度與深度重塑生產(chǎn)生活方式和社會(huì)治理模式。“人工智能+”在制造、醫(yī)療、金融等領(lǐng)域正快速落地。然而，這場(chǎng)變革在釋放機(jī)遇的同時(shí)，也帶來(lái)復(fù)雜多元的風(fēng)險(xiǎn)挑戰(zhàn)。一方面，公共安全風(fēng)險(xiǎn)范圍廣、影響程度深。人工智能技術(shù)已對(duì)國(guó)際安全秩序、國(guó)家治理基礎(chǔ)、關(guān)鍵基礎(chǔ)設(shè)施韌性及公民個(gè)人權(quán)益形成全方位沖擊，并在自然的物質(zhì)世界、人的精神世界、客觀的知識(shí)世界、獨(dú)立的智能世界“四個(gè)世界”的空間中傳導(dǎo)放大。另一方面，公共安全風(fēng)險(xiǎn)呈現(xiàn)漂移化特征，應(yīng)對(duì)難度顯著提升。這種漂移體現(xiàn)為風(fēng)險(xiǎn)在時(shí)間、空間或性質(zhì)上的動(dòng)態(tài)遷移，而人工智能的應(yīng)用加劇了這種動(dòng)態(tài)變化的易發(fā)性。算法的自主演進(jìn)則可能引發(fā)目標(biāo)偏移或產(chǎn)生有害行為。此外，人工智能技術(shù)帶來(lái)風(fēng)險(xiǎn)的涌現(xiàn)性和不可預(yù)測(cè)性，不僅會(huì)加劇風(fēng)險(xiǎn)漂移化，且這些風(fēng)險(xiǎn)間還具有強(qiáng)關(guān)聯(lián)性，放大破壞性。雖然人工智能技術(shù)賦能可以提升國(guó)家治理的精準(zhǔn)性與效率，但相關(guān)技術(shù)的封閉性也可能引發(fā)數(shù)字權(quán)力集中、削弱政府透明度、沖擊社會(huì)公平與問(wèn)責(zé)機(jī)制等隱憂。
面對(duì)這些深刻變化，以防止物理?yè)p害為核心、以特定時(shí)空為限的傳統(tǒng)應(yīng)急管理思維已顯滯后，難以適應(yīng)智能社會(huì)公共安全風(fēng)險(xiǎn)的系統(tǒng)性、全局性與動(dòng)態(tài)性特征。人工智能時(shí)代應(yīng)急管理的對(duì)象需從自然的物質(zhì)世界為主，拓展至自然的物質(zhì)世界、人的精神世界、客觀的知識(shí)世界、獨(dú)立的智能世界的全面兼顧。這不僅需要從技術(shù)治理角度完善風(fēng)險(xiǎn)管理體系，更需要構(gòu)建適合智能時(shí)代的應(yīng)急響應(yīng)體系。這絕非“人工智能+”行動(dòng)的限制和負(fù)擔(dān)，而是為構(gòu)建繁榮、安全、可信賴的未來(lái)智能社會(huì)夯實(shí)基石、筑牢護(hù)欄。這是一個(gè)“邊走邊建”的過(guò)程，需要政府、企業(yè)、科研機(jī)構(gòu)、社會(huì)公眾的共同參與和持續(xù)努力。
“人工智能+”將重構(gòu)突發(fā)事件分類(lèi)分級(jí)體系，并沖擊我國(guó)現(xiàn)行應(yīng)急響應(yīng)體系。人工智能技術(shù)深度融入社會(huì)運(yùn)行后，突發(fā)事件的分類(lèi)分級(jí)體系面臨根本性變革。傳統(tǒng)以物理?yè)p害為核心、依靠人工經(jīng)驗(yàn)判定突發(fā)事件分類(lèi)分級(jí)的靜態(tài)模式，已難以應(yīng)對(duì)智能時(shí)代復(fù)雜系統(tǒng)的動(dòng)態(tài)風(fēng)險(xiǎn)。目前《國(guó)家突發(fā)事件總體應(yīng)急預(yù)案》將網(wǎng)絡(luò)安全、網(wǎng)絡(luò)數(shù)據(jù)安全、信息安全事件歸為我國(guó)四大類(lèi)突發(fā)事件中的事故災(zāi)難類(lèi)型，這一分類(lèi)屬于過(guò)渡性方案。未來(lái)需研究增設(shè)與人工智能及網(wǎng)絡(luò)安全、網(wǎng)絡(luò)數(shù)據(jù)安全、信息安全相關(guān)的第五類(lèi)突發(fā)事件，涵蓋人工智能技術(shù)系統(tǒng)故障、人機(jī)交互沖突、跨界融合災(zāi)害等場(chǎng)景。突發(fā)事件的分級(jí)標(biāo)準(zhǔn)也需突破“唯傷亡財(cái)產(chǎn)論”的靜態(tài)框架，建立物理域、信息域、認(rèn)知域、治理域多維損失的動(dòng)態(tài)評(píng)估模型，通過(guò)實(shí)時(shí)數(shù)據(jù)流分析風(fēng)險(xiǎn)傳導(dǎo)路徑與級(jí)聯(lián)效應(yīng)。同時(shí)應(yīng)將算法可靠性、系統(tǒng)關(guān)聯(lián)度、輿情擴(kuò)散系數(shù)等納入分級(jí)指標(biāo)，實(shí)現(xiàn)從靜態(tài)結(jié)果導(dǎo)向向動(dòng)態(tài)過(guò)程管控轉(zhuǎn)型，并基于風(fēng)險(xiǎn)性質(zhì)與風(fēng)險(xiǎn)級(jí)別對(duì)不同關(guān)鍵領(lǐng)域的AI系統(tǒng)實(shí)行差異化監(jiān)管。
人工智能驅(qū)動(dòng)的突發(fā)事件對(duì)我國(guó)現(xiàn)行應(yīng)急響應(yīng)體系構(gòu)成系統(tǒng)性沖擊，主要體現(xiàn)在與突發(fā)事件分類(lèi)分級(jí)重構(gòu)相關(guān)的權(quán)責(zé)邊界重構(gòu)和響應(yīng)邏輯變革兩個(gè)維度。在權(quán)責(zé)邊界方面，AI技術(shù)改變了突發(fā)事件發(fā)生發(fā)展的規(guī)律，打破了傳統(tǒng)分類(lèi)管理和分級(jí)負(fù)責(zé)的運(yùn)行基礎(chǔ)。AI系統(tǒng)的多方參與性（開(kāi)發(fā)者、運(yùn)營(yíng)商、監(jiān)管機(jī)構(gòu)等）和算法黑箱特性，使得“誰(shuí)主管誰(shuí)負(fù)責(zé)”的基本原則難以落實(shí)；復(fù)合型災(zāi)害的涌現(xiàn)則導(dǎo)致單一行業(yè)歸口管理失效，例如自動(dòng)駕駛事故需同步協(xié)調(diào)公安、工信、網(wǎng)信等部門(mén)，直接沖擊“分類(lèi)管理”原則。“分級(jí)負(fù)責(zé)，屬地管理為主”的原則同樣面臨挑戰(zhàn)：云計(jì)算等無(wú)界技術(shù)使得事件初始發(fā)生地與影響區(qū)域快速分離，基層單位難以界定權(quán)責(zé)邊界；數(shù)據(jù)驅(qū)動(dòng)的跨層級(jí)協(xié)同需求弱化了傳統(tǒng)“上傳下達(dá)”模式的必要性，易引發(fā)條塊權(quán)責(zé)沖突；深度學(xué)習(xí)的不可解釋性正在動(dòng)搖“分級(jí)問(wèn)責(zé)”工作體系的基礎(chǔ)，使得跨層級(jí)系統(tǒng)的連帶責(zé)任難以厘清。在響應(yīng)邏輯方面，人工智能賦能應(yīng)急管理重構(gòu)了應(yīng)急響應(yīng)的時(shí)效邏輯，其預(yù)判性響應(yīng)能力動(dòng)搖了“事后定級(jí)”模式，智能決策壓縮了層級(jí)審批的緩沖空間，直接造成“分級(jí)負(fù)責(zé)”工作體系的滯后。這些沖擊的本質(zhì)是技術(shù)邏輯與行政邏輯的結(jié)構(gòu)性沖突：AI驅(qū)動(dòng)的扁平化、預(yù)判化、全域化特征，與傳統(tǒng)“層級(jí)化、事后化、屬地化”管理體系存在根本性張力。
構(gòu)建與人工智能發(fā)展相匹配的應(yīng)急響應(yīng)體系。“人工智能+”的發(fā)展正在重塑突發(fā)事件的演化規(guī)律，傳統(tǒng)的應(yīng)急管理體系面臨分類(lèi)模糊、分級(jí)滯后、權(quán)責(zé)交叉等挑戰(zhàn)。為適應(yīng)這一趨勢(shì)，需從技術(shù)治理、權(quán)責(zé)適配、協(xié)同機(jī)制及制度保障四個(gè)維度重構(gòu)應(yīng)急響應(yīng)體系。
一是重構(gòu)分類(lèi)分級(jí)體系，建立動(dòng)態(tài)智能評(píng)估機(jī)制。需要構(gòu)建技術(shù)（算法失控、數(shù)據(jù)污染、算力故障）——應(yīng)用（關(guān)鍵服務(wù)中斷、決策流程遭篡改、人機(jī)交互失當(dāng)?shù)蕊L(fēng)險(xiǎn)場(chǎng)景）——影響（物理域、信息域、認(rèn)知域、治理域）三維分類(lèi)框架，引入動(dòng)態(tài)分級(jí)指標(biāo)，實(shí)現(xiàn)智能定級(jí)。依托AI輔助決策系統(tǒng)，實(shí)時(shí)調(diào)整事件等級(jí)與響應(yīng)級(jí)別，克服傳統(tǒng)“事后定級(jí)”的滯后性。
二是優(yōu)化權(quán)責(zé)適配機(jī)制，破解主體模糊困境。其一，設(shè)立AI應(yīng)急責(zé)任鏈，明確開(kāi)發(fā)者、運(yùn)營(yíng)商、監(jiān)管機(jī)構(gòu)的應(yīng)急責(zé)任，建立人工智能安全備案與應(yīng)急接入管控機(jī)制，確保關(guān)鍵AI系統(tǒng)在緊急狀態(tài)下可接管可干預(yù)。推行算法透明化，強(qiáng)制高風(fēng)險(xiǎn)AI系統(tǒng)提供可解釋性報(bào)告，便于事后追責(zé)。其二，強(qiáng)化跨層級(jí)協(xié)同，研究成立國(guó)家級(jí)AI應(yīng)急專(zhuān)家委員會(huì)，負(fù)責(zé)復(fù)雜性、交叉性事件的定級(jí)研判與技術(shù)指導(dǎo)。其三，推動(dòng)技術(shù)下沉，提升基層政府的AI風(fēng)險(xiǎn)識(shí)別與初期處置能力。
三是構(gòu)建智能協(xié)同響應(yīng)網(wǎng)絡(luò)，突破條塊分割壁壘。打造數(shù)據(jù)驅(qū)動(dòng)的應(yīng)急指揮平臺(tái)，整合政府、企業(yè)、科研機(jī)構(gòu)數(shù)據(jù)，構(gòu)建跨部門(mén)、跨領(lǐng)域的AI預(yù)警與決策支持系統(tǒng)。采用區(qū)塊鏈等技術(shù)實(shí)現(xiàn)應(yīng)急指令的全程可追溯，避免權(quán)責(zé)推諉。建立平急結(jié)合的彈性響應(yīng)機(jī)制。平時(shí)通過(guò)AI模擬推演，優(yōu)化應(yīng)急預(yù)案。急時(shí)啟用智能調(diào)度系統(tǒng)，自動(dòng)匹配資源，減少層級(jí)審批延遲。
四是完善制度保障，推動(dòng)技術(shù)與治理協(xié)同演進(jìn)。堅(jiān)持試點(diǎn)突破與立法跟進(jìn)相結(jié)合，加強(qiáng)應(yīng)急管理隊(duì)伍的AI工具應(yīng)用與決策能力訓(xùn)練，構(gòu)建政產(chǎn)學(xué)研協(xié)同機(jī)制，培育“技術(shù)+治理”復(fù)合型人才。
總之，構(gòu)建適應(yīng)“人工智能+”的應(yīng)急響應(yīng)體系，需以智能分類(lèi)分級(jí)為基礎(chǔ)，以權(quán)責(zé)清晰化為核心，以數(shù)據(jù)協(xié)同為支撐，最終實(shí)現(xiàn)從被動(dòng)應(yīng)對(duì)向主動(dòng)防控的轉(zhuǎn)型。這一過(guò)程不僅是技術(shù)升級(jí)，更是治理模式的系統(tǒng)性變革。
[網(wǎng)絡(luò)編輯：毛龍]
中央人民政府
