安全資訊

今年以來(lái)，以ChatGPT為代表的人工智能技術(shù)迅速發(fā)展，使人驚呼“未來(lái)已來(lái)”。當前，人工智能技術(shù)正廣泛應用于金融、醫療、交通、制造業(yè)等領(lǐng)域，對經(jīng)濟社會(huì )發(fā)展和人類(lèi)文明進(jìn)步產(chǎn)生深遠影響，給世界帶來(lái)巨大機遇。同時(shí)，也不能忽視其蘊含的潛在風(fēng)險挑戰，很可能在不久的將來(lái)深刻改變現有國家安全格局。

這就引出一個(gè)國家安全的新領(lǐng)域——人工智能安全。讓我們看看人工智能可能帶來(lái)哪些國家安全領(lǐng)域的風(fēng)險，又應當如何化解？

——數據竊取風(fēng)險。人工智能需要海量的數據來(lái)進(jìn)行學(xué)習和訓練，這些數據中可能包含用戶(hù)大量敏感信息。如果這些信息被濫用或泄露，可能會(huì )對個(gè)人隱私、國家安全造成嚴重危害。

——網(wǎng)絡(luò )攻擊風(fēng)險。人工智能可以成為破壞網(wǎng)絡(luò )安全和管理的“幫兇”。在人工智能的協(xié)助下，網(wǎng)絡(luò )攻擊者可以隨時(shí)隨地對特定目標輕易發(fā)起針對性和隱蔽性很強的進(jìn)攻，將互聯(lián)網(wǎng)空間變成人人自危的“黑暗森林”。

——經(jīng)濟安全風(fēng)險。人工智能技術(shù)在一定程度上會(huì )成為人力工作的“高效替代品”，進(jìn)而對國家經(jīng)濟安全、社會(huì )安全甚至政治安全造成沖擊；人工智能技術(shù)也可以被用來(lái)實(shí)施經(jīng)濟破壞活動(dòng)，例如通過(guò)操縱宣傳導致金融市場(chǎng)恐慌。

——“數據投毒”風(fēng)險。“數據投毒”是指在人工智能訓練數據中投放惡意數據，干擾數據分析模型正常運行的行為。在智能汽車(chē)系統中“投毒”，可能導致交通事故；在輿論宣傳中“投毒”，一些負面思想可以更加隱蔽地滲透到群眾思想觀(guān)念中。

——軍事安全風(fēng)險。一方面，人工智能可被用在致命性自主武器(LAW)上，通過(guò)自主識別攻擊目標、遠程自動(dòng)化操作等，隱藏攻擊者來(lái)源、建立對抗優(yōu)勢；另一方面，人工智能可以將網(wǎng)絡(luò )、決策者和操作者相連接，讓軍事行動(dòng)針對性更強、目標更明確、打擊范圍更廣。

面對人工智能技術(shù)發(fā)展帶來(lái)的新機遇和新挑戰，如何應對人工智能風(fēng)險并把握人工智能發(fā)展的戰略主動(dòng)，有效保障國家安全，是全球國家安全治理的重要議題。

10月18日，習近平總書(shū)記在第三屆“一帶一路”國際合作高峰論壇開(kāi)幕式主旨演講中宣布，中方將提出《全球人工智能治理倡議》?！冻h》圍繞人工智能發(fā)展、安全和治理三個(gè)方面系統闡述了人工智能治理的中國方案。我們要保持戰略定力，增強戰略信心，統籌人工智能發(fā)展與安全，穩妥應對各種風(fēng)險挑戰，為人工智能注入更多“安全基因”。

——完善法律法規，聚焦人工智能重點(diǎn)領(lǐng)域安全應用、倫理道德約束等方面，制定更多更明確的法規政策、行業(yè)規范，保障人工智能研發(fā)和應用中的個(gè)人隱私與數據安全，確保人工智能安全、可靠、可控。

——加強前瞻布局，支持以人工智能技術(shù)防范人工智能風(fēng)險，積極發(fā)展用于人工智能治理的相關(guān)技術(shù)開(kāi)發(fā)與應用，貫徹敏捷治理和多維治理原則，積極構建多方參與的人工智能治理體系。

——堅決打擊犯罪，依法打擊利用人工智能進(jìn)行危害國家安全的犯罪行為，并督促人工智能行業(yè)和用戶(hù)個(gè)人自覺(jué)提升防范意識、遵守法律法規，履行維護國家安全主體責任。

——推動(dòng)全球治理，積極發(fā)揮多邊機制作用，拓展“以人為本”、“智能向善”共識，形成具有廣泛共識的治理框架和標準規范，推動(dòng)各國在人工智能治理中加強信息交流和技術(shù)合作，共同做好風(fēng)險防范。

國家安全機關(guān)將強化科技賦能、數字賦能，不斷推進(jìn)國家安全體系和能力現代化，為應對人工智能的風(fēng)險挑戰筑牢國家安全屏障。