電力行業(yè)人工智能技術(shù)應用的網(wǎng)絡(luò )安全風(fēng)險分析
摘 要：人工智能技術(shù)是當今世界最具變革性的新興技術(shù)之一，以 ChatGPT 掀起的人工智能大模型發(fā)展浪潮引領(lǐng)了人工智能技術(shù)發(fā)展的范式變革，呈現出更加智能化、自動(dòng)化、高效化和可靠化的發(fā)展趨勢，在電力行業(yè)得到了廣泛深入的應用，有力推動(dòng)了電網(wǎng)企業(yè)數字化發(fā)展。但人工智能技術(shù)的應用是一把“雙刃劍”，存在數據安全、網(wǎng)絡(luò )攻擊、技術(shù)缺陷和社會(huì )工程學(xué)風(fēng)險，需要采取全面安全可靠的防護措施，更好地發(fā)揮人工智能技術(shù)的優(yōu)勢和價(jià)值，助推電力行業(yè)發(fā)展。
內容目錄：
1 人工智能技術(shù)發(fā)展現狀及趨勢
1.1 學(xué)習更加智能化
1.2 感知更加自動(dòng)化
1.3 處理更加高效化
2 人工智能技術(shù)應用安全風(fēng)險分析
2.1 人工智能技術(shù)自身的安全風(fēng)險
2.2 人工智能應用帶來(lái)的安全風(fēng)險
3 人工智能技術(shù)在電力行業(yè)的主要應用
3.1 電力設備故障診斷及運維管理
3.2 電力負荷預測
3.3 電力市場(chǎng)分析及營(yíng)銷(xiāo)服務(wù)
3.4 電力安全管控
4 電力行業(yè)人工智能技術(shù)應用的網(wǎng)絡(luò )安全風(fēng)險
4.1 數據安全風(fēng)險
4.2 網(wǎng)絡(luò )攻擊風(fēng)險
4.3 技術(shù)本身風(fēng)險
4.4 社會(huì )工程學(xué)風(fēng)險
5 電力行業(yè)人工智能技術(shù)應用的網(wǎng)絡(luò )安全風(fēng)險防范策略
5.1 健全政策法規，強化人工智能應用保障機制
5.2 加強自主可控，夯實(shí)安全與創(chuàng )新發(fā)展的基礎
5.3 優(yōu)化防護策略，完善安全技術(shù)防護體系
5.4 強化宣傳培訓，提升安全防范意識水平
6 結 語(yǔ)
當今時(shí)代，數字技術(shù)、數字經(jīng)濟成為世界科技革命和產(chǎn)業(yè)變革的先機。黨的二十大報告指出，要加快建設網(wǎng)絡(luò )強國、數字中國，進(jìn)一步將以人工智能（Artificial Intelligence，AI）為代表的數字技術(shù)創(chuàng )新和應用提到戰略性高度，推動(dòng)人工智能技術(shù)對各行各業(yè)產(chǎn)生深遠影響。其中，電力行業(yè)的人工智能戰略布局和推廣應用得到顯著(zhù)發(fā)展，有力推動(dòng)了電力企業(yè)的數字化轉型，為國家能源數字化、智能化發(fā)展奠定了堅實(shí)基礎。當前對電力行業(yè)人工智能技術(shù)的研究主要聚焦于技術(shù)創(chuàng )新、管理變革、價(jià)值創(chuàng )造等正面效應上，但是人工智能技術(shù)的應用也存在“雙刃劍”效應，面臨著(zhù)數據安全、網(wǎng)絡(luò )攻擊等各類(lèi)風(fēng)險挑戰，將會(huì )影響電力安全保供，因此本文在介紹人工智能技術(shù)發(fā)展趨勢及在電力行業(yè)應用的基礎上，聚焦技術(shù)本身和應用管理等方面，指出電力行業(yè)人工智能技術(shù)應用中主要存在的 4 類(lèi)風(fēng)險，并提出風(fēng)險防范策略，以更全面、更健康地推動(dòng)人工智能技術(shù)的應用。
1人工智能技術(shù)發(fā)展現狀及趨勢
人工智能技術(shù)是當今世界最具變革性的新興技術(shù)之一，并作為核心主導技術(shù)驅動(dòng)著(zhù)科學(xué)技術(shù)進(jìn)步和經(jīng)濟社會(huì )發(fā)展，深刻影響著(zhù)人類(lèi)生活的方方面面。人工智能技術(shù)歷經(jīng) 60 余年的發(fā)展壯大，順應互聯(lián)網(wǎng)技術(shù)迅速規?；瘧玫某绷?，在自然語(yǔ)言處理、計算機視覺(jué)、語(yǔ)音識別、機器學(xué)習等領(lǐng)域已經(jīng)取得了顯著(zhù)成果，被廣泛應用于各種生產(chǎn)和生活場(chǎng)景，如智能家居、自動(dòng)駕駛汽車(chē)、醫療保健、智慧教育等，賦能智慧城市和數字中國建設。
以 ChatGPT（Chat Generative Pre-trained Transformer）為代表掀起的人工智能大模型發(fā)展浪潮引領(lǐng)了人工智能技術(shù)發(fā)展的范式變革，正在重塑產(chǎn)業(yè)鏈上下游，全球范圍內的新一輪科技革命已經(jīng)到來(lái) ，未來(lái)人工智能技術(shù)的發(fā)展將更加智能化、自動(dòng)化、高效化和可靠化。主要趨勢體現在以下幾個(gè)方面。
1.1 學(xué)習更加智能化
人工智能的核心技術(shù)是內生的學(xué)習能力，包括深度學(xué)習、增強學(xué)習、機器學(xué)習、多模態(tài)學(xué)習、自適應學(xué)習等方面。深度學(xué)習可以幫助人工智能系統更好地理解和處理復雜的數據，包括圖像、語(yǔ)音和自然語(yǔ)言；增強學(xué)習是一種能夠讓計算機通過(guò)試錯學(xué)習的方法，幫助計算機實(shí)現對環(huán)境的感知和控制，實(shí)現智能化決策；機器學(xué)習可以通過(guò)對大量數據進(jìn)行分析和學(xué)習，實(shí)現對模式的識別和預測；多模態(tài)學(xué)習可以通過(guò)多種數據源（如圖像、聲音、文本等）進(jìn)行學(xué)習和預測，實(shí)現對真實(shí)世界更加準確地理解、映射和預測；自適應學(xué)習可以讓人工智能系統根據環(huán)境和任務(wù)的變化，自主地調整學(xué)習策略和模型結構，實(shí)現對不同環(huán)境、不同任務(wù)的自主適應。
1.2 感知更加自動(dòng)化
邊緣計算技術(shù)的發(fā)展為人工智能技術(shù)快速響應用戶(hù)需求提供了可靠的基礎支撐，將計算和存儲資源放置在離用戶(hù)更近的地方，使得人工智能系統的運轉擁有充足的調取資源，提高計算速度和響應時(shí)間。人工智能技術(shù)與物聯(lián)網(wǎng)技術(shù)的融合發(fā)展，可幫助物聯(lián)網(wǎng)設備傳感器自動(dòng)感知收集數據，并及時(shí)進(jìn)行分析處理得到需要的結果。例如在制造業(yè)、物流和交通等領(lǐng)域，人工智能技術(shù)可以幫助實(shí)現更高效的自動(dòng)化過(guò)程。
1.3 處理更加高效化
人工智能最核心的能力和特征之一是對輸入信息做出判斷或預測，自然語(yǔ)言處理可以幫助系統更好地理解和處理人類(lèi)的自然語(yǔ)言，實(shí)現人機交互。隨著(zhù)自然語(yǔ)言處理技術(shù)的不斷發(fā)展，計算機對人類(lèi)語(yǔ)言的理解和處理能力也在不斷提高，將成為人類(lèi)應用更廣的智能輔助工具。
1.4 決策更加可靠化
人工智能技術(shù)在感知、處理的技術(shù)上輸出使用者需要的結果，從而達到智能決策的目的?？山忉屝匀斯ぶ悄芟到y可以向使用者解釋自己的決策和推理過(guò)程，使得人類(lèi)可以更好地理解和信任人工智能系統的決策。同時(shí)，隨著(zhù)應用主體、領(lǐng)域和場(chǎng)景的擴展，數據隱私和數據保護也將成為人工智能技術(shù)越來(lái)越重要的問(wèn)題，各種安全防護技術(shù)和措施也將同步發(fā)展。
2人工智能技術(shù)應用安全風(fēng)險分析
人工智能技術(shù)是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的關(guān)鍵技術(shù)，其在推動(dòng)科學(xué)技術(shù)進(jìn)步、傳統產(chǎn)業(yè)優(yōu)化升級、經(jīng)濟高質(zhì)量發(fā)展等方面發(fā)揮了重要作用，與此同時(shí)也會(huì )帶來(lái)前所未有的安全風(fēng)險。
2.1 人工智能技術(shù)自身的安全風(fēng)險
人工智能技術(shù)主要由大數據、算法模型、基礎設施、產(chǎn)品服務(wù)和行業(yè)應用等部分組成，攻擊者會(huì )針對這些組成部分制定針對性的特定攻擊，如投毒攻擊、對抗樣本攻擊、供應鏈風(fēng)險等。
2.1.1 投毒攻擊
攻擊者將惡意數據注入從而污染和篡改訓練好的模型，傳統機器學(xué)習方法認為輸入模型的數據可信，攻擊者可以通過(guò)注入大量惡意數據來(lái)攪亂數據的分布，調教大模型輸出他們所期望的值，讓 ChatGPT 等人工智能應用產(chǎn)生錯誤的預測結果，特別是在圖像識別、生物特征識別中，此類(lèi)攻擊威脅很大。
2.1.2 對抗樣本攻擊
對抗樣本是一種能夠讓模型產(chǎn)生錯誤判斷的數據樣本，對抗樣本攻擊不會(huì )改變模型本身。研究者發(fā)現在某些人工智能模型的輸入上增加少量人為無(wú)法分辨區別的“干擾”，可使模型對輸入的分類(lèi)結果做出錯誤判斷。利用對抗樣本可方便攻擊者在很多應用場(chǎng)景對人工智能模型發(fā)起攻擊，而由于人工智能模型在業(yè)務(wù)系統中往往處于核心決策地位，因此與以往的網(wǎng)絡(luò )安全攻擊相比，這類(lèi)攻擊對實(shí)際業(yè)務(wù)運行造成的后果往往更加嚴重。
2.1.3 供應鏈安全風(fēng)險
人工智能應用是系統、網(wǎng)絡(luò )、軟件、硬件的結合，在供應鏈方面也存在通用的網(wǎng)絡(luò )安全風(fēng)險，如算法后門(mén)嵌入、代碼安全漏洞等，存在可信、可控、可靠的安全風(fēng)險。此外，高端芯片是 ChatGPT 等系統所用的大型語(yǔ)言模型研發(fā)的“剛需”，在高端芯片領(lǐng)域受美國出口管制的國家，可能因高端芯片供給不足導致供應鏈存在被“卡脖子”的風(fēng)險。
2.2 人工智能應用帶來(lái)的安全風(fēng)險
人工智能技術(shù)已經(jīng)滲透到我們的日常生活中，以 ChatGTP 為代表的 AI 應用，若被不當使用或濫用，很有可能影響到國家安全、政治安全、社會(huì )穩定、企業(yè)利益和個(gè)人用戶(hù)權益等諸多方面。
2.2.1 數據泄露問(wèn)題
在許多 AI 應用中，需要使用大量的用戶(hù)數據進(jìn)行訓練和學(xué)習，若用戶(hù)在輸入請求時(shí)，所輸入的個(gè)人相關(guān)信息、業(yè)務(wù)數據或涉及商業(yè)秘密等內容沒(méi)有得到很好的保護，就可能被黑客攻擊者竊取，從而導致用戶(hù)數據泄露和隱私問(wèn)題。
2.2.2 網(wǎng)絡(luò )安全問(wèn)題
隨著(zhù) AI 技術(shù)在網(wǎng)絡(luò )安全方面的應用受到廣泛關(guān)注，當安全專(zhuān)家嘗試用最新的算法加強安全防御時(shí)，越來(lái)越多的攻擊者同樣使用人工智能和機器學(xué)習技術(shù)來(lái)提高攻擊速度。例如，攻擊者正在使用 ChatGPT 來(lái)改進(jìn)惡意軟件、批量制作個(gè)性化網(wǎng)絡(luò )釣魚(yú)電子郵件，并竊取算法優(yōu)化攻擊過(guò)程。
2.2.3 技術(shù)濫用問(wèn)題
在 ChatGPT 等 AI 應用迅速發(fā)展的同時(shí)，也同樣面臨對 AI 技術(shù)的濫用問(wèn)題。一是違法、不良信息傳播。AI 應用雖然對交互內容采取了過(guò)濾策略，但由于多媒體內容識別技術(shù)不足、監控策略不完善、無(wú)法對生成內容進(jìn)行“前置審核”等原因使得過(guò)濾機制被繞過(guò)，造成交互或傳播內容中存在涉及政治、詐騙、身份偽造、涉黃等不良信息，從而影響公眾輿論，惡意影響用戶(hù)認知。二是引發(fā)內容知識產(chǎn)權問(wèn)題。利用 ChatGPT 等 AI 應用完成文本創(chuàng )作、代碼編寫(xiě)、代寫(xiě)論文等，可能會(huì )影響正常的社會(huì )秩序。
3人工智能技術(shù)在電力行業(yè)的主要應用
國家高度重視人工智能發(fā)展，早在 2016 年，“人工智能”就被列入國家“十三五”規劃綱要，2017 年首次寫(xiě)入政府工作報告，同年國務(wù)院正式印發(fā)《新一代人工智能發(fā)展規劃》，為加強技術(shù)創(chuàng )新，搶占人工智能關(guān)鍵核心技術(shù)制高點(diǎn)提供了重要方向。能源電力領(lǐng)域是國之重器，電力行業(yè)應積極響應國家號召，加速人工智能戰略布局和推廣應用。在國家政策支持驅動(dòng)下，我國在電力系統的人工智能應用方面與國外處于并跑階段，國內電力行業(yè)人工智能的應用涉及發(fā)、輸、變、配、用全環(huán)節，如基于深度強化學(xué)習的優(yōu)化調度、基于生成對抗學(xué)習的場(chǎng)景生成、基于深度學(xué)習的故障連鎖辨識、基于卷積神經(jīng)網(wǎng)絡(luò )的巡檢圖像識別等。電力系統是一個(gè)復雜的動(dòng)態(tài)系統，目前國內電力行業(yè)人工智能技術(shù)應用主要集中在以下幾個(gè)方面。
3.1 電力設備故障診斷及運維管理
通過(guò)構建圖像識別技術(shù)，對設備傳感器數據進(jìn)行分析和建模，實(shí)現對電力設備的故障診斷和預警，以便電網(wǎng)部門(mén)及時(shí)采取措施維護設備。其中，利用無(wú)人機、智能傳感器等技術(shù)，能夠降低巡線(xiàn)人員工作負擔，實(shí)現對輸電線(xiàn)路的全天候實(shí)時(shí)狀態(tài)監測，自動(dòng)識別輸電線(xiàn)路及通道環(huán)境中的潛在缺陷，有效避免和減少停電損失。
3.2 電力負荷預測
通過(guò)對歷史負荷數據的分析和建模，預測未來(lái)的負荷變化趨勢，以便電網(wǎng)部門(mén)做出相應的調度決策。其中，為提高供電可靠性，越來(lái)越多的配電作業(yè)機器人得到大規模應用，既降低了作業(yè)人員工作強度，也保障了人身安全。
3.3 電力市場(chǎng)分析及營(yíng)銷(xiāo)服務(wù)
通過(guò)對電力市場(chǎng)數據的分析和建模，預測市場(chǎng)價(jià)格變化趨勢，以便電力企業(yè)做出相應的市場(chǎng)決策。將人工智能深度學(xué)習與語(yǔ)音識別、圖像識別、流程自動(dòng)化等技術(shù)融合，利用海量業(yè)務(wù)信息和數據，通過(guò)不斷的訓練，構建供電指揮服務(wù)虛擬指揮員、虛擬客服坐席，實(shí)現精準輔助決策和全流程智能化業(yè)務(wù)處理。同時(shí)，營(yíng)業(yè)廳智能問(wèn)答機器人、交互實(shí)體機器人也越來(lái)越成為常態(tài)化配置。
3.4 電力安全管控
通過(guò)應用人工智能技術(shù)，開(kāi)展現場(chǎng)作業(yè)人員、作業(yè)關(guān)鍵環(huán)節、作業(yè)全過(guò)程安全管控，輔助調度人員快速定位和處置故障，實(shí)現故障處置全流程在線(xiàn)管控，減少資源浪費，保障電力系統的安全性。
今年以來(lái)，中共中央、國務(wù)院印發(fā)了《數字中國建設整體布局規劃》，國家能源局印發(fā)了《關(guān)于加快推進(jìn)能源數字化智能化發(fā)展的若干意見(jiàn)》，人工智能技術(shù)將在能源數字化智能化發(fā)展，以及新型電力系統建設和新型能源體系構建中發(fā)揮更大的價(jià)值和作用。
4電力行業(yè)人工智能技術(shù)應用的網(wǎng)絡(luò )安全風(fēng)險
能源是經(jīng)濟發(fā)展的命脈，是國民經(jīng)濟發(fā)展和人民美好生活的重要保障，在社會(huì )經(jīng)濟體系中占據著(zhù)重要的地位。習近平總書(shū)記提出了“四個(gè)革命、一個(gè)合作”的能源安全新戰略，其中，“能源技術(shù)革命”提出以綠色低碳為方向，推動(dòng)技術(shù)創(chuàng )新、產(chǎn)業(yè)創(chuàng )新、商業(yè)模式創(chuàng )新，因此人工智能技術(shù)在電力行業(yè)得到了迅速而廣泛的應用。但是人工智能也是一把“雙刃劍”，在享受其帶來(lái)的極大便利和價(jià)值的同時(shí)，仍需清醒認識到存在的風(fēng)險。一方面，其不斷沖擊著(zhù)人類(lèi)工作、生活，帶來(lái)了各種社會(huì )輿論關(guān)注的焦點(diǎn)問(wèn)題；另一方面，其技術(shù)本身仍存在不可避免的各種內生和衍生的安全風(fēng)險。電力企業(yè)承擔著(zhù)重大的保供電責任，保證電力系統的安全穩定運行是首要任務(wù)，因此在應用人工智能技術(shù)的時(shí)候，要特別注意當中的網(wǎng)絡(luò )安全方面的風(fēng)險。
4.1 數據安全風(fēng)險
數字時(shí)代，數據的價(jià)值越來(lái)越被人們重視，是數字技術(shù)應用的核心資源。在人工智能技術(shù)應用中，為了達到智能化、自動(dòng)化的效果，需要海量數據分析作為基礎進(jìn)行模型構建，并通過(guò)用戶(hù)側的不斷訓練和學(xué)習，使模型更加滿(mǎn)足使用需求。電力系統涵蓋發(fā)、輸、變、配、用各環(huán)節，涉及的電力設備數據、電量數據、電力負荷數據、用電客戶(hù)信息等都是關(guān)鍵敏感數據，在人工智能系統建設過(guò)程中，從數據收集、存儲、傳輸、處理、分析，到模型構建、結果輸出和規?；瘧?，這一系列的環(huán)節都存在技術(shù)上和人為操作上的數據泄露、數據竊取風(fēng)險，不僅對電力系統的安全運行造成不利影響，還會(huì )涉及用戶(hù)的家庭地址、身份等隱私信息泄露，嚴重影響社會(huì )秩序。
4.2 網(wǎng)絡(luò )攻擊風(fēng)險
當前國家級網(wǎng)絡(luò )對抗不斷升級，電力、水利、交通、能源等國家關(guān)鍵信息基礎設施已成為黑客重點(diǎn)攻擊的對象，同時(shí)人工智能等數字新技術(shù)的深入應用，使得電力系統與互聯(lián)網(wǎng)連接更緊密更廣泛，無(wú)形之中所暴露的網(wǎng)絡(luò )安全風(fēng)險逐步增加，面臨的網(wǎng)絡(luò )威脅日益嚴峻。攻擊方通過(guò)篡改、擾亂等手段影響人工智能系統的學(xué)習、控制和反應過(guò)程，從而獲得系統的支配權，破壞模型的正常運行，這可能會(huì )導致電力設備損壞、電力負荷過(guò)載等問(wèn)題，嚴重時(shí)甚至導致電力系統癱瘓和停電事故。國外已發(fā)生過(guò)通過(guò)網(wǎng)絡(luò )攻擊造成停電事件的情況，這也為國內電力企業(yè)敲響了警鐘。
4.3 技術(shù)本身風(fēng)險
“人工智能的本質(zhì)是處理、匹配、決策和生成等任務(wù)”，系統的學(xué)習、反應和決策主要基于模型、數據和算法，不可避免地存在因數據質(zhì)量問(wèn)題、算法偏差、模型不健全等內生技術(shù)風(fēng)險而出現誤判的情況，導致電力設備、系統的錯誤操作，從而影響電力系統的正常運行。此外，電力行業(yè)的人工智能系統依然存在供應商研發(fā)而非自主可控的情形，所以系統后門(mén)、超級權限等安全隱患依然存在，如果供應商系統或者整個(gè)供應鏈存在安全漏洞或違規行為，同樣會(huì )對電力系統的安全運行造成威脅。
4.4 社會(huì )工程學(xué)風(fēng)險
社會(huì )工程學(xué)（Social Engineering）入侵是指利用人的弱點(diǎn)而不是計算機系統漏洞來(lái)突破信息安全防御措施的入侵手段。如果說(shuō)以上 3 種風(fēng)險是可預防、可預警的，那么社會(huì )工程學(xué)風(fēng)險則存在很大的不可控和不可預見(jiàn)性，因為它主要由人的心理和行為決定，“人”是“整個(gè)安全鏈中最薄弱的一環(huán)”。社會(huì )工程學(xué)攻擊的過(guò)程包括目標確認、信息收集、信任建立、陷阱設置和利益獲取。人工智能系統的操作對人員的要求較高，如果人員存在安全意識不強、操作不當等情況，則會(huì )很容易被別有用心之人利用，通過(guò)釣魚(yú)攻擊（最常見(jiàn)的是釣魚(yú)郵件，通過(guò)使用自然語(yǔ)言處理技術(shù)生成偽造的電子郵件或者消息）、等價(jià)交換、誘餌計劃、主動(dòng)提供技術(shù)支持等社會(huì )工程學(xué)手段攻擊，從而造成敏感信息泄露、被勒索詐騙等后果，影響電力生產(chǎn)環(huán)境的安全和電力系統的安全穩定運行。
5電力行業(yè)人工智能技術(shù)應用的網(wǎng)絡(luò )安全風(fēng)險防范策略
為了減少和避免人工智能技術(shù)應用給電力行業(yè)帶來(lái)的網(wǎng)絡(luò )安全風(fēng)險，需要強化統籌安全與發(fā)展，從而更好地發(fā)揮人工智能技術(shù)的優(yōu)勢和價(jià)值，助推電力行業(yè)的數字化轉型。
5.1 健全政策法規，強化人工智能應用保障機制
一是推進(jìn)現有網(wǎng)絡(luò )安全法律法規向人工智能領(lǐng)域延伸適用，國家及電力行業(yè)主管部門(mén)應結合《網(wǎng)絡(luò )安全法》《數據安全法》《個(gè)人信息保護法》等法律法規出臺人工智能行業(yè)應用新的監管要求，為人工智能在電力行業(yè)應用“保駕護航”。二是結合國家發(fā)展改革委 2014 年第14 號令《電力監控系統安全防護規定》等電力行業(yè)網(wǎng)絡(luò )安全監管要求，完善電力行業(yè)人工智能領(lǐng)域法規體系，重點(diǎn)對電力生產(chǎn)安全、數據安全、個(gè)人隱私保護、算法規范應用等方面加強監管，強化對人工智能技術(shù)應用的法律約束。三是依據國家頂層人工智能發(fā)展戰略，結合“十四五”規劃和黨的二十大報告里面提到的人工智能發(fā)展規劃，研究制定電力行業(yè)發(fā)展規劃，充分考慮人工智能在電力行業(yè)應用的可靠性、穩定性和安全性，落實(shí)人工智能?chē)覒鹇?，以應對日趨激烈的國際競爭。
5.2 加強自主可控，夯實(shí)安全與創(chuàng )新發(fā)展的基礎
為保障人工智能技術(shù)在電力行業(yè)的可靠應用，國家應加大政策扶持力度，推進(jìn)電力人工智能系統基礎設備安全自主可控。一是推進(jìn)核心技術(shù)研發(fā)攻關(guān)，提升軟硬件實(shí)力。主要包括智能芯片、智能服務(wù)器、智能傳感器及配套的智能操作系統、軟件框架、第三方庫等，保障軟硬件供應鏈安全可信、可控、可靠，實(shí)現人工智能高端基礎設備不被“卡脖子”。二是強化電力行業(yè)人工智能大模型發(fā)展。作為人工智能的核心，可靠、可控、安全的人工智能模型需要以海量?jì)?yōu)質(zhì)數據和強大的算力作為支撐， 進(jìn) 行 反 復 訓 練、 不 斷 迭 代。我 國 應 充 分發(fā)揮自身在大算力方面的優(yōu)勢，結合電力大數據，實(shí)現電力行業(yè)人工智能核心能力的自主可控 。
5.3 優(yōu)化防護策略，完善安全技術(shù)防護體系
從風(fēng)險的精準化解到安全漏洞的全面填補，應從風(fēng)險產(chǎn)生的技術(shù)源頭出發(fā)，實(shí)現對新一代人工智能失本、失新、失控、失權、失管 5 大風(fēng)險的精準聚焦。因此，在技術(shù)本質(zhì)層面，要加強數據加密、權限管控、模型監控、攻擊檢測、實(shí)戰攻防演練、應急演練等技術(shù)防護手段的應用。一是電力行業(yè)應根據電力監控系統安全防護“十六字”方針，即“安全分區、網(wǎng)絡(luò )專(zhuān)用、橫向隔離、縱向認證”，結合人工智能應用情況，制定新的安全防護策略，編制行業(yè)標準規范與技術(shù)指南。二是針對人工智能在發(fā)、輸、變、配、用各環(huán)節的應用，完善網(wǎng)絡(luò )安全、數據安全、算法安全等安全防護技術(shù)手段，常態(tài)化開(kāi)展攻防演練，為人工智能應用提供充足的安全防護。三是堅持電力人工智能系統建設與網(wǎng)絡(luò )安全防護建設同步規劃、同步建設、同步使用，讓網(wǎng)絡(luò )安全防護理念貫穿人工智能系統全生命周期。
5.4 強化宣傳培訓，提升安全防范意識水平
一是強化人工智能技術(shù)應用的網(wǎng)絡(luò )安全宣傳和教育培訓，重點(diǎn)針對電力行業(yè)涉密數據、關(guān)鍵信息、模型算法邏輯等開(kāi)展保密教育，尤其是面對新型社會(huì )工程學(xué)攻擊手段，需要結合實(shí)際案例開(kāi)展學(xué)習宣貫，同時(shí)常態(tài)化開(kāi)展演習，提升員工的風(fēng)險識別和處理能力。二是發(fā)揮考核指揮棒作用，在人工智能技術(shù)應用的重大生產(chǎn)和管理活動(dòng)中，應將網(wǎng)絡(luò )安全納入具體的考核體系，進(jìn)一步嚴格管理，或制定專(zhuān)項的防護策略，強化網(wǎng)絡(luò )安全的紅線(xiàn)意識和底線(xiàn)思維。
6結 語(yǔ)
電力行業(yè)人工智能技術(shù)的應用是順應國家數字中國建設、加快推進(jìn)能源數字化智能化發(fā)展的必然選擇和重要舉措，也是能源企業(yè)加快數字化轉型、構建新型能源體系的必然趨勢和重要支撐。能源安全關(guān)乎國家安全，電力行業(yè)人工智能技術(shù)的應用需要以安全為前提和基礎，要清醒認識到人工智能技術(shù)自身的不足與局限，全面梳理人工智能系統或產(chǎn)品的全生命周期中的安全風(fēng)險，從技術(shù)和管理上加強安全風(fēng)險識別和防范，有效地化解人工智能應用的網(wǎng)絡(luò )安全風(fēng)險，統籌人工智能發(fā)展與安全，為人工智能技術(shù)在電力行業(yè)的創(chuàng )新應用護航。由于人工智能技術(shù)尚處于蓬勃發(fā)展階段，在電力行業(yè)的應用也正處于規?；A段，因此本文對電力行業(yè)人工智能應用存在的網(wǎng)絡(luò )安全風(fēng)險分析還存在局限，在應對安全風(fēng)險的防范策略研究上還存在不足，后續將持續關(guān)注人工智能技術(shù)在電力行業(yè)的應用，加強研究分析，以取得更全面、深入的研究成果。
選自《信息安全與通信保密》2023年第10期
