安全資訊

近日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下稱(chēng)《辦法》），這充分體現了國家對生成式人工智能發(fā)展和應用的高度重視，也標志著(zhù)我國生成式人工智能治理邁出了堅實(shí)的一步?！掇k法》堅持發(fā)展與安全并重、促進(jìn)創(chuàng )新與依法治理相結合的原則，為生成式人工智能的健康發(fā)展和規范應用提供了制度“錨點(diǎn)”和實(shí)踐指引，在推動(dòng)相關(guān)技術(shù)進(jìn)步與產(chǎn)業(yè)落地的同時(shí)，確保生成式人工智能服務(wù)更好地造福人民。  

近兩年，生成式人工智能大模型在內容生成、理解推理、多輪對話(huà)等方面達到超預期的高度，將為數字經(jīng)濟蓬勃發(fā)展提供垂直化、場(chǎng)景化、個(gè)性化的應用工具，廣泛賦能電子商務(wù)、創(chuàng )意產(chǎn)業(yè)、金融服務(wù)、醫療健康等領(lǐng)域。但目前主流的生成式人工智能屬于“黑箱”模型，在應用中可能會(huì )產(chǎn)生有害言論、虛假信息、隱私泄露、偏見(jiàn)歧視等風(fēng)險。發(fā)展可信安全的生成式人工智能已成為全球共識。發(fā)展與安全是一體兩翼、辯證統一的關(guān)系，安全為生成式人工智能發(fā)展提出規范要求，同時(shí)也是其被市場(chǎng)應用、社會(huì )接受的基礎。  

《辦法》堅持發(fā)展與安全并重、創(chuàng )新與治理相結合的原則，對生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級監管。一方面，圍繞應用、研發(fā)、基礎設施等多措并舉打造自主開(kāi)放的創(chuàng )新生態(tài)，鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng )新應用，支持相關(guān)機構在技術(shù)創(chuàng )新、數據資源建設、轉化應用、風(fēng)險防范等方面開(kāi)展協(xié)作，鼓勵基礎技術(shù)的自主創(chuàng )新，平等互利開(kāi)展國際交流與合作，推動(dòng)生成式人工智能基礎設施和公共訓練數據資源平臺建設。另一方面，構建起了鼓勵多方主體參與、貫穿生成式人工智能服務(wù)全流程的規范體系，對訓練數據處理、生成式人工智能服務(wù)規范做了相應要求，規定了安全評估、算法備案、投訴舉報等配套制度，明確了法律責任和發(fā)現違法內容的處置措施?！掇k法》還對國家有關(guān)主管部門(mén)的管理提出了要求，針對生成式人工智能的技術(shù)特點(diǎn)和服務(wù)特征，完善與創(chuàng )新發(fā)展相適應的科學(xué)監管方式，制定相應的分類(lèi)分級監管規則或者指引?！掇k法》為生成式人工智能健康有序發(fā)展奠定了堅實(shí)的制度基礎，也為大模型等新技術(shù)的監管做出了示范。  

下一步，落實(shí)《辦法》精神和相關(guān)要求，需要業(yè)內科研機構和企業(yè)一起努力，在相關(guān)部門(mén)支持下，推進(jìn)重點(diǎn)領(lǐng)域攻關(guān)，打造我國生成式人工智能“發(fā)展”與“安全”的雙基座。在發(fā)展基座方面，進(jìn)一步研發(fā)并開(kāi)源高質(zhì)量的基礎模型，同時(shí)構建面向大模型研發(fā)與應用的全鏈條開(kāi)源體系，貫穿數據、預訓練、微調、部署和評測各個(gè)環(huán)節，降低我國大模型研發(fā)和商用開(kāi)發(fā)的門(mén)檻。在安全基座方面，推進(jìn)構建生成式人工智能高質(zhì)量數據集，研發(fā)相關(guān)系列標準，建設生成式人工智能評測平臺，打造“數據、標準、評測”一體化的生成式人工智能大模型可信安全體系，為生成式人工智能健康發(fā)展和規范應用保駕護航。

來(lái)源：“網(wǎng)信中國”微信公眾號