安全資訊

為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規范應用，國家網(wǎng)信辦近日發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《辦法》），向社會(huì )公開(kāi)征求意見(jiàn)，引起廣泛關(guān)注。

與以往分析已有數據的決策式人工智能不同，生成式人工智能可以創(chuàng )造新信息與內容。生成式人工智能走入公眾視野的標志性事件是美國人工智能研究實(shí)驗室OpenAI于2022年11月30日推出ChatGPT，其不僅具備非常驚艷的語(yǔ)言理解、生成、知識推理能力，而且能夠實(shí)現快速迭代。一時(shí)之間，谷歌、阿里、百度等互聯(lián)網(wǎng)公司紛紛推出自己的生成式人工智能產(chǎn)品，生成式人工智能也以前所未有的態(tài)勢闖入了社會(huì )生活的方方面面。

生成式人工智能雖然表現令人稱(chēng)嘆，但帶來(lái)的風(fēng)險與法律挑戰同樣令人擔憂(yōu)。其可能存在知識產(chǎn)權侵權、生成虛假信息等問(wèn)題，也存在數據安全和隱私保護風(fēng)險。由于生成式人工智能的發(fā)展超出各國監管預期，因此尚未與各國法律中對個(gè)人信息處理者、數據處理者與算法服務(wù)提供者的相關(guān)義務(wù)協(xié)調銜接。

正是考慮到生成式人工智能給社會(huì )治理等方面帶來(lái)的挑戰，近段時(shí)間以來(lái)，各國政府不約而同做出了相應的立法與監管動(dòng)作。意大利宣布從3月31日起禁止使用ChatGPT，德國、法國、愛(ài)爾蘭等國也準備效仿意大利的做法，加強對生成式人工智能的監管。4月11日，美國商務(wù)部下屬機構也發(fā)布“人工智能問(wèn)責政策”征求意見(jiàn)稿，就是否需要對ChatGPT等人工智能工具監管征求意見(jiàn)。正是在這樣的背景下，國家網(wǎng)信辦發(fā)布《辦法》，擬對生成式人工智能進(jìn)行規范。

此次《辦法》對利用生成式人工智能提供服務(wù)提出了一系列要求，包括生成式人工智能服務(wù)提供者應當進(jìn)行安全評估，并對生成的內容進(jìn)行標識；采取技術(shù)措施，防止虛假信息生成，防止算法歧視，以及防止侵害他人合法權益。這些要求體現了網(wǎng)信部門(mén)對內容安全責任分配的高度關(guān)注以及“裝好剎車(chē)再上路”的監管思路。在當前各類(lèi)生成式人工智能服務(wù)廣受關(guān)注、千帆競發(fā)之際，這有助于起到凝聚共識和規范指引作用。

需要關(guān)注的是，生成式人工智能的功能遠不止于提供信息內容服務(wù)，其可以作為“技術(shù)基座”給金融、醫療、自動(dòng)駕駛等多個(gè)領(lǐng)域賦能。在產(chǎn)業(yè)分層中，首先通過(guò)海量數據使生成式人工智能底層大模型“見(jiàn)多識廣”，具有強大能力；其次通過(guò)“術(shù)業(yè)有專(zhuān)攻”的專(zhuān)業(yè)優(yōu)化訓練，讓其適配不同行業(yè)和場(chǎng)景；最后再向C端用戶(hù)直接提供服務(wù)應用。由此可見(jiàn)，生成式人工智能未來(lái)將成為社會(huì )的“技術(shù)基礎設施”。

基礎設施是經(jīng)濟社會(huì )發(fā)展的重要支撐，前期建設需要國家布局規劃適度超前發(fā)展，后期使用需要強調公共服務(wù)的公平性分配，并在此過(guò)程中統籌安全與發(fā)展。生成式人工智能監管不宜為了服務(wù)應用層的信息內容安全，影響其作為基礎設施的功能研發(fā)，對訓練數據、模型開(kāi)發(fā)等施加過(guò)多義務(wù)。

生成式人工智能應精準治理，依照技術(shù)—行業(yè)—應用的上下游分為“模型基座—專(zhuān)業(yè)模型—服務(wù)應用”三層，區分治理理念與監管重點(diǎn)。技術(shù)層的模型基座治理應以發(fā)展為導向，關(guān)注科技倫理、推動(dòng)公共訓練數據池建設、合理分配算力；專(zhuān)業(yè)模型層治理應以審慎包容為理念，關(guān)注關(guān)鍵領(lǐng)域與場(chǎng)景，注重遵循行業(yè)規范，在此領(lǐng)域可引入分級分類(lèi)治理；服務(wù)應用層應關(guān)注信息內容安全、市場(chǎng)競爭秩序與用戶(hù)權益保護，沿用原有評估備案審計等監管工具，并適時(shí)引入新型監管工具，細化合規免責制度，給新興技術(shù)發(fā)展留下試錯空間。

管制和創(chuàng )新，也即安全和發(fā)展，是網(wǎng)絡(luò )立法的永恒命題。從某種意義上講，不發(fā)展是最大的不安全。掌握人工智能治理的話(huà)語(yǔ)權、規則制定權，搶先形成新的國家競爭優(yōu)勢，已成為世界各國的努力目標。我國在個(gè)人信息保護和數據立法領(lǐng)域與歐盟、美國并行，在算法治理和深度合成治理領(lǐng)域則成為領(lǐng)跑者。在此基礎上，應以促進(jìn)生成式人工智能健康發(fā)展為契機，積極構建符合我國實(shí)際且能夠促進(jìn)我國人工智能技術(shù)產(chǎn)業(yè)長(cháng)遠健康發(fā)展的治理制度，這樣也有助于形成我國的制度競爭優(yōu)勢。

（來(lái)源：法治日報）