隨著人工智能技術(shù)的飛速發(fā)展,深度合成技術(shù)(通常指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等技術(shù)生成或編輯文本、圖像、音頻、視頻等內(nèi)容的技術(shù))在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域得到了廣泛應(yīng)用,從娛樂濾鏡、虛擬主播到智能客服、內(nèi)容創(chuàng)作,其影響力日益擴(kuò)大。為了規(guī)范這一技術(shù)的應(yīng)用,防范安全風(fēng)險(xiǎn),保護(hù)公民、法人和其他組織的合法權(quán)益,維護(hù)國家安全和社會(huì)公共利益,國家互聯(lián)網(wǎng)信息辦公室等相關(guān)部門聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》)。以下是對(duì)該《規(guī)定》的圖解式學(xué)習(xí)解讀。
一、 《規(guī)定》的總體目標(biāo)與適用范圍
- 核心目標(biāo):促進(jìn)深度合成服務(wù)健康有序發(fā)展,明確提供者和使用者的責(zé)任義務(wù),劃清技術(shù)應(yīng)用的“紅線”與“底線”。
- 適用范圍:在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)(即“深度合成服務(wù)”)的活動(dòng),以及相關(guān)的監(jiān)督管理。
二、 深度合成服務(wù)提供者的核心責(zé)任義務(wù)(“做什么”與“不做什么”)
- 主體責(zé)任落實(shí):建立健全管理制度,制定管理規(guī)則,加強(qiáng)技術(shù)管理,對(duì)生成內(nèi)容進(jìn)行審核。
- 真實(shí)身份認(rèn)證:按照《網(wǎng)絡(luò)安全法》要求,對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證。
- 顯著標(biāo)識(shí)義務(wù):對(duì)使用深度合成技術(shù)生成的或編輯的信息內(nèi)容,必須進(jìn)行顯著標(biāo)識(shí)(如添加水印、標(biāo)簽等),避免公眾混淆。這是《規(guī)定》的一大亮點(diǎn)和核心要求。
- 信息內(nèi)容管理:建立健全用于識(shí)別違法和不良信息的特征庫,加強(qiáng)內(nèi)容管理,發(fā)現(xiàn)違法和不良信息應(yīng)立即處置。
- 數(shù)據(jù)安全與個(gè)人信息保護(hù):依法履行個(gè)人信息保護(hù)義務(wù),建立健全訓(xùn)練數(shù)據(jù)管理、個(gè)人信息保護(hù)等制度。
- 安全評(píng)估與備案:具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者,應(yīng)按規(guī)定開展安全評(píng)估,并履行備案手續(xù)。
- 辟謠機(jī)制:發(fā)現(xiàn)利用深度合成服務(wù)從事違法活動(dòng)或傳播虛假信息的,應(yīng)及時(shí)采取辟謠、處置等措施。
- 禁止行為紅線:不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng),不得制作、復(fù)制、發(fā)布、傳播違法和不良信息。
三、 深度合成服務(wù)使用者的行為規(guī)范
- 依法依規(guī)使用:遵守法律法規(guī),尊重社會(huì)公德和倫理,不得利用深度合成服務(wù)從事危害國家安全、損害公共利益、侵害他人合法權(quán)益等活動(dòng)。
- 真實(shí)信息提供:提供真實(shí)身份信息進(jìn)行認(rèn)證。
- 不得惡意規(guī)避:不得故意規(guī)避、對(duì)抗深度合成服務(wù)提供者采取的管理措施。
四、 監(jiān)督管理和法律責(zé)任
- 監(jiān)管部門:國家及地方網(wǎng)信部門依法負(fù)責(zé)統(tǒng)籌協(xié)調(diào)監(jiān)督管理工作,電信、公安、市場(chǎng)監(jiān)管等部門依據(jù)職責(zé)實(shí)施監(jiān)督管理。
- 監(jiān)督檢查權(quán):監(jiān)管部門可依法對(duì)深度合成服務(wù)開展監(jiān)督檢查,服務(wù)提供者應(yīng)予以配合。
- 違法責(zé)任:違反《規(guī)定》的,將依據(jù)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律法規(guī)進(jìn)行處罰;構(gòu)成犯罪的,依法追究刑事責(zé)任。
五、 《規(guī)定》的重要意義與行業(yè)影響
《規(guī)定》的出臺(tái)標(biāo)志著我國在人工智能治理領(lǐng)域邁出了關(guān)鍵一步,為深度合成技術(shù)的應(yīng)用確立了清晰的規(guī)則框架。
- 對(duì)行業(yè):促使技術(shù)研發(fā)和應(yīng)用企業(yè)將合規(guī)與倫理要求前置,推動(dòng)技術(shù)向善,實(shí)現(xiàn)創(chuàng)新與規(guī)范的平衡發(fā)展。
- 對(duì)公眾:增強(qiáng)了網(wǎng)絡(luò)空間內(nèi)容的可辨識(shí)度,有助于防范“深度偽造”等帶來的詐騙、誹謗、混淆視聽等風(fēng)險(xiǎn),提升了網(wǎng)絡(luò)信息環(huán)境的安全性與可信度。
- 對(duì)社會(huì):為維護(hù)網(wǎng)絡(luò)空間清朗、保障國家安全和社會(huì)穩(wěn)定提供了有力的制度工具,是構(gòu)建清朗網(wǎng)絡(luò)空間的重要組成部分。
****:《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》以技術(shù)治理技術(shù),以規(guī)范引導(dǎo)發(fā)展,通過明確責(zé)任、強(qiáng)化標(biāo)識(shí)、加強(qiáng)管理等一系列措施,為深度合成技術(shù)的健康發(fā)展保駕護(hù)航,是引導(dǎo)互聯(lián)網(wǎng)信息服務(wù),特別是新興AI應(yīng)用走向規(guī)范化、法治化軌道的重要里程碑。所有相關(guān)服務(wù)提供者與使用者都應(yīng)深入學(xué)習(xí)、嚴(yán)格遵守,共同營造一個(gè)安全、可靠、清朗的網(wǎng)絡(luò)人工智能應(yīng)用生態(tài)。