近日,國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》(以下簡稱《標識辦法》),,自2025年9月1日起施行,,強制性國家標準《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標識方法》也將同步實施。
近年來,,人工智能(AI)技術(shù)突飛猛進,,AI生成合成的文字、圖片,、音視頻等在網(wǎng)絡(luò)平臺迅速傳播,,在豐富信息內(nèi)容的同時,也成為編造虛假信息,、擾亂傳播秩序,、實施新型詐騙的幫兇。有利用AI撰寫假新聞,、造謠博眼球者,;有假手AI發(fā)表評論,打造“智能水軍”者,;還有深度造假知名院士視頻,,帶貨宣傳護膚品者;更有借助AI假冒明星,,騙取老人錢財者……
AI技術(shù)給虛假信息披上高科技“偽裝衣”,,使“耳聽未必為真、眼見未必為實”,,且技術(shù)還在不斷迭代,,迷惑性越來越強。防范AI造假,,不僅僅是網(wǎng)絡(luò)平臺的責任,,依靠公眾的“火眼金睛”去識別造假行為更不現(xiàn)實。
給AI生成合成內(nèi)容添加標識,,是從源頭上治理AI造假的有效手段,。如果把AI生成合成內(nèi)容比作一種特殊產(chǎn)品,,制作內(nèi)容的AI服務(wù)商就是廠家,傳播內(nèi)容的網(wǎng)絡(luò)平臺就是商店,?!稑俗R辦法》規(guī)定,廠家在產(chǎn)品出廠時要貼上標識引起商店關(guān)注,,商店也要在銷售時通過貼標識等方式提醒消費者注意,。其作用就是從內(nèi)容生產(chǎn)和傳播的源頭入手,給“AI造”打上識別碼,,使其更容易被網(wǎng)絡(luò)平臺檢得出,、被社會公眾看得見。公眾知道眼前信息源自AI,,也就不會輕易上當受騙,。
AI正在蓬勃發(fā)展,我們既要加強對其有違倫理方面的治理,,但又不能因這種治理而阻礙技術(shù)進步,。顯然,制訂《標識辦法》注意到了這種平衡,。比如,,并未強制要求AI服務(wù)提供者采取難度過大、成本過高的標識技術(shù),,而是創(chuàng)新提出多種低成本標識方法,,以避免增加企業(yè)負擔、導(dǎo)致其對AI技術(shù)研發(fā)的投入受到影響,。制訂強制性國家標準,也充分吸納了AI領(lǐng)域高科技企業(yè)的專業(yè)意見,。相關(guān)部門的這些舉措,,體現(xiàn)了“統(tǒng)籌發(fā)展和安全”的治理理念。
當然,,治理AI造假,,除了信息標識,技術(shù)防范同樣不可忽視,。比如,,對網(wǎng)絡(luò)平臺上沒有依規(guī)標識的AI生成合成內(nèi)容該如何檢測?怎樣提升檢測能力,?如果未檢測識別出來且造成不良社會影響的,,責任應(yīng)當如何劃分?還有,,對那些我國法規(guī)約束之外的境外AI工具生成合成內(nèi)容,,其發(fā)布和傳播該怎樣管理,?這些,都是在《標識辦法》實施中值得關(guān)注和解決的問題,。
AI可以擬人,、助人,但不能騙人,、坑人,。我們相信,《標識辦法》的發(fā)布和施行,,將有效治理“AI造假迷人眼”的亂象,,還網(wǎng)絡(luò)空間以清朗,促AI發(fā)展之健康,。
上一條:
下一條:
網(wǎng)站地圖|設(shè)為首頁|加入收藏|匯雅書世界
烏海市人民政府辦公室 主辦 烏海市大數(shù)據(jù)中心 維護
地址:內(nèi)蒙古烏海市海勃灣區(qū)濱河區(qū)市行政中心 郵編:016000蒙公網(wǎng)安備:15030202000006蒙ICP備05000809號 政府網(wǎng)站標識碼:1503000001
網(wǎng)站有害信息舉報及維護電話:0473-3998316,,郵箱:[email protected]