刷到的“明星推薦”可能是AI合成？收到的“親友求助”視頻或許是造假？……當AI生成內容越來越逼真，我們該如何看清真相？

別急，9月1日起施行的《人工智能生成合成內容標識辦法》給出了答案。接下來，和網警一起了解這項新規吧！

為什么要“貼標識”？

AI濫用已成社會公害

AI技術帶來的“以假亂真”正從虛擬走向現實，濫用風險已成為我們必須直面的一道難題。一些不良商家為逐利，濫用AI合成假視頻，冒充名醫、名人虛假宣傳，嚴重侵害他人名譽；部分網民為引流吸睛，利用AI生成謠言在網上傳播，擾亂社會秩序；更有不法分子利用AI“換臉”“擬聲”冒充親友實施不法行為，直接威脅公眾財產安全。

規范AI生成內容

全鏈條責任清單請收好

構建可信的AI生成內容生態，需要產業鏈上各方的共同努力。

怎么“貼標識”？

顯示、隱式雙保險

人工智能生成合成內容標識包括顯式標識和隱式標識。

顯示標識

在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識。

·文本：起始、末尾或者中間適當位置添加文字提示或者通用符號提示等標識；

·音頻：起始、末尾或者中間適當位置添加語音提示或者音頻節奏提示等標識；

·圖片：適當位置添加顯著的提示標識；

·視頻：起始畫面、視頻播放周邊、末尾或中間適當位置添加標識；

·虛擬場景：在起始畫面或虛擬場景持續服務過程中適當位置添加標識；

·其他：其他生成合成服務場景根據自身應用特點添加顯著的提示標識。

隱式標識

采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識，包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息。

數字水印：鼓勵添加不可篡改的隱形標記，實現內容篡改檢測與來源追溯；

文件元數據：按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內容。

AI 標識有紅線！

這些行為千萬別碰

《人工智能生成合成內容標識辦法》明確規定：任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

違反本辦法規定的，由網信、電信、公安和廣播電視等有關主管部門依據職責，按照有關法律、行政法規、部門規章的規定予以處理。

快速識破AI內容

你可以這樣做

掌握以下識破AI“畫皮”小妙招，做個聰明的內容消費者吧！

1、查標識：缺標漏標是預警

合規標識是區分AI與真實內容的關鍵。刷到內容時，查看是否有“AI生成”、“本回答由人工智能生成”等文字提示，或相關圖形、符號標識。在音頻、視頻中，留意是否有語音提示。

2、看細節：細微漏洞藏真相

AI再逼真也有破綻：

3、查來源：交叉驗證辨真偽

信息時代，眼見未必為實，但多方印證一定能接近真相。

4、查出身：用搜索引擎“以圖搜圖”或專業識圖工具，追溯圖片原始出處；留意圖片EXIF信息（記錄拍攝參數），有詳細參數則真實性更高。

5、查身份：面對熱點事件，首先審視發布者。若無明確作者、也無任何正規媒體認證，內容大概率存疑。

6、查官方通報：主動檢索各級政府官網或權威新聞機構的報道，用官方信源為信息“蓋章定論”。

AI技術是把“雙刃劍”

打標識不是為了設限

而是讓AI走得更遠

讓我們共同努力

營造清朗網絡空間

共享科技發展紅利！

素材 | 北京網警