真相來了丨“地震被壓在廢墟下的小男孩”居然是AI生成的

　　1月7日9時許，西藏日喀則市定日縣發生的6.8級地震，牽動著大家的心。但與此同時，一些網友為了博取流量製造關於震區的不實資訊，在網路上公然傳播，對公眾造成誤導。

　　其中，有一張“被壓在廢墟下的小男孩”的圖片在網上引發了廣泛關注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟之下，全身鋪滿塵埃。不少網友被圖片視頻誤導，紛紛在留言區關注男孩的生命安全。而實際上這張照片是由AI生成的。究竟怎麼一回事？來看記者的調查。

　　記者採訪AI圖片創作者還原事情真相

　　圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。但記者注意到，有不少網友被圖片視頻造成誤導，並在留言區關注男孩的生命安全。

　　有網友留言稱，“有小孩被壓還不趕緊搶救”，有人表示“心都碎了”……

　　而實際上，這張圖片是由AI生成，圖中孩子的左手顯示為六根手指。記者聯繫到該AI圖片的創作者何先生，對方給記者提供了原始版的AI生成視頻，短視頻截圖顯示，這段視頻在去年11月發佈，並非本次西藏地震期間發佈。

　　當事人：有自媒體涉嫌盜用AI生成素材

　　何先生告訴記者，自己創作這段AI圖片和視頻的起因，是看到加沙戰爭地區的孩子家園遭到破壞、流離失所，希望通過視頻傳遞和平願望。但他沒有想到，自己發佈在短視頻平臺上的素材遭到他人盜用，並和西藏地震進行了關聯。

　　“被壓廢墟下的小男孩”AI視頻創作者 何先生：創作的原因是看到國外有戰爭，為了反映戰爭廢墟下孩子們的生存環境。我不是為了拿它來宣傳、造謠，但這個網路搬運內容的事情很惡劣。現在我在所有平臺把作品的下載功能都關閉了，就是為了防止別人盜走視頻。

　　“假圖”關聯真實事件 違背社會公序良俗

　　地震救援現場牽動著全社會，而沒承想，何先生去年11月發佈的視頻被人移花接木，將此次地震相關的資訊肆意拼湊，這種用災難博取流量的行為，令人憤慨。有法律人士表示，用“假圖”關聯真實事件的行為違背了社會公序良俗，有擾亂社會秩序之嫌，將面臨法律處罰。

　　中國慈善聯合會法律顧問 張淩霄：自媒體是盜用了別人的AI製品，在抗震救災突發事件當中來博取眼球，吸引流量，構成治安管理處罰，嚴重的會構成犯罪。同時因為它利用了救災的心理，是違反社會的公序良俗和道德最基本的要求。

　　律師 張曉玲：根據相關法律法規，編造虛假的險情、疫情、災情、警情，在資訊網路或者其他媒體上傳播，或者明知是上述虛假資訊，故意在資訊網路或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重後果的，處三年以上七年以下有期徒刑。

　　軟體30秒“編造”地震報道 未標注AI生成

　　記者也試著用了一款剪輯軟體，只用30秒就生成了一則所謂的“地震報道”。

　　記者在一款用戶量龐大的剪輯軟體中，使用其提供的AI視頻生成功能，輸入一句關於小女孩在地震中被救出的文字描述，不到30秒鐘，軟體就生成了一段20秒左右的視頻，並提供畫外音解説。視頻中並未標注“AI生成”字樣，軟體也沒有要求用戶添加這樣的標識。

　　而在引發大量關注的“被壓廢墟下的小男孩”圖片和視頻中，創作者何先生也告訴記者，AI軟體沒有強制要求標注“AI生成”字樣，是自己在視頻上方添加了浮水印，但後來被盜用者刪掉了浮水印。

　　有人工智慧研究者表示，目前亟須建立統一的規範要求，避免AI以假亂真。

　　吉林大學人工智慧學院院長 宋軒：無論是我們個人上傳的相關的由AI生成的視頻或者圖像，還是由套裝軟體括平臺發佈的等等相關的AI生成的內容，我覺得必須遵守披露和聲明原則。所有的內容如果是由AI生成的，無論是在生成的過程中，還是上傳的過程中，需要進行聲明和披露，就是要明確標注出來，説這個內容是由AI生成的。我覺得對於個人用戶，這也是我們在使用AI的過程中應該遵守的一個基本原則，一個道德準則。

　　AI軟體生成的內容是否需要主動標注？

　　那麼，由AI軟體生成的圖片和視頻，究竟該不該主動標注由AI生成？

　　去年9月，國家網際網路信息辦公室發佈關於《人工智慧生成合成內容標識辦法（徵求意見稿）》，其中提到：

　　在圖片的適當位置添加顯著的提示標識；

　　在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可在視頻末尾和中間適當位置添加顯著的提示標識。

　　而在此次新聞事件中記者發現，原本AI視頻的發佈者標注了AI生成，而在他人盜用過程中，卻對AI生成的標注資訊進行了模糊，從而誤導了受眾。

　　平臺加強監管 AI時代守好資訊真實底線

　　除了AI生成軟體和生成者要肩負起自己的責任，專家指出，還要在監管方面，發展AI技術來破解、識別AI造謠；相關的立法、執法也需要加強，並在全社會要加強相關人員的教育和科普工作，讓公眾的辨別力更高。

　　中國人民大學新聞與社會發展中心研究員 曾持：“生成式AI”的拼接本質和謠言有很強的親近性，二者都屬於“無中生有”——創造看起來真實合理的資訊。AI讓造謠更加簡單和“科學”了，因為AI會根據熱點事件總結規律、拼接情節，很快就能製作出符合人們“期待”的謠言，讓傳播更加迅速。

　　專家也指出，目前，平臺審核機制存在一定滯後性，未能及時有效識別AI虛構圖片，對自媒體賬號發佈內容監管不力，特別是在涉及災害等敏感話題時，更應加強審核力度。未來需要利用技術手段、人工審核等多方式加強對地震等突發資訊的管控。

　　律師 張曉玲：平臺應該改進審核機制，提高審核效率，並使用更加直觀有效的提示方式，避免虛假資訊的傳播。

　　中國人民大學新聞與社會發展中心研究員 曾持：在現在的技術情況下，平臺只能事後懲罰。但是現代社會的傳播速度又太快了，造成的影響太迅速，所以很難在源頭上根治AI造謠的影響。我覺得將來監管要從兩個方向努力：

　　第一是要讓人們認識到，不管是通過AI，還是通過其他工具手段技術，造謠宣傳假新聞都是違法犯罪的行為；

　　第二是將來AI技術要跟平臺更緊密地聯繫在一起，平臺要能根據AI新工具，來反向識別由AI拼造的假圖片和假新聞。