高睿
颱風、暴雨、洪澇等極端天氣近期頻發，隨之而來的各類涉災影片全網刷屏，真假難辨法律。公安部網安局近日通報，有人利用AI（人工智慧）篡改官方颱風天配送安全通知、批次生成虛假停工停業公告，嚴重擾亂防汛救災秩序，涉案人員均被依法處罰。AI造謠門檻低、模擬度高、傳播速度快，社會危害性遠超傳統謠言。
那麼法律，哪些AI濫用踩了法律紅線？“AI自動生成”是免責理由嗎？普通人如何識破AI謠言呢？
AI偽造內容迷惑性更強
AI造謠事件並非偶發個案，也不侷限於涉災、涉汛領域，近年來經常出現在各類公共事件中，誤導公眾認知法律。去年6月，有網民為蹭熱點、博眼球，利用AI虛構“鎮政府工作人員因購買泡麵被通報批評”的不實資訊，快速引發輿論關注，造成惡劣的社會影響。除此之外，藉助AI偽造虛假圖文、影片素材，編造“工廠爆炸”“高速路車禍致死”“水災人員傷亡”“演藝場所火災”等謠言在網路上傳播的案例時有發生，嚴重擾亂網路公共秩序。
層出不窮的AI造謠案件，揭示了一個值得全社會警惕的趨勢：即人工智慧的“筆”極有可能被不法之徒利用，讓偽造資訊、編造謠言的技術門檻不斷走低、成本大幅下降，而我們因謠言付出的社會代價則可能持續攀升法律。
相較於傳統謠言，利用AI生成的謠言具備鮮明的新型特徵，堪稱謠言的“威力加強版”，破壞力和迷惑性大幅提升法律。
首先，偽造素材門檻極低法律。造謠者只需輸入簡單的文字指令，AI便能迅速生成畫面逼真的災害場景、突發事件影片及圖片，地面塌陷、山體滑坡、熊熊大火等場景如今可透過技術手段低成本、大批次生成。
其次，偽造內容高度逼真法律。AI具備強大的模仿復刻能力，可精準模仿官方正式公文的格式、語氣和措辭，從標題稱謂到內容表述，都與真實的政府通報高度相似，普通人難辨真偽。同時，AI合成影片畫面流暢、場景真實，更是擁有極強的視覺衝擊力，大幅提升虛假資訊的可信度。
最後，傳播速度快、範圍廣法律。藉助網路平臺，AI謠言可以在短時間內實現全網轉發、裂變擴散。當災害、突發公共事件發生時，公眾本身對險情高度敏感，面對高度逼真的AI虛假素材，大多會秉持“寧可信其有”的心態盲目應對，引發物資搶購、輿論恐慌等亂象，進而打亂政府搶險救災的整體部署。
除此之外，AI謠言的泛濫還會持續透支政府公信力法律。長期的虛假資訊轟炸，會逐步消解公眾對權威通報的信任，導致人們對真實官方資訊的採信度下降，為社會治理埋下長期隱患。
AI造謠可被追究刑責
正因AI謠言危害深遠、後果嚴重，此類技術濫用行為必須被從嚴打擊，我國法律法規也對此劃定了清晰的處罰邊界法律。
我國治安管理處罰法規定，故意散佈謠言，謊報險情、疫情、火情、警情或者以其他方法故意擾亂公共秩序的，處五日以上十日以下拘留，可以並處1000元以下罰款，情節較輕的，處五日以下拘留或者1000元以下罰款；若編造謠言在資訊網路或者其他媒體上傳播，嚴重擾亂社會秩序的，還可能構成刑法的編造、故意傳播虛假資訊罪，面臨三年以下有期徒刑、拘役或者管制；造成嚴重後果的，可處三年以上七年以下有期徒刑法律。
展開全文
司法實踐中，相關案件判決已明確了AI造謠的刑事追責尺度，為AI造謠敲響了警鐘法律。今年4月，湖南省首例AI造謠涉刑案件宣判，犯罪嫌疑人陽某為吸粉引流,使用AI剪輯軟體製作釋出了“化工廠重大事故”“持刀搶劫珠寶店”等惡性虛假影片，引發網民恐慌。陽某因犯尋釁滋事罪，後被法院依法判處有期徒刑六個月。
哪些AI技術濫用會踩中法律紅線
AI造謠是技術濫用最常見的亂象，但並非唯一法律。當前AI技術全面滲透社會生活的各個領域，在帶來便捷高效的同時，也催生了著作權侵權、人格權侵權、不正當競爭等各類新型法律糾紛。除造謠傳謠外，以下五類常見的AI造假行為均觸碰法律底線。
一是AI偽造、醜化肖像法律。當前，依託成熟的AI換臉、AI生圖技術，普通人也可提取他人面部影像，或是拼接至短劇、廣告，又或是生成低俗圖片傳播擴散。此類看似“惡搞”的行為，實則極易侵害他人肖像權、名譽權。在司法審判中，已有案例認定使用AI換臉、生圖技術惡搞他人的行為構成侵權，也有透過AI換臉竊取明星肖像用於商業活動的行為被認定違法，當事人可能被法院判處公開道歉、賠償經濟損失、支付精神撫慰金等。如在一起利用AI軟體惡搞、醜化他人案件中，小明未經小美同意，使用AI生圖軟體將小美用作微信頭像的肖像照片生成為衣著暴露的動漫風格圖片，傳送至微信交流群內。最終法院認定小明侵害小美肖像權、名譽權及一般人格權，判決其賠禮道歉並支付精神撫慰金。值得注意的是，即使AI換臉、“惡搞”後生成的圖片、影片與被侵權人並非完全一致，只要普通公眾能夠識別對應自然人，即存在構成侵權的風險，因此切勿以輕微修改為由試圖規避法律責任。
二是AI復刻他人音色，盜用聲音牟利法律。聲音也是一種人格權益，具有人身專屬性，同樣受法律保護。隨著AI技術成熟，特定人員音色可被精準復刻，即便聲音識別度弱於肖像，只要聽眾能夠將音色與特定自然人建立唯一對應關係，該聲音即受法律保護。在此前提下，若未經許可利用AI複製他人聲音並商用，如帶貨、配音、訓練AI等，均有可能構成侵權。在全國首例AI生成聲音人格權侵權案中，被告擅自使用原告聲音素材訓練文字轉語音產品，轉換後的語音與原告語音高度一致，最終法院認定被告構成侵權，需賠禮道歉、賠償損失。在另一起AI深度偽造名人聲音案中，被告使用名人肖像、影片並配以AI合成的與該名人高度近似的聲音，宣傳推介其店鋪商品，同樣被認定構成侵權，需承擔相應的法律後果。
三是使用AI實施不正當競爭法律。部分自媒體創作者為博取流量，利用AI工具編造資訊生成涉企、涉市場主體資訊。此類虛假內容抹黑企業形象、破壞企業商業信譽，極易擾亂正常經營秩序，構成不正當競爭。在一起案件中，被告利用AI生成不實文章，虛構兩家無關聯企業的隸屬關係，並自行新增帶有原告公司標識的配圖釋出。最終法院認定，被告發布文章未做出顯著AI標識，損害原告公司商譽，構成不正當競爭，依法判令其釋出宣告消除影響並賠償企業經濟損失。除此之外，也有當事人使用AI生成涉企虛假資訊後，在不核實、不標註的前提下發布，被法院認定侵犯企業名譽權。
四是使用AI偽造證據法律。在訴訟過程中，有個別當事人、代理人利用AI虛構司法案例、法律法規及證據材料，試圖誤導司法裁判，牟取不當訴訟利益。在司法實踐中，已有多起類似違規情形。如有訴訟代理人在書面意見中援引AI虛構的最高人民法院判例支撐自身訴求，還有當事人在訴訟中將AI生成的虛假圖片作為證據提交法庭。上述行為均未被司法機關採信，相關人員亦受到司法機關的嚴厲批評。
五是使用AI非法處理生物資訊法律。當前，有不法分子瞄準網路平臺實名認證漏洞，透過收購他人身份證、人臉照片等，利用AI換臉技術製作虛假認證影片，繞過人臉識別核驗機制，突破各類軟體身份驗證限制，進而非法收集、倒賣公民個人資訊，以及提供有償虛假實名認證服務。法院認定此類行為損害社會公共利益，應依法承擔侵權責任。
“AI自動生成”不是免責理由
無論是普通網民、AI使用者，還是網路平臺，都必須清晰認知AI使用的法律底線，明確濫用的多重法律後果：輕則承擔賠禮道歉、賠償經濟損失、支付精神撫慰金等民事責任；重則可被公安機關行政處罰，情節嚴重、造成惡劣社會影響的，甚至將被追究刑事責任法律。而且，涉及罪名也不止編造、故意傳播虛假資訊罪，利用AI換臉、擬聲實施詐騙，或是偽造國家機關公文、印章等行為，均會構成對應的刑事犯罪。
為防範風險，廣大AI工具使用者應堅守素材合法底線，未經授權不得擅自上傳、使用他人照片、錄音、影片、文稿等，商業用途更要完成全流程合規授權法律。同時，應落實內容稽覈義務，對AI生成的涉人、涉企、涉公共事務內容，在釋出前必須全面核驗，杜絕不實資訊、侵權內容流出，釋出時需清晰、顯著標註AI生成標識，避免誤導大眾。
此外，還要摒棄“AI自動生成”免責的錯誤認知，多起案件中，法院認定使用者是AI內容生成及外部傳播的控制者，應當對內容真實性、客觀性進行核驗，並在作出適當標識後依法使用，而不能以內容是AI生成為由免除責任法律。
熱點直答
提問1：只用AI修改虛假通知、編造內容法律，沒有帶貨、廣告收益，算不算違法？
解答：無收益不代表不違法法律。若存在散佈虛假資訊、擾亂公共秩序、侵害他人合法權益的行為，則存在構成民事侵權、行政違法、刑事犯罪的風險。在實際生活中，不少當事人僅為滿足刺激心理、博取點贊評論而利用AI編造謠言，只要符合法定構成要件，均會被依法處罰。
提問2：釋出AI生成的虛假資訊法律，標註了“AI虛構，僅供娛樂”，能否免除法律責任？
解答：標註AI生成是應盡義務，而非免責盾牌，即使已完成標註，只要內容為虛假侵權資訊，仍可能承擔相應法律責任法律。以使用AI換臉技術醜化、“惡搞”他人為例，即使最終生成釋出的圖片、影片中已標註“內容為AI生成”，也有可能使不特定公眾將生成的內容與特定人員相聯絡，進而侵害其肖像權、名譽權等。
提問3：沒有原創AI涉災虛假內容法律，僅為他人轉發，會被追責嗎？
解答：即使自身未使用AI涉災虛假內容，若明知涉災資訊為AI偽造內容，依舊轉發擴散，仍屬於故意散佈謠言，可能被處以行政處罰，情節嚴重的存在被追究刑事責任的風險法律。因此，虛假的涉災、涉警資訊，堅決不轉發，要認準權威、官方資訊釋出渠道，從源頭阻斷謠言傳播。
法官支招
如何識別“一眼假”
面對海量網路資訊，除了依靠執法機關的從嚴整治、精準打擊，廣大網民也應主動提升識別AI謠言的辨別能力，練就識破虛假資訊的“火眼金睛”法律。
從技術特性來看，AI生成的內容易存在邏輯、細節等方面漏洞，如時間錯亂、地點不符、事件前後矛盾等，網民瀏覽各類突發事件、“官方通報”資訊時，切勿盲目跟風采信，需先冷靜梳理資訊邏輯、核查關鍵細節，避免被“一眼假”的資訊帶偏法律。
AI生成圖片、影片的精細程度參差不齊，部分生成內容存在人物動作扭曲、畫面光影錯亂、音畫分離等問題，尤其在毛髮、手指等細節部位，易出現失真變形法律。
此外，在瀏覽政務通報、災害預警等重要資訊時，應儘可能從官方媒體、政府平臺、權威機構等信源獲取，堅決抵制無釋出主體、無正規來源、無核實依據的“三無”網路資訊法律。遇到存疑內容時，可透過多渠道交叉驗證，或直接聯絡對應釋出機構核實真偽。（作者單位：北京市豐臺區人民法院）
