濫用AI技術擾亂信息生態(tài)。部分不法分子濫用AI技術生成虛假災情圖像、捏造熱點話題，嚴重破壞網(wǎng)絡秩序。如“上海退休教授陽臺核發(fā)電”，看似圖文并茂、細節(jié)充分，實為造謠者利用AI大模型生成虛假圖片和視頻，配以煽動性文字，制造噱頭，騙取流量?！坝许斄髅餍窃诎拈T輸了10億”信息在網(wǎng)絡平臺迅速傳播，引發(fā)熱議和猜測。經(jīng)查實為網(wǎng)民徐某某為博取流量、謀取利益，使用AI軟件偽造，嚴重擾亂公共秩序。又如“廣東多地出現(xiàn)冰雹天氣，‘冰雹比雞蛋還大’”“暴雨過后，河南許昌滿目瘡痍”等不實信息，均為通過AI制作生成的虛假圖片，其畫面明顯夸大災情，增添公眾焦慮。這些謠言透支社會信任，引發(fā)不必要的恐慌和誤解。

雙管齊下共筑清朗空間。各級網(wǎng)信和公安等部門協(xié)同聯(lián)動，通過“權威辟謠+依法懲處”雙管齊下，曝光典型案例，依法嚴懲造謠傳謠者，形成有力警示震懾效應。前述“90后省級機關干部相親，年收入35-40萬元”和“有頂流明星在澳門輸了10億”的造謠者，分別被警方依法行政拘留；造謠“廣東多地出現(xiàn)冰雹天氣”和“80后死亡率突破5.2%”的網(wǎng)民也被予以行政處罰和批評教育。此外，為保護公民合法權益，維護社會公共利益，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》，建立AI生成內(nèi)容強制標識制度，為網(wǎng)絡謠言治理提供重要制度保障。