“悼念！當‘醫療泰斗’倒在異國急診室，我才讀懂中國醫生的‘生死時速’！”

……

今年3月初，“華山醫院前院長”的故事在互聯網廣泛傳播。然而經警方核查，華山醫院沒有名為“張明遠”的前院長，也沒有同名員工。上海公安網安部門開展調查，成功偵破這起利用AI造謠案，抓獲犯罪嫌疑人王某某、郭某某、石某某。

 

自2025年2月起，犯罪嫌疑人王某某等3人成立了工作室，通過自媒體賬號發文吸粉引流牟利。他們控制500余個自媒體賬號，設置社會熱點、明星緋聞、爆款推薦等關鍵詞，引導AI軟件自動生成并發布不實帖文30余萬條，造成惡劣社會影響。截至案發，非法牟利共計4萬余元。

目前，王某某等3人因涉嫌非法利用信息網絡罪，被上海警方依法采取刑事強制措施，相關違法賬號被依法封禁。

今年以來，上海公安機關全力開展打擊整治網絡謠言專項行動，嚴厲打擊“造熱點”“帶節奏”的網絡水軍。截至目前，破獲網絡水軍案件15起，抓獲38名違法犯罪嫌疑人。

據新民晚報報道，4月22日上午，記者在看守所見到了犯罪嫌疑人王某某。以下是他的口述。

“發布內容前我不知道有華山醫院”

問：“張明遠”的故事是怎么生成的？

答：“張明遠”是AI生成的。

今年2月，我們開始用AI軟件批量生產虛假信息。我們找到了一個網絡平臺上的App，這是我們的素材庫，按照不同領域、“閱讀量top”、發布時間等，批量采集爆款內容。隨后用AI軟件批量改寫，予以發布。

“張明遠”的故事就是這樣生成的。在此之前，我們根本不知道上海有一家華山醫院。我也不知道“張明遠”這個人。其實我已經記不清原文了，都是批量采集生成的。

我們要求AI“第一句話要吸引人”

問：采集、發布內容一般是怎樣的流程？如何獲利？

答：我們會采集“閱讀top”內容，因為這些內容本身就是爆款。用AI批量改寫時，我們會給AI一些提示詞，比如“以原文實際情況為基礎，中心思想不變”，比如“第一句話要吸引人”等，因為這樣才能吸引更多點擊量。AI軟件有聯網版，我們也會讓它聯網搜索相關信息后，再進行整合。

我們采集的都是短資訊，約200-300字，發布的也是這樣的內容。我們三個人有4個“大號”，還有 500多個“小號”。“大號”可以添加“小號”作為子賬號，子賬號獲得的收益可以流轉到母賬號，每個月可以提現獲益。

問：對你來說“流量就是收入”嗎？

答：是的。我們三個人，每天發布1萬條帖文，內容基本不一樣，閱讀量不等。有的幾萬次閱讀量，最高的一條能有十幾萬次。一萬次閱讀量，大約就有5元收益。

“某女明星去世時我們因為造謠被平臺處罰”

問：你覺得有哪些內容比較吸睛？

答：八卦類的內容，比如明星八卦，社會八卦。還有涉及職場、科技、養老、國際、教育、醫療等內容，都比較吸睛。像“醫院”這條，現在想來，可能涉及職場、養老等領域的重疊，所以獲得了不小的流量。

問：之前用AI生成發布謠言，你們有被處罰過嗎？

答：我們被平臺扣過分。前陣子，某知名女明星剛去世時，關于孩子撫養權的問題，我們也用AI編造過內容。被平臺發現后，出現了提示，并且扣了分。“已過時效”“標題黨”“謠言”等都會被平臺處罰，但我們還是有僥幸心理。其實，相對我們生成的大量內容來說，我們被平臺處罰的概率很低。

“很后悔，沒掙到什么錢，但帶來很大麻煩”

問：你現在覺得獲得流量應該有底線嗎？

答：應該有底線，不應該胡編亂造或者夸大其詞，不應該編造發布虛假信息。我們現在認識到了做得不足的地方，沒有把握好尺度，也沒有好好審核。

問：對你的所作所為，有什么反思嗎？

答：經過警方的教育，我們知道自己錯在哪里，也感到非常后悔。其實做這個事沒有掙到什么錢，但卻要被法律嚴懲，還被警方刑事拘留了。

警方解讀：“毒流量”是對網絡環境的劣化

這一團伙造謠的目的是什么？在網安總隊三隊隊長符斌看來，這一行為主要是為了“養號”漲粉，以便后續直播帶貨等牟利。

“這是常見‘流量經濟’劣化的表現形式。”符斌說，正常賬號吸粉、漲粉，都需要時間精力的投入，而此案通過AI編造大量不實、虛假、有害的劣質信息，這是“AI的幻覺”，是“毒流量”，也是對網絡環境的一種劣化。

據悉，目前上海公安機關和頭部平臺建立了暢通的工作聯動機制，通過案件管理合作，及時通報掌握的問題。“我們始終認為，算法必須向善，不能流量至上。”符斌表示。

今年以來，上海公安機關全力開展打擊整治網絡謠言專項行動，按照“以打開路、以打促治”思路重拳出擊，全量清理造謠傳謠信息，分級懲治涉謠賬號，嚴厲打擊“造熱點”“帶節奏”的網絡水軍。

上海警方將堅決依法嚴厲打擊，持續加強網絡生態治理，全力營造清朗有序的網絡環境。

來源：新民晚報