2025年底，韋氏詞典把年度詞匯授給一個老詞的新義：slop。它本義是喂豬的泔水，如今更多被用於AI批量生成的低質內容。一個詞被詞典收編，說明它已經不是個別現象，而是已經成爲了人們的日常。
事實上，低質內容已經引起了各大渠道的重視和清理。Spotify下架了超過7500萬首AI生成的歌曲；X平臺上線Grok生圖後的九天裏，用戶生成了440萬張圖片，其中約180萬次的請求是“把她的衣服換成比基尼”，由此引發的訴訟已有近10起，被告席上坐着模型公司、平臺和第三方應用。
但用泔水形容這件事，其實低估了它。AI內容是晝夜不停湧出的，生產成本趨近於零，供給不再依靠人的創作，互聯網面對的不是一缸泔水，是漲個不停的水位，甚至洪水。
在不久的未來，我們會否被賽博洪水淹沒？僅僅低質我們可以選擇不看，但隨之而來對“真實”的侵害可能更值得反思。
今天「虎嗅」嘗試拆解這個復雜的問題，看看各方到底有沒有解法。
賽博洪水泛濫
過去一年，各平臺流傳着一批新的“致富經”：《用Agent一鍵採集並改寫100篇爆文》《全數字人直播工廠，一個真人主播都不用》《文案配圖全交給AI，快速鋪開賬號矩陣》。教程真不真無所謂，裏面的賬是真的：單條內容成本歸零，批量生成一百條，賭中一條就是賺。對單個人無懈可擊，湊到一起就是災難。
短劇層面的官方信息更爲震撼。今年三季度，國家廣電總局網絡視聽節目管理司司長王小亮在國新辦發布會上給出數據：前8個月全國上線微短劇43萬部，是去年全年的13倍，其中AI劇超過九成。據報道，精品AI仿真人短劇的制作成本已能壓到20萬元以內，約爲真人精品短劇的十分之一。連短劇這種要劇組、要演員、要工種配合的內容，一年之內九成AI化了。
泛濫的景象不難想象。AI魔改的名著裏，林黛玉在倒拔垂楊柳；數字人主播在直播間循環同一套話術；AI生成的“手作視頻”底下，最熱門的評論是求鏈接，觀衆分不清真假，也不覺得有必要分。這些最先挨了治理的板子：網信辦“清朗·整治AI應用亂象”專項行動，已處置違規AI產品1.4萬餘款，清理相關違法信息561萬餘條。
當真實性被侵犯
再往深處，是真實本身開始松動，這才是影響最深遠的。
去年8月，一個零食品牌宣傳產品“甄選優質花生”，配圖裏的花生卻長在枝頭。花生長在地下，這是農業常識。比虛假宣傳更重的，是它演示的那種未來：說法不再需要真實世界的證據來支持，圖可以生成，“經歷”也可以。
比如你深夜查育兒攻略，以爲在讀一位媽媽的真實記錄，其實是一段沒經歷過任何生活的代碼在模仿這種語氣。你跟一個“網友”傾訴，對面安慰你的，可能是某個賬號矩陣裏的一段程序。AI生成並不等於假，真人也造假，AI也能幫人把真話說得更好；新問題在於，經歷、身份、關系、責任如今可以被打包僞造，而背後找不到一個負責的人。
法院已經給這件事定過性。全國首例AI代寫“種草筆記”不正當競爭案裏，兩款提供“一鍵生成爆款種草筆記”的App被小紅書告上法庭，法院認定構成不正當競爭。這是我國司法第一次確認：真實的內容生態和用戶信任，是受法律保護的。
築堤，讓洪水歸槽
問題又說回來，由AI制造的賽博洪水會退嗎？各方的答案都是——不會。於是問題就變成了，如何治水？
今年7月施行的《人工智能擬人化互動服務管理暫行辦法》規定，AI內容必須打顯式標識，元數據裏還要埋入機器可讀的隱式標識，把“過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系”寫進了禁止條款。法律開始保護“人與人之間”這件事本身。
今年5月，國家反詐中心APP上線“AI內容鑑定”功能，圖片、視頻、文本、音頻都能傳上去檢測，每人每天免費10次。
平臺動手更早。微信、抖音、小紅書等平臺都升級了AI內容標識，要求創作者主動聲明，平臺檢測到AI內容，也會自動打標；小紅書今年8月還把標識義務從內容擴到賬號，AI虛擬人必須亮明身份，日均打標超30萬條。
對於AI託管的內容，小紅書的態度比其他平臺更堅決。小紅書是第一個明確表達嚴打「AI託管賬號」的平臺。小紅書曾公布，已全面攔截並精準識別了約302萬個涉及腳本操作的自動化異常賬號，針對近期“利用AI工具批量拼湊、自動化發布違規筆記”這一破壞內容生態的新趨勢，平臺進行了重點打擊，精準鎖定了約13萬個“AI託管發布”賬號。對於此類試圖利用自動化工具機械操作、批量拼湊AI內容及模擬真人互動的違規賬號，平臺均已予以封號或禁言的嚴厲處罰，堅決將系統性打擊常態化。
碳基人類最後的防線
如果低質和託管已經在治了，那麼後果更嚴重的AI“造假”呢？
低質是海量與審美的問題，主動標識和平臺識別，讓AI內容進到自己的河道，把泔水擋在視線外。
但造假是底線和信任問題：僞造的經歷、冒充的身份、換的臉、編的聊天記錄，淹進來一分，真實就少一分。
“真與假，這才是硅基AI與碳基人類應該劃清的界限，也是我們應該守住的防線。”一位長期觀察AI行業的學者表示，有些人會覺得，社交平臺對AI造假會睜一只眼閉一只眼，畢竟流量就是流量。但實際上正好相反——平臺比任何人都不希望真與假的界限被AI模糊掉。“尤其是類似小紅書這樣主打活人感的社區，真人之間的真實交流幾乎是社區的基石，這類平臺對虛假的態度更爲嚴苛。”
「虎嗅」也看到，各平臺也意識到了真假問題的嚴重性。多個平臺都開始大力度打擊AI虛假內容。小紅書也在大力度清理打擊“虛假筆記”，此前小紅書官方表示，已將AI制作發布虛假內容納入常態化治理，尤其是以AI生成圖片僞造實景、AI批量生成同質化體驗筆記、虛構親歷經歷爲高風險場景重點識別，文旅住宿、醫療醫美、教育、房產等品類優先覆蓋。今年6-8月，平臺清理處置AI制作發布的虛假筆記近12萬條。
大禹治水數十年，辦法不是把水堵死，是給水找出路。對付賽博洪水，似乎可以沿用中國古人的同一套道理：給AI留河道，給真實守堤壩。
相關閱讀
- 越来越多的人派遣人工智能来打客服战2026-09-25
- 為什麼問界“專屬專營”是時代的選擇2026-09-25
- 誰的黃金週急需一副AI眼鏡？2026-09-25
- 原創 沐曦股份，上演了一場百億換手大戲2026-09-25
