一場針對AIGC作品的限制，正規(guī)模化地席卷各個平臺。
一些AIGC創(chuàng)作者在小紅書拉起群組，分享自己被限制的經(jīng)歷。有人發(fā)布12星座內(nèi)容被判定「傳播封建迷信」，有人因為生成AI明星而遇到「侵權(quán)」提示。「虛構(gòu)事件」和「假冒真人」是最常被引用的處罰理由。
同樣的情況也發(fā)生在視頻號和抖音，大量AIGC作品遭遇下架和封禁。作品即便不被封禁，也會被限制流量曝光和商業(yè)權(quán)益。
許多人推斷，這一輪監(jiān)管可能與9月1日即將實施的《人工智能生成合成內(nèi)容標識辦法》有關(guān)。該《辦法》要求所有AIGC內(nèi)容需添加顯式標識（如文字提示、角標、語音聲明）和隱式標識(如元數(shù)據(jù)、數(shù)字水印)。
不過依然有創(chuàng)作者反映，標注AI水印后的作品，還是沒有被正常對待。
鼓勵A(yù)I創(chuàng)作的同時，也在限制AI。
平臺的這種矛盾心理讓創(chuàng)作者迷茫，困惑。他們不是明知故犯，挑戰(zhàn)規(guī)則，只是不知道邊界和紅線到底在哪，未來不知何去何從。
頻繁踩紅線?
AIGC創(chuàng)作者林聰最近有點煩。
她發(fā)布在視頻號的兩個AI人物視頻，因為被判定非真人出鏡，視頻推薦、私信和評論能力直接被停用。
按照要求，林聰詳細提交了個人身份驗證，選定AI制作選項，提交相關(guān)手機制作截圖。系統(tǒng)回復(fù)，信息不夠詳細，不能證明制作過程。
雖然她內(nèi)心有些不情愿，還是按照提示，再次把PC端所有制作關(guān)鍵流程截圖依序提交。這次驗證通過，而且系統(tǒng)提示:之后發(fā)表AI制作內(nèi)容，選擇「內(nèi)容為AI技術(shù)制作，虛構(gòu)內(nèi)容請謹慎甄別」等提示。
不過這次驗證只是恢復(fù)了視頻評論功能，若需恢復(fù)私信功能，需要刪除所有AI制作內(nèi)容后，再次提交申請。
刪除作品等于擦除個人名片，這讓她有些無法接受，所以至今她的私信功能都沒有恢復(fù)。
即便如此，林聰?shù)捏w感是，這波針對AI作品的監(jiān)管風潮，視頻號不是最嚴苛的平臺。她告訴新莓daybreak，「好像除了快手打上AI標識沒什么影響，幾個大的視頻平臺都在清查AI創(chuàng)作的作品。」
林聰不是個例。小紅書關(guān)于AI限流的筆記數(shù)量超過3萬篇。從流量曝光，商業(yè)權(quán)益限制，到產(chǎn)品被下架，涉及不同程度的封禁。
短視頻平臺風聲鶴唳，網(wǎng)文圈的行動其實更早。
今年2月，晉江打出「反AI」的第一槍，發(fā)布了《關(guān)于AI輔助寫作使用、判定的試運行公告》，明確規(guī)定使用AI的邊界。接著，起點、番茄小說宣布全面禁止AI，要求作品必須100%人工創(chuàng)作。
網(wǎng)文平臺整治力度之強，導(dǎo)致出現(xiàn)不少誤判的現(xiàn)象。甚至評論區(qū)出現(xiàn)「感覺像是AI寫的」，也有可能被編輯永久拉黑。
電商也加入行列，對「AI假圖」進行整頓。
3月27日，淘寶修訂了《淘寶網(wǎng)商品發(fā)布規(guī)范》和《天貓商品發(fā)布規(guī)范》，對「商品失真」做出明確的拓展解讀。其中一個重點的指向，便是利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真的與實際不符的商品信息效果圖。
整治力度空前，大有「寧殺錯不放過」的決心。
AI原罪?
過去兩年，在「AI暴富論」、「超級個體」的敘事邏輯下，「一鍵生成」的內(nèi)容迅速在互聯(lián)網(wǎng)泛濫。
有人利用AI賣課，有人利用AI數(shù)字人販賣三無產(chǎn)品。淘寶上，大量AI生成的賣家秀誤導(dǎo)消費者購入，結(jié)果到手商品與圖片嚴重不符。AI亂象，AI污染的聲音不絕于耳。
據(jù)林聰觀察，這一輪AI內(nèi)容治理中，打擊較多的是同質(zhì)化、低原創(chuàng)性內(nèi)容。「現(xiàn)在有了AI，誰家的內(nèi)容火了，大家就會快速大量地復(fù)制。」
一個典型的例子就是今年過年期間《哪吒》爆火后，抖音出現(xiàn)了大量跟風制作哪吒的現(xiàn)象。而這類題材往往使用的都是相似的提示詞或者同一個Lora生成的內(nèi)容。
AI也讓一些機構(gòu)的起號成本變低了，利用AI工具一天內(nèi)可以生成了上百篇引發(fā)矛盾對立的筆記。小紅書去年三個月里處置了超過100萬個黑灰產(chǎn)團伙，均為通過超大規(guī)模矩陣生成同質(zhì)化內(nèi)容。
為此，抖音從算法層面切入，將「原創(chuàng)識別率」納入核心指標，AI生成內(nèi)容若未標注或存在同質(zhì)化「如重復(fù)率超25%」，會被判定為低質(zhì)內(nèi)容。而視頻號則明確「禁止批量發(fā)布通過近似的情景、文案、元素等編造的同質(zhì)化內(nèi)容」。
平臺重點整治的另一個方向便是，虛構(gòu)真人形象和情節(jié)虛假夸大。
從平臺的角度，這一點不難理解。畢竟小紅書以「真實分享」為社區(qū)根基，視頻號則要保障社交關(guān)系鏈中的信息可信度。
這也是為什么，小紅書去年就著手研發(fā)基于「分類器」技術(shù)的AI識別模型，對識別為疑似AI生成的內(nèi)容進行標記。為了鞏固效果，小紅書還設(shè)置了機器識別與人工審核的雙重屏障。
站在創(chuàng)作者的角度來看，這有些無奈。
因為「真實」這一特質(zhì)天然就和AIGC背離，人物本身就是虛構(gòu)的，情節(jié)自然也是虛構(gòu)，所以這更像是貼附于自身的「原罪」。
平臺為「真實」所設(shè)立的門檻，還引發(fā)了另一個層面的「不公」:比起真實題材的視頻，AIGC的審核標準更為嚴苛。
半職業(yè)AIGC創(chuàng)作者藍心的作品最近也遭遇了違規(guī)提示。在小紅書上，她曾先后發(fā)布了一系列真實的王一博的照片和AI生成的王一博視頻。如今，前者仍掛在她的主頁，而后者已經(jīng)被平臺要求刪除。同樣的題材，因為是由AI生成，便得到不同的判定結(jié)果。
值得一提的是，當下所有AI視頻工具都在強調(diào)「真實感」。比如可靈的物理規(guī)律模擬、大幅度運動生成，比如即夢的質(zhì)感提升、動作模仿，一切都在強調(diào)自身生成的效果接近真實。
從結(jié)果看，平臺不希望創(chuàng)作者利用AI復(fù)原人物真實感，假如AI創(chuàng)作一只小貓、小狗，做出真實感，應(yīng)該是會被接納的。
未來何去何從?
AI創(chuàng)作內(nèi)容被嚴格限流的同時，各平臺的AI「軍備競賽」卻是日趨白熱化。
3月19日，小紅書才剛為旗下的AI應(yīng)用「點點」上線了新入口，位于消息頁面，且支持深度思考模式。幾天前，字節(jié)開啟了「即夢3.0」的灰度測試，該版本在分辨率上提升了50%，生成速度提升了30%。
更方便的入口、更新的版本、更強的性能，這些平臺投入了大量資源，推動了AI工具的發(fā)展。目的是為了搶占下一代內(nèi)容生產(chǎn)基礎(chǔ)設(shè)施，將創(chuàng)作者綁定在自身生態(tài)內(nèi)。
但當大量創(chuàng)作者開始使用AI工具，并且涌入AIGC這個領(lǐng)域，平臺卻缺少一套清晰的規(guī)則和審核標準來承接，這讓質(zhì)疑聲頻出。
有人說平臺使勁拉人給AI工具做任務(wù)，搞了特別多相關(guān)的比賽和活動，然后大規(guī)模封禁，是一種誘導(dǎo);也有人也說AI給平臺帶來不了利益，影響真人主播的收益，趁著政策出臺，正好「一刀切」比較痛快。
平臺既扮演AI工具提供者，又承擔內(nèi)容審核者角色，這種雙重身份本身就是一種挑戰(zhàn)。
有些平臺甚至還在主動催生矛盾，比如番茄小說為了訓(xùn)練自己的AI，在簽約協(xié)議中曾新增AI訓(xùn)練條款，引發(fā)過大量作者抵制和不滿。
自2023年生成式AI廣泛運用以來，伴隨AIGC作品而來的就是諸多質(zhì)疑和限制。知名如AI繪畫作品《太空歌劇院》，曾兩次進行版權(quán)申請被拒絕。
AI作品不僅版權(quán)上得不到正名，「同行」之間的關(guān)系也愈發(fā)緊張。大量傳統(tǒng)內(nèi)容創(chuàng)作者豎起了「反AIGC」的旗幟。這也使得2024年一款名為Cara的反AIGC社交產(chǎn)品，開始頻繁登頂美國App Store的下載榜單。
小紅書上也形成了一種「反AIGC」的氛圍，創(chuàng)作者唐飛對此感到無奈，「一些用戶看到AIGC作品就會點舉報，特別是繪畫圈的那群人。」
除了社會和法律法規(guī)層面的不被認同，對大模型廠商，AIGC還意味著一種危險:用AI生成的數(shù)據(jù)去訓(xùn)練AI超過5次，模型性能會大減。萊斯大學和斯坦福團隊的研究人員將此稱之為「模型自噬障礙（MAD）」。
而當下的中文互聯(lián)網(wǎng)，AIGC作品正在走向泛濫。在已經(jīng)公布數(shù)據(jù)的平臺中，微信視頻號AI生成內(nèi)容占比已經(jīng)達到了30%。
其它平臺上，AI生成內(nèi)容也肉眼可見地攀升。這一次封禁，小紅書上的一條評論得到了高贊:這是好事，每次搜資料搜素材出來全是大批大批的AI，想找到正經(jīng)參考的都難。
大刀闊斧砍向AIGC的平臺，有點像是在治理一場數(shù)字領(lǐng)域的「蝗災(zāi)」，目的不是為了「滅絕」，先從整體數(shù)量規(guī)模上減少，再從生態(tài)環(huán)境中防治劣質(zhì)內(nèi)容的生產(chǎn)。
面向未來，AIGC創(chuàng)作者又該何去何從?
有人總結(jié)了一條「532法則」，即:50%的人工，原創(chuàng)案例、真實情感、獨家觀點;30%的AI，數(shù)據(jù)整理、框架搭建、標題優(yōu)化;20%的工具，用ContentAny等去除AI痕跡。
但這些經(jīng)驗是否奏效，誰也無法保證。又或者說，當下奏效的經(jīng)驗，幾個月后是否依然可行，沒人知道。
所有人都要習慣這種不確定性。
