2024年10月，一則標(biāo)題為“大媽擺攤賣水果被罰16萬(wàn)，監(jiān)管局回應(yīng)不交就罰145萬(wàn)”的文章在網(wǎng)絡(luò)上廣為流傳，引發(fā)眾多網(wǎng)民關(guān)注和議論。經(jīng)調(diào)查，這篇文章是一家公司AI炮制出來(lái)的，它的背后，隱藏著怎樣一個(gè)產(chǎn)業(yè)鏈？
先尋找高熱度文章 再用AI仿寫(xiě)洗稿
仔細(xì)查閱這篇文章可以發(fā)現(xiàn)，除了博眼球的標(biāo)題，文章內(nèi)容也非常具體，聲稱“在山東濟(jì)南，65歲吳大娘為給兒子攢錢結(jié)婚，擺攤賣水果，卻因?yàn)闆](méi)有執(zhí)照被市場(chǎng)監(jiān)管局執(zhí)法人員要求罰款，如果拒絕配合還要提升賠款數(shù)額至145萬(wàn)”。
如此聳人聽(tīng)聞的描述引起了網(wǎng)友的關(guān)注。
經(jīng)民警查明，當(dāng)?shù)馗緵](méi)有發(fā)生過(guò)這一事件。濟(jì)南市場(chǎng)監(jiān)管局隨即發(fā)布了辟謠聲明，并將相關(guān)證據(jù)提交給了警方。
這則虛假信息出自湖南長(zhǎng)沙的一家傳媒公司，隨后濟(jì)南警方與長(zhǎng)沙警方聯(lián)合辦案，發(fā)現(xiàn)這篇引發(fā)熱議的文章，居然是該傳媒公司通過(guò)AI工具生成的。
長(zhǎng)沙市公安局開(kāi)福分局通泰街派出所民警 薛猛泉：2024年10月5日，公司的運(yùn)營(yíng)人員彭某先是在網(wǎng)上找到了一篇類似的熱點(diǎn)文章，把文章復(fù)制之后，放到AI里面。他們把標(biāo)題、事情的發(fā)生地、時(shí)間、金額等內(nèi)容進(jìn)行更改，也就是所謂的“洗稿”，生成了這樣的文章。
聚焦虛假糾紛 制造對(duì)立情緒引流獲利
警方調(diào)查發(fā)現(xiàn)，湖南的這家傳媒公司日常發(fā)布的文章主要聚焦虛假的社會(huì)矛盾糾紛，而之所以選擇這樣的題材，是因?yàn)樗麄儼l(fā)現(xiàn)，矛盾沖突越激烈的文章，閱讀量就越高，也更容易讓自己的賬號(hào)盈利。
長(zhǎng)沙市公安局開(kāi)福分局網(wǎng)安大隊(duì)民警 韓捷：完全虛假的，實(shí)際不存在的這篇文章，在發(fā)布到網(wǎng)上的時(shí)候，吸引讀者、網(wǎng)民去瀏覽、去關(guān)注，從而實(shí)現(xiàn)流量變現(xiàn)的目的，獲得廣告費(fèi)用的分成。
在這家公司的運(yùn)營(yíng)流程手冊(cè)上可見(jiàn)，法律類文章要能引起公憤，比如農(nóng)民被罰、執(zhí)法部門執(zhí)法不當(dāng)，開(kāi)出天價(jià)罰款、政府霸占農(nóng)民土地不還等等，總之他們的宗旨就是：用戶看完感到憤怒的，就是一篇合格的文章。
長(zhǎng)沙市公安局開(kāi)福分局通泰街派出所民警 薛猛泉：特別是標(biāo)題這一塊，要能夠引起人憤怒，能夠把人的情緒值拉滿，就是一篇好文章。他們會(huì)從網(wǎng)上自己搜，通過(guò)類似的公眾號(hào)上搜一些點(diǎn)贊量、閱讀量、轉(zhuǎn)發(fā)量比較高的文章。流量，是他們選取文章的唯一標(biāo)準(zhǔn)，而不是真實(shí)性。
提煉關(guān)鍵詞生成假信息 再人工修改細(xì)節(jié)
不僅原始網(wǎng)絡(luò)文章不去核實(shí)真?zhèn)危摴具�利用AI技術(shù)把未經(jīng)核實(shí)的信息直接轉(zhuǎn)到軟件上，通過(guò)AI提煉文章的核心內(nèi)容，將時(shí)間、人物、地點(diǎn)等信息作為關(guān)鍵詞再提問(wèn)給AI，由AI生成一篇核心意思幾乎一樣、但具體內(nèi)容又完全不同的虛假信息，最后再由人工夸大部分細(xì)節(jié)，增加能引起觀眾情緒的內(nèi)容，一篇能夠煽動(dòng)觀眾情緒的虛假文章就出現(xiàn)了。
虛假文章所屬賬號(hào)代運(yùn)營(yíng)方負(fù)責(zé)人 李某：原始文章真實(shí)性沒(méi)法去考證，主要是把AI生成的一些機(jī)械詞，比如說(shuō)不人性化的詞、不通順的詞、咬文嚼字的詞，把它修改成通俗一點(diǎn)的。
在山東濟(jì)南市場(chǎng)監(jiān)管局發(fā)布辟謠后，該賬號(hào)迅速刪除了這篇虛假文章。但文章造成的惡劣影響已不可挽回。
記者：按照你們以往的慣例，一旦有人投訴，你們也是這樣的工作流程嗎？
虛假文章所屬賬號(hào)代運(yùn)營(yíng)方負(fù)責(zé)人 李某：一般都是第一時(shí)間下架。
長(zhǎng)沙市公安局開(kāi)福分局通泰街派出所民警 薛猛泉：一種賭徒心理，因?yàn)榈攸c(diǎn)隨便一寫(xiě)，天南海北都有，但如果說(shuō)當(dāng)?shù)匾鹬匾暳耍^(guò)來(lái)調(diào)查，大不了刪了就是了。刪一篇文章，很簡(jiǎn)單，但是這個(gè)政府也好，公安也好，要找到這個(gè)地方，過(guò)來(lái)打處，那是很費(fèi)功夫的。
依據(jù)《中華人民共和國(guó)治安管理處罰法》，公安機(jī)關(guān)對(duì)代運(yùn)營(yíng)該賬號(hào)的公司法定代表人李某，以及編寫(xiě)該文章的員工彭某，分別處以行政拘留3日的處罰。
同款假信息除地點(diǎn)人物不同 內(nèi)容基本一致
在多個(gè)平臺(tái)輸入“擺攤”“罰款”等關(guān)鍵詞，多條各地“小攤販被相關(guān)監(jiān)管部門天價(jià)罰款”的虛假文章仍然存在。
這些文章都是以博眼球的罰款金額當(dāng)作標(biāo)題，內(nèi)容多為小攤販擺攤賣草莓、香蕉、煙葉等被罰款，文章除了地點(diǎn)、人物不同，其余的內(nèi)容基本一致。
長(zhǎng)沙市公安局開(kāi)福分局網(wǎng)安大隊(duì)民警 韓捷：公安機(jī)關(guān)以及國(guó)家網(wǎng)信部門都會(huì)對(duì)這種網(wǎng)絡(luò)謠言進(jìn)行打處和監(jiān)測(cè)，希望各個(gè)從事這個(gè)行業(yè)的MCN機(jī)構(gòu)，或者是賬號(hào)運(yùn)營(yíng)者，一定要對(duì)自己產(chǎn)出的內(nèi)容進(jìn)行內(nèi)容的審核，確保信息的真實(shí)合規(guī)。
文章聳人聽(tīng)聞還有配圖 調(diào)查后發(fā)現(xiàn)是謠言
利用AI技術(shù)，對(duì)他人發(fā)布的文章、信息進(jìn)行抄襲、改寫(xiě)、刪減、拼湊，甚至直接編造，變成偽原創(chuàng)內(nèi)容，這種行為被稱為“洗稿”。
2024年4月，一條內(nèi)容為“上海某地驚現(xiàn)‘骨灰房’”的文章發(fā)布在網(wǎng)絡(luò)平臺(tái)上。文章除了聳人聽(tīng)聞的文字，還配有相關(guān)圖片，引發(fā)網(wǎng)友的廣泛關(guān)注和討論。
不過(guò)，警方調(diào)查核實(shí)后發(fā)現(xiàn)，這篇文章所講的內(nèi)容完全是不切實(shí)際的謠言，隨即立案開(kāi)展調(diào)查。很快，警方找到了這篇文章的發(fā)布者王某。
上海市寶山區(qū)人民檢察院檢察官 陳偉東：發(fā)現(xiàn)發(fā)帖人是住在云南某縣的，然后找到她，她講這個(gè)稿子不是我寫(xiě)的，是人家無(wú)償提供給她的，她不過(guò)是提供她的賬號(hào)予以發(fā)布。
兼職群里發(fā)布信息 教學(xué)員“洗稿”牟利
據(jù)發(fā)帖人王某說(shuō)，一個(gè)月前，她加入了一個(gè)兼職微信群，看到有人在群里發(fā)布信息稱，可以教人在網(wǎng)絡(luò)平臺(tái)上注冊(cè)賬戶，并發(fā)帖掙錢。
王某看到后立即回應(yīng)了對(duì)方，表示想要參加學(xué)習(xí)，隨后便根據(jù)對(duì)方的指引注冊(cè)了某網(wǎng)絡(luò)平臺(tái)賬號(hào)。對(duì)方在傳授王某一些自媒體的學(xué)習(xí)方法后，表示會(huì)每天向王某賬戶的草稿箱里發(fā)送已經(jīng)寫(xiě)好的文章，第二天再通過(guò)王某的手機(jī)將這些文字發(fā)布，只要文章有瀏覽量王某就能賺取傭金。
謠言稿件分發(fā)給學(xué)員 再由學(xué)員發(fā)布
據(jù)王某說(shuō)，開(kāi)始的時(shí)候，她面對(duì)賬號(hào)內(nèi)存入的信息還會(huì)瀏覽一下內(nèi)容，后來(lái)便逐漸不再對(duì)存入的文章內(nèi)容進(jìn)行關(guān)注。她每天會(huì)發(fā)布三四十條信息，而那條“上海某地驚現(xiàn)‘骨灰房’”的不實(shí)信息正是對(duì)方發(fā)給她的。
依據(jù)王某提供的線索，警方展開(kāi)調(diào)查，一舉抓獲了為王某提供謠言文章牟利的犯罪團(tuán)伙成員徐某、羅某、闞某三人。據(jù)徐某等人交代，這條謠言并不是他們?nèi)斯ぞ帉?xiě)，而是利用購(gòu)買來(lái)的軟件自動(dòng)“洗稿”生成完成的。
被告人 闞某：他就是把賬號(hào)登進(jìn)去，然后有指令，把文章用那個(gè)文件的模式放進(jìn)去，然后它會(huì)自動(dòng)改寫(xiě)，然后自動(dòng)存到草稿箱里面。
“洗稿”后與原文查重率不超過(guò)25%
經(jīng)查，從2024年1月開(kāi)始，徐某、羅某等人在網(wǎng)絡(luò)上以傳授兼職掙錢、薅羊毛、撿漏等為由頭，吸引招攬學(xué)員實(shí)名注冊(cè)網(wǎng)絡(luò)平臺(tái)賬號(hào)。
徐某等人從網(wǎng)絡(luò)中截取關(guān)注度高的熱點(diǎn)文章上傳到購(gòu)買來(lái)的一款A(yù)I軟件，將這些熱點(diǎn)文章重新“洗稿”生成一篇新的偽原創(chuàng)文章。
據(jù)了解，經(jīng)過(guò)徐某等人“洗稿”后的文章與原文查重率不超過(guò)25%，這也是為了滿足其發(fā)布平臺(tái)的審核要求。
上海市寶山區(qū)人民檢察院檢察官 陳偉東：他有指令的，第一個(gè)，標(biāo)題要?jiǎng)疟诙䝼�(gè)，結(jié)論要有爭(zhēng)議的結(jié)論。第三，改寫(xiě)內(nèi)容要吸人眼球。
偽原創(chuàng)文章自動(dòng)分發(fā) 學(xué)員點(diǎn)擊發(fā)布即可
據(jù)徐某等人交代，這款軟件會(huì)將生成后的偽原創(chuàng)文章，自動(dòng)分發(fā)到學(xué)員的網(wǎng)絡(luò)平臺(tái)賬戶草稿箱內(nèi)，學(xué)員點(diǎn)擊發(fā)布即可。根據(jù)瀏覽量的不同，平臺(tái)會(huì)給文章上傳者一定的獎(jiǎng)勵(lì)，徐某團(tuán)伙通過(guò)收取一定比例的傭金，或者收取賬戶草稿箱存稿費(fèi)，實(shí)現(xiàn)牟利。
而這些通過(guò)“洗稿”生成的文章，如“三星堆遺址挖出航母、核潛艇”“英語(yǔ)退出高考”等均為不實(shí)信息，而這些明顯虛假的文章就有近千條。
上海市寶山區(qū)人民檢察院檢察官 陳偉東：信息來(lái)源沒(méi)有審核過(guò)，自動(dòng)截取的這些文章真的假的不知道，他們沒(méi)有甄別過(guò)。它通過(guò)AI技術(shù)進(jìn)行修改、編撰、替換，都不是原創(chuàng)，都是虛假的，因?yàn)榘褧r(shí)間、要素、人物、地點(diǎn)等等都已經(jīng)進(jìn)行了修改。
有償發(fā)布虛假信息 掌控1100多個(gè)賬號(hào)
經(jīng)查，徐某等人掌握和控制的可以供發(fā)布洗稿后文章、信息的賬號(hào)，最多的時(shí)候有1100多個(gè)，共計(jì)非法獲利人民幣5萬(wàn)余元。
檢察機(jī)關(guān)以非法經(jīng)營(yíng)罪對(duì)三人提起公訴
檢察機(jī)關(guān)認(rèn)為，徐某、羅某、闞某三人結(jié)伙，違反國(guó)家規(guī)定，以營(yíng)利為目的，編撰虛假信息，通過(guò)網(wǎng)絡(luò)有償提供發(fā)布，擾亂市場(chǎng)秩序，情節(jié)嚴(yán)重。
2024年12月，上海市寶山區(qū)人民檢察院以非法經(jīng)營(yíng)罪對(duì)徐某等三人提起公訴。
檢察官提醒，網(wǎng)民、自媒體從業(yè)者，應(yīng)遵守法律法規(guī)和職業(yè)道德規(guī)范，尊重原創(chuàng)作品和知識(shí)產(chǎn)權(quán)，同時(shí)增強(qiáng)法律意識(shí)和自律意識(shí)，避免“洗稿”發(fā)布虛假信息等違法行為的發(fā)生。同時(shí)，相關(guān)軟件生產(chǎn)者和網(wǎng)絡(luò)平臺(tái)更應(yīng)切實(shí)負(fù)起監(jiān)管、審核職責(zé)。
