原標(biāo)題：一天寫(xiě)7000篇！MCN機(jī)構(gòu)利用AI造謠，細(xì)節(jié)曝光

“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”……這些聳人聽(tīng)聞的消息，竟都是利用AI軟件炮制的謠言。

近日，一些不法分子為賺取平臺(tái)流量補(bǔ)貼，實(shí)現(xiàn)流量變現(xiàn)，利用AI合成技術(shù)編造謠言，嚴(yán)重?cái)_亂社會(huì)秩序。真相到底如何？公安機(jī)關(guān)又將怎樣處理？一探究竟↓↓↓

有圖未必是真相

違法人員利用AI技術(shù)博取流量

今年1月，某網(wǎng)絡(luò)平臺(tái)出現(xiàn)一條關(guān)于“西安爆炸”的消息稱(chēng)，當(dāng)月10日晚，西安突然響起巨大爆炸聲，文字下方還配發(fā)所謂爆炸的圖片。消息一經(jīng)發(fā)布，很快在網(wǎng)上傳播。

經(jīng)調(diào)查，消息的發(fā)布賬號(hào)歸屬于江西南昌一家MCN機(jī)構(gòu)，這家公司的實(shí)際控制人為王某某。經(jīng)核實(shí)，民警發(fā)現(xiàn)當(dāng)?shù)貨](méi)有發(fā)生類(lèi)似事件，初步判定該MCN機(jī)構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡(luò)造謠，屬不實(shí)信息。

警方對(duì)王某某進(jìn)行約談，得知網(wǎng)上發(fā)布的這條謠言，從文本到圖片都是通過(guò)AI生成的。民警表示，利用AI軟件生成新聞熱點(diǎn)類(lèi)文章和圖片，全程基本不需要人工參與。

國(guó)內(nèi)一網(wǎng)站可提供近期可能生成熱點(diǎn)的新聞報(bào)道，違法人員王某某通過(guò)該網(wǎng)站獲取熱點(diǎn)關(guān)鍵詞，并生成文章標(biāo)題。

王某某通過(guò)AI軟件，給出關(guān)鍵詞，軟件便會(huì)自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)信息，生成幾百到上千字的文本，配上貌似和事件具有相關(guān)性的虛假圖片，從而形成一段看起來(lái)信息量很大，實(shí)際上子虛烏有的內(nèi)容。

通過(guò)AI軟件生成內(nèi)容的方式，這家MCN機(jī)構(gòu)短時(shí)間內(nèi)生成了大量文章，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬(wàn)元以上。

經(jīng)警方調(diào)查，王某某共經(jīng)營(yíng)5家MCN機(jī)構(gòu)，運(yùn)營(yíng)賬號(hào)842個(gè)。自今年1月以來(lái)，其中一家MCN機(jī)構(gòu)利用其賬號(hào)，陸續(xù)在某平臺(tái)發(fā)布了“西安1月10日發(fā)生爆炸導(dǎo)致建筑、車(chē)輛炸毀、人員傷亡”等多條謠言信息。

經(jīng)查，王某某的行為構(gòu)成傳播謠言，虛構(gòu)事實(shí)，擾亂公共秩序。目前，南昌警方依據(jù)相關(guān)規(guī)定，依法對(duì)王某某處以行政拘留5日，責(zé)令涉案MCN機(jī)構(gòu)停業(yè)整改。

新聞風(fēng)格+驚險(xiǎn)“災(zāi)情”細(xì)節(jié)

此類(lèi)AI生成謠言更具迷惑性

在重慶，公安機(jī)關(guān)查處一起個(gè)人利用AI軟件，編造民房爆炸謠言的案件。這起案件被公安部列為打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例。該案例利用AI技術(shù)，模仿新聞風(fēng)格，一鍵生成涉及災(zāi)情的信息，以獲取高流量。

去年12月25日，一則“重慶巫溪一民房發(fā)生爆炸事故，4人不幸遇難，官方緊急介入調(diào)查”的消息在某網(wǎng)絡(luò)平臺(tái)發(fā)布，全文500余字，以新聞報(bào)道的口吻，提供了“發(fā)現(xiàn)了4名遇難者，其中包括一名兒童”“疑似與居民私拉亂接電線(xiàn)有關(guān)”等細(xì)節(jié)，短時(shí)間內(nèi)獲得數(shù)萬(wàn)次的點(diǎn)擊量。

這篇謠言閱讀量暴漲，讓之前在網(wǎng)上發(fā)文沒(méi)有任何流量的康某某一開(kāi)始還有些興奮。

康某某：之前我發(fā)了20多條內(nèi)容都沒(méi)有收益，后來(lái)看到一個(gè)爆炸新聞?dòng)泻脦资f(wàn)的點(diǎn)贊量。我就在網(wǎng)站輸入“重慶”“爆炸”，它自動(dòng)生成內(nèi)容，我復(fù)制它的標(biāo)題和文章。

康某某之所以制造謠言，是因?yàn)榈弥谀持W(wǎng)絡(luò)平臺(tái)創(chuàng)作發(fā)布文章，可以根據(jù)閱讀、評(píng)論、轉(zhuǎn)發(fā)數(shù)量等獲取相關(guān)流量收益，每千人有效閱讀量有1—2元的獎(jiǎng)勵(lì)。但他編造虛假消息博取流量的行為已觸犯法律。

經(jīng)查證，康某某對(duì)其虛構(gòu)事實(shí)擾亂公共秩序的違法行為供認(rèn)不諱。公安機(jī)關(guān)依法對(duì)其行政拘留3日，收繳其違法所得，并封禁其網(wǎng)絡(luò)賬號(hào)。

專(zhuān)家：平臺(tái)應(yīng)履行相應(yīng)監(jiān)管責(zé)任

合理強(qiáng)化違法成本

法學(xué)專(zhuān)家表示，大量不實(shí)信息對(duì)普通網(wǎng)民來(lái)說(shuō)，有時(shí)很難直接判斷是否為謠言，而平臺(tái)對(duì)于相關(guān)信息，應(yīng)該盡到監(jiān)管責(zé)任。

有的網(wǎng)絡(luò)平臺(tái)向流量高的內(nèi)容和用戶(hù)支付報(bào)酬，在某種程度上會(huì)刺激一些想要賺錢(qián)的網(wǎng)絡(luò)用戶(hù)發(fā)布虛假信息。專(zhuān)家表示，平臺(tái)在刺激創(chuàng)作的同時(shí)，也應(yīng)盡到消除虛假信息傳播的責(zé)任。

西南政法大學(xué)法學(xué)院教授陳偉表示，支付報(bào)酬方面，平臺(tái)應(yīng)行使積極的引導(dǎo)作用，對(duì)散布謠言者采取相關(guān)的懲罰機(jī)制。

法律專(zhuān)家建議，在法律法規(guī)上應(yīng)讓造謠者付出更大的成本。

陳偉表示，違法成本在行政處罰里涉及行政拘留、行政性罰款等，還包括封號(hào)這樣的措施。法律應(yīng)匹配違法人員的違法成本和他承擔(dān)責(zé)任之間的比例，以免其他人看到違法成本過(guò)低，遏制作用有限。

網(wǎng)絡(luò)并非法外之地，對(duì)于在互聯(lián)網(wǎng)上發(fā)布不實(shí)言論、擾亂社會(huì)秩序的，公安機(jī)關(guān)將堅(jiān)決依法處理。對(duì)于造成惡劣影響、情節(jié)嚴(yán)重的，公安機(jī)關(guān)將依法追究其法律責(zé)任。