半島全媒體記者 李雪梅

AI的發展，開啟了深度偽造與低價量產的2.0時代。

國慶假期期間，短視頻平臺上出現了大量“雷軍AI配音”的惡搞視頻。

在視頻中，“雷軍”銳評了堵車、假期等熱門話題，甚至還有不雅謾罵。有網友調侃稱：“國慶上網被雷軍罵了整整7天?！蹦壳埃嚓P短視頻平臺已逐步下架這些內容。

除了吐槽外，視頻里的“雷軍”還稱要投資某某大學。截至目前，平臺上相關話題瀏覽量過億。

AI技術正在快速發展，漸漸滲透到生活中的每一個角落。然而，AI技術雖然強大，但也有可能被濫用。

正如“雷軍AI配音”惡搞視頻，視頻的制作者也許沒有太大的惡意，只是在“玩?！?。但凡事得有度，有些視頻中出現的不雅謾罵、造謠等內容，就越過了開玩笑、玩梗的界限。

更有甚者，有人利用AI技術造謠、詐騙。今年6月，廈門警方就曾破獲了一起利用AI技術制造謠言的案件。

該案件中，任某為博流量，利用AI合成了一個虛假視頻，在社交平臺發布，并配文稱，“廣東省五華縣華陽鎮一 70 多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個月?！毖杆傥藦V泛的關注，任某終于被警方抓獲。

無獨有偶，9月20日合肥警方的一則通報顯示，此前網上瘋傳的三只羊公司董事長盧某某的“酒后錄音”是偽造的，是由一名25歲的男子王某某利用AI技術合成的。王某某被警方依法采取強制措施。

2023年4月20日發生在內蒙古包頭市的一起金額高達430萬元的詐騙案件，是利用AI換臉技術得手的。

2024年6月18日，北京警方偵破了一起偽造裸照的案件，白某某利用AI“一鍵去衣”技術偽造了近7000張淫穢圖片，AI技術低價量產為犯罪份子提供了可利用的空間。

據《2024人工智能安全報告》顯示，基于AI的深度偽造欺詐案件在2023年增長了3000%，僅2024年上半年，AI詐騙案案值已超過1.85億元。

AI技術的發展不可逆轉，應用只會越來越廣泛。它可以輕易地換臉、換聲、生文、生圖、生視頻、無中生有。

在此情況下，每個人都可能成為AI制造的“虛假信息”的受害者，其所帶來的社會影響必須引起足夠重視。

目前，我國已經出臺了《互聯網信息服務深度合成管理規定》等法律法規，以規范AI技術的合理使用，并保護公民的合法權益。平臺方也需加強技術升級，提高對虛假信息的識別能力。

以“善治”促“善智”。只有在技術監管、社會倫理和法律法規同步完善的基礎上，AI技術才能真正造福于民，而不至于成為社會的隱患。