【摘要】近年來，AI詐騙作為一種利用人工智能技術實施詐騙的新手段，對社會秩序和人們生產生活造成一定負面影響，逐漸受到國內外的廣泛關注。當前，我國AI詐騙治理取得了一定成果，但同時仍存在AI詐騙治理法律法規滯后、AI詐騙治理缺乏行業合力、AI詐騙治理技術要求較高等困境。對此，應加強專門立法，筑牢法律紅線；堅持打防并舉，強調協同聯動；深化技術運用，提升治理水平，進而全面提升AI詐騙的治理效果。

【關鍵詞】AI詐騙 產業鏈化 治理技術

【中圖分類號】D631 【文獻標識碼】A

進入智能化時代以來，AI（人工智能）技術在現代社會的研究與應用已邁進新的發展階段，深刻塑造了人類的生產生活方式，對經濟社會發展、民生改善等方面產生了重大影響。但在社會安全方面，AI技術也帶來了新的詐騙犯罪隱患，AI詐騙已成為影響社會安全穩定、制約人工智能健康發展的關鍵因素。隨著AI技術的普及，諸如換臉、擬聲、對話、深度合成等技術持續涌現，部分詐騙犯罪分子以此為工具，開展電信網絡詐騙，對社會秩序造成不良影響。

AI詐騙的特點

AI詐騙是通過對AI技術的非法應用，如肖像偽造、聲音模擬、詐騙腳本生成等形式，來達到侵害他人利益的犯罪目的。作為AI時代電信網絡詐騙的新形態，AI詐騙體現出如下特點：

首先，詐騙產業鏈環環相扣，溯源難。當前AI技術突飛猛進，利用AI軟件，僅僅通過對短視頻中零散的人聲進行識別與提煉，便能對發聲者的性別、年齡、地域完成智能化分析，并能從聲音數據庫中精準匹配相似度較高的聲音預測模式，而后通過重構音質內容來模仿出發聲者聲音。在這類AI詐騙中，詐騙分子通常以分工合作的形式，分別從技術支持、設備管理、算法預測、受眾篩選、欺詐實施等環節來逐步實施犯罪，由此形成的詐騙產業鏈給詐騙治理工作帶來較大難度。很多時候雖然偵查到某一環節的犯罪要素，但往往難以追溯到真正的組織策劃者。

其次，超越時空的流動性。AI詐騙犯罪行為是通過線上操作實施，脫離了時間、地點的制約，由此會形成一種流動式詐騙鏈條。犯罪分子會在任意時間、地點內，同時面向不同的聯系人實施詐騙，并在詐騙成功后第一時間將詐騙資金轉移至海外。

最后，立體化實行詐騙，社會危害性大。較之傳統電信網絡詐騙手段，AI詐騙在維度上呈現出鮮明的立體化特征，即以“點—線—網”的結構實行詐騙犯罪，無需再通過線性的直接接觸來達到詐騙目的，而是利用網絡虛假身份信息通過立體化的遠程操控、實時指揮、多層次分工等來開展詐騙。這種立體化特征使得詐騙行為的社會危害性加劇、輻射面更廣，治理工作所面臨的挑戰也隨之加大。

AI詐騙治理面臨的現實困境

AI詐騙治理法律法規滯后。法律法規是AI詐騙治理的硬性依據，但目前相關領域的法律法規建設仍存在滯后性問題，不利于為各項治理工作的有序開展提供支撐。一是個人隱私和數據安全立法工作有待健全。結合AI詐騙流程的運行邏輯進行分析，AI詐騙的實施前提在于對個人隱私信息的大范圍收集，這也是公眾利益受到侵害的第一階段。當大量包含個人社會關系、家庭關系、財務數據、人臉、聲音等信息的數據資料被詐騙分子非法獲取，便意味著詐騙分子可利用的詐騙條件初步達成。當前《中華人民共和國數據安全法》等文件在數據安全維護等方面發揮了一定作用，同時在技術標準、信息保護范圍、可行舉措等方面還有待進一步完善。

二是對網絡黑灰產業認定不足。AI詐騙鏈條往往與網絡黑灰產業聯系緊密，從它們的合作形式上看，AI詐騙體系與網絡黑灰產業體系呈現出相互獨立的特征，黑灰產業通過提供服務的形式與AI詐騙人員進行合作，相關人員也常以不知情、不知法等說法來試圖規避法律責任，這也使得治理工作需要面臨相關犯罪行為的具體界定問題，而只有實現明確界定，才有利于法律責任的精準追究。

三是現行人工智能服務管理法律約束力不足。目前，《中華人民共和國反電信網絡詐騙法》明確規定了互聯網服務提供者、電信業務經營者等主體在電信詐騙防范方面具有相應的法律責任。2023年頒布施行的《生成式人工服務管理暫行辦法》等文件也被應用于這方面的實際管理工作中。總體來看，相關法律及文件，規制范圍較為有限。

AI詐騙治理缺乏行業合力。各個行業數據泄露的情況仍然存在，即便一些用于保護用戶數據的基礎性制度開始實行，但部分企業為追求短期利益，通過販賣用戶信息等形式獲利。與此同時，金融機構部分從業人員在利益驅使下，違反監管制度，對外轉賣客戶信息用以非法獲利。

AI詐騙治理技術要求較高。AI詐騙是以高新技術為支撐開展的犯罪行為，會給相關治理工作帶來一定困難，尤其要求工作人員需要具備較高的技術水平和專業素養。一是技術應對不足。許多人工智能技術都會以開源方式進行對外公布，AI詐騙分子通過互聯網獲取源代碼，然后進行非法修改后，就能改造成用于實施詐騙的算法。二是偵查破案存在難度。AI詐騙分子依托先進軟硬件技術隱匿于網絡背后，來向目標詐騙對象發送不同形式的轉賬指令，而由于犯罪分子在身份偽裝上具有嚴謹性，在腳本設計上注入大量欺詐性情感要素，這就使得目標詐騙對象對其建立了深厚信任，甚至主動為其阻礙公安機關的取證與執法，最終會由于證據鏈不完善而導致偵查破案難度加大。三是電子證據調取困難。AI詐騙的發生場域集中于信息空間，所產生的電子數據容易被遮掩、覆蓋，因而難以從技術層面進行取證。四是認定處理難度較大。AI智能技術雖被詐騙分子大量運用于偽造，但要從治理角度有針對性地開發仿冒識別技術，則面臨著更高難度，而針對詐騙分子偽造的虛假視頻、音頻，也往往需要耗費大量人力、物力，且內容的真偽也難以在短時間內進行識別，仍面臨不少技術難關。

AI詐騙治理困境的破解路徑

加強專門立法，筑牢法律紅線。需要不斷健全完善與AI詐騙治理相關的法律法規。一方面，健全個人信息法律保護體系。分析AI詐騙的特點可知，犯罪嫌疑人會先依托互聯網技術收集公民的個人隱私信息，為有效預防AI詐騙案件的出現，需從源頭上進行治理，完善法律法規以更好地保護公民個人信息。從目前的實際情況來看，相關部門已相繼出臺了《個人信息保護法》《網絡安全法》《數據安全法》等法律，但在個人隱私信息保護上缺乏系統性。建議以《個人信息保護法》為基礎，細化公民個人信息類型并分別采取保護舉措，明確界定侵犯個人信息的各種行為。特別是要關注如何有效保護公民個體的生物信息，這主要包括肖像信息和聲音信息，應加強對此類信息的立法。在實踐過程中，針對可以收集公民個人生物信息的各類主體，在法律法規文件中細化其具體責任。

另一方面，完善人工智能領域法律體系。應加強對AI等人工智能技術運用的立法，2023年國家互聯網信息辦公室聯同教育部、公安部以及國家發展和改革委員會等部門出臺了第一個規范和管理人工智能技術使用的法律性文件《生成式人工智能服務管理暫行辦法》，之后又將《人工智能法》納入了《國務院2023年度立法工作計劃》中，這標志著我國人工智能立法已進入到全新發展階段。當前，應盡快推進《人工智能法》的制定與出臺，在《人工智能法》中應健全各類人工智能技術使用的倫理規范，進一步明確、細化互聯網服務提供者、電信業務經營者、企業等主體在AI技術開發和運用過程中的法律責任與義務。

堅持打防并舉，強調協同聯動。針對現階段面臨的AI詐騙治理困境，既要結合現實情況給予其嚴厲打擊，更要從源頭上進行預防，構建多元主體共同參與的協同聯動治理機制。

首先，打造AI詐騙防御體系。其一，搭建事前預警平臺。各行業責任主體之間應協同構建反詐騙預警平臺，阻礙AI詐騙信息傳遞；其二，搭建智能勸阻平臺。對已經接到詐騙電話的用戶給出預警，利用智能化手段阻斷詐騙公司對其再次撥打電話。此平臺可利用大數據技術將各種類型的行業術語和精準話術納入進來，構建各種形式的AI詐騙勸阻場景，以實現對潛在被詐騙用戶的精準勸阻；其三，搭建專人客服呼叫坐席。對預警數量規模較大的行政村和街道配置專人反詐呼叫坐席，與公安等相關部門聯合辦公，依托反詐預警平臺和智能勸阻平臺開展反詐電話勸阻活動。

其次，加大AI詐騙打擊力度。當前，AI詐騙治理面臨電子證據調取流程繁瑣、認證處理難度大和案件偵破難溯源等問題，相關責任部門應加大執法力度，定期開展執法行動，對通過非法手段提取公民肖像和獲得公民隱私信息從事犯罪的人員要給予嚴厲打擊。

最后，協同聯動形成全新AI技術生態。一是不同部門之間共同開展多種形式的詐騙治理活動，遵循“事前預防、事中勸阻、事后治理”的原則，有效解決治理問題。二是強化內部監管，尤其是互聯網和電信企業等，在升級更新技術的同時要注重健全內部的倫理規范，向其他行業輸出AI技術時要嚴格遵守技術運用的法律紅線。三是各金融機構要主動承擔相應的風險防控責任，構建健全的內部控制制度，打造全新AI技術生態，做好跨領域和跨行業的交流合作，針對可能出現的潛在詐騙風險提前制定防范策略。

深化技術運用，提升治理水平。隨著各類治理技術的不斷更新和完善，實踐中應深刻認識到技術運用的利與弊，善用各種技術以提升AI詐騙治理效果。首先，運用技術切斷“數據喂養”。事前要進行精準的預警防范，借助現代化技術切斷數據供給和喂養，即使不法分子已經掌握了公民個人信息，但相關部門可以利用技術手段讓公民登錄不上詐騙網站，下載不了詐騙軟件，無法向詐騙賬戶轉賬；構建AI詐騙風險預警防范模型，擴大反詐電話監測覆蓋范圍，促使手機廠商升級指紋識別和人臉識別技術，以協助用戶準確識別AI擬聲和AI換臉等詐騙行為。

其次，運用技術提升治理能力。借助數字技術拓展AI詐騙風險防控范圍，從海量的數據信息中挖掘出潛在的詐騙風險信息，來防范AI詐騙犯罪案件的發生；以大數據技術為基礎模擬出各種AI詐騙案件的犯罪情景，整個運行過程包括五大環節，分別為數據收集、數據分析、犯罪情景模擬、防范策略制定和行使響應；實現不同平臺、行業和領域的數據互通與資源共享，及時收集各方證據，精準打擊各類AI詐騙案件；針對能夠逼真模擬頭像、聲音等重要生物信息的AI詐騙科技，研發出對應的能夠辨別人像、聲音真偽的AI詐騙治理技術，全面防范AI詐騙案件的發生。

最后，加大技術偵查人員培養。偵查人員的業務能力和綜合素養對預防AI詐騙犯罪和提升詐騙案件辦案效率有著重要影響。當前，犯罪分子借助AI技術行使的詐騙手段變得更為多樣化，偵查人員須不斷完善自身的知識儲備，提升自身在偵查方面的專業能力，通過大力培養偵查AI詐騙的專業技術型人才，全面加強對AI詐騙犯罪的事前預防力度，織緊織密織牢預防AI詐騙犯罪的防護網。

（作者分別為中國人民公安大學犯罪學學院博士研究生；中國人民公安大學馬克思主義學院教授、博導）

【注：本文系中國人民公安大學雙一流創新研究專項（項目編號：2023SYL05）階段性成果】

【參考文獻】

①趙晨熙、郝嘉偉：《推進立法強化人工智能技術安全應用》，《法治日報》，2024年4月9日。

②李雪峰、王錸：《電信網絡詐騙的特征與治理路徑》，《人民論壇》，2023年第20期。

責編/孫垚 美編/王夢雅

聲明：本文為人民論壇雜志社原創內容，任何單位或個人轉載請回復本微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。