人工智能對電信網(wǎng)絡(luò)詐騙治理的影響

前言：想要寫出一篇引人入勝的文章？我們特意為您整理了人工智能對電信網(wǎng)絡(luò)詐騙治理的影響范文，希望能給你帶來靈感和參考，敬請閱讀。

摘要:人工智能技術(shù)快速發(fā)展為推進電信網(wǎng)絡(luò)詐騙治理智能化、精準(zhǔn)化提供了新機遇，同時也被詐騙分子惡意利用給治理工作帶來新挑戰(zhàn)。系統(tǒng)梳理人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙治理工作中的應(yīng)用實踐，剖析其不當(dāng)使用為治理工作帶來的風(fēng)險挑戰(zhàn)，在總結(jié)國內(nèi)外治理措施基礎(chǔ)上，研究提出思路建議。

關(guān)鍵詞:人工智能;電信網(wǎng)絡(luò);詐騙治理

1引言

在電信網(wǎng)絡(luò)詐騙治理領(lǐng)域，人工智能技術(shù)“雙刃劍”效應(yīng)明顯，治理與詐騙技術(shù)對抗日趨激烈。一方面，人工智能技術(shù)不斷促進治理能力提升。一些機構(gòu)和企業(yè)積極利用大數(shù)據(jù)分析、機器學(xué)習(xí)等人工智能技術(shù)開展詐騙治理和風(fēng)險防控工作，技術(shù)識別準(zhǔn)確度更高、監(jiān)測攔截實時性更強、防護覆蓋面更大，有效降低了詐騙風(fēng)險與危害。另一方面，人工智能技術(shù)被惡意利用帶來風(fēng)險隱患。詐騙分子積極利用人工智能技術(shù)精準(zhǔn)篩選受騙者、精心設(shè)計詐騙腳本、偽造高仿真詐騙信息，使得詐騙呈現(xiàn)成本低、花樣新、波及廣等特點，隱蔽性、復(fù)雜性、迷惑性增加，引起社會的關(guān)注和擔(dān)憂。

2人工智能給電信網(wǎng)絡(luò)詐騙治理帶來的機遇與挑戰(zhàn)

2．1機遇大數(shù)據(jù)分析、機器學(xué)習(xí)、知識圖譜等人工智能技術(shù)已被廣泛應(yīng)用于電信網(wǎng)絡(luò)詐騙電話檢測、惡意網(wǎng)址攔截等場景中，有效降低人力支出，快速發(fā)現(xiàn)疑似詐騙行為，極大地提高了詐騙治理工作的效率和質(zhì)量［1-3］。

2.1.1詐騙電話檢測利用大數(shù)據(jù)分析、模式識別等技術(shù)進行全天候詐騙電話檢測，對海量通信數(shù)據(jù)進行預(yù)處理、多維融合、分析研判、交叉比對和模式識別。例如，中國電信“天翼藍盾”反詐平臺，針對“手機黑卡”大規(guī)模大范圍提前預(yù)警的難題，對網(wǎng)絡(luò)前后端融合數(shù)據(jù)智能分析，實現(xiàn)預(yù)付費卡在詐騙重點區(qū)域漫游動態(tài)監(jiān)測、數(shù)據(jù)分析并快速處置高危涉詐號碼。

2.1.2惡意網(wǎng)址攔截基于數(shù)據(jù)樣本庫，利用機器學(xué)習(xí)算法和大數(shù)據(jù)平臺對海量網(wǎng)址進行特征比對檢測、頁面相似度分析，發(fā)現(xiàn)攔截疑似涉詐網(wǎng)址。例如，騰訊安全云庫建立實時更新的網(wǎng)址黑白樣本庫，根據(jù)不同的應(yīng)用場景不斷調(diào)整和適配算法，最終選取準(zhǔn)確率高的機器學(xué)習(xí)模型，在保證及時性的同時，也能達到較好的識別準(zhǔn)確率。

2.1.3詐騙信息審核通過對已知詐騙信息的不斷學(xué)習(xí)，結(jié)合自然語言處理、計算機視覺和語音識別等技術(shù)，可以實時分析并判斷信息的可靠性，及早識別出涉詐或偽造內(nèi)容。例如，360應(yīng)龍綜合反詐平臺對疑似詐騙的文本、圖片、賬號等信息進行識別分類，在單省份一天能有效識別攔截虛假涉詐信息近70萬條。

2.1.4受害者發(fā)現(xiàn)預(yù)警基于涉詐號碼黑灰名單庫等信息，人工智能模型算法能夠?qū)τ脩舻漠悇忧闆r進行快速分析處理，進而以自動外呼、發(fā)送預(yù)警短信、閃信等方式向疑似受害用戶進行及時提示提醒。例如，阿里錢盾反詐公益平臺不斷更新迭代預(yù)警模型，形成自動化的詐騙行為和受害用戶的及時發(fā)現(xiàn)預(yù)警能力。

2.1.5詐騙團伙研判分析基于知識圖譜和分類聚類算法，詐騙團伙識別模型能夠?qū)㈦x散的單點舉報聚類成可疑詐騙團伙。例如，中國移動基于隨機森林算法開發(fā)涉詐人群精準(zhǔn)識別系統(tǒng)，對高危用戶、販卡用戶、異常終端、異常區(qū)域進行識別，形成涉詐人群、手法、終端、區(qū)域、事件和拓展特征的精準(zhǔn)畫像識別，有效提高了詐騙重點地區(qū)的技術(shù)防范能力。

2．2挑戰(zhàn)

電信網(wǎng)絡(luò)詐騙活動包含精準(zhǔn)信息獲取、詐騙腳本設(shè)計、通信聯(lián)絡(luò)誘導(dǎo)、資金支付轉(zhuǎn)移4個關(guān)鍵環(huán)節(jié)。人工智能技術(shù)在4個環(huán)節(jié)均被詐騙分子惡意利用，加劇了電信網(wǎng)絡(luò)詐騙向精準(zhǔn)化、擬人化、自動化方向蔓延發(fā)展［3，4］。

2.2.1在“精準(zhǔn)信息獲取”環(huán)節(jié)，人工智能加劇隱私泄露風(fēng)險詐騙分子利用智能惡意軟件等隱蔽竊取聊天記錄、家庭關(guān)系等敏感信息?；谌斯ぶ悄芗夹g(shù)的熱門應(yīng)用增加了用戶生物特征信息泄露風(fēng)險，越來越多的語音交互產(chǎn)品讓聲紋更容易被收集。例如，換臉、換聲應(yīng)用軟件需要用戶在使用時提供面部特征等核心信息，一旦泄露或濫用將不可逆且?guī)順O大風(fēng)險。

2.2.2在“詐騙腳本設(shè)計”環(huán)節(jié)，人工智能被用于設(shè)計定制化腳本、精準(zhǔn)選取受害人通過對特定人群的行為特征的訓(xùn)練學(xué)習(xí)，人工智能系統(tǒng)可生產(chǎn)出千萬個定制化的詐騙腳本。以俗稱“殺豬盤”的交友賭博類詐騙為例，詐騙分子通過智能分析公眾信息，根據(jù)騙術(shù)對人群進行篩選，精準(zhǔn)選取金融、社交等目標(biāo)人群，提高詐騙成功率。

2.2.3在“通訊聯(lián)絡(luò)誘導(dǎo)”環(huán)節(jié)，人工智能使聯(lián)絡(luò)更加隱蔽，信息傳播更快智能化的電信網(wǎng)絡(luò)詐騙技術(shù)設(shè)備不斷出現(xiàn)，智能群呼設(shè)備可遠程操控、機卡分離實現(xiàn)詐騙呼叫異地落地。智能聊天機器人可同時操控幾十個通信端口，在微信、婚戀網(wǎng)站中仿冒成美女聊天交友，批量談戀愛，進而實施詐騙;換臉、換聲產(chǎn)品可信度高、迷惑性強，2019年英國曝出騙子利用人工智能語音模仿軟件冒充某能源公司高層，騙取子公司CEO22萬歐元。

2.2.4在“資金支付轉(zhuǎn)移”環(huán)節(jié)，人工智能帶來盜刷盜用等風(fēng)險智能語音支付、智能理財機器人、人臉支付、無感支付、刷臉取款等在實現(xiàn)金融服務(wù)的智能化同時也帶來冒刷等風(fēng)險。例如，不法分子通過獲取的用戶面部特征、虹膜、聲紋、指紋等生物特征信息，冒充用戶身份盜刷、盜用他人賬戶資金。

3人工智能背景下的國內(nèi)外詐騙治理主要舉措

包含中國在內(nèi)的世界主要國家和地區(qū)從深化個人信息保護、提升技術(shù)防范能力、強化企業(yè)履責(zé)自律、加強警示宣傳教育等方面著手，遏制人工智能詐騙活動的泛濫蔓延［5，6］。

3．1注重立法先行，強化法律制度保障

3.1.1制定專門法律法規(guī)或政策文件加強個人信息保護是人工智能詐騙源頭治理的關(guān)鍵，全球已有上百個國家制定了個人信息保護法律。歐盟《通用數(shù)據(jù)保護條例》明確未取得數(shù)據(jù)主體同意，不得使用用戶畫像。美國國會提出《深度偽造責(zé)任法案》和《2019年深度偽造報告法案》等法律草案防范深度偽造技術(shù)濫用風(fēng)險。我國高度重視個人信息保護、電話實名制在詐騙治理中的作用，《網(wǎng)絡(luò)安全法》等法律法規(guī)以及工業(yè)和信息化部、公安部、人民銀行等部門在政策文件明確了個人信息保護和實名登記等相關(guān)要求。

3.1.2加大違法行為懲處力度歐盟、美國、澳大利亞、英國等國家和地區(qū)均在立法中規(guī)定了“數(shù)據(jù)泄露通知”，明確民事處罰等級和金額。美國聯(lián)邦議員提出《2018年惡意偽造禁令法案》，規(guī)定制作深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的平臺，可處以罰款和/或長達兩年的監(jiān)禁。我國工業(yè)和信息化部部、公安部等政府部門堅持綜合施策，工業(yè)和信息化部對重點地區(qū)和問題企業(yè)通報查處，針對移動軟件數(shù)據(jù)安全問題進行問詢約談，公安機關(guān)重拳打擊電信網(wǎng)絡(luò)詐騙犯罪。

3．2強化技術(shù)手段，提升識別攔截能力

3.2.1政府主動出擊，研制開發(fā)詐騙音視頻攔截工具美國國防部研發(fā)出全球首款“反換臉”人工智能刑偵工具，能夠高效、準(zhǔn)確地自動檢測出被修改過的圖片和利用深度偽造技術(shù)生成的視頻。工業(yè)和信息化部、公安部等積極構(gòu)建詐騙治理技術(shù)體系，聯(lián)合企業(yè)推進基于人工智能技術(shù)的詐騙電話、短信識別攔截以及涉詐網(wǎng)站識別攔截等技術(shù)的實際應(yīng)用落地。

3.2.2各方積極響應(yīng)，開發(fā)音視頻造假檢測技術(shù)聯(lián)合國區(qū)域間犯罪與司法研究所、美國賽門鐵克等公司研究檢測虛假音視頻技術(shù)。臉書與微軟及麻省理工等大學(xué)合作，發(fā)起了“假視頻檢測挑戰(zhàn)”活動，旨在利用人工智能技術(shù)更好地甄別深度偽造和合成內(nèi)容，開發(fā)對抗深度偽造技術(shù)濫用的方法和工具。我國互聯(lián)網(wǎng)企業(yè)和研究機構(gòu)等也積極開展對換臉換聲、合成語音詐騙等技術(shù)的研究和檢測。

3．3強化企業(yè)履責(zé)，加大對關(guān)鍵環(huán)節(jié)管控

3.3.1聚力詐騙資金轉(zhuǎn)賬管理2019年，英國政府聯(lián)合銀行業(yè)界等《授權(quán)推送付款(APP)詐騙自律守則》，規(guī)定金融機構(gòu)未能達到要求導(dǎo)致客戶遭受APP詐騙，則需對客戶損失賠償，巴克萊銀行、匯豐銀行等8家機構(gòu)加入。我國銀監(jiān)會多次下發(fā)銀行業(yè)打擊治理電信網(wǎng)絡(luò)新型違法犯罪文件，要求各銀行強化銀行卡業(yè)務(wù)規(guī)范管理，堅決遏制違規(guī)代開卡、亂開卡、批量開卡等行為;建立對于涉案賬戶緊急止付和快速凍結(jié)等能力，最大限度挽回社會公眾的財產(chǎn)損失。

3.3.2攜手自動呼叫檢測攔截2019年，美國AT＆T和Comcast聯(lián)合開展安全驗證，實現(xiàn)機器人電話的自動檢測與警示。我國基礎(chǔ)企業(yè)、安全廠商等在精準(zhǔn)服務(wù)上著力，通過匯總分析詐騙樣本模板、關(guān)鍵特征等信息，不斷加大對涉及人工智能的電信網(wǎng)絡(luò)詐騙信息的識別、預(yù)警和攔截。互聯(lián)網(wǎng)企業(yè)積極應(yīng)用語音識別、語言理解等人工智能技術(shù)打擊詐騙。

3．4加強警示教育，提升民眾防范意識

2018年，以色列國家網(wǎng)絡(luò)管理局提醒公眾詐騙分子可能利用人工智能技術(shù)模仿管理層，命令員工進行資金轉(zhuǎn)移等。澳大利亞稅務(wù)局提醒公眾有不法分子冒充政府機構(gòu)并要求被害人使用比特幣或其他加密貨幣支付子虛烏有的稅費。我國工業(yè)和信息化部、公安部、人民銀行等部門緊跟詐騙新形勢新特點，聚焦人工智能詐騙重點地區(qū)、易受害人群，在電信營業(yè)廳、銀行等重要場所組織連續(xù)播放詐騙提醒宣傳材料，在銀行轉(zhuǎn)款、辦理電信業(yè)務(wù)等關(guān)鍵環(huán)節(jié)強化身份驗證和詐騙提醒，有效提升了防范意識。

4應(yīng)對思路

當(dāng)前我國在電信網(wǎng)絡(luò)詐騙治理工作上取得了明顯成效，但是面對人工智能時代電信網(wǎng)絡(luò)詐騙的高隱蔽性、高危害性等特點，當(dāng)前治理工作仍然存在著一定的問題與短板:法律法規(guī)尚需完善、管理范圍仍需延伸、技術(shù)反制能力亟待提高、社會宣傳引導(dǎo)仍需加強、協(xié)同精準(zhǔn)治理力度有待強化等。需堅持發(fā)展與治理并重的思路，發(fā)揮法律、監(jiān)管、技術(shù)、宣傳、協(xié)同多方面綜合治理能力，有效應(yīng)對人工智能時代下的電信網(wǎng)絡(luò)詐騙的治理問題，切實維護人民群眾財產(chǎn)安全和利益。

4．1明晰治理思路，堅持發(fā)展與安全并舉

4.1.1堅持促進發(fā)展和依法管理相統(tǒng)一既要大力培養(yǎng)人工智能等新技術(shù)在治理電信網(wǎng)絡(luò)詐騙方面的應(yīng)用，又要積極利用法律、監(jiān)管等方式引導(dǎo)人工智能技術(shù)應(yīng)用規(guī)范發(fā)展，降低技術(shù)濫用風(fēng)險，在發(fā)展中探索解決部分問題。

4.1.2堅持安全可控和開放創(chuàng)新并重深化人工智能背景下電信網(wǎng)絡(luò)詐騙治理研究，及時掌握相關(guān)風(fēng)險，提升技術(shù)防范能力，搭建詐騙協(xié)同治理創(chuàng)新平臺，推進社會共治。

4．2完善法律法規(guī)，加強制度保障

在立法層面，著力推進人工智能及數(shù)據(jù)安全專項立法，對數(shù)據(jù)非法采集、個人敏感信息交易、深度偽造等行為進行規(guī)制，明確不同主體責(zé)任，為電信網(wǎng)絡(luò)詐騙治理提供基本法律依據(jù)。在執(zhí)法層面，加強調(diào)查取證、快速聯(lián)動和執(zhí)法懲戒，特別是對實施網(wǎng)絡(luò)詐騙的個人和平臺以及數(shù)據(jù)過度采集、技術(shù)資源濫用、偽造仿冒他人等行為加大執(zhí)法懲戒力度。

4．3壓實主體責(zé)任，強化風(fēng)險防控

在落實責(zé)任方面，通過監(jiān)督檢查、技術(shù)監(jiān)測、社會監(jiān)督、企業(yè)信用管理等多種方式引導(dǎo)相關(guān)單位切實落實詐騙治理主體責(zé)任，對責(zé)任落實不到位的加大整治處罰力度。在風(fēng)險防控方面，針對人工智能相關(guān)技術(shù)業(yè)務(wù)定期開展涉詐風(fēng)險安全評估，建立完善人工智能產(chǎn)品、應(yīng)用和服務(wù)涉詐風(fēng)險的檢測方法和評估指標(biāo)體系，對涉詐高風(fēng)險技術(shù)或業(yè)務(wù)實施重點管理，防止技術(shù)濫用。

4．4開展創(chuàng)新研究，提升技術(shù)能力

在創(chuàng)新研究方面，以基金引導(dǎo)和政策鼓勵等方式，推動產(chǎn)學(xué)研積極探索利用人工智能等新技術(shù)解決電信網(wǎng)絡(luò)詐騙治理的重點難點問題，加快突破深度偽造仿冒研判、智能群呼設(shè)備識別等技術(shù)瓶頸。在技術(shù)應(yīng)用方面，匯聚資源形成反詐大數(shù)據(jù)中心，推動大數(shù)據(jù)分析、智能監(jiān)測預(yù)警等人工智能技術(shù)在現(xiàn)有反詐系統(tǒng)中的應(yīng)用，提升技術(shù)反制的自動化、精準(zhǔn)化和及時性。

4．5加強宣傳引導(dǎo)，推進社會共治

在宣傳引導(dǎo)方面，充分利用線上線下各類渠道進行詐騙風(fēng)險提示，開展詐騙防范技術(shù)大賽，推廣應(yīng)用優(yōu)秀創(chuàng)新示范案例，尤其加強對學(xué)生、老人等重點人群的針對性宣傳教育。在社會共治方面，構(gòu)建各部門深度協(xié)同的詐騙綜合治理體系，完善跨行業(yè)、跨部門、跨地區(qū)的信息共享、綜合研判和聯(lián)防聯(lián)控機制，健全國際詐騙預(yù)警、防范及聯(lián)合懲處機制。共同提升基于人工智能的電信網(wǎng)絡(luò)詐騙發(fā)現(xiàn)識別、打擊治理的能力。

5結(jié)束語

隨著電信網(wǎng)絡(luò)詐騙治理工作的不斷推進，攻防對抗逐步升級，詐騙手法不斷向智能化、精準(zhǔn)化發(fā)展，新問題、新情況不斷出現(xiàn)，治理工作艱巨性、復(fù)雜性日益突出。人工智能技術(shù)為電信網(wǎng)絡(luò)詐騙治理開辟了以“智”提“治”的新格局，為促進治理體系和治理能力現(xiàn)代化提供新動能，但也逐漸成為被詐騙分子惡意利用實施精準(zhǔn)詐騙的新利器，為詐騙治理工作帶來新挑戰(zhàn)和新風(fēng)險。應(yīng)主動把握機遇，積極應(yīng)對挑戰(zhàn)，堅持促進發(fā)展和依法治理相統(tǒng)一，綜合施策，智慧賦能，開創(chuàng)面向人工智能時代的電信網(wǎng)絡(luò)詐騙治理工作新局面。

參考文獻

［1］中國信息通信研究院.電信網(wǎng)絡(luò)詐騙治理與人工智能應(yīng)用白皮書［R］，2019.

［2］李佳，張娜.電信網(wǎng)絡(luò)詐騙治理研究［J］.中國信息安全，2019(9):74-77.

［3］中國信息通信研究院.防范治理電信網(wǎng)絡(luò)詐騙創(chuàng)新實踐實發(fā)項目應(yīng)用匯編［R］，2019.

［4］婁永濤，唐祥.大數(shù)據(jù)時代電信網(wǎng)絡(luò)詐騙犯罪的防控反思［J］.重慶理工大學(xué)學(xué)報(社會科學(xué))，2020，34(3):121-128.

［5］蔣巍.人工智能時代的電信詐騙防治探析［J］.理論觀察，2019(11):124-126.

［6］中國信息通信研究院.信息通信行業(yè)防范打擊通訊信息詐騙白皮書［R］，2018.

［7］魏亮，崔現(xiàn)東.信息通信行業(yè)電信網(wǎng)絡(luò)詐騙防范治理體系分析［J］.中國信息安全，2019(9):62-65.

作者：魏薇 尚鐵力 周帥 單位：中國信息通信研究院安全研究所