AI詐騙的成本正變得越來越低，由此帶來的新詐騙方式不但沒有得到很好的治理，反而越發(fā)頻繁猖狂。

文/余洋洋 編輯/張麗娟

很多人收到一條語音信息就被騙了。

劉倩突然收到一條來自多年不聯(lián)系好友的微信消息，“最近在忙什么?”“要不要見一面?”

從打招呼、互相寒暄到吐槽近況，整個(gè)聊天過程自然而然。她感嘆幾年過去了，好友仍是語氣可愛的“軟萌妹子”，甚至記得她們?cè)诒本┞《哪骋惶焱砩显诮诸^分食一份煎餅。

聊天就這樣切換到語音，好友開始找她借錢，數(shù)額不大， 2000塊。她毫不猶豫地轉(zhuǎn)過去了。緊接著好友第二次、第三次向她借錢，她開始察覺事情有些不對(duì)。

事情確實(shí)不對(duì)，劉倩沒想到，那個(gè)聲音、語氣一如既往地熟悉，甚至能清晰記得他們多年前共同經(jīng)歷的“好友”是個(gè)詐騙犯。

騙子在獲取了劉倩好友的聲音素材之后，用AI合成的“好友”聲音與之對(duì)話；

大多數(shù)受騙者都與劉倩有著類似的經(jīng)歷。不過是司空見慣的網(wǎng)絡(luò)詐騙手法，一旦被AI變聲、換臉?biāo)鶢I造出來的逼真假象所懵逼，受騙的幾率極大地提高了。

騙子用AI將自己合成假王源，在直播平臺(tái)上大肆行騙;公司員工被“上司”的一通電話騙走了22萬歐元;學(xué)校工作人員則在收到一封看起來內(nèi)容真誠可信的郵件之后，被“合作伙伴”騙走巨額項(xiàng)目合作款。

多名經(jīng)手過AI詐騙案例的民警和律師告訴CV智識(shí)，隨著技術(shù)的進(jìn)步，網(wǎng)絡(luò)詐騙的手段往往也花樣不斷、新招頻出，一次又一次的突破人們的認(rèn)知和想象。

“前些年行騙者利用惡意郵件、短信或者電話行騙的手段已經(jīng)逐漸能夠被社會(huì)大眾識(shí)別和破解，但近年來興起的基于AI技術(shù)的詐騙手段大家還沒有形成普遍的警覺。”

AI詐騙，多快好騙

你的聲音正在你看不見的地方被AI加工，成為騙子用來誘騙你周圍人在網(wǎng)上向“你”轉(zhuǎn)賬的得力工具。

2019年，AI詐騙事件進(jìn)入人們視野的比例逐漸上升。從普通人到明星偶像，甚至是辦事章程復(fù)雜、流程規(guī)范的商業(yè)公司、學(xué)校機(jī)構(gòu)，無一不曾陷入騙子用人工智能布下的完美陷阱。

“朋友發(fā)過來一條語音，讓我微信轉(zhuǎn)賬給他2000塊錢，我一聽是他的聲音，就毫不猶豫轉(zhuǎn)給他了。”更多的語音信息發(fā)過來，劉倩從來沒有懷疑過，她本能地相信，這個(gè)正和她在微信上聊著天的人就是她的朋友。

然而讓劉倩沒想到的是，這條與朋友聲音一模一樣的語音，并不出自朋友之口，直到更多的人詢問劉倩轉(zhuǎn)賬的事情，她才意識(shí)到，自己上了騙子的當(dāng)。

但她還是有些想不明白，這樣和朋友一模一樣的聲音，騙子是怎么做到的?“跟朋友的聲音、語調(diào)、語氣一模一樣，真的一模一樣，朋友聽完都脊背發(fā)涼。”

更讓劉倩覺得不可思議的是，“騙子連我們幾年前微信聊天用到的詞都能知道，也是神奇了。”一模一樣的聲音，加上熟悉的聊天方式，讓劉倩更加確信了向她借錢的就是朋友本人。

“騙局其實(shí)很拙劣，但加上AI的手法，真是防不勝防。”劉倩向CV智識(shí)回想起這次被騙的經(jīng)歷，現(xiàn)在再也不敢說被騙的人沒文化了，原來不是被騙的沒文化，真的是騙子太高強(qiáng)。

語音詐騙揭開了AI詐騙的冰山一角。當(dāng)人們還在感嘆區(qū)區(qū)毛騙，何足掛齒的時(shí)候，有騙子已經(jīng)把AI這門新技術(shù)運(yùn)用得爐火純青——算法篩選被騙群體、分析你的個(gè)人特點(diǎn)和喜好，機(jī)器人定時(shí)撥打騷擾電話，再加上換臉、變聲等一系列操作，讓人想不相信騙子是你都難。

CV智識(shí)了解到，過去幾個(gè)月內(nèi)，類似操作手法的AI詐騙事件開始增多，有網(wǎng)友被“同事”騙走兩萬多，“騙子聲音特別逼真，以公司副總名義騙得，轉(zhuǎn)賬后跑去領(lǐng)導(dǎo)辦公室核實(shí)，結(jié)果得知被騙了。”有學(xué)生家長被騙，“兒子在讀大學(xué)，我們(父母)街道要轉(zhuǎn)賬的電話，電話里說要轉(zhuǎn)錢留個(gè)保研位，就一口氣轉(zhuǎn)了好幾萬。”

多位民警也向CV智識(shí)表示，之前從未遇到過AI詐騙案例，但今年以來這樣的案例正在增加。“遇到過語音詐騙，但還沒有遇到過換臉換頭的情況，這種運(yùn)用技術(shù)手段進(jìn)行的詐騙，雖然目前來說還不普遍，但陸續(xù)出現(xiàn)一些了。”

在民警們看來，雖然目前AI詐騙案例較少，但因?yàn)槠鋸?qiáng)偽裝、高成功率，仍然十分值得警惕。

不止普通人，明星偶像乃至商業(yè)公司也曾屢屢陷入AI詐騙風(fēng)波。有騙子用AI換臉成王源，然后直播騙錢，引得粉絲紛紛來刷禮物，而在騙術(shù)被粉絲識(shí)破后，該騙子竟變本加厲、揚(yáng)言要報(bào)復(fù)：做一個(gè)“王源”在KTV抽煙喝酒的視頻，然后賣給自媒體以制造負(fù)面新聞。

據(jù)報(bào)道，今年3月，一名詐騙犯利用AI語音模仿軟件冒充公司大老板，成功地模仿了那位董事長夾雜德國口音的英語，讓一家英國能源公司的總經(jīng)理相信自己正在與德國母公司的老板通電話，并騙走了22萬歐元。

美國南俄勒岡大學(xué)曾被誘騙向進(jìn)行了190萬美元的轉(zhuǎn)賬，他們認(rèn)為自己的轉(zhuǎn)賬對(duì)象是負(fù)責(zé)建設(shè)學(xué)生娛樂中心的安德森建筑公司，實(shí)際上卻轉(zhuǎn)到了騙子的銀行賬戶。

釣魚郵件早已經(jīng)不是什么新鮮的攻擊手段了，但如果與人工智能相結(jié)合，使攻擊者能夠訪問公司網(wǎng)絡(luò)并說服員工授權(quán)轉(zhuǎn)賬，那帶來的后果就會(huì)非?？膳?。

換臉、變聲，AI“過濾”——算法篩選受騙對(duì)象，搜集并且分析受騙者信息，則讓受騙者放下了最后一道心理防線。正如劉倩所說，騙子和朋友近乎一樣的說話方式令她感到詫異。

愈發(fā)頻繁的AI詐騙事件引發(fā)了人們對(duì)人工智能被用于犯罪的擔(dān)憂。

AI詐騙為何能“瞞天過海”？

語音聊天、視頻通話，一些看似老套低級(jí)的騙術(shù)，為什么一旦用上了AI的技術(shù)，就可以如此輕易地騙過人類?

現(xiàn)在的AI變臉、變聲技術(shù)已經(jīng)完全可以做到通過算法來生成人的全套語音，甚至連不同語氣都可以做到惟妙惟肖，以假亂真。

因?yàn)闄C(jī)器人語音系統(tǒng)還可能存在卡頓、音色機(jī)械化、語氣表現(xiàn)力不足、多輪對(duì)話“鬼打墻”等問題，但通過AI變聲技術(shù)， 不僅說話的聲音達(dá)到了真人水準(zhǔn)，甚至還能模仿真人的情感和語調(diào)，自動(dòng)說出全新的語句。

“用方言說話總能驗(yàn)證出來對(duì)方是不是騙子吧?”沒有受過騙的網(wǎng)友發(fā)出僥幸的質(zhì)疑。

科大訊飛已經(jīng)推出了四川、廣東等地口音的語音識(shí)別，同理，帶有特殊口音或者純方言的語音合成也是可以做到的。

AI偽裝成“老板”電話，講出帶有德國腔的英文，要求必須在一個(gè)小時(shí)之內(nèi)給“匈牙利供應(yīng)商”轉(zhuǎn)賬，成功騙走22萬歐元，就是一個(gè)典型的案例。

而除了能夠利用神經(jīng)網(wǎng)絡(luò)對(duì)原始音頻進(jìn)行建模和模仿之外，AI還能夠分析本人的社交網(wǎng)絡(luò)，很快掌握個(gè)性化的說話方式、與周圍人的關(guān)系、興趣愛好等等，從而模仿你與身邊的人自然地交流。

一模一樣的聲音，再加上一模一樣的聊天方式，讓人想不相信與你聊天的就是你熟悉的朋友都難，騙子就是這樣成功騙取了劉倩等人的信任。

要生成這樣的語言，僅僅需要被生成者的幾段話。

騙子完全可以通過騷擾電話提取到大家的聲音，然后通過機(jī)器學(xué)習(xí)或者深度學(xué)習(xí)軟件進(jìn)行合成，從而在語音層面欺騙我們。

那直接視頻通話進(jìn)行驗(yàn)證身份，還能被騙嗎?

當(dāng)然不是。

GitHub上曾經(jīng)有一個(gè)開源的項(xiàng)目代碼倉庫——Deepfake，以及前段時(shí)間異常火爆的換臉App“ZAO”，這兩個(gè)項(xiàng)目都能做到“移花接木”，將一個(gè)人的臉換到另一個(gè)人的身體上。

并且ZAO的出現(xiàn)讓那些在編程方面沒什么基礎(chǔ)的人，只要搜索到了足夠多的素材，就能完全“換臉”，人人都能夠上手。

當(dāng)變臉、變聲這兩者被組合起來，我們的聲音和臉都可以被合成，于是就出現(xiàn)了直播平臺(tái)上有人冒充王源繪聲繪色地直播，卻依然能騙過廣大粉絲的一幕。

總得來說，目前常見的運(yùn)用AI技術(shù)進(jìn)行詐騙的方式一共有三種：

第一種，聲音合成，也是目前發(fā)生頻率最高的AI詐騙方式。騙子通過騷擾電話等方式，錄音提取某人的聲音，并對(duì)素材進(jìn)行合成，用偽造的聲音實(shí)施詐騙。

第二種：AI換臉，視頻通話的可信度明顯高于語音和電話，利用AI換臉，騙子可以偽裝成任何人。

第三種：通過AI技術(shù)篩選受騙人群，獲取受騙者的聊天習(xí)慣、生活特性等。通過分析公眾發(fā)布在網(wǎng)上的各類信息，騙子會(huì)根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行篩選，從而選出目標(biāo)人群。例如實(shí)施情感詐騙時(shí)，可以篩選出經(jīng)常發(fā)布感情信息的人群;實(shí)施金融詐騙時(shí)，可以篩選出經(jīng)常搜集投資信息的人群。

大多數(shù)情況下，人們遇到的AI詐騙無非是這三種形式的排列組合，相對(duì)于傳統(tǒng)的網(wǎng)絡(luò)詐騙、電信詐騙，AI詐騙的形勢(shì)不存在什么新奇之處。

但就是電話、微信、視頻這些老套低級(jí)的網(wǎng)絡(luò)詐騙方式，一旦穿上了AI的外衣，一來用算法精準(zhǔn)篩選特定受騙目標(biāo)，分析人們的上網(wǎng)習(xí)慣，抓住人們的心理弱點(diǎn);二來通過變聲、變臉等手段達(dá)到以假亂真的效果，突破人們的信任防線，人們就很容易陷入騙子制造的“迷幻陷阱”。

當(dāng)AI被用來詐騙，誰的責(zé)任？

距離第一批AI詐騙已經(jīng)過去一段時(shí)間了，可隨著越來越多簡單易用的開源變臉變聲軟件出現(xiàn)，AI詐騙的成本正變得越來越低，由此帶來的新詐騙方式不但沒有得到很好的治理，反而愈發(fā)頻繁猖狂。

谷歌的WaveNet、Lyrebird語音合成軟件，Adobe的 Project VoCo，以及百度的Deep Voice，科大訊飛、騰訊等等都提供語音合成的開源應(yīng)用。

一位法院干警告訴CV智識(shí)，目前國內(nèi)沒有利用人工智能手段進(jìn)行詐騙的已結(jié)案件，常見的是利用AI語言模仿軟件冒充上級(jí)要求緊急轉(zhuǎn)款，但在未來，隨著AI詐騙的技術(shù)門檻不斷降低，這種詐騙方式仍然十分值得警惕。

普通人應(yīng)該如何應(yīng)對(duì)AI詐騙呢？多名警察告訴CV智識(shí)，普通人可以通過多重驗(yàn)證，延遲轉(zhuǎn)賬，銀行匯款，保護(hù)個(gè)人信息等方法保護(hù)個(gè)人權(quán)益，防止受騙。

“通過語音、電話、視頻等多方式驗(yàn)證對(duì)方身份，詢問一些雙方才知道的信息;將到賬時(shí)間設(shè)定為2小時(shí)到賬或24小時(shí)到賬，以預(yù)留處理時(shí)間。此外，可以選擇向?qū)Ψ姐y行匯款，避免通過微信等社交工具轉(zhuǎn)賬。這樣做，一方面便于核實(shí)對(duì)方信息，確認(rèn)錢款去向;另一方面，對(duì)方能通過短信通知得知轉(zhuǎn)賬信息。”

同時(shí)，應(yīng)謹(jǐn)慎使用各類AI“換臉”、AI“變聲”軟件，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，盡量少注冊(cè)、不注冊(cè)需要或者需求不高的網(wǎng)絡(luò)賬號(hào)，盡量少填寫、不填寫不必要的個(gè)人信息，以防個(gè)人信息泄露，盡量不給騙子可乘之機(jī)。

北京成竺律師事務(wù)所高級(jí)合伙人、律師王佳月告訴CV智識(shí)，無論多么高科技的詐騙，最根本的還是迎合民眾“愛占便宜”、喜歡“不勞而獲”、“愛面子”、“慌不擇路”等心理和弱點(diǎn)，給犯罪分子預(yù)留了可作為的空間。

“首先還是從根源上杜絕貪婪的心理，并且時(shí)刻保持警醒、提高警惕、提高個(gè)人防范意識(shí)，知道自己才是個(gè)人資產(chǎn)安全的第一責(zé)任人。”

但面對(duì)威力如此高強(qiáng)的AI詐騙，僅僅是加強(qiáng)個(gè)人安全警示教育顯然不夠。科技公司開始為這些被他們所“創(chuàng)造”出來的技術(shù)承擔(dān)責(zé)任，許多新的技術(shù)方法被應(yīng)用在防范AI詐騙上。

比如安全公司賽門鐵克，最近就提出了采用區(qū)塊鏈技術(shù)和IP語音(VoIP)呼叫的方法，就是來辨別來電者的真實(shí)性，從而減少哪些模擬來自上級(jí)的詐騙電話。

再比如，卡迪夫大學(xué)和查爾斯三世大學(xué)的科學(xué)家通過NLP技術(shù)來判斷書面謊言，通過一個(gè)名為VeriPol的工具來識(shí)別語句中的各種特征，判斷出報(bào)告是否真實(shí)。對(duì)于一些偽裝真人發(fā)出的詐騙郵件或書面文件，更強(qiáng)大的AI模型顯然能起到很好的反制的作用。

當(dāng)然，在不明確技術(shù)泛濫后果的前提下，合理地釋放技術(shù)成果也成為一些科技企業(yè)的選擇。比如OpenAI前段時(shí)間推出的性能更高的無監(jiān)督語言模型GPT-2，就沒有按照行業(yè)慣例進(jìn)行開源，只發(fā)布了簡化版，不發(fā)布數(shù)據(jù)集、訓(xùn)練代碼以及模型權(quán)重，目的就是避免AI被人惡意利用。

除了技術(shù)人員與騙子們斗智斗勇，產(chǎn)業(yè)界也開始從規(guī)則建設(shè)的層面，為濫用AI的行為設(shè)立了禁區(qū)。在美國安全中心發(fā)布的《人工智能與國家安全》報(bào)告中，明確將人工智能偽造技術(shù)列為威脅國家安全的重點(diǎn)技術(shù)。

中國也開始通過政策管理和技術(shù)限制等途徑進(jìn)行布局，來應(yīng)對(duì)人工智能的潛在安全風(fēng)險(xiǎn)。

王佳月告訴CV智識(shí)，面對(duì)人工智能對(duì)法律、社會(huì)、道德、倫理等方面帶來的新挑戰(zhàn)，從2017年開始，國家立法就開始關(guān)注個(gè)人信息保護(hù)方面的立法，例如《網(wǎng)絡(luò)安全法》從網(wǎng)絡(luò)運(yùn)營者收集、使用、保存?zhèn)€人信息上加以規(guī)范;針對(duì)“侵犯公民個(gè)人信息刑事案件” 最高人民法院、最高人民檢察院也出臺(tái)了司法解釋予以明確辦案標(biāo)準(zhǔn)。

2019年則出現(xiàn)了更多好消息，在十三屆全國人大二次會(huì)議上，人工智能方面立法項(xiàng)目，如數(shù)字安全法、個(gè)人信息保護(hù)法等，已經(jīng)被列入立法規(guī)劃，同時(shí)被列入抓緊研究項(xiàng)目?！睹穹ǖ淙烁駲?quán)編》(審議稿)中也存在著加強(qiáng)人工智能技術(shù)法律規(guī)制等條文，對(duì)肖像權(quán)、聲音保護(hù)等都將受到更加明確的規(guī)范，以應(yīng)對(duì)人工智能的潛在安全風(fēng)險(xiǎn)。

硬幣的反面

AI出世，一騎絕塵。從技術(shù)人員、商業(yè)公司、社會(huì)管理者再到普羅大眾，所有人都被人工智能的能力驚艷了，于是五花八門的換臉變聲軟件層出不窮。

隨著技術(shù)的成熟，應(yīng)用的門檻也在不斷被降低，直到人工智能被做成一個(gè)個(gè)簡單易上手的手機(jī)App，普通人也可以輕松

還有一個(gè)不容忽視的事實(shí)是，越是厲害的高科技，也越是具有殺傷力。人工智能技術(shù)使用不當(dāng)，其副作用已經(jīng)開始顯現(xiàn)。

騙子向來是普通人里最熱衷于嘗試新方法、新手段的那一群人，當(dāng)人工智能這把極具殺傷力的武器被騙子利用，普通人的生命財(cái)產(chǎn)安全也將受到更大威脅。

在經(jīng)歷了前幾年的快速發(fā)展期后，今年，人工智能開始全面回歸理性。在處理AI詐騙案件時(shí)，人們也越發(fā)意識(shí)到，僅靠警察辦案與加強(qiáng)個(gè)人安全教育已經(jīng)不能解決人工智能濫用所造成的一系列社會(huì)問題。

AI詐騙正是人工智能這枚硬幣反面的一個(gè)點(diǎn)，除了行騙，人工智能在被用來獲取用戶數(shù)據(jù)、個(gè)人信息，監(jiān)控學(xué)生等方面同樣引發(fā)了大量爭(zhēng)議。

攻擊者與防御者手中的武器都在升級(jí)迭代，而圍繞AI生成的網(wǎng)絡(luò)欺騙與安全問題有著太多意想不到的可能性，這場(chǎng)全新的斗法，正在從技術(shù)維度，走向常識(shí)、倫理、規(guī)則等更廣闊的領(lǐng)地。

關(guān)鍵詞： AI詐騙