您的當(dāng)前位置:首頁 > 焦點(diǎn) > 10分鐘被騙430萬風(fēng)波后 AI換臉又盯上明星 正文
時(shí)間:2025-11-26 14:23:34 來源:網(wǎng)絡(luò)整理 編輯:焦點(diǎn)
【家電資訊-家電新聞 - 行業(yè)新聞,作者:編輯】 10分鐘內(nèi)被騙430萬元、9秒鐘被騙245萬元……近日,一連串?dāng)?shù)額觸目驚心 常州美女同城上門外圍上門外圍女(微信189-4469-7302)提供頂級(jí)外圍女上門,可滿足你的一切要求
10分鐘內(nèi)被騙430萬元、被騙波后9秒鐘被騙245萬元……近日,換臉常州美女同城上門外圍上門外圍女(微信189-4469-7302)提供頂級(jí)外圍女上門,可滿足你的一切要求一連串?dāng)?shù)額觸目驚心的又盯詐騙事件的發(fā)生,讓眾人膽戰(zhàn)心驚。上明在極短的分鐘時(shí)間內(nèi)能夠騙走巨款,背后藏著怎樣的被騙波后玄機(jī)?
“眼見不一定為實(shí)”,在AI時(shí)代,換臉這已成為一條法則。又盯在上述的上明詐騙案例中,受害者均是分鐘在微信視頻電話后而遭受財(cái)產(chǎn)損失的,受害者在視頻中看到了“好友”并進(jìn)行了溝通,被騙波后于是換臉非常放心地按照“好友”的要求將錢轉(zhuǎn)到指定賬戶。
視頻中所展現(xiàn)的又盯“好友”,其實(shí)是上明“李鬼”。詐騙分子通過AI換臉、AI換聲等技術(shù),移花接木,以假亂真,冒充受害人親朋好友,騙過受害者,達(dá)到詐騙目的。
隨著AI的發(fā)展,詐騙手段越來越高科技化,常州美女同城上門外圍上門外圍女(微信189-4469-7302)提供頂級(jí)外圍女上門,可滿足你的一切要求詐騙成功率也越來越高。那么,被AI加持的換臉換聲等技術(shù)真的那么“神”嗎?魔高一尺道高一丈,對(duì)于AI詐騙,公眾應(yīng)該如何避免“入坑”?
9秒鐘,百萬元飛走
4月20日,福州市某科技公司法人代表郭先生的微信好友突然通過微信視頻聯(lián)系他,稱其朋友在外地競(jìng)標(biāo),需要繳納430萬元保證金,而且需要公對(duì)公賬戶過賬,想要借郭先生公司的賬戶走賬。
“好友”要了郭先生的銀行卡號(hào),聲稱錢已經(jīng)轉(zhuǎn)到卡上。基于對(duì)好友的信任,加上已經(jīng)視頻聊天,郭先生沒有核實(shí)錢款是否到賬,就分兩筆把430萬元轉(zhuǎn)到了對(duì)方提供的銀行卡上。“從頭到尾都沒有和我提借錢的事情,就說會(huì)先把錢給我打過來,再讓我給他朋友賬戶轉(zhuǎn)過去,而且當(dāng)時(shí)是給我打了視頻的,在視頻中也確認(rèn)了面孔和聲音,所以才放松了戒備。”郭先生說,后來他撥打了好友電話,才知道自己被騙了,整個(gè)過程不到10分鐘。
這是此前“平安包頭”微信公眾號(hào)發(fā)布的消息。幸運(yùn)的是,接到郭先生報(bào)警后,福州、包頭兩地警銀迅速行動(dòng),成功止付攔截336.84萬元,但仍有93.16萬元被轉(zhuǎn)移,目前正在全力追繳中。
無獨(dú)有偶,今年4月,安徽安慶經(jīng)開區(qū)也發(fā)生了一起類似的“冒充熟人”詐騙案,受害人何先生也是接到“微信好友”的視頻電話,表示有重要事情要和何先生在QQ上說。在QQ上,“好友”希望何先生能為一個(gè)招標(biāo)項(xiàng)目墊付資金。因?yàn)橛辛舜饲暗奈⑿乓曨l通話,何先生立刻將對(duì)方需要的245萬元打到指定賬號(hào)上,直到事后撥打好友電話才得知被騙。經(jīng)開公安分局反詐中心民警調(diào)查發(fā)現(xiàn),詐騙分子用一段9秒鐘的智能AI換臉視頻佯裝“熟人”,讓受害人放松警惕從而實(shí)施詐騙。目前,警方已將先行追回的132萬元被騙款返還給何先生,案件還在進(jìn)一步偵辦中。
AI換臉詐騙在全國大規(guī)模爆發(fā)了嗎?一些反詐民警和專家向媒體表示,目前AI換臉詐騙的案例并不多,主要是受害者認(rèn)為是朋友發(fā)來的視頻,才掉進(jìn)“AI換臉”的陷阱。
視頻也未必能證明身份
將一張人臉特征映射到另一張人臉上,實(shí)現(xiàn)快速、高度逼真的換臉效果,“目前,AI換臉技術(shù)主要通過深度學(xué)習(xí)和計(jì)算機(jī)視覺技術(shù)實(shí)現(xiàn)。在微信視頻中,犯罪分子可能會(huì)通過發(fā)送特制的視頻或使用特定的換臉應(yīng)用程序,將臉移花接木,以獲取對(duì)方信任實(shí)施詐騙行為。”一位安全技術(shù)人員向《IT時(shí)報(bào)》記者解釋。
《IT時(shí)報(bào)》記者在淘寶等平臺(tái)上搜索AI換臉教程,一些店鋪在產(chǎn)品介紹中寫著“AI換臉視頻+直播教程,換成別人的模樣還能實(shí)時(shí)直播”,價(jià)格一般在二三十元左右。一家店鋪的客服人員表示,通過軟件就可以完成換臉的操作,“換臉之后,可以在直播、微信視頻通話時(shí)使用,不會(huì)被看出破綻,不會(huì)掉線。”

售賣AI換臉教程的店鋪通常對(duì)商品的介紹比較簡(jiǎn)單,如果購買者想要了解詳細(xì)內(nèi)容或者查看樣本,客服人員通常會(huì)要求用戶先下單。
和普通詐騙相比,AI詐騙迷惑性更強(qiáng),辨識(shí)更困難。在不少業(yè)內(nèi)人士看來,隨著換臉技術(shù)發(fā)展,所呈現(xiàn)出的效果會(huì)越來越逼真,所以大家需要警醒,要有“視頻也不能證明身份”的意識(shí)。
“關(guān)鍵還是防范意識(shí),遇到涉及資金轉(zhuǎn)移的事情,可以換個(gè)渠道多一次驗(yàn)證。比如收到微信視頻通話之后,回?fù)軐?duì)方電話號(hào)碼通話驗(yàn)證。”極棒實(shí)驗(yàn)室安全專家宋宇昊這樣建議。
在眾人科技董事長談劍峰看來,換臉視頻并不是技術(shù)成熟度的問題,主要是大眾對(duì)于網(wǎng)絡(luò)詐騙認(rèn)知度的問題,“現(xiàn)在的AI并沒有到非常完美的地步,如何判斷視頻的真假,可以讓對(duì)方用手在臉部慢慢劃過,如果是通過AI換臉合成的視頻,臉就會(huì)變形。此外,和家人朋友之間設(shè)置‘暗號(hào)’,尤其是涉及到錢財(cái)方面的事情,這兩個(gè)方法簡(jiǎn)單易用。”
業(yè)內(nèi)人士還建議,盡量不要在社交媒體上發(fā)布個(gè)人及家人相關(guān)照片、語音、視頻等,以防被詐騙分子利用。
直播間里頻現(xiàn)“楊冪”“佟麗婭”
“楊冪”現(xiàn)身多個(gè)直播間帶貨,“佟麗婭”“迪麗熱巴”高喊“321,上鏈接”。除了在微信視頻電話中可能看到“假好友”,在不少電商直播間,也會(huì)遇見“李鬼”。最近,就有一些電商直播間被曝出使用明星AI換臉進(jìn)行直播。
天使投資人郭濤向《IT時(shí)報(bào)》記者表示,商家未經(jīng)明星授權(quán),擅自使用明星形象進(jìn)行直播,侵犯消費(fèi)者的知情權(quán)、選擇權(quán)、公平交易權(quán),甚至是安全保障權(quán),情節(jié)嚴(yán)重的涉嫌欺詐。
根據(jù)今年1月起實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,使用AI換臉技術(shù)或合成人聲服務(wù)時(shí),應(yīng)有顯著標(biāo)識(shí),以免公眾混淆。此外,未經(jīng)明星同意使用其肖像直播帶貨,侵犯了明星的肖像權(quán)和隱私權(quán)。
據(jù)《IT時(shí)報(bào)》記者了解,近年來,國內(nèi)外已發(fā)布專項(xiàng)研究計(jì)劃及開展相關(guān)學(xué)術(shù)競(jìng)賽,對(duì)AI換臉、AI換聲等深度偽造內(nèi)容進(jìn)行鑒別,尤其是自動(dòng)化鑒別技術(shù)。在國外,Meta、谷歌、微軟等企業(yè)均推出視頻認(rèn)證的方法或產(chǎn)品。在國內(nèi),清華大學(xué)、中科大等高校在深偽檢測(cè)方面取得顯著成果。
人工智能基礎(chǔ)設(shè)施和解決方案提供商瑞萊智慧構(gòu)建了人臉合成檢測(cè)平臺(tái),并發(fā)布針對(duì)性的檢測(cè)產(chǎn)品——深度偽造內(nèi)容檢測(cè)平臺(tái)DeepReal,支持對(duì)多種換臉和換聲方法進(jìn)行檢測(cè),具備工業(yè)級(jí)的檢測(cè)性能和應(yīng)對(duì)實(shí)網(wǎng)環(huán)境對(duì)抗變化的檢測(cè)能力。
“伴隨新型偽造方法的層出不窮、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜,加上基于深度神經(jīng)網(wǎng)絡(luò)的檢測(cè)算法存在結(jié)構(gòu)性缺陷等,反深偽檢測(cè)技術(shù)也面臨‘強(qiáng)對(duì)抗性’,需要持續(xù)更新與迭代優(yōu)化。”瑞萊智慧相關(guān)人士對(duì)《IT時(shí)報(bào)》記者表示,對(duì)視頻聊天工具類平臺(tái)來說,引入深度偽造鑒別技術(shù)是一個(gè)好方法,一旦識(shí)別出疑似AI偽造的語音或視頻電話,能彈出風(fēng)險(xiǎn)提示,提醒用戶仔細(xì)確認(rèn)對(duì)方身份。
推動(dòng)AI治理體系建設(shè)
AI換臉技術(shù)可以被應(yīng)用到各個(gè)領(lǐng)域,但如果濫用該技術(shù),無論是對(duì)公眾還是社會(huì),都會(huì)產(chǎn)生巨大的影響,AI技術(shù)安全問題因此受到了廣泛重視,有關(guān)推動(dòng)建立安全可控的AI治理體系也被不斷提及。
德勤今年發(fā)布的《2023技術(shù)趨勢(shì)》報(bào)告顯示,有七成左右的受訪企業(yè)主管表示將看好AI技術(shù)業(yè)務(wù)變革;47%的業(yè)務(wù)主管更關(guān)心AI透明度問題;而41%的技術(shù)專家擔(dān)憂AI會(huì)引發(fā)道德風(fēng)險(xiǎn)。
4月11日,國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》公開征求意見,其中包含要求“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確”“采取措施防止生成虛假信息”等內(nèi)容。現(xiàn)在,以ChatGPT為代表的生成式人工智能(AIGC)距離真正落地和產(chǎn)業(yè)應(yīng)用還有一段距離,必須規(guī)范發(fā)展方向。
“AI技術(shù)企業(yè)應(yīng)該尋找創(chuàng)新探索以及合法合情合理之間的平衡點(diǎn),比如一些科技公司的業(yè)務(wù),可能并不違法,但是不合情不合理,甚至違反了公序良俗,長期來看還是會(huì)有非議。”“一篇網(wǎng)絡(luò)”主編趙宏民向《IT時(shí)報(bào)》記者表示,在法律不夠完善的情況下,生成式AI企業(yè),無論是為了保護(hù)自己還是
分享免責(zé)聲明:家電資訊網(wǎng)站對(duì)《10分鐘被騙430萬風(fēng)波后 AI換臉又盯上明星》一文中所陳述、觀點(diǎn)判斷保持中立,不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考,并請(qǐng)自行承擔(dān)全部責(zé)任。
本網(wǎng)站有部分內(nèi)容均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),本網(wǎng)站無法鑒別所上傳圖片或文字的知識(shí)版權(quán),本站所轉(zhuǎn)載圖片、文字不涉及任何商業(yè)性質(zhì),如果侵犯,請(qǐng)及時(shí)通知我們,本網(wǎng)站將在第一時(shí)間及時(shí)刪除,不承擔(dān)任何侵權(quán)責(zé)任。聯(lián)系QQ:411954607
本網(wǎng)認(rèn)為,一切網(wǎng)民在進(jìn)入家電資訊網(wǎng)站主頁及各層頁面時(shí)已經(jīng)仔細(xì)看過本條款并完全同意。敬請(qǐng)諒解。
武俠ARPG新作《猿公劍:白猿覺醒》實(shí)機(jī)演示公布2025-11-26 13:50
《QWOP》做者魔性新做裸男登山:便是為了開磨某些玩家2025-11-26 13:16
TGS 2017:《真三國無單8》新武將便拆圖 王元姬好身材擋沒有住2025-11-26 13:14
《VALORANT》新忠細(xì)“錢專我”真機(jī)演示 重狙射中即逝世2025-11-26 13:09
射擊角色扮演足游保舉 射擊齊明星2025-11-26 12:50
TGS 2017:田畑端挨算推出《終究胡念15》第兩批DLC 繼絕補(bǔ)完劇情2025-11-26 12:46
《幽靈止動(dòng):斷面》將于本周開啟免費(fèi)體驗(yàn)活動(dòng)2025-11-26 12:32
《新彈丸論破V3》免安拆中文正式版下載公布2025-11-26 12:17
日式恐怖冒險(xiǎn)《結(jié)尾》將于8月1日正式登陸Steam平臺(tái)2025-11-26 12:01
《AC:英魂殿》增減新獎(jiǎng)杯 疑似與更新內(nèi)容有閉2025-11-26 11:46
小臟豬與白天鵝的故事2025-11-26 14:12
沖級(jí)有禮《豪杰去掛機(jī)》齊國遁獄渠講尾收2025-11-26 14:09
宅男禍利 《捉妖記》捉妖四好設(shè)定圖暴光2025-11-26 14:04
擼起袖子一起制 《創(chuàng)做收明與邪術(shù)》7月初震驚開測(cè)2025-11-26 12:54
《彩虹六號(hào):圍攻》嚴(yán)打侮辱語言 三次以上或永封2025-11-26 12:48
再鑄軒轅傳奇典范 《軒轅傳奇足游》7月18日開啟測(cè)試2025-11-26 12:39
《朕的江山》第四批醉覺暴光2025-11-26 12:29
《巫師3:狂獵》超等光效MOD新演示 熱傲繪里好到極致2025-11-26 12:29
《鬼泣5》確認(rèn)戰(zhàn)斗BGM動(dòng)態(tài)變化 連擊越高越激情2025-11-26 12:20
《彈彈堂足游》S1賽季即將結(jié)束 光枯意味帶回家2025-11-26 11:46
免責(zé)聲明:本站所有信息均來源于互聯(lián)網(wǎng)搜集,并不代表本站觀點(diǎn),本站不對(duì)其真實(shí)合法性負(fù)責(zé)。如有信息侵犯了您的權(quán)益,請(qǐng)告知,本站將立刻刪除。
Copyright © 2025 Powered by 10分鐘被騙430萬風(fēng)波后 AI換臉又盯上明星,桑間濮上網(wǎng) sitemap