5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)布公告稱，伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為屢見不鮮。廣大公眾需提高警惕，加強防范。事實上，近段時間AI行業(yè)發(fā)展亂象引發(fā)關(guān)注，如何保障人工智能的健康、可持續(xù)發(fā)展正被業(yè)界廣泛探討。

(資料圖片僅供參考)

《證券日報》記者連日來通過走訪調(diào)查發(fā)現(xiàn)，“AI換臉”技術(shù)復(fù)雜度逐步降低且質(zhì)量迅速提升，廣大公眾不容易辨別真假。同時，該類形式詐騙已蔓延至金融行業(yè)中，已有部分券商提示投資者謹防此類高仿真詐騙手段。

受訪專家普遍認為，“AI換臉”技術(shù)的濫用給金融機構(gòu)敲響了警鐘，其復(fù)雜性、隱蔽性、突發(fā)性對機構(gòu)的科技識別及運用提出了更高的要求。

“AI換臉”技術(shù)

成本不斷下降

如今，打開搜索平臺和社交媒體，各類“AI換臉”銷售及教程比比皆是。《證券日報》記者以購買者身份咨詢一位銷售“AI換臉”服務(wù)的公司，該公司客服稱，視頻換臉的價格根據(jù)分辨率和視頻長度來確定，按每30秒一條來計算價格。根據(jù)對方提供的清單，預(yù)充3000元可以獲得6條視頻、預(yù)充5000元可獲得20條視頻、預(yù)充3萬元可獲得3000條視頻，充值越多單價越低。

在對方展示的教學(xué)視頻中，使用者僅需要上傳一張臉部照片，即可通過簡單的步完成“一鍵換臉”。客服稱，換臉后的視頻可以綁定視頻號等正規(guī)直播間。記者觀察其提供的成片效果，已是真假難辨。

北京大成律師事務(wù)所高級合伙人、香港城市大學(xué)法律學(xué)院訪問學(xué)者肖颯認為：“‘AI換臉’成本降低，會帶來技術(shù)的濫用，各方應(yīng)致力于規(guī)范技術(shù)發(fā)展。”

“‘AI換臉’技術(shù)相關(guān)成本涉及技術(shù)復(fù)雜度、所獲取人臉質(zhì)量和數(shù)量、算法和模型選擇等。盡管‘AI換臉’技術(shù)成本有所差異，但總體而言呈下降趨勢。其中，隨著算法和模型等技術(shù)的進步，‘AI換臉’技術(shù)復(fù)雜度會進一步降低，且換臉質(zhì)量隨之提升。”中關(guān)村科金金融事業(yè)部技術(shù)專家張巍向《證券日報》記者解釋道。

索信達控股AI創(chuàng)新中心主任邵俊告訴《證券日報》記者：“目前‘AI換臉’技術(shù)已較為成熟，且成本不斷下降，容易被不法分子所使用。值得關(guān)注的是，被打包銷售的個人信息是‘AI換臉’詐騙中所需投喂的‘原料’，這種侵犯個人隱私及售賣信息的行為需嚴(yán)厲打擊。”

防范不法分子利用新技術(shù)

實施金融詐騙

記者在調(diào)查中了解到，當(dāng)前“AI換臉”詐騙正向金融行業(yè)蔓延，已有券商發(fā)布了提示性公告。

例如，太平洋證券發(fā)布公告稱，有不法分子利用“AI換臉”和聲紋等新技術(shù)冒充金融機構(gòu)從業(yè)人員實施詐騙。此類事件中，不法分子利用以假亂真的技術(shù)冒充與投資者有業(yè)務(wù)往來的金融機構(gòu)從業(yè)人員或其他可信人員身份，通過直播加群引導(dǎo)，瀏覽假冒金融機構(gòu)網(wǎng)站和下載仿冒的官方App等各類方式，獲取投資者的信任、騙取投資者的錢財。

太平洋證券表示，投資者務(wù)必提高警惕，識別“AI換臉”等高仿真詐騙手段，切勿未經(jīng)多方證實隨意相信微信朋友視頻救急、金融人員提供的穩(wěn)賺新股申購或高收益理財產(chǎn)品機會等；更不要盲目支付會員費或授權(quán)他人代理操作賬戶管理及交易事項。

那么，應(yīng)對“AI換臉”等新型詐騙手段，投資者該如何防范風(fēng)險？易觀分析金融行業(yè)高級咨詢顧問蘇筱芮對記者表示：“目前一些金融從業(yè)人員與金融客戶借助企業(yè)微信、個人微信等社交渠道，通過一對一的方式建立聯(lián)系、進行業(yè)務(wù)維護，容易被不法分子利用‘AI換臉’詐騙。建議個人與機構(gòu)員工通過微信等軟件聯(lián)系時獲取的信息，尤其是涉及投資、轉(zhuǎn)賬等資金類敏感信息，需要再通過機構(gòu)官方App、官方熱線等渠道進行交叉核實。”

“個人信息泄露是精準(zhǔn)詐騙的根源。個人應(yīng)保管好自身信息，不要隨意向陌生人透露或授權(quán)；在使用社交平臺時，要注意設(shè)置隱私權(quán)限；謹慎訪問未知網(wǎng)址，謹慎安裝不明來源App，謹慎打開可疑文件，保持手機系統(tǒng)和軟件更新。”浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林告訴記者。

記者在調(diào)查過程中也發(fā)現(xiàn)，目前在證券開戶、業(yè)務(wù)辦理、銀行貸款等方面，金融機構(gòu)科技識別及運用較為全面，有助于進一步消除風(fēng)險。

一位金融機構(gòu)相關(guān)負責(zé)人表示：“當(dāng)前金融系統(tǒng)人臉識別對于防范‘AI換臉’做得較為全面，但凡是人臉識別的場景，往往都需要視頻者全方位展示，如面部、眨眼、張嘴等，這些是判斷是否為‘AI換臉’較為有效的路徑。”

另有金融機構(gòu)相關(guān)負責(zé)人對《證券日報》記者表示：“‘AI換臉’技術(shù)并非是新生事物，此前機構(gòu)在貸前審核時，也曾遇到過客戶用‘換臉’技術(shù)騙貸。對于機構(gòu)而言，在貸前生物識別中，人臉識別僅是一部分，審核流程中還有多重識別、交叉驗證及多模態(tài)生物防偽等，均可驗證其是否為AI臉或是被‘換臉’。”

業(yè)內(nèi)人士普遍認為，“AI換臉”本身在機構(gòu)放貸及其他業(yè)務(wù)方面不太容易蒙混過關(guān)，更多的是敲響警鐘，提醒機構(gòu)進一步提高科技識別及運用能力，防范相關(guān)風(fēng)險。

關(guān)鍵詞