“AI換臉”詐騙來(lái)了!小心“好友”不友好

和你視頻對(duì)話的，可能不是本人!有人10分鐘被騙430萬(wàn) 提醒：涉資金轉(zhuǎn)賬先多種方式確認(rèn)

(相關(guān)資料圖)

新華社 圖

10分鐘被騙430萬(wàn)!5月22日，一起利用人工智能(AI)實(shí)施電信詐騙的典型案例沖上熱搜，引發(fā)全網(wǎng)關(guān)注。

“和你視頻對(duì)話的，可能不是本人!”5月23日，三湘都市報(bào)記者從長(zhǎng)沙市反詐中心獲悉，長(zhǎng)沙暫未接到“AI換臉”類型詐騙。警方提醒，針對(duì)花樣翻新的智能AI詐騙，公眾要提高防范意識(shí)。

■全媒體記者 楊潔規(guī)

【體驗(yàn)】

一條30秒“AI換臉”視頻，最低僅需5元

去年9月，長(zhǎng)沙市反電詐中心曾發(fā)布過(guò)一份警方緊急預(yù)警，提醒大家謹(jǐn)慎使用“AI換臉”軟件，以防造成個(gè)人信息泄露并被利用于電信網(wǎng)絡(luò)詐騙。

技術(shù)改變生活，也改變了騙術(shù)。騙子很快就把新技術(shù)應(yīng)用到了詐騙當(dāng)中。騙子可以通過(guò)錄音提取聲音，利用AI“變聲”技術(shù)對(duì)錄音素材進(jìn)行剪輯合成，用偽造的聲音實(shí)施詐騙;通過(guò)收集發(fā)布的照片、視頻，利用AI技術(shù)“換臉”，用偽造的照片或視頻實(shí)施詐騙;通過(guò)AI技術(shù)收集個(gè)人信息并對(duì)人物性格、需求傾向等進(jìn)行刻畫，根據(jù)所要實(shí)施詐騙的方式對(duì)人群進(jìn)行篩選，選出目標(biāo)人群。

5月23日，三湘都市報(bào)記者以使用者的身份咨詢了一家提供“換臉軟件”網(wǎng)站。

該網(wǎng)站客服表示，如要實(shí)現(xiàn)實(shí)時(shí)換臉，則需要從零開(kāi)始訓(xùn)練“數(shù)字人”，如果24小時(shí)掛機(jī)不停地訓(xùn)練模型，需要經(jīng)過(guò)半個(gè)月到一個(gè)月的時(shí)間，才能達(dá)到可以合成視頻的效果，費(fèi)用在20萬(wàn)元一年。

比起定制“數(shù)字人”，更多人選擇購(gòu)買現(xiàn)成的模型。該網(wǎng)站客服稱：“只是五官的替換，可以替換任意素材使用，不分張三李四。至于費(fèi)用，處理量越大，費(fèi)用越低，一條30秒以內(nèi)的視頻最低僅需5元。”

【提醒】

涉及資金轉(zhuǎn)賬時(shí)要通過(guò)多種方式確認(rèn)

長(zhǎng)沙市反電詐中心提醒，涉及資金轉(zhuǎn)賬時(shí)，市民要提高安全意識(shí)，通過(guò)多種方式確認(rèn)對(duì)方是否為本人，也可將轉(zhuǎn)賬到賬時(shí)間設(shè)定為 “24小時(shí)到賬”，以預(yù)留處理時(shí)間。

針對(duì)支付軟件以及網(wǎng)銀軟件，要使用多種登錄及轉(zhuǎn)賬驗(yàn)證方式。針對(duì)花樣翻新的智能AI詐騙，公眾要提高防范意識(shí)，應(yīng)謹(jǐn)慎使用各類AI“換臉”、AI“變聲”軟件，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，避免注冊(cè)不需要的賬號(hào)、填寫不必要的個(gè)人信息，以防個(gè)人信息泄露。面對(duì)不斷更新的網(wǎng)絡(luò)技術(shù)和詐騙方式，市民要堅(jiān)持不輕信、不透露、不點(diǎn)擊、不轉(zhuǎn)賬。

記者了解到，隨著技術(shù)迭代不斷加速，與之對(duì)應(yīng)的，對(duì)人工智能技術(shù)的法律規(guī)制和政策引導(dǎo)也在不斷完善。今年1月，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式實(shí)施，要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任。

4月11日，國(guó)家網(wǎng)信辦發(fā)布了《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》，共21條，對(duì)生成式人工智能產(chǎn)業(yè)給出較為詳盡的規(guī)定，其中包括定義、準(zhǔn)入資格、責(zé)任義務(wù)和處罰措施等。