香港一公司遭遇“AI換臉”視頻會議，被騙2億港元

　　多知網(wǎng)2月5日消息，根據(jù)香港文匯報(bào)等媒體報(bào)道，香港發(fā)生了一起涉及到2億港元的AI“深度偽造(DeepFakes)”詐騙案，這起“AI變臉”案例涉及金額巨大，且也是首次涉及AI“多人變臉”的詐騙案。

　　據(jù)了解，被騙的是一家總部設(shè)在英國的跨國公司，在香港設(shè)有分公司。詐騙集團(tuán)事先在網(wǎng)上搜集該公司英國總部高層的面部和聲音數(shù)據(jù)，透過深偽技術(shù)將騙徒換上多名公司高層的面貌和聲音，再按劇本預(yù)制“高層發(fā)言”短片，繼而以總部首席財(cái)務(wù)官名義發(fā)出釣魚信息，邀請香港公司財(cái)務(wù)職員參加線上“視像會議”，聽取“機(jī)密交易”匯款指令。

　　由于與會高層都被集體“變臉”，“熟口熟面”加上聲音相似，香港職員沒有察覺到是詐騙，于是按“最高指示”分多次將合共兩億港元轉(zhuǎn)賬至5個本地銀行戶口，直至日前向總部查詢才知道受騙。

　　警方認(rèn)為，騙徒在設(shè)置AI“變臉”騙局前，可能用“釣魚”軟件或其他網(wǎng)上途徑，掌握到公司內(nèi)部人員架構(gòu)及運(yùn)作模式等資料，然后設(shè)計(jì)好行騙劇本，令受害人以為是日常商業(yè)操作。

　　香港警方認(rèn)為這起詐騙案有以下特點(diǎn)：

　　1、騙徒用“深偽技術(shù)”偽冒多人多角色臉譜，看起來多人“參會”，實(shí)際上真人只有受騙人;

　　2、騙徒用真人換上英國高層的面部和聲音后，實(shí)際上是他們的錄像在發(fā)言，即是提前拍好寫好的，所以，會議上不能與香港職員有對話互動，也不給香港職員提問機(jī)會;

　　3、為免露出破綻，“視像會議”在短短數(shù)分鐘內(nèi)結(jié)束;

　　4、所謂總部高層現(xiàn)身直接下指令，只是要給香港公司職員營造一個“最高指示”的場景，令職員深信是真實(shí)決策。

　　這件詐騙案給企業(yè)敲響了警鐘。當(dāng)下，網(wǎng)上已經(jīng)“眼見不一定為實(shí)，有圖有片亦不一定是真相”。企業(yè)需要給員工進(jìn)行培訓(xùn)，教育員工學(xué)會識別釣魚郵件、信息、電話以及視頻的特征，提高他們對這類詐騙行為的認(rèn)知。

　　此外，普通大眾也要提高防騙意識。

　　遇到此類“視頻”場景，可以要求對方在鏡頭前做指定動作，留意對方在熒光幕上影像有否變異，以測試是否利用人工智能技術(shù)假冒他人樣貌;當(dāng)有人在視頻或錄音中提出匯款要求時，要提高警惕，必須致電或從其他渠道一再核實(shí)。

　　“深度偽造”本是人工智能“深度學(xué)習(xí)”技術(shù)進(jìn)步的產(chǎn)物，它有許多有價值的應(yīng)用，例如出于教育目的而制作歷史人物的音頻或視頻。但是，“深度偽造”也可能有惡意的用途。如何正確使用人工智能技術(shù)正成為一個全球課題。(多知網(wǎng) Penny)