
香港警方近日接獲一起人工智慧(AI)技術詐欺報案,涉案金額達兩億港元(約2,600萬美元)。 騙子利用AI換臉技術偽裝成公司主管,從企業員工手中騙取了兩億港幣。 事情過去近一周,當事人才發現事情不對勁。
事件曝光後,此案被人們成為香港最大的AI換臉詐騙案,同時這也是首例涉及多人換臉的詐騙案。 騙子利用「深偽(deepfake)」技術一人分飾多角,透過視訊會議騙取受害公司員工的信任並要求轉帳。
根據警方消息,報案人是某跨國企業香港分公司的員工。 今年1月,香港分公司的員工收到一封英國總部財務長(CFO)寄來的電子郵件,表示公司計劃進行一項秘密交易,需要將公司資金轉至幾個香港本地銀行帳戶待用 。 起初,這名員工只當這是普通的釣魚郵件,並未在意。 不料騙子“窮追不捨”,不斷向他重申這項交易的重要性,並最終組織了一場視訊會議。
在會議上,受騙員工看到了英國總部CFO和其他幾位財務部同事,也收到盡快轉帳的指令,於是信以為真,按照常規流程將兩億港幣轉至五個指定帳戶。
五天后,香港員工感到事情有些不對勁,向英國總部求證。 不料總部表示所謂的「秘密交易」根本不存在,他被騙了。

圖片僅為範例
經調查發現,受害者在視訊會議上看到的「高階主管」都是AI技術做出來的冒牌貨。 騙子透過YouTube等公開管道蒐集受騙公司高層的採訪影片或其他媒體素材,結合「深偽」技術製作出他們的形象和聲音,偽造了一段公司高層發言的假影片。
針對受害者的那場視訊會議僅持續了幾分鐘,結束得也十分突然。 受害員工並未參與討論,而是在旁觀「高階主管」們針對「秘密交易」展開討論,最後得到了轉帳的指示。
除報案員工外,騙子還聯繫了另外幾位香港分公司員工。
目前警方正在針對這起案件展開調查,也並未逮捕任何嫌疑人。 然而,這則詐騙案引發了人們的熱烈討論。 AI換臉技術在詐騙案中並非首次出現,但多人換臉在詐騙中卻並不常見。 騙子利用視訊電話偽造了一整個高階主管團隊,大大提高了可信度。 而且,整個詐騙過程推進得十分迅速,受害者來不及思考其中的破綻,甚至直到案件發生五天後才發覺事情不對。
香港的這起案件證明瞭如今先進的技術也催生了更多更複雜的詐騙手段。 在不久的將來,AI詐騙也許會為人們帶來更大的衝擊,身為一般人的我們也不得不提防此類詐騙。
面對AI換臉詐騙,我們也有一些能做的: