Deepfake識別｜Sumsub新技術30秒破Deepfake影片 準確率超99%
原文刊於信報財經新聞「EJ Tech 創科鬥室」
香港警方在今年初首次發現有騙徒，透過人工智能（AI）深度偽造（Deepfake）技術，經多人視像會議進行詐騙的案件；更加有跨國公司的香港財務職員受騙，令公司損失2億元。英國一體化驗證平台Sumsub一份年度身份欺詐報告指出，香港於2023年的身份欺詐比率，在亞太區排第三位。Sumsub主打獨家的AI Deepfake偵測解決方案，利用機器學習檢測影片的深偽騙術，聲稱準確度超過99%。
金融科技、支付、加密貨幣平台等線上經營的企業，都容易受深度偽造影響。根據官方網頁資料，Sumsub客戶以跨國企業為主，包括多間金融科技企業，例如Binance、Huobi Global、Mercuryo、Bybit、Unlimit及TransferGo。
多層次分析 對勘畫面像素
Sumsub首席增長官Ilya Brovin提到，AI是一把雙刃劍，它既可用於惡意用途，亦能訓練反詐騙解決方案。有鑑於深偽詐騙日趨複雜，Sumsub研發了業內首創的AI Deepfake偵測解決方案，並內置影片識別產品，有助打擊操控訪談影片的惡意行為。
Brovin指出，深偽詐騙幾可亂真，人類肉眼通常極難識別，依靠機器能提高識別深偽騙術的準確度。
該解決方案的原理是，使用最新的AI技術，分析所提供圖像的某些偽影，確保騙徒製造的深偽影片無法通過檢查。
這項方案的關鍵在於「多層次技術」，例如當兩個人通過視訊交流時，往往使用電腦鏡頭。Brovin強調，若騙徒試圖通過深偽技術欺騙受害者，可能用另一個虛擬相機替代。這時，AI就可以識別出相機的真實性。
下一步，數碼畫面亦會受到檢查，例如畫面像素是否正確對齊，從而判斷影像內容是否真實；最後AI會分析影像模式，並與數據庫以往資料比對。
通過結合多種技術，為影像的真實程度作出評分，再把結果反饋予用戶，聲稱其準確度超過99%，鑑別過程平均只需30秒。
遇邊緣個案 交人手判斷
產品內部的學習模型亦會在識別深偽影片期間，不斷累積相關數據。Brovin稱，品質控制操作員同時扮演重要角色。一旦出現邊緣案例，令AI系統無法處理的話，品質控制操作員就會介入判斷，並在問題解決後把結果反饋予模型，形成正向循環。
採訪、撰文：解青羽
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
