深偽一詞是「深度偽造」(Deepfake) 的簡稱，涵蓋了所有經過生成式 AI (GenAI) 變造的聲音、視覺或文字內容。會被網路犯罪集團用來獲取財務利益、欺騙與操縱他人。
目錄
深偽影片
深偽影片是一種逼真到讓人不容易起疑的影片，這類影片人類肉眼越來越難分辨它們是 AI 所生成的，對資料安全帶來了極大的風險。這類影片通常模仿一些知名人物，例如政治人物或影視名人，儘管同樣的技術也能用來模仿別的人。視深偽的製作者而定，深偽內容有可能用來散播假訊息、詐騙某人或某家機構，或是騙取機敏資料和錢財。
要製作深偽影片，通常需要先對原始內容進行深度的分析。一些必要的細節，如臉部特徵與動作、尺寸比例、膚色、髮色與眼睛顏色，以及肢體語言，都盡可能準確地輸入 AI模型當中，以生成盡可能準確的擬真影像。同樣的原則也適用於影片的背景，如果目標對象出現的場景是知名的地點，那麼駭客就會利用一些原始影像和影片來盡可能準確地加以呈現。
聲音模仿
與生成深偽影片一樣，駭客也能用網路上找到的材料來訓練 AI 生成聲音。其參考來源通常是被模仿對象的語音郵件訊息、電話內容、參加 Podcast 與新聞訪談的錄音，以及真實影片當中的聲音。
生成的聲音有時聽起來非常逼真，跟原始材料中的聲音非常相似，讓人難辨真假。駭客使用的生成式 AI 工具會分析聲音的一些關鍵細節，包括：口氣、音調、說話特徵、口齒清晰度，以及原始對象講話的聲音情緒。
廉價偽造 (Cheapfake)
深偽聲音與影片經由 GenAI 所產生，但廉價偽造使用的卻不是這類技術，而是透過手動製作來欺騙個人或機構的內容。這類內容通常是透過光學、聲音或文字幻覺來欺騙那些不會仔細分辨的人，例如當遇到緊急情況或情緒壓力很大時。如同美國國土安全部所指出， 廉價偽造內容（cheapfakes）早在數位時代之前就已經存在。這意味著駭客已有好幾個世紀的時間可以互相學習，並且精進自己的能力。
廉價偽造方法
- 實際剪輯底片。
- 搭線竊聽或剪接預先錄製的片語或完整句子。
- 放慢或加快影片或聲音的速度來製造預期的效果或暗示。
- 拍攝或錄製長得很像或聽起來很像的對象來假冒某個重要人物。
- 低預算、低品質的電腦生成影像(CGI)、動作捕捉技術，以及綠幕 (green screen)。
深偽與廉價偽造範例
不肖之徒會將深偽或廉價偽造用於各種用途，包括但不限於以下幾種：
- 誘騙新員工提供公司與個人資訊。
- 假扮成名人或政治人物來騙取錢財或散播假訊息。
- 假造某些情況，如天災、受傷或死亡來詐領保險。
- 引誘他人前往冒牌的網站，讓人誤以為是真的網站。
- 假扮成高階主管來影響股票與投資。
- 對個人造成尷尬或損害名譽的情況。
- 偽造影片令他人陷入不利情境，並用來勒索或敲詐。
Deepfake vs. Cheapfake
Deepfake
廉價偽造
AI/深度學習
基本編輯工具
高度逼真
不夠真實
高成本投入
低成本投入
難以偵測
容易偵測
用於精密的詐騙
用於快速散播的錯誤訊息
防護措施
您可以採取以下幾個步驟來降低您掉入深偽或廉價偽造陷阱的風險，其中有幾點還是美國國家網路安全聯盟 (National Cybersecurity Alliance) 所建議：
- 過濾不明來電，讓它們直接進入語音信箱。
- 在所有網路帳號上設定多重認證。
- 使用獨一無二、又長、又複雜的密碼。
- 使用實體的鏡頭蓋，在網路攝影機未使用時將鏡頭遮住。
- 在您分享照片或影片之前，先在上面加入浮水印。
- 親自確認經由網路或電話揭露的資料 (可以的話)。
- 仔細檢查可疑郵件中的細節，例如標點符號、語氣及文法。
採用零信任原則與深偽偵測解決方案
零信任策略對資安防護至關重要。談到防範深偽，零信任原則可說是降低風險的基石，例如：
- 務必設置認證與授權流程並確實遵守。
- 實施最低權限存取原則，確保使用者只能存取其職務所需的資源。
- 主動規範和監控使用者對資料和網路的存取。
- 當偵測到威脅時，立即假設已遭入侵，並試圖降低衝擊範圍。
此外，專為其用途設計的深偽檢查與偵測解決方案，有助於保護使用者的身分、安全與資料。這類工具在 AI 創新不斷加速的時代不可或缺，因為人類通常很難靠肉眼來分辨深偽。美國國家醫學圖書館 (National Library of Medicine) 的 2023 年報告曾針對該議題表示：「隨著語音合成演算法的改良且越來越逼真，我們預料偵測的工作將變得越來越難，深偽語音的偵測難度印證了它被誤用的風險，也代表專門針對這項威脅的防禦有其必要。」
誰能協助我們應對 deepfake 問題 ？
保護您的企業與個人互動，免受日益嚴重的 AI 生成詐騙所威脅。趨勢科技藉由 Deepfake Detector 與 Deepfake Inspector 工具，結合 AI 技術，來提供即時的 Deepfake 偵測，並與 Trend Vision One™ 無縫整合，確保每次數位互動的信任、真實與安全。