Deepfake는 생성 AI(GenAI)를 사용하여 생성된 의사 오디오, 비주얼 또는 텍스트 콘텐츠를 포함할 수 있는 자산입니다. 사이버 범죄자들은 주로 금전적 이득, 속임수 및 조작을 위해 이를 활용합니다.
목차
Deepfake 동영상
AI가 생성한 딥페이크 동영상은 데이터 보안 위험이 높기 때문에 점점 더 찾기 어려운 사실적이고 믿을 수 있는 동영상을 제작할 때 이들은 일반적으로 정치적 인물 및 유명인과 같은 유명 인사를 묘사하지만, 다른 개인의 초상을 포착하기 위해 생성될 수도 있습니다. 작성자의 목표에 따라, 정보 유출, 개인 또는 조직 사취 또는 민감한 데이터 및/또는 자금 요청에 사용될 수 있습니다.
Deepfake 비디오는 소스 콘텐츠의 복잡한 분석을 통해 생성됩니다. 얼굴 특징 및 움직임, 크기, 피부톤, 머리카락 및 눈 색깔, 바디 랭귀지와 같은 필수 세부 정보가 AI에 제공되어 가능한 한 정확하게 표현할 수 있습니다. 이는 배경에도 적용됩니다. 사무실, 회의실 또는 피검자가 등장하는 기타 환경이 잘 알려진 경우, 위협 행위자는 소스 이미지와 비디오를 사용하여 가능한 한 정확하게 복제하기 위해 노력할 것입니다.
음성 복제
딥 가짜 비디오 콘텐츠의 생성과 유사하게, 오디오는 온라인으로 제공되는 교육 자료를 사용하여 AI를 통해 생성할 수 있습니다. 참조 소스에는 음성 메일 메시지, 전화 통화, 팟캐스트 및 뉴스 녹음의 게스트 출연, 주요 개인 또는 그룹의 초상을 특징으로 하는 오디오가 포함된 정품 비디오 콘텐츠가 포함되는 경향이 있습니다.
생성된 오디오는 매우 설득력 있게 들리도록 만들 수 있으며, 소스 재료와 긴밀하게 일치하여 최대한 믿을 수 있게 만듭니다. 위협 행위자가 사용하는 생성적 AI 도구는 참고 자료에서 말하는 사람들의 어조, 피치, 음성 패턴, 명확성, 발음 및 가청 감정을 포함한 몇 가지 주요 세부 사항을 분석합니다.
저가
저가 접근법
- 물리적으로 절단하고 접합하는 필름
- 기록된 문구 및/또는 전체 문장의 도청 및/또는 스플라이싱 조각
- 원하는 효과 또는 제안을 전달하기 위해 비디오 및/또는 오디오 콘텐츠를 늦추거나 가속화
- 주요 인물로 위장한 유사 이미지 및/또는 사운드를 촬영 및/또는 녹화
- 저예산, 저품질 컴퓨터 생성 이미지(CGI), 모션 캡처 기술 및 녹색 화면
딥페이크 및 저가 가짜 사례
악의적인 개인은 다음을 포함하되 이에 국한되지 않는 다양한 목적으로 딥페이크 및/또는 저가페이크를 사용합니다.
- 신입 사원이 회사 및/또는 개인 정보를 포기하도록 조작
- 자금을 확보하고/하거나 잘못된 정보를 전파하기 위해 유명인 또는 정치적 인물로 위장
- 보험 청구로 인한 재해, 부상 또는 사망과 같은 상황 위조
- 다른 사람들이 가짜 웹사이트를 사용하도록 오도하여 진짜라고 생각하게 함
- 임원의 외모를 가정하여 주식 및 투자 조작
- 개인에 대한 창피함 및/또는 평판 손상 유발
- 협박 또는 갈취 사기를 저지르는 상황에 처한 사람들의 비디오 증거 제작
Deepfake와 Cheapfake 비교
딥페이크
저가
AI/딥 러닝
기본 편집 도구
매우 현실적임
낮은 수준에서 중간 수준의 현실감
높은 노력
적은 노력
탐지하기 어려움
탐지하기 쉬움
정교한 속임수에 사용
빠른 잘못된 정보에 사용
보호 조치
딥페이크 또는 저가 가짜의 표적이 될 위험을 줄이기 위해 취할 수 있는 몇 가지 단계가 있습니다. 여기에는 다음과 같은 조치가 포함되며, 그 중 일부는 국가 사이버 보안 연합에서 권장합니다.
- 알 수 없는 번호에서 수신되는 통화를 검색하고 음성 메일로 이동
- 모든 온라인 계정에서 다단계 인증 설정
- 고유하고 길고 복잡한 암호 사용
- 렌즈를 사용하지 않을 때 렌즈를 덮을 수 있도록 물리적 셔터로 웹캠 설정
- 사진 및/또는 비디오를 공유하기 전에 디지털 워터마크 추가
- 온라인 또는 전화로 공개된 세부 정보를 직접 확인(가능한 경우)
- 구두점, 어조 및 문법과 같은 의심스러운 이메일의 세부 정보 조사
제로 트러스트 원칙 및 딥페이크 탐지 솔루션 활용
제로 트러스트 접근 방식은 사이버 보안에 매우 중요합니다. 딥페이크로부터 보호하는 것과 관련하여 그 원칙은 위험을 최소화하기 위한 청사진으로 간주될 수 있습니다. 예:
- 인증 및 승인 프로세스가 마련되어 있고 준수되고 있는지 확인
- 최소 권한 액세스를 구현하여 사용자가 역할에 필요한 리소스에만 액세스할 수 있도록 합니다.
- 데이터 및 네트워크에 대한 사용자 액세스를 선제적으로 조절하고 모니터링합니다.
- 위협 탐지 시 침해를 가정하고 “폭발 반경”을 최소화합니다.
또한 특별히 제작된 딥페이크 검사 및 탐지 솔루션은 사용자의 신원, 복지 및 데이터를 보호하는 데 도움이 될 수 있습니다. 딥페이크는 인간이 수동으로 탐지하기 어려운 경우가 많기 때문에 이러한 도구는 AI 혁신을 가속화하는 시대에 필수적입니다. 2023 National Library of Medicine 보고서에 따르면, “음성 합성 알고리즘이 개선되고 보다 현실적이 됨에 따라 탐지 작업이 더 어려워질 것으로 예상할 수 있습니다.” “스피치 딥페이크를 탐지하는 어려움은 오용 가능성을 확인하고 이러한 위협에 대한 방어가 필요하다는 신호를 보냅니다.”
누가 딥페이크를 도와줄 수 있을까요?
증가하는 AI 생성 속임수 위협으로부터 조직과 개인 상호 작용을 보호하십시오. 트렌드마이크로는 Trend Vision One™에 완벽하게 통합된 Deepfake Detector 및 Deepfake Inspector 도구를 통해 실시간 AI 기반 Deepfake Detection을 제공하여 모든 디지털 상호 작용에서 신뢰, 신뢰성 및 보안을 보장합니다.