최근 FBI는 미국 시민들에게 AI 기반 음성 클론 사기로부터 가족을 보호하기 위해 비밀 단어 또는 구문을 공유할 것을 권장했습니다. 범죄자들이 사랑하는 사람들을 위장하여 긴급 상황에서 사기를 치는 경우가 증가하고 있기 때문입니다. FBI는 공식 공공 서비스 발표에서 "가족과 함께 신원을 확인할 비밀 단어 또는 구문을 만들어라"고 권장했습니다.
예를 들어, 부모, 자녀 또는 배우자에게 의심스러운 상황에서 신원을 확인하기 위해 물어볼 단어 또는 구문을 정할 수 있습니다. "참새가 자정에 날아간다", "그렉은 부리토의 왕이다", 또는 단순히 "플리버티기벳"과 같은 재미있는 문구를 사용할 수 있습니다. 이러한 비밀 단어는 가족 간의 신뢰를 구축하고, 위기 상황에서의 혼란을 줄이는 데 도움이 됩니다.
FBI는 범죄자들이 AI 생성 오디오를 사용하여 친척의 목소리를 복제하고, 긴급 재정 지원이나 몸값을 요청하는 경우가 많다고 보고했습니다. 이러한 음성 클론은 일반적으로 팟캐스트나 인터뷰와 같은 공개적으로 사용 가능한 음성 샘플을 기반으로 하므로, 반공식적인 인물일 경우 더 위험할 수 있습니다. 따라서 자신의 목소리와 이미지를 온라인에서 공개적으로 노출하는 것을 최소화하는 것이 중요합니다.
FBI의 발표는 범죄 집단이 생성적 AI 모델을 사기 작업에 사용하는 방법을 설명하는 더 넓은 서비스 발표의 일환으로 이루어졌습니다. AI 기술은 이제 현실적인 음성 클론을 만드는 것을 매우 간단하게 만들어, 범죄자들이 더 정교한 사기를 치는 데 도움을 주고 있습니다. 이러한 기술은 신뢰할 수 있는 콘텐츠를 생성하는 데 사용되며, 이전에는 명백했던 사기의 징후를 줄이는 데 기여합니다.
비밀 단어의 개념은 현대 AI 음성 합성과 딥페이크의 맥락에서 AI 개발자 아사라 니어(Asara Near)가 2023년 3월 27일 트위터에서 처음 발표한 것으로 알려져 있습니다. 그는 "신뢰할 수 있는 연락처가 당신에게 이상하고 긴급한 음성 또는 비디오 전화를 받을 경우, 그들이 실제로 당신과 대화하고 있는지 확인하는 데 도움이 될 수 있는 '인간 증명' 단어를 설정하는 것이 유용할 수 있다"고 언급했습니다. 이 아이디어는 이후 널리 퍼졌습니다.
AI 기술의 발전은 우리의 삶을 편리하게 만들지만, 동시에 새로운 형태의 범죄를 초래하고 있습니다. 따라서 개인의 정보 보호와 사이버 보안에 대한 경각심이 필요합니다. FBI는 소셜 미디어 계정을 비공개로 설정하고, 팔로워를 신뢰할 수 있는 연락처로 제한할 것을 권장합니다. 이러한 조치는 개인의 목소리와 이미지를 보호하는 데 도움이 됩니다.
AI 음성 클론과 같은 새로운 기술이 범죄에 악용될 수 있는 가능성이 커짐에 따라, 개인 정보 보호의 중요성이 더욱 부각되고 있습니다. 비밀 단어를 설정하고, 자신의 목소리와 이미지를 보호하는 것은 이러한 위협으로부터 자신과 가족을 지키는 효과적인 방법이 될 수 있습니다. AI 기술이 발전함에 따라, 우리는 이러한 기술을 안전하게 활용할 수 있는 방법을 모색해야 합니다.