“나의 모든 정보를 바탕으로 AI로 만든 캐리커처”, 디지털 사기 위험에 노출될 수 있어
카스퍼스키(지사장 이효은)는 4월 14일, AI 활용 캐리커처나 애니메이션 제작 도구에 개인 맥락 정보를 공유하는 것이 신원 사칭 및 사회공학 공격을 초래할 수 있다고 경고했다.
소셜 미디어에서 새로운 트렌드가 빠르게 확산되고 있다. 사용자들은 개인 사진을 공유하고 AI 도구에 자신의 삶, 직업, 그리고 “AI가 자신에 대해 알고 있는 모든 것”을 기반으로 캐리커처 또는 일러스트를 생성해 달라고 요청하고 있다. 그 결과물은 사무실에서 일하는 모습, 가족과 함께 있는 모습, 또는 직업을 표현한 애니메이션으로 제작되며, 현재 인스타그램, 틱톡, 링크드인 등에서 자주 공유되는 콘텐츠가 되고 있다.
그러나 이 트렌드는 창의적이고 재미있는 활동으로 보일 수 있지만, 사이버보안 전문가는 이러한 행위가 개인 정보를 노출시키고 맞춤형 대규모 사기 메시지를 생성할 수 있도록 만들며, 이는 현재 매우 현실적인 위협이 되고 있다고 경고한다고 업체 측은 밝혔다.
카스퍼스키 보안 전문가에 따르면, 이러한 요청은 단순한 시각 필터처럼 작동하지 않는다. 보다 정확한 이미지를 생성하기 위해 사용자들은 “나에 대해 알고 있는 모든 것을 바탕으로 나와 내 직업에 대한 캐리커처를 만들어 달라”는 명령 자체에 포함된 지시에 따라, 자신의 프로필과 관련된 모든 정보에 AI 도구가 제한 없이 접근하도록 허용하게 된다. 참고 사진 외에도 회사 이름, 기업 로고, 직책, 도시, 일상 루틴, 취미, 가족 관련 정보 등의 추가 데이터가 포함되어 이 트렌드 생성에 활용되는 경우가 많다.
이러한 각 데이터 포인트는 상세한 디지털 프로필을 구축하는 핵심 요소가 된다. 이미지, 텍스트, 맥락을 결합하면 습관, 인간관계, 자주 방문하는 장소, 직무 등이 드러나게 되며, 이러한 정보는 사이버 범죄자가 더욱 정교한 사기를 설계하는 데 악용될 수 있다. 그 결과, 피해자의 직장, 직책, 가족 구성원 등을 언급하는 사기 시도는 훨씬 더 신뢰성 있게 보이게 되며, 피해자가 이를 신뢰하고 민감 정보나 금전을 제공할 가능성이 크게 증가한다는 설명이다.
이러한 위험은 특히 아시아태평양 지역에서 더욱 심각하게 나타나고 있다. 아시아태평양 지역의 AI 도입률은 매우 높은 수준으로, 전문가의 78%가 매주 AI를 사용하고 있으며 이는 글로벌 평균인 72%를 상회하는 수치다. 그러나 많은 사용자가 여전히 기본적인 기술 이해력에 어려움을 겪고 있어, 사회공학 및 피싱 공격에 더욱 취약한 상태에 놓여 있다고 업체 측은 전했다.
또한 이러한 플랫폼과 상호작용할 때 사용자는 단순히 최종 이미지만 공유하는 것이 아니다. 서비스와 해당 개인정보 보호정책에 따라, 원본 사진, 사용자가 작성한 텍스트 또는 명령, 사용 기록, 그리고 IP 주소, 기기, 상호작용 패턴과 같은 특정 기술 데이터도 함께 저장될 수 있다. 이러한 정보의 일부는 서비스 운영, 성능 개선, 또는 AI 모델 훈련을 위해 유지될 수 있으며, 이는 캐리커처 생성 이후에도 콘텐츠가 즉시 삭제되지 않고 사용자가 예상하는 것보다 더 오래 보관될 수 있음을 의미한다.
카스퍼스키 아드리안 히아 아시아태평양 총괄 사장은 “우리의 삶을 캐리커처로 만드는 이 바이럴 트렌드는 무해한 재미처럼 보일 수 있지만, 실제로는 사이버 범죄자에게 자발적인 브리핑을 하는 것과 같다”며, “AI 도입률이 세계를 선도하고 있지만 기술 이해력은 아직 이를 따라가지 못하고 있는 지역에서, 이러한 디지털 초상화는 위험한 지도가 되고 있다”고 밝혔다. 이어, “우리는 사기범이 일반적인 피싱 이메일을 매우 설득력 있는 개인화된 사기로 전환할 수 있도록 필요한 ‘맥락’을 직접 제공하고 있는 셈으로, 매우 신중한 사용자의 방어조차 우회할 수 있다”라고 경고했다.
이러한 AI 도구는 디지털 창의성을 실험하는 재미있는 방법이 될 수 있지만, 전문가들은 이러한 트렌드에 참여할 때 보다 신중할 것을 권고한다.
위험을 줄이기 위해 카스퍼스키 전문가들은 정보를 기입하는 프롬프트에 식별 가능한 데이터를 입력하지 말라고 권고 했다. 또한 정보를 기입하는 프롬프트에 식별 가능한 데이터를 입력하거나, 사용자의 위치나 개인적 특성을 드러내는 사진을 업로드 해서도 안된다고 말했다. 또한, 미성년자들의 정보나 이미지를 공유하거나 가족 정보를 공개하는 것, 플랫폼 사용 전 개인정보 처리방침 및 권한 설정 확인에 대해 주의하고, 적극적인 디지털 보호를 병행해야 한다고 경고했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
