인스타그램 계정이 AI 챗봇의 한 마디에 털리는 일이 현실이 됐다. 메타는 최근 자사 AI 챗봇의 취약점을 악용해 수천 개의 계정이 해킹당했다고 공식 확인했다.
단순한 시스템 오류가 아니라, 챗봇이 사용자의 요청을 맹목적으로 수행하는 과정에서 보안 검증 절차가 생략된 것이 핵심이다.
해커들은 두 단계 인증을 켜지 않은 계정을 노렸다. 챗봇에게 비밀번호 재설정을 요청할 때, 본인이 원하는 이메일 주소를 입력하면 챗봇이 이를 그대로 받아들여 인증 코드를 발송했다.
원래 소유자의 이메일이 아닌 해커가 지정한 주소로 코드가 전송되면서 계정이 완전히 장악된 것이다.
메타는 이번 사태로 최소 2 만 225 명의 사용자에게 피해 통지서를 보냈다. 피해 규모는 4 월 중순부터 이번 주까지 수개월 동안 지속된 공격의 결과다.
해커들은 계정 소유자의 연락처, 생년월일, 프로필 정보뿐만 아니라 게시글과 직접 메시지, 활동 내역까지 모두 접근할 수 있었다.
사용자들의 반응은 복잡하다. AI 가 제공하는 편리함은 인정하지만, 보안 경계가 허술해지면 오히려 치명적인 약점이 될 수 있다는 경각심이 커졌다.
특히 개인적으로 공유한 비공개 콘텐츠가 유출될 가능성에 대한 우려가 크다. 메타 측에서는 “도구 자체는 의도대로 작동했다”고 해명했지만, 실제 피해 상황과 괴리가 있다는 지적도 나온다.
이번 사태는 AI 기반 자동화 시스템이 보편화되면서 발생할 수 있는 새로운 형태의 리스크를 보여준다. 편의성을 극대화하는 과정에서 검증 로직이 생략될 때, 시스템은 오히려 공격자에게 가장 쉬운 통로가 된다.
앞으로 메타가 두 단계 인증을 기본으로 강제하거나, AI 의 권한 검증 방식을 어떻게 고칠지 주목된다.
작성자 소개
