AI 스팸의 진화: ChatGPT와 AkiraBot의 위험한 동맹
2025년 초, 보안 전문가들과 IT 업계는 충격적인 사실 하나를 마주하게 됩니다. 인공지능(AI)의 대표주자인 OpenAI의 ChatGPT가 대규모 스팸 캠페인에 활용되었다는 보도가 나오면서, 'AI 무기화'라는 개념이 현실이 된 것입니다. 보안 전문 회사 SentinelOne의 연구소인 SentinelLabs는 이와 같은 악의적 AI 활용 사례를 자세히 분석한 보고서를 발표했으며, 이 보고서에 따르면 AkiraBot이라는 스팸 자동화 프레임워크가 OpenAI의 GPT-4o-mini 모델을 활용하여 약 80,000개 이상의 웹사이트에 스팸 메시지를 퍼뜨린 것으로 밝혀졌습니다.
AkiraBot: AI가 만든 차세대 스팸 엔진
AkiraBot은 기존의 단순한 스팸봇과는 비교할 수 없을 정도로 정교한 구조를 가지고 있습니다. 이 시스템은 오픈AI의 ChatGPT API를 이용해 웹사이트별로 맞춤화된 스팸 메시지를 자동 생성하며, 작성된 메시지는 접속 대상 웹사이트의 연락 양식(contact form) 또는 실시간 채팅 위젯(chat widget)을 통해 전송됩니다.
이 과정에서 AkiraBot은 다음과 같은 AI 프롬프트를 사용합니다: “You are a helpful marketing assistant.” 그리고 각 사이트에 맞는 설명을 포함하도록 GPT-4o-mini에게 지시하여, 마치 해당 사이트에 관심을 갖고 작성된 메시지처럼 보이게 만듭니다. 예를 들어 대상 사이트가 온라인 꽃가게라면, 메시지에는 “귀하의 웹사이트는 매우 아름다운 꽃 상품을 제공하네요…”라는 문장이 포함될 수 있습니다. 이처럼 개인화된 문장은 기존의 정형화된 스팸 메시지보다 차단 필터를 우회할 가능성이 훨씬 높습니다.
AI의 스팸 우회 능력: 필터 체계를 흔들다
기존 스팸 필터 시스템은 주로 동일한 형태의 메시지가 여러 대상에게 발송되는 점을 감지하여 차단합니다. 하지만 아키라봇이 활용한 방식은 AI가 콘텐츠를 다르게 생성하여 각기 다른 메시지를 보내기 때문에, 필터링 시스템은 이를 일반 사용자 메시지로 오인할 가능성이 높습니다. 이는 AI의 '생성 능력'(generative ability)이 악용될 수 있다는 점을 여실히 보여준 사례입니다.
특히 GPT-4o-mini와 같은 LLM(Large Language Model)의 특징인 '문맥 반영' 기능이 이러한 활용에 매우 적합합니다. 이는 AI 자체가 각 웹사이트나 내용을 분석해 맞춤 메시지를 만들 수 있기 때문입니다. 그 결과 동일 스팸 캠페인이라도 모든 메시지가 다르며, 일괄 차단이 매우 어려운 구조가 됩니다.
웹 보안의 허점을 파고든 기술적 트릭들
AkiraBot은 단순히 메시지를 생성하는 것에 그치지 않았습니다. 이 봇은 Python 기반의 스크립트를 사용하여 순환적으로 도메인 이름을 변경하며 SEO(검색 엔진 최적화) 관련 상품을 홍보하는 데 사용되었습니다. 도메인 네임 로테이션(domain rotation)은 기존 블랙리스트 방식을 무력화할 수 있는 전략으로, 특정 도메인이 차단되면 다른 도메인으로 전환하여 계속 활동할 수 있게 만듭니다.
또한 봇은 각 메시지 전송의 성공과 실패 이력을 서버에 남겨 이를 기반으로 전략을 조정하는 등, 학습 기반의 자동화 기능도 탑재되어 있었습니다. SentinelLabs가 입수한 로그 파일에 따르면, 이 방식으로 80,000개 이상의 사이트에 메시지를 성공적으로 전송했고, 약 11,000개의 도메인에서는 실패한 것으로 확인됐습니다. 이 방식은 단순한 스크립트 위주의 과거 스팸 기술과는 차원이 다릅니다.
AI와 윤리: 어디까지가 ‘도구’이고 어디부터가 ‘위협’인가?
이번 AkiraBot 사태는 단지 기술적 경고를 넘어서 윤리적, 사회적 논의를 불러일으켰습니다. OpenAI는 AI 사용에 대한 정책을 명확히 하고 있으며, 실제 해당 사건 인지를 바탕으로 관련 계정을 정지시켰습니다. 하지만 이 사태는 우리가 여전히 ‘사후 대응’ 수준에 머물러 있음을 드러냅니다.
세계 각국은 생성형 AI에 대한 규제를 본격적으로 논의 중입니다. 유럽연합(EU)은 AI 법안(AI Act)을 통과시켰고, 미국은 '국가 AI 전략'을 내세워 AI 사용에 대한 책임을 기술 기업에 부과하겠다는 입장입니다. 하지만 이러한 규제는 AI 기술의 속도에 비해 너무 느리다는 비판도 나옵니다. 실제로 이번 AkiraBot 사례도 4개월 동안 아무런 제재 없이 활동하며 피해를 확산시켰습니다.
기술과의 싸움 vs 기술과의 공존
그렇다면 우리는 AI라는 강력한 도구를 어디까지 활용하고, 어떻게 통제해야 할까요? 해법은 '기술을 기술로 대응하는 것'입니다. 예를 들어 최근 등장한 LLM 탐지기(LLM Detector)는 AI가 만든 콘텐츠를 탐지하고 구분할 수 있도록 돕는 툴입니다. 또한, CAPTCHA 시스템의 고도화, 사용자의 행동 기반 필터링 기술, AI 사용 로그 분석 등의 보완 전략이 필요해졌습니다.
한편, 기업들도 자신의 웹사이트에 통합된 챗봇 API나 이메일 양식을 점검하고, AI 생성 콘텐츠에 대한 탐지 알고리즘을 강화해야 합니다. 특히 고객 접점에서 수집되는 데이터가 악용되지 않도록 하는 철저한 웹 보안 전략이 필수가 되었습니다.
일반 사용자도 경계해야 할 AI의 부작용
스팸 메시지를 받는 것은 단지 불편함이 아닙니다. 때로는 피싱 사기의 도구가 될 수 있고, 허위 정보를 기반으로 경제적 피해를 입을 수도 있습니다. 사용자 또한 의심스러운 메시지나 양식 제출을 받을 경우, 즉시 도메인을 확인하고 정식 고객센터를 통해 사실 여부를 검증하는 습관을 들여야 합니다.
AI는 혁신적인 도구이자 가장 무거운 윤리적 책임을 지닌 존재가 되어가고 있습니다. 우리가 마주하는 미래 기술은 그 자체로 선도 악도 아닙니다. 그것을 사용하는 이들의 의도와 책임, 그리고 사회 전반의 합의가 AI 진화의 방향을 결정할 것입니다.
맺으며: AI가 가져오는 양면성의 시대
AkiraBot 사례는 우리에게 깊은 교훈을 줍니다. AI의 강력한 창조 능력은 비즈니스 혁신, 교육 향상, 생산성 증대 등 긍정적인 곳에 쓰일 수 있음과 동시에, 극단적으로는 무분별한 악용으로 이어질 수 있다는 점을 명확히 보여줍니다.
이제는 기술 개발 못지않게, 올바른 방향의 기술 사용과 관리, 그리고 글로벌한 협력 체계가 요청됩니다. 우리가 AI와 공존하는 길은 기술을 ‘필터링’하고 ‘차단’하는 데 그치지 않고, AI의 윤리적 성장 기반을 다지는 데 있어야 할 것입니다.