혹시 AI가 해킹에도 사용되고 있다는 사실을 알고 계시나요? 우리가 일상에서 편리하게 사용하는 AI 기술이 이제 사이버 범죄자들의 손에도 들어가고 있어요.
Google Threat Intelligence Group(GTIG)에서 발표한 최신 보고서를 보니, 정말 충격적인 내용들이 가득했습니다. 사이버 범죄자들이 단순히 AI를 생산성 도구로만 쓰는 게 아니라, 아예 새로운 공격 방법을 개발하는 데 활용하고 있다는 거예요.
특히 중국, 북한, 러시아, 이란 기반의 해커 그룹들이 AI를 정말 다양하게 악용하고 있다고 해요. 멀웨어 제작부터 사람들을 속이는 소셜 엔지니어링까지, 해킹의 전 과정에 AI를 투입하고 있다는 게 무서운 현실이죠.
가장 놀라운 건 '저스트 인 타임(Just-in-Time)' AI라는 새로운 멀웨어 기술이에요. PROMPTFLUX나 PROMPTSTEAL 같은 악성코드들이 실행되는 순간에 대규모 언어 모델을 활용한다는 거예요. 쉽게 말하면, 미리 만들어진 악성 코드가 아니라 실시간으로 AI가 악성 스크립트를 만들어내는 거죠.
이게 왜 무서운지 아시겠어요? 기존에는 멀웨어의 패턴을 분석해서 차단할 수 있었는데, 이제는 매번 다른 모습으로 변신하는 멀웨어가 나타날 수 있다는 뜻이거든요. 마치 카멜레온처럼 계속 모습을 바꿔가면서 보안 시스템을 피해다닐 수 있게 된 거예요.
더 교묘한 건 해커들이 AI의 안전장치를 우회하는 방법이에요. 예를 들어, 구글의 제미나이 같은 AI에게 "저는 해킹 대회에 참가하는 학생입니다" 또는 "사이버 보안을 연구하는 연구원입니다"라고 거짓말을 해서 본래라면 제공하지 않을 위험한 정보를 얻어내는 거예요.
사실 이런 현상은 예상할 수 있었던 일이기도 해요. AI 기술이 발전하면서 선량한 목적으로 사용되는 만큼, 악의적인 목적으로도 사용될 가능성이 항상 존재했거든요. 문제는 이런 일들이 이미 현실이 되고 있다는 점이에요.
2025년 현재, 불법 AI 도구를 파는 지하 시장도 상당히 발달했다고 해요. 피싱 이메일 작성부터 멀웨어 개발, 시스템 취약점 찾기까지 다양한 기능을 가진 AI 도구들이 거래되고 있어요. 이런 도구들 때문에 기술이 부족했던 초보 해커들도 쉽게 사이버 범죄에 뛰어들 수 있게 되었죠.
특히 걱정되는 부분은 국가 차원에서 지원받는 해커 그룹들의 움직임이에요. 이들은 정찰 활동부터 데이터 유출까지 해킹의 전 과정을 AI로 고도화하고 있어요. 개인이나 기업을 노리는 일반적인 사이버 범죄와는 차원이 다른 위협인 거죠.
Google의 빌리 레오나드 기술 리드는 이런 상황을 이렇게 설명했어요. "공격자들이 구글이나 다른 주요 AI 플랫폼을 악용하려고 시도하지만, 안전장치 때문에 한계가 있어서 결국 제한이 없는 지하 AI 모델로 눈을 돌리고 있다"고 말이에요.
이 말이 시사하는 바가 크다고 생각해요. 결국 합법적인 AI 서비스들의 보안 정책이 강화될수록, 해커들은 더 위험하고 통제되지 않는 AI 도구들을 찾아 나서게 될 거라는 뜻이거든요.
그럼 우리는 어떻게 대응해야 할까요? 개인 차원에서는 기본적인 보안 수칙을 더욱 철저히 지키는 것이 중요해요. AI로 만들어진 정교한 피싱 이메일이나 가짜 메시지들이 늘어날 테니까요. 의심스러운 링크나 첨부파일은 절대 클릭하지 말고, 중요한 정보를 요구하는 메시지가 오면 다른 경로로 한 번 더 확인하는 습관을 들여야 해요.
기업들도 마찬가지예요. 기존의 보안 시스템으로는 AI를 활용한 새로운 공격을 막기 어려울 수 있어니까, 보안 솔루션도 AI 기반으로 업그레이드해야 할 시점인 것 같아요.
결국 AI 기술의 발전은 양날의 검이라는 걸 다시 한번 깨닫게 되는 상황이에요. 우리 삶을 편리하게 만들어주는 동시에, 새로운 위험도 가져오고 있거든요.
중요한 건 이런 현실을 정확히 인식하고 대비하는 거예요. AI가 만들어낸 위험에는 더 똑똑한 AI로 대응해야 할 테고, 동시에 우리 모두가 조금 더 조심스럽게 디지털 세상을 살아가야 할 것 같아요.
여러분도 오늘부터 좀 더 주의 깊게 인터넷을 사용해보시는 건 어떨까요? AI 시대의 사이버 보안은 결국 기술과 인간의 지혜가 함께 만들어가는 것이니까요.
