황지민 | 기자 작성일 2026년 02월 13일
Google Threat Intelligence Group(GTIG)이 2025년 4분기 최신 AI 위협 동향을 분석한 ‘AI 위협 추적 보고서(AI Threat Tracker)’를 발표했다.
지난해 말, 공격자들은 단순 보조 도구를 넘어 AI를 공격 라이프사이클 전반에 통합하며 파괴적인 효율성을 확보하기 시작했다. 특히 이번 보고서에서는 북한, 이란 등 국가 배경 해킹 그룹의 활동뿐만 아니라 민간 기업 및 연구자들에 의한 ‘모델 추출 공격’과 같은 새로운 보안 화두를 조명했다.
보고서 주요 내용
· 모델 추출(Model extraction) 시도 및 ‘증류 공격(Distillation attacks)’ 증가: 지난 한 해 동안 GTIG와 구글 딥마인드(Google DeepMind)는 생성형 AI 제품을 대상으로 모델 추출 및 증류 공격을 시도하는 위협 행위자들을 확인했다. 이러한 공격은 AI 모델의 기본 추론 및 사고 과정을 알아내기 위해 수행됐으며, 주로 AI 모델의 독점적 논리를 복제하려는 글로벌 민간 기업 및 학술 연구자들에 의해 발생했다. 이들은 특히 제미나이(Gemini)의 추론 능력을 주요 표적으로 삼았다.
· 공격 라이프사이클 전반에 AI를 도입하는 국가 지원 위협 행위자(사회 공학적 정찰): 국가의 지원을 받는 위협 행위자들은 코딩 및 스크립트 작성, 표적에 대한 정보 수집, 공개적으로 알려진 취약점 연구, 침해 후 활동 수행 등을 위해 AI를 지속적으로 악용하고 있다.
- 이란 정부의 지원을 받는 해킹 조직 APT42는 정찰 및 표적 맞춤형 소셜 엔지니어링 기법을 강화하기 위해 생성형 AI 모델을 활용했다. 이들은 AI를 악용해 특정 기관의 공식 이메일 주소를 검색하고, 정찰 조사한 내용을 바탕으로 잠재적 비즈니스 파트너를 가장해 신뢰할 만한 미끼를 제작한다.
- 북한 정부의 지원을 받는 해커 그룹 UNC2970은 채용 담당자를 사칭해 방위 산업체에 대한 집중 공격을 수행해 왔다. 이들은 제미나이를 활용해 오픈소스 인텔리전스(OSINT