AI 보안

AI 자동 해킹 공격 현실로|구글 GTIG '익스플로잇 에이전트'가 보안 패치를 공격 코드로, 기업이 줄여야 할 패치 시간

밤 사무실에서 모니터의 보안 패치 현황 화면을 점검하는 보안 담당 여성을 AI로 표현한 예시 이미지

보안 패치가 나왔다는 공지는 지금까지 "이제 안전하다"는 신호였습니다. 앞으로는 "지금부터 공격이 시작된다"로 읽어야 할지도 모릅니다. 구글 위협 인텔리전스 그룹(GTIG)과 맨디언트가 11월 17일 공개한 'AI 위협 추적 보고서'에, 사람 없이 패치를 공격 코드로 바꾸는 AI 시스템이 나왔거든요.

목차 (5)

보고서에 담긴 사례를 정리하고, 개발·운영팀이 바꿔야 할 순서를 붙였습니다.

패치 전후 코드를 비교해 공격 코드를 만든다

익스플로잇 에이전트가 하는 일은 단순합니다.

  1. 보안 패치 적용 전과 후의 코드를 비교한다.
  2. 차이에서 고쳐진 취약점을 찾아낸다.
  3. 그 취약점을 노리는 공격 코드를 만든다.
  4. 아직 패치하지 않은 서버에 실행한다.

GTIG는 이 과정에 사람이 끼지 않았다고 봤습니다. 9월 보고서에서는 AI가 취약점 찾기나 공격 일부를 돕는 수준이었는데, 이번엔 전 과정이 자동화된 거예요. 조사 중에 데이터 탈취, 내부 시스템 탐색, 웹셸 설치용 스크립트도 함께 발견됐고, 공격자는 프랑스 미디어·엔터테인먼트·교육 분야 웹사이트를 주로 노린 것으로 추정됩니다.

구글 GTIG 익스플로잇 에이전트 공격 흐름, 패치 전후 코드 비교, 취약점 찾기, 공격 코드 생성, 미패치 서버 공격, 패치 적용까지가 위험 구간

보고서에 나온 다른 사례

사례 내용
자율형 공격 도구 '케언' 미국 항공우주 분야 침투에 사용
'펜트AGI' 기반 도구 8월 말~10월 초 아시아 여러 조직의 취약점 탐색
북한 연계 조직 AI로 가짜 채용 담당자 프로필, 가짜 화상회의 사이트로 악성 스크립트 실행 → 코드 저장소 접근 → 클로드 코드 설정 파일 변조로 백도어 설치
AI 이용 권한 탈취 기업 클라우드·AI 계정을 훔쳐 무단 사용·판매, 하루 10만 달러 넘는 피해, 누적 100만 달러 사례
여론 공작 플랫폼 제미나이 API 등으로 계정 10만 개 이상 운영 설계

개발팀에 가장 와닿는 건 클로드 코드 사례입니다. 저장소 안의 설정 파일 하나만 바꿔 두면, 직원이 평소처럼 클로드 코드를 실행할 때 백도어가 내려받아졌어요. 비슷한 공급망 공격은 가짜 클로드 코드 확장 프로그램 백도어와 LiteLLM 공급망 악성코드에서도 다뤘습니다.

기업이 바꿔야 할 순서

GTIG의 진단은 이렇습니다. 공격 방식(훔친 인증정보, 패치 안 된 시스템)은 예전과 같지만, 속도와 규모가 달라졌다는 것이죠. 그래서 대응도 속도가 핵심입니다.

  1. 패치 적용 시간 단축: 인터넷에 노출된 서버부터 '공개 후 며칠'이 아니라 '공개 당일' 기준으로 목표를 다시 잡습니다.
  2. 노출 자산 목록 정리: 어떤 서버가 어떤 버전을 쓰는지 모르면 패치 우선순위를 못 정합니다.
  3. AI 도구 설정 파일도 리뷰 대상: .claude/ 같은 에이전트 설정과 훅 파일 변경을 코드 리뷰와 변경 알림에 넣습니다.
  4. AI 계정 키 관리: API 키·클라우드 권한을 최소로 주고, 사용량 급증 알림과 지출 한도를 걸어 둡니다. 하루 10만 달러 피해는 한도 하나로 줄일 수 있었습니다.
  5. 채용·화상회의 사칭 교육: 개발자에게 가짜 채용 담당자와 가짜 회의 링크 사례를 공유합니다.

API 지출 한도 설정은 OpenAI API 결제·한도 설정 글에 화면과 함께 정리해 두었어요.

맺음말

  1. 익스플로잇 에이전트는 패치 전후 차이로 취약점을 찾아 공격 코드까지 사람 없이 만듭니다.
  2. 클로드 코드 설정 파일 변조, AI 권한 탈취처럼 AI 도구 자체가 표적이 되고 있습니다.
  3. 패치 적용 시간 단축, 설정 파일 리뷰, AI 계정 한도가 지금 할 일입니다.

공식 자료

👉 다음에 읽을 글
- 캘리포니아주, 오픈AI 상대 소송 — AI 에이전트 사고의 책임을 묻는 첫 소송입니다.
- 클로드 개인정보 유출, 국내 기업 계정 112개 — AI 서비스 계정 보안 사례입니다.

자주 묻는 질문

익스플로잇 에이전트는 무엇을 하나요?
소프트웨어의 보안 패치 적용 전후 코드를 비교해 고쳐진 취약점을 찾아내고, 그 취약점을 노리는 공격 코드를 자동으로 만들어 실행하도록 설계된 시스템입니다. GTIG는 이 과정에 사람이 개입하지 않았다고 밝혔습니다.
패치가 나오면 안전한 것 아닌가요?
패치를 실제로 적용하기 전까지는 오히려 더 위험할 수 있습니다. AI가 패치 전후 차이를 분석해 무엇이 고쳐졌는지 바로 알아내고, 아직 업데이트하지 않은 서버를 빠르게 공격할 수 있기 때문입니다.
클로드 코드 사용자도 조심해야 하나요?
GTIG는 북한 연계 조직이 기업 코드 저장소에 들어간 뒤 클로드 코드 설정 파일을 바꿔, 직원이 실행하면 백도어가 내려받아지게 한 사례를 확인했습니다. 저장소 안 설정 파일 변경을 코드 리뷰 대상에 넣어야 합니다.