Google 위협 인텔리전스 그룹(GTIG)이 보안 패치 전후 코드를 비교해 취약점을 찾고, 익스플로잇을 만들어 사람 개입 없이 실행하는 공격용 AI 프레임워크 'exploit_agent'를 확인했다고 밝혔습니다. GTIG는 위협 행위자가 취약점 발견부터 공격까지 사람 없이 완전히 자동화한 사례를 확인한 것은 이번이 처음이라고 설명했습니다. 널리 쓰이는 웹 소프트웨어를 인터넷에 운영하는 기업이라면 패치 공개부터 적용까지 걸리는 시간을 지금 다시 재야 합니다.
무엇이 일어났나
GTIG는 최근 공개한 AI 위협 동향 보고서에서 공격자의 AI 활용이 프롬프트를 직접 입력하는 수준을 넘어섰다고 평가했습니다. 지금은 여러 AI 에이전트가 역할을 나눠 침투 단계를 자동으로 수행하는 프레임워크를 운영하는 단계라는 것입니다. The Hacker News, The Register 등 외신은 11월 16일(현지 시각)부터 이 보고서를 보도했습니다.
exploit_agent: 패치를 읽고 공격 코드를 만드는 에이전트
GTIG가 외부에 노출된 공격자의 스테이징 서버에서 확인한 내용은 다음과 같습니다.
- 여러 최신(frontier) LLM과 로컬 LLM을 연결해 쓰는 다중 에이전트 구조입니다. 어떤 모델인지는 공개되지 않았습니다.
- 널리 쓰이는 웹 애플리케이션 소프트웨어를 대상으로 패치 공개 전후 코드를 계속 비교(차분 분석)합니다. 이 과정에서 취약점 후보를 찾고 익스플로잇 초안을 작성한 뒤 자동으로 실행합니다.
- 같은 서버에는 피해 조직에서 빼낸 데이터와 침투 후 단계용 스크립트가 있었습니다. 스크립트는 내부 정찰, 무차별 대입, 웹셸 설치, 다른 공격자가 심은 웹셸 제거 용도였습니다.
- 서버에 남은 피해자 기록을 보면 운영자는 프랑스의 미디어·엔터테인먼트 분야와 교육 분야 웹사이트에 관심을 보였습니다. 설정 파일 주석은 러시아어였고, The Register는 운영자를 러시아어 사용자로 추정된다고 보도했습니다.
GTIG는 패치 비교가 공격자에게 유리한 이유도 짚었습니다. 제로데이를 찾으려면 넓은 범위를 뒤져야 합니다. 반면 이미 패치가 나온 n-day 취약점은 바뀐 코드라는 한정된 자료만 분석하면 되므로 빠르게 무기화할 수 있습니다.
실제 사례로 드러난 속도
보고서는 PaperCut NG/MF 사례를 들었습니다. 인증 우회(CVE-2026-81578, 제조사 기준 CVSS 4.0 8.8)와 안전하지 않은 동적 클래스 로딩(CVE-2026-82078, CVSS 4.0 9.4)을 연결하면 인증 없이 원격 코드를 실행할 수 있습니다. 두 취약점은 8월 말 제로데이로 악용됐고, CISA는 8월 31일 이 두 CVE를 KEV(실제 악용이 확인된 취약점 목록)에 올렸습니다.
GTIG에 따르면 연구자들과 Huntress는 공개 하루 안에 LLM을 써서 작동하는 익스플로잇을 만들었습니다. GreyNoise는 공개 4일 뒤 진행된 공격 캠페인을 보고했습니다. 공격자가 LLM으로 익스플로잇을 만들고 시험해 표적 목록을 꾸린 것으로 보이며, 수백 개 조직이 공격 대상이 됐습니다.
GTIG가 제시한 수치는 다음과 같습니다. GTIG의 9월 분석에 따르면 월별 취약점 공개 건수는 2026년 1월 5,045건에서 8월 10,740건으로 두 배가 됐고, 실제 악용된 취약점 수는 2025년 월평균 10.5건에서 2026년 1~8월 월평균 18건으로 늘었습니다. 제로데이로 악용된 취약점은 같은 비교에서 월평균 8건에서 11건으로 소폭 늘었고, 이번 보고서에 따르면 8월 한 달에는 22건으로 뛰었습니다. 여기서 악용 수치는 공격 코드 개수가 아니라 실제로 악용된 취약점의 수입니다.
반대 방향의 신호도 있습니다. GTIG에 따르면 10월 PHP 취약점(CVE-2026-109618, CVE-2026-109619)은 10월 21일 공식 패치가 나오기 전에 PoC 영상과 고친 코드 일부가 먼저 공개돼, 연구자와 공격자 모두 코드를 비교해 익스플로잇을 시도할 수 있었습니다. GTIG는 공식 패치 직후 LLM의 도움으로 만든 것으로 보이는 PoC가 수백 개 올라왔고, 작동한다고 주장했지만 실제로는 작동하지 않는 코드였다고 설명했습니다. 다만 GTIG가 근거로 연결한 안랩 분석은 GitHub 저장소 100개의 공개 정보(이름·설명·주제 등)를 조사한 것으로, 개별 코드를 직접 검토하거나 실행해 작동 여부를 검증한 결과는 아닙니다. 안랩은 공개 직후 나온 코드를 검증 없이 실행하지 말라고 권고했습니다. 두 PHP 취약점은 CISA가 10월 26일 KEV에 올렸습니다.
다른 공격 프레임워크와 AI 시스템 공격
- CAIRN: 에이전트들이 공유 '칠판'을 통해 협업하는 오픈소스 침투 프레임워크입니다. 미국 항공우주 분야를 겨냥한 실제 침입에서 관측됐습니다. 일부 보도는 이 공격의 도구를 PentAGI로 적었지만, GTIG 원문은 CAIRN으로 기술합니다.
- PentAGI: 초보 운영자도 쓸 수 있게 만든 오픈소스 프레임워크입니다. 8월 말부터 10월 초까지 이를 개조한 플랫폼이 아시아 여러 조직을 대상으로 정찰과 취약점 스캔에 쓰였습니다. 어느 나라 조직인지는 공개되지 않았습니다.
- CyberStrikeAI, HexStrike AI: 이번 보고서에서 GTIG는 공격자가 두 도구를 시험하는 모습을 관측했다고 밝혔습니다. 다만 GTIG의 10월 30일 보고서는 HexStrike가 ARTEX·CAIRN과 함께 실제 사고 대응 현장에서 악용된 것을 관측했다고 적어, 실험 단계에만 머물렀다고 볼 수는 없습니다.
- ARTEX: Google은 자사 보안 운영 제품(SecOps)에 탐지 규칙을 배포했다고 밝혔습니다. ARTEX가 쓰인 사례는 ConnectWise 공급망 공격 분석에서 다뤘습니다.
- LiteLLM: GTIG는 탈취한 LLM 계정과 키를 악용하는 공격(LLMJacking)에서 LiteLLM의 제한된 가상 키를 관리자 권한으로 끌어올린 사례를 보고했습니다. 다만 보고서가 붙인 CVE 번호는 제작사 권고가 설명하는 취약점과 공격 조건이 맞지 않아 이 글에서는 번호를 연결하지 않습니다.
- 북한 연계로 추정되는 MIDNIGHT NEPTUNE: 침투 후 AI 코딩 도구의 설정 파일(
settings.json)을 고쳐 개발자가 도구를 실행하면 백도어가 내려받히게 했습니다.
확인된 것과 아직 모르는 것
확인된 것은 GTIG가 발표한 exploit_agent의 존재와 기능, 공격 대상 분야, 프레임워크별 관측 단계, 그리고 PaperCut 취약점의 KEV 등재입니다.
공개되지 않은 것도 많습니다. GTIG는 보고서 그림에서 exploit_agent의 분석 예시로 WordPress 플러그인 Spectra(Ultimate Addons for Gutenberg) 2.19.25를 보여 줬습니다. 그러나 전체 표적 소프트웨어 목록과 관련 CVE, 피해 조직 수, 사용된 모델 이름, 국내 조직 피해 여부는 보고서에 나오지 않습니다. GTIG는 이 프레임워크들이 지금은 속도를 얻는 대신 은밀함을 포기해 네트워크 흔적과 식별 가능한 코드 흔적을 남긴다고 봤습니다. 방어자에게는 탐지할 기회가 있다는 뜻입니다. 다만 GTIG는 도구가 발전하면서 사람의 개입은 줄고 은밀성은 높아질 것으로 전망했습니다.
우리 회사가 해당하는지 확인하는 법
아래 항목 중 하나라도 '예'라면 이 보고서가 다룬 위협 범위에 들어갑니다.
- 인터넷에 공개된 웹 서비스가 널리 쓰이는 패키지 위에서 돌아갑니다. 오픈소스 CMS와 플러그인(GTIG가 보여 준 분석 예시도 WordPress 플러그인입니다), 상용 웹 솔루션, 웹 관리 콘솔이 여기에 해당합니다. 패치 코드가 공개되는 소프트웨어일수록 패치 비교 대상이 되기 쉽습니다.
- 보안 업데이트를 정기 배포일까지 미뤄 두는 인터넷 노출 서버가 있습니다. PaperCut에서는 공개 하루 안에 작동하는 익스플로잇이 나왔고, 4일 뒤 수백 개 조직을 노린 공격 캠페인이 보고됐습니다. 며칠의 지연도 점검 대상이라는 뜻입니다. 실제 노출 기간은 취약 버전을 운영한 기간, 외부에서 접근할 수 있었는지, 임시 차단을 했는지에 따라 달라집니다. PaperCut처럼 공개 전부터 악용된 경우에는 공개일보다 먼저 시작됐을 수도 있습니다.
- 인터넷에 노출된 서버 가운데 담당자나 소프트웨어 버전을 모르는 것이 있습니다.
- PaperCut NG/MF를 씁니다. 제조사는 인터넷 노출 여부와 관계없이 모든 고객에게 업그레이드를 권고했습니다.
- LiteLLM 프록시를 1.81.8 이상 1.83.11 미만 버전으로 운영합니다. 제작사 권고의 custom-code guardrail 샌드박스 탈출 취약점(CVE-2026-40217) 영향 범위는 1.83.10 미만으로 적혀 있지만, 권고 본문은 1.83.11 이상으로 올리라고 안내합니다. 기본 설정에서는 이 엔드포인트를 쓰려면 프록시 관리자 자격 증명이 필요합니다.
- 개발자가 AI 코딩 도구를 쓰는데, 도구 설정 파일이 저장소나 개발자 PC에서 검토 없이 바뀔 수 있습니다.
해당 정도가 낮은 경우도 있습니다. 공개 웹 서비스를 모두 SaaS로 쓰고 직접 운영하는 서버가 없다면 패치 적용은 서비스 업체 몫입니다. 이때는 관리자 계정 보안과 업체 보안 공지 확인을 먼저 챙기면 됩니다. 자체 개발한 업무 코드만 운영한다고 해서 해당이 없는 것은 아닙니다. 업무 코드의 패치가 공개되지 않더라도, 그 코드가 쓰는 런타임·프레임워크·라이브러리·웹 서버의 공개 패치나 배포물은 비교 분석 대상이 될 수 있습니다. 실행 기반의 버전과 외부 노출을 함께 확인하고, PentAGI 사례 같은 AI 자동 정찰·스캔 대상이라는 점도 기억해 두십시오.
대응 순서
오늘
- 인터넷에 노출된 웹 서비스 목록을 뽑습니다. 도메인과 서브도메인마다 사용 소프트웨어, 버전, 담당자를 한 표에 적고, 빈칸이 생긴 서버부터 우선순위를 둡니다.
- 최근 공개된 보안 업데이트 가운데 아직 적용하지 않은 것을 확인합니다. CISA KEV에 오른 항목은 실제 악용이 확인된 것이므로 먼저 처리합니다.
- PaperCut NG/MF: 제조사 보안 공지(8월 27일 게시, 9월 10일 갱신)에 따른 정식 수정 버전은 26.0.5, 25.0.13, 24.1.10입니다. 23 이하 버전은 패치가 없어 지원 버전으로 올려야 합니다. 주 애플리케이션 서버뿐 아니라 Site Server와 보조·인쇄 서버도 함께 올립니다. 당장 올리지 못하면 방화벽이나 네트워크 접근 제어로 PaperCut Application Server의 웹 인터페이스 전체를 신뢰하는 IP 주소에서만 열어 둡니다. 관리자 화면 경로만 막는 것으로는 대신할 수 없습니다.
- PaperCut을 취약 버전으로 운영했다면 패치와 함께 제조사 공지의 침해 지표도 확인합니다.
server.log가 지워졌거나 비정상적으로 줄었는지, PaperCut 서버 프로세스가 낯선 하위 프로세스를 실행했는지, 모르는 원격 접속 도구가 설치됐는지 봅니다. 침해가 의심되면 증거와 백업을 보존하고, 사고 대응 절차에 따라 격리, 재구축, 정상 백업 복원을 검토합니다. 패치를 적용했거나 지표가 보이지 않는다는 이유만으로 기존 침해가 없었다고 판단하지 않습니다. - LiteLLM: GitHub 권고문의 패치 버전 칸은 1.83.10이지만 본문은 1.83.11 이상으로 올리라고 안내합니다. 이 글은 본문 안내에 따라 1.83.11 이상을 기준으로 삼습니다. 당장 올릴 수 없다면 리버스 프록시나 API 게이트웨이에서
POST /guardrails/test_custom_code요청을 차단합니다. - PHP로 운영하는 서비스: 두 PHP 취약점(CVE-2026-109618, CVE-2026-109619)은 CISA가 10월 26일 KEV에 올린, 실제 악용이 확인된 취약점입니다. PHP2Shell 대응 글의 순서대로 버전을 확인해 패치하고, 흔적 점검도 함께 합니다.
- 웹 루트에서 최근 생성되거나 변경된 스크립트 파일을 확인합니다. exploit_agent 서버에 다른 공격자의 웹셸을 지우는 스크립트가 있었다는 점을 기억해 두십시오. 기존 웹셸이 사라졌다고 해서 안전하다는 뜻은 아닐 수 있습니다. 파일 확인만으로는 로그 삭제나 서버 프로세스가 띄운 낯선 프로그램을 놓칠 수 있으므로, 웹 서버 로그를 먼저 보존한 뒤 함께 확인합니다.
이번 주
- 패치 적용 기준을 다시 정합니다. 인터넷에 노출돼 있고 실제 악용이 확인된(KEV 등재 등) 항목은 공개 후 며칠 안에 반영하는 것을 목표로 합니다. 정기 점검일을 기다리지 않는 예외 절차도 함께 만듭니다. 주기 설계는 AI 취약점 대량 발견 시대 패치 주기 글을 참고하십시오.
- 바로 패치할 수 없는 시스템은 임시 차단 수단을 미리 정해 둡니다. 관리 화면 접근 제한, 취약 경로 차단 같은 방법입니다.
- 웹 서버와 WAF 로그에서 짧은 시간에 몰린 스캔, 같은 출발지에서 이어지는 취약 경로 요청을 찾습니다. GTIG는 지금의 공격 프레임워크가 많은 트래픽과 식별 가능한 흔적을 남긴다고 했습니다.
- AI API 키와 LLM 게이트웨이 키를 점검합니다. 공개 저장소에 노출된 적은 없는지, 사용량이 급증하지 않았는지, 낯선 서비스 계정이 새로 생기지 않았는지 봅니다. GTIG는 LLMJacking의 초기 침투 경로 중 하나로 공개 GitHub 저장소에서 자격 증명을 수집하는 방식을 들었습니다. 점검 방법은 API 키 노출 점검 글에 정리돼 있습니다.
이번 달
- 외부 노출 자산 관리를 한 번 만들고 끝나는 목록이 아니라 '발견, 담당 지정, 조치, 재확인'이 반복되는 흐름으로 바꿉니다.
- 공개 PoC 처리 원칙을 정합니다. 판단은 제조사 공지와 공식 기관 정보를 기준으로 하고, 출처가 불분명한 PoC는 운영망에서 실행하지 않습니다. PHP 사례처럼 작동하지 않는 PoC가 쏟아질 수 있습니다.
- AI 코딩 도구 설정 파일과 실행 훅을 코드 리뷰 대상에 넣고, 개발자 PC에서 이 파일이 바뀌면 알 수 있게 합니다.
- LLM 게이트웨이의 가상 키 권한 범위와 관리자 계정을 정리합니다. GTIG가 보고한 권한 상승 사례와 제작사가 설명한 CVE-2026-40217(custom-code guardrail 샌드박스 탈출)이 같은 공격 경로인지는 공개 자료만으로 확인할 수 없습니다. CVE 영향과 패치 여부는 제작사 권고를 기준으로 확인하고, 키 권한 점검은 그와 별도로 진행합니다. LiteLLM을 운영 중이라면 LiteLLM 공급망 공격 대응 글도 함께 확인하십시오.
자가점검
- 인터넷에 노출된 웹 서비스마다 소프트웨어, 버전, 담당자를 바로 답할 수 있는가
- 최근 KEV에 오른 항목 가운데 우리 자산에 해당하는 것이 있는지 확인했는가
- 보안 업데이트 공개부터 운영 반영까지 실제로 걸린 시간을 재고 있는가
- 패치할 수 없는 시스템의 임시 차단 방법이 정해져 있는가
- 웹 루트의 최근 변경 파일을 정기적으로 확인하는가
- LLM 게이트웨이를 운영한다면 버전과 가상 키 권한을 점검했는가
- AI API 키가 코드 저장소에 들어간 적이 없는지 확인했는가
- AI 코딩 도구 설정 파일의 변경이 리뷰를 거치는가
점검을 맡길 때
공격자가 패치를 읽는 속도가 빨라질수록 방어는 '우리 외부 자산이 무엇이고 누가 맡고 있는가'를 아는 데서 시작합니다. SENTRIX ASM은 외부에 노출된 자산을 찾고 담당 지정, 조치, 재확인까지 이어서 관리하도록 돕습니다. LLM 게이트웨이나 AI 에이전트를 직접 운영한다면 키 권한과 업무 로직이 연쇄 공격 경로가 되는지 따로 확인해야 합니다. AI 심화 취약점 진단에서는 합의한 범위 안에서 이를 검증하고 재현 근거와 수정 방향을 받아 볼 수 있습니다. 인터넷에 노출된 웹 서비스 목록과 담당자가 아직 정리되지 않았다면, SENTRIX ASM 도입 상담에서 현재 외부 자산 현황부터 함께 확인해 보시길 권합니다.
참고 자료
- Google GTIG: GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold
- Google GTIG: Vulnerability Discovery and Exploitation Trends in the AI Era (2026-09-30)
- CISA: CISA Adds Two Known Exploited Vulnerabilities to Catalog (2026-08-31)
- GitHub Advisory: LiteLLM has a sandbox escape in custom-code guardrail (CVE-2026-40217)
- The Register: Google AI agent turned a security patch into a working exploit with no human help
- The Hacker News: Google Finds Hackers Using AI Agents to Build and Run Exploits From Software Patches (원본 보도)
외부 자산 현황부터 확인하는 SENTRIX ASM 도입 상담
외부 자산·브랜드 위협과 담당·조치·재확인 관리를 위한 SENTRIX ASM을 살펴보세요. 필요한 범위를 확인하고 도입 상담 후 견적을 안내합니다.