데일리시큐 11월 18일 보도에 따르면, AI 기업 예진이 멀티 AI 플랫폼 젤리아이(ZeliAI)에 FIDO2·W3C WebAuthn 기반 패스키 로그인을 정식 도입했습니다. 검증 엔진은 외부 라이브러리 없이 직접 만들었다고 밝혔습니다. 취약점이나 침해 사고 소식은 아닙니다. 다만 업무용 AI 계정에 대화 기록과 내부 문서가 쌓이는 회사라면 세 가지를 이번에 나눠 둘 필요가 있습니다. 그 계정이 지금 어떤 로그인으로 보호되는지, 패스키로 막히는 위협은 무엇인지, 그래도 남는 위협은 무엇인지입니다.

무엇이 일어났나

기사에 실린 회사 설명은 다음과 같습니다.

  • 서버에 비밀번호를 두지 않습니다. 사용자 기기 안의 개인키로 만든 서명을 서버가 가진 공개키로 검증합니다. 도메인 정보가 서명에 묶여 있어 피싱 사이트에서는 인증이 성립하지 않는다고 설명했습니다.
  • 윈도우 헬로, Face ID, Touch ID, 안드로이드 생체인증, 하드웨어 보안키를 지원합니다.
  • 외부 WebAuthn 라이브러리나 인증 SaaS 없이 자바 JCA 위에서 검증기를 직접 설계했습니다. CBOR 파서, COSE 공개키 디코더, 타원곡선 서명 검증기를 경량 모듈로 만들었습니다. 재전송 공격은 1회용 챌린지로 막고, 보안키 복제 징후는 서명 카운터로 잡는다고 했습니다. 오픈소스 의존에서 오는 공급망 위험을 줄이려는 선택이라는 설명입니다.

기사로는 확인되지 않는 것도 있습니다. 이 구현을 외부에서 검증받았는지, 소셜 로그인 같은 다른 로그인 수단을 함께 열어 두는지, 기기를 잃었을 때 계정을 어떻게 복구하는지는 나와 있지 않습니다. 그래서 이 글은 특정 제품의 안전성을 평가하지 않습니다. 같은 고민을 하는 회사가 확인할 기준을 정리합니다.

왜 AI 계정이 표적이 되는가

보안 업체 SOCRadar가 BleepingComputer에 낸 후원 기사(2026년 9월 28일)가 있습니다. 이 업체는 AI 서비스와 연결된 인포스틸러(정보 탈취 악성코드) 기록 100만 건 이상을 분석했고, 관련된 기업 도메인이 8만 개를 넘었다고 밝혔습니다. 직원이 소스코드, 고객 기록, 계약서를 프롬프트에 붙여 넣기 때문에 대화 기록 자체가 유출의 핵심이라는 것이 업체의 판단입니다. 다만 업체 자체 조사이고 집계 기준도 업체가 정했습니다. 숫자는 흐름을 읽는 정도로만 보는 것이 맞습니다.

같은 기사에서 눈여겨볼 부분은 탈취 대상에 세션 쿠키가 들어 있었다는 점입니다. 기사 설명대로라면 세션 쿠키를 손에 넣은 공격자는 비밀번호나 MFA 확인 없이 접속할 수 있습니다. 패스키를 이야기할 때 이 지점을 빠뜨리면 안 됩니다.

패스키가 막는 것과 남기는 것

패스키가 막는 것은 피싱입니다. WebAuthn Level 3은 2026년 8월 25일 W3C 권고안이 됐습니다. 이 표준에 따라 서버는 두 가지를 확인합니다. 응답에 담긴 origin이 예상한 주소인지, 그리고 authenticatorData의 rpIdHash가 자기 RP ID의 SHA-256 해시와 같은지입니다.

NIST SP 800-63B-4 최종본도 같은 원리를 설명합니다. 동기화형 패스키의 키 쌍은 만들어진 도메인에서만 쓰이므로, 가짜 페이지가 인증 결과를 가로채도 다시 쓸 수 없습니다. 그래서 NIST는 AAL2에서 사용을 허용했습니다. 다만 키를 기기 밖으로 내보낼 수 있다는 특성 때문에 AAL3에는 쓸 수 없다고 정했습니다. CISA는 2022년 10월 자료에서 FIDO/WebAuthn을 피싱 저항 MFA로 가장 높은 등급에 두었습니다. SMS·음성 인증은 최후의 수단으로만 쓰라고 권고했습니다.

패스키를 넣어도 남는 위협은 세 가지입니다.

  • 로그인 이후의 세션: 패스키는 로그인 순간만 지킵니다. 감염된 PC에서 세션 쿠키가 빠져나가면 패스키는 손쓸 수 없습니다.
  • 약한 우회 경로: OWASP 다중 인증 치트시트는 대체 인증이 주 인증보다 약하면 안 된다고 권고합니다. 피싱 저항 인증에서 낮은 수준의 인증으로 내려가는 길도 막으라고 합니다. 패스키 옆에 SMS 로그인이나 허술한 이메일 복구가 열려 있으면 공격자는 그쪽을 노립니다.
  • 구현 오류: 서버가 표준의 검증 단계를 하나라도 빠뜨리면, 원리상 갖춘 피싱 저항이 실제로는 성립하지 않을 수 있습니다.

자체 구현과 서명 카운터

Google 패스키 개발자 가이드는 서버 기능을 처음부터 구현할 수는 있지만 라이브러리를 쓰라고 권합니다. 사양이 계속 바뀔 수 있어서 관리되는 라이브러리가 사양 준수와 보안 유지에 유리하다는 이유입니다. 예진은 반대로 의존성을 줄이는 쪽을 골랐습니다. 두 선택 모두 근거가 있습니다. 어느 쪽이든 표준의 검증 단계를 빠짐없이 지킨다는 것을 실패 사례까지 포함한 테스트로 보여 줄 수 있어야 합니다.

서명 카운터는 보조 신호로 봐야 합니다. W3C 표준에 따르면 카운터를 지원하지 않는 인증기는 signCount를 0으로 고정해 보냅니다. 새 값이 저장된 값보다 작거나 같으면 복제나 오작동 가능성을 뜻합니다. 하지만 지금 들어온 요청이 원본인지 복제본인지는 카운터만으로 알 수 없고, 어떻게 대응할지는 서비스가 위험을 판단해 정하도록 되어 있습니다. 카운터 하나로 복제를 판정하는 설계는 0을 보내는 인증기에는 작동하지 않습니다.

우리 회사가 해당하는지 확인하는 법

경우 1. 외부 AI 서비스를 업무에 쓰는 회사. 아래 중 하나라도 맞으면 대응 순서의 '오늘'과 '이번 주'를 보십시오.

  • 직원이 개인 이메일이나 개인 소셜 계정으로 업무용 AI 서비스에 가입해 쓴다
  • AI 서비스가 회사 SSO와 연결되어 있지 않아 퇴사자의 접근을 회사가 직접 끊을 수 없다
  • MFA가 선택 사항이거나 SMS 인증만 쓴다
  • 대화 기록 보관이 켜져 있고, 소스코드나 고객 정보가 입력된다
  • AI API 키를 개발자 PC, 자동화 도구, 설정 파일에 저장해 쓴다

경우 2. 로그인 기능이 있는 자체 서비스를 운영하는 회사. 아래에 해당하면 '이번 달'을 보십시오.

  • 패스키를 직접 구현했거나 구현할 계획이다
  • 패스키를 넣은 뒤에도 비밀번호, SMS, 이메일 링크 로그인을 그대로 열어 둔다
  • 고객센터가 전화 본인 확인만으로 인증수단을 초기화해 준다

업무에 외부 AI 서비스를 쓰지 않고 로그인 기능이 있는 서비스도 운영하지 않는다면, 이번 소식으로 당장 할 일은 없습니다.

대응 순서

오늘

  • 업무에 쓰는 AI 서비스 목록을 만듭니다. 서비스명, 계정 소유(회사 또는 개인), 로그인 방식, MFA 여부, 관리자를 한 표로 정리합니다.
  • 관리자 권한과 결제 권한이 있는 계정부터 서비스가 지원하는 가장 강한 인증을 켭니다. 패스키나 보안키를 지원하면 그것을 쓰고, 없으면 번호 일치형 푸시나 앱 OTP를 씁니다. CISA는 피싱 저항 MFA를 바로 도입하기 어려운 중소기업에 이 두 방식을 차선책으로 제시했습니다.
  • 인포스틸러 감염이 의심되는 PC가 있으면 비밀번호만 바꾸고 끝내지 마십시오. 단말 사고로 다뤄야 합니다. 그 PC에서 쓰던 AI 서비스의 세션은 서비스가 제공하는 기능으로 모두 끊고, 비밀번호와 API 키를 바꿉니다.

이번 주

  • AI 서비스를 회사 SSO 뒤에 두고 세션 유지 시간을 짧게 잡습니다. 앞의 SOCRadar 기사도 SSO, 짧은 세션, 갱신 토큰 교체를 권고했습니다.
  • 개인 계정으로 쓰던 업무용 AI는 회사 계정으로 옮깁니다. 누가 어떤 AI 도구를 쓰는지 파악하는 방법은 AI 에이전트 권한 점검: 데이터 접근·작업 범위·섀도 AI 글에 정리했습니다.
  • AI API 키에는 사용 범위와 한도를 걸고, 노출이 의심되는 키는 교체합니다. 교체 순서는 API 키 노출 점검 글을 참고하십시오.
  • 대화 기록 보관 설정을 확인하고, AI에 넣지 않을 자료의 기준을 정해 공지합니다.

이번 달

자체 서비스에 패스키를 넣었거나 넣을 조직이 할 일입니다. 서버 검증 항목은 W3C 표준과 Google 개발자 가이드 기준입니다.

  • 구현 방식: 라이브러리를 쓴다면 관리 상태와 업데이트 주기를 확인합니다. 직접 구현한다면 아래 항목마다 실패 사례 테스트를 만듭니다.
  • 챌린지: 로그인 시도마다 새로 만듭니다. 암호학적으로 안전한 16바이트 이상 난수를 쓰고, 세션에 저장하되 다시 쓰지 않습니다.
  • origin: 우리 로그인 주소와 일치하는지 확인합니다.
  • rpIdHash: 우리 RP ID의 SHA-256 해시와 같은지 확인합니다.
  • UP·UV 플래그: UP 플래그를 확인합니다. 사용자 확인을 요구하는 설계라면 UV 플래그도 서버에서 반드시 확인합니다. OWASP는 사람이 있다는 것을 확인하는 터치만으로는 두 번째 인증 요소가 되지 않는다고 설명합니다.
  • 서명: 저장된 공개키로 검증합니다.
  • 등록: 이미 등록된 credential ID가 들어오면 등록을 실패시킵니다. W3C 표준이 권고하는 단계입니다.
  • 복구와 대체 경로: 패스키 수준에 맞춥니다. W3C 표준은 단일 기기 패스키라면 추가 인증기를 등록해 두고 계정 복구 절차를 마련하라고 권고합니다. OWASP는 인증수단을 바꿀 때 현재 로그인 상태만 믿지 말고 기존 수단으로 다시 인증받게 하라고 권고합니다. 변경 사실은 별도 경로로 사용자에게 알리라고 합니다.
  • 세션: 로그인 후 세션 쿠키 수명, 국가나 기기가 바뀐 접속의 재인증, 세션 재사용 탐지를 점검합니다.

자가점검

  • 업무용 AI 서비스 목록과 계정 소유 주체를 바로 내놓을 수 있다
  • 관리자 계정에 패스키나 보안키, 그게 안 되면 번호 일치형 푸시나 앱 OTP가 켜져 있다
  • 퇴사자의 AI 서비스 접근을 회사가 직접 끊을 수 있다
  • 인포스틸러 감염 때 세션 종료와 키 교체 절차가 문서로 있다
  • 자체 서비스의 패스키 검증에 실패 사례 테스트(다른 origin, 재사용 챌린지, UV 미설정, 중복 credential ID)가 있다
  • 비밀번호 재설정과 고객센터 초기화 경로가 패스키보다 약하지 않다
  • 세션 재사용이나 평소와 다른 위치의 접속을 탐지하는 기준이 있다

점검을 맡길 때

패스키는 로그인 순간을 단단하게 만듭니다. 하지만 복구 절차, 세션 처리, 로그인 이후 권한 확인까지 대신 검증해 주지는 않습니다. 자체 서비스의 로그인·복구·세션 흐름에 인증 우회나 계정 탈취 경로가 있는지는 보안 전문 기업 SENTRIX의 모의해킹·취약점 진단에서 합의한 범위 안에서 직접 시도해 확인할 수 있습니다. AI 기능이 붙은 서비스라면 AI 심화 취약점 진단이 맞습니다. 탈취된 계정 하나가 대화 기록, 연결된 도구, 에이전트 권한을 거쳐 어디까지 이어지는지 AI로 공격 경로 후보를 찾고, 레드팀이 직접 검증해 재현 근거와 수정 방향을 정리합니다.

패스키 도입이나 로그인 구조 개편을 앞두고 있다면, 복구 경로와 세션 처리까지 점검 범위에 넣을지 설계 단계에서 SENTRIX와 먼저 상의해 보십시오.

참고 자료

로그인·계정 복구 흐름 점검 상담

보안 실무 10년 전문가가 기업 환경에 맞는 방안을 제시합니다.