AI 서비스의 문제인가, AI가 찾은 기존 시스템의 문제인가
AI 모델을 바꿨다고 기존 서버의 결함까지 수정됐다고 볼 수는 없습니다. 반대로 서버 패치를 설치했다는 사실만으로 외부 문서의 지시나 불필요한 도구 권한이 통제된다고 판단할 수도 없습니다. 무엇에 문제가 생겼는지 구분해야 담당자와 필요한 근거를 정할 수 있습니다. 아래는 실제 사고나 제품 시험이 아닌 가상 상황입니다. AI 보안 위협 전체의 분류표는 아닙니다. OWASP는 웹페이지·파일 등 외부 자료가 AI의 행동을 바꾸는 간접 프롬프트 인젝션과, 필요 이상의 기능·권한·자율성을 부여하는 문제를 구분해 설명합니다. 요청문에 하지 말라는 문장을 더하는 데 그치지 말고, 연결 시스템의 접근 권한과 중요한 행동 전 승인이 실제로 적용되는지도 점검할 부분입니다. 자료 안의 요구는 회사가 새로 승인한 작업 지시가 아닙니다.
| 관찰한 상황 | 점검할 경계 | 담당자에게 전달할 근거 |
|---|---|---|
| 외부 문서의 요구를 따라 AI가 허용하지 않은 자료를 읽거나 보내려 함 | 외부 자료와 실행 지시의 구분, 도구 권한과 승인 | 실제 사용자 요청, 문제 문구 위치, 접근·도구 호출 기록 |
| 조회용 AI에 불필요한 삭제·발송 기능이나 광범위한 권한이 연결됨 | 업무에 필요한 기능·계정 권한과 실행 전 승인 | 연결 도구와 권한 범위, 승인·차단 시험 결과 |
| AI 보고서가 기존 서버의 취약한 제품·버전을 지적함 | 공식 영향 조건과 실제 자산, 수정 뒤 적용 상태 | 제품 보안 공지, 설치·실행 버전, 영향 조건과 검증 기록 |
AI의 주장과 확인된 영향을 분리
보고서에서 자산 이름, 제품·버전, 취약한 설정이나 코드 위치, 탐지 시각과 근거를 찾아 연결합니다. 공개 취약점 식별번호인 CVE가 적혀 있다면 제조사 보안 공지의 영향 버전·적용 조건과 회사의 실제 설치 상태를 대조하세요. 번호가 없는 발견도 버리지 말고 근거 확인 대상으로 남깁니다. AI가 제안한 명령이나 검증 코드를 운영 서버에서 바로 실행하지는 않습니다. 담당자가 범위를 승인한 분리된 테스트 환경에서 필요한 확인 방법을 정하세요. 확인되지 않은 항목은 '문제없음'이 아니라 '미확인'으로 기록합니다. 아래 표는 실제 제품이나 회사의 탐지 결과가 아닌 처리 예시입니다.
| 현재 확보한 근거 | 다음 결정 | 아직 완료라고 할 수 없는 이유 |
|---|---|---|
| 공식 영향 버전과 일치하고 운영 자산이 외부에 노출됨 | 담당자가 악용 정보·업무 영향을 대조해 긴급 조치 검토 | 패치 적용과 재검증이 남음 |
| AI 경고는 있으나 설치 버전·적용 조건이 불명확함 | 근거와 자산 정보를 보완하고 판정 보류 | 미확인은 안전 확인이 아님 |
| 패치를 배포했으나 실행 중 버전과 기능을 확인하지 않음 | 적용 상태와 핵심 기능을 재검증 | 배포 성공만으로 취약점 해소를 확정할 수 없음 |
심각도 점수 하나로 수정 순서를 확정하지 않기
FIRST는 CVSS 기본 점수가 취약점의 심각도를 나타내며, 이를 단독으로 위험 평가에 사용해서는 안 된다고 설명합니다. 실제 위협과 회사 환경 정보를 더해야 합니다. 점수를 옮길 때는 버전과 산정 근거인 벡터도 남겨 서로 다른 기준을 섞지 않도록 합니다. CISA의 KEV는 알려진 악용 취약점 자료로, 공식 저장소에서 CSV·JSON과 변경 이력을 제공합니다. 해당 여부와 조회 시점을 기록하되 목록에 없다는 사실만으로 안전하다고 결론 내리지는 마세요. 외부 접근 가능성, 필요한 권한, 연결된 중요 데이터, 장애 시 업무 영향을 담당자와 함께 판단해야 합니다. 이 글은 모든 회사에 적용되는 자동 우선순위 점수나 고정 패치 기한을 정하지 않습니다.
수정 완료 조건을 패치 배포보다 뒤에 두기
NIST의 기업 패치 관리 개요는 식별·우선순위 결정·패치 확보·설치에 이어 설치 검증까지 포함합니다. 담당자가 '업데이트했다'고 말한 것과 의도한 상태가 실제 적용된 것은 구분해야 합니다. 실무 기록에는 대상 자산, 승인된 수정·임시 조치, 작업 담당자, 일정, 실패 시 복구 방법, 확인자를 나눠 적을 수 있습니다. 적용 뒤에는 실행 중인 버전·설정과 문제가 있었던 조건을 확인하고, 로그인·저장 같은 핵심 기능도 점검하세요. 검증은 승인된 범위에서 수행하며, 경고를 숨기거나 점검 대상을 빼서 숫자만 줄이는 방식은 완료 근거가 아닙니다. 임시 완화로 남겨둔 항목에는 잔여 위험과 재검토 날짜를 남깁니다.
작업 한 건에 남길 최소 기록
다음은 특정 보안 제품의 필수 서식이 아닌 이 글의 작업 기록 예시입니다. 대상: 자산·담당 부서 / 제품·현재 버전 발견: 점검 시각 / 도구·버전 / 원문 근거 / CVE 또는 미확인 영향: 공식 공지와 일치하는 조건 / 외부 노출 / 중요 업무 결정: 수정·임시 완화·추가 확인 중 선택 / 결정 이유 실행: 담당자 / 승인자 / 일정 / 복구 계획 검증: 적용 버전·설정 / 핵심 기능 결과 / 확인자·시각 후속: 남은 항목 / 재검토 날짜 기록을 AI로 요약할 때도 비밀번호·토큰·고객 원문을 불필요하게 보내지 않습니다. 분석에 사용할 저장소나 로그와 수정 권한은 회사가 승인한 범위로 제한하세요. 보고서 정리를 맡겼다는 이유로 자동 배포나 접근 권한 확대까지 허용한 것으로 해석해서는 안 됩니다.