챗봇·워크플로우·에이전트는 완전히 나뉜 제품명이 아닙니다
챗봇이라는 말은 사용자와 대화하는 형태를 설명합니다. 워크플로우는 정해 둔 처리 순서에, 에이전트는 상황에 따라 다음 단계와 도구를 고르는 방식에 초점이 있습니다. 채팅창을 쓰는 에이전트도 있고, 고정된 순서 중 일부에서만 AI 판단을 쓰는 서비스도 있습니다. Anthropic은 미리 정한 코드 경로를 따르는 워크플로우와 모델이 진행 경로를 정하는 에이전트를 구분합니다. 아래 표는 이 구분을 배송 문의에 적용한 설명용 예시이지, 제품별 성능 등급표가 아닙니다.
| 관점 | 가상 처리 예시 | 살펴볼 부분 |
|---|---|---|
| 대화형 답변 | 주어진 배송 안내문을 읽고 답변 초안 작성 | 어떤 자료로 답했는지 |
| 정해진 워크플로우 | 주문 조회 → 지연 여부 분류 → 담당자에게 전달 | 분기와 처리 순서가 정해져 있는지 |
| 에이전트형 처리 | 조회 결과에 따라 추가 정보나 다른 조회 도구 선택 | 허용된 행동·중단 조건·실행 기록 |
답변 초안, 실행 요청, 처리 완료를 구분하기
AI가 "고객에게 안내했습니다"라고 적었다고 발송이 끝났다고 볼 수는 없습니다. 초안을 만들었는지, 전송 도구에 요청했는지, 실제 처리 결과를 받았는지는 다른 상태입니다. 도입 시연에서는 마지막 답변만 보지 말고 결과 화면이나 처리 기록까지 보여 달라고 요청하세요. 배송 문의라면 주문 조회 시각과 조회 결과, 만든 초안, 발송 전 검토 여부를 나눠 살피는 방식입니다. 배송 시스템에 접근할 도구나 권한이 없다면 그 부분은 사람이 제공한 정보에 의존합니다. 말로 계획을 설명하는 능력과 시스템에서 실행하는 능력은 같지 않습니다. 작동 흐름은 ‘정보 읽기 → 다음 행동 선택 → 허용된 도구 실행 → 돌아온 결과 읽기’로 생각할 수 있습니다. 결과를 읽은 뒤 추가 조회를 할지, 사람에게 물을지, 일을 끝낼지 고릅니다. Anthropic의 설명도 도구 결과처럼 실제 환경에서 얻은 정보로 진행 상태를 판단하고, 필요한 경우 사람의 판단을 받도록 합니다. 반복 횟수의 상한 등 멈출 조건도 별도로 두는 이유입니다. 아래는 ‘배송 문의의 답변 초안을 만든다’는 목표에 적용한 설계 예시입니다. 모든 시스템이 이 순서를 따르는 것은 아니며, 어떤 도구가 연결돼 있는지에 따라 가능한 행동이 달라집니다. 초안 작성이 목표라면 초안과 미확인 사항을 남긴 뒤 끝냅니다. 발송까지 맡기는 경우에는 별도의 권한·승인과 처리 결과 확인이 필요합니다. 시연을 요청할 때는 정상 조회뿐 아니라 주문번호 누락과 조회 실패도 보여 달라고 해보세요. 조회 오류를 ‘아직 배송되지 않음’으로 바꿔 답하거나, 초안만 만든 뒤 ‘발송 완료’라고 기록한다면 실패한 상태를 숨긴 것입니다. 반복 조회가 계속 실패하면 정해 둔 상한에서 멈추고 담당자에게 넘기는지도 살펴야 합니다.
| 지금 얻은 정보 | 다음 행동의 예 | 끝내거나 기다릴 조건 |
|---|---|---|
| 주문번호가 없음 | 필요한 번호를 사용자에게 질문 | 번호를 받기 전에는 조회한 것처럼 답하지 않음 |
| 주문 조회에 성공했고 운송장 번호가 있음 | 허용된 배송 조회 도구로 상태 확인 | 새 조회 결과를 읽은 뒤 다음 행동 선택 |
| 배송 상태와 조회 시각을 확인함 | 확인한 사실을 넣어 답변 초안 작성 | 초안 작성이 목표라면 미확인 사항과 함께 제출 후 종료 |
| 조회 오류 또는 필요한 정보가 없음 | 미확인 상태를 구분하고 추가 확인이나 담당자 이관 | 재시도 상한·권한·필요 정보의 제약에서 멈춤 |
| 발송까지 별도로 요청받음 | 발송 권한과 승인 조건을 확인한 뒤 전송 | 전송 도구의 결과를 확인하기 전에는 완료로 기록하지 않음 |
도구를 많이 붙일수록 좋은 것은 아닙니다
배송 현황 조회만 필요한 업무에 주문 삭제나 결제 변경 권한까지 열어둘 이유는 없습니다. OWASP는 필요 이상의 기능·권한·자율성이 피해를 키울 수 있다고 설명합니다. 중요한 외부 행동에는 승인 절차를 두고, 권한 제한은 AI에게 말로 부탁하는 데 그치지 말고 연결 시스템에서도 적용해야 합니다. 도입 담당자에게 "무엇을 읽고 무엇을 바꿀 수 있나요? 승인하지 않으면 실행되지 않는 단계는 어디인가요?"라고 물어보세요. 특정 제품이 이 기능을 기본으로 제공한다고 가정하지 말고 실제 설정과 시험 결과로 답을 받아야 합니다.
매번 같은 순서라면 더 단순한 자동화도 후보
매일 같은 자료를 내려받아 같은 형식으로 정리하는 일이라면 예약 실행과 고정된 절차로 충분할 수 있습니다. 자료마다 다음 조사 경로가 달라져야 한다면 에이전트형 처리가 필요한지 시험할 여지가 있습니다. 이름보다 처리해야 할 일의 변동성이 선택 기준입니다. 작은 시험에서는 같은 업무를 사람 또는 기존 자동화로 처리한 결과와 나란히 놓으세요. 완료 기준을 충족한 건수, 사람이 다시 고친 건수, 대기 시간과 비용을 따로 기록하는 편이 낫습니다. 오래 켜두는 운영 문제는 함께 볼 글의 24시간 운영 안내에서 다룹니다.