AI 전화응대는 무엇을 근거로 답할까: 응답 매뉴얼과 환각 줄이기

제로콜 AI 전화응대가 답하는 근거는 두 가지입니다. 'AI' > '매장 기본 설정'에 입력한 정보와, 지금 켜져 있는 응답 매뉴얼입니다. 꺼 둔 매뉴얼은 답변에 쓰지 않습니다. 근거가 없는 질문에는 지어내지 않고 접수하거나 담당자에게 넘기도록 설계하는 것, 이것이 AI 환각을 줄이는 핵심입니다.

AI 환각(hallucination)은 왜 생길까

대형 언어 모델은 문맥상 가장 그럴듯한 다음 말을 만들어 내는 모델입니다. 그래서 모르는 내용을 물어도 '모른다'고 하기보다 그럴듯한 답을 만들어 낼 수 있는데, 이를 환각이라고 부릅니다. 특히 '이 매장에 주차가 되는지'처럼 모델이 학습한 적 없는 개별 매장의 사실은 근거 없이 답하면 틀릴 가능성이 높습니다.

해결책은 모델의 기억 대신 매장이 준 자료를 보고 답하게 하는 것입니다. 질문이 들어오면 관련 자료를 먼저 찾고, 그 내용을 읽은 상태에서 답을 만들게 하면 답의 근거가 분명해집니다. 흔히 검색 증강 생성(RAG)이라고 부르는 방식과 같은 발상입니다.

근거 기반 응답의 원리: 찾고, 읽고, 답한다

제로콜 AI는 고객 질문과 가장 관련 있는 응답 매뉴얼을 찾고, 이때 매뉴얼 제목을 가장 중요하게 봅니다. 찾은 매뉴얼과 매장 기본 정보를 함께 참고해 답을 만들고, 매뉴얼에 없는 질문은 내용을 접수해 사장님께 넘기거나, 응대 모드가 'AI + 운영자'일 때는 담당자에게 연결합니다.

매장 기본 정보와 응답 매뉴얼의 역할

매뉴얼은 목록 오른쪽 스위치로 켜고 끌 수 있고, 바꾸는 즉시 저장됩니다. 시즌 메뉴나 이벤트처럼 기간이 정해진 안내는 필요할 때만 켜 두면, 지난 이벤트를 AI가 안내하는 일을 막을 수 있습니다.

환각을 줄이는 응답 매뉴얼 설계 원칙

• 제목은 고객이 묻는 말투로: '주차안내문' 대신 '주차 가능한가요?'처럼 씁니다. AI가 질문과 매뉴얼을 짝지을 때 제목을 가장 중요하게 보기 때문입니다.
• 내용은 2~3문장으로: 전화로 읽어 주기 좋게 쓰고, '/', ':' 같은 기호와 약어는 피합니다.
• 실시간 정보는 넣지 않기: 예약 현황이나 재고는 넣지 말고 '담당자에게 연결해 드리겠습니다'라고 안내하게 씁니다.
• 넘겨야 할 상황을 적어 두기: 화난 고객, 환불, 복잡한 예약 변경, 사람과 통화하고 싶다는 요청은 담당자에게 연결하라고 매뉴얼에 적습니다.
• 서로 어긋나지 않게: 매장 기본 정보와 매뉴얼에 같은 내용을 다르게 적지 않습니다. 근거가 둘이면 AI도 헷갈립니다.
• 개인정보와 결제정보는 넣지 않기.

AI가 하지 않는 일을 분명히 하기

AI는 매뉴얼에 적힌 사실만 알 뿐, 오늘 남은 자리나 재고, 예약 현황은 알지 못합니다. 그래서 예약도 AI가 확정하지 않습니다. 노트 매뉴얼로 날짜, 인원, 연락처를 접수하면 그 내용이 '확인 필요 액션'에 쌓이고, 사장님이 확인한 뒤 확정 연락을 하는 구조입니다. 이 경계를 매뉴얼에 분명히 적어 두면 AI가 할 수 없는 약속을 하지 않습니다.

매뉴얼을 점검하는 습관

가장 좋은 점검 자료는 실제 통화입니다. 통화 상세의 대화 내역과 AI 해결 결과를 보며 AI가 머뭇거리거나 틀리게 답한 질문을 찾고, 그 질문을 제목으로 하는 매뉴얼을 추가하거나 고칩니다. 매뉴얼은 바꾸면 다음 통화부터 바로 반영됩니다. 응답 매뉴얼이 AI 응대에서 어떻게 쓰이는지는 zerocall.kr/ai-call 에서 볼 수 있습니다.

정리하면, AI 환각은 근거 없이 답할 때 생기고, 근거가 분명한 매뉴얼과 '모르면 넘기라'는 규칙이 이를 줄입니다. 고객이 실제로 묻는 말투로 제목을 다는 것부터 시작해 보시기 바랍니다.