상담 중 자료 찾던 15분, 에이전트가 즉시 답합니다

"고객이 전화로 '삼성전자 더 사도 되나요' 하고 물으시면, 그때부터 시스템 열어서 보유 종목 보고, 자료실에서 리포트 찾고, PDF 열어서 읽습니다. 그동안 고객은 기다리시죠."

사전 조사 때 WM 지점 상담사분이 하신 말씀입니다. 저희가 이 회사에서 확인한 것은 정보가 부족한 적이 없었다는 사실이었습니다. 리서치센터가 매일 양질의 보고서를 발행하고, 고객관리시스템에는 성향과 보유 내역이 다 들어 있었습니다.

문제는 그 정보가 상담 시점에 꺼내 쓸 수 있는 형태가 아니었다는 것입니다.

사전 조사에서 확인한 것

교육 3주 전, 상담사 4명과 리서치센터 담당자 1명을 인터뷰하고 실제 상담 준비 과정을 옆에서 지켜봤습니다. 상담 한 건에 열어야 하는 창이 다섯 개였습니다.

① 리서치가 PDF로만 쌓입니다 — 애널리스트가 좋은 보고서를 써도 자료실에 PDF로 들어갑니다. 파일명과 제목으로만 검색되니 "반도체 업황이 지금 어떤가"를 알려면 후보를 여러 건 열어 훑어야 합니다. 어느 보고서에 그 내용이 있는지를 이미 알고 있어야 찾을 수 있는 구조였습니다.

② 고객 정보가 흩어져 있습니다 — 세그먼트와 보유 종목은 고객관리시스템에, 최근 관심사는 개인 메모장에, 지난 상담에서 나눈 이야기는 상담사 기억에 있었습니다. 담당이 바뀌면 그 기억은 인수인계되지 않습니다.

③ 응답 품질이 사람마다 다릅니다 — 경력이 긴 상담사는 리포트를 안 봐도 답합니다. 신입은 자료를 찾다가 시간을 씁니다. 같은 질문에 회사가 다르게 답하게 되는데, 저희가 보기에 이건 개인 역량 문제가 아니라 자료가 놓인 방식의 문제였습니다.

그래서 교육 목표를 "AI 도구 익히기"가 아니라 "이미 있는 자료를 상담 흐름에 맞게 다시 배치하기" 로 잡았습니다.

왜 벡터 DB를 쓰지 않기로 했나

RAG 챗봇을 만든다고 하면 보통 벡터 데이터베이스부터 이야기합니다. 저희는 이 회사에서는 쓰지 않기로 했습니다. 사전 조사에서 세 가지를 확인했기 때문입니다.

이 회사의 사내 리서치는 하루 수십 건 규모입니다. 이 정도에서는 제목 일치 +5점, 태그 +4점, 종목명 +5점, 본문 +1점 같은 단순 가중치로 상위 3건을 뽑아도 충분히 정확합니다. 무엇보다 왜 그 보고서가 선택됐는지를 사람이 설명할 수 있습니다.

금융권에서 이건 부수적인 장점이 아닙니다. 설명할 수 없는 추천은 현업에서 쓰이지 않습니다. 컴플라이언스 검토를 통과하기 어렵기 때문입니다.

개발자 없이 진행하는 것도 사전에 합의했습니다. 상담사분들이 직접 만들어야 교육이 끝난 뒤에도 고쳐 쓸 수 있습니다. 인프라를 쓰지 않기로 한 덕에 가능했던 선택이기도 합니다.

진행 — 6시간, 각자 자기 고객 데이터로

실습 환경은 저희가 미리 준비해 갔습니다. 참가자 PC에 VS Code와 AI 확장 설치, API 키 발급, 샘플 데이터 배치까지 마친 상태에서 시작했습니다. 교육 시간을 환경 설정에 쓰지 않기 위해서입니다. 사내망 방화벽 확인도 2주 전에 전산팀과 함께 끝냈습니다.

1교시 — 설계서를 먼저 씁니다

코드를 짜기 전에 문서 두 개를 만들게 했습니다. DESIGN.md(무엇을 만드는가)와 CLAUDE.md(어떻게 작업하는가)입니다.

여기에 도메인 규칙을 우리말로 적습니다.

- 고객이 확정되면 그 고객 데이터만 참고한다. 다른 고객 정보는 절대 참조하지 않는다.
- 사내 리서치에 근거가 없으면 "관련 리서치를 찾지 못했습니다" 라고 답한다.
- 단정적인 투자 권유 표현을 쓰지 않는다.
- 답변에는 항상 출처(보고서 제목·애널리스트·날짜)를 붙인다.

이 네 줄이 이 교육에서 가장 중요한 산출물이었습니다. 설계서에 규칙이 적혀 있으면 AI가 코드를 짤 때마다 같은 원칙을 지킵니다. 매번 다시 설명하지 않아도 됩니다.

컴플라이언스 담당자를 이 시간에 초대했습니다. 코드는 못 읽어도 규칙은 읽을 수 있어서, 그 자리에서 문구를 두 군데 고쳤습니다. 나중에 검토받는 것보다 만들 때 함께 있는 편이 빠릅니다.

2교시 — 자료를 AI가 읽을 수 있는 형태로

고객 정보는 JSON, 리서치는 마크다운으로 옮기는 실습입니다. 고객 한 명이 파일 하나, 보고서 한 건이 파일 하나입니다.

핵심은 리서치 파일 맨 위의 메타데이터입니다.

---
title: "삼성전자 - 반도체 슈퍼사이클 재진입"
analyst: "김철수"
date: "2026-03-10"
sector: "반도체"
stocks: ["삼성전자"]
rating: "매수"
tags: ["HBM", "AI반도체", "파운드리"]
---

이 몇 줄이 검색 키가 됩니다. 제목·종목·태그가 구조화돼 있으면 챗봇이 키워드만으로 관련 보고서를 빠르게 찾습니다. 작업 자체는 단순하지만 이 단계가 없으면 뒤가 전부 성립하지 않아, 진행 속도를 보며 시간을 넉넉히 뒀습니다.

여기서 가장 많이 나온 질문이 "이걸 누가 계속 채우나요?" 였습니다.

저희 답은 리서치센터가 발행할 때 함께 넣는 것입니다. 이미 보고서를 쓰면서 제목·종목·투자의견을 다 정하고 있으니, 파일 맨 위에 일곱 줄로 옮겨 적는 일입니다. 발행 직후라면 1분이 안 걸립니다.

반대로 나중에 몰아서 하려 들면 대체로 멈춥니다. 쌓인 PDF 수백 건을 누군가 열어 분류해야 하는데 그 일을 맡을 사람이 없어서입니다. 그래서 이 교육에서도 과거 자료는 손대지 않고 최근 3개월치로만 시작했습니다. 이 운영 방식을 리서치센터와 미리 협의해 두었습니다.

3교시 — 챗 안에서 조회부터 브리핑까지

화면을 단순하게 잡도록 안내했습니다. 좌측 메뉴도, 별도 조회 화면도 없습니다. 채팅 한 곳에서 고객을 찾고, 같은 자리에서 투자 질문을 합니다.

고객이 확정되는 순간 참조 범위가 그 고객으로 잠깁니다. 다른 고객 데이터는 프롬프트에 아예 들어가지 않습니다. 기술적으로 어려운 처리는 아니지만, 금융권에서는 이 통제가 있어야 실제로 쓸 수 있어 설계서 첫 줄에 넣어둔 것입니다.

응답에 출처가 반드시 붙습니다. 상담사는 브리핑을 그대로 읽지 않고, 출처를 확인한 뒤 자기 판단으로 고객에게 설명합니다. 이 순서를 교육 내내 반복해 강조했습니다 — AI가 상담을 하는 게 아니라 상담사가 자료를 빨리 찾는 도구입니다.

첫 실행에서 대부분 같은 지점에서 막혔습니다. 코드 오류가 아니라 답이 너무 길게 나오는 것이었습니다. 통화 중에 읽을 수 없는 분량이 나왔습니다. 설계서에 "브리핑은 세 줄 이내, 각 줄은 한 문장"을 추가하고 다시 생성하니 해결됐습니다.

이런 조정이 이 교육의 실제 내용입니다. 코드를 고치는 게 아니라 원하는 결과를 글로 더 정확히 적는 일이고, 그건 상담사분들이 원래 잘하시는 일이었습니다.

이 방식으로 안 되는 것

발주 검토 단계에서 미리 아셔야 할 한계입니다. 사전 조사 때도 같은 내용을 먼저 말씀드렸습니다.

• 실시간 시세는 반영되지 않습니다. 사내 리서치가 근거라 보고서 발행 시점의 관점입니다. 장중 급변에는 대응하지 못합니다
• 리서치가 없는 종목은 답하지 않습니다. "관련 리서치를 찾지 못했습니다"라고 나옵니다. 의도한 동작이지만 커버리지가 좁으면 쓸모도 좁습니다
• 자료를 구조화하지 않으면 효과가 없습니다. 이 사례의 성패는 챗봇이 아니라 2교시에 있었습니다
• 투자 권유가 아닙니다. 참고용 브리핑이고 고객에게 나가는 말은 상담사가 정합니다

교육이 끝났을 때 남은 것

참가자 12명 전원이 자기 담당 고객 데이터로 동작하는 챗봇을 완성해 돌아갔습니다. 샘플이 아니라 실제 데이터라 다음 주부터 바로 쓸 수 있는 상태였습니다. 교육 종료 시점에 산출물 목록을 정리해 교육 담당 부서에 전달했습니다.

석 달 뒤 다시 확인했습니다. 상담 준비 시간이 줄어든 것보다 리서치가 실제로 쓰이기 시작한 것이 더 큰 변화였습니다. 그전에는 보고서가 자료실에 쌓이기만 했는데, 이제 상담 현장에서 제목과 날짜까지 인용됩니다. 반응이 가장 좋았던 쪽은 상담 조직이 아니라 리서치센터였습니다. 자기가 쓴 보고서가 어디서 어떻게 쓰이는지 처음 보였기 때문입니다.

품질 편차도 줄었습니다. 같은 근거를 보고 답하게 되니 신입 상담사의 첫 응대가 달라졌습니다. 경력자에게도 쓸모가 있었는데, 이미 아는 내용을 출처와 함께 말할 수 있게 된 점이었습니다. "저희 리서치센터 3월 10일자 보고서를 보면"으로 시작하는 것과 그냥 설명하는 것은 고객에게 다르게 들립니다.

만들어둔 고객 DB와 리서치 DB는 다른 곳에 재사용되고 있었습니다. 같은 데이터로 고객별 영업 DM 초안을 만들고, 정기 뉴스레터 생성에 쓰고 있었습니다. 챗봇 하나를 만든 게 아니라 자료 구조를 정리한 것이 남은 셈입니다. 도구는 몇 달 뒤 더 나은 것으로 바뀌지만, 정리해둔 자료 구조는 그대로 쓰입니다.

다룬 도구

• VS Code + AI 코딩 확장 — 우리말로 설명하며 만듭니다. 코드를 읽을 필요는 없지만 무엇을 만들지는 정확히 말해야 합니다
• Claude API — 확정된 고객 정보와 검색된 리서치만 프롬프트에 넣습니다
• 마크다운 + JSON — 별도 DB 서버 없이 폴더 안의 파일을 그대로 씁니다
• 가중치 점수 검색 — 제목·태그·종목 일치도로 상위 3건. 왜 뽑혔는지 설명됩니다

실습 교재는 한국GPT협회 표준교재 플랫폼에 공개돼 있습니다.

• 증권상담 직원을 위한 AI 에이전트 구축 사례↗(새 창)
• 바이브코딩과 AI 에이전트↗(새 창)

비슷한 교육을 검토 중이시라면

이 과정은 6시간 구성이었습니다. 다루는 자료의 종류와 보안 요건에 따라 6~16시간으로 조정합니다.

사전 조사에서 저희가 확인하는 것은 네 가지입니다.

• 사내에 이미 쌓여 있는데 안 쓰이는 자료가 있는가 — 리서치·매뉴얼·규정집·과거 제안서
• 그 자료에 제목·날짜·분류 같은 최소한의 구조가 있는가
• 외부 AI API 호출이 보안 정책상 가능한가 — 여기서 구성이 크게 갈립니다
• 참가자가 자기 업무 데이터를 실습에 쓸 수 있는가

"AI가 지어내면 어쩌나"가 가장 많이 나오는 질문입니다. 이 사례의 답은 프롬프트로 막는 것이 아니라 근거를 화면에 함께 띄우는 구조로 푸는 것이었습니다. 같은 방식이 규정 안내, 매뉴얼 검색, 과거 제안서 참조에도 적용됩니다.

부서 구성과 현재 자료 상태만 알려주시면 커리큘럼 초안을 만들어 보내드립니다. 사전 조사는 저희가 방문해서 진행합니다.