세무·회계 사무실의 카카오톡 상담 내역을 자동으로 수집하고, AI가 검색·요약하는 RAG 시스템. 매일 쌓이는 상담 데이터가 사라지지 않고 다음 상담의 근거가 되도록 풀파이프라인으로 설계했습니다.
세무 사무실의 상담 데이터는 매일 쌓이지만, 매일 사라지는 것이기도 했습니다.
카카오톡 비즈니스센터 안에서 진행된 상담은 한 번 끝나면 사실상 검색이 안 됐습니다. 비슷한 질문이 다음 달에 와도 담당자가 매번 처음부터 답하고, 누가 어떤 답을 했는지 사무실 안에서도 공유되지 않는 상태였습니다.
ChatGPT 같은 일반 도구로는 세무 특유의 맥락을 잡지 못했고, 정작 필요한 건 "우리 사무실이 했던 답"을 빠르게 다시 꺼내 쓰는 일이었습니다.
비즈니스센터 상담을 원클릭으로 수집해 서버로 흘려보내고, 실시간 임베딩 파이프라인을 거쳐 검색 가능한 형태로 저장한 다음, 다층 검색 전략을 결합한 응답 엔진을 올렸습니다.
Chrome 확장 프로그램으로 비즈니스센터 화면에서 상담 내역을 한 번에 수집해 서버로 자동 전송합니다. 수집된 데이터는 SQS → Lambda → Cohere 임베딩 → pgvector 순서로 흘러가, 사무실에 데이터가 도착하는 그 순간부터 검색 대상이 됩니다.
검색은 단일 쿼리에 의존하지 않고 Multi-query로 쪼개 보고, MMR로 결과 다양성을 확보하고, 키워드와 벡터를 함께 보는 하이브리드로 가져옵니다. 그래서 "비슷한 사례"가 한두 건이 아니라 사무실 전체의 누적 답변에서 올라옵니다.
비즈니스센터 상담을 원클릭으로 수집해 서버로 전송. 운영자가 따로 정리할 필요 없게.
수집·임베딩·검색을 모두 서버리스로. 트래픽에 따라 비용이 따라가는 구조.
Postgres 위에 벡터 검색. 운영 SQL과 같은 곳에서 다룰 수 있어 관리 부담이 적습니다.
임베딩은 Cohere, 응답 생성은 GPT. Multi-query + MMR + 하이브리드 검색 결합.