1. Overview (프로젝트 배경)

본 프로젝트는 신협 창구 업무에서 활용되는 방대한 비정형 문서를 보다 빠르고 효율적으로 활용하기 위해 AI Chatbot 서비스를 구축하는 것을 목표로 추진되었습니다.
여신·수신·공제·디지털 업무 전반에 걸친 다양한 업무 방법서와 PDF, HWP 형태의 비정형 문서가 존재했으나, 실제 창구 업무에서는 필요한 정보를 즉시 찾고 전달하는 데 한계가 있었습니다.

이에 따라, RAG 기반 데이터 적재와 생성형 AI 응답 구조를 적용해 창구 조합원이 자연어로 질의하고 빠르게 답변을 받을 수 있는 AI Chatbot 환경을 구축했습니다.

2. Solution (해결 방안)

AI Chatbot 구축을 위해 AIR Studio를 중심으로 검색과 생성형 AI를 결합한 구조를 설계했습니다.

• AIR Studio 기반 Chatbot UI 제공
  자연어 질의를 통해 필요한 정보를 즉시 확인할 수 있는 챗봇 인터페이스 구현

• OpenSearch & Retriever 구성
  AIR Studio 내 RAG 구조를 활용해 OpenSearch를 구성하고, 문서 검색 및 추출을 위한 Retrieval Chain 적용

• Generative AI 연동
  EC2 환경 내 LCEL Chain을 통해 LLM 호출 구조를 구성하고, Amazon Bedrock의 Claude 모델을 활용해 검색 결과 기반 답변 생성

3. Result (성과)

비정형 문서 기반 RAG 파이프라인 구축을 통해 다양한 업무 문서를 효과적으로 활용할 수 있는 기반을 마련했습니다.

• PDF, HWP 문서에 대응 가능한 전처리·청킹 파이프라인 구성

• 텍스트, 이미지, 표 데이터를 RAG에 활용 가능한 Document 형태로 변환

• API 기반 데이터 업로드 및 상태 확인 기능 제공으로 운영 편의성 확보

또한, 검색 문서와 프롬프트를 결합한 LLM 응답 구조를 통해 멀티턴 대화 기능을 적용했으며, 실제 창구 상담 업무에 생성형 AI를 활용할 수 있는 가능성을 검증했습니다.