1. Overview (项目背景)

本项目旨在为信用合作社窗口业务中使用的大量非结构化文档构建AI Chatbot服务，以便更快速、更高效地利用这些文档。
在信贷、存款、互助、数字业务等各个领域存在多种业务方法书和PDF、HWP格式的非结构化文档，但在实际窗口业务中，快速查找和传递所需信息存在局限性。

因此，应用基于RAG的数据加载和生成式AI响应结构，构建了窗口合作社成员可以用自然语言提问并快速获得答案的AI Chatbot环境。

2. Solution (解决方案)

为构建AI Chatbot，以AIR Studio为中心设计了结合搜索和生成式AI的架构。

• 基于AIR Studio的Chatbot UI提供
  通过自然语言提问实现即时确认所需信息的聊天机器人界面

• OpenSearch & Retriever配置
  利用AIR Studio内的RAG结构配置OpenSearch，应用文档搜索和提取的Retrieval Chain

• 生成式AI集成
  通过EC2环境内的LCEL Chain构成LLM调用结构，利用Amazon Bedrock的Claude模型基于搜索结果生成答案

3. Result (成果)

通过构建基于非结构化文档的RAG管道，为有效利用各种业务文档奠定了基础。

• 构成支持PDF、HWP文档的预处理和分块管道

• 将文本、图像、表格数据转换为可用于RAG的Document格式

• 通过基于API的数据上传和状态确认功能提供运营便利性

此外，通过结合搜索文档和提示词的LLM响应结构应用了多轮对话功能，验证了在实际窗口咨询业务中应用生成式AI的可能性。