생성형 AI를 활용한 3가지 용도 챗봇 구축
#공공
#AI
#챗봇
서강대학교
서강대학교는 인문사회, 자연과학, 공학, 경영, 경제, 커뮤니케이션 등 다양한 학문 분야에서 우수한 교육과 연구 성과를 자랑하며, 특히 융합적 사고와 창의적 문제 해결 능력을 갖춘 대한민국의 명문 사립대학교입니다. 또한, 첨단 연구 시설과 글로벌 네트워크를 통해 학생들에게 폭넓은 학습 기회를 제공하고 있으며, 학문적 깊이와 실무 능력을 겸비한 인재로 성장할 수 있도록 지원합니다.
Challenges
효율적인 교육 시스템 필요
서강대학교는 교수자와 학생들이 필요한 정보를 즉시 검색하고, 학사 일정 및 연구 자료에 대한 빠른 접근성을 확보하는 데 어려움을 겪고 있었습니다. 기존 시스템은 복잡한 검색 과정과 제한된 접근성으로 인해 사용자가 원하는 정보를 찾기 위해 많은 시간과 노력을 소모해야 했습니다. 교수자들은 논문 주제 추천 및 연구 지원의 한계를 느꼈고, 학생들은 학사 일정 및 과제 관리의 비효율성으로 인해 학업에 불편함을 겪었습니다. 이러한 문제를 해결하기 위해 더 직관적이고 효율적인 AI 기반의 검색 및 지원 시스템이 필요했습니다.
생성형 AI를 이용한 3가지 용도 챗봇 구축
NDS는 생성형 AI의 가능성을 탐색하기 위해 AWS 클라우드 서비스를 활용하여 3가지 특정 시나리오에 맞춘 챗봇 시스템을 개발하는 프로젝트를 진행했습니다. 이 개념 증명(Proof of Concept, PoC)은 AWS Bedrock과 Claude Sonnet 3.5, Haiku와 같은 여러 LLM 모델을 활용하여 실제 환경과 유사한 조건에서의 가능성과 성능을 평가했습니다.
1️. 학사 정보 검색용 챗봇
학생들이 학사 일정, 수업 시간표, 등록 일정 등 학사 관련 정보를 빠르게 찾을 수 있도록 설계되었습니다. 주요 포털 및 시스템과 연동되어 실시간으로 정보를 제공하며, 반복적인 학사 문의를 자동화하여 효율성을 높였습니다.
2. 연구 지원용 챗봇
교수자와 연구자를 대상으로 하는 이 챗봇은 논문 작성 지원, 연구 주제 추천, 학술 자료 검색 등의 기능을 제공합니다. 과거 연구 데이터와 최신 논문 정보를 기반으로 맞춤형 연구 지원을 통해 연구 생산성을 향상시키는 것을 목표로 합니다.
3. 비대면 학습 지원용 챗봇
강의 자료와 수업 내용을 학습한 후, 학생들의 질문에 실시간으로 답변할 수 있도록 설계되었습니다. 강의 녹음 파일(STT 변환)과 교재 데이터를 활용하여 개인 맞춤형 학습 지원이 가능하며, 교수자와 학생 간의 학습 소통을 강화합니다.
또한, LangChain 프레임워크를 통해 학사 일정, 연구 자료, 강의 내용 등과 연동하여 효율적인 데이터 검색 및 추천 기능을 구현했습니다. 프롬프트 엔지니어링과 RAG(검색증강생성) 방식을 적용하여 검색 정확도를 높이고, 오류를 최소화하는 데 중점을 두었습니다.
주요 기술 적용 사항
- RAG(검색증강생성) 방식: 관련 데이터를 검색하여 LLM의 정확도 향상
- 멀티 LLM 모델 활용: Claude Sonnet 3.5, Haiku 등 다양한 모델을 결합하여 최적의 성능 제공
- LangChain 프레임워크: 효율적인 데이터 검색 및 추천 기능 지원
- 프롬프트 엔지니어링 최적화: 검색 정확도를 높이기 위한 프롬프트 설계 개선
- Speech-to-Text(STT) 기능: 강의 녹음을 텍스트로 변환하여 학습 지원
- 리랭킹 모델: 검색 결과의 품질을 높이기 위한 데이터 재정렬
- 데이터 보안 강화: 암호화, 익명화, 접근 제어를 통해 데이터 보호 강화
활용 서비스: Amazon Sagemaker, AWS Bedrock, API Gateway, Lambda등
Benefits
✔ 효율적인 학사 정보 검색 – 학생과 교수자가 학사 일정, 과제, 연구 자료를 빠르게 검색 가능
✔ 논문 작성 및 연구 지원 강화 – 최신 연구 동향 추천 및 논문 작성 지원을 통한 학업 생산성 향상
✔ 학생 맞춤형 학습 지원 – 개인화된 정보 제공으로 학업 집중도 및 효율성 증가
✔ 업무 및 학습 효율성 향상 – 교수자와 학생의 시간 절약 및 데이터 접근성 개선
