내 AI 서비스에서 할루시네이션을 완화하는 방법 (한국어 과정)

이 과정은 기술 전문가용 AWS 커뮤니티인 AWS 기술 필드 커뮤니티(TFC) 회원이 개발했습니다. 콘텐츠는 표준 교육 커리큘럼을 보완하고 AWS 학습 여정을 확대하기 위한 것입니다. AWS는 일부 과정에 접근성 제한이 있음을 인지하고 있으며 이를 해결하기 위해 노력하고 있습니다. 접근성과 관련하여 지원이 필요한 경우 AWS Training and Certification 고객 지원 센터에 문의하십시오.

본 과정은 AI 서비스에서 발생하는 할루시네이션의 정의, 원인, 그리고 이를 완화하기 위한 다양한 방법을 다룹니다. 할루시네이션이란 AI가 생성한 콘텐츠가 사실처럼 보이지만 실제로는 부정확하거나 맥락에 맞지 않는 결과물을 의미합니다. 본 과정에서는 학습 데이터 이슈, 모델 아키텍처, 추론 프로세스 등 할루시네이션의 근본 원인을 분석하고, 이를 완화하기 위한 단계별 접근법을 학습합니다. 애플리케이션 수준의 가드레일 설정, RAG를 이용한 컨텍스트 그라운딩, 참조 문서가 없는 경우의 불확실성 정량화 방법, 토큰 확률 기반 탐지, 그리고 모델 내부 분석 기법을 다룹니다. 또한 Amazon Bedrock 가드레일의 Context Grounding과 Automated Reasoning 기능을 활용한 실용적인 완화 방법도 소개합니다.