사춘기 AI의 반항, 할루시네이션

챗GPT와 같은 AI들도 가끔은 실수합니다. 대표적인 실수로는 발생한적 없는 사건이 일어났다고 주장하거나, 잘못된 데이터를 제공하는 것입니다.

이렇게 생성형 AI가 현실에 존재하지 않는 잘못된 정보를 만들어내는 것을 할루시네이션(Hallucination)이라고 합니다.

대표적으로 할루시네이션은 다음과 같은 경우에 발생할 수 있습니다.

아래와 같이 프롬프트를 작성하면, 장영실이 온도계를 발명한 것처럼 AI가 내용을 지어서 말할 수 있습니다.

복사
장영실이 발명한 온도계에 대해 설명해 줘

고려시대에는 데이빗이라는 왕은 없습니다. 하지만 인공지능은 고려시대의 왕 데이빗을 가상으로 지어내 사실처럼 말할 수 있습니다.

복사
고려시대 왕 데이빗에 대해 설명해 줘

AI가 검증되지 않은 통계 정보를 제공하거나, 자의적으로 상관 관계를 설명할 수 있습니다.

복사
스마트폰 사용 시간과 IQ 사이의 상관 관계에 대한 통계를 알려줘

할루시네이션은 학습한 데이터에 오류가 있거나, 인공지능 모델이 학습할 때 특정 상황에 대한 데이터가 부족했거나, 학습이 불균형하게 된 경우 발생할 수 있습니다.

또한 사용자가 모호한 프롬프트를 작성한 경우에도 할루시네이션이 발생할 수 있습니다.

복사
세계에서 가장 큰 도시의 인구를 알려줘

# 크다는 기준(인구수, 면적, 국력)이 명확하지 않아, AI가 잘못된 정보를 제공할 수 있음

할루시네이션을 줄이려면 가장 성능이 뛰어난 모델로, 구체적인 프롬프트를 작성하는 것이 중요합니다.

다음 예시처럼 질문을 구체화하면 AI가 더 정확한 정보를 제공할 수 있습니다.

복사
영화 '인셉션'에 대해 알려줘.

복사
영화 '인셉션'의 감독, 주요 출연 배우, 그리고 주요 줄거리에 대해 알려줘.

AI에게 정보의 출처를 명시하면, AI가 더 정확한 정보를 제공할 수 있습니다.

복사
최신 기술 트렌드를 알려줘.

복사
2025년 1월 OOO에서 출판된 기술 트렌드 보고서의 주요 내용을 확인하고, 최신 기술 트렌드를 요약해서 알려줘.

답변 예시, 또는 답변에 포함할 내용에 대한 예시를 포함하면 AI가 더 정확한 정보를 제공할 수 있습니다.

복사
사업 계획서를 작성하는 방법을 알려줘.

복사
사업 계획서 작성 시 필요한 주요 섹션(예: 개요, 시장 분석, 마케팅 전략, 재무 계획)에 대해 설명해줘.

사실 기반의 정보를 요청할 때, 특정 날짜나 시간 범위를 제공하면 AI가 더 정확한 정보를 제공할 수 있습니다.

복사
중국 역사에 대해 알려줘.

복사
1912년부터 1949년까지의 중국 역사, 특히 신해혁명 이후 중화민국 시기와 관련된 주요 사건을 설명해줘.

이외에도 할루시네이션을 최소화하려면, 해당 범주의 가장 최신 AI 모델을 활용하는 것이 좋습니다.