생성형 AI의 실수, 할루시네이션

챗GPT와 같은 AI들도 가끔은 실수합니다. 대표적인 실수로는 발생한적 없는 사건이 일어났다고 주장하거나, 잘못된 데이터를 제공하는 것입니다.

이렇게 생성형 AI가 현실에 존재하지 않는 잘못된 정보를 만들어내는 것을 할루시네이션(hallucination)이라고 합니다.

1. 존재하지 않는 사실: "2022년에 NASA가 화성에 인간을 착륙시켰다"와 같은 사실이 아닌 정보를 제공하는 경우

Copy
장영실이 발명한 온도계에 대해 설명해 줘

장영실은 온도계를 발명한 적이 없지만, 장영실이 온도계를 발명한 것처럼 설명할 수 있습니다.

2. 잘못된 인물 정보: "아인슈타인은 미국의 대통령이었다"는 식의 잘못된 정보를 생성하는 경우

Copy
고려시대 왕 데이빗에 대해 설명해 줘

고려시대에는 데이빗이라는 왕은 없습니다. 하지만 인공지능은 고려시대의 왕 데이빗을 가상으로 지어내 사실처럼 말할 수 있습니다.

3. 검증되지 않은 데이터: "전 세계 인구의 2%가 한국에 살고 있다"와 같이 잘못된 통계 정보를 제공하는 경우 (실제로는 약 0.7% 정도입니다)

Copy
스마트폰 사용 시간과 IQ 사이의 상관 관계에 대한 통계를 알려줘

이러한 프롬프트는 AI가 충분히 검증되지 않거나, 주관적인 데이터를 제공할 수 있습니다.

할루시네이션은 학습한 데이터에 오류가 있거나, 인공지능 모델이 학습할 때 특정 상황에 대한 데이터가 부족했거나, 학습이 불균형하게 된 경우 발생할 수 있습니다.

또한 사용자가 모호한 프롬프트를 작성한 경우에도 할루시네이션이 발생할 수 있습니다.

Copy
세계에서 가장 큰 도시의 인구를 알려줘

# 크다는 기준(인구수, 면적, 국력)이 명확하지 않아, AI가 잘못된 정보를 제공할 수 있음

할루시네이션을 줄이려면 명확하고 구체적인 프롬프트를 작성하는 것이 중요합니다.

Copy
영화 '인셉션'에 대해 알려줘.

Copy
영화 '인셉션'의 감독, 주요 출연 배우, 그리고 주요 줄거리에 대해 알려줘.

Copy
최신 기술 트렌드를 알려줘.

Copy
2023년 1월 이후 출판된 기술 트렌드 보고서에 기반한 최신 기술 트렌드를 알려줘.

Copy
유럽 여행에 대해 조언해줘.

Copy
유럽에서의 2주 간의 여행을 계획 중입니다. 프랑스와 이탈리아에서 가볼 만한 관광지와 추천할 만한 현지 음식을 알려주세요.

Copy
사업 계획서를 작성하는 방법을 알려줘.

Copy
사업 계획서 작성 시 필요한 주요 섹션(예: 개요, 시장 분석, 마케팅 전략, 재무 계획)에 대해 설명해줘.

Copy
중국 역사에 대해 알려줘.

Copy
1912년부터 1949년까지의 중국 역사, 특히 신해혁명 이후 중화민국 시기와 관련된 주요 사건을 설명해줘.

이외에도 할루시네이션을 최소화하려면, 해당 범주의 가장 최신 AI 모델을 활용하는 것이 좋습니다.