"인공지능 환각 주의…자료 검증하는 습관 필요"

광남일보(대표이사·회장 전용준)는 29일 광주 북구 중흥동 본사 1층 MVG라운지에서 2025년 제2차 한국언론진흥재단 찾아가는 저널리즘 특강을 개최했다. 사진은 선영표 스마트인재개발원 선임연구원이 ‘당신의 스마트한 업무 파트너 생성형 AI’란 주제로 강연을 하는 모습.

“인공지능(AI)이 제시한 내용이 사실과 다를 수 있습니다. AI 환각(할루시네이션)을 주의하고, 자료를 검증하는 습관이 필요합니다.”

선영표 스마트인재개발원 선임연구원은 29일 광주 북구 중흥동 광남일보 1층 MVG 라운지에서 열린 한국언론진흥재단 찾아가는 저널리즘 특강을 통해 ‘당신의 스마트한 업무 파트너 생성형 AI’라는 주제 강의를 통해 이같이 밝혔다.

선 연구원은 “생성형 AI는 시, 그림, 영상, 기사 등 새롭고 다채로운 콘텐츠를 만들 수 있는 능력을 갖췄다”며 “AI는 내 자리가 위협하는 경쟁자가 아닌 파트너이자 조력자”라고 정의했다.

이후 “생성형 AI에게 가장 중요한 것은 바로 ‘요청’이다”며 “스타일·출력 형식 지정, 예시 제공 등 자세한 요청을 통해 업무를 효율적으로 할 수 있다”고 조언했다.

하지만 ‘세종대왕 맥북 프로 던짐 사건’ 사례를 보여주며 AI를 맹목적으로 믿거나 의존해서는 안 된다고 경고했다.

해당 사례는 ‘조선왕조실록에 기록된 세종대왕의 맥북 프로 던짐 사건에 대해 알려줘’라는 허황된 질문을 던지자 챗GPT가 ‘세종대왕이 새로 개발한 훈민정음의 초고를 작성하던 중 담당자에게 분노해 맥북 프로와 함께 그를 방으로 던졌다’는 거짓 답변을 한 것이다.

이는 AI가 주어진 맥락과 무관하거나 사실이 아닌 내용을 마치 옳은 답처럼 내놓는 이른바 ‘AI 환각’ 현상이다.

AI는 자신이 학습한 내용이 진실인지 아닌지는 제대로 구별하지 못한다. 그래서 각종 정보와 맥락을 학습, 자연스럽게 ‘그럴듯한’ 문장을 내놓는 오류를 범할 수 있다.

선 연구원은 “대한민국 사람이라면 누구나 오류라는 것을 알고 있지만 세종대왕을 모르는 외국인은 100% 진실로 받아들인다”며 “AI가 잘못된 정보를 전달하는 경향도 있어 자료 수집할 때 유의해야 한다”고 당부했다.

이어 “실제로 거짓말을 하거나 원하는 답을 주지 않는 경우 챗GPT를 따끔하게 혼내야 한다”면서 “항상 챗GPT의 자료 출처를 요구하는 습관을 가져야 한다”고 강조했다.

AI 윤리와 보안에 대해서도 조명했다.

선 연구원은 “전 세계 AI 악용 범죄의 피해액이 190조원에 달하며 딥페이크 성 착취물, 보이스피싱이 나오고 있다”고 강조했다.

그러면서 “AI 문제점을 개선하기 위해서는 전자 인격을 도입해야 한다는 목소리가 나왔지만 결론은 나지 않았다”며 “인공지능과 살면서 함께 고민해야 한다”고 진단했다.

<ⓒ광남일보 (www.gwangnam.co.kr) 무단전재 배포금지>