이 영상은 인공지능이 잘못된 정보를 사실인 것처럼 답하는 할루시네이션 현상을 해결하기 위한 국내 연구팀의 성과를 다루고 있습니다. 주요 내용은 다음과 같습니다.
할루시네이션 문제: 기존 AI는 근거 없는 정보에 확신을 가지고 답하거나, 사실과 전혀 다른 내용을 생성하는 문제가 있었습니다. 연구팀은 AI가 특정 답변을 할 확률이 근거 없이 높게 설정되어 발생하는 현상임을 규명했습니다 연구팀의 해결책: 인간의 두뇌 발달 과정에서 착안해, AI가 본격적인 학습을 하기 전에 의미 없는 데이터를 학습시키는 단계를 추가했습니다. 이를 통해 AI가 스스로 "나는 아직 아무것도 모른다"는 상태를 먼저 학습하게 만들었습니다
성과 및 전망: 이 과정을 거친 AI는 과신하는 습관이 사라져 모르는 질문에는 모른다고 답하게 되었습니다. 방대한 데이터를 이미 학습한 AI에 즉시 적용하기는 어렵지만, 새롭게 개발되는 대화형 AI나 자율주행 AI 등에 활용될 것으로 기대됩니다
이 연구 결과는 AI 분야 국제학술지인 네이처 머신 인텔리전스에 게재되었습니다
-------------------
혐한 일본인의 헛소리도 막는 기술이 필요한..
