AI うわごと阻む技術を韓国が開発.

KO 255 propertyOfJapan 2,811,753

2026-05-26 08:24

が映像は人工知能が誤った情報を事実であることのように返事するハルルシネイション現象を解決するための国内研究チームの成果を扱っています. 主要内容は次の通りです.

ハルルシネイション問題: 既存 AIは根拠ない情報に確信を持って返事するとか, 事実と全然違った内容を生成する問題がありました. 研究チームは AIが特定返事をする確率が根拠なしに高く設定されて発生する現象なのを糾明しました研究チームの解決策: 人間の頭脳発達過程で着眼して, AIが本格的な学習をする前に意味ないデータを学習させる段階を追加しました. これを通じて AIが自ら "私はまだ何も分からない"と言う状態を先に学習するようにしました
成果及び見込み: この過程を経った AIは過信する習慣が消えて分からない質問には分からないと返事するようになりました. 膨大なデータをもう学習した AIに直ちに適用することは難しいが, 新しく開発される対話形 AIや自律走行 AI などに活用されることで期待されます

が研究結果は AI 分野国際学術誌であるネイチャーマシンインテリジェンスに載せられました

-------------------

嫌韓日本人のうわごとも阻む技術が必要な..

原文を見る

AI 헛소리 막을 기술을 한국이 개발.

이 영상은 인공지능이 잘못된 정보를 사실인 것처럼 답하는 할루시네이션 현상을 해결하기 위한 국내 연구팀의 성과를 다루고 있습니다. 주요 내용은 다음과 같습니다.

할루시네이션 문제: 기존 AI는 근거 없는 정보에 확신을 가지고 답하거나, 사실과 전혀 다른 내용을 생성하는 문제가 있었습니다. 연구팀은 AI가 특정 답변을 할 확률이 근거 없이 높게 설정되어 발생하는 현상임을 규명했습니다 연구팀의 해결책: 인간의 두뇌 발달 과정에서 착안해, AI가 본격적인 학습을 하기 전에 의미 없는 데이터를 학습시키는 단계를 추가했습니다. 이를 통해 AI가 스스로 "나는 아직 아무것도 모른다"는 상태를 먼저 학습하게 만들었습니다
성과 및 전망: 이 과정을 거친 AI는 과신하는 습관이 사라져 모르는 질문에는 모른다고 답하게 되었습니다. 방대한 데이터를 이미 학습한 AI에 즉시 적용하기는 어렵지만, 새롭게 개발되는 대화형 AI나 자율주행 AI 등에 활용될 것으로 기대됩니다

이 연구 결과는 AI 분야 국제학술지인 네이처 머신 인텔리전스에 게재되었습니다

-------------------

혐한 일본인의 헛소리도 막는 기술이 필요한..

いいね・コメントにはログインが必要です。

コメント ( 1 )