関連動画
この記事では、チャットボットが自信たっぷりに、流暢な文章で誤ったことを述べる理由と、それが利用方法に何を意味するのかを説明しています。以下の2本の動画は、同じ点をやや技術的な角度から、初心者にも分かりやすく解説します。1本は分類を中心とした短い解説、もう1本は、AI安全性の研究者がその自信が実際にどこから生じるのかを説明する長編の対談です。
9:37IBM Technology
Martin Keenは、ハルシネーションを、文中の矛盾、プロンプトとの矛盾、事実誤認、意味をなさない内容という4種類に整理し、ライトボードを使って一つずつ説明します。記事で「なぜ」を理解した後、この動画で実際の利用時に誤りの種類を見分けるための語彙を身につければ、特定の回答をどの程度信頼すべきか判断できるようになります。
このセクションから得られるもの: 4種類のハルシネーションの名称を挙げ、チャットボットが誤ったときに、どの種類の誤りなのかを見分けられるようになります。
視聴または事前に知っておくべきもの: ありません。予備知識なしで視聴できます。
AI Expertの注記: 解説の深さではなく、4つの分類を学べる点から選びました。分類の背後にある理由を理解できるよう、先に記事を読んでください。
36:01Computerphile
もっともらしい文章を予測するよう学習したモデルが、その構造上、必ずときどき事実を作り出してしまう理由について、AI安全性の研究者Rob Milesとじっくり落ち着いて語る長編の対談です。2023年初頭に収録されていますが、説明されている基本的な仕組みは変わっていません。「これは流暢な文章を生成するエンジンであって、真偽を判定するエンジンではない」ということを腹落ちさせるには、今なお最も明快な捉え方です。
このセクションから得られるもの: どれほど洗練された文章に見えても、もっともらしい文章を予測するよう学習したモデルが、ときどき事実を作り出してしまう理由を説明できるようになります。
視聴または事前に知っておくべきもの: ありません。ただし、最もおすすめの動画のような短いハルシネーション解説を先に見ておくと理解しやすくなります。
AI Expertの注記: 2023年初頭に収録されているため、古くなった製品への言及は無視してください。説明されている「流暢な文章を生成するエンジンであって、真偽を判定するエンジンではない」という仕組みは変わっておらず、それがこの動画を引き続き選んでいる理由です。
