59:48Andrej Karpathy
OpenAIの創設期のエンジニアが、LLMとは実際に何かを平易な英語で1時間かけて極めて明快に説明しています。「LLMの心理学」のセクションは、まさにこの記事が身につけてもらおうとしているメンタルモデルです。なぜこの種のモデルがハルシネーションを起こすのか、なぜ雰囲気の把握は得意でも数を数えるのは苦手なのか、なぜプロンプトはコーディングよりコーチングに近いのかが分かります。
このセクションから得られるもの: LLMを、コンテキストウィンドウ、学習データ、サンプリング、失敗パターンを備えた予測システムとして捉える、神秘性を排したメンタルモデルを構築できます。
視聴または事前に知っておくべきもの: ありません。長い講演ですが、初心者にも分かりやすい内容です。
AI Expertの注記: 今なお、概念を説明する動画として特に優れた一本です。擬人化した表現を文字どおりに受け取らないでください。モデルは思考したり知識を持ったりするのではなく、制約の下で可能性の高い続きを生成します。
