Видео к статье

Почему ИИ иногда врёт: руководство по галлюцинациям для новичков — видео к статье

Статья объясняет, почему чат-бот может быть уверенно и складно неправ — и что это значит для того, как вы им пользуетесь. Эти два видео доносят ту же мысль с более технического угла, но в доступной для новичка форме: одно короткое, построенное вокруг таксономии, и одна длинная беседа с исследователем безопасности ИИ, который разбирает, откуда на самом деле берётся эта уверенность.

Основная рекомендация

9:37

Why Large Language Models Hallucinate

IBM Technology

Мартин Кин сортирует галлюцинации по четырём именованным категориям — противоречия внутри предложения, противоречия промпту, фактические ошибки, бессмыслица — и разбирает каждую на световой доске. После того как статья даёт вам «почему», это видео даёт словарь, чтобы распознавать тип ошибки в живой природе и решать, насколько доверять конкретному ответу.

Что вынести из этого видео: Мартин Кин сортирует галлюцинации по четырём именованным категориям — противоречия внутри предложения, противоречия промпту, фактические ошибки, бессмыслица — и разбирает каждую на световой доске. После того как статья…

Открыть страницу видео

Также стоит посмотреть

36:01

ChatGPT with Rob Miles - Computerphile

Computerphile

Долгая, спокойная беседа с исследователем безопасности ИИ Робом Майлзом о том, почему модель, обученная предсказывать правдоподобный текст, всегда — структурно — будет иногда выдумывать факты. Запись начала 2023-го, но базовый механизм, который она объясняет, не изменился, и эта рамка до сих пор — самый чистый способ усвоить «это движок беглости, а не движок истины».

Что вынести из этого видео: Долгая, спокойная беседа с исследователем безопасности ИИ Робом Майлзом о том, почему модель, обученная предсказывать правдоподобный текст, всегда — структурно — будет иногда выдумывать факты. Запись начала 2023-го, но…

Открыть страницу видео