配套视频

AI为何会给出自信的错误答案:初学者幻觉指南——配套视频

文章解释了为什么聊天机器人会自信、流畅地给出错误答案,以及这对你的使用方式意味着什么。这两段视频以更偏技术、同时保持对初学者友好的方式阐释了同一个问题:一段是以分类法为主线的简短讲解,另一段是与AI安全研究人员的长篇对谈,由他逐步说明这种自信究竟从何而来。

首选视频

9:37
为什么大语言模型会产生幻觉

IBM Technology

Martin Keen将幻觉分为四类——句内矛盾、与提示词矛盾、事实错误和无意义内容——并在灯光板上逐一讲解。文章解释了背后的原因,而这段视频会提供一套识别错误类型的词汇,让你在实际遇到问题时判断眼前属于哪一类错误,进而决定应该在多大程度上信任某个回答。

您应该从中获得什么: 你能够说出四种幻觉,并在聊天机器人出错时辨认自己看到的是哪一种。

先观看或了解: 无——可以直接观看。

AI Expert 注释: 选择这段视频看重的是四分类词汇,而不是讲解深度;请先阅读文章,以便理解这套分类背后的原因。

打开视频页面

也值得关注

36:01
与Rob Miles聊ChatGPT——Computerphile

Computerphile

这是一场节奏从容的长篇对谈,AI安全研究人员Rob Miles解释了为什么一个经过训练、以预测看似合理的文本为目标的模型,从结构上就注定有时会编造事实。视频录制于2023年初,但其中解释的底层机制并未改变;要真正理解“它是流畅性引擎,而不是真相引擎”,这仍然是最清晰的阐释方式。

您应该从中获得什么: 无论模型的表达多么精致,你都能解释为什么一个经过训练、以预测看似合理的文本为目标的模型有时会编造事实。

先观看或了解: 无,但如果先看过首选视频这样简短的幻觉讲解,会更容易理解。

AI Expert 注释: 视频录制于2023年初,因此可以忽略其中已经过时的产品信息;它所解释的“流畅性引擎,而不是真相引擎”这一机制并未改变,这正是我们保留它的原因。

打开视频页面