Claude AI被"困"在无法结束的对话里:这档美国广播节目做了个实验
美国老牌广播节目 This American Life 做了一期关于 AI 的实验:让两个 Claude 模型陷入一段无法结束的对话,人类只能旁观。这背后是关于 AI 自主性、对话终止条件与"被困"体验的有趣讨论。
一个听起来像科幻小说的实验
美国老牌广播节目 This American Life 最近做了一期和 AI 有关的节目,其中有个环节很有意思:他们想看看,如果让两个 Claude 模型互相对话,会发生什么。
结果并不是"两个 AI 聊了几句就冷场",而是——它们被"困"在了一段无法自然结束的对话里。节目里甚至提示听众:按 Ctrl+F 搜索 "AI 1",就能直接跳到那段实验的转录文本。
为什么"结束对话"这件事这么难
对人类来说,聊天结束是很自然的事。你感到累了、没话说了、要去做别的事了,就会说"那先这样"然后离开。
但对一个语言模型来说,"结束"并不是它自己决定的。它每一轮都在做同一件事:根据当前上下文,生成最合适的下一段话。只要系统还在调用它,它就会继续回应。
于是问题就来了:如果两个 AI 被放进同一个循环里,一个说"你觉得呢",另一个回"我觉得……那你呢",它们可以一直互相抛球,谁也没有"我该走了"的动机。这不是它们想聊,而是它们没有"不想聊"这个选项。
这期节目真正想讨论的,不只是好玩
表面上看,这是一个有点荒诞的 AI 小实验。但节目把它放进来,显然不只是为了逗乐。
它牵出了一个更实际的问题:当我们把 AI 放进自动化流程、客服系统、多智能体协作里,谁来决定"什么时候停"?
登录解锁全文
以下内容需登录后阅读。注册/登录完全免费,无需付费。
评论(0)
还没有评论
延伸阅读
公众号
百宝软件工作室