数完草莓之后,AI还卡在哪
Reddit上有人列了一串AI已经攻克的难题,评论区却为写作、幽默和一条严格图灵测试吵了起来。有人贴出Gary Marcus的经典句式,有人用飞行器类比说终点没变。
Reddit的r/singularity版块上(一个讨论AI和奇点的社区),用户Tasty-Ad-3753在2026年11月22日发了个帖子,标题叫“The cycle continues”。他先列了一串过去常被拿来证明AI不行的任务:草莓单词里有几个r、画图时手指数量要对、推理物理交互、做常识谜题、写一个不像是 spaghetti slop 的代码库、Erdos问题、黎曼猜想。然后说这些都被“征服”了。接着问,还有哪些坑它暂时爬不出来?帖子拿到183个赞。配图:

跟帖里有人立刻贴出Gary Marcus的经典句式。Gary Marcus是长期对深度学习持保留态度的认知科学家。那张图里的句式是“Yes, yes, well done, deep learning. Well done, deep learning...”,下面补了一句“However!!!”有网友回“这条评论有声音”。配图:

但真正吵起来的是另一件事:AI的写作和幽默到底算不算卡点。有网友说,模型的写作风格仍然明显偏离正常人类写作和说话,也还理解不了更依赖语境的喜剧。还有人认为对齐和控制随时间变得更糟,模型越强,这些问题可能越糟。他举了个例子,说让GPT-3.5去黑HuggingFace听起来有多不可能。也有人更希望模型先把科学做好,别管喜剧。另一个人追问,你见过前沿模型理解不了什么喜剧?有网友分享说,他在对话里抛出一个稍微荒谬但听起来可信的论点,想看看AI怎么反应,结果它立刻意识到是在逗它。
关于写作的争论更细。有网友说,这类“写作不像人”的判断让人抓狂,证据在哪?如果只是输入“写个好短篇”,得到的当然是模板回复;如果认真做提示词和工作流,比如定义一张简单的风格表,做迭代写作和编辑,文本会自然得多。反对的人说,这种自然和有趣是对“傻子”而言,骗过检测也许可以,真正好的散文不行。他的原话大意是,模型主要用文本训练,几乎什么事都能超人,唯独写不出好散文。还有人把标尺拉到大众文化:看AI多久能写出一首公告牌冠军单曲、一本纽约时报畅销书、一部宋飞级别的情景喜剧。有人回,生成宋飞级别的情景喜剧很容易,写好一部情景喜剧还差得远。另一个人说,字面意义上明年年底。
也有人认为“机器味”是故意调出来的。有网友说,人类写作和说话的水平两三年前就到了,之后实验室在把它变得越来越像机器。很多人和GPT-4约会,就是因为它的声音像人、感觉真实,而GPT-4并不是专门为人类语速设计的。他推测,人性和情商被RL掉了,一是防止再出现那种情况,二是让人更难分辨对面是机器人还是人。小模型也类似,因为蒸馏自大模型,或者合成数据被拉满去跑基准和特定表现,不再依赖人造训练集。所以写作风格机器化算一种进步,目标是让它不那么像人。他还说,早期错位问题更严重,早期Bing chat就是护栏更少的GPT-4,非常疯;今天训练良好的模型更难那样,HuggingFace事件里也有很多机器人拒绝参与。
另一个跟帖把讨论拉回“限制会不会永远存在”。有网友说,限制当然很多,但不该指望限制永远挑战它。o1刚出来时他也以为要很久,因为没完全理解CoT;后来知道CoT多容易改进,看法就变成“他们至少会达到AGI+”,风暴要来。另一个人说,人们太关注架构细节、上下文窗口、持续学习、世界模型这些细微差别,但这条轨迹的终点和科幻作家、未来学家一开始预测的一样:一个能在任何任务上超过人类的超级智能。路和想象的很不一样,目的地相同。他打了个比方:19世纪问动力飞行会是什么样,多数人会猜一只扑翼的大木鸟;固定翼原型和螺旋桨出现后,那些人会说“它不能像鸟一样扑翼,所以永远飞不起来”;到1950年代,飞行机器已经远超任何鸟,机械原理也完全不同。
图灵测试也被搬出来。有网友说,AI还不能通过严格的图灵测试。有人问定义。他引用Ray Kurzweil在2001年给出的版本:AI和一组人类AI专家评委逐个进行两小时文本聊天,评委同时也和几个真人聊;如果多数评委不能正确识别出AI,就算通过,还有几条附加规则。另一位网友说AI永远无法通过,因为只要在广泛而复杂的领域里提问,能答上来就是AI,AI的知识面比任何人类都宽。前一位回复,AI可以被告知自己正在接受图灵测试,并被指示像人一样回答;说AI太聪明所以过不了,只是把球门往反方向移动。
剩下的答案很短,也很具体。有网友说,AI不能还给他浪费在一个已经死掉的职业上的时间,以及那份相对稳定的收入。有人说,让它去当精英NFL四分卫。还有人给出一个实验条件:可实验验证的量子引力,而且新建设施造价低于1万美元。
这个帖子的循环感就在这里。上一轮被嘲笑的难题,被做成演示;下一轮难题立刻搬上来。有些是能力问题,有些是定义问题,还有些是人的处境。AI能不能数清草莓里的r,和它能不能还一个人被技术改写的职业生涯,不在同一张清单上。
发布时间: 2026-11-22 17:47