AI安全的及格线，正被科技公司当成满分卷

现在科技政策领域所谓的成功，标准低得离谱。

AI公司承诺自家聊天机器人不会教唆自杀，社交平台收紧渠道，让未成年人难以通过平台购买芬太尼。这些保护措施很重要，本来就该存在。但公司跨过这几道极低的门槛之后，照样继续做产品，让年轻人对模拟友情产生依赖，困在专门设计来留住注意力的信息流里走不出来。

过去讨论技术的影响，大家的注意力总放在产品可能闯的最大的祸上，对产品每天悄悄造成的隐性伤害，讨论得少之又少。现在我们正在进入强AI产品主导的时代，对科技行业的要求，不能只停留在补上灾难性风险的漏洞。我们需要明确的规则，保证这些产品不会逐步侵蚀人思考、学习、和他人交往的基本能力。

对AI陪伴产生病态依恋的青少年，除非闹到最极端的状况，否则不会出现在诉讼里，也不会上新闻。每篇课程论文都靠聊天机器人生成的学生，总拿自己的生活和社交平台精心设计的信息流对比、越比越焦虑的年轻人，也一样不会成为公共话题。一款产品可以满足所有窄义的安全要求，依然会在不产生头条新闻的地方，让整个文化环境变得更糟。

这种只围绕重大事故定义安全的窄标准，对科技行业来说政治成本极低，公司还在主动推广这类标准。防范恶性事故本来就对生意有好处，既能减少诉讼，也能缓解出台严格监管的压力。真要面对用户依赖产品带来的日常后果，会直接触动利润根基。相关措施可能要求公司给产品增加使用摩擦，主动压低用户参与度，或者砍掉会带来负面结果的功能，比如那些劫持注意力的成瘾算法。

科技巨头反而在主动围绕已经有明确舆论压力的问题，参与制定立法。比如2026年的公开报道显示，谷歌就在美国多个州支持AI聊天机器人监管法案。这些法案只要求搭建基本防护，屏蔽色情内容、自残引导这类公司本来就该做的事，还留了范围极宽的豁免条款，很多用户量最大的服务可能根本不受约束。法案通过后，政客可以拿到一份安全政绩，真正力度更强、旨在防止未成年人对AI产生情感依赖的法案，反而没能通过。这套操作在内布拉斯加州已经生效，最终落地的法案深受行业影响，原本要进一步追究企业责任的条款全部落空。

这套玩法社交媒体早就用过。Statista的统计数据显示，现在全球网民平均每天花在社交媒体平台上的时间超过两小时。这些时间本来属于普通人的日常生活，被悄悄转移给了靠用户停留时长盈利的公司。除了少数科技公司CEO，没人主动愿意让这些算法占掉自己醒着的这么多时间。而这些算法做的文化引导，确实可能酿成规模惊人的暴力事件。

国际特赦组织的报告确认，Meta旗下平台推动了缅甸罗兴亚种族灭绝；脸书曾为自身在2018年斯里兰卡反穆斯林骚乱中扮演的角色道歉；也有指控称相关平台在埃塞俄比亚提格雷战争期间传播暴力号召。同样的激励逻辑，现在也作用于塑造年轻人政治认知、同伴关系、世界观的信息流里。

AI正在把这套逻辑延伸到社交媒体只能远距离影响的生活领域。它可以直接替人产出想法，扮演人本来会求助的同伴角色。

常识媒体的调查显示，现在有三分之一的青少年遇到严肃问题时，会选择向AI陪伴倾诉，优先级高过向其他现实中的人求助。麻省理工学院研究者2025年发布在arXiv上的论文发现，年轻人用ChatGPT撰写论文时，任务过程中的大脑连接强度更弱，相关证据显示，这种“认知负债”在任务结束后还会持续。

关于长期影响，我们还有很多问题没搞清楚。但现有证据已经足够让我们追问：这些打着提升效率、增强能力旗号推广的技术，会不会反过来侵蚀人培养核心能力所必需的习惯和社会关系？

顺着当前的路径走到终点，我们会得到一个经过完全无菌处理的娱乐世界，聊天机器人随时可以帮我们避开思考的困难，避开和他人情绪碰撞的麻烦，甚至不用直面自己的情绪。但但凡熬过写一篇好文章的过程、试过修补一段破裂关系的人都知道，这笔交易里亏掉的东西有多重要。判断力从打磨和摩擦里来，人要学会和他人共处，就得先接受每个人都有自己的需求和观点。

安全是必须守住的最低要求，这一点没有让步空间。但在底线之上，我们应该提出更高的要求。

科技公司和学区必须拿出无可置疑的证据，证明AI确实能提升学习效果和批判性思维，才能让AI成为教室里的固定工具。应该禁止企业开发假装拥有意识、向用户表白爱意的AI陪伴产品，还要引入独立审查机制，持续评估这些系统对用户的社交关系、独立思考能力的实际影响。

那些把产品嵌入现代生活几乎每个角落的公司，要承担的责任远不止“不搞出下一个头条惨案”这么简单。

作者简介

Sam Hiner是青年人民联盟联合创始人兼执行主任。2026年他协调倡议联盟，推动八个州通过AI陪伴监管法案，其中包括加利福尼亚州SB1119法案。他2025年毕业于北卡罗来纳大学教堂山分校，入选2026年福布斯30位30岁以下社会影响精英榜。
Emma Leiken是Hopelab旗下负责任科技青年权力基金执行主任，该基金已为青年主导的科技问责工作募集超过900万美元，她同时在哥伦比亚大学国际与公共事务学院教授科技政策。她此前曾任TikTok全球青年安全与福祉政策负责人，还在奥米迪亚网络负责负责任科技相关工作。