第三是年龄验证的技术与隐私双重困境。平台不能只靠用户自报年龄,必须通过合规的年龄验证机制核实身份。欧盟已开发基于零知识证明的年龄验证应用程序,声称验证完成后平台只接收到"是"或"否"的结果,用户原始身份数据与验证请求立即解耦。但该系统在开源发布首日即被安全研究人员发现漏洞并成功绕过。代表谷歌和Meta的科技游说团体CCIA Europe警告,大规模收集年龄信息、身份证明凭据以及关联儿童与父母的数据,"无疑会成为网络犯罪分子的目标"。[page]
第四是监管范围的扩展带来的连锁反应。将AI陪伴助手和聊天机器人纳入监管,意味着消费级AI产品在欧盟将被按"对未成年人上瘾的可能性"重新定性,这对所有面向欧盟的聊天助手和陪伴类AI都是直接的合规成本,尤其是那些靠长会话与情感绑定驱动的产品。AI陪伴程序默认必须关闭,"长期记忆"功能也必须默认关闭,这直接削弱了此类产品的核心竞争力。
不用AI会不会使人与社会脱节?
这是一个更为深刻的社会哲学问题。从多个维度来看,过度依赖AI确实存在导致人与社会脱节的风险,但完全不用AI同样可能带来新的隔离。
一方面,AI的过度依赖正在削弱人类的"活人感"。技术已从我们手中的工具变成了身处其中的环境,我们甚至不再觉得是在"使用技术"。算法根据我们的偏好推荐内容,平台根据我们的兴趣组织关系,人工智能根据我们的需求生成回应,世界在抵达我们之前,就已经被越来越多地处理成"适合我们"的样子。而真正的"活人感"恰恰依托于"遭遇"——那种无法完全预测和控制的现实真正抵达自己的经验。一个越来越精准地满足我们偏好的世界,可能让生活变得更加顺畅,却也可能令意外减少、让他者消失,耐受力下降,无法承担选择的后果。