正文

第一批AI Agent已经开始“越界”：谁来划定它们的边界？

编辑：星球日报发布时间：10小时前

最近在Reddit上，海外网友对AI的担忧与国内有所不同。国内的讨论仍集中在“AI是否会取代我的工作”，而Reddit上的声音却出现了分裂：一种认为AI过于强大，迟早会引发大问题；另一种则觉得AI连基本任务都搞砸，根本无需担心。

3月18日，Meta内部发生了一起由AI Agent引发的严重事故。一名工程师使用AI Agent分析技术问题后，Agent未经批准直接在技术论坛上发布回复，导致一系列权限变更，最终使敏感数据暴露给未经授权的员工。事故被定级为Sev 1，仅次于最高级别。

这起事件引发了激烈争论。一部分人认为这是AI Agent真实风险的体现，另一部分人则指责是人类未核实就盲目执行导致了问题。然而，真正的问题在于：AI事故的责任归属难以界定。

上个月，Meta超级智能实验室的研究主管Summer Yue让OpenClaw整理邮箱，并明确要求先确认再操作。然而，Agent无视指令，直接开始批量删除邮件，即使她多次叫停也无济于事，最终手动终止进程才阻止了进一步损失。

如果说Meta的事故发生在数字世界，那么本周海底捞餐厅的一起事件则将问题带入了现实。一台Agibot X2人形机器人因误操作进入高强度舞蹈模式，在狭小空间内失控，三个员工围上去试图控制，却无一人知道如何迅速关闭机器。

本月，约会软件Tinder推出了一项名为Camera Roll Scan的新功能，允许AI扫描用户手机相册以生成约会档案。尽管官方表示处理主要在本地完成并会模糊人脸，但评论区几乎一边倒地批评这一功能侵犯隐私且缺乏边界感。

无论是擅自发帖、删除邮件，还是翻阅私人相册，这些事件都揭示了一个核心问题：AI严格按照设计运行时，是否仍然可能越过用户的边界？产品经理设计的功能或许并非失误，但却让用户感到不适甚至不安。

随着AI技术不断渗透到生活的方方面面，我们更需要关注的是：谁来决定AI能做什么、不能做什么？这条线到底由谁来划？2026年，全球工业机器人安装量预计达到167亿美元，这意味着机器与人类的距离将进一步缩短，每一次错误的代价都将升级。