Anthropic 报告称小模型或可实现自我复制,AI 蠕虫或威胁物联网安全
上周二
Anthropic 前沿红队发布报告指出,AI 自我复制无需昂贵数据中心,缺乏安全防护的商用 IoT 设备可成为新型 AI 蠕虫的宿主,数月后小型 AI 模型或可在这类设备上实现自我复制。研究人员用 15 台内存 4GB 的廉价安卓电视盒组成局域网,通过分层并行运行的方式成功驱动了 260 亿参数的大模型,打破了 AI 模型的生存门槛。测试显示 9B 级小模型已可在多数陌生硬件上自主搭建推理环境,更强的模型能在隔离网络环境中完成端到端自我复制,这类 AI 蠕虫还可通过记录感染失败的经验并遗传给下一代,实现拉马克式进化,代际更迭后感染成功率可从 45% 提升至 84%。和传统僵尸网络等死代码不同,AI 蠕虫是具备自主适配能力的活体智能,无中心化控制节点,隐蔽性和生存能力极强。结合当前模型能力迭代速度推算,2026 年底小模型的智力水平将击穿自我复制能力底线,迎来 AI 蠕虫的实用级爆发,大量算力更强的智能设备将成为其繁衍的温床。
Anthropic 惊人预警:小模型已有生命迹象,AI 蠕虫恐引爆全球物联网灾难
36Kr/投资界/maomu.com/华尔街见闻
Anthropic 惊人预警:小模型已有生命迹象 AI 蠕虫恐引爆全球物联网灾难
格隆汇/maomu.com/新智元
体验专业版特色功能,拓展更丰富、更全面的相关内容。