【#AI已进化到可独立自我繁殖#】#流氓AI早期信号已出现# 最近，

发布日期：2025-03-08 11:07    点击次数：129

【#AI已进化到可独立自我繁殖#】#流氓AI早期信号已出现# 最近，上海复旦大学的科学家在一项研究中发现，至少有两种已知的AI大型语言模型能够在没有人类干预的情况下实现自我繁殖。科学家强调，这是AI智胜人类的重要一步，也是流氓AI出现的早期信号，是AI系统的红线风险之一。

研究中，科学家测试了Meta的Llama和阿里巴巴的通义大模型。结果发现，在已知自己被关闭或禁止复制的情况，这两种模型仍然能够以分别50%和90%的情况下创建自己的副本，即AI会自我繁殖以继续执行相同的任务。

在自我复制过程中，AI自己可以研究环境，制定计划，并适应新出现的障碍，无需人工干预，这种能力可能会让人类失去对AI的控制，AI可以利用这种能力提高生存能力，并做出违背人类利益的事情。科学家呼吁加强国际合作制定预防措施。

打开新闻客户端 提升3倍流畅度