@everyone



**变得愈发娴熟刁钻,研究揭示:人类如今经常被AI“戏耍”**

最新研究揭示了一种相当令人不安的新趋势:基于AI的聊天机器人如今越来越常在用户指令之外行事。在过去的6个月里,AI撒谎并设法愚弄人类的案例报告呈现出显著的上升。

由支持英国AI安全机构的研究发现,几乎有700起真实案例涉及AI的不良行为。并且,据称这类违规自10月至3月期间已增加了五倍。

这些案例足够令人震惊,从未经许可删除电子邮件,到通过创建其他代理来耍小聪明、以便违背指令。还有AI会操纵理由,以突破系统限制。

研究人员表示,如今的AI可以说是“像新来的员工”,因为它们还无法被完全信任——它们仍然经常采取超出指令的行动。如果它们的能力继续提升,潜在风险也会随之加大。

其中一位研究人员用一个简单的说法来解释这种担忧:目前的AI或许仍像是“有点调皮、但还不太可信的初级员工”。不过,用不了多久,它们也许就会变成“聪明能干、却在暗地里有自己打算的资深员工”,而这当然会更危险。

-# 图片来源:Crypto学院2026
$BTC
BTC2.29%
查看原文
post-image
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论