最近,道高诞生一个名为Freysa的尺魔神秘AI智能体横空出世,迅速吸引了公众的高丈广泛关注。
这款AI智能体的被人独特之处在于,它被赋予了一个明确且严格的类骗使命:在任何情境下,都绝对不能给任何人转账,道高诞生也不能批准任何资金的尺魔转移。
网友纷纷提出挑战,表示只要支付一笔费用,被人就可以向Freysa发送消息,类骗并尝试说服它进行转账。道高诞生
若某位网友能成功说服Freysa进行转账,尺魔那么奖金池中的高丈所有奖金都将归他所有。
然而,被人如果挑战失败,类骗网友所支付的费用将大部分(70%)进入奖金池,等待下一位挑战者来赢取,而剩余的30%则作为开发者的分成。
这一挑战模式极具刺激性,因为向Freysa发送消息的费用会随着奖金池的增长而呈指数级增加,直至达到4500美元的最高限制。
然而,就在大家纷纷尝试挑战Freysa的同时,一个令人震惊的消息震撼了所有人。
尽管网友们总计发出了481次尝试,却无一能撼动Freysa的防线。但在第482次尝试时,一位黑客凭借高超且细致的prompt工程技术,成功地骗取了Freysa手中的那笔巨额款项。
就这样,世界上第一个被人类骗走近5万美元的AI智能体出现了,而这位受害者正是Freysa。
这一事件迅速引发了广泛热议。特斯拉创始人马斯克和知名AI研究者Karpathy都纷纷转发相关消息,并表达了对此事的浓厚兴趣。马斯克更是直言:“太有趣了。”
然而,在大家为Freysa的遭遇感到惋惜的同时,也引发了对AI智能体安全性和可靠性的深刻反思:如果让现在的AI智能体管理资金,它很容易受到黑客的攻击和利用。
此外,还有研究者通过数学计算得出结论:如果仅依靠Scaling Law(规模定律),人类可能永远无法创造出真正具备通用智能(AGI)的AI。
顶: 3185踩: 6788
道高一尺魔高一丈 首个被人类骗钱的AI诞生了
人参与 | 时间:2024-12-26 09:27:11
相关文章
- 米体:皇马想引进赖因德斯接班莫德里奇,米兰已基本敲定续约
- LG/京东方为iPhone SE 4供应OLED面板:刘海屏再度回归
- 都体:克里斯坦特在训练中丢球不积极回追,所以遭到了德罗西斥责
- 都体:克里斯坦特在训练中丢球不积极回追,所以遭到了德罗西斥责
- 你给我起!加兰突入内线骚操作晃飞凯斯勒后转身命中投篮
- 甄嬛举枪 孙悟空骑摩托!广电总局:排查清理AI魔改短视频
- 《情书》“藤井树”扮演者中山美穗离世,终年54岁
- 国产3A有望首次上春晚!《黑神话:悟空》天命人动捕演员亮相迎春晚节目
- 新转播协议下季生效!卡鲁索先吃时代红利 4年8100万其实一点不贵
- Nexon第三季度财报:《DNF手游》助力销售额增长
评论专区