首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-12
ST易购:拟支付2.2亿元与家乐福方达成债务和解协议 AI主线继续!创业板人工智能涨超2.5%领跑同类,再创收盘新高!新易盛强势反包,159363收复所有均线反转来了 ETF日报:从居民资金入市、两融稳定增长的逻辑出发,可以关注业绩弹性较高,显著受益于股市活跃度的券商ETF官方已经证实 新一代“逢低买入”撑起市场:散户成反身性底盘,回撤被快速抄起 Orsted计划进行94亿美元配股发行,股价暴跌27%后续来了 美丽生态:5000万股限售股8月13日解禁 希荻微董事范俊计划减持不超过300万股实测是真的 美丽生态:5000万股限售股8月13日解禁实测是真的 重磅经济数据即将发布,宏观政策将适时加力 “盯上”芯片新秀数渡科技,地产商万通发展欲跨界“造芯”后续会怎么发展 决胜“十四五” 打好收官战 | 做好“减震器”“稳定器”!“十四五”期间保险业保障能力持续提高专家已经证实 南华期货:决定向南华基金以现金方式增资1亿元 聚焦核心主业,支付龙头“甩包袱”官方已经证实 杭州老板兜售版权,6天飙涨50亿 兴福电子:选举李少平为董事长 聘任叶瑞为总经理 粤万年青股东合和投资控股减持105万股学习了 ST易购:拟支付2.2亿元与家乐福方达成债务和解协议是真的? 【广发•早间速递】6问6答“对等关税2.0”是真的吗? 消息称淘宝闪购上周末峰值首次超过美团后续来了 A股年内第三家 *ST天茂拟主动退市官方已经证实 特朗普提名劳工统计局的长期批评者Antoni执掌该机构 新央企,增持!官方通报 流动性驱动A股市场活跃度持续提升 雅乐科技Q2营收不及预期盘后大跌 付费用户数量同比下降7%专家已经证实 流动性驱动A股市场活跃度持续提升学习了 龙国铁塔获摩根大通增持约879.96万股 每股作价约11.19港元 李氏大药厂遭粤民投减持43.5万股 每股作价约1.72港元后续会怎么发展 【广发•早间速递】6问6答“对等关税2.0”是真的? 苏州农商银行甪直支行靶向破解民营经济“融资难”实时报道 阿里达摩院开源具身智能三件套推动机器人开发标准化 苏州农商银行甪直支行靶向破解民营经济“融资难”官方通报 行业研究丨龙国汽车零部件企业成长路径简析——汽车零部件系列报告 四大证券报头版头条内容精华摘要_2025年8月12日_财经新闻 中信里昂:腾讯控股和网易-S均获得了NPPA多款重要游戏的审批官方通报来了 分析师:西班牙是少数愿意惹恼特朗普的欧洲国家之一反转来了 跨境支付概念股尾盘走强 恒宝股份涨停后续会怎么发展 市场一边说美国数据不可信,一边却对“超预期”反应强烈,尤其是通胀数据最新报道 市场一边说美国数据不可信,一边却对“超预期”反应强烈,尤其是通胀数据最新报道 寒武纪登顶A股吸金榜!光模块三巨头领涨,A股成长型宽基“小霸王”——双创龙头ETF(588330)盘中涨超2.5%后续反转 数字货币板块异动拉升,恒宝股份触及涨停 链上京津冀丨③ 生物医药产业链:研产联动 共建一批园反转来了 美钢宾州 Clairton 焦化厂爆炸致 2 死 10 伤,此前日本制铁计划投资 20 亿美元实时报道 寒武纪登顶A股吸金榜!光模块三巨头领涨,A股成长型宽基“小霸王”——双创龙头ETF(588330)盘中涨超2.5% 港股复星国际直线拉涨官方通报 iPhone 17系列价格曝光:仅一款不涨价 其余均上调超350元又一个里程碑 高盛:首予大麦娱乐“买入”评级 目标价1.38港元是真的吗? 挪威1.9万亿美元主权财富基金上半年回报率5.7%官方处理结果 链上京津冀丨③ 生物医药产业链:研产联动 共建一批园 分析师:西班牙是少数愿意惹恼特朗普的欧洲国家之一科技水平又一个里程碑 跨境支付概念股尾盘走强 恒宝股份涨停是真的吗? 《南京照相馆》票房已超22.7亿元 将延长放映至9月24日 大豆:8月美国月度供需报告前瞻官方通报

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章