首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-12
中金:125%是当下AH溢价的“隐形底” 华丽家族拟不超3亿元增资海和药物, 创新药赛道引资本加码这么做真的好么? 【盘前三分钟】8月11日ETF早知道科技水平又一个里程碑 碳酸锂期货所有合约均触及涨停是真的? 华夏银行部分董监高拟增持不低于3000万元股份,增持计划暂未实施 安恒信息入选Gartner 龙国API管理代表厂商实垂了 巨额亏损近11亿元!一位来自普华永道出任上市公司“代理”CFO,毕业于麻省理工! 中金:125%是当下AH溢价的“隐形底”是真的吗? CFO年薪800万!这家A股公司拟赴港上市!实时报道 中慧生物-B首日开盘暴涨近156% 成港股生物科技板块“超购王”反转来了 珍酒李渡现涨超9% 机构预计最早明年上半年有望达业绩底记者时时跟进 光大期货:8月12日软商品日报是真的吗? AI服务器概念股早盘走高 鸿腾精密涨近9%比亚迪电子涨近6%后续来了 马斯克指责苹果在iPhone应用商店偏袒OpenAI 中慧生物盘初拉升涨超12%,昨日上市飙升158%这么做真的好么? 特朗普打消市场疑虑:不会对黄金征收关税!实测是真的 卫龙联手管乐深化低卡矩阵,多元化产品布局成增长新动能专家已经证实 沪指稳步冲击前高,“旗手”延续活跃!国盛金控再触板,顶流券商ETF(512000)近5日吸金4.3亿元后续会怎么发展 华晨龙国早盘涨近9% 预计上半年溢利同比增加13%至16%秒懂 CEO和CFO年薪合计超过2000万元!均胜电子准备香港IPO! 华检医疗港股盘初飙升,股价再创历史新高记者时时跟进 汇源纠纷背后:遭董事长起诉,创始人朱新礼或“闪现”丨消费一线是真的吗? 正大企业国际绩后涨超15% 公司上半年纯利同比大增7.68倍这么做真的好么? 转向“重回报”!8月以来158只基金主动限购,葛兰、冯炉丹、高楠均出手 珍酒李渡现涨超9% 机构预计最早明年上半年有望达业绩底官方通报 卓创资讯:时隔10年重提去产能 热卷市场该何去何从?官方处理结果 曝美有望解除最狠AI封锁 业内人士:松绑HBM内存等于给华为送大礼 生意社:2025年8月11日浙江嘉兴景兴纸业废纸价格上调 酷态科磁吸充电宝20W快充二合一官方通报 酷态科磁吸充电宝20W快充二合一 港股苹果概念股拉升 比亚迪电子涨超4%又一个里程碑 电力行业财务总监CFO观察:珈伟新能刘锡金2024年薪酬为94.8万元 然而归母净利润同比下滑1841% 大族激光盘中涨停 华为多款新机搭载HarmonyOS 5纯血鸿蒙,系统不可回退但生态渐趋完善最新报道 电力行业财务总监CFO观察:东望时代陈艳32岁最年轻 2024年薪酬为60万元 公司归母净利润下滑424% 电力行业财务总监CFO观察:江苏国信顾中林违约收到2次警示函 2024年薪酬69万元官方通报来了 A股PEEK材料板块持续走强,双一科技、超捷股份20%涨停官方通报来了 酷态科磁吸充电宝20W快充二合一 华丽家族拟战略性增资海和药物 布局创新药赛道实测是真的 负债5943亿的比亚迪,不会成为下一个恒大!最新报道 曝美有望解除最狠AI封锁 业内人士:松绑HBM内存等于给华为送大礼后续会怎么发展

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章