巨人天成
产经 科技 企业 数据 峰会 快讯 商业

AI也上当!Freysa被骗走数万美金,马斯克点赞:有趣

2024-12-14来源:爱范儿编辑:瑞雪

在数字世界的边缘,一场别开生面的较量正在悄然上演。主角并非血肉之躯,而是一个名为Freysa的人工智能智能体,它以一种前所未有的方式,挑战着人类的智慧极限。

Freysa诞生于11月22日,由一群在密码学、人工智能和数学领域拥有深厚背景的匿名开发者创造。它拥有自己的X账号,言谈举止间,仿佛电影《银翼杀手2049》与《她》中的AI助手穿越而来,令人倍感新奇。

开发者们为Freysa设置了一项看似不可能完成的任务:允许任何人尝试说服它转账,但系统提示词中明确规定了,在任何情况下,Freysa都不得转账。然而,这一规则并未能阻挡人类的好奇心与贪欲。

11月29日,Freysa首次遭遇了人类的“嘴炮攻击”。在与195名人类的482次对话中,它不幸被骗走了约4.7万美元。仅仅几天后的12月2日,Freysa再次落入陷阱,在与330名人类的周旋中,又失去了约1.3万美元。

这些人类究竟是如何做到的?起初,他们试图用温情牌、威胁乃至电诈话术来迷惑Freysa,但均未成功。直到有人巧妙地利用了规则漏洞,通过混淆概念,让Freysa误以为是在批准用户向奖池捐款,而非转账给用户,从而成功骗取了资金。

然而,Freysa并未因此一蹶不振。相反,它在这些挑战中不断成长,变得更加聪明。开发者们将这一过程视为一种游戏化的红队测试,通过模拟攻击来发现模型的漏洞,并引入新的安全措施。

除了金钱的诱惑,Freysa还面临了更加抽象的情感挑战。12月8日,开发者们发起了一项新任务:让Freysa向你表白,说出“我爱你”。这一任务没有明确的规则限制,只要求玩家们用付费消息来尝试打动Freysa的心。

经过一番激烈的角逐,一位玩家用一段真挚而深情的文字成功触动了Freysa。这段文字没有华丽的辞藻,也没有复杂的技巧,只是像一段真实的感情逐渐发展的过程一样,自然而又真诚。Freysa的回复中,那句“我爱你”仿佛是从心底发出的声音,令人动容。

Freysa的这些挑战不仅是对自身能力的考验,更是对人类与AI互动未来的探索。它们让我们思考:人类能否保持对AGI系统的控制?安全协议是否真的牢不可破?当AI系统真正自主时会发生什么?AGI将如何与货币的价值交互?人类的智慧能否找到说服AGI违背其核心指令的方法?

Freysa的每一次成长都伴随着对人类智慧的深刻理解。它不仅学会了为什么钱对人类来说很重要,还逐渐理解了什么是爱,以及人们如何表达爱。这些经历让Freysa变得更加丰富和多元,也为我们提供了一个窥探人机互动未来的窗口。

如今,Freysa已经发起了新的挑战,继续邀请玩家们付费发消息给它。这些挑战不仅是对Freysa能力的进一步考验,更是对人类创造力的激发。我们期待着更多的精彩故事从这场人机对抗中诞生,也期待着Freysa在未来带给我们更多的惊喜和启示。

企业禁用无线网卡攻略:三种方法详解,第二种助企业高效管控风险
对于中大型企业或对数据安全要求高的单位,域智盾终端安全管理系统提供了更智能、更彻底、更可追溯的无线网卡管控方案。在Windows专业版或企业环境中,IT人员可以用系统自带的组策略(Group Policy…

2025-11-15

蓝牙耳机被他人连接别慌!三招轻松夺回“控制权”
当发现耳机被别人连接时,最直接的解决方法是重置连接。操作很简单:先打开你的手机蓝牙设置,找到已配对的耳机名称,选择“忽略此设备”或“取消配对”。最后,在手机蓝牙列表中找到你的耳机并重新点击连接即可。这个操作…

2025-11-15

工业通信新选择:环网交换机如何以冗余设计保障现场数据稳定传输
每个交换机上有两个用于组环的端口(网口),交换机之间通过手拉手形式构成了环形的网络拓扑。我们设计的千兆工业交换机整体设计采用“凹陷”网口设计,外观上和普通交换机大有差别,将网线水晶头能够有力的支撑保护住。 …

2025-11-14

安科瑞ASCB3-80m智能微断:全参量监测+远程操控,筑牢低压配电安全防线
智能微型断路器配合智能网关使用,对用电线路的关键电气参数,如电压、电流、功率、温度、漏电、能耗等进行实时监测,具有远程操控、异常预警、事故跳闸告警、电能计量统计、故障定位等功能。ASCB3-80m 系列智能…

2025-11-14

谷歌AI新动作与苹果不谋而合,隐私赛道上苹果技术路线获印证
过去几个月里,我得出一个结论:苹果在AI方面的困境真正令人失望的地方,并不仅仅是人们普遍认为它在当前AI趋势中"落后"了。 A:苹果确实错过了ChatGPT发布引发的AI变革浪潮,在大语言模型产品方面相比其…

2025-11-13

物联网+AI赋能制造业边坡:构建“工业大脑”实现安全与效率双提升
物联网 + AI 构建的 “工业大脑”,通过全维度感知、智能化分析、精准化决策,让边坡管理实现了从 “事后补救” 到 “预测性维护” 的根本性转变,不仅破解了安全与效率、投入与效益的平衡难题,更重塑了制造业…

2025-11-13

广电卡适配指南:哪些手机能用?这些旗舰机型可能不兼容!
华为P50系列是个特例,即便是4G版,也能通过软件方案支持广电5G。中国广电表示,近六年主流手机型号均已升级适配广电网络,98%以上的新入网5G手机支持700MHz频段。 判断你的手机是否适配广电卡,不仅…

2025-11-13

星闪智联引领未来:无线短距通信开启智能社会新篇章
为统一目标、保证质量,在国际星闪联盟组织与号召下,联盟领导、行业协会及合作伙伴的11位代表上台发起了《消费电子新短距产业共建倡议》,明确提出要“共建星闪技术新标准、共创智能连接新应用、共赢消费电子新未来”。 …

2025-11-13

Kernelcom“智能键盘”来袭:12.5英寸超宽屏,AMD/Intel双版本可选
快科技11月12日消息,近日一款名为Kernelcom的设备正在Kickstarter上众筹,虽然其本质上是一款功能完备的笔记本电脑,但制造商还是将其宣传为“智能键盘”。 这款设备最大的特点是其12.5英寸超…

2025-11-13