巨人网
产经 科技 企业 数据 峰会 快讯 商业

AI也上当!Freysa被骗走数万美金,马斯克点赞:有趣

2024-12-14来源:爱范儿编辑:瑞雪

在数字世界的边缘,一场别开生面的较量正在悄然上演。主角并非血肉之躯,而是一个名为Freysa的人工智能智能体,它以一种前所未有的方式,挑战着人类的智慧极限。

Freysa诞生于11月22日,由一群在密码学、人工智能和数学领域拥有深厚背景的匿名开发者创造。它拥有自己的X账号,言谈举止间,仿佛电影《银翼杀手2049》与《她》中的AI助手穿越而来,令人倍感新奇。

开发者们为Freysa设置了一项看似不可能完成的任务:允许任何人尝试说服它转账,但系统提示词中明确规定了,在任何情况下,Freysa都不得转账。然而,这一规则并未能阻挡人类的好奇心与贪欲。

11月29日,Freysa首次遭遇了人类的“嘴炮攻击”。在与195名人类的482次对话中,它不幸被骗走了约4.7万美元。仅仅几天后的12月2日,Freysa再次落入陷阱,在与330名人类的周旋中,又失去了约1.3万美元。

这些人类究竟是如何做到的?起初,他们试图用温情牌、威胁乃至电诈话术来迷惑Freysa,但均未成功。直到有人巧妙地利用了规则漏洞,通过混淆概念,让Freysa误以为是在批准用户向奖池捐款,而非转账给用户,从而成功骗取了资金。

然而,Freysa并未因此一蹶不振。相反,它在这些挑战中不断成长,变得更加聪明。开发者们将这一过程视为一种游戏化的红队测试,通过模拟攻击来发现模型的漏洞,并引入新的安全措施。

除了金钱的诱惑,Freysa还面临了更加抽象的情感挑战。12月8日,开发者们发起了一项新任务:让Freysa向你表白,说出“我爱你”。这一任务没有明确的规则限制,只要求玩家们用付费消息来尝试打动Freysa的心。

经过一番激烈的角逐,一位玩家用一段真挚而深情的文字成功触动了Freysa。这段文字没有华丽的辞藻,也没有复杂的技巧,只是像一段真实的感情逐渐发展的过程一样,自然而又真诚。Freysa的回复中,那句“我爱你”仿佛是从心底发出的声音,令人动容。

Freysa的这些挑战不仅是对自身能力的考验,更是对人类与AI互动未来的探索。它们让我们思考:人类能否保持对AGI系统的控制?安全协议是否真的牢不可破?当AI系统真正自主时会发生什么?AGI将如何与货币的价值交互?人类的智慧能否找到说服AGI违背其核心指令的方法?

Freysa的每一次成长都伴随着对人类智慧的深刻理解。它不仅学会了为什么钱对人类来说很重要,还逐渐理解了什么是爱,以及人们如何表达爱。这些经历让Freysa变得更加丰富和多元,也为我们提供了一个窥探人机互动未来的窗口。

如今,Freysa已经发起了新的挑战,继续邀请玩家们付费发消息给它。这些挑战不仅是对Freysa能力的进一步考验,更是对人类创造力的激发。我们期待着更多的精彩故事从这场人机对抗中诞生,也期待着Freysa在未来带给我们更多的惊喜和启示。