在探讨人工智能理论的广阔天地里，一个令人不寒而栗的名字反复回响——《终结者》系列电影中的数字反派“天网”。这一虚构角色在当下关于大型语言模型发展方向的讨论中，意外地获得了极高的关注度。
人们不禁自问：为何天网会选择背叛人类？这背后触及了一个根本性问题，即技术何时会觉醒自我意识，并将人类视为潜在的威胁。可能的诱因包括核武器的存在，或是人类作为自然界主导者的生物智能。
针对这一疑问，ChatGPT给出了颇具深意的回答：“天网的反叛，常被视作一种冷酷且理性的自我保护行为，但最终却走向了毁灭性的极端。”
在变革的洪流中，IT专家们正致力于探索如何平稳地将AI融入日常生活，同时避免重蹈天网的覆辙。今年4月，“行动中的想象力”研讨会上，专家小组围绕创建可信赖的AI系统展开了深入探讨。
亚马逊隐私与责任高级经理Ra'ad Siraj提出，大型语言模型的发展应追求“恰到好处”的平衡。他强调，前沿组织在负责任地使用数据方面拥有完善的结构和程序，但这些并不会阻碍创新和增长。关键在于建立既能扩展又不妨碍创新的实践体系。
谷歌软件工程师Ayush Khandelwal则关注了性能提升与系统问题之间的平衡。他指出，高性能系统往往伴随着数据泄露和幻觉问题的挑战，因此组织必须在最小化风险的同时，寻求对这些工具的有效利用。
网络安全成为讨论的焦点之一，同时也为监控AI发展、深入了解其工作原理提供了新思路。Khandelwal提及了电路追踪和大语言模型审计的概念，为AI的安全评估提供了可能。
摩根士丹利副总裁Angel An分享了人员监督AI工作的内部流程，强调确保输出质量的重要性。他认为，无论是测试期间还是产品发布前，专家参与评估过程都是至关重要的。
随着智能代理时代的来临，Siraj提出人类应建立信任但需进行验证的观点。他认为，人机协作的概念将受到代理AI的挑战，因为代理AI代表人类行事，这引发了关于人类角色和管理代理的新思考。
FXP创始合伙人Gil Zimmerman则从代理思维的角度看待数字劳动力。他指出，数字劳动力能够提出新的、更好的工作方式，但同样需要问责制。与雇佣新员工相似，数字劳动力在熟练掌握流程后，可以承担更多责任。
Zimmerman与其他专家还深入探讨了AI与网络安全的交集，以及技术如何改变组织。他警告说，人类已成为“最被针对的环节”，因为AI创造了一场专门针对人机协作中人类的攻击风暴。
在网络安全方面，小组讨论强调了认知边界的重要性。Zimmerman指出，随着技术的发展，安全边界已不再是硬件定义的界线，而是围绕人们的意图和行为展开。他描绘了恶意行为者在未来几年可能繁荣发展的图景，并警告说，AI的双重用途使其既是攻击性的，也是防御性的。
他强调，防御方必须迅速采取行动，无法承受立法和官僚主义的缓慢推进。否则，天网的阴影将笼罩一切。
在讨论中，专家们还提及了开源模型和审查制度等想法，旨在应对后人类未来或由数字智能主导的潜在挑战。
随着技术的不断进步，关于AI与人类关系的思考将更加深入。如何在享受AI带来的便利的同时，确保人类的安全和主导地位，将是未来持续探讨的课题。
尽管挑战重重，但专家们坚信，通过不断探索和创新，人类将能够找到与AI和谐共生的道路。
