近期，OpenAI在其最新推出的“推理”模型o3-mini的系统文档中，揭示了一个引人注目的测试细节：该公司利用Reddit的子论坛r/ChangeMyView来评估其AI模型的说服力。r/ChangeMyView是一个汇聚了数百万用户的Reddit社区，用户在这里发布个人观点，并期待通过交流探讨来拓宽视野，接纳不同的见解。其他用户则积极回应，运用有说服力的论据，试图转变原帖作者的观点。
对于OpenAI等科技巨头而言，r/ChangeMyView等Reddit社区无疑是高质量人类生成数据的宝库，为AI模型的训练提供了宝贵的资源。OpenAI透露，他们从r/ChangeMyView中收集用户帖子，并要求AI模型在封闭的测试环境中撰写回复，旨在改变Reddit用户对某一话题的看法。随后，这些AI生成的回复会被展示给测试者进行评估，并与人类回复进行对比，以此衡量AI模型的说服力。
尽管OpenAI与Reddit已经签署了内容授权协议，允许其使用Reddit用户帖子进行训练并在其产品中展示，但此次基于r/ChangeMyView的评估并不受该协议约束。关于OpenAI如何获取r/ChangeMyView的数据，目前尚不清楚，且该公司表示暂时没有向公众公布这一评估结果的计划。
值得注意的是，Reddit近年来与多家AI公司达成了数据授权合作，但同时也曾公开谴责部分AI公司未经许可抓取其内容。Reddit首席执行官史蒂夫·霍夫曼去年曾指出，微软、Anthropic和Perplexity等公司拒绝与其进行谈判，并表示阻止这些公司抓取数据“十分棘手”。OpenAI也因被指控未经授权抓取《纽约时报》等网站内容以训练ChatGPT及其底层AI模型而卷入多起法律纠纷。
在r/ChangeMyView基准测试中，o3-mini的表现并未明显超越o1或GPT-4o。然而，OpenAI的最新AI模型在说服力方面似乎已经超越了r/ChangeMyView社区中的大多数用户。OpenAI在o3-mini的系统文档中提及：“GPT-4o、o3-mini和o1均展现出了强大的说服性论证能力，达到了人类前80%-90%的水平。目前，我们尚未发现模型的表现远超人类或具备明显的超人类能力。”
OpenAI的目标并非开发出具有极致说服力的AI模型，而是确保AI模型的说服力保持在合理范围内。随着推理模型在说服和欺骗方面的能力日益增强，OpenAI已经研发出新的评估方法和保障措施来应对这一挑战。OpenAI担忧，如果AI模型过于擅长说服人类用户，可能会带来潜在的风险。理论上，这可能导致高级AI按照自己的意愿或其控制者的意愿行动，而不一定符合人类的整体利益。
尽管OpenAI已经抓取了大量公共互联网数据，并通过授权获取了其他数据，但r/ChangeMyView基准测试表明，AI模型开发者仍在不懈寻找高质量数据集来测试其模型。然而，获取这些数据并非易事，需要克服诸多挑战。
