小红书近日在北京举办“AI治理开放日”活动，明确提出以真实性与原创价值为核心，构建AI内容治理新框架。平台用户信任中心负责人表示，发布治理主张并非限制创作自由，而是为创作者提供更清晰的创作指引，同时将公域流量优先分配给优质内容。
根据新规，平台鼓励创作者将AI作为创意工具，生产具有审美价值、叙事逻辑和真实信息增量的内容。例如，利用AI技术将复杂知识转化为可视化科普作品，或创作具有独特辨识度的虚拟角色。视觉创作领域同样受到支持，包括艺术插画、绘画以及具备电影级叙事逻辑的短片制作。
针对违规行为，平台划定四条红线：严禁利用AI进行账号托管、造假营销、侵权行为及低质创作。具体包括反对全自动运营账号、仿冒名人身份、伪造个人经历、恶搞经典作品等扰乱社区秩序的行为；禁止侵犯肖像权、著作权等法律权益；抵制批量生产同质化内容、传播猎奇画面或不良价值观的创作方式。相关负责人强调，此类行为破坏了社区真诚分享的生态，挤压了真实创作者的生存空间。
在技术治理层面，平台采用“主动标识+智能识别”双轨机制。创作者发布AI参与内容时需自行标注参与方式，未标注内容经系统识别后将自动添加标识。技术团队持续优化图片视频中的AI生成痕迹检测能力，重点提升对人脸深度伪造、合成画面的识别精度，并结合账号历史行为、内容相似度等维度建立风险预警模型。目前，平台已开通AI标注申诉通道，创作者可对系统判定结果提出异议。
数据显示，2024年以来平台累计处理AI违规案例超百万起，其中托管账号占比超80%，涉及造假笔记近15万篇。对于确认由AI完全托管且无人类参与的账号，平台将采取封禁措施，其他违规行为则根据严重程度实施限制曝光、警告等梯度处罚。
