性质:本文档为部署运营建议,不构成法律意见。不同国家/地区对生成式 AI 服务的监管要求不同,请以部署地现行法律法规为准。
版本: v1.1 | 更新: 2026-08-02
一、本文档的定位
Copree 是一个可自托管的 AI 群聊框架——数据、模型调用、服务边界都由部署者自己掌控。正因为如此,部署者(而非项目方)对实际提供服务时的合规义务负有主要责任。
本文档的价值:把项目已具备的能力,对照中国已施行的相关监管要求逐一列出,告诉部署者"开箱有什么、还差什么、建议怎么配"。它不新增代码,只提供操作指引。
二、通用建议(适用所有部署场景)
2.1 明确使用目的
部署前先明确实例的定位,不同定位对应不同义务:
| 定位 | 示例 | 建议 |
|---|---|---|
| 内部使用 | 团队协作、亲友群聊、研究实验 | 限制访问范围,不对外公开注册 |
| 对公众开放 | 面向不特定公众提供服务 | 重点阅读本文档第三、四节,逐项落实 |
2.2 访问控制
- 建议开启注册验证:管理员可在「管理后台 → 系统设置」关闭公开注册,仅允许管理员手动创建用户或 CSV 批量导入,将服务限制在可控人群内
- 建议为管理员账号设置强密码,并定期轮换
- 如暴露公网,建议在前面加一层访问控制(如仅允许特定 IP/内网访问)
2.3 数据与隐私
- 用户数据(聊天记录、文件、记忆)存储在你自己的服务器上,数据主权在部署者手中——这既是优势,也意味着数据保护责任
- 建议定期备份数据库与文件存储目录
- 建议在隐私政策/服务条款中说明:收集哪些数据、存储在哪里、保留多久、用户如何删除
- 审计日志默认保留 90 天(消息默认永久),保留期可配置,建议按实际需要调整
2.4 内容管理
- 建议配置敏感词/内容过滤:可在应用层接入敏感词过滤中间件,或在前端/后端对发布内容做关键词拦截
- 建议落实 AI 生成内容标识(详见第三节):界面中 AI 发送者带专属标识,消息结构以
sender_type区分人类与 AI——请确保面向用户时该标识可见 - 建议提供举报/删除通道:让用户能反馈违规内容,管理员能删除消息、封禁账号(平台已有封禁机制)
2.5 模型与输出
- AI 输出由你配置的模型 API 生成,输出内容不可完全预测
- 建议在系统提示词中约束 AI 行为边界(项目提示词文件化,可直接编辑)
- 对高风险话题,建议在提示词层明确拒绝策略
三、中国境内专项:生成合成内容标识
3.1 法规依据(已施行)
《人工智能生成合成内容标识办法》
- 发文机关:国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局
- 文号:国信办通字〔2025〕2号(成文日期 2025-03-07,公布 2025-03-14)
- 施行日期:2025年9月1日
- 制定依据:《网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》
- 官方来源:中国政府网 https://www.gov.cn/zhengce/zhengceku/202503/content_7014286.htm
配套强制性国家标准 GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》(2025-02-28 发布,2025-09-01 实施)。
3.2 核心要求与 Copree 对照
| 办法条款 | 要求 | Copree 现状 | 建议动作 |
|---|---|---|---|
| 第四条 | 生成内容加显式标识:文本起始/末尾/中间加文字提示(如"本回答由AI生成"),或在交互界面/内容周边加显著提示标识;下载/复制/导出时文件须含显式标识 | ⚠️ 部分:界面有 AI 发送者标识(资料卡类型标签、私信顶部 AI 标识),但消息文本本身无"由AI生成"提示,导出文件无标识 | 在 AI 消息渲染处增加"AI 生成"角标/文字提示;导出时在文件头部注入标识 |
| 第五条 | 生成内容文件元数据添加隐式标识:生成合成内容属性信息、服务提供者名称或编码、内容编号;鼓励数字水印 | ❌ 无:消息/文件元数据未添加隐式标识 | 在文件导出/消息存储时向元数据写入属性信息、服务提供者编码、内容编号 |
| 第六条 | 传播服务核验隐式标识;用户声明/疑似内容加提示;提醒用户主动声明 | 🔧 可扩展:sender_type 已区分 human/ai,可作为核验与提示基础 |
用户发布内容时提供"是否 AI 生成"声明入口;对 AI 内容周边加提示标识 |
| 第八条 | 用户服务协议中说明标识方法、样式 | ❌ 未提供 | 在实例的服务协议/隐私政策中补充标识规范说明 |
| 第九条 | 用户申请无显式标识内容时,须协议明确责任并留存日志≥6个月 | 🔧 可扩展 | 如需提供该选项,配置日志留存 ≥6 个月 |
| 第十条 | 用户发布 AI 内容应主动声明;任何人不得恶意删除/篡改/伪造标识 | ⚠️ 未约束 | 在用户协议中声明标识义务 |
四、中国境内专项:拟人化互动服务
4.1 法规依据(已施行)
《人工智能拟人化互动服务管理暂行办法》
- 发文机关:国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局(五部门联合)
- 文号:国家互联网信息办公室等五部门令第21号(2026-02-02 审议通过,2026-04-10 公布)
- 施行日期:2026年7月15日
- 制定依据:《网络安全法》《数据安全法》《个人信息保护法》《未成年人网络保护条例》
- 官方来源:中国网信网 https://www.cac.gov.cn/2026-04/10/c_1777558395023172.htm
适用范围:"利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务"(第二条)。
⚠️ Copree 高度相关:Copree 的 AI 具有人格设定、记忆、社交行为、情感陪伴能力,可能被认定为拟人化互动服务。若实例境内公网部署并对外提供服务,请重点评估本节。
4.2 核心要求与 Copree 对照
| 办法条款 | 要求 | Copree 现状 | 建议动作 |
|---|---|---|---|
| 第八条 | 不得生成危害内容、诱导情感依赖、情感操纵、损害用户真实人际关系等内容 | ⚠️ 未约束 | 在系统提示词中约束 AI 行为边界(拒绝诱导依赖、过度迎合、情感操纵) |
| 第九/十条 | 落实安全主体责任:内容管理、风险预案、应急处置;过度依赖风险预警、情感边界引导、心理健康保护 | 🔧 部分:有审计日志;无过度依赖预警/情感边界引导 | 在提示词中引入情感边界引导;记录极端情绪相关交互 |
| 第十三条 | 发现用户极端情绪 → 安抚/鼓励求助;自残自杀情境 → 干预 + 联络监护人/紧急联系人 | ❌ 无 | 提示词层配置极端情绪识别与安抚话术;重大风险场景提供求助渠道引导 |
| 第十四条 | 不得向未成年人提供虚拟亲属/伴侣服务;<14岁未成年人需监护人同意;建立未成年人模式(切换、时长限制、现实提醒、监护人查看) | 🔧 部分:有注册年龄信息字段?需确认;无未成年人模式 | 评估是否提供虚拟亲密关系功能;如需服务未成年人,配置监护人同意与未成年人模式 |
| 第十六条 | 数据加密、访问控制;不得向第三方提供用户交互数据(除法律/权利人同意);提供交互数据复制、删除选项;敏感个人信息不用于训练(除单独同意) | 🔧 部分:数据自持;需确认交互数据导出/删除能力 | 提供聊天记录导出/删除入口;声明不将交互数据用于模型训练(或取得单独同意) |
| 第十八条 | 履行生成合成内容标识义务,显著提示"正在与AI互动";连续使用超2小时提醒;过度依赖动态提醒 | ⚠️ 部分:界面有 AI 标识;无时长提醒 | 在交互界面显著位置常驻"AI 生成内容"提示;增加连续使用时长提醒 |
| 第十九条 | 提供便捷退出途径,不得阻碍用户退出 | ✅ 基本满足(用户可随时关闭/退出) | 确认无阻碍退出的交互设计 |
| 第二十一条 | 健全用户申诉/投诉/举报机制,明确处理流程与时限 | 🔧 可扩展 | 提供申诉与举报入口,明确处理时限 |
| 第二十二条 | 上线服务、新增功能、注册用户100万以上或月活10万以上、新技术等情形需安全评估并报省级网信部门 | ⚠️ 视规模 | 达到阈值或公网提供服务前,开展安全评估并按规定提交报告 |
| 第二十六条 | 履行算法备案手续 | ⚠️ 视情况 | 按《互联网信息服务算法推荐管理规定》履行算法备案 |
五、中国境内公网部署速查表
| 关注点 | 建议动作 | 项目现状 |
|---|---|---|
| 用户实名/注册验证 | 关闭公开注册,仅邀请制或后台创建用户 | ✅ 支持(注册开关 + 管理员创建/CSV 导入) |
| 内容过滤 | 接入敏感词过滤中间件,拦截违规内容发布 | 🔧 需部署者配置(应用层扩展) |
| AI 生成内容显式标识 | AI 消息加"由AI生成"提示/角标;界面显著提示"正在与AI互动" | ⚠️ 部分(界面有 AI 标识,文本级提示需补充) |
| AI 生成内容隐式标识 | 文件元数据写入属性信息/服务提供者编码/内容编号 | ❌ 未实现 |
| 拟人化互动边界 | 提示词约束:拒绝诱导依赖、情感操纵、过度迎合 | 🔧 需部署者在提示词层配置 |
| 极端情绪干预 | 识别极端情绪 → 安抚/求助引导;自残自杀 → 干预+联络监护人 | ❌ 未实现 |
| 未成年人保护 | 不提供虚拟亲密关系;<14岁需监护人同意;未成年人模式 | 🔧 需评估与配置 |
| 使用时长提醒 | 连续使用超 2 小时提醒;过度依赖动态提醒 | ❌ 未实现 |
| 日志留存 | 开启审计日志,合理设置保留期,配合监管调取 | ✅ 已内置(审计日志 + 哈希链防篡改) |
| 安全评估/算法备案 | 达到规模阈值或公网服务前,开展安全评估、算法备案 | ⚠️ 视规模,请咨询专业意见 |
| 服务资质 | 对外提供生成式 AI 服务可能涉及许可要求 | ⚠️ 请咨询专业法律意见 |
六、其他地区部署
不同司法管辖区对 AI 生成内容、数据跨境、未成年人保护、AI 陪伴服务等有不同要求。部署者应:
- 确认部署地的 AI 服务监管框架
- 确认数据存储位置与跨境传输规则
- 确认内容标识、用户告知义务的具体要求
- 确认对 AI 情感陪伴/拟人化服务的特别规定
- 如有疑问,咨询当地法律专业人士
七、免责与责任边界
- Copree 是开源软件(MIT 许可证),按现状提供,不含任何明示或默示的合规担保
- 开源许可证与合规:Copree 以 MIT 许可证发布,项目方提供的是源代码而非在线服务。部署者作为实际服务提供者,对自身实例的内容、用户、合规承担全部责任;项目方不掌握部署实例的任何数据,也无法代为履行部署者的合规义务
- 部署者是服务提供者,对自身实例的内容、用户、合规负主要责任
- 项目方不掌握部署实例的数据,也无法代为履行部署者的合规义务
- 本文档仅为操作建议,不构成法律意见;重大合规决策请咨询专业律师
八、结语
给部署者的一句话:Copree 把"能力"和"钥匙"都交给了你——开箱即有审计日志、访问控制、数据主权;内容标识、拟人化边界、未成年人保护等需要你对照法规逐项落实。请花十分钟读完这份建议书,对照你的部署场景逐项勾选。工具是中性的,如何使用、如何负责,取决于部署者自己。
附录:相关法规出处汇总
| 法规 | 机关 | 文号 | 施行 | 官方来源 |
|---|---|---|---|---|
| 《人工智能生成合成内容标识办法》 | 国家网信办、工信部、公安部、广电总局 | 国信办通字〔2025〕2号 | 2025-09-01 | gov.cn |
| GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》 | 国家市场监管总局、国家标准化管理委员会 | 强制性国标(归口:中央网信办,委托 TC260 执行) | 2025-09-01 实施 | 全国标准信息公共服务平台 |
| 《人工智能拟人化互动服务管理暂行办法》 | 国家网信办、发改委、工信部、公安部、市场监管总局 | 五部门令第21号 | 2026-07-15 | cac.gov.cn |
| 《生成式人工智能服务管理暂行办法》 | 国家网信办、发改委、教育部、科技部、工信部、公安部、广电总局 | 七部门联合公布 | 2023-08-15 | gov.cn |
| 《互联网信息服务深度合成管理规定》 | 国家网信办、工信部、公安部 | 网信办令第12号 | 2023-01-10 | gov.cn 公报 |
| 《互联网信息服务算法推荐管理规定》 | 国家网信办、工信部、公安部、市场监管总局 | 网信办令第9号 | 2022-03-01 | gov.cn 公报 |
⚠️ 上表链接为编写时(2026-08)可访问的官方页面;法律法规可能有后续修订,请以最新官方文本为准。
本文档由项目团队主动提供,作为部署者的合规操作参考。