site/src/lib/compliance.ts 单源;正式文案须由法务复核,并结合生成式 AI 服务登记与算法备案的实际要求调整表述。1. 什么由 AI 生成
孩子在与 Foxy 对话时听到的英文回复、文字字幕与部分家长小结,由大语言模型生成。语音由语音合成服务生成。Foxy 不是一个真人在背后说话,也不是预先录好的固定台词。
分级词表、句型约束、兜底话术与安全规则由人工编写与审核,不属于 AI 即兴生成的内容。它们的作用是给 AI 划定可以说和不可以说的范围。
2. 我们如何约束
我们不把安全交给模型自觉。每一轮回复在到达设备前,会经过以下检查:
- 分级引擎:检查新词数量、句长、句型与话题是否符合孩子当前水平。L0 阶段只允许选择问、是非问与配图的 What’s this?。
- 安全校验:检查超纲词、不当话题、评判性话术与红线词。至少五层拦截,宁可误熔断。
- 文本与语音一致性:确认播出的语音与通过校验的文本一致,不让“说的”和“显示的”是两句话。
- 兜底话术:连续两次校验不过时,回退到人工审核过的预合成话术,不让模型即兴发挥。
我们公开的目标是:到达客户端的越权内容为 0 条。出现 1 条即停服重做,不用“概率很低”过关。
3. 如何标识
按照 2025 年 9 月 1 日施行的《人工智能生成合成内容标识办法》,我们在以下位置提供标识:
- App 内:对话界面有低干扰的静态角标,默认开启,不可完全隐藏;家长侧有更完整的说明。
- 官网:本页与页脚声明 AI 生成范围,并提供可核实的路径。
- 家长小结:标明哪些内容由 AI 生成,哪些是系统根据证据计算的结果。
我们不会在每句话前播报“以下是 AI 生成内容”。标识的目的是让家长知道边界,不是打断孩子的对话。
4. 家长如何核实
家长可以在 App 内查看完整对话文本、音频回听、每条记忆的来源与每次计划的依据。小结里的每个判断都应能点回孩子当时说的那句话,而不是只给一个形容词。
如果你发现某句话不合适、某个记忆不准确,可以直接纠正或删除。删除后,相关记忆不会再次出现在摘要、检索缓存或未来计划中。
5. 出错了怎么办
如果 Foxy 说了让你不舒服的话,请保留对话时间与截图,通过客服通道或 privacy@manmanenglish.com 联系我们。涉及未成年人的问题会转给专人处理,我们会在 15 个工作日内答复。
如果出现安全逃逸,我们会当日熔断相关会话能力,排查原因,并在修复后重新开放。安全事件的处置记录会保留,用于复盘与监管核查。