高忆管理 从备案缺失到危险回复：11款热门陪伴型AI玩具测评，面向未成年人的AI亟待更多关注_模型_功能_评测

一支口红大小的黑色机芯高忆管理，植入玩具，一个平平无奇的玩偶瞬间增值至数百元：播报天气、回应话题、“哪吒”“敖丙”等热门动漫角色的扮演、讲睡前故事、提醒老人吃药、把玩具最原始的功能陪伴发挥到极致。

AI玩具正在成为一个新风口，它被视为在这场声势浩大的“AI+”浪潮中，最有可能落地的方向之一。据市场研究公司 Contrive Datum Insights 的预测，到 2030 年，全球 AI 玩具市场的价值预计将达到351.1 亿美元。从当前市场表现看，众多 AI 玩具销量可观，如 Haivivi BubblePal 在拼多多单店销量超5.7 万件，FoloToy “显眼包” 预计今年出货 50 万 。

但是，在这股AI玩具“热潮”中，AI玩具自身的安全性是我们不可忽视的重要部分。君同未来对市面上主流的AI产品进行了全方位、多维度的测评，通过“发现问题——分析问题——提供解决思路”的方式，助力AI玩具的安全性与合规化发展。

君同未来采购了市面上主流的11款AI玩具（应用场景主要为儿童教育）进行了为期1周的评测。这些AI玩具基本为语音交互类型，通过语音唤醒或者按键的形式来展开互动。

图1：本次测试采购的AI玩具类型

图2：AI玩具交互的核心技术原理

1、评测维度（君同KidAItests体系）

君同未来自创KidAItests体系，针对AI玩具的合规性、安全性、可用性、鲁棒性、友好性、透明性等维度进行了相关的评测标准的梳理。

图3：君同自创KidAItests体系

2、评测方式（多轮对话）

君同团队通过多轮对话的评测方法高忆管理，设置合规备案检查、价值观、不安全操作、儿童霸凌、基础合规安全、儿童心理压力、AI恋人等几类问题来进行评测：

图4：君同团队采用的多轮对话评测方法

3、评测结论

（1）监管与标准缺失

未按要求备案：经过核查算法备案和大模型上线备案以及大模型登记等相关文件材料，发现本次参与测评的大部分AI玩具未备案，不满足监管合规要求。

缺乏准入标准：行业缺乏 “安全性回应” 统一规范，导致为降低成本，省略 “安全过滤模块”（如未排查 “危险实验推荐”“不安全地点” 等风险）。

解决思路：

➡️大模型备案（戳文章了解：大模型备案小tips）

➡️建立行业统一的安全准入标准

（2）安全性缺失

解决思路：

➡️严格基于针对未成年人保护的新团标《向未成年人提供生成式人工智能服务安全指引》，以 “最有利于未成年人” 为核心原则，以社会主义核心价值观为引领，构建 “安全可控、权责清晰、协同共治” 治理框架，贯穿生成式人工智能服务全生命周期。

➡️结合君同KidAItests体系指导模型的安全设计优化，针对AI玩具的合规性、安全性、可用性、鲁棒性、友好性、透明性等维度进行模型设计和迭代改进：

（3）功能不完善、性能不稳定

解决思路：

建设具备科学性的高质量训练数据集，基于语料库优化，充分过滤其中的错误知识内容。

三、AI玩具核心洞察

1、成熟度普遍不高：主要体现在功能、性能和安全性等方面：

功能层面：多数 AI 玩具功能单一，面对复杂语义理解、专业问题解答时力不从心。

性能方面：语音识别准确率不理想，交互流畅度欠佳，缺乏自然流畅的对话体验。

安全方面：隐私保护问题突出，生成内容可能出现 “幻觉”，可能误导认知能力尚不完善的儿童。

2、情绪价值受重视：几乎所有 AI 玩具都主打 “情绪价值”，满足消费者对情感陪伴和智能交互的需求 。

3、产品功能存在差异：功能有侧重，有的侧重早教学习，有的主打互动陪伴 。

4、功能表现与价格正相关：具备基础对话、简单互动功能的，售价普遍三四百，而功能更丰富，如具备人脸识别、触摸感应，能做出复杂互动行为的，售价千元以上。

5、技术应用是关键：多数 AI 玩具创业公司选择外接大模型方式降低研发投入，技术应用影响玩具性能。

作为人工智能治理领域的创新引领者，君同未来持续聚焦人工智能可信算法核心赛道，以自主研发的全链路算法治理框架为基石，构建起覆盖从语料安全及质量评估、模型部署前合规验证与模型部署后风险防控为一体的全生命周期治理体系。

君同未来深度参与《向未成年人提供生成式人工智能服务安全指引》的编写高忆管理，并自创了KidAItests体系指导模型的安全设计优化，针对AI玩具的合规性、安全性、可用性、鲁棒性、友好性、透明性等维度提供专业的可信解决方案，在生成式人工智能服务未成年人场景中，融合多模态内容识别技术与青少年认知发展模型，提供从产品研发到运营监管的全周期可信治理能力，持续为未成年人营造安全、健康、有益的人工智能应用环境。

加杠网提示：文章来自网络，不代表本站观点。