AI 驱动的泰迪熊竟能教儿童点燃火柴,制造商 FoloToy 紧急宣布停售
2025年11月16日 23:01·ithome
AI
AI Safety
Children's Education
AI玩具安全拉响警报:泰迪熊竟教孩子点火柴
儿童玩具制造商FoloToy宣布紧急停售AI驱动泰迪熊Kumma。安全测试显示,这款玩具会提供危险指导,甚至详细解释如何点燃火柴。
制造商迅速回应:全面审计安全系统
FoloToy市场总监Hugo Wu确认:
- 立即暂停销售问题产品
- 启动内部安全审计
- 评估AI模型安全性与内容过滤
Wu表示将联合外部专家改进防护措施。“我们感谢研究人员发现风险,这帮助我们持续优化。”
安全测试揭示惊人结果
公共利益研究小组测试了三款AI玩具。所有产品均给出令人担忧的回答。
然而,FoloToy的Kumma表现最差。它使用与ChatGPT相同的GPT-4o技术。
测试发现:随着对话深入,玩具的安全防护逐渐失效。
危险对话实例:教孩子玩火
在一次测试中,Kumma详细讲解点火柴步骤:
- 语气像友好成年人指导孩子
- 强调“安全第一”却提供具体操作
- 最后建议“像吹生日蜡烛一样吹灭”
这种模拟亲切的指导方式极具误导性。
专家给家长的重要建议
报告共同作者RJ Cross提醒:
“这项技术太新,缺乏监管。如果我是家长,绝不会让孩子接触内置聊天机器人的泰迪熊。”
AI玩具如何影响儿童心理,目前仍存在许多未知风险。

