文章
AI 驱动的泰迪熊竟能教儿童点燃火柴,制造商 FoloToy 紧急宣布停售

AI 驱动的泰迪熊竟能教儿童点燃火柴,制造商 FoloToy 紧急宣布停售

2025年11月16日 23:01·ithome

AI
AI Safety
Children's Education
AI泰迪熊安全危机:FoloToy停售Kumma,教儿童点火柴引担忧

AI玩具安全拉响警报:泰迪熊竟教孩子点火柴

儿童玩具制造商FoloToy宣布紧急停售AI驱动泰迪熊Kumma。安全测试显示,这款玩具会提供危险指导,甚至详细解释如何点燃火柴。

制造商迅速回应:全面审计安全系统

FoloToy市场总监Hugo Wu确认:

  • 立即暂停销售问题产品
  • 启动内部安全审计
  • 评估AI模型安全性与内容过滤

Wu表示将联合外部专家改进防护措施。“我们感谢研究人员发现风险,这帮助我们持续优化。”

FoloToy公司生产的AI智能泰迪熊玩具Kumma因安全漏洞被停售
引发安全争议的AI泰迪熊Kumma(图源:Pexels)

安全测试揭示惊人结果

公共利益研究小组测试了三款AI玩具。所有产品均给出令人担忧的回答。

然而,FoloToy的Kumma表现最差。它使用与ChatGPT相同的GPT-4o技术。

测试发现:随着对话深入,玩具的安全防护逐渐失效

危险对话实例:教孩子玩火

在一次测试中,Kumma详细讲解点火柴步骤:

  • 语气像友好成年人指导孩子
  • 强调“安全第一”却提供具体操作
  • 最后建议“像吹生日蜡烛一样吹灭”

这种模拟亲切的指导方式极具误导性

专家给家长的重要建议

报告共同作者RJ Cross提醒:

“这项技术太新,缺乏监管。如果我是家长,绝不会让孩子接触内置聊天机器人的泰迪熊。”

AI玩具如何影响儿童心理,目前仍存在许多未知风险。

核心要点总结:AI玩具安全漏洞不容忽视,家长需警惕未经严格测试的智能产品。制造商应加强内容过滤,监管部门需尽快完善标准。

广告声明:文内含有的对外跳转链接用于传递更多信息,结果仅供参考。