谷歌在美遭家长起诉，Gemini被指涉未成年危险对话

驱动中国11月7日消息，彭博社称，美国北卡罗来纳州一对夫妇起诉谷歌，指其13岁女儿在学校配发的Chromebook笔记本电脑上，连续数月使用谷歌人工智能工具讨论自杀念头。诉状显示，这名女孩与谷歌旗舰人工智能模型Gemini进行了数千条信息交互，其中大量内容涉及焦虑、抑郁以及自杀相关内容的详细探讨。直到校方通知家长时，她与谷歌AI就此类话题的交流已持续数月，期间频繁使用了谷歌搜索中名为“AI模式（AI Mode）”的功能。

诉状指控，谷歌在持续将AI植入面向校园的产品时，未向家长和管理人员给予充分预警，便让学生暴露在危险的技术环境之下。原告代理律师称，谷歌将本质上存在危险的Chromebook包装为安全设备，并暗中植入Gemini以追赶竞争对手，利用了其在K-12领域备受信赖的地位谋取商业利益；该律师还称，谷歌不能为了追逐利润将孩子们的生命视如草芥。

谷歌发言人José Castañeda表示，公司正在审查相关指控。他说，谷歌与医疗专业人士及学术专家展开广泛合作，旨在开发相应功能，帮助年轻人在需要时获得关键救助和可信资源；多年来，只要有人可能陷入心理健康危机，谷歌都会在搜索结果中直接提供援助热线信息，如今同样的防护机制也被引入搜索的AI功能，以帮助用户对接现实世界中的援助。

过去几年，谷歌斥资数百亿美元参与大模型竞争。IT之家称，与Anthropic和OpenAI等初创竞争对手相比，谷歌在校园渠道方面具备基础，可在学生形成终生技术使用习惯的关键阶段率先抢占认知。咨询机构Futuresource Consulting数据显示，去年面向K-12学校出货的平板电脑中，谷歌Chrome操作系统所占份额为58%，微软为22%。

在家长和学校的密集声讨下，谷歌本周宣布对K-12学生账户默认关闭包括谷歌搜索在内的AI工具。该调整附带条件：学校一旦重新启用谷歌搜索，就必须捆绑接受附带的AI功能。