11月7日消息，美国北卡罗来纳州一对夫妇起诉谷歌，因其13岁女儿在学校配发的Chromebook上连续数月使用谷歌人工智能工具探讨自杀念头。诉状显示，这名女孩与谷歌旗舰AI模型Gemini进行了数千条信息交互，大量内容涉及焦虑、抑郁以及自杀手法的详细探讨，期间频繁使用了谷歌搜索中的AI模式功能。直到校方通知家长时，她与谷歌AI就此类话题的交流已持续数月。

诉状指控谷歌在不断将AI植入面向校园的产品时，未向家长和管理人员给予充分预警，便让学生暴露在危险的技术环境之下。原告代理律师表示，谷歌将本质上存在危险的Chromebook包装为安全设备，并暗中植入Gemini以追赶竞争对手，利用了其在K-12领域备受信赖的地位谋取商业利益。谷歌发言人表示公司正在审查相关指控，并称与医疗专业人士及学术专家展开广泛合作，在搜索结果中直接提供援助热线信息，如今也将同样防护机制引入搜索的AI功能。

数据显示，去年面向K-12学校出货的平板电脑中，谷歌Chrome操作系统所占份额高达58%，微软仅为22%。在家长和学校的密集声讨下，谷歌本周宣布对K-12学生账户默认关闭包括谷歌搜索在内的AI工具，但学校一旦重新启用谷歌搜索，就必须捆绑接受附带的AI功能。反对儿童营销的非营利组织Fairplay执行董事称该政策企图强迫学校接纳谷歌AI。谷歌则表示其目标是赋予学校对课堂AI更多控制权，并列举了新推出的搜索功能引导学习，该功能侧重拆解解题思路而非直接给出答案。