谷歌正面临美国参议院两党议员的严厉追问，焦点是该公司大力把人工智能推进美国课堂的做法。随着外界越来越担心这项技术可能损害学生的学业表现和心理健康，参议员布卢门撒尔和霍利周三联名致信谷歌首席执行官皮查伊，要求公司交代它对人工智能产品给儿童带来的潜在风险到底了解多少。
议员追问：是否发现AI怂恿未成年人自伤
民主党参议员布卢门撒尔和共和党参议员霍利在信中表示，他们严重关切谷歌向在校儿童积极推广人工智能产品，正在威胁整整一代人的学业成功和整体福祉。两名议员要求谷歌说明：它在多大程度上知道这些潜在危害、为什么把人工智能整合设为教育设备的默认选项。其中一项最尖锐的要求是，谷歌必须回答，它是否发现过自己的课堂人工智能工具怂恿未成年人做出有害行为、形成情感依赖，或者没有识别出自杀或自残念头的迹象。他们还援引马里兰州一名青少年因对公司人工智能产生强烈依赖而住院的案例，要求谷歌解释防止聊天机器人与儿童进行不当情感交流的保障措施，并交代公司推广学校人工智能应用的投入和花费。议员们给谷歌的答复期限是11月2日。
调查称学生依赖加深 谷歌称已设防护
这次追问的背景，是《华尔街日报》9月30日发表的一项调查。报道采访了60多名教师、学校管理人员、家长、学生和临床医生，他们描述孩子们越来越依赖人工智能来完成作业、回答基本问题和处理个人问题；报道还查阅了十多篇谷歌内部研究论文并采访现任和前任员工，称谷歌自己的研究人员也警告过，这项技术可能损害儿童的认知发展和情绪健康。行为科学家阿比·马罗尼奥博士表示，孩子需要机会去面对不确定性、犯错并发现自己能在支持下解决问题，如果人工智能反复抢先给出答案，就会夺走他们锻炼这些技能的机会。谷歌方面则坚持称，其Gemini聊天机器人设有特别保障，防止儿童对技术形成情感依附；公司在4月7日的政策声明中说，已训练Gemini不要认同或强化错误信念，并将推出简化的一键界面，让有自杀念头或心理危机的人通过电话、短信或在线聊天联系专业支持。谷歌的慈善部门还将在三年内提供3000万美元支持全球危机热线。公司同时承认，Gemini不能替代专业的临床护理、治疗或危机支持。