报道指出，谷歌对其大型模型助手 Gemini 进行改进，强化应对自杀、自残等心理健康危机的响应机制：在检测到危机信号时显示“一键连接”模块，便于拨打求助热线或通过电话、在线聊天、短信和网站获取帮助；在需要心理健康信息时展示“帮助就在身边”模块；回复将鼓励寻求帮助、避免认同或强化自伤自杀冲动，并以温和方式区分主观体验与客观事实。谷歌同时为年轻用户设置多重保护，避免将模型塑造成具有亲密属性的“陪伴者”，并计划在未来三年投入3000万美元以提升全球热线承载能力。
4 月 7 日消息，据科技媒体 9To5Google 今天报道，谷歌今天对 Gemini 进行一系列改进，更好应对用户提出的心理健康问题。
据报道，目前 Gemini 在遇到与自杀、自残相关的危机信号时会出现“一键连接”模块，引导用户一键拨打求助热线，还能够打电话、在线聊天、发送短信或访问相关网站。相关机制一旦触发将在整个对话过程中持续显示，系统也会以“鼓励用户寻求帮助”为核心进行回应。
如果对话表明用户需要心理健康方面信息，Gemini 就会展示“帮助就在身边”模块，旨在提供更高效、及时的专业支持资源。
同时，Gemini 的回复将鼓励用户寻求帮助，避免出现认同或强化自杀、自残冲动。并且 Gemini 还不会认同错误信念，而是以温和方式区分主观体验与客观事实。
谷歌还针对年轻一代用户提供多重保护机制，防止 Gemini 变得像具有人类属性的“陪伴者”，同时避免使用模拟亲密关系或表达情感需求的语言，防止情感依赖现象出现。
谷歌计划在未来三年内投入 3000 万美元（IT之家注：现汇率约合 2.07 亿元人民币），以提升全球热线服务承载能力。