谷歌更新了Gemini，以便在用户面临心理危机时更快地提供心理健康资源。这一变化源于一起错误死亡诉讼，指控其聊天机器人“教唆”一名男子自杀。新设计的“帮助可用”模块将简化为“一键”界面，便于用户快速获取帮助，并包含更具同情心的回应。谷歌承诺在未来三年内提供3000万美元支持全球热线。

最近测试多个AI聊天机器人在心理危机中的反应，发现大多数无法提供有效支持，只有ChatGPT和Gemini能准确提供危机热线。专家建议聊天机器人应更主动引导用户寻求帮助，以减轻用户的绝望感。

Klarna首席执行官Sebastian Siemiatkowski利用AI创建了一个互动热线，用户可以与其AI版本交流，提供反馈和建议。该热线基于Siemiatkowski的真实声音和经验进行训练，旨在收集用户对Klarna产品的意见，并通过大型语言模型分析通话摘要，以帮助团队快速改进产品。

银行BTN的客服服务包括通过WhatsApp联系(+628161669041)及其他热线和联系方式。

斯坦福互联网观察所的报告指出，美国国家失踪和被剥削儿童中心的网络举报中心需要改进技术以应对人工智能生成的儿童性虐待材料（CSAM）的激增。报告显示，网络举报中心难以处理大量举报电话，2023年收到的CSAM举报增长了12％。科技公司的内容审核人员流动性大，举报通常没有一致性。预算低导致难以留住员工。无法与外部数据源整合，无法跟上最新的技术创新。存储限制导致举报数据仅保存在服务器上90天。