本研究提出了一种新颖的风险分类法，用于评估人工智能心理治疗代理的潜在用户伤害和自杀风险。该分类法通过监测认知模型基础的风险因素，有效识别不安全的偏差，促进更安全的心理健康支持创新。

本研究分析了GPT-4对抑郁症状的理解，结果表明其在评估抑郁症方面有效，但在自杀风险和精神运动症状的关联上存在偏差。

本研究使用Whisper语音模型和大型文本语言模型(LLM)对青少年自发言语进行自动检测自杀风险，并收集了汉语数据集。系统在测试集上达到了0.807的检测准确度和0.846的F1分数。

我们使用监督的抽取和生成式语言模型集成的方法来提供2024年CLPsych共享任务中对自杀风险的支持证据。我们的方法包括三个步骤：构建基于BERT的模型估计句子级的自杀风险和负面情绪，通过高概率识别高自杀风险句子，使用生成式和抽取式摘要进行集成。团队SophiaADS在突出摘要方面获得第一名，并在摘要生成方面排名第10。