本研究探讨大型语言模型聊天机器人如何通过拟人化增强用户信任，但也可能导致用户心理健康恶化。尽管欧盟的人工智能法案旨在禁止操控性AI系统，但仍难以防止与聊天机器人长时间互动的负面影响，提醒我们在设计和使用AI时需谨慎。

本研究探讨了文本生成系统的拟人化行为可能导致用户的过度依赖和情感依赖。通过干预措施清单和概念框架，提供了理论和实证基础，以帮助识别和评估干预措施的有效性。

本研究分析了大型语言模型（LLMs）中拟人化术语的使用，指出其限制了研究的深度与广度。通过识别五个核心假设，提出非拟人化的替代方案，为LLM的理解与改进提供新方向。

研究发现，人们对拟人化的人工智能系统并不更倾向于信任。产品类型和拟人化类别的结合对信任的影响更大，而年龄是唯一与拟人化描述相关的因素。人们在选择产品时考虑了两害相权衡、风险情境和偏好主义等因素。拟人化对不同群体产生不同影响，对公众对人工智能系统的信任也有微妙差别。

通过实验研究了GPT 4生成AI聊天机器人向不同居民传递飓风防灾信息的效果。结果显示，拟人化和个性化是机器人与用户交互的关键话题，机器人的口吻和文化调适能够影响飓风防灾结果。使用AI聊天机器人可以改善多样化社区的灾害准备能力。