人工智能与用户相互塑造的会计学：数学模型的作用

当 AI 系统进入越来越多的社会领域时，它们日益塑造并受到用户的偏好、观点和行为的影响。然而，AI 系统的设计很少考虑到 AI 和用户如何相互塑造。本论文提出了发展数学上明确规定 AI 和用户相互塑造的形式交互模型的理念，该模型可以用于制定交互实现、通过实证分析监控交互、通过反事实分析预测社会影响，以及通过干预控制社会影响。以内容推荐系统为案例研究，我们对形式交互模型的初始文献在这些用例和设计轴方面进行了批判性审视。此外，我们呼吁社区在设计、评估或审计任何与用户进行交互的 AI 系统时利用形式交互模型。