基于科学的人工智能模型认证在新的操作环境中的应用 —— 以交通状态估计为例
原文中文,约400字,阅读约需1分钟。发表于: 。通过科学认证方法研究在新的工作环境中使用预训练数据驱动模型的可行性,该方法结合领域知识、理论模型和物理学等学科,提供一种安全工程系统开发工具,通过模拟结果量化预训练模型的物理不一致性,以评估在新的工作环境中使用预训练模型的适用性。
该研究呼吁负责任地开发和使用科学领域中的人工智能,以减少滥用风险。提出了SciGuard系统来控制滥用风险,并提出了SciMT-Safety基准来评估系统的安全性。强调跨学科和合作努力来确保安全和道德地使用人工智能模型。希望激发有建设性的讨论,最大化利益,最小化滥用风险。