大语言模型(LLMs)应优先考虑强类型编程语言，以提高代码生成的可靠性。当前的弱类型语言如JavaScript可能导致不确定性，影响AI生成代码的准确性。形式验证和专为AI设计的新语言可能是未来的解决方案，以确保代码的正确性和可靠性。

正式语言（如模型检查和形式验证）对我来说是新知识，我希望在此进行简要回顾，以便快速参考。

本文提出了FormalMATH，一个包含5560个经过形式验证的数学问题的大型基准，旨在提升人工智能的形式数学推理能力。研究通过人机协作的自动形式化流程，降低了专业标注成本，并揭示了当前语言模型在形式证明中的局限性，为未来研究指明了方向。

Rust 的不安全特性并不影响其内存安全性。尽管实现中可能包含不安全操作，只要遵循正确的接口和语义，Rust 仍能保持安全。通过形式验证和局部分析，Rust 有效管理不安全代码，确保扩展不会引发问题。

VeriPlan系统通过形式验证技术提升了大型语言模型在用户规划中的可靠性和灵活性，解决了传统自动化规划中用户信任不足的问题，显著改善了用户对模型的感知质量和满意度。

本研究提出了一种基于“这里与那里”逻辑的替代语义，以解决回答集编程中的形式验证挑战，促进逻辑程序的模块化理解，并利用自动定理证明工具验证程序特性，旨在简化ASP验证。

该研究提出了工具Marmaragan，利用大型语言模型为程序生成SPARK注释，以实现代码形式验证。实验结果显示其能正确生成50.7%的注释，为未来结合LLM与形式验证奠定基础。

本研究提出了一种自动从系统行为生成规格的方法，解决了形式验证中手动制定规格的挑战与易错性，并比较了不同的LTL规格挖掘技术，对形式方法实践者具有重要指导意义。

本研究探讨了变换器在自动化形式验证中的应用，通过将研究论文中的形式化证明转化为可验证代码，降低了形式验证的门槛，提高了代码的可靠性与安全性。

本文探讨了形式验证中对专家知识的需求，并提出了Rango工具，该工具能够自动识别相关前提和相似证明，从而优化合成过程。Rango显著提高了证明的有效性，在多个开源项目中成功合成了32.0%的定理，较之前工具提升了29%。

本研究提出了AlphaVerus框架，旨在解决自动化代码生成中的形式验证不足问题。通过自我改进的翻译和验证器反馈，AlphaVerus显著提高了生成代码的正确性，并展示了在HumanEval和MBPP等问题上的潜力。

Cloudflare通过形式验证确保其权威DNS配置的正确性，避免冲突。Topaz系统验证DNS查询的IP地址选择逻辑，确保不同团队的程序不冲突。每当程序更改时，都会通过模型检查器检测潜在错误，从而提高互联网的可靠性，鼓励其他网络运营商采用形式方法。

形式验证的历史和方法，包括形式推理、可证明的递归函数和类型论。形式验证对编程语言理论的影响，包括类型系统的发展和依赖类型语言的应用。实践方面包括SMT求解器、程序逻辑和模型检查。

数学家陶哲轩在使用Lean4时发现一篇已发表论文中的错误，计划将语言模型与证明助手连接起来。Lean4主要用于写数学证明，也可用于编程。形式验证可减少软件开发中的错误。