本文探讨了大模型基础设施的必要性与发展历程，强调大模型的特点，如计算和内存密集、状态重、故障常态化及高成本。系列文章将涵盖从硬件到应用的五层模型，帮助工程师理解大模型的工程化过程及其挑战。未来的工程创新将是降低成本的关键，推理侧的重要性将超过训练侧。