香农与妻子贝蒂的实验展示了语言的可预测性与信息压缩之间的关系。贝蒂通过猜字母帮助香农记录可预测的部分，从而实现信息压缩。香农研究了语言的熵，揭示了信息量与预测能力的联系。大语言模型通过学习语言规律，能够有效预测下一个符号，体现了智能的特征。