字节开源的Infinity模型在图像生成方面超越了扩散模型，推理速度提升3至14倍，生成质量高且细节丰富。其核心创新是采用Bitwise Token自回归框架，扩展词表至无穷大，显著提升生成效果。Infinity在NeurIPS获奖后已开源，提供体验。

通过实验和数学推导，展示了数据选择可以非常有效，甚至可以击败在整个样本上进行训练。某些常见的数据选择方法可能不够优化。