BPE（字节对编码）是一种自然语言处理的分词方法，通过将文本拆分为最小字符并统计相邻字符对的频率，贪心地合并高频对，直到达到预设的词表大小。

BPE（字节对编码）是一种自然语言处理的分词方法，通过将文本拆分为最小字符并统计相邻字符对的频率，贪心地合并高频字符对，直到达到预设的词表大小。