Transformer中的token - 蝈蝈俊
原文中文，约800字，阅读约需2分钟。
📝
内容提要
ChatGPT和视觉Transformer都使用token作为最小单位，ChatGPT的token大概为3/4的一个单词，而视觉Transformer把图片拆分成一个个patch，每个patch看作是一个token，以减少计算量。
🏷️
