的功劳。
（二）优势2：能处理“超长信息”，以前的ai“记不住长内容”
以前的ai还有个大问题：“记不住长内容”。比如你给以前的ai发一段1000字的故事，让它总结核心内容，它可能只会总结前200字的内容，后面800字全忘了——因为它的“记忆能力”有限，只能记住最近处理的几个词。
这就像咱们用手机记笔记，如果手机内存不够，记了10条笔记后，前面5条就自动消失了。而transforr的自注意力机制，能“记住所有信息的关联”，不管内容多长，它都能一下子抓住“前面的内容和后面的内容有啥关系”。
比如你给用transforr的ai发一段2000字的小说，里面有“小明在第一章丢了钥匙，在第五章在沙发下找到了钥匙”这样的情节，ai能准确总结出“小明丢的钥匙最后在沙发下找到”；而以前的ai可能会总结成“小明丢了钥匙”，完全忘了“找到钥匙”的结局——因为它记不住第一章和第五章的关联。
现在很多ai能“上下文聊天”，比如你和chatgpt聊了100句话后，再提“刚才说的那个旅游计划”，它还能记得“旅游计划”的细节，这就是transforr能处理“超长上下文”的能力在起作用。
（三）优势3：“通用性极强”板能搞定所有信息类型
以前的ai技术，大多是“专一型”的：处理文字的ai只能处理文字，处理图片的ai只能处理图片，处理语音的ai只能处理语音。做一个“语音转文字+文字翻译”的工具，得分别用“语音处理ai”和“文字翻译ai”，然后把两个ai拼起来——不仅麻烦，而且两个ai之间的“配合”还容易出问题。
而transforr是“全能型”的，它能处理所有“可以转换成序列的信息”——文字是序列（按字词顺序）、语音是序列（按声音波形顺序）、图片是序列（按像素排列顺序）、视频是序列（按帧顺序）。只要把这些信息转换成机器能懂的“序列格式”，transforr就能用同一套“脑回路”来处理。
- 处理文字：直接把字词按顺序当成序列；
- 处理图片：把图片的每个像素按“从左到右、从上到下”
- 处理语音：把声音的波形按时间顺序当成序列。
这种“通用性”让ai开发者省了大麻烦：以前开发一个新ai，得重新设计一套“脑回路”；现在只要基于transforr，稍微改改细节，就能做出处理不同信息的ai。比如openai开发chatgpt（处理文字）和dall·e（处理图文），用的都是transforr的核心技术——这也是近几年ai产品“井喷”的重要原因。
（四）优势4：“容易训练”队也能用上
以前的ai技术，不仅难设计，还难“训练”。要让ai学会一项技能，比如翻译，得给它喂大量数据，还得用特别复杂的参数调整方法，只有谷歌、微软这样的大公司才有资源做。
而transforr的结构设计得特别“简洁”，虽然核心是自注意力机制和编码器-解码器，但里面的参数调整逻辑很清晰，普通的研发团队只要有足够的数据，就能用transforr训练出自己的ai。比如现在很多高校的学生，用transforr做一个简单的“聊天机器人”或“文案生成器”，几个月就能搞定；而在以前，这可能需要一个专业团队花好几年时间。
而且现在市面上有很多“现成的transforr工具包”，比如pytorch里的transforr模块、huggg face的transforrs库，开发者不用自己写复杂的代码，直接调用工具包就能搭建ai模型——这让transforr的“普及速度”大大加快，从大公司的“专属技术”变成了“全民可用的工具”。
四、transforr的“家族成员”种，不同成员有不同用处
虽然咱们都叫它“transforr”，但实际上它不是“一个东西”，而是一个“家族”。这些年开发者在原始transforr的基础上，根据不同的任务需求，改造出了很多“家族成员”，比如bert、gpt、t5等等。这些成员的核心还是transforr，但侧重点不同，就像同一个家族里，有人擅长文科，有人擅长理科。咱们挑几个最常见的成员，用大白话讲讲它们的区别。
（一）bert：擅长“理解信息”，像个“阅读理解高手”
bert的全称是“bidirectional ender representations fro transforrs”，翻译过来就是“来自transforr的双向编码器表示”——听着绕，其实它的核心特点就一个：只用力做“编码器”，不做“解码器”，专门负责“理解信息”。
简单说，bert就像一个“阅读理解高手”，你给它一段文字，它能准确理解文字的意思、上下文关系，甚至能回答关于这段文字的问题，但它不会主动“写文字”或“翻译文字”