,现在用ai几分钟就能出初稿。
但生成内容的“原创性”和“准确性”是个大问题。一方面,部分生成内容存在“抄袭痕迹”——大模型是靠学习互联网数据训练出来的,如果训练数据里有别人的原创作品,大模型可能会在生成内容时“照搬”里面的句子、结构,导致侵权。比如某ai写作工具生成的文章,里面有一大段和某作家的散文一模一样,就是因为训练数据里包含了这篇散文。另一方面,大模型容易出现“幻觉”——就是生成不存在的信息,还说得跟真的一样。比如写学术论文时,大模型可能会编造虚假的参考文献(作者、期刊、发表时间都是假的);写技术文档时,可能会给出错误的技术参数(比如把某设备的功率写成1000瓦,实际只有100瓦)。这些错误如果没被发现,很可能会导致严重后果,比如学术造假、产品设计出错。
再看“逻辑推理能力”:大模型能解简单题,但搞不定“复杂推理”。在简单逻辑任务中,大模型的表现已经很优秀了,比如数学计算,某数学大模型能解决高中阶段的数学题(比如函数、几何、概率),准确率超过90,比很多学生都厉害;再比如逻辑判断,像“如果a是b的爸爸,b是c的妈妈,那么a和c是什么关系”这样的问题,大模型能快速给出答案(祖孙关系)。
但面对“复杂逻辑推理”,大模型就容易“断片”。比如多步骤数学证明,像证明“勾股定理”“费马小定理”这样的问题,需要一步步推导,每一步都要基于前面的结论,大模型可能推到中间就出错了,或者跳过关键步骤,导致整个证明过程逻辑断裂。再比如复杂问题拆解,像“如何解决城市交通拥堵问题”,需要从交通规划、公共交通、限行政策、智慧交通等多个方面分析,还要考虑各方面的关联性(比如增加公交车数量可能会减少私家车,但也可能导致道路更拥挤),大模型只能给出零散的建议,没法形成完整的、有逻辑的解决方案。
除此之外,大模型的能力还受“训练数据”限制。一方面,训练数据有“偏见”,模型就会有“偏见”。比如训练数据里如果有很多“性别偏见”的内容(比如“女性不适合做工程师”“男性不适合做护士”),大模型生成的内容也会带有这种偏见——当用户问“谁适合做工程师”时,模型可能会回答“男性更适合”。另一方面,训练数据有“时效性”,模型没法回答“最新问题”。大模型的训练数据都是截止到某个时间点的(比如某模型的训练数据截止到2024年3月),如果问它2024年3月以后的新事件(比如“2024年世界杯冠军是谁”“2024年新发布的手机有哪些”),它就会回答“不知道”,因为这些信息没包含在训练数据里。