大语言模型（LLMs）如 GPT-4、BERT 和 T5 等，凭借其基于 Transformer 架构和大规模文本数据训练的特性，在自然语言处理领域引发了革命性的变革。它们展现出了在诸多语言相关任务上的卓越能力，但同时也面临着一些显著的局限性。今天我们聊一下LLMs的能力边界，以期为大家提供一个全面而清晰的认识。
Tokenization与Embedding
LLM首先将输入文本拆分成更小的单元，通常是单词或子单词（subwords），这些单元被称为tokens。然后，这些tokens被转换成数值表示，即embeddings。例如，句子“The cat sat on the mat”可能被拆分成["The", "cat", "sat", "on", "the", "mat"]，每个token都会被赋予一个唯一的向量表示。
多层处理
嵌入后的tokens通过多个Transformer层进行处理，每个层都包含自注意力机制和前馈神经网络。
自注意力机制：模型计算所有token对之间的注意力分数，从而能够权衡不同单词之间的相对重要性。例如，在句子“The bank by the river is closed”中，模型可能会给“bank”和“river”之间分配更高的注意力分数，以理解上下文。
前馈神经网络：进一步处理来自自注意力机制的信息，以生成每个token的更新表示。
上下文理解
随着输入通过这些层，模型构建出越来越复杂的文本表示，捕捉局部和全局上下文。这使得LLM能够理解微妙的关系，如长距离依赖（例如，理解“他昨天买的书今天到了”中的时间顺序）
在诗歌创作方面，它可以模仿不同的诗歌风格，如古典诗歌的韵律和现代诗歌的自由表达形式，创作出富有意境的诗句。
语言流畅性
生成的文本在语法和词汇的使用上通常较为流畅自然。模型经过大量文本数据的训练，能够学习到自然语言的语法规则和常用词汇搭配，从而生成符合语言习惯的句子。例如，在生成一篇新闻报道时，能够正确使用各种句式结构，使文章读起来通顺易懂。
能够识别语义相似性和差异性，如判断 “快乐” 和 “愉悦” 是相似的概念，“苹果” 和 “香蕉” 是不同类型的水果等。
语言翻译
在多种语言之间进行翻译时表现出色。能够将一种语言的文本准确地翻译成另一种语言，并且在翻译过程中尽量保留原文的语义和风格。例如，将英语句子 “Hello, how are you?” 翻译成中文 “你好，你怎么样？”，同时还能处理一些复杂的句子结构和文化背景相关的内容。
识别语义关系
善于识别相关概念之间的连接，如理解 “医生” 和 “医院”、“学生” 和 “学校” 之间的关联关系。在处理文本时，能够根据这些语义关系更好地理解上下文。
学习常见短语和习语，能够准确理解和使用它们。例如，理解 “一石二鸟”“趁热打铁” 等习语的含义，并在合适的语境中运用。
内容创作辅助
为写作者提供创意启发、内容扩展和语言润色等帮助。比如，写作者在撰写一篇关于历史事件的文章时，可向模型询问该事件的一些细节或不同的观点，以丰富文章内容。
对于复杂的因果链，如多个因素相互作用导致的结果，LLMs 往往难以准确把握。例如，在分析生态系统中多种生物相互影响导致生态平衡变化的情况时，模型很难理清其中的因果逻辑。
多步规划困难
在处理需要多步规划的任务时，难以将复杂任务分解为合理的行动序列。以旅行规划为例，虽然能列出一些相关的项目如预订酒店、购买机票、安排景点游览等，但缺乏对任务步骤的合理排序和依赖关系的理解。可能会出现先安排景点游览，再预订酒店的不合理情况，导致旅行安排出现问题。
在项目管理等领域，无法像人类一样根据项目目标、资源和时间限制等因素制定详细且合理的计划，缺乏对整体任务结构和进程的有效规划能力。
在进行算术运算时，尤其是涉及较大数字或小数运算时容易出错。如计算 “127 + 677” 可能得出错误答案，对于复杂的数学公式计算更是力不从心。
缺乏数值概念理解
不具备真正的数值概念，只是基于文本中的模式进行处理。在处理涉及数量、比例等问题时，无法像人类一样进行准确的分析和判断。例如，在分析经济数据中的增长率、占比等问题时，模型的回答可能缺乏准确性和深度。
在回答问题时，可能会给出没有依据的答案，尤其是在面对一些超出其训练知识范围的问题时，更容易出现这种情况。
上下文一致性维护困难
在处理长文本或多轮对话时，难以保持上下文的一致性。在长故事创作中，可能会出现人物姓名或关键信息前后矛盾的情况。如前面提到主角叫 “张三”，后面却突然变成 “李四”，而没有合理的解释。
在多轮对话中，可能会忘记之前提到的关键信息，导致对话逻辑混乱。例如，在讨论一个产品的购买决策时，前面提到了预算限制，后面却推荐超出预算的产品。
缺乏深度理解
尽管能够生成看似合理的文本，但实际上并不真正理解文本背后的含义和概念。只是基于文本中的统计模式进行组合和生成，缺乏对知识的深度理解和逻辑推理能力。在处理一些需要深入理解概念和原理的任务时，如科学研究中的理论解释、哲学思考等，模型的回答往往显得肤浅和不准确。
知识更新滞后
训练数据存在一定的时效性，对于新出现的知识、技术和事件，LLMs 往往不能及时更新和准确理解。在快速发展的科技领域，如人工智能最新研究成果、新兴的生物技术等方面，模型的知识可能已经过时，无法提供准确和前沿的信息。
大语言模型（LLMs）凭借其在语言生成、文本理解、知识问答、语言翻译等多个领域的卓越能力，已经在内容创作、智能客服、语言学习、科研、商业决策等众多实际应用中发挥着重要作用，为人们的生活和工作带来了极大的便利和创新。然而，我们也必须清醒地认识到 LLMs 面临的挑战和限制，如推理和规划能力的不足、数值处理错误、幻觉和偏见等问题。随着技术的不断发展，未来的研究需要致力于解决这些问题，进一步提升 LLMs 的性能和可靠性，使其能够更好地服务于人类社会，推动人工智能技术向更高水平发展。
| 欢迎光临 链载Ai (http://www.lianzai.com/) | Powered by Discuz! X3.5 |