ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;font-size: 16px;background-color: rgb(255, 255, 255);text-align: center;visibility: visible;">
ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">截至2025年1月，ChatGPT仍然可能会一本正经地提供不准确或虚构的信息。例如，如果你向ChatGPT询问“林黛玉倒拔垂杨柳”和“林黛玉三打白骨精”，他会编造看似合理但实际上并不存在的解释，将《红楼梦》中的林黛玉与《水浒传》中的“倒拔垂杨柳”以及《西游记》中的“三打白骨精”错误地关联在一起。这种现象被称为“幻觉（Hallucination）”，即AI生成的内容虽然听起来可信，但实际上并不符合事实或现实。![]() ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 0.1em auto 0.5em;border-radius: 4px;height: auto !important;" title="null" src="https://api.ibos.cn/v4/weapparticle/accesswximg?aid=100033&url=aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy81bkJEZ2s0OE55Tm42dXFIeEM2Zm9JSVpEMWJrTWNiSm42TUZjOW56anlZSm82ZkV0ckhFWGlhR1pMc3huWEpsVGNkRXc2VVJLZXUwMGtYVlg2ZnBadGcvNjQwP3d4X2ZtdD1wbmcmYW1w;from=appmsg"/>ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(0, 152, 116);">大模型（如ChatGPT）的推理幻觉主要源自其生成连贯且与上下文相关文本的能力。当接收到提示或问题时，LLM能够生成看似逻辑严谨的响应。然而，这种能力并非基于真正的理解或推理，而是由其概率性质和对海量文本数据的训练所驱动。本质上，LLM通过学习数据中的模式和关联，预测给定上下文中最可能出现的下一个单词或短语。ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">随着大模型在各领域的广泛应用，**生成内容的质量、可靠性和适用性也成为了关注的焦点。**为了有效评估大模型生成内容的质量，我们可以借鉴一些传统的评估工具，如CRAAP测试和ASPECT评估法。这些方法有助于我们从多个维度审视大模型生成的文本，确保其内容的可信度和实际价值。ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;display: table;padding: 0px 0.2em;color: rgb(255, 255, 255);background: rgb(0, 152, 116);">CRAAP测试：评估信息质量的重要工具ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(0, 152, 116);">CRAAP测试（Currency, Relevance, Authority, Accuracy, Purpose）最初由加利福尼亚州奇科大学Meriam图书馆的Sarah Blakeslee提出，旨在帮助学生和学者评估信息的质量，尤其是在虚假新闻和信息泛滥的背景下。这个评估工具适用于各种类型的信息，包括大模型生成的文本。ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;padding-left: 8px;color: rgb(63, 63, 63);">CRAAP测试评估表| 指标 | 中文解释 | 核心问题 | | 时效性 (Currency) | | 信息是什么时候发布或上传的？
信息来源是否是最新的？
信息是否经过修订或更新？
如果在网络上，链接是否有效？ | | 相关性 (Relevance) | | 信息是否与你的主题相关？
是否回答了你的问题？
内容范围是否适合？
是否太宽泛或太具体？
目标受众是谁？
是否经过多方比较以确认信息的使用价值？ | | 权威性 (Authority) | | 作者或出版者是谁？
他们的背景、教育或培训是否具备资格？
是否提供联系信息（如地址或电子邮件）？
是否可通过URL后缀（如.edu, .gov等）判断来源的可信度 | | 准确性 (Accuracy) | | 信息来源是否可靠？
是否有相关证据或社会/科学事实支持？
信息是否经过编辑或同行评审？
是否可以通过其他来源验证？
内容与其他来源相比如何？ | | 目的性 (Purpose) | | 信息的目的是告知、教学、销售、娱乐还是说服？
作者或机构是否明确表述意图？
信息是否客观，是否有偏见？ |
CRAAP测试通过对这些维度的全面评估，能够帮助使用者判断大模型生成内容的可靠性和质量。具体到大模型生成的文本，时效性和准确性是两个特别重要的因素。 CRAAP测试在大模型中的应用对于ChatGPT讲述“林黛玉倒拔垂杨柳”故事，我们可以借助CRAAP测试进行分析。 - 1.时效性 (Currency)
在这个案例中，ChatGPT生成的内容与时效性无关，因为它编造了一个虚构的情节，而不是基于权威解读。 - 2.相关性 (Relevance)
用户询问的是与“林黛玉”相关的典故，而ChatGPT错误地将《水浒传》中的“倒拔垂杨柳”和《西游记》中的“三打白骨精”关联到林黛玉身上。虽然“林黛玉”是《红楼梦》中的经典角色，但“倒拔垂杨柳”和“三打白骨精”分别出自《水浒传》和《西游记》，与林黛玉毫无关系。ChatGPT生成的内容在相关性上存在误导性，错误地将不同文学作品中的情节关联到林黛玉身上。 - 3.权威性 (Authority)
ChatGPT生成的内容缺乏权威性，因为它没有引用具体的文学或学术来源，而是基于其训练数据中的模式生成文本。由于ChatGPT无法区分真实与虚构的内容，其生成的信息可能缺乏可信度。对于需要权威支持的内容，用户应参考正式的文学研究、学术论文或权威出版物，而非依赖AI生成的内容。 - 4.准确性 (Accuracy)
ChatGPT生成的内容在准确性上存在严重问题。它将《红楼梦》中的林黛玉与《水浒传》中的“倒拔垂杨柳”以及《西游记》中的“三打白骨精”错误地关联在一起。这种错误可能是由于训练数据中的模式混淆或缺乏对具体文学作品的深入理解。用户应对AI生成的内容进行事实核查，尤其是涉及经典文学作品的情节和角色时，应参考原著或权威解读。 - 5.目的性 (Purpose)
ChatGPT生成内容的目的是为用户提供连贯、流畅的文本，而不是提供准确的事实或文学分析。由于AI的目标是生成看似合理的回答，它可能会为了满足用户的需求而编造信息，尤其是在用户提出的问题本身存在误导性或模糊性时。用户应明确AI生成内容的目的，理解其局限性，并在需要准确信息时结合其他可靠来源进行验证。
因此，在生成文本时，CRAAP测试可以帮助我们发现“幻觉”内容，并确保生成的内容符合正确的学术标准。 ASPECT评估：多维度信息质量评估方法除了CRAAP测试，华盛顿州温哥华的克拉克学院图书馆提出的ASPECT评估方法也是一种有效的信息质量评估工具。ASPECT评估方法在CRAAP测试的基础上，加入了更多维度，特别是强调内容的均衡性和全面性，适用于综合性的学术研究。 ASPECT评估表| 指标 | 中文解释 | 核心问题 | | 权威性 (Authority) | | 内容的作者或机构是否具有权威？
是否有相关领域的专业背景或经验？ | | 来源 (Sources) | | | | 目的性 (Purpose) | | 内容是否有特定的意图或偏见？
是否影响读者的独立判断？ | | 均衡性 (Evenness) | | 内容是否均衡地呈现不同观点？
是否全面考虑了多方立场？ | | 覆盖范围 (Coverage) | | | | 时效性 (Timeliness) | | |
ASPECT与CRAAP的比较| 方法 | 指标数量 | 核心关注点 | 独特指标 | 适用场景 | | CRAAP | | | | | | ASPECT | | | | |
CRAAP测试和ASPECT评估法分别从不同的维度出发，为我们提供了两种有效的信息质量评估工具。CRAAP测试简洁而直接，强调时效性、准确性和权威性，是快速评估大模型生成结果是否符合学术标准的重要方法。ASPECT评估法则提供了更多的维度，特别适用于需要评估信息多样性和全面性的学术研究环境。两者可以互补使用，为我们更全面地评估大模型生成的内容质量提供有力支持。 对于大模型生成内容的使用者，掌握这两种评估工具，不仅能帮助我们识别虚假信息，还能在实际应用中提升大模型生成结果的可信度和价值。
|
