返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

大模型也有魔鬼三角

[复制链接]
链载Ai 显示全部楼层 发表于 6 小时前 |阅读模式 打印 上一主题 下一主题

管理软件交付有魔鬼(不可能同时实现)三角:交付速度快、交付质量高、付出成本低。企业三个都想要,在现有的技术条件下,是不可能同时实现的。


其实,生活中,魔鬼三角无处不在。


经济学三角:货币稳定、经济增长和全民福利


婚姻三角:帅气、多金、忠诚的男友基本上是骗子


新能源三角:安全可靠、经济可行、绿色低碳


投资三角:高收益、‌低风险和高流动性


区块链三角:安全性、可扩展性、去中心化


项目管理三角:时间、成本、质量


到了AI大模型,专业性、泛化性和经济性三方面很难兼得。


1.专业性

大模型处理特定领域问题或任务的准确性与效率。人类社会的千行百业,业务形态五花八门,专业领域各有特色,是真正的多模态。


行业性越强,专业性越强,对大模型专业性要求越高,越需要针对特定领域数据进行训练,越需要监督训练。


例如利用大模型训练基建算量应用场景模型,这是非常专业的领域,普通的预训练可能训不出像样的结果来。


但是,过度专业又会带来另一个问题,就是可能造成模型过拟合(过分依赖或只能依赖极为专业的训练数据),从而降低泛化能力,适用大模型训练与采用特征提取+数据+算法这种传统方式,结果上可能没有不同。因为大模型训练出来的某个模型,只能适配于非常具体的场景。


增加的专业领域的数据收集、为提升质量而做的清洗、与模型训练也会增加成本、降低经济性。


2.泛化性


泛化即智能,是举一反三的能力。


想要提高模型的泛化性,就要增加大模型处理训练数据集之外新样本的表现能力,这些样本可能拥有大量未经标注的、原有训练集领域的数据,也可能是相近领域的文档。


大模型泛化性要求越高,越需要相似近似、多样化的小规模训练数据集、模型参数量也越多,需要专业化标注的工作量也越大,这意味着模型训练和使用成本的增加、经济性降低。


并且,泛化性提高的同时,也可能降低模型对特定问题处理的专业能力。


3.经济性


全国全行业对大模型的焦虑式追捧,也许是大家共同吹起的大大的泡沫。


实用主义,是天朝文明源远流长的重要特征。


当下的GPT和全国的各种大模型,还在投入阶段,离商业化距离还非常遥远。这不单纯是真正可商业化、大规模变现的场景尚未出现,还因为人类所有革命性的科技成果都会带来既有产业成本的大幅降低,与创造新产业。


现在的大模型,模型太大,成本太高了。


大模型训练和应用的投入产出比过低,经济性太差了。


大模型经济性要求越高,越需要消耗更少的算力和电力。


当然,现在的算力与能源效率已经大幅提高。

既要、又要、还要,现阶段是不可能的。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ