返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

银行如何设计大模型应用架构?四家头部银行落地实践

[复制链接]
链载Ai 显示全部楼层 发表于 半小时前 |阅读模式 打印 上一主题 下一主题

自2022年底ChatGPT爆火以来,大模型在银行领域呈现出了积极而充满活力的态势,这种积极性不仅表现在技术的研究和跟踪上,更体现在实际落地的探索和应用中。
根据沙丘智库发布的《价值已现!36家银行大模型应用现状梳理》,目前,大模型已经渗透到银行的多个应用场景,多家银行也将大模型技术作为未来的重点方向持续加码。
企业在落地大模型时需要构建一套完整的应用架构,来支撑大模型的开发和部署,确保模型在实际应用中的稳定性、安全性和合规性。沙丘智库将企业大模型应用架构分为五个关键层:
• 应用层:基于大模型的应用将大模型技术用于用户体验和任务增强,协助用户完成所需的结果。大模型正在渗透到与知识劳动力相关的领域和技能组合中,重构企业生产力,企业逐渐对大模型进行定制化并应用到其生产力和业务流程工具中;
• 平台工具层:工程化工具使企业能够更快地使模型投入生产,平衡了模型治理和上市时间的考量,工具建设是大模型应用范式的关键;
• 模型层:大模型在企业落地通常包括基础大模型(L0)、行业大模型(L1)和领域大模型(L2),企业需要根据业务需求、投入成本、价值实现周期、安全和隐私原则,选择适合企业的模型;
• 数据层:大规模、多样化、高质量的数据集,是大模型应用的前提,企业需要构建数据/知识飞轮,进行“抢救性”的知识保护和挖掘,实现从数据到知识的跨越;
• 基础设施层:大模型的训练需要大规模、定制化基础设施的支持,尤其是在高性能GPU芯片方面,需求远远大于供给。
沙丘智库长期跟踪调研大模型技术的发展,旨在帮助企业快速了解大模型最新、最全面的落地情况。沙丘智库通过研究工商银行、邮储银行、农业银行、平安银行等头部银行的大模型应用架构建设实践,旨在为其他金融机构提供参考。
案例1:中国工商银行大模型落地实践
中国工商银行按照“三大支柱、两全平台、1+X范式、一个生态”的建设思路,建成全栈自主可控的千亿级金融大模型技术体系,构建了开放共赢的“人工智能+金融”生态。
• 三大支柱:聚焦“算力、算法、数据”,率先建成业界领先的三大技术支撑能力,夯实大模型应用基石。
• 两全平台:面向数据、模型、应用三类大模型核心能力,构建大模型一体化敏捷数智研发和全域安全防控平台,促进大模型安全可信发展。
• 1+X范式:建立以金融智能中枢为核心的大模型应用范式和工程化解决方案,提供面向场景开箱即用的组合服务,实现规模化应用创新。
• 一个生态:打造大模型应用生态,全面赋能信贷、远程银行等主要业务领域的数智化应用,增强高质发展动能,为数字金融生态发展提供新质生产力。

完整内容:中国工商银行大模型落地实践

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.034em;">案例2:中国邮储银行大模型应用实践

邮储银行建设了大模型应用架构,从下自上分别为算力层、数据层、模型层、平台层、场景层和接入层。在通用大模型基础之上,邮储银行构建了金融领域大模型,与研发测试、零售领域、公司领域、资管领域、客户服务、风险信贷、综合办公和运营领域相对应,从而加速这八大领域大模型的应用,面向客户提升体验,面向员工降本增效。

完整内容:中国邮储银行大模型应用实践

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.034em;">案例3:中国农业银行ChatABC大模型应用能力体系建设实践

农业银行ChatABC大模型应用体系包括算力、数据、大模型资产、统一平台工具、规范、配套和应用生态,为大模型应用提供支持。本文旨在为金融机构构建高效的大模型应用体系提供参考。

完整内容:中国农业银行ChatABC大模型应用能力体系建设实践

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.034em;">案例4:平安银行大模型应用探索

平安银行大模型方案分为能力底座、平台产品和场景应用:

• 在能力底座上,平安银行引入平安集团和外部的基础大模型和行业大模型,基于通用大模型能力训练更适配银行业务的营销、运营、风控场景大模型。为避免大模型面向客户使用时可能存在的风险,平安银行提出统一网关,进行敏感词过滤、图片过滤、容错机制等。

• 在平台产品上,面向全行员工打造AIGC应用市场,提升全行业务人员的办公和服务效率,辅助并逐步替代重复密集型的工作;面向开发者打造大模型开放平台,统一大模型底座,在各场景中自定义开发,实现模块共享。

• 在场景应用上,在数字化经营、数字化运营、数字化管理等领域,平安银行目前均在尝试大模型应用。

案例内容:平安银行大模型应用探索




回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ