返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

我们是这样做大模型应用的(文末有惊喜)

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 11:49 |阅读模式 打印 上一主题 下一主题


介绍

Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。

Dify 一词源自 Define + Modify,意指定义并且持续的改进你的 AI 应用,它是为你而做的(Do it for you)。

你或许可以把 LangChain 这类的开发库(Library)想象为有着锤子、钉子的工具箱。与之相比,Dify 提供了更接近生产需要的完整方案,Dify 好比是一套脚手架,并且经过了精良的工程设计和软件测试。

重要的是,Dify 是开源的,它由一个专业的全职团队和社区共同打造。你可以基于任何模型自部署类似 Assistants API 和 GPTs 的能力,在灵活和安全的基础上,同时保持对数据的完全控制。

以上内容摘自Dify官方文档。

从Dify介绍我们可以简单把它理解为一个智能体平台,类似百度的文心智能体平台、字节的扣子、腾讯的元器等。

我们可以在Dify平台很方便地接入目前市面上主流的大模型的能力,并且Dify内置了很多好用的工具,这让Dify拥有很强的拓展能力。例如可以可以给大模型问题联网搜索的SearXNG。下面我们部署体验一下Dify。

部署

我们使用Docker Compose去部署Dify(如果你仅仅想体验Dify功能,官方提供了云服务支持在线体验,链接见后文末传送门,部署章节可以直接跳过到体验部分)。官方建议部署Dify的机器的资源配置:

  • CPU>=2 Core
  • RAM>=4GiB

我们准备好一台不低于2核4G的机器就可以开始部署Dify了。

1、克隆Dify代码仓库:

gitclonehttps://github.com/langgenius/dify.git

2、启动Dify

cddify/docker
cp.env.example.env
dockercomposeup-d

运行上述命令后看到控制台有下面输出:

[+]Running11/11
✔Networkdocker_ssrf_proxy_networkCreated0.1s
✔Networkdocker_defaultCreated0.0s
✔Containerdocker-redis-1Started2.4s
✔Containerdocker-ssrf_proxy-1Started2.8s
✔Containerdocker-sandbox-1Started2.7s
✔Containerdocker-web-1Started2.7s
✔Containerdocker-weaviate-1Started2.4s
✔Containerdocker-db-1Started2.7s
✔Containerdocker-api-1Started6.5s
✔Containerdocker-worker-1Started6.4s
✔Containerdocker-nginx-1Started7.1s

检查容器都是正常运行,查看端口映射就可以访问Dify了。部署部分内容完全摘自官方文档。如遇到部署问题可在公众号私信后台留言交流!

体验

使用Docker Compose部署完成Dify之后我们就可以体验Dify了。我们在浏览器通过hostIp即可访问Dify,如果你的80端口已经在用了,你需要在部署的时候修改下容器端口的映射规则。

输入邮箱和用户名密码即可完成Dify的初始化。

下面我们介绍下Dify的主要玩法。

接入大模型

Dify本身已经把主流大模型已经对接好了,我们只需要去申请对应的API Key补充到Dify里面即可。

创建应用

Dify平台支持创建四种类型的应用:聊天助手、文本生成应用、Agent、工作流。这里我们主要介绍Agent和工作流类型。首先我们可以新建一个Agent类型的应用:

可以看到Agent支持关联知识库作为上下文回答,支持添加开场白以及其他丰富的工具来完善Agent应用的能力:

下面我们体验一下“旅行规划助手”的能力:

可以看到Agent给出了计划。联系知识库做上下文问答的效果如下:

下面我们体验一下文字转卡片的一个工作流,整个工作流是我们输入作者名字和内容,调用了一个文字生成图片的接口:

点击运行就生成了我给大家准备的专属1024祝福卡片:

Dify的应用可通过DSL文件格式进行分享,如果需要请在后台留言私信!!!

Dify的所有应用都支持API访问,这个给开发者提供了无限可能,大家可以基于应用的API能力定制自己的应用,这也是我们最近在做的大模型应用的思路。

本期内容相对来说较为浅薄,更多Dify的玩法大家可以移步官方文档。

最后,祝各位朋友1024节日快乐!!!

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ