链载Ai

标题: 专为企业级大模型开发的框架、工具和模型 [打印本页]

作者: 链载Ai 时间: 昨天 22:23
标题: 专为企业级大模型开发的框架、工具和模型

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;font-weight: bold;margin: 2em 8px 0.5em;color: rgb(15, 76, 129);">背景介绍

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">在当今的企业环境下，很多的公司都在落地大模型相关的应用。但是并不是每个公司都具备相应的专业大模型的人才，能够很好的处理大模型落地过程中碰到的问题。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">今天要给大家推荐一个 GitHub 开源项目 llmware-ai/llmware，该项目在 GitHub 有超过 1.6k Star，用一句话介绍该项目就是：“Providing enterprise-grade LLM-based development framework, tools, and fine-tuned models.”。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;font-weight: bold;margin: 2em 8px 0.5em;color: rgb(15, 76, 129);">项目介绍

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">llmware是一个专为企业级 LLM 开发的框架、工具和模型。该项目在私有云中将企业知识与 LLM 安全并有效地整合，以便于创建出专业的、基于知识的企业 LLM 应用。主要功能包括：

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 15px;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">此外，llmware还提供快速开始使用增强型检索生成（RAG）的教程和视频，以便于让大家探索并掌握这个开源项目。

如何使用

llmware的安装和使用十分方便，可以通过pip命令进行安装。

pip3installllmware

对于 MongoDB 和 Milvus 的使用者，llmware可以直接通过 Docker Compose 文件进行安装，以便于提供生产级的数据库和向量嵌入能力。安装完成后，只需引入llmware库即可开始编写代码。

fromllmware.modelsimportModelCatalog

ModelCatalog().get_llm_toolkit()#getallSLIMmodels,deliveredassmall,fastquantizedtools
ModelCatalog().tool_test_run("slim-sentiment-tool")#seethemodelinactionwithtestscriptincluded

项目推介

llmware构建的框架由四大主要组件组成，可以满足全面而多元的业务需要。

以下是该项目 Star 趋势图（代表项目的活跃程度）：

欢迎光临链载Ai (https://www.lianzai.com/)