链载Ai

标题: 10分钟零代码,0元立即部署OpenAI开源模型 GPT-OSS [打印本页]

作者: 链载Ai    时间: 昨天 22:14
标题: 10分钟零代码,0元立即部署OpenAI开源模型 GPT-OSS

8月,OpenAI 推出两款开源模型 gpt-oss-120b 和 gpt-oss-20b。OpenAI称,这两个模型在工具使用、少样本函数调用、CoT推理(如在 Tau-Bench 智能体评估套件中的结果所示)以及 HealthBench 测试中表现强劲(甚至超越了 OpenAI o1 和 GPT‑4o 等专有模型)。

想要尝鲜gpt-oss,但本地部署又面临硬件短缺、运维复杂、性能调优难等问题?

不用担心,本方案通过人工智能平台 PAI 的 Model Gallery,无须编写代码即可一键部署gpt-oss开源模型。目前体验还免费,快来试试吧!

Step 1 找到技术解决方案,开启免费试用

方法1:

直接访问https://www.aliyun.com/solution/tech-solution-deploy/2974153?utm_content=g_1000406697或点击阅读原文,来到方案部署教程页,按照指引开始“立即试用”。

方法2:访问aliyun.com,搜索"OpenAI开源模型 GPT-OSS",点击“零代码部署openAI开源模型 GPT-OSS_部署教程”,来到方案部署页,按照指引开始“立即试用”。

Step2部署 gpt-oss-20b 模型

1. 登录PAI 控制台[1],左侧导航栏选择工作空间列表,单击新建工作空间。

2. 进入gpt-oss-20b[2]模型详情页面。点击右上角部署按钮。

3. 弹窗选择确认授权。

4. 在弹出的部署面板中,配置部署参数。部署方式选择llama.cpp部署 > 单机-标准机型,资源规格选择ml.gu7i.c8m30.1-gu30,其他参数默认。

说明:若没有可用的资源规格,说明当前地域资源紧张,您可以尝试在控制台左上角切换至其他地域。

5. 点击左下角部署按钮。弹窗提示计费提醒,点击确定按钮。

6. 部署耗时约5分钟,完成后如下图所示。

7. 单击查看调用信息,在弹出的看板中,复制保存公网调用地址和Token。

Step 3使用 Cherry Studio 客户端进行对话

Cherry Studio 是业界主流的大模型对话客户端,且集成了 MCP 功能,您可以方便地与大模型进行对话。

1. 安装客户端

重要

请下载安装到本地,不要在右侧虚拟机窗口中下载。

访问https://docs.cherry-ai.com/cherry-studio/downloadingFang SC", system-ui, -apple-system, BlinkMacSystemFont, "Helvetica Neue", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.034em;font-style: normal;font-weight: normal;">https://github.com/CherryHQ/cherry-studio/releases下载并安装客户端。

2. 配置模型服务。

3. 快速体验模型

回到对话框界面,在顶部选择模型后开始对话。比如,提问“9.11和9.9谁大”,得到结论。






欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5