还在为配置大模型环境焦头烂额?为天价算力和复杂运维望而却步?今天,AI超级实验室的门槛被彻底踏平。
趋境科技与智谱AI正式联合发布全新私有化部署产品——灵启AI小盒子。
它将智谱AI最新发布的GLM-4.6V-106B 多模态大模型、千亿级大语言模型GLM-4.5-air-106B、趋境科技的高效推理引擎与零基础运维平台AMaaS,深度集成于一台安静的桌面设备中。从此,开箱即用、一人专享的顶级AI研发环境,就此诞生。
灵启AI小盒子:重新定义大模型私有化,每个人都能成为一线 AI 研究员
灵启AI小盒子的核心使命,是践行“在最小的硬件里,装最好用的模型,以最便捷的方式启动创新”。它将AI大模型研究员们从繁琐的底层技术工作中解放出来——
耗费时间的模型和推理框架下载及配置、动不动就爆显存的糟心错误、为了挤一点性能反复折腾的底层调优……全都打包解决。
为此,灵启AI小盒子带来四大核心能力:
内置智谱GLM-4.5-air-106B大语言模型、GLM-4.6V-106B 多模态大模型及其他主流大模型与趋境自研的推理引擎、模型运维平台,开机即用,无需耗时配置。此外还能作为 AutoGLM 的本地后端使用。
流畅运行千亿级别的大语言模型与多模态模型,实现“视觉理解+逻辑推理”的倍增效应,应对从纯文本到跨模态的各类复杂任务。
率先集成智谱最新发布的GLM-4.6V-106B 千亿参数多模态大模型,这是首次在模型架构中将Function Call(工具调用)能力原生融入视觉模型,打通从“视觉感知”到“可执行行动”(Action)的链路,为真实业务场景中的多模态 Agent 提供统一的技术底座。
运行GLM-4.5-air 106B大模型,单并发推理超过 30 tokens/s,预填充速度 2100 tokens/s,并支持 100K 超长上下文。运行模型为趋境科技与智谱联合深度定制的 nvFP4 高精度高性能版本,与原精度相比误差不超过 0.1%,智能不减,速度更快更轻量。
内置智能预警机制,提前检测并规避显存溢出等运行风险,为大模型任务提供工程级稳定性保障。
支持大语言模型、Embedding、Rerank、VL 等模型推理实例同时运行,为构建复杂的多模态AI应用铺平道路。
灵启AI小盒子不仅提供强大的模型推理能力,还内置了 ready-to-use 的开发环境与实用工具,涵盖从模型定制到智能应用的完整链路:
LLaMA Factory 零代码微调:一键跳转,无需编写代码,即可对 32B 及以下模型进行可视化微调,轻松实现模型的个性化定制。
趋境 · 智问 智能办公助手:提供本地知识库与AI对话功能,可直接管理私密科研资料与工作文档,打造完全私有的智能办公体验。
PandaWiki 知识库搭建系统:快速构建智能化的产品文档、技术文档、FAQ、博客系统,并支持 AI 创作、AI 搜索、AI 问答等功能,让知识管理与内容生产全面提速。
MonkeyCode 企业级 AI 智能编程助手:专为研发协作和研发管理场景而设计,支持完全离线使用,集成了代码安全扫描能力,包含了功能远超 Cursor Team 版的企业级管理面板,支持对 AI 编程行为进行严格审计和管控。
灵启AI小盒子不仅仅是一台设备,它代表着一个新范式的开启:当强大的AI工具变得触手可及、简单可靠,创新将不再局限于大厂实验室。
每一位开发者、每一个研究团队,都能够在自己的桌面上,拥有一个专属的超级AI Lab,直接探索最前沿的AI可能性。
真正的个人超级AI Lab时代,已经到来。
灵启AI小盒子现已开放预售,前15名限时直降2000元,速来抢购: