返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

下载使用教程

[复制链接]
链载Ai 显示全部楼层 发表于 2025-12-2 09:37:02 |阅读模式 打印 上一主题 下一主题

MobiLlama:手机上运行的大语言模型整合包,会骂人!

在大型语言模型(LLMs)的发展中,"越大越好"一直是主导趋势。然而,LLMs并不适合需要在设备上处理、能源高效、内存占用小和响应效率高的场景。这些要求对于隐私、安全和可持续部署至关重要。我们的主要贡献是推出了一个精确且完全透明的开源0.5亿(0.5B)参数SLM,名为MobiLlama,专门满足资源受限计算的特定需求,并强调在减少资源需求的同时提升性能。

手机运行使用如下,能读懂中文,还会骂人,别看他小,还挺凶。

在手机上运行速度也很快,基本上有7 token/s,能够实时进行交流,基准测试结果如下。

学术Fun将APK文件和模型制作成整合包,方便大家安装使用,下载地址:https://xueshu.fun/3928/,在此页面右侧区域点击下载!

注意配置如下

  • 安卓系统

下载使用教程

  • 下载压缩包 下载地址:https://xueshu.fun/3928/,在此页面右侧区域点击下载!

  • 解压,最好不要有中文路径,解压后,如下图所示,apk为安装文件,gguf为模型文件

  • 把上面两个文件导入手机后,安装apk文件成功后,界面如下
  • 选择Model,点击Load GGUF从手机上选择上面的模型文件,加载后即可进行对话


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ