|
距离苹果的AI发布会过去已经有一段时间了，尽管目前安卓阵营已经将AI手机的概念炒的如火如荼，甚至有国产手机厂商直接将基于AI计算的手机工作站发布于世。 但始终，苹果的AI功能何时会来？何时能来？会以怎么样的方式来？这都不得而知。  但是，没有关系！ 群众的需求是炙热的，苹果迟迟没有动作，AI模型开发商对于苹果生态流量的渴望可是真的一比一真实!!! 这不 H2O.ai机构发布了 H2O-Danube3 的论文，其公布了一种可以直接可以在Iphone手机本地运行的大语言模型：H2O-Danube 系列（已开源可商用） 模型下载地址：https://huggingface.co/collections/h2oai/h2o-danube3-6687a993641452457854c609
论文地址：https://arxiv.org/abs/2407.09276
可能大家对于本地运行的AI应用跟现在的ChatGPT APP应用的概念有所疑惑，所谓的本地运行就是模型直接部署在手机上通过手机自身的硬件能力提供服务，而相比于ChatGPT等一系列AI APP，其本质都是通过远程API调用，基于远程服务器的能力提供服务！
功能体验H2O AI模型已经上线到苹果商店，可以直接下载使用：
 苹果商店软件下载地址：https://apps.apple.com/us/app/h2o-ai-personal-gpt/id6504365990
 为了验证它是否真的是基于本地硬件推理，于是先在手机上开启了（飞行模式无联网）
在几轮对话测试跑下来，感觉模型在回答速度方面有质的方面突破，整体体验如下：
- 1）体感上的速度超快，根据官方数据：峰值 25.6 tokens/s，平均约 20 tokens/s
- 2）毕竟是大语言模型，中英文对话完全没问题，体感智能水平确实优于 GPT3.5
- 3）无需联网完全本地运行，应用大小为1.28GB，介意应用大小的兄弟请注意
| 
