?ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.544px;visibility: visible;">功能特性
多设备支持：支持多种类型的设备，包括智能手机、平板电脑、个人电脑等，可以利用手头的设备构建AI集群。
分布式计算：分布式计算架构，允许多个设备协同工作，共同执行AI模型的训练和推理任务。
动态模型分区：能够动态地将大型AI模型分割成小块，并在集群中的不同设备上并行执行，以提高计算效率。
自动设备发现：可以自动发现网络中的设备，并将其纳入AI集群，简化了集群的搭建和扩展过程。
点对点（P2P）连接：使用P2P网络连接设备，减少了中心化服务器的需要，提高了集群的可扩展性和鲁棒性。
跨平台支持：支持多种操作系统，包括iOS、Android、macOS和Linux，使得的不同平台都能加入到AI集群中。
易于使用：提供了用户友好的接口和文档，使得即使是非技术用户也能轻松地开始使用。
广泛的模型支持：包括 LLaMA、Mistral、LlaVA、Qwen 和 Deepseek等。
ChatGPT 兼容 API：提供了与 ChatGPT 兼容的 API，易于程序和应用的迁移。
ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.544px;visibility: visible;">?应用场景
个人AI助手: 利用家中的多个设备运行类似Qwen的大型语言模型。
小型企业AI解决方案: 小企业可以利用现有的办公设备构建AI集群。
教育和研究: 学校和研究机构可以使用Exo来教授分布式计算和AI概念。
家庭自动化: 与智能家居设备结合，创建更智能的家庭自动化系统。
ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.544px;background-color: rgb(255, 255, 255);min-height: 1em;text-align: left;line-height: 1.6em;max-width: 100%;box-sizing: border-box;white-space: normal;overflow-wrap: break-word !important;">二、硬件要求ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.544px;background-color: rgb(255, 255, 255);min-height: 1em;text-align: left;line-height: 1.6em;max-width: 100%;box-sizing: border-box;white-space: normal;overflow-wrap: break-word !important;">三、安装ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;letter-spacing: 0.544px;background-color: rgb(255, 255, 255);min-height: 1em;text-align: left;line-height: 1.6em;max-width: 100%;box-sizing: border-box;white-space: normal;overflow-wrap: break-word !important;">目前项目建议从源码进行安装。可以在需要组建AI集群的设备上安装！gitclonehttps://github.com/exo-explore/exo.gitcdexopipinstall-e.#或者，如果使用的是虚拟环境：sourceinstall.sh
一、多个 MacOS上的使用说明
#MacOS-1exo#MacOS-1exo#无需配置-exo将自动发现其他设备。
访问http://localhost:8000 启动类似 ChatGPT 的 WebUI（由tinygrad tinychat提供支持）。
在http://localhost:8000/v1/chat/completions启动与 ChatGPT 兼容的 API 端点。
curlhttp://localhost:8000/v1/chat/completions\-H"Content-Type:application/json"\-d'{"model":"llama-3.2-3b","messages":[{"role":"user","content":"Whatisthemeaningofexo?"}],"temperature":0.7}'curlhttp://localhost:8000/v1/chat/completions\-H"Content-Type:application/json"\-d'{"model":"llama-3.1-405b","messages":[{"role":"user","content":"Whatisthemeaningofexo?"}],"temperature":0.7}'curlhttp://localhost:8000/v1/chat/completions\-H"Content-Type:application/json"\-d'{"model":"llava-1.5-7b-hf","messages":[{"role":"user","content":[{"type":"text","text":"Whatarethese?"},{"type":"image_url","image_url":{"url":"http://images.cocodataset.org/val2017/000000039769.jpg"}}]}],"temperature":0.0}'
二、多个异构设备 (MacOS + Linux) 上的使用说明
#设备 1 (MacOS)：exo --inference-engine tinygrad#指定使用tinygrad推理引擎。目前还支持MLX推理引擎
#设备 2（Linux）：exo#Linux将自动默认使用tinygrad推理引擎。#可以指定tinygrad 特定环境变量的信息。#例如，可以通过指定来将tinygrad配置为使用cpu CLANG=1。
三、单个设备上使用说明
exorunllama-3.2-3b#使用自定义提示词：exorunllama-3.2-3b--prompt"Whatisthemeaningofexo?"
综上所述，exo能够将普通设备，如智能手机、平板电脑和个人电脑，转变为一个强大的AI算力集群。通过这种创新的分布式计算方法，我们可以在不增加额外成本的情况下，解锁前所未有的计算能力，无论是进行深度学习实验、教育项目还是复杂的AI研究，exo都能提供强大而灵活的计算资源。如果你也感兴趣的话不妨试试吧！!