Meta 发布了 Llama 3
「赛博禅心」第一时间带来详细报道
关于 Llama
Llama 是由 Meta(FaceBook) AI 发布的一个开源项目，允许商用，影响力巨大。之前发布的 Llama 2，支持 4096 上下文，性能卓越，被认为是 GPT 系列最大的竞争对手（之一）。 Llama-3 Meta 发布了 Meta Llama 3 系列语言模型（LLM），具体包括一个 8B 模型和一个70 B模型在测试基准中，Llama 3 模型的表现相当出色，在实用性和安全性评估中，与那些市面上流行的闭源模型不相上下。
第 1 部分刚刚发布的Llama-3
中国时间 2024 年 4 月 19 日 0 点 0 分，Meta Llama 3 发布。模型以开源形式提供，包含 8B 和 70B 两种参数规模，涵盖预训练和指令调优的变体。Llama 3 支持多种商业和研究用途，并已在多个行业标准测试中展示了其卓越的性能。 技术信息Transformer 架构 Meta Llama 3 采用了优化的自回归 Transformer 架构，这种架构专为处理复杂的文本生成任务设计，能够有效提升生成文本的连贯性和相关性。 混合调优 模型结合了监督式微调（SFT）和带人类反馈的强化学习（RLHF），这种混合方法不仅增强了模型的帮助性，也提高了安全性，使得模型在实际应用中更加可靠和符合用户预期。 性能卓越 在多个行业标准基准测试中，特别是在对话类应用中，Meta Llama 3 的表现超过了许多现有的开源聊天模型，显示了其强大的应用潜力，具体后面细说。 数据训练大的数据 Llama 3 使用了超过 15 万亿令牌的公开在线数据进行预训练，这些数据经过精选，确保模型训练的广泛性和高质量输出。 新的数据 8B 版本数据更新截止至 2023 年 3 月，而 70B 版本则更新至同年 12 月。 30 种语言 虽主要以英语为主，但预训练数据中包含超过 30 种语言的高质量非英语数据 * 大聪明：中文数据不知道用没用「弱智吧」语料 政治正确（雾碳排放抵消 Meta 承诺通过其可持续性计划抵消预训练过程中产生的所有 CO2 排放（2290 吨 CO2 等效）。 很守规矩 Llama 3 的使用严格遵守法律法规，确保不被用于任何非法活动，同时强调了对知识产权和合规性的重视。
第 2 部分技术性能
这次的 Llama 在性能上展现了大幅度提升，包括最直接的 8k 上下文（之前是4k），以及可以更好的完成输出任务。 
性能测试基准测试 Meta Llama 3 的 70B 模型在多项基准测试中显示出色的性能，例如在 TriviaQA-Wiki 测试中达到了 89.7% 的准确率，明显优于其他同规模模型。 在内部开发的高质量人类评估集中，该评估集包含了 1,800 个提示，覆盖了 12 个关键用例（包括咨询、编码、创意写作等），Llama 3 在这些实际应用场景中的表现同样卓越。
这里再附一张 Llama 2 和 3 的对比： 
现实场景
根据人类评估者的偏好排名，Llama 的 70B 参数模型在实际应用场景中的表现，尤其是在指令跟随方面，相较于其他相当规模的模型表现出了显著的优势。 架构与优化模型架构 Llama 3 采用了自回归 Transformer 架构，这种结构特别适合于处理复杂的文本生成任务，能有效提升文本的连贯性和相关性。 引入了分组查询注意力（Grouped Query Attention, GQA）技术，这不仅提升了大数据处理的效率，还加快了响应速度。
性能提升 Llama 3 在本次更新中，于推理、代码生成和指令跟随等方面有了明显的能力提升。
第 3 部分在哪能用
作为一个开源 LLM，你可以通过多种方式来使用：直接用别人部署好的产品，找部署好的接口，或者自己部署
中文还是有问题
直接使用（最简单）Hugging Face 地址在这，进去后直接切模型：https://huggingface.co/chat/
Replicate 8B 模型：hat/https://replicate.com/meta/meta-llama-3-8b 70B模型：https://replicate.com/meta/meta-llama-3-70b 
（刚放上去，只运行了 8 次）
Meta AI Meta 自己拿 Llama 3 做的，这里访问：https://ai.meta.com/ 注意，这个锁地区。 第三方 API微软 Azure 地址在这：https://azuremarketplace.microsoft.com/en-us/marketplace/apps/metagenai.meta-llama-3-8b-chat-offer?tab=overview
Replicate 他们好卷...Llama 发布1个小时，他们就上线服务了，这俩地址也能走 API 8B 模型：hat/https://replicate.com/meta/meta-llama-3-8b 70B模型：https://replicate.com/meta/meta-llama-3-70b 自己部署Meta 项目官网 地址在这：https://llama.meta.com/llama-downloads
Github 项目地址：https://github.com/meta-llama/llama3
第 4 部分其他
跟随 Llama 3 发布的，还有 Meta AI 系列，包括：一款手机app，一个网站，还有一堆在 Meta FaceBook 全家桶里的插件 * 大聪明：从中国取的经吧？
APP 能干啥能当 ChatGPT 用 emmmmm... 
网页应用能干啥还是能当 ChatGPT 用 emmmmm... 
插件能干啥能在全家桶里用 这个看上去很实用！ 
| 
