高通将与Meta合作增加对智能手机和PC的设备端Llama 2支持

今天早些时候，我们报道了Meta 宣布并推出 Llama 2，这是其用于生成 AI 应用程序和服务的大型语言模型的下一代版本。现在，有消息称 Meta 和 Qualcomm 之间建立了新的合作伙伴关系，这将使 Llama 2 可用于搭载 Qualcomm Snapdragon 芯片的移动设备。

高通在一份新闻稿中表示，目标是允许这些设备在这些设备上运行基于 Llama 2 的应用程序和服务，而无需像 ChatGPT 和 Bing Chat 等其他当前生成式 AI 产品使用的那样连接到基于云的服务。高通表示：

在智能手机、PC、VR/AR 耳机和车辆等设备上运行 Llama 2 等生成式 AI 模型的能力使开发人员能够节省云成本，并为用户提供私密、更可靠和个性化的体验。

高通表示，在设备上运行 Llama 2 等大型语言模型具有许多优势。与使用基于云的法学硕士相比，它可能更具成本效益，并且可以提供更好的性能，因为它不必连接到在线服务。同时，设备上的法学硕士可以提供更加个性化的人工智能服务。与连接到云服务器相比，它也更加安全和私密。

目前，高通计划在 2024 年的某个时候开始在使用 Snapdragon 芯片的设备上支持基于 Llama 2 的人工智能服务。目前尚不清楚是否需要最新一代高通芯片才能工作，或者这种支持是否可以向后兼容当前的 Snapdragon 芯片。

Meta 表示，Llama 2 接受的训练数据比第一代 Llama LLM 多 40%。它已经宣布与微软合作，在其 Azure 服务上向商业和研究用户免费提供 Llama 2 ，并提供在 Windows PC 上本地下载和运行 LLM 的方法。

标签：

版权声明：本文由用户上传，如有侵权请联系删除！