首页 Metaverse 戴尔增加对Meta的开源大语言模型Llama 2的支持
戴尔增加对Meta的开源大语言模型Llama 2的支持

戴尔增加对Meta的开源大语言模型Llama 2的支持

  近日,据海外媒体报道,老牌电脑制造商戴尔公司(Dell)宣布,公司将在戴尔生成式人工智能硬件验证设计(Dell Validated Design for Generative AI)中增加对Meta的开源大语言模型Llama 2的支持,以及用于内部部署的生成式人工智能解决方案。

  Llama 2由Meta公司在今年7月份发布,目前已经得到了多家云服务提供商的支持,包括微软Azure、Amazon Web Services 和Google Cloud。和戴尔公司的合作的不同之处在于,这是将开源大语言模型引入了内部部署。戴尔将不仅为它的企业用户提供对Llama 2的支持,它也在自己的用例中使用Llama 2。

  对于Meta公司来说,与戴尔的合作为了解企业用户如何使用Llama提供了更多机会,这将有助于随着时间的推移进一步扩展整个Llama功能栈的能力。

  戴尔公司负责人工智能战略的高级副总裁Matt Baker表示,增加对Llama 2的支持,将有助于公司实现将人工智能引入企业数据的愿景。他补充道,绝大多数数据都在本地,我们现在有了这种开放访问模式,可以将数据带到本地。由于Llama 2家族拥有多达700亿个参数,现在你可以在数据旁对它进行运行,并真正构建一些出色的应用程序。

  通过引入Llama 2,戴尔公司将为其企业客户提供部署Llama 2所需硬件的指导,并帮助企业组织如何构建受益于开源大语言模型的应用程序。

  Matt Baker进一步提到,戴尔正在将Llama 2用于自己公司的内部目的。戴尔正在使用Llama 2进行实验和实际生产部署。目前的主要用例之一是帮助支持检索增强生成(RAG),使其成为Dell自己的知识库的一部分。Llama 2帮助戴尔提供了一个聊天机器人风格的界面,可以更轻松地获取这些信息。但Matt Baker指出,戴尔不会直接将Llama 2本身货币化,因为Llama 2是免费提供的开源技术。

  Meta公司生成人工智能开源负责人Joe Spisak表示,在过去30天内,Llama 2的开源技术下载量约为3000万次,已经取得了巨大成功。

  对于Meta来说,Llama 2不仅仅是一个大语言模型,它是整个生成式人工智能栈的核心,其中还包括Meta创建并继续帮助开发的开源PyTorch机器学习框架。与戴尔的合作还将帮助Llama开发社区更好地理解和构建企业需求。部署的Llama技术越多,用例就越多,Llama开发人员就越能了解坑在哪里,以及如何更好地大规模部署。这就是与戴尔这样的公司合作的真正价值,帮助我们作为一个平台并打造更好的Llama 3和Llama 4,总体上是一个更安全、更开放的生态系统。

延伸阅读:

Powered by Froala Editor