1. 当前位置:主页 > 热点资讯

阿里云宣布支持Llama2全系列训练部署

7月25日 消息:7月25日,阿里云推出了针对Llama2全系列版本的训练和部署方案。为了方便开发者,阿里云机器学习平台PAI对Llama2系列模型进行了深度适配,并提供轻量级微调、全参数微调、推理服务等场景的最佳实践方案。

此外,阿里云还牵头发起了AI模型社区魔搭Modelscope,在该社区上提供了Llama2系列模型,开发者可以在该社区上进行模型开发。

开发者可以在魔搭社区的Llama2模型页面点击“Notebook快速开发”,从而一键拉起阿里云机器学习平台PAI,对模型进行云上开发和部署。此外,在其他平台下载的Llama2模型,也可以使用阿里云PAI进行开发。

阿里云率先支持Llama2 大模型: 700 亿参数轻松部署

在阿里云上,开发者可以通过轻量级Lora微调或全参数微调来完成Llama2模型的微调。完成微调后,PAI支持开发者通过Web UI及API的方式部署Llama2,使模型可以通过网页或嵌入应用与使用者交互。

与本地单机训练Llama2相比,在阿里云上完成对超大尺寸模型的深度开发更加简单便捷,而且预置环境免运维,操作简单,同时开发者可以获得丰富的AI计算资源和极致弹性。

相比之下,本地单卡GPU只能完成Llama270亿参数版本的轻量级Lora微调和推理,更大尺寸版本及更深度训练均很难支撑。

最近,Llama2大语言模型宣布开源,覆盖70亿、130亿及700亿参数版本。Llama2可以免费用于研究场景和月活7亿用户以下的商业场景,为企业和开发者提供了大模型研究的新工具。

声明:本网页内容为来源互联网,旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理,E-MAIL:320919107#qq.com。#改@

阿里云宣布支持Llama2全系列训练部署:http://www.shiyongwenba.com/fenxiang/164542.html