0
本文作者: nebula | 2024-07-24 15:18 |
7月23日,Meta開(kāi)源最新Llama 3.1系列,包括備受關(guān)注的4050億參數(shù) “超大杯”模型。阿里云魔搭社區(qū)第一時(shí)間上架全系列3款模型,阿里云百煉平臺(tái)在國(guó)內(nèi)首家推出針對(duì)Llama 3.1系列的訓(xùn)練、部署、推理服務(wù),企業(yè)和開(kāi)發(fā)者即日起可在阿里云上基于其打造自己的專(zhuān)屬大模型。
Llama 3.1系列包括80億、700億、4050億參數(shù)版本,上下文長(zhǎng)度擴(kuò)展至12.8萬(wàn)tokens,并增加了對(duì)八種語(yǔ)言的支持。其中“超大杯”4050億參數(shù)版本,是目前最大規(guī)模的開(kāi)源大模型,在各項(xiàng)測(cè)評(píng)中能力表現(xiàn)突出,不過(guò)由于模型尺寸極大,本地開(kāi)發(fā)部署難度極高。
為方便國(guó)內(nèi)開(kāi)發(fā)者,阿里云百煉平臺(tái)推出針對(duì)Llama 3.1全系列的一鍵再訓(xùn)練、部署、推理方案,且限時(shí)一個(gè)月為所有用戶提供免費(fèi)算力額度。企業(yè)和開(kāi)發(fā)者可在阿里云百煉模型廣場(chǎng)申請(qǐng)使用,通過(guò)后即可快速體驗(yàn)Llama 3.1效果,并與其他模型進(jìn)行直觀比較。
希望直接進(jìn)行推理應(yīng)用的用戶,可在百煉上點(diǎn)擊模型調(diào)試、prompt模版等功能,快速基于Llama 3.1打造自己的AI助手。希望深度開(kāi)發(fā)的企業(yè),后續(xù)可結(jié)合企業(yè)數(shù)據(jù)集,一鍵啟動(dòng)SFT全參訓(xùn)練或LoRA高效訓(xùn)練,并利用百煉RAG檢索增強(qiáng)、智能體打造等能力進(jìn)行應(yīng)用開(kāi)發(fā)。
在云上開(kāi)發(fā)和使用大模型具有諸多優(yōu)勢(shì)。百煉平臺(tái)融合了阿里云獲評(píng)產(chǎn)品力全球第二的AI基礎(chǔ)設(shè)施能力,企業(yè)和開(kāi)發(fā)者能獲得豐富的AI計(jì)算資源和極致彈性,輕松完成對(duì)超大模型的深度開(kāi)發(fā)、高效部署和高并發(fā)推理。在基礎(chǔ)設(shè)施層,阿里云靈駿智算集群具備高達(dá)十萬(wàn)卡GPU的擴(kuò)展性;在AI平臺(tái)層,人工智能平臺(tái)PAI可10倍提升大模型訓(xùn)練性能,并穩(wěn)定運(yùn)行千卡任務(wù)5周以上;在模型即服務(wù)層面,阿里云打造了國(guó)內(nèi)最大規(guī)模的AI模型社區(qū)魔搭和模型服務(wù)平臺(tái)百煉,提供從大模型選型、體驗(yàn)到再訓(xùn)練、部署、應(yīng)用、推理的一站式服務(wù)。
作為中國(guó)云計(jì)算領(lǐng)導(dǎo)者,阿里云提出要做“AI時(shí)代最開(kāi)放的云”,全面支持中國(guó)大模型生態(tài)繁榮。從去年起,阿里云全尺寸、全模態(tài)開(kāi)源了自研通義千問(wèn)大模型,并深度支持對(duì)Llama、Mistral、Stable Diffusion、ComfyUI等開(kāi)源模型的開(kāi)發(fā)應(yīng)用,以及百川智能、智譜AI、零一萬(wàn)物、昆侖萬(wàn)維、vivo、復(fù)旦大學(xué)等眾多國(guó)內(nèi)機(jī)構(gòu)大模型的訓(xùn)練推理。目前,阿里云已成為中國(guó)大模型的公共算力底座,超過(guò)一半中國(guó)主流大模型跑在阿里云上。
魔搭社區(qū)下載網(wǎng)址:
https://modelscope.cn/models
阿里云百煉網(wǎng)址:
https://www.aliyun.com/product/bailian
雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。