丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
芯片 正文
發(fā)私信給包永剛
發(fā)送

0

Graphcore公司雙戰(zhàn)略,到底賣云服務(wù)還是賣芯片?

本文作者: 包永剛 2023-05-15 18:13
導(dǎo)語:Graphcore中國堅定地走被云廠商集成的策略。

AI芯片公司直接提供云服務(wù)似乎成了新的風潮。

市場領(lǐng)導(dǎo)者英偉達在GTC 2023上宣布會基于Oracle的云基礎(chǔ)設(shè)施提供AI云服務(wù)。

美國AI芯片獨角獸SambaNova也做同樣的事情,以云服務(wù)的方式提供AI算力。

英國AI芯片獨角獸公司Graphcore近期也進行了策略的調(diào)整,其CEO Nigel Toon表示在英國和美國會和云廠商緊密合作,以云產(chǎn)品的形式提供算力,不再單獨銷售芯片產(chǎn)品。

不過Graphcore中國區(qū)并未跟進英國總部不單獨銷售芯片產(chǎn)品的策略。

“中國和總部的策略后續(xù)會不太一樣。我們在業(yè)務(wù)、策略上還是一以貫之,繼續(xù)以銷售硬件,自己安裝產(chǎn)品的形式提供AI算力?!盙raphcore總裁,大中華區(qū)總經(jīng)理盧濤表示,

在中國,我們還是比較堅定地走被云廠商集成的策略,Graphcore中國還是這樣的商業(yè)模式?!?/p>

為什么在中國不直接提供云服務(wù)?

Graphcore總部和中國區(qū)戰(zhàn)略不同的核心在于到底是賣云服務(wù)還是直接賣芯片,讓人好奇的是,為什么中國區(qū)做出了不一樣的選擇?

盧濤解釋,中國的產(chǎn)業(yè)業(yè)態(tài)和美國、歐洲有很大區(qū)別,比如,美國基本所有互聯(lián)網(wǎng)公司都架構(gòu)在AWS、Azure和Google Cloud這三朵云之上。中國有很多優(yōu)秀的云廠商,但也有很多選擇自建數(shù)據(jù)中心的大型互聯(lián)網(wǎng)公司。一些公司原本是云廠商的大客戶,隨著自身體量增加也做了大量的自建。

這些大體量用戶尤其是頭部用戶的自建行為讓我們發(fā)現(xiàn)他們更希望被提供硬件形式的服務(wù)。云也非常重要,但我們希望Graphcore能成為中國云廠商產(chǎn)品的一部分,而不是做一個Graphcore自有品牌的云。”盧濤說明了中國區(qū)堅持原有商業(yè)模式的原因。

客戶群體方面,Graphcore中國會聚焦于大型互聯(lián)網(wǎng)公司。

這主要有兩方面的意義,第一,大型的互聯(lián)網(wǎng)公司對GPU產(chǎn)品用得最深最透最廣,對非GPU產(chǎn)品的技術(shù)參數(shù)、可用性、技支持服務(wù)、商業(yè)支持服務(wù)、產(chǎn)品穩(wěn)定性都要求很高。

“只有和嚴苛的客戶一起,才能真正把自己的產(chǎn)品給打磨出來。過程非常痛苦,但能從中學到很多?!北R濤體會頗深,“我們之前為一個國內(nèi)的大客戶部署了一個比較大的IPU集群,他們向我們提出了三百多個軟件特性需求,若不是客戶提出這些需求,很多需求我們想象不出來。客戶的要求越高、越苛刻,反而進步更快。

第二個方面的意義是從商業(yè)的角度。把中國作為單一的整體大市場,中國互聯(lián)網(wǎng)行業(yè)占整個AI應(yīng)用市場的60%,并且這個行業(yè)里Top10-20多公司又占了80%以上的市場。

從商業(yè)角度,如果你的產(chǎn)品表現(xiàn)令人滿意,最后的商業(yè)回報也會相對合理。”盧濤表示。

據(jù)雷峰網(wǎng)了解,Graphcore正在和國內(nèi)的金山云和騰訊云合作,與另一家國內(nèi)大型云廠商的合作細節(jié)在規(guī)劃中。

如何把握生成式AI帶來的機會? 

如今,各大互聯(lián)網(wǎng)公司的大模型也帶來了對大算力AI芯片的強需求。只有快速實現(xiàn)對大模型的支持,才有可能抓住市場機遇。

目前,Graphcore已經(jīng)支持的大模型包括GPT-2 XL版本,GPT-J開源版本,Dolly 2.0(剛開源的100多億參數(shù)的模型),ChatGLM-6B(國內(nèi)比較火的開源模型)。 

Graphcore公司雙戰(zhàn)略,到底賣云服務(wù)還是賣芯片?

對于大模型的公司,我們的一個優(yōu)勢是可以做到每個token 3.5毫秒,幾百個字一秒鐘就能出來了?!北R濤用了更形象的方式體現(xiàn)這一速度,“ChatGPT是逐字出現(xiàn)的,我們可以一屏屏地顯示。這是給做大模型的人一個重要的價值點,能夠帶來不一樣的體驗。 

Graphcore公司雙戰(zhàn)略,到底賣云服務(wù)還是賣芯片?

實現(xiàn)了對多個大模型的支持之后,也意味著Graphcore可以快速支持其它大模型。

盧濤表示,“從Dolly 2.0發(fā)布到我們支持這個模型,大概兩周左右的時間。支持大模型的關(guān)鍵點在于模型的大小,以及如何在多個IPU之間做模型拆分。需要底層的各種能力,例如Transformer相關(guān)的算子,模型并行的API,算子并行的API,Tensor并行的API,這些底層的技術(shù)我們已經(jīng)比較成熟?!?/p>

當然,想要吸引熟悉了GPU的客戶使用Graphcore的IPU,最好能夠做到零代碼遷移,和CUDA兼容。

Graphcore在去年推出主打推理兼做訓練的C600產(chǎn)品時,同時發(fā)布的軟件工具包PopRT,這個工具包可以將GPU在TensorFlow訓練出來的模型進行自動轉(zhuǎn)換,在不做CUDA兼容的情況下,比較無縫地把GPU的軟件在IPU上跑起來。

Graphcore公司雙戰(zhàn)略,到底賣云服務(wù)還是賣芯片?

Graphcore公司雙戰(zhàn)略,到底賣云服務(wù)還是賣芯片? “上個月我們剛發(fā)了1.0版本,目前一些客戶反饋都還不錯,因為以前做一些模型遷移都需要花費較長的時間,現(xiàn)在有了工具之后,客戶自己的模型遷移還是比較快。”盧濤說,“當然,我們的芯片IPU的優(yōu)勢是核非常多,存儲、帶寬非常大。”

對于當下眾多的AI大算力初創(chuàng)芯片公司而言,英偉達并沒有留給競爭者太多機會,差異化競爭能夠增加成功的可能。

這種差異化就包括面對不同的市場采用更適合的市場策略,所以Graphcore在英國和中國市場采用不同的策略,是差異化和靈活性的體現(xiàn),這種靈活性有助于Graphcore在中國取得成功。雷峰網(wǎng)(公眾號:雷峰網(wǎng))

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

分享:
相關(guān)文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說