谷歌吹噓自研芯片TPU4組成的超算是英偉達(dá)A100超算性能的1.7倍 – 藍(lán)點(diǎn)網(wǎng)
谷歌日前公布了該公司用于訓(xùn)練人工智能模型 PaLM 的谷歌超級(jí)計(jì)算機(jī)的更多細(xì)節(jié),谷歌稱這個(gè)超級(jí)計(jì)算機(jī)比英偉達(dá)的吹噓成的超算超算同類系統(tǒng)速度更快、功耗更低。自研U組北京美女上門聯(lián)系方式(微信180-4582-8235)提供頂級(jí)外圍女上門,伴游,空姐,網(wǎng)紅,明星,車模等優(yōu)質(zhì)資源,可滿足你的一切要求
目前 AI 行業(yè)主要依靠英偉達(dá)的芯片性專用加速卡進(jìn)行訓(xùn)練,典型代表是英偉 OPENAI 使用 20000~30000 張 NVIDIA A100 加速卡,早前英偉達(dá)還推出了最新加速卡 NVIDIA H100,達(dá)A的倍性能是藍(lán)點(diǎn) A100 的三倍。
谷歌雖然也使用英偉達(dá)的谷歌加速卡,不過谷歌自己也在研發(fā)芯片,吹噓成的超算超算比如谷歌新超級(jí)計(jì)算機(jī)使用的自研U組就是谷歌自己研發(fā)的第四代張量處理單元 (TPU)。
TPU 主要用于谷歌的芯片性人工智能訓(xùn)練,谷歌稱公司 90% 的英偉人工智能和機(jī)器學(xué)習(xí)訓(xùn)練都是基于 TPU 單元的,即通過模型提供數(shù)據(jù)的達(dá)A的倍北京美女上門聯(lián)系方式(微信180-4582-8235)提供頂級(jí)外圍女上門,伴游,空姐,網(wǎng)紅,明星,車模等優(yōu)質(zhì)資源,可滿足你的一切要求過程,讓這些處理單元在用于類似人類的藍(lán)點(diǎn)文本響應(yīng)查詢和圖像生成領(lǐng)域發(fā)揮作用。

谷歌最新的張量處理單元是第四代即 TPU4,谷歌自 2020 年開始將 TPU4 部署在數(shù)據(jù)中心組成超級(jí)計(jì)算機(jī)供內(nèi)部使用。
谷歌本周發(fā)布了一篇新論文介紹 TPU4 及 TPU4 組成的超級(jí)計(jì)算機(jī),谷歌工程師利用自己定制開發(fā)的光開關(guān)將 4000 多個(gè) TPU4 連接在一起組成超算。
難點(diǎn)在于如何讓這些處理單元組合起來提供高速運(yùn)算,因?yàn)橹T如 ChatGPT、Bard 這類模型數(shù)據(jù)量太大,靠單個(gè)芯片無法支撐。
相反,這些模型必須利用數(shù)量夸張的計(jì)算單元,然后將數(shù)據(jù)分布存儲(chǔ)在上面,同時(shí)還要求每個(gè)計(jì)算單元能夠協(xié)同工作數(shù)周甚至更長(zhǎng)的時(shí)間,因此這是一個(gè)技術(shù)難點(diǎn)。
所以最終谷歌選擇自己定制開發(fā)專用的光開關(guān),這樣 TPU4 超算可以輕松動(dòng)態(tài)配置處理單元之間的連接,降低延遲、提高性能滿足計(jì)算需求。
性能對(duì)比方面,谷歌在論文中表示對(duì)于同等大小的系統(tǒng),TPU4 超算比 NVIDIA A100 超算快 1.7 倍、能效提高 1.9 倍,A100 上市時(shí)間與 TPU4 完成開發(fā)類似,所以可以對(duì)比,而最新發(fā)布的 H100 屬于更先進(jìn)的產(chǎn)品了,谷歌沒對(duì)比。
那么標(biāo)題中為什么要說谷歌 “吹噓” 呢?我們倒不是懷疑谷歌的研發(fā)能力,主要是谷歌自研的這些芯片 (包括用于手機(jī)上的 AI 芯片) 都不對(duì)外出售的,也就是只有谷歌自己能使用。
所以即便性能提升多少對(duì)其他 AI 企業(yè)來說好像也沒太大意義,不過谷歌也倒不是完全封鎖,谷歌通過 Google Cloud 云計(jì)算服務(wù)對(duì)外出租 Cloud TPU 算力,所以 AI 企業(yè)要想使用 TPU 還必須使用 Google Cloud,妥妥的捆綁銷售了,要知道云計(jì)算成本可比自己購(gòu)買芯片后長(zhǎng)期使用的成本高的多,所以對(duì)大型 AI 企業(yè)來說這并不劃算。
另外谷歌暗示該公司還在開發(fā)新一代 TPU,畢竟 TPU4 都是 2020 年之前的事兒了,谷歌要研發(fā)第五代張量計(jì)算單元與 NVIDIA H100 競(jìng)爭(zhēng)。
(責(zé)任編輯:百科)
- 《合金裝備:幸存》上架steam 最低配置GTX650
- Switch《漫威終究聯(lián)盟3》最新藝圖設(shè)定圖放出 7月混戰(zhàn)開啟
- 《大年夜掌門》最新“最強(qiáng)宗師賽”賽制詳解
- 《幽靈止動(dòng)》新做要去 5月10日公布天下尾收預(yù)報(bào)
- 《二之國(guó)2:幽靈國(guó)度》新宣傳視頻 畫面效果展示
- 《熹妃傳》尾部微電影《山有木兮》熱拍8月上映
- 嘉會(huì)閉幕熱度沒有減 《仙順》元嬰消逝路初初
- 國(guó)產(chǎn)游戲《約拍女神》出售 好男模特松縛繩藝拍照
- switch《夢(mèng)幻之星OL2云端》容量?jī)H40M 通過云端游戲
- 國(guó)產(chǎn)解謎獨(dú)立游戲《月影之塔》20分鐘試玩版上線
- 開辟商也焦慢 《波西亞光陽》主機(jī)版尾個(gè)建復(fù)補(bǔ)丁將上線
- 輪戰(zhàn)沒有戚 《魔力期間》上古遺址戰(zhàn)沒有斷
- 《王國(guó)之心3》明年1月份發(fā)售 計(jì)劃DLC擴(kuò)展內(nèi)容
- 最完好的操控 《烏夜傳講》支足柄熾熱停止
- 開放RPG游戲《迪斯科天堂》公布 2018年內(nèi)發(fā)售
- 英特我CEO:退出挪動(dòng)5G基帶市場(chǎng)是果為看沒有到“錢途”
- 大年夜圣回去 《小悟空fighting》小水陪體系齊剖析
- 戰(zhàn)力進(jìn)擊!《君王3》最好傭兵護(hù)符挑選
- 虛幻4開放游戲《AQP之城》公布 海灘環(huán)境不錯(cuò)
- 《莽荒紀(jì)2》門派爭(zhēng)霸副本弄法步隊(duì)陣容剖析
- 太原美女約炮(微信181-8279-1445)大保健可上門安排外圍外圍上門外圍女桑拿全套按摩 views+
- 北京包夜外圍上門外圍女姐(微信181-8279-1445)一二線城市均可安排、高端一手資源、高質(zhì)量外圍女模特空姐、學(xué)生妹應(yīng)有盡有 views+
- 長(zhǎng)沙外圍空姐(微信181-8279-1445)長(zhǎng)沙真實(shí)可靠快速安排 views+
- 青島包夜美女外圍上門外圍女(微信181-8279-1445)提供全國(guó)及一二線城市外圍模特伴游預(yù)約、空姐、模特、留學(xué)生、熟女、白領(lǐng)、老師、優(yōu)質(zhì)資源覆蓋全國(guó) views+
- 北京外圍(外圍預(yù)約)外圍聯(lián)系方式(微信181-8279-1445)1-2線城市同城快速安排,30分鐘準(zhǔn)時(shí)到達(dá) views+
- 上海美女上門聯(lián)系方式(微信181-8279-1445)提供頂級(jí)外圍女上門,伴游,空姐,網(wǎng)紅,明星,車模等優(yōu)質(zhì)資源,可滿足你的一切要求 views+
- 成都美女上門聯(lián)系方式(微信181-8279-1445)提供頂級(jí)外圍女上門,伴游,空姐,網(wǎng)紅,明星,車模等優(yōu)質(zhì)資源,可滿足你的一切要求 views+
- 沈陽外圍(高端外圍)外圍女(微信181-8279-1445)提供全國(guó)及一二線城市外圍模特伴游預(yù)約、空姐、模特、留學(xué)生、熟女、白領(lǐng)、老師、優(yōu)質(zhì)資源覆蓋全國(guó) views+
- 蘇州外圍美女(微信181-8279-1445)提供頂級(jí)外圍,空姐,網(wǎng)紅,明星,車模等優(yōu)質(zhì)資源,可滿足你的一切要求 views+
- 南京外圍女模特平臺(tái)(外圍預(yù)約)微信181-8279-1445提供頂級(jí)外圍女上門,可滿足你的一切要求 views+
