《電子技術應用》
您所在的位置:首頁 > 電子元件 > 業界動態 > Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

2021-04-22
來源:電子工程專輯
關鍵詞: Cerebras WSE 最大芯片

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第 2 代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

  差不多兩年前(2019年8月),SeaMicro 創始人安德魯·費爾德曼(Andrew Feldman)創辦的 Cerebras  Systems 公司公司,揭開了芯片設計領域的一場革命,他們將整片晶圓制成了一個巨大的芯片。

微信圖片_20210422110041.jpg

  以往的芯片制造流程,是從硅錠切下一片晶圓后在Fab中進行加工,一片晶圓能被切成數百顆獨立的芯片。而這顆名為晶圓級引擎(Wafer Scale Engine,WSE-1)的處理器直接把整片晶圓做成了一顆芯片,面積與12英寸晶圓所能截取的最大矩形面積一樣——比iPad還大。

  不過,這顆芯片的每一塊區域都能被稱為內核,它們以一種復雜的方式與其他內核相互連接?;ヂ摰脑O計是為了保持所有內核的高速運轉,以便所有晶體管能夠作為一個整體一起工作。在 2019 年推出的WSE-1中,Cerebras 融入了 40 萬個內核和 1.2萬億個晶體管,采用的是 16 納米工藝進行制造,可同時專注于AI和HPC(High Performance Computing,高性能計算機群)工作負載。

  更狠的第二代(WSE-2)來了

微信圖片_20210422110108.jpg

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第二代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

微信圖片_20210422110123.jpg

  這得益于WSE-2采用基于臺積電(TSMC)的N7工藝(7nm)打造,使得邏輯電路可以按比例縮小,并在一定程度上縮小了SRAM,讓新芯片上可以容納更多AI內核。Feldman 說,有了這樣的先進工藝支持,Cerebras 可以在同樣的8*8英寸,面積約46225mm2的芯片中塞進更多的晶體管。

微信圖片_20210422110142.jpg

  WSE-2與一代對比(圖自:AnanTech)

  值得注意的是,在功能提升的前提下,Cerebras還能夠保持其系統功耗不變(23 kW)。

微信圖片_20210422110158.jpg

  對比市場上第二大AI處理器,英偉達的Ampere A100面積約為826mm2,具有0.054萬億個晶體管。WSE-2比它多了2.55萬億個晶體管;內核數是A100的123倍;緩存是其1000倍;可提供的內存帶寬,則達到了A100的13萬倍。

  Cerebras還引用了1000倍的板載內存,帶有40 GB的SRAM,而Ampere A100則為40 MB。

微信圖片_20210422110211.jpg

  最初推出WSE-1的時候,很多人擔心這么大的晶圓做芯片,萬一其中一塊不良,是否整個報廢?對此Cerebras解釋說,他們通過設計一種可以繞開任何制造缺陷的系統來實現100%的良率,核心與帶有FMAC數據路徑的2D Mesh連接

  Cerebras在WSE-1用了1.5%的額外核心來容納缺陷,但由于臺積電工藝的提升,這個數值被進一步縮小了。

  晶圓級引擎存在的意義

  WSE的出現,是因為訓練神經網絡需要花費較多的時間,即便是當今最先進的模型,也需要幾天或幾周的時間進行訓練,大型網絡則需要數周。通常做法是在數十、數百甚至數千個GPU上進行分布式訓練,以使訓練時間更可控。

  其中最大的瓶頸,是這些龐大的處理器集群很難編程,而且數據必須在處理器和外部 DRAM 存儲器之間進行多次傳輸,既浪費時間又消耗能源。所以WSE研發團隊的初衷是擴大芯片,使它與 AI 處理器內核一起容納所需的所有數據,一個CS-2的性能相當于整個GPU集群的性能,同時具有單個設備的簡單性……

微信圖片_20210422110228.jpg

  其設計的關鍵是自定圖形編譯器,采用pyTorch或TensorFlow將每一層映射到芯片的物理部分,從而允許在數據流過時進行異步計算。擁有如此大的處理器意味著數據永遠不會掉隊,也不需要在內存中等待,不浪費功率,并且可以以流水線的方式連續地移至計算的下一個階段。編譯器和處理器的設計還考慮到了稀疏性,無論批處理大小如何都可以實現高利用率,或者可以使參數搜索算法同時運行。

微信圖片_20210422110248.jpg

  Cerebras設計的獨特性,讓它能夠超越制造過程中出現的常見物理限制,即標線限制。處理器的設計限制,往往取決于芯片的最大尺寸,因為很難通過Cross link連接兩個區域。這是Cerebras的殺手锏之一,該公司仍然是唯一一家能提供這種規模處理器的公司。

微信圖片_20210422110303.jpg

  在Hot Chips 2020,該公司首席硬件架構師Sean Lie表示,Cerebras對客戶的主要好處之一是能夠簡化工作負載,以前需要使用GPU / TPU機架的工作,現在可以以計算相關的方式在單個WSE上運行。

  產品和合作伙伴

  Cerebras的第一代WSE作為CS-1的完整系統的一部分一起打包出售,不少實驗室與計算機中心已經部署了Cerebras WSE和CS-1。

微信圖片_20210422110326.jpg

  愛丁堡大學的超級計算中心,利用WSE進行自然語言處理、基因組學和COVID-19的相關研究。

  在美國阿貢國家實驗室(ANL),WSE被用于COVID-19研究、重力波檢測和材料發現等;并且在癌癥療法研究中,使癌癥模型的實驗周轉時間,減少了300倍以上。

  制藥企業葛蘭素史克的高級副總裁金·布蘭森表示:“其增加了生成的編碼器模型的復雜性,同時將訓練時間減少了80倍。”

  Lawrence Livermore將一臺CS-1與其23 PFLOP“拉森”超級計算機配對。匹茲堡超級計算機中心以500萬美元的價格購買了兩個系統,并將這些系統連接到他們的Neocortex超級計算機上,以實現同步AI和增強的計算能力。

  對于WSE-2的應用,國際調研公司Tirias Research首席分析師Jim McGregor認為:“顯然,對用于大型數據集的Cerebras晶圓級解決方案,有些公司和實體很感興趣。但是在企業層面,還有數百萬的其他AI應用,以及一些Cerebras不能處理的情況,這就是英偉達擁有SuprPod和Selene超級計算機的原因。與英偉達相比,Cerebras更像是一個小眾平臺,二者的廣度無法相提并論?!?/p>

  目前Cerebras在多倫多、圣地亞哥、東京和舊金山擁有約300名員工。該公司首席執行官安德魯·費爾德曼(Andrew Feldman)表示,作為一家公司,他們已經實現了盈利,已經部署了CS-1的客戶很多,并且在啟動商業系統時已經有更多的客戶在遠程試用CS-2。

微信圖片_20210422110346.jpg

  除了AI之外,由于芯片的靈活性使流體動力學和其他計算仿真成為可能,因此Cerebras在典型的商業高性能計算市場(例如石油、天然氣和基因組學)中吸引了很多客戶。

  CS-2的部署將于今年晚些時候的第三季度開始,價格已從2-3百萬美元升至“幾百萬”美元。

  

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          欧美精品三级| 伊人久久男人天堂| 欧美中文日韩| 久久久久一本一区二区青青蜜月| 亚洲视频在线一区| 夜夜躁日日躁狠狠久久88av| 久久精品国产一区二区三| 亚洲欧美激情四射在线日| 国产日韩欧美在线观看| 好吊妞这里只有精品| 伊人夜夜躁av伊人久久| 亚洲伦理自拍| 另类欧美日韩国产在线| 欧美极品影院| 欧美激情精品久久久久| 国产精品黄色| 国产精品久久久久99| 欧美在线一级视频| 欧美色123| 免费久久99精品国产| 美女精品自拍一二三四| 国产精品久久久久久久久久免费看| 欧美三级午夜理伦三级中文幕| 欧美精品一区在线发布| 国产精品爱久久久久久久| 欧美激情性爽国产精品17p| 日韩视频久久| 亚洲精品无人区| 欧美大片va欧美在线播放| 欧美一区二区三区免费观看视频| 欧美一区二区三区久久精品茉莉花| 国产香蕉97碰碰久久人人| 玖玖玖免费嫩草在线影院一区| 国内激情久久| 国产精品三级久久久久久电影| 欧美日韩亚洲一区二区三区在线| 欧美日韩八区| 在线日韩中文| 亚洲第一毛片| 99国产精品久久久久老师| 亚洲欧美欧美一区二区三区| 夜夜嗨av一区二区三区四季av| 麻豆成人精品| 亚洲综合成人在线| 欧美在线|欧美| 久久久久国产精品厨房| 9色国产精品| 亚洲性图久久| 亚洲午夜羞羞片| 亚洲高清成人| 亚洲国产成人高清精品| 在线观看视频一区二区欧美日韩| 亚洲精品在线电影| 久久精品72免费观看| 欧美视频在线观看一区| 宅男在线国产精品| 国产精品免费久久久久久| 欧美亚洲在线视频| 欧美伦理91i| 亚洲国产一区二区视频| 久久久7777| 亚洲欧美另类在线| 女同性一区二区三区人了人一| 日韩视频永久免费观看| 亚洲一区二区欧美| 久久久亚洲精品一区二区三区| 国产乱码精品| 欧美天天在线| 亚洲国产日韩在线一区模特| 久久综合久久综合九色| 国产乱码精品一区二区三| 欧美一区二区视频免费观看| 欧美日韩在线不卡| 久久久一区二区三区| 一区二区精品在线观看| 久久亚洲欧美国产精品乐播| 亚洲最新色图| 欧美国产在线视频| 亚洲成人中文| 亚洲级视频在线观看免费1级| 欧美大胆人体视频| 亚洲一区欧美二区| 麻豆av一区二区三区| 国产嫩草影院久久久久| 欧美激情视频一区二区三区免费| 国产精品高清网站| 亚洲人成亚洲人成在线观看图片| 99国内精品| 久久网站热最新地址| 国产欧美一区二区精品仙草咪| 久久久久在线观看| 狠狠噜噜久久| 激情五月综合色婷婷一区二区| 久久天天躁夜夜躁狠狠躁2022| 99视频日韩| 亚洲日本在线视频观看| 宅男66日本亚洲欧美视频| 欧美日韩日日骚| 国产精品国产精品| 国产在线一区二区三区四区| 在线观看91精品国产入口| 亚洲美女精品久久| 亚洲免费观看高清完整版在线观看熊| 国产一区视频在线观看免费| 国产一区二区三区不卡在线观看| 国产一区二区黄色| 午夜在线精品偷拍| 亚洲欧洲综合另类| 欧美高清在线一区二区| 伊人狠狠色丁香综合尤物| 欧美国产另类| 亚洲免费福利视频| 亚洲一区国产| 欧美不卡在线视频| 亚洲国产成人久久综合一区| 亚洲视频电影图片偷拍一区| 亚洲激情小视频| 含羞草久久爱69一区| 蜜臀av性久久久久蜜臀aⅴ| 亚洲一二三级电影| 亚洲狠狠丁香婷婷综合久久久| 午夜亚洲福利| 国产日韩欧美精品一区| 欧美高清视频在线播放| 欧美一区二区视频观看视频| 午夜伦欧美伦电影理论片| 欧美成人免费观看| 亚洲一区二区三区乱码aⅴ蜜桃女| 亚洲欧美日韩一区在线观看| 亚洲在线播放电影| 精品91久久久久| 久久不见久久见免费视频1| 亚洲精品在线二区| 欧美理论在线播放| 日韩午夜中文字幕| 久久久九九九九| 亚洲一区亚洲二区| 亚洲精品视频一区二区三区| 欧美韩日亚洲| 亚洲尤物在线视频观看| 亚洲性视频网站| 蜜臀av在线播放一区二区三区| 欧美一区二区三区久久精品| 激情五月综合色婷婷一区二区| 免费成人你懂的| 日韩午夜在线视频| 欧美日韩国产999| 国产日韩专区在线| 欧美成人午夜影院| 亚洲精品女av网站| 欧美精品在线免费播放| 国产亚洲观看| 一区二区三区精品视频在线观看| 亚洲欧美精品伊人久久| 亚洲人体一区| 国产精品久久久久免费a∨大胸| 久久精品国产亚洲5555| 欧美影视一区| 亚洲裸体俱乐部裸体舞表演av| 鲁大师成人一区二区三区| 亚洲自拍偷拍色片视频| 一区精品在线播放| 久久久噜噜噜久噜久久| 9久re热视频在线精品| 亚洲国产精品日韩| 欧美日韩一区二区免费在线观看| 欧美成人精品三级在线观看| 欧美天堂亚洲电影院在线观看| 亚洲第一中文字幕在线观看| 黄色成人av网| 国产精品www994| 国产精品一卡二卡| 国产三级欧美三级| 久久亚洲综合色| 欧美精品免费在线| 国产一区二区三区在线观看精品| 亚洲人成啪啪网站| 免费国产一区二区| 亚洲欧美一区二区激情| 欧美成人按摩| 欧美激情精品久久久久久变态| 一区二区毛片| 国外成人免费视频| 国产精品一区在线观看你懂的| 亚洲三级影院| 欧美一区二区三区免费观看视频| 欧美 日韩 国产精品免费观看| 国自产拍偷拍福利精品免费一| 在线电影欧美日韩一区二区私密| 欧美激情无毛| 国产亚洲一级高清| 国产精品久久二区二区| 久久综合免费视频影院| 欧美日韩hd| 一本色道久久精品| 99成人精品| 91久久精品久久国产性色也91| 在线中文字幕一区| 亚洲视频欧美视频| 国产精品国产三级国产普通话三级| 欧美在线一二三四区| 午夜久久电影网| 欧美一区二区三区啪啪| 国产亚洲美州欧州综合国| 欧美日韩在线亚洲一区蜜芽| 欧美日本免费| 日韩午夜激情电影| 欧美日韩午夜在线视频| 99精品国产热久久91蜜凸| 亚洲综合色激情五月| 在线观看亚洲视频啊啊啊啊| 久久久久国产一区二区三区四区| 欧美在线啊v| 久久人人爽人人爽爽久久| 亚洲国产精品美女| 久久丁香综合五月国产三级网站| 欧美日韩中文字幕综合视频| 日韩视频三区| 欧美日韩情趣电影| 日韩视频免费在线观看| 在线看欧美日韩| 欧美手机在线视频| 美女脱光内衣内裤视频久久网站| 亚洲综合色网站| 国产精品自拍小视频| 欧美一级午夜免费电影| 国产欧美精品| 亚洲永久免费| 一区二区三区 在线观看视频| 国产亚洲欧洲997久久综合| 亚洲欧美国产毛片在线| 久久黄色网页| 久久国产精彩视频| 好看的日韩视频| 国内精品嫩模av私拍在线观看| 亚洲精品少妇| 农夫在线精品视频免费观看| 美女主播一区| 亚洲精品午夜精品| 一区二区亚洲欧洲国产日韩| 亚洲国产色一区| 国产精品日韩欧美一区| 国产精品免费观看视频| 午夜视黄欧洲亚洲| 欧美三区免费完整视频在线观看| 激情av一区二区| 欧美一区二区日韩| 亚洲精品美女免费| 黄色日韩网站视频| 欧美性大战久久久久久久蜜臀| 欧美国产成人在线| 在线免费不卡视频| 欧美激情四色| 美日韩精品免费| 在线电影国产精品| 黄色另类av| 久久一日本道色综合久久| 亚洲欧美另类综合偷拍| 欧美日韩成人在线观看| 激情成人在线视频| 99综合精品| 久久免费国产| 国产毛片久久| 欧美精品情趣视频| 亚洲欧美在线磁力| 久久久国产视频91| 日韩视频精品在线观看| 一区二区三区四区精品| 久久久xxx| 久久亚洲国产精品一区二区| 欧美高清免费| 中文欧美在线视频| 国产精品日韩欧美一区二区| 国产精品久久久久久久久久久久久久| 在线日韩av| 午夜精品国产| 欧美日韩亚洲综合| 亚洲视频每日更新| 亚洲高清123| 国产精品一区三区| 在线成人性视频| 亚洲第一久久影院| 激情综合视频| 女人香蕉久久**毛片精品| 亚洲日本电影| 午夜精品区一区二区三| 欧美激情在线免费观看| 亚洲网站在线| 国产精品99久久久久久宅男| 欧美女主播在线| 欧美日韩伊人| 国产欧美日韩一区二区三区在线观看| 欧美日本国产精品| 今天的高清视频免费播放成人| 国内精品福利| 欧美一区二区三区四区夜夜大片| 欧美福利视频| 久久只精品国产| 欧美国产日韩在线观看| 国产精品私人影院| 午夜精品一区二区三区在线| 欧美日韩一区二区免费视频| 国产欧美一区二区三区在线看蜜臀| 国产亚洲毛片| 久久精品99国产精品| 日韩一本二本av| 在线观看欧美成人| 女人色偷偷aa久久天堂| 久久久久久电影| 一本久久精品一区二区| 久久久久综合| 欧美精品在线视频观看| 久久一区亚洲| 久久高清免费观看| 亚洲综合精品四区| 免费观看在线综合色| 亚洲免费观看| 国产欧美精品日韩精品| 欧美视频在线观看一区二区| 国产伦精品一区二区三区视频孕妇| 91久久精品日日躁夜夜躁欧美| 欧美日韩国产欧| 欧美日韩一卡二卡| 亚洲精品久久7777| 亚洲欧美综合v| 性伦欧美刺激片在线观看| 亚洲午夜精品久久久久久app| 久久久亚洲综合|