《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業界動態 > 華為云中文預訓練模型發布:全球最大、千億參數,逼近人類神經元

華為云中文預訓練模型發布:全球最大、千億參數,逼近人類神經元

2021-04-28
來源:量子位

  還是熟悉的華為開發者大會 (HDC),還是熟悉的余承東。

  也還是一貫地擅長宣布“世界第一”:

  業界首個千億級生成與理解中文NLP大模型。

  業界最大的CV大模型。

forward (15).jpg

  這就是余承東剛剛發布的大模型,名曰華為云盤古大模型。

  要知道,千億級的參數規模,可是已經逼近人類神經元的數量了!

  余承東激動地介紹道,“這是今天最重磅的產品”!

 ?。S即,現場掌聲如雷)

  這屆華為開發者大會在熟悉之余,也有所不同:

  ? 不一樣的身份:這一次,余承東新增了一個身份,華為云CEO。

  ? 不再“硬”的產品:這一次,沒有手機、電腦和芯片,而是偏“軟”的開發者產品。

  余承東在現場也表示:

  云是ICT產業的未來,開發者是產業發展的靈魂。華為將繼續開放技術創新能力,攜手開發者、伙伴共同加速行業全面云化和智能升級。

  云化,是不可阻擋的潮流;云,是21世紀的未來。

  拿下“第一”的最大AI大模型,有多強?

  如其名,盤古,煞有開天辟地之勢。

  怎么說?

  先觀其貌,橫攬AI領域四大熱門方向:

  自然語言處理(NLP)大模型

  計算機視覺(CV)大模型

  多模態大模型

  科學計算大模型

  很明顯,相比于現有的大模型,盤古并不是“單項”選手,而是全能型的那種。

  再聞其詳,縱達業界能力之最:

  華為云盤古NLP大模型:是業界首個千億參數中文語言預訓練模型,預訓練階段學習了40TB中文文本數據,是最接近人類中文理解能力的AI大模型。

  華為云盤古CV大模型:是目前業界最大的視覺預訓練模型,包含超過30億參數。

  具體而言,盤古NLP大模型在權威的中文語言理解評測基準CLUE榜單中,總成績及分類、閱讀理解單項均排名第一,刷新三項榜單世界歷史紀錄,總成績得分83.046。

forward (14).jpg

  而盤古CV大模型,則在ImageNet 1%、10%數據集上的小樣本分類精度上,達到了業界最高水平。

  但最重要的,華為云盤古大模型的真·奧義,還真不是拿下各種“第一”秀肌肉。

  一言蔽之,實則直擊痛點,畢竟天下苦AI開發久矣。

  即便到了現在,AI開發的過程,較為貼切的比喻應該是“作坊模式”,換言之,就是需要手動的工作太多、太頻繁。

  具體而言,常常困擾AI開發者的問題包括,從零開始、獨立調優、艱難迭代、推倒重來……

  若是再聚焦到“千億參數”的規模,要訓練這樣的模型,還需要開發者手工編寫大量的并行、切分和通訊代碼。

 ?。ò多么痛的領悟)

  講真,明明從事AI的開發,但這樣真的很不AI。

  此局又該如何破解?

  工廠模式,了解一下。

  華為云盤古大模型的開發模式,是“預訓練+下游微調”,這也是與目前全球主流大模型(如Bert)所匹配的一種模式。

  簡單來說,這種模式的一大優點,就是擁有極強的泛化能力。

  也就是說這個模型可以做到“舉一反三”:

  同樣的一個模型,可以在多個場景中適用,而且還是非常復雜的那種。

  不僅如此,數據量少、小樣本,也是困擾AI開發者的一大難題。

  而華為云盤古大模型,卻可以做到在少量樣本的情況達到高精度,在這方面超越了GPT系列。

  “功夫”已經展露,接下來的一個問題就是:

  華為云盤古大模型,是如何煉成的?

  左手CANN算子,右手MindSpore框架,主要依托的便是這兩大“基本功”。

  CANN是華為推出的異構計算架構,2018年推出1.0版本至今,已經迭代到了3.0版本。

  目前不僅使用于推理、訓練場景,還能夠實現“端邊云協同”。這就意味著不必在不同的終端,再去開發不同的算子,大大提高了效率。

  例如基于CANN,就能讓ResNet-50模型的訓練時間降低到28s。

  MindSpore則是華為于2019年推出的全場景AI計算框架,其中的一大特色,就是具有全自動混合并行方案。

  而華為云盤古大模型,基于二者之外,還融合了三種并行技術:模型并行、數據并行和流水線并行。

  如此一來,開發者就只需要編寫單機算法代碼、添加少量并行標簽,就可以實現模型訓練的自動切分。

  舉個實戰例子,用盤古訓練超大模型靜態圖,性能直接提升了40%之多!

  以為余承東站臺的活動,僅僅就“重磅推出”了個盤古?

  No,No,No,事情定然沒有這么簡單。

  同級別!同分量!還有五大產品和服務:

  華為云CCE Turbo容器集群:從計算、網絡和調度三方面,讓容器更加強大。這也是業界唯一支持100%容器虛擬化的集群。

  華為云GaussDB(for openGauss)數據庫:讓核心數據庫上云,與傳統分布式數據庫相比,在性能、彈性、可用性方面更強,是金融領域安全級別的那種。

  可信智能計算服務(TICS):在安全保障的前提下,解決數據難開放、共享流通的問題,而且無須轉換就能適配業界主流的大數據應用場景。

  華為云CloudIDE智能編程助手:可以實現“讓程序自己寫程序”,還能隨時隨地、使用任何終端在線編程。

  多樣性計算基礎軟件:云的創新離不開操作系統、數據庫、中間件等基礎軟件根技術的支撐。如果說處理器是計算產業的“芯”,基礎軟件就是計算產業的“魂”。華為將圍繞鯤鵬、昇騰構建多樣性計算產業,尤其是在計算基礎軟件上持續投入,構建了包括操作系統、數據庫、AI計算框架等全套計算基礎軟件棧,使能多樣性算力,支撐華為云的產品和服務創新。

forward (13).jpg

  而從華為云此次發布的新品中不難看出,所圍繞的一個核心人群,就是開發者。

  這也是華為云明確做智能世界“黑土地”定位以來,為開發者增添的又一筆寶貴的資源。

  正如華為云所述:

  為開發者提供技術支持,并提升開發效率和質量。

  這是華為給開發者所帶去的,反之,站在開發者角度,一個問題便由此浮現。

  開發者們能從這塊“黑土地”得到些什么?

  要回答這個問題,首先要知道的是在華為云的“黑土地”中,有什么?

  華為云最早在2015年提出了“沃土計劃”,并在2019年發布了“沃土計劃2.0”,目標非常明確且簡潔:

  堅持“硬件開放、軟件開源、使能伙伴、發展人才”,推動產業繁榮發展,5年發展500萬開發者。

  2020年,華為在沃土計劃2.0計劃上,總投入已經達到了2億美元 (約13億人民幣)的規模。

  長久以來所堅持,也讓華為云的這片“黑土地”養分更足。

  就在4天前(4月21日),在國際知名研究機構Gartner的報告中,便對當前的云市場做了最新解讀:

  云計算IaaS市場保持高速增長,全球市場規模達到643.9億美元。

  而針對華為云這一塊,Gartner也給出了肯定的評價:

  2020年,華為云全球IaaS市場排名上升至中國前二、全球前五,主流廠商增速最快,成為全球五朵云之一。

  再具體一些的數據顯示,華為云所保持的增速高達168%,而且已經連續四個季度位居中國公有云服務市場第二。

  在現場,余承東介紹完如此成績,激動地感謝道:

  感謝有你,一路向前!

  這些是華為云在市場的表現,那么回到開發者,目前又吸引了多少人呢?

  超過240萬。

  其中,華為云開發者累計已達180萬;鯤鵬和昇騰開發者累計超過60萬。

  而能夠吸引如此龐大開發人群,原因還是在于華為云黑土地給他們提供的價值:

  堅持云優先,優先選擇用云方式為客戶提供IT基礎平臺服務,具體來說就是云解決方案優先、云服務商業模式優先、云伙伴優先。

  持續聚焦系統和架構創新,強化軟件,讓黑土地更肥沃。

  全力支持開發者基于“黑土地”構建面向千行百業的應用。

  而華為開發者大會也正是“黑土地”的具體展現形式之一:

  在這場面向開發者的技術盛宴中,開發者不僅可以體驗和分享最新的ICT技術在行業的深度創新和應用,還能與業界大咖、華為科學家、頂級技術專家、天才少年和眾多開發者直接交流,切磋技術。

  深度參與openEuler、openGauss、MindSpore、KubeEdge、Volcano等熱門開源項目;與Linux、Apache、CNCF、Rust等社區大牛探討最新開源技術,了解異構計算、光計算、超現實與全息等前沿理論和未來技術。

  值得一提的是,今年這屆的華為開發者大會有一個非常鮮明的特色:第一次與全國各大高校聯辦。

  不僅一改以往辦會地址,將主會場放到了深圳大學城之中與此同時,還設置了超過20所中國985/211高校分會場。

  這也不難從側面反映出華為云對開發者(尤其高校)的重視。

  而且從此次大會的議程設置方面,也能體現這一點:

  1場Keynote、10場峰會、70+場掃地僧見面會、100+場專題演講、40+場開發者訓練營……

  完完全全就是圍繞“開發者”而展開。

  畢竟,華為云認為“每一個開發者都了不起”:

  在數字時代,開發者就是時代的弄潮兒,是改變世界的力量,更是企業創新的動力和產業的靈魂。

  如何評價?

  軟,著實夠軟。

  這或許是此次HDC最直觀的感受之一。

  華為云要做的是一塊“智能世界的黑土地”,而眾所周知,對于一塊土地來說,越肥沃就會越軟。

  這也與華為云所要聚焦的點不謀而合:

  聚焦系統創新、架構創新,強化軟件。

  然而細數過往經歷,這不是華為第一次體現出“軟”的一面。

  早在去年的華為HAI大會上,作為與華為云能力密不可分的昇騰,便脫去了硬件實力的光環。

  軟件平臺全面鋪開,站上了C位。

forward (12).jpg

  當時,華為表示:

  極致性能,讓AI計算觸手可及,極簡易用,讓AI計算無處不在。而這個過程中軟件是必需品,也是發揮硬件性能的核心。

  而更早的,在2018年10月的全聯接大會上,華為在發布AI戰略時便推出了異構計算架構CANN 1.0和一站式AI集成開發套件MindStudio,為現今的軟件生態發展奠定了重要的基礎。

  今天華為云發布的六大產品,可謂是給這片黑土地注入了更加肥沃的“軟實力”。

  除了“軟”的感官之外,這屆華為開發者大會讓人印象深刻的第二點,便是華為對云的重視。

  一方面體現在了“云優先”的戰略,以及在會中強調的華為云市場表現。

  另一方面,華為云的組織架構有重大調整。

  重視程度,可見一斑。

  但如此布局背后的原因,細分析下來可以大致分為三點。

  首先,從趨勢角度來看,云是ICT產業的未來。

  據Gartner預測,到2025年,企業傳統數據中心將關閉90%;而與此相對的另一個預測則表示,屆時全球企業云技術使用率將達100%。

  如此可見,全面云化已經是一種未來趨勢。

  其次,數字化和智能化,需要云原生的能力。

  據預測,到2023年,云原生應用占比將達80%。以華為為例,基于云原生的能力,研發系統部署和資源使用率提升10倍以上。生產系統部署從過去2小時縮短到10分鐘,一次變更成功率提升10%。

  最后,AI已經成為生產力,企業AI的開發也需要“工場模式”。

  依舊是以華為為例,將AI引入到工程交付的各個環節后,一年節約成本超過60億元!

  這也就非常好的解釋了,華為在云、軟件生態和開發者上大力付諸行動的緣由。

  最后的最后,基于此的下一步,又該怎么走?

  對此,華為在此次開發者大會中也有所透露:

  華為沃土計劃2.0在2021年將圍繞鯤鵬展翅、沃土云創、昇騰萬里子計劃持續投入,累計將投入2.2億美金。

  發布“沃土云創計劃”:2021年將投入1億美金資金扶持,聚焦6大技術領域(容器/微服務、SaaS化、大數據、AI、視頻、智能邊緣),與ISV和SaaS開發者伙伴,構建1000+創新應用。

  整體來看,從過去,到現在,再未來,華為云所重視的,也正應了這屆開發者大會主題:

  每一個開發者都了不起。

  更如余承東最后的總結:

  最強的智,是眾智;最大的力,是合力;每一個開發者,都在創造一往無前的奔騰時代。

  世界有你,了不起!


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          国产曰批免费观看久久久| 亚洲人成高清| 红桃av永久久久| 欧美日本不卡高清| 亚洲精品一区二区三区不| 欧美激情精品久久久| 1769国产精品| 欧美成人视屏| 欧美另类人妖| 亚洲国产精品成人综合色在线婷婷| 免费中文字幕日韩欧美| 免费观看成人鲁鲁鲁鲁鲁视频| 国产精品乱人伦中文| 国产精品视频九色porn| 亚洲精品一区二区三区av| 亚洲天堂久久| 亚洲午夜国产成人av电影男同| 免费成人在线观看视频| 夜夜爽av福利精品导航| 亚洲黄色小视频| 亚洲缚视频在线观看| 国产精品蜜臀在线观看| 狠狠久久综合婷婷不卡| 欧美揉bbbbb揉bbbbb| 久久夜色精品亚洲噜噜国产mv| 久久综合九色| 国产精品久久久久久久午夜片| 亚洲欧美日韩成人| 欧美精品18+| 欧美三级欧美一级| 亚洲精品日韩一| 久久精品二区亚洲w码| 久久久噜噜噜久久狠狠50岁| 欧美日韩国产一级| 亚洲亚洲精品在线观看| 久久都是精品| 欧美午夜激情在线| 欧美精品激情在线| 免费成人毛片| 欧美午夜大胆人体| 久久福利资源站| 国产亚洲综合在线| 精品成人一区二区三区| 欧美日韩亚洲一区| 国产精品乱人伦中文| 91久久国产综合久久| 亚洲在线视频免费观看| 国产精品v欧美精品v日韩精品| 国产色综合网| 欧美日韩成人免费| 亚洲国产精品一区二区三区| 免费成人激情视频| 一区二区不卡在线视频 午夜欧美不卡'| 亚洲国产专区校园欧美| 亚洲美女精品一区| 国产精品国码视频| 国产午夜精品一区理论片飘花| 老鸭窝91久久精品色噜噜导演| 一本色道久久88精品综合| 99国产精品久久久久久久成人热| 国内精品久久久久国产盗摄免费观看完整版| 一本一本久久a久久精品综合麻豆| 亚洲综合色婷婷| 小处雏高清一区二区三区| 亚洲字幕在线观看| 欧美.日韩.国产.一区.二区| 最近中文字幕日韩精品| 国产亚洲视频在线观看| 欧美va亚洲va日韩∨a综合色| 亚洲一区二区高清视频| 亚洲精品久久久久久久久| 欧美精品一区视频| 亚洲免费在线视频一区 二区| 国产精品99久久久久久久vr| 国产精品久久久久久妇女6080| 久久精品国产一区二区三区免费看| 国产精品国码视频| 欧美岛国在线观看| 国内成+人亚洲+欧美+综合在线| 欧美大秀在线观看| 国内精品久久久久久久97牛牛| 久久人人爽爽爽人久久久| 国产欧美一区二区白浆黑人| 久久久亚洲综合| 国产亚洲精品自拍| 夜夜爽夜夜爽精品视频| 亚洲一区在线免费观看| 亚洲国产精品va在线看黑人动漫| 国产精品区二区三区日本| 美女999久久久精品视频| 国产美女高潮久久白浆| 国产精品久久999| 亚洲风情亚aⅴ在线发布| 影音先锋日韩有码| 国产婷婷97碰碰久久人人蜜臀| 国产香蕉97碰碰久久人人| 99视频一区二区| 久久天天躁夜夜躁狠狠躁2022| 国产精品xxxav免费视频| 欧美日韩国产bt| 亚洲国产精品久久久久| 亚洲国产日韩欧美综合久久| 久久久亚洲午夜电影| 国产乱码精品一区二区三区av| 欧美日韩国产专区| 国产精品一二三四区| 亚洲欧美日本另类| 久久久噜噜噜久久中文字幕色伊伊| 亚洲精品欧洲精品| 亚洲福利专区| 在线看视频不卡| 国产乱码精品| 国产精品高潮呻吟| 中文久久精品| 性色av香蕉一区二区| 99re8这里有精品热视频免费| 欧美综合77777色婷婷| 欧美成人第一页| 欧美视频导航| 国产精品视频专区| av成人老司机| 亚洲综合国产激情另类一区| 久久久亚洲国产天美传媒修理工| 国产精品成av人在线视午夜片| 国产精品三级久久久久久电影| 免费成人黄色| 欧美一区激情| 国产精品毛片一区二区三区| 国产欧美一区二区精品秋霞影院| 国产午夜精品理论片a级大结局| 欧美日本韩国| 一区二区精品国产| 亚洲一区二区高清视频| 伊人久久亚洲热| 国产欧美91| 麻豆国产va免费精品高清在线| 欧美日韩一区综合| 精品96久久久久久中文字幕无| 亚洲一区三区电影在线观看| 欧美一区2区三区4区公司二百| 国产精品99免视看9| 黄色一区二区在线观看| 西西人体一区二区| 亚洲香蕉在线观看| 国产精品国产三级国产aⅴ无密码| 欧美在线视频导航| 午夜宅男久久久| 国产精品爱久久久久久久| 亚洲国产婷婷香蕉久久久久久| 国产精品久久婷婷六月丁香| 欧美一区二区视频在线观看| 欧美高清不卡在线| 国产亚洲精品一区二555| 欧美精品国产| 欧美日韩的一区二区| 亚洲每日更新| 欧美成人免费一级人片100| 美女黄毛**国产精品啪啪| 国产精品一区在线观看你懂的| 欧美日韩第一区| 欧美日韩成人免费| 欧美成人情趣视频| 亚洲区免费影片| 久久美女艺术照精彩视频福利播放| 免费不卡欧美自拍视频| 制服丝袜亚洲播放| 怡红院精品视频在线观看极品| 欧美伦理一区二区| 国产精品嫩草久久久久| 欧美日韩一区在线观看| 一区二区三区日韩精品视频| 黄色成人免费观看| 久久精品二区三区| 欧美日韩美女在线| 国产精品视频最多的网站| 欧美新色视频| 久久久av网站| 榴莲视频成人在线观看| 99精品国产热久久91蜜凸| 亚洲精品久久久久久久久久久久| 日韩一级成人av| 国产精品欧美久久| 一本色道久久加勒比88综合| 国产精品卡一卡二卡三| 亚洲国产精品第一区二区三区| 国产精品中文在线| 欧美一区二区三区啪啪| 在线日韩视频| 国产精品视频99| 亚洲另类春色国产| 在线精品视频免费观看| 欧美一区二视频在线免费观看| 久久一区二区三区超碰国产精品| 亚洲精品资源| 一区二区三区日韩欧美| 久久精品视频免费观看| 久久一二三四| 亚洲精品乱码久久久久久| 久久精品二区三区| 在线精品视频一区二区三四| 国产精品一区在线观看你懂的| 国内精品久久久久影院 日本资源| 国产精品中文字幕在线观看| 国产老肥熟一区二区三区| 久久久精品视频成人| 亚洲国产成人精品久久| 亚洲日本中文字幕| 午夜精品免费在线| 黑人巨大精品欧美一区二区小视频| 欧美另类在线播放| 国产精品欧美日韩一区二区| 亚洲国产欧美一区二区三区丁香婷| 91久久亚洲| 亚洲蜜桃精久久久久久久| 欧美日本一区二区高清播放视频| 亚洲精品视频免费| 欧美女激情福利| 欧美激情国产日韩精品一区18| 亚洲欧美另类中文字幕| 久久久久se| 欧美日韩一区二区三| 在线看片成人| 亚洲一区在线观看免费观看电影高清| 欧美激情国产高清| 乱中年女人伦av一区二区| 欧美日韩一区二区三区视频| 麻豆精品国产91久久久久久| 国产日韩欧美不卡在线| 国产午夜精品久久久久久免费视| 欧美亚日韩国产aⅴ精品中极品| 欧美成人69| 欧美风情在线| 欧美日韩免费观看中文| 欧美一区二区女人| 狠狠色丁香久久婷婷综合丁香| 欧美成人精品1314www| 国产精品一区二区你懂得| 噜噜噜在线观看免费视频日韩| 欧美日韩精品一二三区| 亚洲综合成人婷婷小说| 久久精品国产亚洲5555| 一区二区三区免费在线观看| 久久久最新网址| 韩日欧美一区二区| 牛牛影视久久网| 亚洲三级毛片| 欧美精品国产精品| 伊人夜夜躁av伊人久久| 国产精品扒开腿爽爽爽视频| 米奇777超碰欧美日韩亚洲| 欧美高清一区二区| 国产精品夜夜夜| 国产乱子伦一区二区三区国色天香| 亚洲福利视频一区| 在线看日韩av| 亚洲综合色婷婷| 欧美一区二区日韩一区二区| 国产乱码精品| 久久偷窥视频| 久久成人国产精品| 黄色成人小视频| 一区二区三区久久精品| 亚洲国产视频一区| 伊人久久久大香线蕉综合直播| 欧美四级电影网站| 欧美日韩亚洲一区三区| 亚洲国产精品一区制服丝袜| 欧美在线视频二区| 欧美系列电影免费观看| 欧美成va人片在线观看| 狠狠综合久久av一区二区小说| 怡红院精品视频在线观看极品| 好看不卡的中文字幕| 国产精品一二三四区| 久久综合网络一区二区| 国产精品国产三级国产aⅴ9色| 影音先锋久久久| 国产女同一区二区| 亚洲欧美日韩中文视频| 欧美日韩色婷婷| 欧美日本二区| 亚洲一区二区三区高清| 在线观看亚洲一区| 国产亚洲观看| 欧美日韩亚洲一区二区三区在线| 欧美偷拍一区二区| 亚洲国产合集| 亚洲欧美日韩在线不卡| 国产欧美精品日韩精品| 99re6这里只有精品| 亚洲经典在线| 亚洲欧美国产高清va在线播| 欧美日韩国内自拍| 欧美成人亚洲| 免费久久久一本精品久久区| 亚洲欧美日韩一区在线| 海角社区69精品视频| 国产精品色婷婷| 精品999网站| 亚洲欧美影音先锋| 国产精品大全| 国产精品视频99| 国产一区二区三区在线观看精品| 99在线观看免费视频精品观看| 亚洲欧美电影院| 亚洲东热激情| 欧美亚洲视频一区二区| 久久久精品午夜少妇| 亚洲国产精品99久久久久久久久| 亚洲日本电影在线| 欧美一区1区三区3区公司| 禁断一区二区三区在线| 欧美三级不卡| 国产日韩欧美日韩| 一区视频在线播放| 欧美成人精品激情在线观看| 亚洲午夜精品久久| 久久一区二区三区超碰国产精品| 国产亚洲欧美一区在线观看| 欧美日韩精品伦理作品在线免费观看| 欧美另类专区| 国产精品啊啊啊| 亚洲国产精品va在线观看黑人| 日韩视频中午一区| 亚洲婷婷免费| 免费91麻豆精品国产自产在线观看| 一区二区欧美日韩视频| 国产精品成人观看视频免费|