《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 設計應用 > Hadoop平臺中作業調度算法分析與改進研究
Hadoop平臺中作業調度算法分析與改進研究
2016年微型機與應用第11期
陳新
(廣東省培英職業技術學校, 廣東 廣州 510630)
摘要: 針對傳統云計算作業調度中簡單優先級設置的不足,首先對作業調度進行研究并提出了基于用戶服務等級協議(SLA)的作業分級機制。該設計基于QoS約束的多優先級作業調度算法,在算法中利用云用戶作業中的偏好程度來設計優先級值計算函數Priority,在作業調度時可以使較高等級的云用戶和具有較高優先級的作業優先得到任務的執行,通過上述方式可以較好地保證云計算環境下的服務質量。
Abstract:
Key words :

  陳新

  (廣東省培英職業技術學校, 廣東 廣州 510630)

  摘要:針對傳統云計算作業調度中簡單優先級設置的不足,首先對作業調度進行研究并提出了基于用戶服務等級協議(SLA)的作業分級機制。該設計基于QoS約束的多優先級作業調度算法,在算法中利用云用戶作業中的偏好程度來設計優先級值計算函數Priority,在作業調度時可以使較高等級的云用戶和具有較高優先級的作業優先得到任務的執行,通過上述方式可以較好地保證云計算環境下的服務質量。

  關鍵詞:云計算;作業分級機制;作業調度算法;SLA;QoS

0引言

  Hadoop是目前比較流行的云計算實現平臺,通過Hadoop可以快速搭建和部署云計算的環境。在Hadoop中有兩個重要的功能組件,分別是分布式文件系統和MapReduce計算組件。通過上述功能組件可以實現云計算的分布式計算和應用的虛擬化[1]。開源云計算平臺Hadoop中的分布式文件系統是谷歌公司實現云計算的文件系統開源部分,而MapReduce是谷歌公司實現云計算中的并行計算和處理的實現部分[2]。

  在云計算的環境下,目前的作業調度算法主要有三種,分別為先進先出作業調度算法、公平調度算法和計算能力調度算法。無論是哪種調度算法,在Hadoop中都需要通過主控節點進行分配和安排,通過作業調度器對云計算中的作業和任務進行調度,根據用戶的設置偏好來實現對任務的分配和作業的調度[34]。從這個角度上看,作業的調度和安排直接關系到云計算平臺性能的好壞,直接影響到云計算平臺的效率,同時也會對用戶的服務質量產生影響[5]。在云計算的環境下,需要對用戶提交的作業進行分級處理,并對每一個作業進行登記標注,這樣就可以對提交的作業設置不同的優先級別,在進行調度時可以按照作業調度的優先級別進行處理,優先安排服務質量高的作業進行資源的分配和處理,這樣可以有效地提高云用戶作業的服務質量以及云用戶的滿意程度[6]。

1云體系架構

001.jpg

  云計算的服務包括多種類型,具體有私有云和公有云,對于不同的云計算環境其具體的劃分圖1云計算作業調度的體系架構結構如圖1所示[7]。在云計算的體系結構中,對于私有云來說,用戶可以很好地實現對數據的控制,保證云計算中的用戶數據的安全。并且在私有云的計算環境下,用戶不僅可以通過其調度得到內部的計算資源,還可以通過云計算的作業調度獲取到公有云中的計算資源和服務,使得云計算的體系結構具有高可用性、易擴展的特點[8]。

2算法設計

  任務調度是集群系統的核心技術。本文中共劃分了五個主要的等級隊列,對作業進行服務質量(QoS)屬性偏好設置,就可以得到具有不同用戶屬性偏好的多優先級的作業,然后通過作業調度器來完成對作業的調度和安排,滿足用戶作業調度服務的需求,為此,本文提出了多優先級作業調度算法(QoSMulti Priority Scheduler,QoSMP Scheduler)。

  2.1算法的設計思想

  在QoSMP Scheduler算法中,其設計的主要思路是,首先需要設計作業優先級計算函數 Priority,在這個函數中包括了基于 QoS 屬性約束的優先條件,對每一個作業的優先級的數值進行計算。接著,在云計算主控節點 JobTracker的作業調度器中對Priority建立隊列,然后,在進行作業調度任務分配時,選取隊列中具有最高優先級值的作業進行分配,并將相關數據調入到云計算本地文件系統區去執行,這樣就可以在最大程度上考慮用戶的服務質量需求,有效地提高用戶作業的服務質量,提升整個系統的質量和服務滿意度。

  2.2服務質量設計

  在云計算的環境下,云計算的服務質量是全部服務性能和程度的總和。對云服務的能力進行衡量和描述,具體如表1所示。 

008.jpg

  2.3優先級計算函數設計

  云服務中的作業包括了兩個重要的屬性,即Time和Cost屬性,對于每一個作業,其Time和Cost的需求是不盡相同的,根據具體的實際情況才能確定。在云計算的環境下,其計算數值相差都較大,具有比較大的波動性,但是這兩個屬性是衡量云計算服務質量的最重要的屬性,如何對其進行定義和配置關系到云服務質量的好壞,需要在這兩個作業屬性之間找到平衡,來保證云服務的質量。為此,本文提出了使用基于 QoS 約束的優先級計算函數 Priority來完成上述各個屬性的約束與控制,實現用戶作業服務質量的滿足。Time和Cost屬性具體如圖2所示。

002.jpg

  2.4算法的實現

  通過對用戶作業的分級可以在開源云計算框架中的主控節點JobTracker中得到5個具有不同級別的隊列,表示為VERY_HIGH、HIGH、NORMAL、LOW、VERY_LOW。上述作業隊列的優先級別為從高到低。在節點中對作業客戶端所提交的作業信息進行提取,可以得到作業等級的數據信息,將其提交到主控節點中進行作業隊列的安排,通過映射就可以使得每一個作業隊列都具有優先級別。同樣地,在主控節點中,對于作業隊列通過計算其優先權值的數據,并對每一個優先級別VERY_HIGH、HIGH、NORMAL、LOW、VERY_LOW分別設置ω1、ω2、ω3、ω4、ω5的權重數值,云用戶就可以對上述的權值進行配置,實現對云計算中的作業優先級別的計算。對于其權重的計算,如圖3所示。

 

003.jpg

  在云計算環境下,對每一個作業,其用戶都有其QoS屬性的偏好,對于不同的偏好可以通過基于 QoS 約束的優先級計算函數 Priority來描述和實現,這樣就可以使得在云用戶進行作業提交時實現偏好程度的選擇,在云計算的作業提交之后通過參數的方式將其數據信息傳遞到云計算中的主控節點進行處理。本文對于優先級別函數的計算中,主要是對服務質量屬性中的Time 和 Cost進行設計和計算。下面介紹Time 和 Cost 的偏好程度級別的設計,其級別的設置如表2所示。

009.jpg

  對于偏好程度共設置了1~10之間的多個級別,其中1的級別最低,10的級別最高。不同屬性按照用戶需求選擇,如果對實時性要求較高,則在偏好程度數值的選擇上選擇較大的Time 屬性值,在云計算進行作業調度時,則是選擇優先級別較高的作業進行調度實現;此外,對于用戶對云計算中的花費較低的需求,則在作業中屬性選擇時選擇較低的 Cost 屬性值。通過上述設置完成選擇,將作業Time 和 Cost 信息傳遞到主控節點。對于上述過程,具體如圖4所示。

  

004.jpg

  通過上述過程,作業自身的Time 和 Cost屬性消息傳遞到云計算中的主控節點,并在主控節點對此消息進行計圖6改進后的云計算系統的作業處理流程算和分析,對所提交的作業進行分級,根據用戶所提交的作業等級進行調度,將處于優先級別較高的作業優先安排到作業隊列中進行處理。因此,在云計算的作業調度中,對于作業的處理是通過對作業隊列的優先級系數值和用戶對 QoS 屬性的偏好程度進行計算,從而得到優先級計算函數 Priority,最終通過云計算中的主控節點進行作業的調度,完成作業的執行。

005.jpg

  對于任務的分配其具體實施策略如圖5所示。分配步驟如下:圖5JobTracker分配任務給 TaskTracker 的分配策略圖(1)任務跟蹤節點通過心跳協議的內容,一旦出現處于空閑的map 任務槽和空閑的 reduce 任務槽,就進行統計和分析,并將其統計到主控節點JobTracker進行安排。

 ?。?)主控節點對目前調度的map 任務數與處于空閑的map 任務數進行比較;判斷是否mapslots> req_mapno,如果是,則將作業的map任務全分配給主控節點,執行步驟(3);否則,mapslots 個 map 任務進行調度,并將其分配到主控節點中,直到空閑的任務數分配完畢。

 ?。?)如果mapslots = req_mapno,則跳轉到(4);否則,結束分配過程。

  (4)比較目前調度作業的reduce 任務數與空閑的 reduce 任務槽數,如果reduceslots>= req_reduceno,則進行任務的分配,并將其分配到任務跟蹤節點中進行調度;否則結束分配。對作業分級機制和調度算法改進后的云計算系統的作業處理流程具體如圖6所示。

006.jpg

3實驗與分析

  3.1實驗環境搭建

  硬件環境:Inter Pentium Dual E2200@2.20 GHz,1 GB內存,160 GB硬盤; 軟件環境 :操作系統為Linux Ubuntu 8.04,編程環境為Hadoop 0.20.2、jdk6u24linuxi586。

  3.2實驗設計

  仿真實驗中對作業的完成時間進行比較。在Hadoop集群環境下,仿真20個不同用戶的工作和業務流,并且對每一組的工作流都執行20次,對這些重復執行的工作任務進行計算取其平均值,計算作業的完成時間,按照上述方式,對不同級別的文件進行作業調度,計算不同作業調度算法和策略下其總的作業運行時間和平均作業運行時間。

  3.3實驗結果分析

  在本次實驗中,將作業的隊列等級權重設置為不同的級別,權重分別為VERY_HIGH=4、HIGH=2、NORMAL=1、LOW=0.5、VERY_LOW=0.25,對于優先級別中的屬性參數Time和Cost均設置為 0.5。

  在本次實驗中,對于不同算法(靜態調度算法表示為Static,遺傳算法表示為GA,本文算法表示為QOS)下的作業完成時間,其結果如圖7所示。

  

007.jpg

  從上述的作業完成時間比較示意圖可以看到,本文算法的作業完成時間最小。

  4結束語

  針對傳統作業調度算法中的不足,通過對作業進行QoS 屬性的偏好標記,調度中進行優先級函數計算保證用戶的服務質量。通過仿真實驗,驗證了算法的平均完成時間相對較少,有效地提高了作業調度成功率,表明算法具有較好性能。

  參考文獻

  [1] 柳少鋒,董劍.一種基于優先級隊列的集群動態反饋調度算法[J].智能計算機與應用,2014,12(4):4549.

 ?。?] 廖大強.面向多目標的云計算資源調度算法[J]. 計算機系統應用,2016,25(2):180189.

 ?。?] 鐘浩濤.基于遺傳算法的動態調度分組算法[J].計算機學報,2013,45(8):1112.

 ?。?] 涂剛陽,富民.基于動態優先級策略的最優軟非周期任務調度算法[J].計算機研究與發展,2014,42(11):2324.

 ?。?] 廖大強,鄒杜,印鑒. 一種基于優先級的網格調度算法[J]. 計算機工程, 2014, 40(10): 1116.

  [6] AGUILERA M K, CHEN W,TOUEG S. On quiescent reliable communication[J]. Computing,2014,39(6):20402073.

 ?。?] VAQUERO L,RODEROMERINO L,CACERES J,et al.A break in the clouds:towards a cloud definition[J].ACM SIGCOMM Computer Communication Review,2014,39(1):5055.

 ?。?] 廖大強,印鑒,鄔依林,等.基于興趣傳播的用戶相似性計算方法研究[J].計算機應用與軟件,2015,32(10):95100,104.


此內容為AET網站原創,未經授權禁止轉載。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          国产乱码精品一区二区三| 亚洲第一页自拍| 久久久国产精品一区二区三区| 欧美亚洲综合在线| 午夜精品久久久久久久99樱桃| 红杏aⅴ成人免费视频| 模特精品在线| 国产精品精品视频| 亚洲欧洲在线看| 国产伦精品一区二区三区免费迷| 欧美一级大片在线观看| 亚洲国内高清视频| 国产精品日韩欧美一区二区三区| 亚洲麻豆一区| 久久精品首页| 久久精品国产亚洲一区二区| 久久精品国产69国产精品亚洲| 欧美日本不卡高清| 99精品视频免费观看视频| 欧美日韩情趣电影| 欧美日在线观看| 国产视频在线一区二区| 久久综合色一综合色88| 欧美中文字幕在线| 久久久久久久久久看片| 久久天堂精品| 国产精品chinese| 欧美亚洲一级片| 一片黄亚洲嫩模| 蜜乳av另类精品一区二区| 午夜精品美女久久久久av福利| 精品999网站| 欧美高清视频一二三区| 亚洲美女中文字幕| 国产精品海角社区在线观看| 91久久精品国产91久久性色tv| 夜夜爽av福利精品导航| 日韩视频一区二区| 欧美人牲a欧美精品| 欧美日韩精品免费在线观看视频| 亚洲精品乱码久久久久久日本蜜臀| 国内精品伊人久久久久av一坑| **网站欧美大片在线观看| 日韩亚洲欧美一区二区三区| 欧美一区二区三区喷汁尤物| 亚洲综合视频1区| 国产专区欧美专区| 国产一二精品视频| 欧美成年人视频网站| 老司机67194精品线观看| 亚洲免费小视频| 亚洲五月婷婷| 一区二区三区视频在线| 午夜精品免费| 亚洲综合成人在线| 国产精品入口麻豆原神| 国产精品成人一区二区网站软件| 精品二区视频| 欧美激情一区二区三区在线视频观看| 国内精品久久久久国产盗摄免费观看完整版| 国产精品福利久久久| 欧美日韩成人在线播放| 在线欧美电影| 国产精品对白刺激久久久| 久久精品一本久久99精品| 亚洲乱码国产乱码精品精| 国产精品国产精品国产专区不蜜| 国产精品劲爆视频| 亚洲午夜未删减在线观看| 国产日韩亚洲欧美| 欧美在线欧美在线| 亚洲日本成人| 伊人婷婷久久| 欧美大尺度在线| 一区二区亚洲精品| 欧美伊久线香蕉线新在线| 怡红院av一区二区三区| 欧美三级第一页| 亚洲精品一区中文| 最新国产成人在线观看| 免费一级欧美片在线播放| 国产日本欧美在线观看| 亚洲裸体俱乐部裸体舞表演av| 欧美性猛交99久久久久99按摩| 性欧美8khd高清极品| 老鸭窝毛片一区二区三区| 午夜在线一区| 农村妇女精品| 久久av一区二区三区亚洲| 久久精品国产免费看久久精品| 亚洲日韩视频| 亚洲视频1区2区| 国产一区二区三区最好精华液| 亚洲第一区中文99精品| 激情成人亚洲| 欧美日韩国产精品自在自线| 国产日韩欧美在线播放| 亚洲欧美一区二区在线观看| 亚洲综合三区| 久久免费视频这里只有精品| 永久免费视频成人| 欧美一区二区三区在线| 亚洲三级视频在线观看| 久久精品二区亚洲w码| 欧美日本一区二区视频在线观看| 欧美视频一区二| 亚洲精一区二区三区| 国产日本欧美一区二区三区在线| 久久夜色精品国产噜噜av| 亚洲国产高清自拍| 亚洲欧美日韩区| 一区二区三区精品视频| 国产乱肥老妇国产一区二| 亚洲日本免费| 欧美色中文字幕| 亚洲黄一区二区| 久久婷婷国产综合尤物精品| 亚洲第一级黄色片| 欧美激情一二区| 亚洲日本无吗高清不卡| 一区二区三区无毛| 亚洲高清在线| 免费一级欧美在线大片| 久久中文字幕一区二区三区| 激情久久影院| 亚洲专区国产精品| 亚洲网站在线看| 91久久精品国产91久久| 欧美成人精品在线观看| 久久综合伊人77777| 欧美激情精品久久久久久免费印度| 亚洲激情在线视频| 一区二区三区 在线观看视| 欧美主播一区二区三区| 日韩视频在线观看一区二区| 国产亚洲精品久| 亚洲欧美日韩一区二区三区在线观看| 国产午夜亚洲精品羞羞网站| 韩国精品主播一区二区在线观看| 亚洲免费在线精品一区| 亚洲图片欧美一区| 国内成人自拍视频| 国产精品一区久久久| 麻豆91精品91久久久的内涵| 久久成人国产| 国产精品日日摸夜夜添夜夜av| 欧美精品手机在线| 欧美伦理视频网站| 国产精品美女久久久久aⅴ国产馆| 欧美激情精品久久久| 欧美激情aⅴ一区二区三区| 欧美日韩视频免费播放| 亚洲大胆av| 99香蕉国产精品偷在线观看| 久久久久免费观看| 欧美午夜久久| 亚洲国产乱码最新视频| 久久精品国产免费看久久精品| 麻豆成人91精品二区三区| 国产精品美女久久久久久2018| 久久精品噜噜噜成人av农村| 欧美精品久久一区二区| 欧美成人一区在线| 99国产精品久久久久久久成人热| 久久天堂国产精品| 一区二区三区毛片| 欧美视频手机在线| 欧美中文字幕不卡| 亚洲小视频在线| 日韩视频在线播放| 91久久中文字幕| 久久av最新网址| 午夜精品视频| 国产精品一区二区在线观看| 欧美三级视频在线播放| 久久国产乱子精品免费女| 性色av一区二区三区红粉影视| 欧美日韩精品二区第二页| 在线国产精品一区| 在线观看国产成人av片| 亚洲精品久久久久久下一站| 欧美一区二区三区精品电影| 亚洲国产精品黑人久久久| 久久av一区二区| 伊人成综合网伊人222| 在线精品国产成人综合| 一区二区三区精品视频在线观看| 一区二区三区偷拍| 国产精品狼人久久影院观看方式| 久久精品卡一| 午夜精品久久99蜜桃的功能介绍| 免费成人高清在线视频| 欧美在线视屏| 亚洲综合社区| 噜噜噜在线观看免费视频日韩| 亚洲网站在线看| 亚洲欧美日韩综合| 欧美系列一区| 欧美日韩亚洲视频一区| 黄色综合网站| 久久亚洲高清| 国产模特精品视频久久久久| 新片速递亚洲合集欧美合集| 欧美中文字幕视频在线观看| 亚洲视频在线播放| 亚洲综合二区| 欧美日韩日日骚| 欧美一级在线播放| 亚洲自拍偷拍网址| 亚洲第一精品夜夜躁人人爽| 亚洲欧美日本在线| 久久一区精品| 欧美三级韩国三级日本三斤| 欧美日韩国产在线| 欧美劲爆第一页| 亚洲精品久久久久中文字幕欢迎你| 老司机午夜免费精品视频| 韩国精品在线观看| 国产一区二区你懂的| 欧美淫片网站| 免费视频一区| 久久精品人人做人人爽| 国产一区二区三区久久精品| 久久久久五月天| 9l视频自拍蝌蚪9l视频成人| 欧美国产日韩一区二区在线观看| 欧美理论电影网| 欧美69wwwcom| 亚洲综合国产| 久久夜色精品亚洲噜噜国产mv| 久久精品卡一| 亚洲精品久久视频| 国产目拍亚洲精品99久久精品| 国产精品xxx在线观看www| 伊大人香蕉综合8在线视| 欧美成人免费在线| 国内视频精品| 久久精品视频播放| 激情综合五月天| 尹人成人综合网| 欧美午夜精品久久久久久超碰| 久久久久国产精品一区二区| 欧美韩日一区| 在线观看欧美成人| a91a精品视频在线观看| 国产精品日韩精品欧美在线| 国产精品永久免费| 亚洲综合清纯丝袜自拍| 久久久久久亚洲精品不卡4k岛国| 午夜精品99久久免费| 欧美日韩高清区| 久久免费的精品国产v∧| 99国产精品久久久久久久成人热| 在线成人性视频| 久久久久久久欧美精品| 99av国产精品欲麻豆| 欧美一区免费| 国产情侣久久| 激情成人中文字幕| 亚洲国内高清视频| 欧美在线视频a| 国产精品二区影院| 精品不卡一区二区三区| 一区二区高清视频| 久久九九热免费视频| 黄色成人av网站| 欧美精品电影在线| 99精品视频网| 一区二区三区精品国产| 国产日韩欧美在线播放不卡| 国产一区二区三区丝袜| 日韩亚洲欧美高清| 欧美另类高清视频在线| 欧美jjzz| 国产精品理论片在线观看| 国产人成一区二区三区影院| 久久综合国产精品台湾中文娱乐网| 久久久美女艺术照精彩视频福利播放| 91久久精品国产91性色| 久久偷看各类wc女厕嘘嘘偷窃| 国产三级欧美三级| 欧美国产日韩a欧美在线观看| 久久精品一级爱片| 免费成人性网站| 99精品福利视频| 性欧美xxxx视频在线观看| 国产日韩欧美在线视频观看| 一区二区三区.www| 欧美亚洲视频一区二区| 国产欧美日韩高清| 欧美日韩一区二区三区免费| 欧美一区二区免费| 久久国产精品久久久| 国产色综合久久| 久久综合狠狠综合久久综青草| 亚洲欧美在线看| 欧美久久久久免费| 欧美日韩精品伦理作品在线免费观看| 免费中文字幕日韩欧美| 欧美美女视频| 久久免费国产精品| 亚洲精品免费一二三区| 欧美影院一区| 欧美色综合网| 国产精品久久久久久户外露出| 亚洲午夜久久久久久久久电影网| 欧美日韩精品伦理作品在线免费观看| 91久久中文| 国产有码一区二区| 久久成人精品视频| 一区二区免费在线观看| 麻豆精品在线视频| 在线日韩视频| 国产精品久久久对白| 亚洲欧洲一区二区三区| 国产精品久久久久久久电影| 在线观看成人av电影| 亚洲人成在线观看| 久久国产乱子精品免费女| 久久国产精品色婷婷| 欧美在线视频一区二区三区| 亚洲一区二区三区高清| 一区二区三区精品国产| 亚洲免费av网站| 国产精品二区二区三区| 国外成人在线视频| 亚洲精品三级| 亚洲欧美一区二区三区久久|