《電子技術應用》
您所在的位置:首頁 > 測試測量 > 設計應用 > 一種面向地震數據的兩級索引
一種面向地震數據的兩級索引
2015年微型機與應用第18期
谷文彥,李 俊,潘昌森
(中國科學技術大學 自動化系,安徽 合肥 230026)
摘要: 地震數據處理中的數據讀取具有塊小量大的特點,常規磁盤所用的數據讀取方式,其處理速度緩慢。設計了一種基于FastDFS的分布式地震數據存取系統。該系統將數據分塊存儲在硬盤上,在FastDFS中建立基于炮號和道號的兩級索引結構,并選取Trie樹作為一級索引,AVL樹或紅黑樹作為二級索引,提高了系統讀取速度。實驗結果表明,該地震數據存取系統減少了相應的查詢響應時間,提高了系統存取性能。
Abstract:
Key words :

  摘  要地震數據處理中的數據讀取具有塊小量大的特點,常規磁盤所用的數據讀取方式,其處理速度緩慢。設計了一種基于FastDFS的分布式地震數據存取系統。該系統將數據分塊存儲在硬盤上,在FastDFS中建立基于炮號和道號的兩級索引結構,并選取Trie樹作為一級索引,AVL樹紅黑樹作為二級索引,提高了系統讀取速度。實驗結果表明,該地震數據存取系統減少了相應的查詢響應時間,提高了系統存取性能。

  關鍵詞: 地震數據;兩級索引;Trie樹;紅黑樹;AVL樹

0 引言

  隨著地震勘探技術快速發展,地震數據規模不斷增加。數據顯示,地震道集數按每三年翻一番的速度增長,2014年單文件已經突破16 000道[1-2],這些數據量一般在TB甚至PB級別。當今PC集群的計算性能有了很大提高,但相應的集群存儲相對滯后,地震數據存取效率越來越成為地震資料處理的瓶頸。采用共享網絡文件系統NFS存取地震數據,制約了海量地震數據存取的效率[3]。并行文件系統Lustre[4]在存取地震數據I/O性能上優于NFS[3],它采用RAID存儲數據,擁有高性能的順序讀取效率,但每次需要讀取整個條帶的數據,隨機讀取效率低。

  地震數據處理程序請求的數據不一定連續存儲在文件中。處理程序在隨機請求數據時只需要文件中的若干道數據,卻要讀取整個文件,讀取效率就會很低。為此,本文提出一種快速存取地震數據的方法,該方法將地震文件的數據分塊存儲,并建立以炮號和道號為關鍵字的兩級索引結構。通過實驗表明,加入索引后,在滿足存取需求的同時,減少了查詢時間和數據傳輸開銷,提高了系統的存取效率。

1 地震數據

  1.1 地震數據格式

  勘探地球物理協會(Society of Exploration Geophysicists,SEG)制定的SEGY地震數據格式是最常用的數據格式,SEGY文件結構如圖1所示。

001.jpg

  標準的SEGY格式包括3個部分:(1)3 200 B的EBCDIC文件頭,保存一些地震數據整體性的描述信息;(2)400 B的二進制頭文件,用來保存描述SEGY文件的信息,如文件數據格式、采樣點數目、采樣時間、測量單位等;(3)實際地震勘探數據,每道數據前面會有240 B的道頭信息,保存該道數據對應的位置坐標、采樣點數、炮號、道號等信息。

  1.2 數據格式的改進

  地震數據道頭主要是記錄道的信息,對用戶分析數據沒有作用,每次讀取地震數據還要把道頭數據也讀出來,效率很低。本文將道頭和數據體分開存儲,并在兩者之間加入關鍵字索引信息。用戶每次讀取數據,只要指定數據關鍵字,就可以通過索引查找到該數據存放的具體位置。這種方式下用戶每次讀的有效數據增多,效率有所改善。

2 兩級索引結構

  2.1 FastDFS介紹及兩級索引結構

  FastDFS充分考慮了冗余備份、負載均衡、線性擴容等機制,解決了大容量存儲、高并發訪問等問題。與現有的類Google FS相比,FastDFS的架構和設計的獨到之處體現在輕量級、分組方式和對等結構[5]。跟蹤器(Tracker)作為中心節點,提供負載均衡和任務調度;存儲節點(Storage)則直接利用文件系統存儲文件。FastDFS不對文件進行分塊存儲,上傳文件時,文件ID由存儲節點生成并返回給客戶端,文件ID中包含文件所在組名、相對路徑和文件名。存儲節點可以直接根據文件名ID來定位數據。因此FastDFS中不需要存儲索引信息。

  本系統為支持順序讀取和隨機讀取地震道數據,對SEGY文件格式進行改進,將道頭和數據塊分開存儲,在兩者之間建立二級索引??紤]到跟蹤器負責管理數據,因此將數據塊的位置信息存儲在跟蹤器上,客戶端讀數據時,可以根據跟蹤器上存儲的信息直接找到存儲數據的存儲節點,而跟蹤器上的信息就是本文提出的一級索引。綜上所述,兩級索引中一級索引記錄數據塊所在存儲節點號,二級索引記錄數據塊具體位置。系統框架如圖2所示。

002.jpg

  2.2 I/O操作流程

 ?。?)寫數據

  Client寫數據的數據頭中包含炮號、起始和終止道號及數據塊大小等信息,以便跟蹤器和存儲節點構建索引。寫數據塊過程中同一炮號不同塊的數據分布在不同的卷組內,以實現負載均衡。寫數據前Client向跟蹤器詢問可存儲新數據塊的存儲節點,數據寫入存儲節點后,該存儲節點會根據數據塊信息(數據塊所屬的炮號、起始道號、終止道號)和位置信息構建二級索引。跟蹤器會根據存儲節點報告的信息構建一級索引,流程如圖3所示。

003.jpg

 ?。?)讀數據

  Client從存儲節點讀數據時,命令需要包含炮號、起始和終止道號。Client首先查詢跟蹤器上的一級索引,找到數據塊所在的存儲節點,然后Client向該存儲節點讀數據,存儲節點則根據二級索引查詢數據具體位置,并讀出數據返回給Client。讀數據流程如圖4所示。

004.jpg

3 兩級索引實現

  3.1 一級索引

  存儲采用共炮存儲,即同一炮的多道數據合并后作為一個數據塊存儲在存儲節點上,數據塊名格式為:炮號_起始道號_終止道號,且以此數據塊名形成的字符串作為一級索引的key值,value值是該數據塊所在存儲節點的信息。用戶要查詢第100炮的第0~99道的數據,就會首先生成100_0_99這個字符串,然后去一級索引中查找,返回存儲數據的存儲節點。

  一級索引采用Trie樹,Trie樹利用字符串的公共前綴來降低查詢時間以達到提高效率的目的。Trie樹的插入、刪除和查找都很簡單,用一個循環就可以解決,第i次循環找到前i個字符。以靜態開辟個數組來實現這棵字符樹,本文每個節點的子節點有11種情況(0~9和_),需要對每個節點開辟一個大小為11的數組。

  3.2 二級索引

  紅黑樹[6]在每個節點上增加一個顏色位,可以是Red或Black,通過限制從根到葉子路徑中各節點著色方式來維持平衡,有4種平衡方法[7]。紅黑樹正是用這種非嚴格的平衡來換取增刪節點時旋轉次數的降低,性能比普通二叉樹高。

  參考文獻[8]中說明當操作僅限于插入和檢索時AVL樹是平衡二叉搜索樹中最有效的方法,在查找和排序上有很重要的應用。AVL樹左右子樹高度差超過1,會被認為是不平衡的,由于AVL樹的這種平衡條件,使樹的深度不會過深。參考文獻[9]、[10]中闡述了可能導致AVL樹失去平衡的4種可能,及相應的4種旋轉方法。

  Client查到存儲節點后通過炮號、起始道號向該存儲節點查尋二級索引,找數據具體位置。

  本文分別采用紅黑樹和AVL樹作為二級索引,力求尋找一個性能更佳的二級索引結構。通過炮號及道號來唯一標識數據塊,于是本文把炮號和起始道號組成的聯合體組合成一個唯一長整形數,代碼如下。以此作為該二級索引key值,對應的value值為該數據塊的位置信息。

  二級索引關鍵字結構代碼:

  typedef  union

  {

  struct

  {

  int shot_no;//炮號

  int begin_receiver_no;//起始道號

  }combine_no;

  long long index_key;

  }StorageIndexKey_t;

4 實驗與結果

  4.1 實驗環境

  本實驗集群由5臺服務器組成,1臺client、1臺跟蹤器和3臺存儲節點。每臺服務器CPU均為2.33 GHz,內存為4 GB,操作系統是CentOS6.4。

  4.2 實驗和結果

  本文提出的地震數據存取系統是基于FastDFS修改而來的。一級索引采用Trie樹,二級索引加入AVL樹的版本命名為AVLFS,加入紅黑樹的版本命名為RBFS。每道數據32 KB,將100道數據作為一個數據塊。采用以下兩種方法進行測試:(1)寫入相同數據塊,測試讀取速度隨著讀的有效數據大小變化的關系;(2)讀取有效數據一定,測試速度隨著寫入數據量變化的關系。

  實驗1 寫入200炮的數據,每炮100個數據塊,一共20 000個數據塊。讀取分布在不同數據塊中的道,測試結果如圖5所示。

005.jpg

  實驗2 讀取8 000道地震數據,這8 000道數據分布在不同數據塊,結果如圖6所示。

  圖5顯示,與FastDFS相比,加入兩級索引的地震數據存取系統在隨機讀的速度上有了8~10倍的提升,隨著數據塊請求數的增加,速度也有所提升,這是由于多磁盤并發讀取使得速度有所增加。圖6中隨著寫數據塊個數的增多讀取速度幾乎沒有影響,這說明索引性能沒有隨著寫數據塊個數增加而降低。通過圖5、圖6,還可得出二級索引采用AVL樹在讀取速度上優于紅黑樹,主要是AVL樹比紅黑樹更加平衡,查詢效率更快。

5 結論

  本文提出一種能夠快速存取地震數據的方法,該方法將數據分塊存儲,并建立兩級索引結構。實驗表明,加入兩級索引后滿足了對地震數據隨機讀取的要求,同時減少了查詢時間和數據傳輸開銷,系統讀取速度有很大提高。針對查詢操作,AVL樹優于紅黑樹索引,而地震數據存取就是一次存儲,多次讀取,故本系統最終選擇AVL樹作為二級索引。本文后續工作將會對兩級索引進行進一步優化。

參考文獻

  [1] 張捷.石油勘探地震數據的處理和成像問題[R].合肥:中國科學技術大學地球物理研究所,2013.

  [2] 趙改善.我們需要多大和多快的計算機[J].勘探地球物理進展,2004,27(1):23-28.

  [3] 杜吉國,孫孝萍,陳繼紅,等.Lustre并行文件系統在地震數據處理中的應用[J].物探裝備,2013,23(5):294-299.

  [4] Lustre[EB/OL](2015-03-31).http://wiki.lustre.org/index.php/Main_page.

  [5] 余慶.分布式文件系統FastDFS架構剖析[J].程序員,2010(11):63-65.

  [6] Rudolf Bayer. Symmetric binary B-Trees: data structure and maintenance algorithms[J]. Acta Informatica, 1972,1(4):290-306.

  [7] THOMAS H C, CHARLES E L, RONALD L R, et al.算法導論[M].潘金貴,顧鐵成,李成法,等,譯.北京:機械工業出版社,2006.

  [8] BAER J L, SCHWAB B. A comparison of tree-balancing algorithms[J]. Communication of the ACM, 1977,20(5): 322-330.

  [9] ELLIS C S. Concurrent search and insertion in AVL Trees[J]. IEEE Transactions on Computers, 1980,29(9):811-817.

  [10] CHAUHAN S, THAKUR S, RANA S, et al. A brief Study of balancing of AVL Tree[J]. International Journal of Research, 2014,1(11):406-408.


此內容為AET網站原創,未經授權禁止轉載。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          一本色道久久综合亚洲精品按摩| 激情成人综合网| 久久尤物视频| 宅男噜噜噜66一区二区66| 欧美freesex交免费视频| 欧美日韩亚洲一区三区| 在线观看成人一级片| 欧美人在线观看| 蜜臀a∨国产成人精品| 亚洲国产精品久久久久| 欧美亚洲一区二区在线观看| 西西人体一区二区| 娇妻被交换粗又大又硬视频欧美| 久久久久久伊人| 亚洲少妇在线| 国产精品视频精品视频| 国产精品久在线观看| 亚洲一区二区成人| 亚洲裸体视频| 激情一区二区三区| 亚洲一区二区不卡免费| 国产精品一区二区三区乱码| 国产精品一级久久久| 在线中文字幕不卡| 亚洲欧洲免费视频| 国产日韩欧美中文| 欧美高清视频在线| 精品电影在线观看| 国产午夜精品视频免费不卡69堂| 国产精品少妇自拍| 欧美日韩国产综合久久| 亚洲看片网站| 久久精品99| 久久精品一区二区三区不卡| 国产精品国产三级国产专播品爱网| 国产精品日产欧美久久久久| 99国产精品久久久久久久成人热| 亚洲一区二区三区精品动漫| 欧美久久久久| 亚洲国产精品久久久久秋霞蜜臀| 国产精品hd| 亚洲欧洲精品成人久久奇米网| 欧美精品一区二区三区很污很色的| 国产日韩av高清| 亚洲免费在线视频一区 二区| 欧美一级专区| 午夜在线观看欧美| 亚洲精品久久久久久久久久久久久| av成人黄色| 亚洲国产精品久久久久久女王| 亚洲三级电影全部在线观看高清| 国产一在线精品一区在线观看| 国产午夜精品理论片a级探花| 国产精品白丝jk黑袜喷水| 欧美视频中文字幕在线| 国产女人aaa级久久久级| 国产午夜精品理论片a级大结局| 在线亚洲电影| 欧美日韩一区二区国产| 一片黄亚洲嫩模| 久久精品夜色噜噜亚洲aⅴ| 亚洲看片免费| 国产亚洲成av人片在线观看桃| 欧美女主播在线| 亚洲国产美国国产综合一区二区| 国产精品福利在线观看| 亚洲精品网站在线播放gif| 亚洲国产精品va在线看黑人| 免费成人av| 欧美一区二区三区免费观看| 伊人成人网在线看| 亚洲国产va精品久久久不卡综合| 亚洲综合色网站| 欧美成人午夜剧场免费观看| 日韩视频在线免费观看| 在线一区视频| 欧美性一二三区| 欧美精品在线免费观看| 国产精品永久免费| 亚洲国产精品成人综合色在线婷婷| 香蕉久久精品日日躁夜夜躁| 欧美电影免费观看大全| 亚洲女性裸体视频| 亚洲老司机av| 久久狠狠久久综合桃花| 久久久久久久999精品视频| 国内自拍视频一区二区三区| 在线午夜精品自拍| 国产精品久久一级| 蜜桃精品久久久久久久免费影院| 久久人人97超碰人人澡爱香蕉| 国产精品jvid在线观看蜜臀| 亚洲国产精品欧美一二99| 国产亚洲欧美日韩精品| 亚洲午夜视频| 国产综合激情| 亚洲在线视频一区| 亚洲美女精品成人在线视频| 美女主播精品视频一二三四| 国产精品无人区| 午夜久久99| 黄色一区二区三区| 精品51国产黑色丝袜高跟鞋| 国产视频观看一区| 国产一区二区三区久久精品| 99精品久久免费看蜜臀剧情介绍| 欧美日本国产一区| 亚洲精品一区二区在线| 国产精品美女视频网站| 国产亚洲福利社区一区| 欧美激情视频一区二区三区在线播放| 久久频这里精品99香蕉| 亚洲大片在线观看| 欧美国产三区| 国产精品一区久久久| 欧美在线影院| 1769国产精品| 欧美三区免费完整视频在线观看| 国产精品免费视频xxxx| 久久国产一区| 欧美日韩国内自拍| 欧美日韩久久精品| 国产欧美日韩亚洲| 亚洲韩国一区二区三区| 国产日韩欧美一区二区三区在线观看| 狠狠色狠狠色综合日日91app| 久久免费国产精品1| 亚洲国产成人久久综合| 亚洲精品网址在线观看| 久久经典综合| 国产亚洲欧洲997久久综合| 久久这里有精品15一区二区三区| 久久人91精品久久久久久不卡| 午夜一区二区三区在线观看| 蜜桃av噜噜一区二区三区| 欧美三级不卡| 欧美一级欧美一级在线播放| 国产精品美女| 国产免费观看久久| 最新国产成人av网站网址麻豆| 亚洲国产精品毛片| 欧美在线观看天堂一区二区三区| 激情综合视频| 国产精品一区免费观看| 亚洲欧美国产日韩中文字幕| 久热re这里精品视频在线6| 国产精品看片你懂得| 久久这里只有精品视频首页| 欧美日韩国产区一| 亚洲午夜激情在线| 好看的日韩av电影| 国产一区二三区| 亚洲欧美大片| 亚洲国产美女久久久久| 国产精品国产三级国产普通话蜜臀| 欧美日韩精品免费观看| 你懂的网址国产 欧美| 红桃视频欧美| 国产一区白浆| 极品尤物久久久av免费看| 欧美69视频| 亚洲视频在线二区| 国产精品女同互慰在线看| 欧美日韩在线精品| 国产精品v一区二区三区| 国产精品免费网站| 国产午夜亚洲精品羞羞网站| 欧美一区二区在线视频| 久久久久久电影| 激情综合在线| 欧美一区国产一区| 欧美乱人伦中文字幕在线| 黄色一区二区三区四区| avtt综合网| 午夜精品视频在线观看| 欧美一级二区| 欧美极品欧美精品欧美视频| 国产精品亚洲综合| 国产精品视频久久久| 日韩视频在线永久播放| 一区二区在线看| 国产拍揄自揄精品视频麻豆| 国产乱人伦精品一区二区| 欧美精品一区二区三区视频| 午夜激情久久久| 一区二区三区高清视频在线观看| 欧美风情在线| 蜜桃伊人久久| 亚洲午夜电影在线观看| 日韩视频在线一区二区三区| 日韩视频免费在线观看| 欧美巨乳在线观看| 在线亚洲精品福利网址导航| 国产精品一区在线观看你懂的| 亚洲精品美女久久7777777| 欧美亚洲视频| 国产精品久久久久久久9999| 国产女人aaa级久久久级| 欧美激情中文不卡| 一区二区视频欧美| 欧美一区二区在线观看| 久久精品91久久久久久再现| 亚洲欧美综合国产精品一区| 亚洲激情av在线| 久久成人久久爱| 亚洲精品资源美女情侣酒店| 欧美性片在线观看| 欧美v国产在线一区二区三区| 一区二区亚洲精品国产| 欧美日韩精品一区二区| 影音先锋日韩精品| 国产日韩精品在线播放| 国产女人水真多18毛片18精品视频| 日韩视频在线免费| 亚洲一区二区三区在线播放| 久久久99精品免费观看不卡| 亚洲精品一区在线观看| 午夜精品福利在线| 久久激情五月激情| 娇妻被交换粗又大又硬视频欧美| 久久综合色一综合色88| 亚洲欧洲视频| 欧美日韩1234| 先锋a资源在线看亚洲| 亚洲电影免费观看高清完整版在线观看| 亚洲精品国产拍免费91在线| 欧美mv日韩mv国产网站app| 有码中文亚洲精品| 久久午夜羞羞影院免费观看| 老司机久久99久久精品播放免费| 欧美日韩黄色大片| 快射av在线播放一区| 亚洲一区二区三区涩| 亚洲欧美激情视频在线观看一区二区三区| 久久人体大胆视频| 国产一区二区三区不卡在线观看| 国产自产2019最新不卡| 亚洲剧情一区二区| 在线观看中文字幕不卡| 欧美成人免费一级人片100| 欧美成人三级在线| 伊人久久亚洲美女图片| 亚洲网站在线播放| 午夜一区在线| 欧美中文在线字幕| 米奇777在线欧美播放| 国产精品久久91| 欧美日韩18| 韩国v欧美v日本v亚洲v| 国产亚洲精品久久久| 欧美极品影院| 午夜精品国产更新| 91久久久久久久久久久久久| 欧美黑人国产人伦爽爽爽| 最新日韩精品| 激情综合网址| 久久激情婷婷| 欧美在线看片a免费观看| 1024亚洲| 一区二区三区欧美在线观看| 亚洲理伦在线| 一二三区精品| 国产亚洲观看| 激情五月综合色婷婷一区二区| 国产日本欧美视频| 欧美日韩国产不卡| 国产精品久久久久99| 亚洲精品影院| 欧美大色视频| 欧美人与性动交α欧美精品济南到| 激情久久久久久久久久久久久久久久| 欧美sm重口味系列视频在线观看| 欧美日韩成人综合天天影院| 久久精品91久久香蕉加勒比| 欧美—级a级欧美特级ar全黄| 久久久国产亚洲精品| 欧美视频中文在线看| 欧美中文在线观看| 国产日韩一区二区| 欧美国产精品日韩| 亚洲少妇在线| 欧美一区三区三区高中清蜜桃| 久久久久成人精品免费播放动漫| 99国内精品久久久久久久软件| 亚洲性图久久| 国产精品福利片| 亚洲国产成人久久| 国产精品蜜臀在线观看| 欧美一乱一性一交一视频| 欧美成人激情视频免费观看| 欧美日韩另类视频| 亚洲一区美女视频在线观看免费| 欧美成人午夜免费视在线看片| 欧美一区成人| 久久久久久伊人| 日韩视频一区二区| 亚洲黄色一区二区三区| 亚洲黄色成人网| 久久久亚洲国产美女国产盗摄| 国产精品久久久久影院亚瑟| 亚洲大黄网站| 欧美日韩一视频区二区| 亚洲一级片在线观看| 国产精品日韩在线播放| 国产伦精品一区二区三区在线观看| 午夜天堂精品久久久久| 国产日韩欧美亚洲| 久久久久在线观看| 欧美在线视频免费观看| 亚洲精品护士| 夜夜嗨av一区二区三区四区| 欧美一区二区国产| 国产乱码精品一区二区三区五月婷| 亚洲国产精品视频一区| 夜夜嗨av色综合久久久综合网| 欧美视频在线观看 亚洲欧| 欧美日韩精品中文字幕| 韩国一区电影| 国产精品视频网址| 欧美日本免费一区二区三区| 欧美麻豆久久久久久中文| 国产精自产拍久久久久久蜜| 欧美视频中文一区二区三区在线观看| 久久久久久亚洲精品不卡4k岛国| 亚洲国产天堂久久国产91| 欧美日韩福利| 欧美一区二区三区在线| 亚洲高清视频的网址|