《電子技術應用》
您所在的位置:首頁 > 可編程邏輯 > 業界動態 > 編程FPGA的軟件棧演進技術解析

編程FPGA的軟件棧演進技術解析

2022-10-24
來源:FPGA研究院
關鍵詞: 深度學習 GPU FPGA

  這個十億美元的數據中心市場被Altera、Xilinx和其他FPGA供應商瓜分。在Intel于2015年6月收購了Altera之后,這個市場變得更加復雜。

  在收購之前的2014年,Altera的19億美元收入中,有16%來自于與數據中心相關的計算、網絡和存儲業務,其總值達到3.04億美元。那些在這個領域深耕十幾二十年的通信和無線設備系統制造商想要有更高的能源效率,更低的成本和更高的擴展性,這些都是FPGA所擅長的領域。另外有一點需要提一下,那就是在執行這些功能的時候,使用FPGA并不需要像使用CPU那樣需要操作系統和相應的軟件。這部分的營收占了Altera營收的44%,總額為8.35億美元。

  Altera另外的22%收入,即4.18億美元,來自工業控制、軍事設備和汽車制造等領域。他們面對相同的困境,因此選擇FPGA來處理他們的一些工作負載。

  其實早在2014年,英特爾看中了價值1150億美元的各種類型的芯片潛在市場。當中可編輯邏輯設備(以FPGA為主)約占4%,ASIC占18%,其余為ASSP的大雜燴。

  在可編輯邏輯設備的領域中,英特爾預估Altera占有48億美元市場中的39%,Xilinx占有49%,剩下供應商則占據剩下的12%。

  當時英特爾沒有收購Altera的原因是因為FPGA業務的增長速度幾乎與其數據中心集團(為服務器,存儲和交換機制造商提供芯片,芯片組和主板)的速度一樣快。

  再者,英特爾沒有這樣做也是因為摩爾定律逐漸緩慢下來的腳步,給FPGA帶來了日益增長的競爭威脅。

  實際上,如果應用的話,在數據中心里不止安裝一個FPGA、GPU或DSP加速器,但不需要安裝多個Xeon CPU。由于英特爾不能繼續為Xeons提供更多的核心和加速器,所以他們得出了將FPGA當做加速器的結論。

  除非FPGA能在數據中心創造5億美元的收益,或者幾年后創造10億美元或更多的收入。不然英特爾寧愿犧牲兩至三倍的Xeon收入,也不會把Xeon的收入拱手相讓。

  深度學習加持,FPGA前景可人

  根據英特爾的預測,他們計劃從現在到2023年以接近直線增長率來提升FPGA的業務。對此我們總是抱有懷疑的態度。但FPGA業務隨著時間的推移或多或少地在增長(比15年前增長約2.5倍)。

  英特爾還預計,FPGA的營收在2014年到2023年之間將會再翻一倍。按照英特爾預測,從2014年到2023年間其復合年增長率為7%,其收入應該略低于預測的89億美元。有趣的是,由于英特爾的預測并沒有把來自數據計算中心(服務器,交換和網絡)的FPGA收入份額納入計劃中,這將會發生很大變化。讓我們分析一下:

  如果Altera和Xilinx的市場份額沒有發生改變,且假設Altera的收入在網絡,計算和存儲的部分保持不變,那么Altera這一部分的業務收入到2023年將會達到5.6億美元左右。我們認為Intel這樣的數據低估了數據中心在提供更有效和靈活計算所面對的壓力。不給過我們認為FPGA的前景遠遠優于這個預測。也就是說,許多FPGA技術的支持者一直期待FPGA在數據中心中獲得計算合法化的那天很快到來。

  諷刺的是,英特爾本身作為FPGA的編程專家,硬件描述語言的使用者,以及知名的ASIC制造商,竟成為推動FPGA成為加速器優先選擇的主要參與者。這樣的加速器既能作為獨立的離散計算元件,又可以作為混合 CPU-FPGA器件。

  這也是為什么從2016年以來,我們看到所有關于Altera的新聞都是昭示FPGA將會有大規模的增長。所以至少在短期,他們除了為其他的FPGA制造商作嫁衣裳,幾乎別無他法。

  這次收購不僅是FPGA發展的里程碑,也是英特爾對FPGA巨大的潛力的承認。FPGA作為未來強大的計算加速器,不但影響主要企業的決策和市場趨勢,而且加速企業中的工作負載,促進超大規模數據中心的內部搜索,以及提高高性能計算模擬的地位。

  在跨越2016年之際,FPGA在應用程序中等級中新增了機器學習和深度學習,這給FPGA產業敲下了又一重錘。

  為什么大家都青睞FPGA

  首先,編程FPGA的軟件棧已經演進了,尤其是在Altera的幫助下,FPGA增加了對OpenCL開發環境的支持。但不是每個人都是OpenCL的狂熱粉絲。

  先有Nvidia為其Tesla GPU加速器創建了自己的CUDA并行編程環境。再有SRC計算機公司不但早在2002年就為國防和智能領域提供混合CPU-FPGA系統,到了2016年年中,進一步將自己研發的Carte編程環境進入了商業市場,這個編程環境可以使C和Fortran程序自動轉換為FPGA的硬件描述語言(HDL)。

  095.JPG

  另一個推動FPGA被采用的因素是隨著芯片制造技術難以持續縮進,多核CPU性能的提高越來越艱難。 雖然CPU的性能獲得了大跳躍,但主要用于擴展CPU的性能吞吐量,而不是單個CPU內核的個體性能。(我們知道架構增強是有難度的)。但是FPGA和GPU加速器的每瓦性能都有了令人信服的改進。

  根據微軟的運行測試,在執行深度學習算法的時候,CPU-FPGA和CPU-GPU混合計算在內的每瓦性能也不相伯仲。GPU在運行中更熱和有類似的每瓦性能表現,但是同時他們也帶來了更強的工作能力。

  提高了每瓦性能解析了為什么世界上最強大的超級計算機在20世紀90年代后期轉移到并行集群,并且解析了為什么現在他們轉向了混合機器,而不是英特爾的下一個以 CPU-GPU為混合主力的Xeon Phi的處理器“Knights Landing (簡稱KNL)。

  在Altera FPGA協處理器和Xeon Phi處理器Knights Landing的幫助下,英特爾不但可以保持自己的在高端的競爭優勢。并且在與Nvidia 、IBM和 Mellanox組成的Open power聯盟競爭中繼續領先。

  英特爾堅信超大規模計算,云端和HPC市場的工作負載會快速成長。為促進其計算業務繼續蓬勃發展。這情況下只能成為FPGA的賣家,否則別人就會搶去這唯一的出路。

  但英特爾并不是這樣跟大家說。他們說:”我們不認為這是一種防守戰或者其他,“英特爾的CEO Brian Krzanich在Altera收購消息后的新聞發布會上說。

  ”我們認為物聯網和數據中心都是龐大的。這些也是我們的客戶想要構建的產品。我們30%的云端工作負載將在這些產品上,這是基于我們對如何看待趨勢變化以及市場發展的預測。

  這是用來證明這些工作負載能以一種或另一種方式轉移到硅中。我們認為最好的做法是使用有業界最佳性能和成本優勢的Xeon處理器和FPGA組合。這將給工業領域帶來更好的產品和性能。而在IoT中,這將擴展到潛在市場對抗ASIC和ASSP;而在數據中心中,則會將workload轉移到硅,推動云的快速增長。

  Krzanich解釋道:“你可以把FPGA想象成一堆gate,且能夠隨時編程。根據他們的想法,其算法會隨著時間的推移和學習變得更聰明。FPGA可以用作多個領域的加速器,可以在進行加密的同時進行面部搜索,而且能在基本上在微秒內重新編程FPGA。這比大規模的單個定制部件的成本低得多且具備更高的靈活性?!?/p>

  英特爾看到了更大的機會

  英特爾看到了比這更大的機會。

  Intel首席執行官Brian Krzanich在收購完成后宣布,到2020年,將有高達三分之一的云端服務提供商使用混合的CPU-FPGA服務器節點,這是一個令人震驚的消息。這也給從2014年底就開始瞄準的數據中心的Altera帶來大約10億美元的FPGA的機會。這數目大概是Nvidia目前流行的Tesla計算引擎營收的三倍。

  在2014年初,英特爾展示了一個相同封裝的Xeon-FPGA芯片原型,并且打算在2017年推出這個芯片。這是基于當時數據中心集團GM  Diane Bryant提出的一個帶有FPGA電路的Xeon設想不久之后推出的。

  在宣布Altera交易的電話會議上,Krzanich沒有說明推出這款Xeon-FPGA設備的時間,但是他表示英特爾將創建一個面向物聯網市場的單die混合Atom-FPGA設備。英特爾正在考究在混合過渡階段,是否需要為Atom和Altera FPGA做單一封裝混合。

  在2016年的初太平洋頂峰證券的電話會議中,英特爾的云端基礎設施集團總經理Jason Waxman與研究分析師討論關于英特爾數據中心業務時表示,FPGA已經成為了熱門話題。

  首先,雖然他沒有指名道姓哪家廠商或者任何設備的規格,但是Waxman確定英特爾已經為某些客戶提供了Xeon加FPGA的混合計算引擎樣品。

  在會議期間,Waxman更是暢談了驅動英特爾收購Altera和插足可編程計算設備的原因。 英特爾顯然希望讓FPGA成為主流,即使這可能會在數據中心中蠶食Xeon的某些業務。 (我們認為,因為英特爾認為這種自相殘殺是不可避免的,控制它的最好方法是使FPGA成為Xeon陣容的一部分。)

  Waxman說:“我認為這項收購可能涉及許多事情,而且其中一些已經超越數據中心集團的范圍?!?/p>

  首先,一個潛在的核心業務往往是由制造領先優勢驅動。在這方面我們能很好的掌控,而且這樣做還有良好的協同作用。

  再者,還有物聯網“集團”對此也有很強的興趣。

  據我們所知,某些大規模工作負載的擴展(如機器學習,某些網絡功能)吸引了越來越多的人關注。我們才意識到我們或者可以在性能方面取得一些突破,這將是一個把FPGA從數據中心應用程序中移植到更多適合的、廣泛發展領域的良好機會。

  但是在數據中心集團里的協作,FPGA不過是給CPU做個伴,幫助解決云端服務提供商和其他類型的大規模應用程序的問題。

  英特爾認為對FPGA加速有優先和大量需求的關鍵應用包括機器學習,搜索引擎索引,加密和數據壓縮。正如Waxman指出,這些往往是很有針對性的,且沒有統一的使用案例。這就是Krzanich斬釘截鐵說三分之一的云端服務提供商將在五年內使用FPGA加速的依據。

  跨越FPGA的障礙

  雖然每個人都抱怨編程FPGA有多難,但英特爾并不為此退縮。雖然沒有透露太多相關計劃的情況下,Waxman提出了一些方法讓FPGA更容易被運用和理解。

  Waxman說:“我們所擁有的是獨一無二的,這是其他人不能給的。那就是我們能夠了解這些工作負載和能夠推動加速的能力。

  ”我們看到一條促進機器學習,加速存儲加密,加速網絡功能的捷徑“,Waxman強調。這是基于我們對這些工作負載的深入了解,所以才讓我們看到了這樣的機會。

  但現在FPGA還需要面對一些困難,因為現在人們是寫RTL的。我們是一家寫RTL的公司,所以我們可以解決這個問題。首先我們使它運作,然后我們可以降低進入的門檻。第三步是真正的規模經濟學,而這全部是靠集成和制造的實力。

  為了解決這些障礙,我們提供了一系列的方法。

  X86+FPGA?

  對于那些英特爾打算用FPGA來代替Xeons的猜測,Waxman表示這是一派胡言。

  Waxman表示,對于那些對高速率和重復性有強烈需求的算法,具有先天優勢的FPGA就是其最好的選擇。而那些對延遲有極高需求的數據操作和轉換,FPGA也是候選人。

  考慮到Altera已經在一個SoC上集成了ARM處理器和FPGA,這很自然地會想到英特爾會試圖用X86內核全面替換ARM內核來做類似的設備。但它看起來不像這會發生。

  首先,在2016年第二季度英特爾財務聲明會上,Krzanich承諾,英特爾將加強對目前使用Altera的ARM-FPGA芯片客戶的支持。

  Waxman進一步澄清:”我們的觀點是會以某種形式把FPGA集成到Xeon里。我們已經公開宣布將會打造第一代使用這種單一封裝的設備,但是我們將根據進展情況調整方向,甚至可能會在同一個die上實現。我們將根據客戶的反饋了解什么是正確的組合。

  順便說一下,我仍然期待看到沒有集成的系統,保持他們會做系統級的協同。我們不會將Xeon與FPGA以多種方式組合集成,反之我們會在市場上找到正確的目標和平衡?!?/p>

  編程問題首當其沖

  雖然Altera的工具集利用OpenCL編程模型獲得應用程序代碼,并將其轉換為RTL(FPGA的原生語言),但是有趣的是,英特爾并不認為FPGA在數據中心的未來成功是基于OpenCL與RTL工具集成的改進或更廣泛地采用OpenCL。

  Waxman也強調地說:”這并不是以OpenCL為基礎的?!半m然我們確實把OpenCL看作是進一步擴大FPGA應用范圍的一個途徑,但目前FPGA的初始云端部署可能由更具能力的公司完成,但他們并沒有要求我們提供OpenCL。Waxman補充說。

  Waxman在不能”自由“地談論的情況下,暗示英特爾有計劃使FPGA更容易編程。他表示Intel將會為程序員提供RTL庫,方便他們調用在FPGA上部署的例程,并推動在其上執行應用程序的gate的形成,來實現應用程序例程的gate,而不是讓他們自己創建例程。這有一定的意義,與Convey(現在是美光科技的一個部門)幾年前用FPGA加速系統處理的方案一樣。

  Waxman說:”我認為有一個連續的加速。在一開始,你可能不知道你正在試圖加速什么,只是做了一些嘗試,因此在這個階段加速,你想要的是一個更通用的目的。當你開始真正地想要加速的時候,你會想要更高效的,更低的功耗和更少的空間,這時你就會把焦點移到FPGA上?!?/p>

  Waxman還引用了Microsoft在其”Catapult“系統上使用FPGA加速的方案來說明。

  該系統采用其Open Cloud Server并添加FPGA夾層卡作為加速器。我們在3月份研究了這個項目,將這些加速器應用在Google上執行相同的圖像識別訓練算法,得出的結果顯示,25瓦的FPGA器件相對于使用Nvidia Tesla K20 GPU加速器(235瓦特)的服務器,提高了更好的性能/瓦特。

  正如我們所說,我們對于微軟和Google發布的性能數據毫無疑問。但是對分立的GPU或FPGA執行應用性能和對自身的熱配置文件進行測量都是不公平的。你必須在服務器節點級別上看到這一點。

  如果意識到這點,得到FPGA輔助的Microsoft服務器在系統級只稍稍領先于用Tesla K20s的Google服務器。(這些只是我們基于每秒每瓦特圖像處理性能的估計)。在這個對比中,Microsoft應該不考慮成本。而且坦白說,不同于什么都配備的Tesla GPU,微軟開放云端服務器并沒有使用Juice或Cooling。真正的評測怎么都會使用GPU夾層卡,同時還需要考慮熱量,性能和價格等因素。

  但是Waxman討論的重點仍然是那個。”在某個時候,你真的很想要那個能給你驚喜,并且能做到更低功耗的方案。而這就是我們的FPGA方案所擅長的方面。“

  云端業務

  最后要考慮的是英特爾的云端業務。這些客戶現在占據了他們數據中心集團收入的25%。

  整體來看,他們的購買量每年增長約25%。預計從2016年開始,未來幾年整體數據中心集團業務都將增長15%。讓我們做一些計算。

  如果英特爾的計劃如期實施,他的數據中心集團2016年收益將會達到166億美元。云端服務提供商(其中包括在The Next Platform上使用我們的語言的云端構建者和超大規模計算者)占大約41億美元,其余歸屬于英特爾數據中心,銷售數據大約為125億美元。因此,英特爾數據中心的業務增長在12%左右(除云端外),是云端速率的一半。英特爾需要以任何方式來滿足云端的增長和明顯的FPGA需求,即使它只占用Xeon容量的一點點。對于英特爾來說是這個的選擇比讓GPU加速持續增長的方案要好。

  編程方面可能是阻礙FPGA被廣泛采用的一個主因(不像其他加速器,具有豐富的開發生態系統,如Nvidia GPU的CUDA)。這就驅動程序員去基于C語言去做擴展設計,或使用OpenCL,而不是用過去困擾FPGA開發的低級模型。但即使在應用的過程中有這么多里程碑,FPGA仍然不被主流青睞。我們將會探索解決編程問題的方法和機會。

  雖然我們已經與這個相對較小的生態系統中的許多供應商(包括Altera和Xilinx,兩個主要供應商)進行了交流,但按照FPGA長期研究員Russell Tessier所說,FPGA在更廣闊的市場上大展拳腳的日子還在前面,新的發展意味著更廣泛的采用。

  他在馬薩諸塞大學(他還在Altera工作,并且Mentor Graphics收購的虛擬機工程的創始人)研究了FPGA二十多年,他認為FPGA從科學項目到企業應用的形勢正式緩變化。他認為其中的關鍵是來自于設計工具的改進,設計人員不斷提高他們設計高水平。除此與外,工具vendor可以更好地引導芯片發展。他補充說,設備內的大量邏輯量意味著用戶能夠實現更多的功能,這使得FPGA對更多領域更廣泛的吸引力。

  Tessier說:”在過去幾年里,FPGA的一個明顯趨勢就是這些設備更容易“程序化”。

  Xilinx目前鼓勵使用其Vivado產品的時候,用C語言進行設計。Altera還有一個已經開發的OpenCL環境。關鍵是兩家公司都在試圖創建一個環境,讓用戶可以使用更熟悉的編程(如C和OpenCL),而不必是使用RTL設計專家所擅長的Verilog或VHDL。雖然在過去幾年里取得不錯的成績,但這仍然處于推進的階段,不過這將有助于把更多的事情地移入主流。

  其中一個對FPGA真正有利的因素就是如果將其和芯片搭配使用,建立一個快速的內部互聯,它能解決memory和數據移動中的限制。這種優勢就是吸引Intel收購Altera的主要誘因。另外,如果像英特爾和IBM這樣的大公司能夠積極推動FPGA的軟件生態系統的建設,其應用市場將會迅速擴張。FPGA的主流化(至少現在沒有GPU那么重要,)可能會更快地出現。

  Tessier解釋:“標準核心處理器集成的增加肯定是關鍵所在。過去的障礙是語言和工具,隨著這些障礙越來越少,為芯片供應商新的合作機會打開了一扇門。由于這些和其他”主流化“趨勢出現,不斷做出的改變的FPGA的應用領域將繼續增長。例如,金融服務商店是第一個使用FPGA進行財務趨勢和股票選擇分析的用戶,但使用案例正在擴大?,F在有更強的設備可以解決更大的問題。

  更廣泛的應用領域

  除此之外,FPGA通過的其他新領域發現新用途,包括DNA測序,安全性,加密和一些關鍵的機器學習任務。

  當然,我們希望FPGA變得強大,并”進入“世界上最大的云端和超大規模數據中心,Xilnix數據中心部門副總裁Hamant Dhulla對此表示強烈贊同。他在2016年初,他告訴The Next Platform, ”異構計算已經不再是一種趨勢,而是現實“,也就是在那個時候,微軟推出了使用FPGA的Catapult案例(現在就很多或以后會很多),英特爾收購了Altera以及看到了更多FPGA將廣泛應用在數據中心的聲明。

  從機器學習,高性能計算,數據分析等領域,FPGA在更多樣化的應用領域中嶄露頭角。這些都與FPGA上嵌入了越來越多可用的on-chip存儲器有關,這些都是FPGA制造商和潛在終端用戶所期待的。

  Dhulla表示,市場潛力足夠大,讓Xilinx能夠調整其業務的方式。 過去幾年,存儲和網絡主導了FPGA用戶群。但未來五年內,計算端的需求將遠遠超過存儲和網絡,并都將沿著穩定的增長線繼續發展。

  在FPGA其他的熱門領域(包括機器學習),它們的更像是一個帶有GPU 的”協作“加速器。毫無疑問,對于許多機器學習工作負載的訓練部分,GPU是主要的。因此為這里需要很多計算能力,就像HPC一樣,其中power envelope tradeoff值得的。但是這些客戶購買了數十或數百個GPU,而不是數十萬個,龐大的加速器數目正使用在機器學習pipeline的推理部分,這就是市場所在。

  正如我們指出的,Nvidia正在使用兩個獨立的GPU(用M4來訓練,更低功耗的M4插入來削減服務器)來抵消這一點,但Dhulla認為FPGA仍然能夠通過采用PCIe方法降低功耗,也可以嵌入超大規模數據中心。

  他們的SDAccel編程環境通過提供對C,C ++和OpenCL的高級接口,使其更實用,但是推動超大規模和HPC采用的真正途徑是通過最終用戶示例。

  當涉及到這些早期的用戶,就像為下一代的FPGA的應用搭建了舞臺,Dhulla指向像Edico Genome這樣的公司。Xilinx目前還與其他領域的客戶合作,包括石油和天然氣和金融方面的歷史計算方面。早期客戶將Xilinx 的FPGA應用在機器學習,圖像識別和分析以及安全性方面,這可以看作他們計算加速業務發展的第一步。

  盡管雙精度性能和總體價格不佳,FPGA的真正的大規模應用機會在于云端。因為FPGA可以提供GPU所不能提供的優勢。如果FPGA供應商能夠說服其最終用戶,他們的加速器可以提供相當大的性能提升(在某些情況下他們會這樣做)給關鍵的工作負載。提供一個通過帶有其他加速器(例如CUDA)的complexity-wise的編程環境推進OpenCL開發,通過在云端中提供FPGA來解決價格問題。這可能是一個新的希望。

  當然,這種希望來源于將FPGA部署到有超密集服務器云端架構內,而不是在單機的銷售上。這種模式已經在FPGA的金融服務中發生。

  正如他們GPU加速器”伙伴“圍繞深度學習進行拉動,以便迅速得到更多的用戶, FPGA設備在探索一個通過解決神經網絡和深度學習的問題的方式找尋入侵市場的真正的機會。

  新的應用程序主機意味著新的市場,隨著云端應用的推廣消除了一些管理開銷,它可能意味著更廣泛的采用。FPGA供應商努力推動它在一些關鍵的機器學習,神經網絡和搜索方面的應用。FPGA在諸如自然語言處理,醫學成像,深度數據檢測等領域中的超大規模上下文中變得越來越普遍。

  在過去一年里,FPGA的多種應用得到曝光,特別是在深度學習和神經網絡,以及圖像識別和自然語言處理等領域。例如,微軟使用FPGA在1,632個節點上提供2倍的搜索服務,并采用創新的高吞吐量網絡來支持Altera FPGA驅動的工作。中國的搜索引擎巨頭百度(也是許多深度學習和神經網絡任務GPU用戶)正在用FPGA執行存儲控制,其每天的數據吞吐量在100TB到1PB之間。

  使用FPGA的大規模數據中心和其他領域的應用正在吸引人們對FPGA的單精度浮點性能的更多關注。

  雖然一些案例使用(包括百度示例),將GPU作為計算加速器和FPGA用在存儲端,但Altera,Xilnix,Nallatech和IBM的研究人員在OpenPower聯盟展示了FPGA在云端深度學習的光明前景。

  可以說現在屬于FPGA的一個黃金時代。



更多信息可以來這里獲取==>>電子技術應用-AET<< 

mmexport1621241704608.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          欧美激情影音先锋| 久久一区二区三区av| 国产精品九九久久久久久久| 男人的天堂亚洲在线| 久久亚洲春色中文字幕久久久| 欧美大胆a视频| 国产亚洲成人一区| 亚洲人精品午夜| 黄色国产精品| 久久精品免费播放| 国产精品99免视看9| 在线亚洲一区观看| 久久久久久一区二区三区| 久热国产精品视频| 鲁大师影院一区二区三区| 国产伦理一区| 国产精品揄拍一区二区| 亚洲男人第一av网站| 欧美亚洲在线观看| 欧美成人一区二区三区片免费| 国产欧美日韩视频一区二区三区| 久久精品人人爽| 午夜精品福利电影| 亚洲国产精品电影| 欧美在线一级视频| 国产精品爽爽ⅴa在线观看| 一区在线视频| 欧美激情自拍| 国产日韩一区欧美| 亚洲欧美日韩在线一区| 亚洲欧美视频一区二区三区| 日韩视频免费看| 欧美尤物一区| 亚洲精品视频免费在线观看| 一个人看的www久久| 欧美日韩在线播放一区二区| 亚洲综合日本| 欧美手机在线| 亚洲第一精品影视| 亚洲一二三区在线观看| 一本色道久久99精品综合| 欧美亚洲综合在线| 欧美日韩一区二区三区在线观看免| 午夜精品久久久久久久99热浪潮| 国产精品一区一区三区| 蜜臀a∨国产成人精品| 欧美午夜在线观看| 亚洲欧美中文日韩在线| 欧美成人日韩| 国内激情久久| 国产精品成人一区二区三区吃奶| 欧美一乱一性一交一视频| 欧美人与性禽动交情品| 99精品国产在热久久下载| 久久午夜激情| 欧美在线观看视频一区二区三区| 免费欧美视频| 极品少妇一区二区三区| 国产网站欧美日韩免费精品在线观看| 欧美日韩综合视频网址| 亚洲午夜精品一区二区| 欧美日韩在线电影| 在线亚洲成人| 香蕉久久精品日日躁夜夜躁| 一区二区三区福利| 久久精品国产99国产精品| 久久精品三级| 亚洲视频一区在线观看| 国产一区二区三区无遮挡| 亚洲天堂免费观看| 欧美黄色日本| 女女同性女同一区二区三区91| 欧美国产欧美亚洲国产日韩mv天天看完整| 国产女人精品视频| 欧美在线播放一区| 久久美女艺术照精彩视频福利播放| 欧美视频在线免费| 欧美日韩亚洲天堂| 香蕉成人啪国产精品视频综合网| 欧美a级片一区| 欧美精品国产一区| 亚洲综合日韩中文字幕v在线| 欧美日韩麻豆| 欧美日韩在线免费观看| 国产亚洲高清视频| 亚洲黄色av一区| 男女精品网站| 久久婷婷蜜乳一本欲蜜臀| 亚洲美女在线国产| 欧美日韩国产麻豆| 午夜在线一区二区| 亚洲狠狠婷婷| 亚洲国产精品久久精品怡红院| 国产欧美视频一区二区| 国产精品日韩欧美一区二区| 亚洲精品一区二区三区樱花| 亚洲国产精品va在线观看黑人| 国产一区二区你懂的| 国产精品美女久久久久久免费| 亚洲精品乱码久久久久久日本蜜臀| 久久成人免费| 樱花yy私人影院亚洲| 欧美亚洲色图校园春色| 性欧美大战久久久久久久久| 亚洲免费在线看| 亚洲欧美在线高清| 国产精品日本欧美一区二区三区| 亚洲国产精品国自产拍av秋霞| 欧美理论视频| 欧美日韩国产在线播放网站| 你懂的视频一区二区| 国产精品手机视频| 性亚洲最疯狂xxxx高清| 欧美日韩国语| 欧美成人四级电影| 欧美日韩在线不卡一区| 久久久精品午夜少妇| 国产麻豆一精品一av一免费| 亚洲无玛一区| 精品成人国产在线观看男人呻吟| 亚洲大片在线观看| 欧美专区日韩视频| 国产在线一区二区三区四区| 狠狠色丁香久久婷婷综合_中| 亚洲一级二级| 最新国产成人av网站网址麻豆| 欧美一区二视频在线免费观看| 亚洲欧美日韩国产一区| 136国产福利精品导航网址应用| 亚洲欧美资源在线| 亚洲视频综合| 久久天天躁狠狠躁夜夜爽蜜月| 欧美一区二区在线免费观看| 亚洲一二三区精品| 一区二区三区在线视频观看| 国产精品永久免费观看| 亚洲视频免费在线观看| 性欧美video另类hd性玩具| 免费短视频成人日韩| 国语精品中文字幕| 亚洲精品一区二| 经典三级久久| 在线视频国内自拍亚洲视频| 一区二区三区**美女毛片| 亚洲日本中文字幕免费在线不卡| 麻豆成人精品| 国内精品伊人久久久久av影院| 裸体一区二区三区| 久久经典综合| 久久精品五月婷婷| 欧美精品一区二区三区四区| 欧美日本免费一区二区三区| 欧美黄色免费网站| 中文精品一区二区三区| 国内精品国产成人| 国产曰批免费观看久久久| 亚洲日韩欧美视频一区| 国产日韩精品视频一区| 日韩一区二区福利| 亚洲精品日韩综合观看成人91| 亚洲精品一区二| 亚洲校园激情| 亚洲福利在线视频| 性欧美暴力猛交69hd| 欧美麻豆久久久久久中文| 亚洲欧洲免费视频| 国产日韩亚洲欧美精品| 蜜桃av一区二区三区| 99re视频这里只有精品| 国产亚洲一本大道中文在线| 久久精品一本久久99精品| 久久久久久自在自线| 在线精品视频一区二区| 亚洲视频1区2区| 国产午夜精品一区理论片飘花| 亚洲国产精品电影在线观看| 欧美三级日本三级少妇99| 欧美一区二区三区四区视频| 9色国产精品| 欧美伊人久久大香线蕉综合69| 老牛影视一区二区三区| 亚洲美女电影在线| 老司机凹凸av亚洲导航| 欧美调教vk| 午夜精品久久久久99热蜜桃导演| 午夜久久影院| 国产精品mm| 99热免费精品在线观看| 欧美久久久久久久久久| 免费在线欧美黄色| 一区二区三区中文在线观看| 国产自产在线视频一区| 影音先锋欧美精品| 国产精品国内视频| 亚洲精品免费网站| 久久天天狠狠| 久久精品国产精品| 欧美日韩国产综合视频在线观看| 国产精品一区二区在线观看| 欧美粗暴jizz性欧美20| 国产精品久久99| 午夜精品网站| 国产精品入口尤物| 欧美天堂亚洲电影院在线观看| 亚洲激情婷婷| 欧美成人有码| 欧美成人国产一区二区| 国产亚洲欧美另类一区二区三区| 欧美性大战久久久久久久蜜臀| 亚洲无亚洲人成网站77777| 国产精品久久久久久久久借妻| 亚洲第一成人在线| 香蕉久久国产| 国产精品欧美一区二区三区奶水| 激情小说亚洲一区| 亚洲视频免费在线| 亚洲最新色图| 欧美日韩一区二区在线观看视频| 国产日韩欧美三区| 亚洲美女一区| 国产精品午夜在线| 欧美一区二区播放| 一本色道久久综合| 亚洲精品网址在线观看| 国模吧视频一区| 国产精一区二区三区| 日韩午夜电影在线观看| 国产精品国内视频| 亚洲精品在线看| 久久精品一区二区三区不卡牛牛| 亚洲国产精品ⅴa在线观看| 欧美精品www在线观看| 欧美激情国产精品| 国产精品综合av一区二区国产馆| 亚洲精品国产精品国产自| 欧美国产成人在线| 亚洲欧美日韩爽爽影院| 中文精品视频一区二区在线观看| 亚洲丰满少妇videoshd| 欧美激情视频一区二区三区免费| 一区二区三区av| 在线成人激情视频| 99视频在线观看一区三区| 精久久久久久久久久久| 亚洲精品综合| 99riav1国产精品视频| 日韩一区二区电影网| 亚洲精品国产品国语在线app| 亚洲欧美怡红院| 欧美成人激情在线| 鲁大师成人一区二区三区| 亚洲欧美自拍偷拍| 国产精品成人久久久久| 黄色成人91| 夜夜嗨av一区二区三区网页| 国产欧美韩国高清| 欧美永久精品| 中国av一区| 国产综合久久久久影院| 久久久一本精品99久久精品66| 久久精品视频在线看| 国产一区二区日韩| 亚洲人成在线播放网站岛国| 国产精品久久久久久福利一牛影视| 国产日本亚洲高清| 欧美一级久久久| 日韩视频永久免费观看| 欧美精品一区二区在线播放| 欧美成人乱码一区二区三区| 欧美阿v一级看视频| 黄色成人精品网站| 亚洲在线视频观看| 亚洲国产精品一区二区www在线| 亚洲国产专区| 国产精品成人观看视频国产奇米| 国产日韩在线一区二区三区| 夜夜嗨一区二区三区| 欧美日韩国产黄| 伊人精品久久久久7777| 欧美福利视频一区| 国产精品成人免费视频| 狼狼综合久久久久综合网| 国产亚洲精品美女| 国产精品毛片高清在线完整版| 99国产精品久久久久老师| 亚洲免费人成在线视频观看| 欧美猛交免费看| 亚洲新中文字幕| 久久不射中文字幕| 欧美日韩一区二区三区视频| 亚洲国产黄色片| 日韩亚洲视频| 国产日韩欧美夫妻视频在线观看| 欧美日韩视频专区在线播放| 国产精品视频九色porn| 日韩亚洲欧美成人| 一区二区日韩欧美| 欧美日韩中文字幕| 国产亚洲欧美aaaa| 亚洲人屁股眼子交8| 国产精品综合久久久| 亚洲视频免费在线观看| 亚洲欧美区自拍先锋| 一区二区欧美国产| 亚洲高清资源综合久久精品| 黄色一区二区在线| 美女国内精品自产拍在线播放| 久久香蕉国产线看观看av| 亚洲小少妇裸体bbw| 国产一区二区三区日韩欧美| 国产三区二区一区久久| 欧美日韩a区| 亚洲第一主播视频| 午夜视频在线观看一区| 亚洲欧美日韩区| 国产精品国产自产拍高清av王其| 欧美亚洲一级片| 亚洲欧美综合网| 欧美一区激情| 亚洲国产精品久久久久秋霞影院| 国产主播一区二区三区四区| 欧美一区二区三区日韩视频| 欧美综合国产精品久久丁香| 男女av一区三区二区色多| 欧美日韩一区成人| 亚洲视频免费在线观看| 久久蜜桃资源一区二区老牛| 亚洲国产成人久久|