《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 設計應用 > 基于殘差統計的時間序列加性離群點檢測算法研究
基于殘差統計的時間序列加性離群點檢測算法研究
張 玲,劉 波
國家數字交換系統工程技術研究中心,北京100094
摘要: 針對時間序列,提出了一種基于殘差統計的加性離群點檢測算法,利用AR模型對時間序列進行前向與后向擬合;采用了數據相對變化率判別法減少離群點對擬合的影響;根據假設檢驗原理,以高斯分布統計檢驗對殘差進行統計分析并最終確定離群點。仿真結果表明,該方法對離群點檢測有較高的準確性。
中圖分類號: TP311.11
文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.2015.09.023

中文引用格式: 張玲,劉波. 基于殘差統計的時間序列加性離群點檢測算法研究[J].電子技術應用,2015,41(9):85-87,91.
英文引用格式: Zhang Ling,Liu Bo. Residuals statistics-based additive outlier detection algorithm for time series[J].Application of Electronic Technique,2015,41(9):85-87,91.
Residuals statistics-based additive outlier detection algorithm for time series
Zhang Ling,Liu Bo
China National Digital Switching System Engineering and Technological Research Center,Beijing 100094,China
Abstract: We propose a residuals statistics-based additive outlier detection algorithm for one-dimensional time series, The basic idea is using time series AR model for forward and backward fitting. In order to reduce the influence of outlier, we use data’s relative change rate to preliminary judge the outlier. According to hypothesis testing theory and Gauss distribution statistic testing, we find out the outliers. The simulation results show that the this method has good performance on outlier detection.
Key words : time series;outlier;AR model;Gauss distribution


0 引言
    在時間序列數據挖掘中,不可避免地存在一些遠離序列一般水平的極端大值和極端小值,或者與其他序列樣本點一般行為或特征不一致的點值,這些點被稱做離群點。離群點的產生可能是采樣中的誤差,也可能是被研究對象本身由于受各種偶然非正常的因素影響而引起的。一方面,離群點的存在會影響時間序列模式表示,可能使數據挖掘陷入混亂,導致在隨后的數據處理過程中產生偏差或誤導;另一方面,離群點可以提供一些潛在的重要信息。目前,時間序列離群點檢測作為對數據進行挖掘處理的第一步,已經成為該研究領域的重要方向之一,并廣泛應用于通信流量監測、工業故障診斷、金融貿易等方面。
    時間序列中的離群點有很多類型,按照出現的個數,可以分為孤立離群點和成片離群點,按照產生的影響可以分為加性離群點AO(Additive Outlier)、更新離群點IO(Innovational Outlier)、水平移位離群點LS(Level Shift Outlier)和暫時變更離群點TC(Temporary Change Outlier)[1]。本文主要對時間序列中的加性離群點檢測方法進行研究,并在此基礎上提出了一種基于殘差統計的檢測方法,仿真結果表明該方法在檢測加性離群點方面具有較好的性能。
1 離群點檢測方法研究
    針對無序的數據集,離群點檢測方法主要有基于統計的方法、基于距離的方法[4]、基于密度的方法[5]和基于偏離的方法。近年來,不少研究人員提出了專門針對時間序列的離群點檢驗算法,主要有統計診斷方法、貝葉斯方法、遺傳算法、人工神經網絡、小波檢測等。國內也有相關人員對此做了深入的研究[2-5]。文獻[6]提出了基于粗糙集理論的序列離群點檢測方法,它利用粗糙集理論中的知識熵和屬性重要性等概念來構建三種類型的序列,并通過分析序列中元素的變化情況來檢測離群點。文獻[7]通過建立多變量時間序列數據相似度矩陣,對相似度矩陣進行轉換以最大化數據之間的相關性,并采用隨機游走模型計算數據點之間的連接系數來檢測數據點上的異常。文獻[8]指出離群點與它所在時間段內的其他數據不具有相似性,從時序圖上看,離群點相對于它相鄰區域內的數據具有很強的跳躍性,進而提出基于數據相對變化率的時間序列離群點識別方法。
2 基于殘差統計的加性離群點檢測算法
2.1 問題提出

    對于時間序列,離群點可能會隱藏在時間序列的趨勢、季節或其他變化中,增加了檢測難度。以圖1所示的時間序列為例,兩個時間序列都處于上升趨勢,A點明顯偏離了整個趨勢,應判定為離群點;B點雖然與前向時刻點在幅度變化率上發生了較大變化,但符合后向時刻點的變化趨勢,是一個正常時間序列點,因此不應判定為離群點。

201509b-tx1t1.jpg

圖1  受加性離群點“干擾”的時間序列與正常時間序列

    本文以一維時間序列為研究對象,提出了一種基于殘差統計的加性離群點檢測算法,基本思想是利用p階AR模型對時間序列進行前向與后向擬合,得到每個時間點擬合殘差。采用了鄰域區間變化率判別法對離群點進行初判,初判的疑似離群點不參與擬合運算。最后根據高斯分布假設檢驗的方法對殘差進行統計分析并最終確定離群點。
    定義待檢測時間序列數據樣本為xt,t=1,2,3,4…M,xt∈R,并做如下假設:
    (1)離群點隨機分布;
    (2)正常數據的數量遠大于離群點數量。
2.2 算法描述
2.2.1 鄰域區間變化率

    定義1 鄰域區間變化率:時間序列各時刻點與相鄰前后時刻的幅度變化率。設時刻t的鄰域區間變化率為δt,則:
    δt=|(xt-xt-1)+(xt-xt+1)|
    對所有δt進行考慮,選定門限δ,δ值的計算可以采用平均法或加權計算等。若δt>δ,則將xt標志為LK點(疑似離群點),否則標志為uLK點(非疑似離群點)。
    離群點相對于它前后相鄰數據都會有較大變化,因此鄰域區間變化率要同時對前向時刻和后向時刻進行考慮。定義LK點和uLK點是為了在擬合過程中盡量減少離群點的影響,對疑似離群點不作擬合參考。
2.2.2 AR模型擬合與參數計算
    擬合常用的模型有AR模型、MA模型、ARIMA模型等。AR模型一般用于擬合平穩的時間序列,而時間序列從局部來看近似一個平穩的過程,并且AR模型結構相對簡單,擬合精度較高,因此本文選用p階自回歸AR模型。為了準確反應各檢測點的局部變化屬性,并減少離群點對參數估計的影響,本文在文獻[9]所采用的兩窗口模型基礎上,提出了改進的窗口計算模型,基本原理是:檢測窗口僅包含t時刻待檢測點,前向學習窗口和后向學習窗口位于檢測窗口鄰近兩側,寬度為N,并且N>p,根據前向和后向學習窗口中的數據分別對t時刻待檢測點進行前向和后向擬合,采用剪枝思想,若學習窗口中包含疑似離群點LK,則該點退出學習窗口不參與計算,其余時間軸上的uLK點向t時刻整體移位并填滿窗口。如圖2所示。

201509b-tx1t2.jpg

圖2  改進的窗口模型

K[%M%%%LUM]HI4JEPTUTXWY.png

2.2.3 高斯統計檢測
    基于假設檢驗理論,在一定的顯著性水平下,擬合殘差εt近似服從高斯分布,即ε~N(u,σ2)。并且在假設2前提下,高斯分布作為殘差統計模型對離群點判決同樣具有較高置信度。在此,選擇高斯分布做為統計模型,εt的概率密度為:
B[}C05N)K]M2BR%YK5ZZ%T5.png

3 仿真
    為了驗證本文所提算法的有效性,以局域網內某主機通信流量監測數據為對象進行測試。通信流量監測是網絡管理的重要內容,通過流量監測,可以全面透視網絡的流量控制,快速定位和發現網絡故障,并保障關鍵應用的穩定運行,減少泄密風險。一般情況下,主機通信流量的具體業務包括Web、Telnet、SNMP、請求應答數據包等,在仿真實驗中,通過隨機加入異常事件,比如網絡擁塞、數據分發等來模擬加性離群點。
    圖3所示為某日上午8:00-12:00的某主機通信流量監測數據,單位為KB/min,數據樣本200個,離群點5個。窗口寬度取15,模型階數取4,擬合殘差分布情況如圖4所示。由圖看出,擬合后,離群點的殘差值與正常的浮動范圍相比有較大偏移。

201509b-tx1t3.jpg

圖3  加入AO的通信流量監測數據

    為了驗證算法對離群點數量的魯棒性,在200個流量監測數據樣本點中分別隨機加入5、10、15、20個離群點,擬合計算的窗口寬度取15,模型階數取4,概率判決臨界值分別取0.95、0.95、0.9、0.9。在仿真測試中并未使用離群點數量先驗知識。在此定義兩個檢測指標:

201509b-tx1t4.jpg

圖4  擬合殘差

    檢出率:檢測出的真實離群點數量與實際離群點數量之比。
    誤檢率:檢測出的錯誤離群點數量與實際離群點數量之比。

)@OK9M_IDAFJTP@ZD$(~A5L.png

    檢測統計結果如表1所示。結果顯示,當實際離群點數量在樣本中的比重小于0.05時,算法能對離群點進行完全有效地檢測,當實際離群點數量在樣本中的比重大于0.1時,檢出率下降,誤檢率有所上升,但此時離群點的發生不再是小概率事件,根據加性離群點對時間序列產生的影響上看,它不符合加性離群點特征。因此,本文所提算法對檢測時間序列中的加性離群點有較好的性能,同時,在實際應用中證明該算法對其他類型離群點的檢測也有一定的魯棒性。
4 結論
    本文針對時間序列中的加性離群點檢測,提出了一種基于殘差統計的檢測算法。該算法利用AR模型計算每個樣本點擬合殘差,通過統計分析殘差的概率分布來判別離群點。通過對局域網某主機通信流量監測數據的仿真結果顯示,該算法在檢測加性離群點方面是有效的,結果有較高的置信度。此外,在對擬合殘差進行分析時,除了本文采用的統計模型方法外,還可以采用基于密度的聚類的方法。另外如何檢測時間序列中其他類型的離群點也是值得研究的內容。
參考文獻
[1] 胡云,王崇駿,謝俊元,等.社群演化的隱健遷移估計及演化離群點檢測[J].軟件學報,2013,24(11):2710-2720.
[2] Hu Tianming,Sung Sam Yuan.A trimmed mean approach to finding spatial outliers[J].Intelligent Data Analysis,2004,8(1):79-95.
[3] ALARCON-AQUINO V,BARRIA J A.Anomaly detection in communication networks using wavelets[J].Communications,IEEE,2001,148(6):355-362.
[4] 劉耀宗,張宏,孟錦,等.基于小波密度估計的數據流離群點檢測[J].計算機工程,2013,39(2):178-181.
[5] 江峰,杜軍威,葛艷,等.基于粗糙集理論的序列離群點檢測[J].電子學報,2011(2):345-350.
[6] 李權,周興社.一種新的多變量時間序列數據異常檢測方法[J].時間頻率學報,2011,34(2):154-158.
[7] 周勇.時間序列時序關聯規則挖掘研究[D].成都:西南財經大學,2008.
[8] 蘇衛星,朱云龍,胡琨元,等.基于模型的過程工業時間序列異常值檢測方法[J].儀器儀表學報,2012(9):2080-2087.
[9] 皇甫堪,陳建文,樓生強.現代數字信號處理[M].北京:電子工業出版社,2003.
[10] 薛安榮,鞠時光,何偉華,等.局部離群點挖掘算法研究[J].計算機學報,2007(8):1455-1463.

此內容為AET網站原創,未經授權禁止轉載。
热re99久久精品国产66热_欧美小视频在线观看_日韩成人激情影院_庆余年2免费日韩剧观看大牛_91久久久久久国产精品_国产原创欧美精品_美女999久久久精品视频_欧美大成色www永久网站婷_国产色婷婷国产综合在线理论片a_国产精品电影在线观看_日韩精品视频在线观看网址_97在线观看免费_性欧美亚洲xxxx乳在线观看_久久精品美女视频网站_777国产偷窥盗摄精品视频_在线日韩第一页
  • <strike id="ygamy"></strike>
  • 
    
      • <del id="ygamy"></del>
        <tfoot id="ygamy"></tfoot>
          <strike id="ygamy"></strike>
          欧美综合77777色婷婷| 欧美成人免费全部| 亚洲精品一区二区三区婷婷月| 国产精品亚洲片夜色在线| 亚洲视频一起| 国产一区二区视频在线观看| 亚洲美女精品久久| 99这里有精品| 欧美第一黄色网| 日韩亚洲国产欧美| 亚洲美女色禁图| 亚洲电影欧美电影有声小说| 亚洲久久成人| 91久久在线视频| 国产精品免费在线| 久久综合福利| 亚洲欧美日韩国产综合| 欧美日韩ab| 亚洲国产日韩在线| 欧美精品在线看| 亚洲精品字幕| 欧美日韩国产另类不卡| 国产精品久久久久久久第一福利| 国产欧美日韩一区二区三区在线| 久久久91精品国产| 欧美激情一区二区三区| 久久综合狠狠综合久久综青草| 亚洲视频在线观看视频| 亚洲视频一区二区| 久久先锋影音| 99视频热这里只有精品免费| 久久精品九九| 中国成人亚色综合网站| 亚洲欧美精品中文字幕在线| 欧美精品久久久久久| 在线看片日韩| 日韩视频在线免费| 国产欧美 在线欧美| 欧美不卡激情三级在线观看| 欧美一区二区三区视频| 欧美日韩成人一区| 欧美大片在线观看一区二区| 亚洲素人一区二区| 欧美www视频在线观看| 国产精品久久久久9999高清| 国产精品视频内| 亚洲韩国青草视频| 久久精品123| 午夜亚洲福利在线老司机| 国产欧美在线观看| 樱桃国产成人精品视频| 日韩亚洲欧美一区二区三区| 亚洲免费视频一区二区| 韩国三级在线一区| 麻豆精品一区二区av白丝在线| 欧美日韩精品免费观看| 99精品欧美一区二区蜜桃免费| 欧美一区二区三区另类| 欧美影院久久久| 老色鬼精品视频在线观看播放| 狠狠色综合日日| 你懂的国产精品永久在线| 欧美丝袜一区二区| 老**午夜毛片一区二区三区| 蜜桃久久精品一区二区| 宅男精品导航| 欧美午夜一区二区三区免费大片| 在线日韩日本国产亚洲| 美女视频一区免费观看| 欧美破处大片在线视频| 美女国产精品| 国产精品热久久久久夜色精品三区| 久久夜色精品| 亚洲国产精品毛片| 欧美精品免费播放| 亚洲国产日韩欧美综合久久| 欧美日韩一区二区在线| 99av国产精品欲麻豆| 国产欧美一区二区三区另类精品| 欧美日韩调教| 久久成人18免费观看| 91久久国产综合久久| 一区二区三区无毛| 亚洲区欧美区| 在线观看亚洲a| 欧美激情亚洲综合一区| 欧美资源在线观看| 在线色欧美三级视频| 欧美国产日韩精品| 欧美日韩精品在线观看| 黄色日韩网站| 午夜精品99久久免费| 黄网站色欧美视频| 久久精品理论片| 激情久久五月天| 亚洲免费在线观看| 久久五月婷婷丁香社区| 美乳少妇欧美精品| 国产人妖伪娘一区91| 亚洲国产日韩综合一区| 欧美日韩综合一区| 亚洲午夜精品国产| 久久精品国产亚洲精品| 欧美日本在线看| 免费日韩一区二区| 欧美专区一区二区三区| 一本一本久久a久久精品综合麻豆| 国产精品男人爽免费视频1| 激情欧美一区二区三区| 久久久久久久成人| 欧美午夜欧美| 巨胸喷奶水www久久久免费动漫| 欧美理论片在线观看| 亚洲一区二区三区在线看| 欧美一区二区三区精品电影| 亚洲第一区中文99精品| 国产乱码精品一区二区三区五月婷| 欧美日韩精品一区二区三区四区| 国产亚洲精品资源在线26u| 欧美日韩免费观看中文| 午夜精品电影| 国产精品久久久久久久久久久久| 久久久久久香蕉网| 国产亚洲一区二区在线观看| 在线观看视频一区二区| 久久精品30| 久久人人看视频| 国产精品videosex极品| 亚洲欧洲精品天堂一级| 久久精品国产亚洲aⅴ| 亚洲国产福利在线| 国产亚洲一区二区精品| 欧美国产激情二区三区| 欧美国产精品中文字幕| 好吊妞**欧美| 99在线热播精品免费| 久久久久久久久蜜桃| 国产亚洲欧美一区二区三区| 亚洲第一中文字幕在线观看| 在线性视频日韩欧美| 激情久久久久久久| 欧美精品久久久久久| 亚洲二区在线观看| 久久综合99re88久久爱| 国产精品青草综合久久久久99| 美女尤物久久精品| 性久久久久久久| 免费人成精品欧美精品| 欧美伊人久久大香线蕉综合69| 国产精品xxxxx| 亚洲小少妇裸体bbw| 欧美全黄视频| 亚洲黄色成人网| 午夜精品免费视频| 宅男精品视频| 国产精品二区二区三区| 久久综合狠狠综合久久激情| 亚洲伊人色欲综合网| 国内久久视频| 亚洲欧美精品在线观看| 一色屋精品视频免费看| 久久网站热最新地址| 亚洲欧美综合网| 久久在线播放| 免费在线观看精品| 国产精品嫩草久久久久| 亚洲小视频在线观看| 国产精品极品美女粉嫩高清在线| 欧美激情二区三区| 欧美日韩国产页| 麻豆亚洲精品| 狠狠狠色丁香婷婷综合激情| 亚洲精品视频在线观看网站| 亚洲欧洲一区二区三区在线观看| 午夜精品视频一区| 久久精品国产第一区二区三区| 激情文学一区| 亚洲欧美日韩精品久久久| 欧美精品一区在线播放| 9色porny自拍视频一区二区| 久久国产婷婷国产香蕉| 在线精品在线| 亚洲国产日韩欧美在线99| 最新日韩精品| 亚洲老板91色精品久久| 国产一区二区三区的电影| 一区二区三区视频免费在线观看| 亚洲国产精品一区二区久| 欧美人体xx| 欧美激情1区2区3区| 在线免费高清一区二区三区| 国产精品久久久久av| 亚洲国产影院| 亚洲综合色网站| 亚洲欧美日韩国产| 久久午夜羞羞影院免费观看| 夜夜爽99久久国产综合精品女不卡| 一本久久综合亚洲鲁鲁| 亚洲日韩第九十九页| 国产女人aaa级久久久级| 久久久久国产精品一区二区| 亚洲欧美一区二区三区久久| 国产精品老牛| 久久综合久色欧美综合狠狠| 欧美色网在线| 亚洲欧洲一区二区三区在线观看| 91久久久精品| 韩日精品中文字幕| 一区二区三区日韩欧美精品| 亚洲视频在线观看一区| 一本久道久久综合中文字幕| 欧美亚洲专区| 久久久久久一区二区三区| 中国女人久久久| 午夜精品久久久99热福利| 国产精品免费小视频| 国产精品人成在线观看免费| 国产曰批免费观看久久久| 激情欧美国产欧美| 亚洲精品视频一区二区三区| 欧美一区二区三区视频| 欧美亚洲日本国产| 亚洲性夜色噜噜噜7777| 欧美成人精精品一区二区频| 国产欧美日韩一区二区三区在线观看| 久久九九有精品国产23| 韩国av一区二区三区在线观看| 欧美激情1区2区| 麻豆久久精品| 久久久亚洲国产美女国产盗摄| 欧美天堂亚洲电影院在线观看| 久久尤物视频| 国产一区二区三区最好精华液| 欧美午夜激情视频| 欧美一区二视频| 国产色婷婷国产综合在线理论片a| 久久人人爽爽爽人久久久| 91久久久久久| 乱中年女人伦av一区二区| 雨宫琴音一区二区在线| 国产女优一区| 国内精品久久久久影院优| 久久婷婷久久| 欧美精品在欧美一区二区少妇| aaa亚洲精品一二三区| av不卡在线看| 免费欧美在线| 久久美女艺术照精彩视频福利播放| 女人香蕉久久**毛片精品| 亚洲欧美成aⅴ人在线观看| 久久久精品视频成人| 韩国亚洲精品| 一区二区欧美日韩视频| 久久成人这里只有精品| 欧美日韩三级电影在线| 在线中文字幕不卡| 亚洲欧洲综合另类在线| 国产一区二区三区在线免费观看| 亚洲欧美另类在线| 国内精品久久久久国产盗摄免费观看完整版| 伊人久久久大香线蕉综合直播| 国产伦理精品不卡| 久久一区中文字幕| 亚洲视频www| 亚洲精品乱码视频| 午夜伦理片一区| 99国内精品久久| 欧美日韩在线播放三区| 精久久久久久久久久久| 久久av老司机精品网站导航| 中文在线一区| 欧美在线观看天堂一区二区三区| 国产最新精品精品你懂的| 亚洲视频在线播放| 欧美午夜精品久久久久久人妖| 欧美日韩亚洲成人| 老牛影视一区二区三区| 黄色国产精品一区二区三区| 亚洲日本va午夜在线影院| 欧美看片网站| 日韩一二在线观看| 亚洲欧洲一区| 亚洲第一中文字幕| 久久蜜桃香蕉精品一区二区三区| 亚洲三级免费| 欧美日韩国产成人精品| 国产亚洲综合性久久久影院| 国产精品乱看| 久久精品理论片| 国产亚洲欧美一区在线观看| 蜜臀a∨国产成人精品| 亚洲欧洲精品一区二区三区不卡| 亚洲精品乱码久久久久久黑人| 欧美日韩dvd在线观看| 久久蜜桃香蕉精品一区二区三区| 亚洲人屁股眼子交8| 日韩天堂在线视频| 亚洲欧美福利一区二区| 亚洲精品在线一区二区| 亚洲精品国产拍免费91在线| 欧美人在线观看| 久久色在线观看| 一区二区三区视频在线观看| 欧美三级第一页| 一区二区日韩免费看| 在线一区日本视频| 欧美一区二区在线看| 亚洲精品一区二区三区樱花| 亚洲欧洲一二三| 尤物在线观看一区| 欧美日韩综合久久| 美日韩精品免费观看视频| 欧美国产日韩一二三区| 亚洲一区在线观看视频| 激情成人综合网| 一区二区电影免费观看| 欧美日韩色一区| 欧美精品日日鲁夜夜添| 欧美色图一区二区三区| 欧美一区二区三区四区在线观看地址| 中文精品视频| 国产精品久久亚洲7777| 99视频一区二区| 亚洲一级黄色av| 国产精品国产三级国产普通话99| 99国产精品一区| 亚洲电影在线| 国产精品a久久久久|