天津市統計局 數據管理與大數據應用平台
米兰国际体育直播為天津市統計局建設的數據管理與應用係統充分利用大數據平台的存儲與計算能力,高效整合天津市統計局現有數據資源,建立基礎數據庫和宏觀數據庫。實現係統間的平滑切換、互聯互通,並利用駕駛艙方式實現統計數據的綜合展現,即席查詢、全文檢索等功能。
同時,係統以大數據平台為基礎,以敏捷BI工具為支撐,將定製化流程貫穿統計工作始終,形成了一體化的統計數據管理與應用平台。如此全麵的整合統計業務,在全國尚屬首次,係統幫助天津市統計局全麵提升統計工作信息化水平,增強統計數據處理能力、提高統計數據質量、提升政府統計工作公信力。
業務挑戰
-
應用係統多且效率低下,對統計數據的收集、處理、存檔手段陳舊,數據開發、挖掘程度落後,數據預處理邏輯複雜,處理速度緩慢,缺乏企業畫像和全局檢索的技術手段;
-
係統平台還停留在傳統的關係型數據庫模式,欠缺大數據技術應用,統計時效性差,歸檔數據格式標準不統一,入庫難、分析不夠深入、監測及時性不足等問題比較突出;
-
伴隨著納入管理的指標日益繁雜、數據結構不斷異化、數據總量急速增長,傳統信息化存儲方式和計算能力已不適應統計應用的需要。同時,“數據孤島”、重複建設、資源浪費和計算能力弱等問題也逐步顯現,統計信息化進程遇到了瓶頸。
解決方案
-
運用以hadoop為底層技術架構的集群,以成熟的BI工具作為輔助,並引入了統計相關的模型算法,軟件定製化流程貫穿始終。
-
數據傳輸方麵 利用先進的數據傳輸手段,實現大數據平台無障礙接收各種格式的數據,其中主要包含的格式有:一切使用jdbc方式傳輸的關係型數據庫,以及csv,txt,dmp等;
-
數據處理方麵 數據處理流程實現自動化,原來需要2天才能完成的數據處理工作,被壓縮到2個小時以內,極大提升了工作效率;
-
數據展現方麵 健全的各類報表製作功能,充分滿足統計局業務人員個性化業務需要,實現即席查詢的落地,以及各類圖表、駕駛艙等多種個性化展現形式,滿足不同用戶的需要;
-
全文檢索方麵 建立完整的字典庫,統一元數據,為實現全文檢索打下良好基礎。
客戶價值
-
全國第 一個統計局大數據落地項目,開創了借助大數據技術創新統計工作的先河,解決方案在行業中可複製性強;
-
打破信息之間的“壁壘”,消除“信息孤島”,真正實現信息資源共享,最 大限度地滿足常規統計、尤其是國民經濟核算的數據需求;
-
實現統計數據標準統一,構建和完善智能決策係統的理論基礎和理論體係,實現政府數據交流的網絡平台架構、網絡數據的安全和保密、數據分析和應用體係的軟件設計和完善;
-
通過對大數據標準化和規範化技術的研究,形成大數據統計標準和方法體係,改進統計調查方法和數據采集手段;
-
建立數據質量管控和評估機製,探索、掌握並應用大數據挖掘的新技術、新手段,提升數據利用的價值,提高數據分析能力,完善數據發布手段,建成一體化統計大數據服務體係。