資料介紹
1、優化查詢SQL語句
在對海量數據進行查詢處理過程中,查詢的SQL語句的性能對查詢效率的影響是非常大的,編寫高效優良的SQL腳本和存儲過程是數據庫工作人員的職責,也是檢驗數據庫工作人員水平的一個標準,在對SQL語句的編寫過程中,例如減少關聯,少用或不用游標,設計好高效的數據庫表結構等都十分必要。
?
2、使用文本格式進行處理
對一般的數據處理可以使用數據庫,如果對復雜的數據處理,必須借助程序,那么在程序操作數據庫和程序操作文本之間選擇,是一定要選擇程序操作文本的,原因為:程序操作文本速度快;對文本進行處理不容易出錯;文本的存儲不受限制等。例如一般的海量的網絡日志都是文本格式或者csv格式(文本格式),對它進行處理牽扯到數據清洗,是要利用程序進行處理的,而不建議導入數據庫再做清洗。
3、 定制強大的清洗規則和出錯處理機制
海量數據中存在著不一致性,極有可能出現某處的瑕疵。例如,同樣的數據中的時間字段,有的可能為非標準的時間,出現的原因可能為應用程序的錯誤,系統的錯誤等,這是在進行數據處理時,必須制定強大的數據清洗規則和出錯處理機制。
4、 建立視圖或者物化視圖
視圖中的數據來源于基表,對海量數據的處理,可以將數據按一定的規則分散到各個基表中,查詢或處理過程中可以基于視圖進行,這樣分散了磁盤I/O,正如10根繩子吊著一根柱子和一根吊著一根柱子的區別。
5、 避免使用32位機子(極端情況)
目前的計算機很多都是32位的,那么編寫的程序對內存的需要便受限制,而很多的海量數據處理是必須大量消耗內存的,這便要求更好性能的機子,其中對位數的限制也十分重要。
6、考慮操作系統問題
海量數據處理過程中,除了對數據庫,處理程序等要求比較高以外,對操作系統的要求也放到了重要的位置,一般是必須使用服務器的,而且對系統的安全性和穩定性等要求也比較高。尤其對操作系統自身的緩存機制,臨時空間的處理等問題都需要綜合考慮。
- 富士變頻器維修經驗總結 0次下載
- EMI整改經驗總結 45次下載
- 電路設計的一些經驗總結 42次下載
- TD-LTE網絡優化經驗總結解析 23次下載
- 大數據海量數據處理方法總結 13次下載
- 使用Arduino進行USB Host編程的一些經驗總結
- 手機TDD引起電流聲問題理論和經驗總結 33次下載
- 指針經驗總結 19次下載
- 模擬電路設計經驗總結 0次下載
- 開關電源EMI整改經驗總結 0次下載
- 開關電源測量的經驗總結 0次下載
- 手機RF射頻PCB板布局布線經驗總結 0次下載
- 做四軸飛行器的經驗總結 0次下載
- 線圈天線設計經驗總結 224次下載
- SOPC Builder/Nios 學習經驗總結 0次下載
- 選擇燒結銀的經驗總結 1090次閱讀
- 小型冷庫熱力膨脹閥安裝經驗總結 1234次閱讀
- 數據處理的基本問題 922次閱讀
- Android開發的經驗總結 2676次閱讀
- scikit-learn K近鄰法類庫使用的經驗總結 3081次閱讀
- 機器學習的12大經驗總結 2589次閱讀
- 老電工20年經驗總結的接線技巧分享 1.7w次閱讀
- 嵌入式系統開發學習心得體會_經驗總結 3w次閱讀
- 單片機學習心得體會_經驗總結 3.3w次閱讀
- 汽車電瓶充電的經驗總結 1959次閱讀
- saas系統架構經驗總結 3004次閱讀
- 根據學習經驗以及教學經驗總結出學習單片機的4個步驟 3829次閱讀
- Web API接口設計經驗總結 5108次閱讀
- Java異常選擇和使用的誤區和經驗總結 1329次閱讀
- 基于verilog的FPGA編程經驗總結 1425次閱讀
下載排行
本周
- 1電子電路原理第七版PDF電子教材免費下載
- 0.00 MB | 1490次下載 | 免費
- 2單片機典型實例介紹
- 18.19 MB | 92次下載 | 1 積分
- 3S7-200PLC編程實例詳細資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識別和講解說明
- 4.28 MB | 18次下載 | 4 積分
- 5開關電源原理及各功能電路詳解
- 0.38 MB | 10次下載 | 免費
- 6基于AT89C2051/4051單片機編程器的實驗
- 0.11 MB | 4次下載 | 免費
- 7藍牙設備在嵌入式領域的廣泛應用
- 0.63 MB | 3次下載 | 免費
- 89天練會電子電路識圖
- 5.91 MB | 3次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費
- 4LabView 8.0 專業版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費
- 5555集成電路應用800例(新編版)
- 0.00 MB | 33562次下載 | 免費
- 6接口電路圖大全
- 未知 | 30320次下載 | 免費
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費
- 8開關電源設計實例指南
- 未知 | 21539次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費
- 2protel99se軟件下載(可英文版轉中文版)
- 78.1 MB | 537791次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233045次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191183次下載 | 免費
- 7十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183277次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138039次下載 | 免費
評論
查看更多