30天學會Data Integration - Kettle系列 第 1 篇 - 就決定寫Kettle了

 幾經掙扎，真覺得比賽為什要辦在年底呢，真的是水深火熱啊！原本是打算寫Asp.Net MVC，但怕寫到一半就跑不動了，偏偏肚子沒什麼墨水，東擠西擠倒是有一些油水啦XD，希望可以靠這些油水順利撐過未來的30天！

為什麼要寫這個主題

想來想去，還是乖乖來寫一下Kettle的筆記，因為本人記憶力超弱，隨著時間的流逝，所學的東西也跟著流失的，所以趁現在對Kettle還存有ㄧ些記憶時，趕緊把筆記整理起來，以後就算忘記也可以馬上複習！

話說我有機會學到Kettle，都要感謝我的部門經理，還有不藏私的同事一路的指導與協助，特別特別感謝一間廠商的工程師非常的照顧我，常常私下幫我解惑還不收錢XD，說真的，第一次聽到同事分享Kettle時，真的完全聽不懂他到底在說什麼，等到真的打開Kettle時，更不知道這軟體到底該怎麼操作，其實我覺得這軟體沒有很容易入門，尤其又是英文版(本人是英文白癡)，但是頭過身就過！稍微有人帶一下，學會了就會愛上他，在特定時刻，會有一種我的生活不能沒有它的感覺。

特定時刻是什麼時候呢？例如，有些客戶想要改寫舊系統，而新系統免不了的一定會有資料庫架構與資料的變動，但對工程師而言，進行資料的轉置根本是一場災難，因為絕對不可能用人工的方式去轉置資料，光是一堆table的join根本是頭眼昏花，更別說那些不易讀的欄位命名，還要分析與驗證資料的正確性，以及保證你沒有遺漏任何一筆資料，像是我參與過比較複雜的資料轉置是8個table的整合分析與寫入資料庫，除了資料量大之外還邏輯還頗複雜，除了要靠強大的SA同事來協助之外，還要有一個好用的ETL工具，真的是深深感受到ETL工具的威猛，流程清楚且易維護，隨時想重匯資料都沒問題，但如果叫我寫程式去處理，或是叫我去維護別人寫的程式，等級太弱的我一定崩潰XD，以下是我目前設計過最複雜的流程畫面XD



不過簡單的部分也有像是拿到幾百筆的帳號密碼與姓名的資料(Excel)要寫入資料庫的，最原始的方式當然是請工讀生去資料庫慢慢建(搞不好也有呆呆的工程師自己慢慢建的)，或是使用資料庫的Excel匯入功能，此時就可以自行評估，不一定要ETL工具囉！

什麼是Kettle

現在的資料庫非常多種，沒有任何一套資料庫可以解決所有問題，不然這世界上只會剩下一種資料庫，而程式語言永遠學不完，系統也永遠開發不完，文件檔案格是更是族繁不齊備載，如何整合這些資料庫、系統與資料文件，Kettle就是其中一種選擇。

Data Integration - Kettle (or Kettle, Pentaho Data Integration, PDI)，是由Pentaho這家公司所開發的，它是一個資料整合ETL(Extract-Transform-Load)的工具，ETL工具常常使用在資料倉儲的環境，而Kettle這套ETL工具，是透過圖形化介面讓使用者設定資料整合的方式，也可以應用在：
　1.在軟體與資料庫之間的資料轉置
　2.將資料庫資料匯出成文件(例如：txt、excel)
　3.從資料庫載入大量資料(例如:Hadoop、MongoDB)
　4.整合應用程式資料

所謂的ETL包含三個部分：
　1.Extract(抽取)：讀取資料，資料來源可能是txt、excel或者是database
　2.Transform(轉置)：將資料進行分析，例如驗證資料格式是否正確，等等...
　3.Load(載入)：將處理好的資料可能匯出成txt、excel、寫入或更新到指定database

簡而言之，Kettle主要的操作就是透過滑鼠點一點、拖一拖、拉一拉，就可以輕鬆完成資料整合了，如下圖：



另外Kettle是Open Source的喔，開發環境是使用Java！台灣有一家員工將近2000人的公司，就是使用Kettle來另外改寫成一套中文化的軟體，產品名稱當然就不叫Kettle了，價值不斐，所以這30天好好學會Kettle，不只省時還能省下一些錢！

下一篇將介紹如何安裝與執行Kettle，先到官網晃晃吧！
http://community.pentaho.com/projects/data-integration/

留言

張貼留言

這個網誌中的熱門文章

CPE 一顆星選集題目說明與解答 - Java 筆記與心得分享

以下是自己的 CPE 一顆星選集 解題紀錄 (共有 49 題) 每次考試都會從一顆星選集中抽 1 提出來考 算是比較能把握的部分，重點筆記整理如下 內容包含題目說明、程式碼、註解說明、解答、考古題統計(下方土黃色日期) 解題使用的程式語言是  JAVA  目前有提供 10 題的試閱 另有提供完整 49 題的完整解答 ( pdf 檔 )， 共 305 頁， 售價 $399 元 ， 若有需要請來信購買 greens2314@gmail.com 推薦閱讀： 建議熟讀 java 基本觀念，與使用 eclipse 練習， 等熟悉之後再到瘋狂程設考試(一定要懂如何查 JAVA API 與使用英漢字典) Java 考試常用的方法或類別 Eclipse 常用小技巧 CPE 一顆星選集： 編號 | 題目名稱 | 歷屆考古題日期 1. Vito's family (CPE10406, UVA10041) 2024/04/23 可與第 40 題一起看 2. Hashmat the brave warrior (CPE10407, UVA10055) 3. Primary Arithmetic (CPE10404, UVA10035) 　 2011/05/25、2023/03/21 4. The 3n + 1 problem (CPE10400, UVA100) 　 2010/06/09 5. You can say 11 (CPE10460, UVA10929) 　 2011/12/20 6. Bangla Numbers (CPE10414, UVA10101) 　 2018/12/18 7. List of Conquests (CPE21924, UVA10420) 　 2019/03/26 　　可與 第 8, 11, 43 題一起看 字元與字串 8. What's Cryptanalysis? (CPE10402, UVA10008) 　　可與 第 7, 11, 43 題一起看 9. Decode the Mad man (CPE10425, UVA10222) 　 2021/10/19 10. Problem J: Summing Digits (CPE10473, UVA11332) ...
Read more »

Visual Studio 自動排版格式化程式碼

圖片
在團隊開發過程中，什麼時候是程式碼瘋狂修改的階段呢， 無非就是Code Review了，有時候卡個幾天或是幾個月都是有可能的， 裡面常出現的comment，每次幾乎都會出現的就是排版的問題， 例如空白多一個少一個，括號還沒換行等等的小瑕疵， 對於心思不夠細膩的人而言，真的十分的惱人 團隊中喜歡將大括號換行， 例如： if(true) {   //code } else {   //code } 那也許有些團隊喜歡： if(true){   //code }else{   //code } 有時候不只括號要不要換行，連else要不要換行都有各自的喜好， 所以有時候要統一使用團隊規定的喜好真的會有眼殘的時候， 自己檢查老半天可能還是有漏網之魚， 但現在不用擔心啦！ 只要使用Format 格式化文件就能為你分憂解勞， 設定方式如下： 編輯 > 進階 > 格式化文件 Visual Studio會根據你的環境設定幫你自動重新排版 設定方式如下： 工具 > 選項 切換到 文字編輯器 > C# >程式碼樣式 > 格式化 > 新行 這邊可以設定很多換行的邏輯， 將對應的項目打勾跟取消勾選，下面的黑色區域會顯示排版的格式， 可根據自己或是團隊的喜好去做調整，即可自動排出你想要的格式囉！ 如果覺得 編輯 > 進階 > 格式化文件 這個選項太難找到， 可以參考這篇文章，將他加入在明顯的工具列區域喔 http://greens2314.blogspot.tw/2017/09/visual-studio-2015.html
Read more »

1. Vito's family (CPE10406, UVA10041) - CPE一顆星解答與說明

圖片
    👉   CPE 一顆星選集列表(49題) 題目說明與解答 題目 Vito 在紐約有非常多的親戚，他希望在紐約找到一間房子，這間房子到每個親戚家的距離總和，要是最少的距離 輸入說明 輸入資料包含很多筆測試資料 每筆測資，包含親戚數量與每位親戚家的街號 親戚數量介於1~499、街道範圍介於1~29999 多位親戚可住在同一條街 輸出說明 針對每筆測試資料，計算出 Vito 到每位親戚家的最短距離總和 街與街的距離 = 街道數字相減取絕對值 解題技巧 中位數 是指一組數字的中間數字；即是有一半數字的值大於中位數，而另一半數字的值小於中位數，其意義是在所有資料中居於中間位置的代表 排序 街道的數字同時代表距離，透過排序，可得知中位數 解題過程 取得輸入 取得資料筆數 根據資料筆數取得親戚數量 根據親戚數量取得街道編號 將街道編號存入陣列中 將親戚的街道位置 由小至大 排序 呼叫 Arrays 類別提供的 sort() 方法 https://docs.oracle.com/javase/7/docs/api/java/util/Arrays.html 假設親戚有 5 位，分別住在：2、5、8、4、2街 排序後為：2 、2、4、5、8街 計算中位數 中位數在陣列中的索引 = 親戚數量 / 2 假設親戚有 5 位( 奇數) ，分別住在：2、5、8、4、2街 排序後為：2 、2、4、5、8街，其中 4 為中位數，中位數有 1 個 5位親戚 / 2 = 2.5，取整數，陣列索引 2 的位置，儲存的是第 4 街 假設親戚有 4位 (偶數) ，分別住在：2、5、8、4街 排序後為：2 、4、5、8街，其中 4 或 5 為中位數， 中位數有 2 個，擇一即可 4位親戚 / 2 = 2，陣列索引 2 的位置，儲存的是 5 街 計算最小距離總和並印出 宣告 sum 變數，統計距離 使用 foreach 將各街道編號 減掉 中位數編號，取絕對值並進行家總 取絕對值要呼叫  Math.abs ()  方法 奇數情況 ： 中位數有 1 個 假設親戚有 5 位   ，分別住在： 2 、2、 4 、5、8 街 中位數 4 ，Vito 住在 4 街，到其他親戚家的距離總和即是最小值 9   偶數情況 ： ...
Read more »