30天學會Data Integration - Kettle系列 第 9 篇 - 預覽、除錯與驗證Transformation

 此篇要來介紹次要工具列中常使用到的功能，另外也可以從主要工具列上的Action選單找到這些功能



預覽

在主要編輯區域設定Steps時，常常會想要搶先看一下資料的分析是否正確，此時可以按下Preview按鈕，然後在右方選擇想查看的Step，或是在想查看的Step按右鍵選擇Preview選項也可以



接著會出現一個設定視窗，可以設定你想要預覽的資料筆數，設定完畢之後請按下Quick Launch按鈕，這個例子有100筆資料，但我想取得10筆資料來看看



預覽的資料結果，可以按Get more rows來取得下10筆的資料，或是按Stop結束預覽，如果你按下Close會發現Transformation一直停在執行的狀態，可以點選次要工具列Pause icon來取得下10筆預覽結果，或是按下Stop icon來結束預覽



除錯

點選次要工具列的debug icon



設定方式與預覽很像，差別在於debug可以設定中斷點，下圖是設定的方式，設定中斷點的條件，例如在stateCode欄位值等於AK時，則停止



完成設定即可執行



結果



可以按下Get more rows，資料將停在下一個符合中斷點條件的資料上

驗證

在設計Step的過程中，Kettle會出現很多設定提示，通常在不熟、看不懂或是沒仔細看的情況下就直接忽略了，這會造成在在設計過程中畫面看似很正常，但在執行Transformation卻出錯了，所以在設計過程中，我們可以使用驗證來幫我們確認設計上是否有需要調整的地方。

按下次要工具列上面的Verify icon會出現驗證結果的視窗，透過視窗訊息我們看到，Filter rows這個Step輸出時會有true(符合Filter條件)與false(符合Filter條件)兩種結果，但是預設範例中，卻只有設定一條Hop將符合Filter條件的資料傳給Dummy (do nothing)，雖然在執行Transformation不會出錯，但是在驗證卻不會過



此時我們可以增加一個Dummy (do nothing)，應該還記得怎麼新增Step與Hop吧，忘記的可以複習一下第6篇，在建立Hop時，Kettle會問你這條Hop是要傳送什麼資料，我們就選Result is FALSE(接收不符合Filter rows條件的資料)



然後在執行一次驗證，錯誤訊息就消失了，我們可以勾選Show successful results來查看所有的驗證訊息



其實Steps都有它自己獨特的功能，我自己也不是每個Steps都很熟，有些Steps會有true與false兩種處理結果，但有些Steps只有一種處理結果，不過在建立Hops時，Kettl其實會提示，但在設計過程中Kettle不會跟你說，因為你少設一條Hop所以不能執行，也沒有規定沒建立完整的Hops就不能執行成功，像預設範例我們講了好幾篇，都還是可以成功執行Transformation，不過當設計越複雜以及後續搭配job來使用時，就會多出很多變因，不過我想大家應該都是習慣，等到遇到問題再來解決吧XD，這邊就先讓大家有個印象，後續在實做時會再進一步說明。

下一篇就開始說明，大家最期待的，如何設計Transformation

參考資料：
http://wiki.pentaho.com/display/EAI/.14+Logging
http://zoran-stipanicev.from.hr/2013/01/07/transformation-verification-in-pentaho-data-integration-kettle/


留言

張貼留言

這個網誌中的熱門文章

CPE 一顆星選集題目說明與解答 - Java 筆記與心得分享

以下是自己的 CPE 一顆星選集 解題紀錄 (共有 49 題) 每次考試都會從一顆星選集中抽 1 提出來考 算是比較能把握的部分，重點筆記整理如下 內容包含題目說明、程式碼、註解說明、解答、考古題統計(下方土黃色日期) 解題使用的程式語言是  JAVA  目前有提供 10 題的試閱 另有提供完整 49 題的完整解答 ( pdf 檔 )， 共 305 頁， 售價 $399 元 ， 若有需要請來信購買 greens2314@gmail.com 推薦閱讀： 建議熟讀 java 基本觀念，與使用 eclipse 練習， 等熟悉之後再到瘋狂程設考試(一定要懂如何查 JAVA API 與使用英漢字典) Java 考試常用的方法或類別 Eclipse 常用小技巧 CPE 一顆星選集： 編號 | 題目名稱 | 歷屆考古題日期 1. Vito's family (CPE10406, UVA10041) 2024/04/23 可與第 40 題一起看 2. Hashmat the brave warrior (CPE10407, UVA10055) 3. Primary Arithmetic (CPE10404, UVA10035) 　 2011/05/25、2023/03/21 4. The 3n + 1 problem (CPE10400, UVA100) 　 2010/06/09 5. You can say 11 (CPE10460, UVA10929) 　 2011/12/20 6. Bangla Numbers (CPE10414, UVA10101) 　 2018/12/18 7. List of Conquests (CPE21924, UVA10420) 　 2019/03/26 　　可與 第 8, 11, 43 題一起看 字元與字串 8. What's Cryptanalysis? (CPE10402, UVA10008) 　　可與 第 7, 11, 43 題一起看 9. Decode the Mad man (CPE10425, UVA10222) 　 2021/10/19 10. Problem J: Summing Digits (CPE10473, UVA11332) ...
Read more »

Visual Studio 自動排版格式化程式碼

圖片
在團隊開發過程中，什麼時候是程式碼瘋狂修改的階段呢， 無非就是Code Review了，有時候卡個幾天或是幾個月都是有可能的， 裡面常出現的comment，每次幾乎都會出現的就是排版的問題， 例如空白多一個少一個，括號還沒換行等等的小瑕疵， 對於心思不夠細膩的人而言，真的十分的惱人 團隊中喜歡將大括號換行， 例如： if(true) {   //code } else {   //code } 那也許有些團隊喜歡： if(true){   //code }else{   //code } 有時候不只括號要不要換行，連else要不要換行都有各自的喜好， 所以有時候要統一使用團隊規定的喜好真的會有眼殘的時候， 自己檢查老半天可能還是有漏網之魚， 但現在不用擔心啦！ 只要使用Format 格式化文件就能為你分憂解勞， 設定方式如下： 編輯 > 進階 > 格式化文件 Visual Studio會根據你的環境設定幫你自動重新排版 設定方式如下： 工具 > 選項 切換到 文字編輯器 > C# >程式碼樣式 > 格式化 > 新行 這邊可以設定很多換行的邏輯， 將對應的項目打勾跟取消勾選，下面的黑色區域會顯示排版的格式， 可根據自己或是團隊的喜好去做調整，即可自動排出你想要的格式囉！ 如果覺得 編輯 > 進階 > 格式化文件 這個選項太難找到， 可以參考這篇文章，將他加入在明顯的工具列區域喔 http://greens2314.blogspot.tw/2017/09/visual-studio-2015.html
Read more »

1. Vito's family (CPE10406, UVA10041) - CPE一顆星解答與說明

圖片
    👉   CPE 一顆星選集列表(49題) 題目說明與解答 題目 Vito 在紐約有非常多的親戚，他希望在紐約找到一間房子，這間房子到每個親戚家的距離總和，要是最少的距離 輸入說明 輸入資料包含很多筆測試資料 每筆測資，包含親戚數量與每位親戚家的街號 親戚數量介於1~499、街道範圍介於1~29999 多位親戚可住在同一條街 輸出說明 針對每筆測試資料，計算出 Vito 到每位親戚家的最短距離總和 街與街的距離 = 街道數字相減取絕對值 解題技巧 中位數 是指一組數字的中間數字；即是有一半數字的值大於中位數，而另一半數字的值小於中位數，其意義是在所有資料中居於中間位置的代表 排序 街道的數字同時代表距離，透過排序，可得知中位數 解題過程 取得輸入 取得資料筆數 根據資料筆數取得親戚數量 根據親戚數量取得街道編號 將街道編號存入陣列中 將親戚的街道位置 由小至大 排序 呼叫 Arrays 類別提供的 sort() 方法 https://docs.oracle.com/javase/7/docs/api/java/util/Arrays.html 假設親戚有 5 位，分別住在：2、5、8、4、2街 排序後為：2 、2、4、5、8街 計算中位數 中位數在陣列中的索引 = 親戚數量 / 2 假設親戚有 5 位( 奇數) ，分別住在：2、5、8、4、2街 排序後為：2 、2、4、5、8街，其中 4 為中位數，中位數有 1 個 5位親戚 / 2 = 2.5，取整數，陣列索引 2 的位置，儲存的是第 4 街 假設親戚有 4位 (偶數) ，分別住在：2、5、8、4街 排序後為：2 、4、5、8街，其中 4 或 5 為中位數， 中位數有 2 個，擇一即可 4位親戚 / 2 = 2，陣列索引 2 的位置，儲存的是 5 街 計算最小距離總和並印出 宣告 sum 變數，統計距離 使用 foreach 將各街道編號 減掉 中位數編號，取絕對值並進行家總 取絕對值要呼叫  Math.abs ()  方法 奇數情況 ： 中位數有 1 個 假設親戚有 5 位   ，分別住在： 2 、2、 4 、5、8 街 中位數 4 ，Vito 住在 4 街，到其他親戚家的距離總和即是最小值 9   偶數情況 ： ...
Read more »