30天學會Data Integration - Kettle系列 第 8 篇 - 查看Transformation執行結果

 此篇將解說如何查看Transformation的執行結果，有利於我們更了解資料的處理方式與資料流的方向

Step Metrics

Step Metrics頁籤會顯示此Transformation中各Step的資料處理情況，例如讀取、寫入的紀錄與處理的時間與速度，以下是Step Metrics的欄位介紹：

  • Stepname：Step名稱
  • Read：讀取到的資料筆數(從上一個Step傳過來的資料)
  • Written：寫入的資料筆數(要傳給下一個Step2的資料)
  • Input：讀取檔案或是資料庫的資料筆數
  • Output：寫入檔案或資料庫的資料筆數
  • Updated：更新資料庫的資料筆數
  • Errors：發生的錯誤筆數
  • Active：顯示Step的執行狀態，有三種：running(執行中)、finished(已完成)與stopped(停止)
  • Time：花費的時間(秒)
  • Speed：每秒可以處理多少資料筆數

一樣查看昨天的例子，執行結果如下圖：





我們可以看到第一個Step(CSV file input)是從檔案讀取資料，所以它的Input數量是101，但為什麼Written數量是100呢？我們可以打開\data-integration\samples\transformations\files\customers-100.txt檔案來研究一下，發現資料行數真的是101行，所以Input數量等於101是完全正確的



至於為什麼Written數量是100呢？問題就出在customers-100.txt的第一行其實是在定義資料欄位的名稱，所以有效的資料量就是100筆，第一行的欄位定義不會被算進入Written的數量之中，也不會將此筆資料傳給下一個Step，後面講到讀取讀取file資料時會再進一步說明



Logging

在上一篇文章有提到，執行Transformation時可以設定Log Level，執行完成之後就可以到Logging頁籤查看詳細資訊，若發生錯誤將會以紅色文字顯示，所以此區就是協助我們進行debug的地方



Execution History與Performance Graph

這兩個頁籤要搭配Transformation的屬性設定中的Logging頁籤，進行資料庫的設定來紀錄執行的log，有興趣的人可以在另外研究



Metrics

使用甘特圖的方式呈現Transformation執行完成時或需要的時間，例如執行SQL查詢所花費的時間，根據今天的例子，就可以看到初始化Step到執行Step的時間，在這邊就可以協助我們了解，在執行Transformation時，在時間軸上每個Step的處理情況



Preview Data

此頁籤可以查看每個步驟的資料(Written)，請使用滑鼠左鍵點選一個Step，此頁籤就會顯示此Step的資料數據



下一篇將介紹次要工具列常使用到的功能

參考資料：
http://wiki.pentaho.com/display/EAI/.14+Logging
https://help.pentaho.com/Documentation/7.0/0L0/0Y0/030/030/020


留言

張貼留言

這個網誌中的熱門文章

CPE 一顆星選集題目說明與解答 - Java 筆記與心得分享

以下是自己的 CPE 一顆星選集 解題紀錄 (共有 49 題) 每次考試都會從一顆星選集中抽 1 提出來考 算是比較能把握的部分，重點筆記整理如下 內容包含題目說明、程式碼、註解說明、解答、考古題統計(下方土黃色日期) 解題使用的程式語言是  JAVA  目前有提供 10 題的試閱 另有提供完整 49 題的完整解答 ( pdf 檔 )， 共 305 頁， 售價 $399 元 ， 若有需要請來信購買 greens2314@gmail.com 推薦閱讀： 建議熟讀 java 基本觀念，與使用 eclipse 練習， 等熟悉之後再到瘋狂程設考試(一定要懂如何查 JAVA API 與使用英漢字典) Java 考試常用的方法或類別 Eclipse 常用小技巧 CPE 一顆星選集： 編號 | 題目名稱 | 歷屆考古題日期 1. Vito's family (CPE10406, UVA10041) 2024/04/23 可與第 40 題一起看 2. Hashmat the brave warrior (CPE10407, UVA10055) 3. Primary Arithmetic (CPE10404, UVA10035) 　 2011/05/25、2023/03/21 4. The 3n + 1 problem (CPE10400, UVA100) 　 2010/06/09 5. You can say 11 (CPE10460, UVA10929) 　 2011/12/20 6. Bangla Numbers (CPE10414, UVA10101) 　 2018/12/18 7. List of Conquests (CPE21924, UVA10420) 　 2019/03/26 　　可與 第 8, 11, 43 題一起看 字元與字串 8. What's Cryptanalysis? (CPE10402, UVA10008) 　　可與 第 7, 11, 43 題一起看 9. Decode the Mad man (CPE10425, UVA10222) 　 2021/10/19 10. Problem J: Summing Digits (CPE10473, UVA11332) ...
Read more »

Visual Studio 自動排版格式化程式碼

圖片
在團隊開發過程中，什麼時候是程式碼瘋狂修改的階段呢， 無非就是Code Review了，有時候卡個幾天或是幾個月都是有可能的， 裡面常出現的comment，每次幾乎都會出現的就是排版的問題， 例如空白多一個少一個，括號還沒換行等等的小瑕疵， 對於心思不夠細膩的人而言，真的十分的惱人 團隊中喜歡將大括號換行， 例如： if(true) {   //code } else {   //code } 那也許有些團隊喜歡： if(true){   //code }else{   //code } 有時候不只括號要不要換行，連else要不要換行都有各自的喜好， 所以有時候要統一使用團隊規定的喜好真的會有眼殘的時候， 自己檢查老半天可能還是有漏網之魚， 但現在不用擔心啦！ 只要使用Format 格式化文件就能為你分憂解勞， 設定方式如下： 編輯 > 進階 > 格式化文件 Visual Studio會根據你的環境設定幫你自動重新排版 設定方式如下： 工具 > 選項 切換到 文字編輯器 > C# >程式碼樣式 > 格式化 > 新行 這邊可以設定很多換行的邏輯， 將對應的項目打勾跟取消勾選，下面的黑色區域會顯示排版的格式， 可根據自己或是團隊的喜好去做調整，即可自動排出你想要的格式囉！ 如果覺得 編輯 > 進階 > 格式化文件 這個選項太難找到， 可以參考這篇文章，將他加入在明顯的工具列區域喔 http://greens2314.blogspot.tw/2017/09/visual-studio-2015.html
Read more »

1. Vito's family (CPE10406, UVA10041) - CPE一顆星解答與說明

圖片
    👉   CPE 一顆星選集列表(49題) 題目說明與解答 題目 Vito 在紐約有非常多的親戚，他希望在紐約找到一間房子，這間房子到每個親戚家的距離總和，要是最少的距離 輸入說明 輸入資料包含很多筆測試資料 每筆測資，包含親戚數量與每位親戚家的街號 親戚數量介於1~499、街道範圍介於1~29999 多位親戚可住在同一條街 輸出說明 針對每筆測試資料，計算出 Vito 到每位親戚家的最短距離總和 街與街的距離 = 街道數字相減取絕對值 解題技巧 中位數 是指一組數字的中間數字；即是有一半數字的值大於中位數，而另一半數字的值小於中位數，其意義是在所有資料中居於中間位置的代表 排序 街道的數字同時代表距離，透過排序，可得知中位數 解題過程 取得輸入 取得資料筆數 根據資料筆數取得親戚數量 根據親戚數量取得街道編號 將街道編號存入陣列中 將親戚的街道位置 由小至大 排序 呼叫 Arrays 類別提供的 sort() 方法 https://docs.oracle.com/javase/7/docs/api/java/util/Arrays.html 假設親戚有 5 位，分別住在：2、5、8、4、2街 排序後為：2 、2、4、5、8街 計算中位數 中位數在陣列中的索引 = 親戚數量 / 2 假設親戚有 5 位( 奇數) ，分別住在：2、5、8、4、2街 排序後為：2 、2、4、5、8街，其中 4 為中位數，中位數有 1 個 5位親戚 / 2 = 2.5，取整數，陣列索引 2 的位置，儲存的是第 4 街 假設親戚有 4位 (偶數) ，分別住在：2、5、8、4街 排序後為：2 、4、5、8街，其中 4 或 5 為中位數， 中位數有 2 個，擇一即可 4位親戚 / 2 = 2，陣列索引 2 的位置，儲存的是 5 街 計算最小距離總和並印出 宣告 sum 變數，統計距離 使用 foreach 將各街道編號 減掉 中位數編號，取絕對值並進行家總 取絕對值要呼叫  Math.abs ()  方法 奇數情況 ： 中位數有 1 個 假設親戚有 5 位   ，分別住在： 2 、2、 4 、5、8 街 中位數 4 ，Vito 住在 4 街，到其他親戚家的距離總和即是最小值 9   偶數情況 ： ...
Read more »