Claire's Blog

從本機圖片建立模型的簡單範例 以下為從classify資料夾內載入圖片並建構分類模組的範例。圖片資料夾的結構如下: 其中daisy、dandelion、roses、sunflowers、tulips為標籤名稱，在各個資料夾內為圖片 然後使用 image_dataset_from_directory 函數載入圖片，需要傳遞以下參數： directory：包含圖片的目錄。 labels：標籤的名稱。預設情況下，每個圖片所在的子目錄將被當作標籤。 class_names：標籤的名稱列表。 label_mode：標籤的格式。可以是 ‘int’（預設值）、’binary’ 或 ‘categorical’。 batch_size: 用於指定每個批次中包含的圖片數量。 在載入圖片時，tf.keras.utils.image_dataset_from_directory 函數會使用 RGB 色彩空間。 tf.keras.utils.image_dataset_from_directory 函數中的 seed 參數用於設置隨機數生成器的種子。 如果指定了 seed 參數，則在載入資料集時，將使用指定的種子初始化隨機數生成器，這樣可以保證每次載入資料集的順序都是一致的。 然後按下complier之後，會有下面的樣建模的資訊 因為我們在model.compile的metrics選擇了accuracy，因此評估模型的評估方式會以accuracy作為標準 將資料集分割為訓練集和測試集 上面的程式碼我們呼叫了兩次image_dataset_from_directory來分別載入訓練集和測試集 但也可以只載入一次，然後再將資料集分割為訓練集和測試集 範例程式如下 用 Keras 載入模型並預測答案 以下為一個簡單範例，使用keras.preprocessing.image.load_img所載入的圖片預設格式為 RGB 圖片 上面是使用keras.preprocessing.image.load_img來載入圖片 我們也可以使用OpenCV來載入圖片使用…

功能介紹 TensorFlow Extended (TFX) 是Google 開發的一個開源框架，用於在TensorFlow 中構建機器學習管道。TFX 的目標是簡化機器學習管道的構建過程，使其能夠更容易地部署和維護。 其中TFX 管道是TFX 中的一個重要部分，它是一種用於組織和管理機器學習工作流的方式。TFX 管道由多個組件組成，每個組件負責執行特定的任務，如數據預處理、訓練、評估等。TFX 管道中的組件可以由TFX 提供的組件使用，也可以使用自定義組件。 TFX 管道通過使用Apache Airflow 或Kubeflow Pipelines 在組件之間傳遞數據來實現自動化的機器學習工作流。這樣可以在一個可視化的界面上監控和管理管道執行過程，並且在管道中的每個步驟之間自動傳遞數據。 強大的資料處理工具 TFDV 結合開源的 Facets ，是可以幫助理解和分析機器學習數據集的開源可視化工具，在 Google AI Blog 中展示了透過 Facets 視覺化抓出 CIFAR-10 資料集中一個錯誤分為貓咪的青蛙的圖片。 TFDV 容許兩個資料及之間的分布對照，例如訓練資料與測試資料，迅速抓出資料飄移與偏斜情形，而 TFDV 更進一步可以做到修正與納入新特徵，以及整合在筆記本及 TFX 之中。 PS:…

實踐概念 使用 TensorFlow 的圖像處理函數，將兩張圖片讀入並進行比對。 比如您可以使用 OpenCV 庫將圖片讀入，然後使用 TensorFlow 庫對兩張圖片進行比對。 您可以使用 TensorFlow 的圖像處理函數，例如圖像縮放、旋轉和鏡像轉換等，對兩張圖片進行預處理。接著您可以使用 TensorFlow 中的數值計算函數，例如 mean square error (MSE) 或 structural similarity index (SSIM)等，對兩張圖片進行比對。 如果比對結果的值非常小，則可以認為兩張圖片非常相似，反之則表示兩張圖片不相似。 Structural Similarity Index (SSIM) Structural Similarity Index (SSIM) 是一種用於評估圖像相似度的指標。它是基於人眼視覺系統的特性，模擬人眼對圖像質量的敏感度，並使用三個要素來評估圖像相似度：亮度、對比度和結構。 亮度（luma）: 表示圖像中所有像素的平均亮度 對比度（contrast）: 表示圖像中各像素亮度值的差異程度 結構（structure）: 表示圖像中各像素之間的相關性 SSIM…

tf.estimator.Estimator 介紹 官方介紹頁面: https://www.tensorflow.org/guide/estimator tf.estimator.Estimator 與 tf.keras.Model 類似，estimator是模型級別的抽象。tf.estimator提供了一些目前仍在為 tf.keras 開發中的功能。包括： 基於參數服務器的訓練 完整的TFX集成 使用預製Estimator，能夠在比基礎TensorFlow API 高很多的概念層面上工作。您無需再擔心創建計算圖或會話，因為Estimator 會替您完成所有“基礎工作”。此外，使用預製Estimator，您只需改動較少代碼就能試驗不同的模型架構。例如，tf.estimator.DNNClassifier是一個預製Estimator 類，可基於密集的前饋神經網絡對分類模型進行訓練。 它提供了一種統一的方式來實現和使用各種不同類型的機器學習模型。它提供了一些預定義的模型類型，如線性迴歸、決策樹、KNN等，可以讓開發者更輕鬆的實現常見的機器學習模型。 主要功能 tf.estimator 是 TensorFlow 的一個高級 API，它提供了一種統一的方式來實現和使用各種不同類型的機器學習模型。它的主要用途是簡化建立、訓練和使用模型的流程，使開發人員能夠更輕鬆地實現常見的機器學習模型。 其主要功能如下: 提供預定義的模型類型, 如線性迴歸，決策樹和KNN等 提供一組工具，可以幫助您訓練，評估和預測模型 提供一個統一的界面，使得用戶能夠更容易地訓練、評估和使用模型 支持模型訓練和預測的分布式計算 具有模型檢查点和恢復功能，可以將模型訓練過程中的狀態保存到磁盤上 優點 提供了一個統一的界面，使開發人員能夠更輕鬆地實現常見的機器學習模型 提供了一組工具，可以幫助您訓練，評估和預測模型 支持模型訓練和預測的分布式計算 具有模型檢查点和恢復功能，可以將模 在2.0裡被標註為棄用 在官網的API文件裡可以發現這個類別旁邊被註記了【棄用標籤】 在 TensorFlow…

梯度下降法 梯度下降法（英語：Gradient descent）是一個一階最佳化算法，通常也稱為最陡下降法，但是不該與近似積分的最陡下降法（英語：Method of steepest descent）混淆。 要使用梯度下降法找到一個函數的局部極小值，必須向函數上當前點對應梯度（或者是近似梯度）的反方向的規定步長距離點進行疊代搜索。如果相反地向梯度正方向疊代進行搜索，則會接近函數的局部極大值點；這個過程則被稱為梯度上升法。 既然在變量空間的某一點處，函數沿梯度方向具有最大的變化率，那麼在優化目標函數的時候，自然是沿著負梯度方向去減小函數值，以此達到我們的優化目標。 如何沿著負梯度方向減小函數值呢？既然梯度是偏導數的集合，如下： 同時梯度和偏導數都是向量，那麼參考向量運算法則，我們在每個變量軸上減小對應變量值即可，梯度下降法可以描述如下： 描述 甚麼是梯度消失 梯度是一種數學概念，用於描述一個函數的變化率。在機器學習中，我們會使用梯度下降法來最小化損失函數。 損失函數是用來衡量模型預測結果與實際結果之間的差異的函數。通過最小化損失函數，我們可以讓模型的預測結果越來越接近實際結果。 梯度下降法是一種基於梯度的最優化算法，它會不斷計算損失函數的梯度，並根據梯度的大小和方向來更新模型的參數。當梯度越大，就意味著模型的預測結果與實際結果的差異越大，所以需要更大的步長來進行更新。當梯度越小，就意味著模型的預測結果與實際結果的差異越小，所以可以使用較小的步長來進行更新。 隨著層數的增加，梯度有可能會越來越小。這是因為在深度神經網路中，每個層的輸入都是前一層的輸出，因此如果前一層的輸出有變化，那麼這層的輸入也會有變化。如果前一層的輸出有很大的變化，那麼這層的輸入也有可能有很大的變化，導致梯度變小。而如果前一層的輸出沒有太大變化，那麼這層的輸入也不會有太大變化，梯度就不會變小。 當梯度變得非常小時，梯度下降法就無法有效地更新模型的參數、有可能陷入局部最小值，使得模型無法有效地學習。 這就是深度神經網路中的梯度消失問題。殘差網路就是為了解決這個問題而設計的。這是因為梯度下降法是通過梯度的大小和方向來決定步長的，如果梯度變得非常小，那麼步長也會變得非常小，導致更新參數的幅度非常小。 這篇文章對梯度下降法有很詳細的解釋: https://ithelp.ithome.com.tw/articles/10273302 更多關於CNN殘差學習介紹: https://zhuanlan.zhihu.com/p/31852747

取得圖片中可能的目標的位置資訊 要讓模型吐出圖片中目標的座標位置資訊，常用的方法是使用目標檢測 (object detection) 的模型，這些模型通常可以同時預測目標的類別 (class) 和座標位置 (bounding box)。 常用的目標檢測模型有 YOLO (You Only Look Once)、SSD (Single Shot MultiBox Detector) 以及 Faster R-CNN。在 TensorFlow 中，可以使用 TensorFlow Object Detection API 來訓練和使用這些模型。 訓練模型時需要給予圖片和相對應的座標位置(Annotation), 訓練好之後, 就可以得到模型預測目標的座標位置. 如果你要找的目標是特定類型, 也可以使用像 RetinaNet, FPN 等特定目標檢測模型, 它們通常都能很好的偵測目標並輸出相對應的座標位置資訊。 常見的模型介紹 常見的物體偵測模型，包括：…

Tensorflow的全連接層 對Tensorflow而言，全連接層的類別為: tf.keras.layers.Dense 相關介紹: https://www.tensorflow.org/api_docs/python/tf/keras/layers/Dense 甚麼是全連接層 在 Dense 層中，每個輸入都會對每個輸出進行綜合計算，得到一個輸出值。這個綜合計算包括了對輸入和前一層輸出的矩陣乘法，以及對輸入和輸出的加權和。計算過程中，對輸入的乘法是通過對每個輸入的加權，得到的权重矩陣就是Dense層的權重矩陣。這些权重矩陣就是Dense層所學習的模型參數。 這層的經典用途就是進行分類,把特徵轉成概率，進而做出預測, 可以實現多種不同的操作, 如全連接，激活函數等，是基礎網路結構的基礎。 Dense層中通常還會有一個偏差項, 每個輸出都有一個偏差項, 該項是Dense層的一部分參數, 也會在學習過程中更新。 最后 Dense層 還會有一個激活函數, 用於對綜合計算的結果進行非線性轉換, 增加網絡的非線性表達能力。 全連接層的優點 在多數的深度學習模型中，輸出層常常使用 Dense 層，這是因為 Dense 層具有下列優點: 1. Dense層可以實現任意的非線性轉換，而輸出層需要進行非線性轉換，因為在大多數情況下，輸出的預測結果需要進行非線性轉換。 2. Dense層具有較高的計算效率，對於輸出層來說，需要進行大量的運算，而 Dense 層可以高效地完成這些運算。 3. Dense層 可以通過學習來自動調整權重和偏差，而且可以將輸入特徵在輸出層進行組合, 獲得高維度且有用的輸出. 因此， Dense層 是輸出層的選擇之一,並且被廣泛使用。…

預先訓練的模型中提取特徵的一種常見方法是使用模型的中間層。例如，如果使用卷積神經網絡 (CNN) 來預訓練圖像識別模型，則可以使用 CNN 的某些中間層（如卷積層或池化層）來提取圖像的特徵。 另外，您可以將整個預先訓練的模型看作是一個特徵提取器。 一種方法是將輸入數據丟入預先訓練的模型中，然後使用模型的最後一層輸出 (通常是分類層) 作為特徵。 最後，您還可以使用深度學習框架中內置的函數（如 Keras 中的 model.predict()）來提取特徵。 在使用預先訓練的模型提取特徵時，重要的是要注意模型是否符合您的任務，並且選擇適當的層和方法。

甚麼是二元分類器 二元分類 (binary classification) 是一種機器學習中常見的任務，其目的是從兩個不同類別中將每個數據樣本歸類為其中之一。這種分類方式只有兩個類別，因此其結果是二元的。例如，對於圖像分類問題，二元分類可能用於識別猫和狗的圖像，或者用於識別垃圾郵件和非垃圾郵件的電子郵件。 在二元分類中，我們通常使用一些算法來建立一個模型，如 logistic regression, decision tree, SVM, Random forest, neural network等 來預測每個輸入數據樣本屬於哪個類別。 當我們對新數據進行預測時，該模型將輸出預測類別 (0 或 1)。 在訓練階段，通常需要提供已經標註好類別的數據來訓練模型。並在測試階段使用該模型來預測新的數據的類別，並使用常見的度量指標來評估模型的效果如精確度, AUC-ROC, F1 score等 如果您需要分類多於兩個類別的數據，則需要使用多元分類 (multiclass classification)。 和多元分類器的不同 在 TensorFlow 中，實現二元分類和多元分類器主要有兩個不同之處: 損失函數: 二元分類器通常使用二元交叉熵 (binary cross-entropy) 作為損失函數。而多元分類器則常使用交叉熵 (cross-entropy) 作為損失函數。 輸出層的激活函數: 二元分類器的輸出層通常使用…