前置知識介紹 學習機器學習的前置知識包括： 數學基礎：學習機器學習需要具備良好的數學基礎，尤其是線性代數、微積分和概率論的基礎知識。 編程基礎：學習機器學習需要具備編程能力，至少應該熟悉一種編程語言，如 Python、C++ 或 Java。 算法基礎：了解常用的算法和數據結構，如排序算法、搜索算法、哈希表和二叉樹，將有助於學習機器學習中的算法。 機器學習基礎：了解機器學習的基本概念，如訓練集、測試集、模型和過擬合，有助於加深對機器學習的理解。 心理學基礎：了解心理學基礎知識，如信息加工理論和注意力機制，可以幫助我們更好地理解機器學習的應用。 當然，機器學習是一門涉及多個領域的學科，學習時可能還需要具備其他領域的知識，如統計學、計算機科學和人工智能等。 此外，學習機器學習時還需要具備一定的學習能力和探究精神，能夠獨立思考問題並尋找解決方案。建議您先了解機器學習的基本概念，並通過實踐來加深理解。可以嘗試解決一些練手的機器學習問題，或者參加一些在線的機器學習課程或比賽，來提升自己的機器學習能力。 微積分 微積分是計算數學的一個分支，主要研究連續的函數的求積、導數、極限的概念。在機器學習中，微積分的概念有助於我們理解和掌握梯度下降 (gradient descent) 算法，以及訓練神經網路的過程。 線性代數 線性代數是計算數學的一個分支，主要研究向量和矩陣的概念。在機器學習中，線性代數的概念有助於我們理解和掌握神經網路的運算過程，以及從數據中學習到有用信息的方法。 在線性代數中，還有許多其他概念，例如： 線性相關：多個向量是線性相關的，當且僅當它們可以由其他向量的線性組合表示。 基：向量空間的基是一组向量，它们的线性组合可以表示向量空间中的任何向量。 秩：向量空間的秩是指最多可以由多少个向量的线性无关组合表示出来。 線性無關：多個向量是線性無關的，當且僅當它們不能由其他向量的線性組合表示。 內積：向量的內積是指兩個向量的點積，可以用來度量兩個向量之間的夾角。…

常見的深度學習模型 三種深度學習模型，包含：• MIP：多層感知器( Multilayer Perceptron)• CNN ：卷積神經網路(Convolutional Neural Network ）• RNN：循環神經網路(Recurrent Neural Netw ork) MLP、CNN與RNN的差異 多層感知器（簡稱 MLP）就是一個全連接網路。在某些文獻裡，它被稱為深度前饋（feedforward）網路或前饋神經網路。從目標應用來認識這些網路有助於我們理解這些進階深度學習模型的設計原理。MIP 常用於簡易的算術與線性迴歸問題。不過，MLP 在處理順序型與多維度資料樣式上的效能不是太好。它在先天設計上很難去記得順序型資料的樣式，並且需要相當大量的參數才能處理多維度資料。 RNN 很常用於順序型的輸入資料，因為其內部設計能讓網路去發掘歷史資料的相依性，這對於預測來說相當有用。 而對於圖片或影片這類多維度資料，CNN 在擷取用於分類、分割、生成或其他目的特徵圖都相當不錯。在某些狀況下，型態為1D卷積的 CNN 也可用於能接受順序型輸入資料的網路。然而在多數深度學習模型中，會把…

model.fit的參數 請見官網介紹: https://www.tensorflow.org/api_docs/python/tf/keras/Model#fit 通常label單類別最後使用softmax當作activation，多類別用sigmoid。在使用model.fit之前可用下列指令來查看模型的資訊: Batch size Batch size是在訓練神經網絡時，一次輸入給模型的訓練樣本數量。批量大小可以影響訓練的速度和效果，決定了模型在訓練過程中每次更新權重時使用的樣本數量。 在訓練神經網絡時，每一次將一個批次的訓練數據輸入模型並根據輸出調整模型參數的過程稱為一次迭代。 批量大小可以影響訓練的速度和效果。通常而言，批量大小越大，訓練速度越快，但是需要更多的內存。相反，批量大小越小，訓練速度越慢，但是需要的內存較少。 另外，批量大小也有助於控制梯度爆炸和消失的問題。如果批量大小太小，梯度可能會非常波動，導致訓練不穩定。如果批量大小太大，梯度可能會非常小，導致模型學習速度變慢。 因此，批量大小是一個需要平衡的超參數。通常，人們會根據自己的硬件配置和訓練目標來調整批量大小。 甚麼是更新權重 在神經網絡中，權重是用於計算網絡輸出的參數。每個神經元都有自己的權重，這些權重决定了該神經元對輸出的貢獻。 在訓練神經網絡時，權重是通過反向傳播算法來學習和調整的。在每次訓練迭代中，網絡將會根據輸入和預期輸出計算損失，然後使用反向傳播算法來調整權重，使得損失最小化。 在神經網絡中，權重是一種超參數，這意味著它們是由人為設定的，並不是通過訓練來學習的。超參數包括學習率、批量大小、正則化強度等，它們都對模型的訓練和性能有重要影響。 Epoch Epoch是指訓練過程中對整個訓練數據集進行一次完整的訓練循環。例如，假設你有1000個樣本的訓練數據集，批量大小為100，那麼你需要10次迭代才能完成一個 epoch。 在訓練神經網絡時，你可能會進行多個 epoch，以提高模型的精度。在每個 epoch 中，模型將會看到所有的訓練數據，並根據輸出調整模型參數。在許多情況下，經過足夠多的 epoch 後，模型的精度將會趨於穩定，並停止進一步提高。

卷積神經網路CNN 卷積神經網路（Convolutional Neural Network，簡稱 CNN）是一種專門用於圖像處理的神經網路。它包含許多卷積層和池化層，可以捕捉圖像中的空間關係和細節。 卷積層: Conv2D (tf.keras.layers.Conv2D)，使用一個卷積核來提取圖片特徵 池化層: MaxPooling2D (tf.keras.layers.MaxPooling2D)，通過計算輸入圖像的不同區域的最大值或平均值來進行池化 卷積層(Conv2D) 使用一個卷積核來提取圖片特徵。 以下為其參數設定的介紹: 卷積層(Conv2D)參數設定 卷積層中的每個神經元都有一個濾波器（也稱為卷積核），用來提取圖像的特徵。每個濾波器都有一個指定的大小和深度，並且會在輸入圖像的不同區域進行卷積運算。例如，如果濾波器的大小為 3×3，且深度為 16，則每個濾波器都會提取 3×3 的區域中深度為 16 的特徵。 以下為其計算方法的簡單範例 當有部分的卷積核超出圖片範圍時，有兩種方法去解決: 1.…

卷積層(Conv2D)介紹 以下為官方介紹連結: https://keras.io/api/layers/convolution_layers/convolution2d/ 參數介紹 參數 常用參數 filters：指定層中濾波器（也稱為卷積核）的數量。通常，增加濾波器的數量可以提高模型的表現，但也會增加計算複雜度。 kernel_size：指定濾波器的大小。濾波器的大小越大，模型可以捕捉到的特徵就越大，但也會增加計算複雜度。 strides：指定濾波器在輸入數據集上的步長。步長越大，模型就會捕捉到越少的特徵，但也會減少計算複雜度。 padding：指定是否對輸入數據集進行 padding。如果選擇 padding，則會在輸入數據集的周圍填充一圈 0，以便濾波器可以捕捉到輸入數據集的邊界特徵。 在設定這些參數時，需要考慮模型的複雜度和需要的特徵。例如，如果輸入數據集很大，且需要捕捉較大的特徵，那麼可能需要使用較大的濾波器和較大的步長。如果輸入數據集較小，且需要捕捉較多的細節，那麼可能需要使用較小的濾波器和較小的步長。 還可以嘗試使用不同的 padding 方式來控制輸入數據集的大小。例如，如果你使用「same」padding，則輸出數據集的大小將與輸入數據集的大小相同；如果你使用「valid」padding，則輸出數據集的大小將比輸入數據集的大小小。

提高準確率的方向 可以考慮用以下幾個方式來提高準確率： 增加訓練數據：模型訓練的資料越多，模型就有更多的資訊來學習，因此準確率往往會提高。 調整超參數：你可以調整超參數（例如學習率、損失函數、正則化項等）來提高模型的準確率。 改變模型結構：你可以增加或刪減模型中的層數、增加每層的神經元數量，或者使用不同的激活函數來改變模型的結構。 訓練更長時間：模型訓練的時間越長，模型就有更多的時間來學習，因此準確率往往會提高。 使用不同的模型：你可以試試不同的模型結構，例如殘差網路或卷積神經網路，看看哪個模型的準確率更高。 數據資料的準備 請見我的另一篇文章: 準備數據集資料的方針 調整超參數 超參數是指在訓練模型時不能由模型自動學習的參數。它們通常會影響模型的性能，因此在訓練模型時需要手動設置。 一些常見的超參數包括： 學習率：決定了模型在訓練過程中更新權重的速度。 損失函數：決定了模型在訓練過程中最小化的目標函數。 正則化項：決定了模型在訓練過程中對過擬合的懲罰力度。 批量大小：決定了模型在訓練過程中每次更新權重時使用的樣本數量。 設置超參數的方法有很多，其中常見的方法包括網格搜索和隨機搜索。 網格搜索是指對每個超參數設置一組固定的值，然後枚舉所有可能的組合來尋找最佳超參數。 隨機搜索則是隨機設置超參數的值，然後找出準確率最高的超參數組合。 也可以使用自動調參工具，例如 Hyperopt 或 Optuna，來幫助你設置超參數。這些工具可以自動幫你調整超參數，以便找到最佳的超參數組合。 使用TensorFlow…

如何準備數據集 使用質量高的資料，如:​ 清晰的圖像: 圖像清晰且無模糊或雜訊。​ 正確的標記: 圖像被正確地標記為相應的類別。​ 代表性的數據: 數據集中的數據能夠代表所有可能的輸入圖像，例如不同的角度、光線、尺寸等。​ 避免以下狀況:​ 模糊或不清晰的圖像: 圖像中有大量的模糊或雜訊。​ 錯誤的標記: 圖像被錯誤地標記為其他類別。​ 不代表性的數據: 數據集中的數據只代表一小部分可能的輸入圖像。 數據集要多少張才足夠 所需的圖片張數會視實際情況而會有所不同。例如，以撲克牌辨識為例，若數據集中只有每種牌的一種花色，或者您的數據集中可能有每種牌的多種花色，隨著分類的數量的增加，所需要的數據集規模也會隨之增加。 因此，在建立模型之前，需要先了解所要建構的數據集的結構，以確保使用的模型能夠正確地處理數據。 決定數據集大小需要考慮的因素有很多，因此無法給出一個硬性的準則。不過，通常而言，越多的訓練數據可以訓練出的模型表現越好。 然而，過多的訓練數據也可能會導致過擬合(overfitting)的問題，即模型對訓練數據表現良好，但對新數據的表現不佳。因此，在建立模型時，還需要考慮到模型的複雜度和訓練數據集的大小之間的平衡。 此外，訓練數據集的質量也很重要。如果您的數據集中有大量的標記錯誤或不清晰的圖像，那麼即使您的數據集很大，模型的表現也可能不佳。 因此，在確定數據集大小時，需要考慮許多因素，並嘗試找出最佳平衡。可以嘗試不同的數據集大小，並觀察模型的表現，以找出最佳的數據集大小。 若只是在測試模型階段，可以先嘗試使用少量的數據集來訓練模型。這可以幫助我們快速測試準備數據集的想法，並大致的了解模型的表現。 當確定了模型的結構和超參數後，可以考慮增加數據集的大小，以提高模型的準確度。因此，在建立模型時，建議先使用少量的數據集來確定模型的結構和超參數，然後再考慮增加數據集的大小。 所謂的少量，若只是測試階段，可以只需要幾百張圖像來確定模型的結構和超參數。但是，需要注意的是，模型的表現可能受到數據集質量的影響。即使數據集很小，如果數據集中的圖像質量很高，那麼模型的表現也可能很好。…

訓練過程 下面為一個epochs為10的訓練過程的log 機器學習結果判讀 如上圖，當我們下了model.fit開始跑機器學習後，會可以看到跑出下面這些資訊，這時候要如何解讀這些資訊呢? loss: 0.0337, accuracy: 0.9910, val_loss: 0.1509, val_accuracy: 0.9762​ loss：指的是模型在訓練數據集上的損失。損失越低，代表模型的表現越好。​ accuracy：指的是模型在訓練數據集上的準確率。準確率越高，代表模型的表現越好。​ val_loss：指的是模型在驗證數據集上的損失。損失越低，代表模型的表現越好。​ val_accuracy：指的是模型在驗證數據集上的準確率。準確率越高，代表模型的表現越好。​ 0.9762 的準確率可以說是相當不錯的，但是在某些應用中可能還不夠。例如，在自動駕駛應用中，準確率可能需要更高，因為一個錯誤的預測可能會導致嚴重的後果。 在這個結果的數據集中，準確率為 0.9762 ，其大約會有 2.38% 的錯誤率。 如果有 100…

甚麼是Keras Keras是一個用Python編寫的開源神經網路庫，旨在快速實現深度神經網路，專注於使用者友好、模組化和可延伸性，除標準神經網路外，Keras還支援卷積神經網路和迴圈神經網路。包含許多常用神經網路構建塊的實現，例如層、目標、啟用功能、最佳化器和一系列工具，可以更輕鬆地處理圖像和文字資料。 Keras由純Python編寫而成並基於Tensorflow、Theano以及CNTK後端。Keras 為支持快速實驗而生，能夠把你的idea迅速轉換為結果，如果你有如下需求，請選擇Keras： 簡易和快速的原型設計（keras具有高度模塊化，極簡，和可擴充特性） 支持CNN和RNN，或二者的結合 無縫CPU和GPU切換 Keras建立模型的流程 載入數據集: 首先，您需要載入您要用來訓練模型的圖像數據集。您可以使用 Python 的數據讀取庫(如 pandas 或 numpy) 來讀取本地數據集，或者使用 Keras 自帶的數據集(如 MNIST 手寫數字數據集)。 將數據拆分為訓練集和測試集: 接下來，您需要將數據集拆分為訓練集和測試集。這樣可以幫助您評估模型的表現。通常，您會將大約 80% 的數據集用於訓練，剩餘的 20%…

其實會發這一篇文，主要是看到這個博客的文章真的感動到快哭了… 這幾天因為想增加OCR辨識正確率開始與LBP打交道 https://zh.wikipedia.org/wiki/%E5%B1%80%E9%83%A8%E4%BA%8C%E5%80%BC%E6%A8%A1%E5%BC%8F 我找到了一個看起來很強大很棒的函式庫 https://scikit-image.org/docs/stable/api/skimage.feature.html#skimage.feature.local_binary_pattern 網路上有很多教學文章，看起來是很知名的套件 a href=\”https://machine-learning-python.kspax.io/classification/ex1_recognizing_hand-written_digits\”>https://machine-learning-python.kspax.io/classification/ex1_recognizing_hand-written_digits 然後我遇到了和這位博主一樣的問題 https://www.cnblogs.com/ilk123/p/11797261.html 沒錯…….LBP明明出來的應該是1-256的值阿…我也是設定R=1, P=8\r\n這樣用default的LBP出來的應該要是1-256之間的值，但是卻是0和1的二值陣列…. 我一直想..這麼偉大的一個scikit-image怎麼可能有錯，一定是我的使用方法有誤… 害我撞頭撞到快崩潰….. 沒想到在此遇到一個和我一樣的苦主 太感動了，特此記錄！ 另外，後來我也找到了一個最原始的LBP算法 程式碼下載於 https://github.com/zhongqianli/local_binary_pattern/blob/master/local_binary_pattern.py def original_lbp(image): “””origianl local binary pattern”””…