Category: Machine Learning

TensorFlow認證計劃課程

以下為介紹網頁
https://www.tensorflow.org/certificate
在這個網頁當中，他們推薦了幾個課程

• Udacity 的《TensorFlow 在深度學習中的應用簡介》課程
• Coursera 的《DeepLearning.AI TensorFlow Developer 專業證書》

而我選擇了Udacity的課程(因為免費)，而且可以有中文字幕

必備知識

為了順利完成考試，應試者應該了解以下知識：

• 機器學習和深度學習的基本原則
• 在TensorFlow 2.x 中構建機器學習模型
• 使用深度神經網絡和卷積神經網絡構建圖像識別算法、對象檢測算法、文本識別算法
• 使用不同形狀和大小的真實圖像可視化圖像的捲積過程，了解計算機如何“觀察”信息、繪製損失和準確率圖
• 探索防止過擬合的策略，包括增強和丟棄策略
• 在TensorFlow 中使用神經網絡解決自然語言處理問題

認證考試使用的工具

PyCharm
因此應熟悉在PyCharm中撰寫Python程式、Debug及Compiler。
此為社區版連結: https://www.jetbrains.com/pycharm/download/#section=windows
若是仍有學生的email信箱，則可以免費申請專業版: https://www.jetbrains.com/community/education/#students

認證考試的內容

雖然我們不一定要去獲得認證，但是從認證考試範圍可以了解，要學習Tensorflow有那些東西是官方認為必備的知識，以下為官方的認證說明文件:
TF_Certificate_Candidate_Handbook

TensorFlow開發技能

• 在PyCharm中寫程式Python的知識，解決Python問題，並編譯和執行Python程式。
• 了解如何查找有關 TensorFlow API 的信息，包括如何查找指南和 API(tensorflow.org 上的參考資料)。
• 知道如何從TensorFlow API中除錯、調查和解決錯誤訊息。
• 知道如何在tensorflow.org 之外搜尋必要知識來解決在tensorflow遇到的問題
• 知道如何使用TensorFlow建立ML模型，其中模型大小對正在解決的問題來說是合理的。
• 知道如何儲存ML模型並檢查模型
• 了解不同版本的Tensorflow的相容性差異

使用TensorFlow 2.x構建和訓練神經網路模型

• 使用TensorFlow 2.x。
• 使用TensorFlow構建、編譯和訓練機器學習（ML）模型。
• 預處理資料，使其準備好在模型中使用。
• 使用模型來預測結果。
• 為二元分類 (binary classification) 構建和訓練模型
• 為多元分類器建構和訓練模型
• 繪製經過訓練的模型的損失和準確性。
• 了解如何防止過度擬合，包括資料增強(augmentation)和dropout
• 使用預先訓練的模型（轉移學習）。
• 從預先訓練的模型中提取特徵。
• 確保模型的輸入處於正確的形狀。
• 確保您可以將測試資料與神經網路的輸入形狀匹配。
• 確保您可以將神經網絡的輸出數據與測試數據的指定輸入形狀相匹配。
• 瞭解資料的批次載入
• 使用回撥來觸發訓練週期的結束
• 使用不同的來源的資料集
• 使用不同格式的資料集，包括CSV和JSON
• 使用tf.data.datasets裡的資料集

影像分類

瞭解如何使用TensorFlow 2.x使用深度神經網路和卷積神經網路構建影象識別和物件檢測模型。 您需要知道如何：

• 使用 Conv2D 和池化層定義卷積神經網絡。
• 構建和訓練模型來處理真實世界的圖像數據集。
• 了解如何使用卷積來改進您的神經網絡。
• 使用不同形狀和大小的真實世界圖像。
• 使用圖像增強來防止過度擬合。
• 使用 ImageDataGenerator。
• 了解 ImageDataGenerator 如何根據目錄結構標記圖像。

自然語言處理（NLP）

你需要了解如何使用神經網絡張量流來解決自然語言處理問題。

您需要知道如何：

• 使用 TensorFlow 構建自然語言處理系統。
• 準備要在 TensorFlow 模型中使用的文本。
• 構建使用二元分類識別一段文本類別的模型
• 構建使用多類分類識別一段文本類別的模型
• 在您的 TensorFlow 模型中使用詞嵌入。
• 在您的模型中使用 LSTM 對文本進行分類以進行二分類或多分類。
• 將 RNN 和 GRU 層添加到您的模型中。
• 在處理文本的模型中使用 RNNS、LSTM、GRU 和 CNN。
• 在現有文本上訓練 LSTM 以生成文本（例如歌曲和詩歌）

時間序列、序列和預測

您需要瞭解如何在TensorFlow中解決時間序列和預測問題。 您需要知道如何：

• 訓練、調整和使用時間序列、序列和預測模型。
• 訓練模型來預測單變數和多變數時間序列的值。
• 為時間序列學習準備資料。
• 瞭解平均絕對誤差（MAE）以及如何將其用於評估序列模型的準確性。
• 使用RNN和CNN進行時間序列、序列和預測模型。
• 確定何時使用尾隨視窗與居中視窗。
• 使用TensorFlow進行預測。
• 準備功能和標籤。
• 識別和補償序列偏差。
• 動態調整時間序列、序列和預測模型的學習率。

數據增強

數據增強（Data Augmentation）是一種在不增加真實數據的情況下，通過對現有數據進行變化來增加數據集大小的方法。
請參見: https://www.tensorflow.org/api_docs/python/tf/keras/preprocessing/image/ImageDataGenerator
常見的數據增強技術包括:

• 尺度變換: 對圖像進行放大或縮小。
• 旋轉: 對圖像進行旋轉。
• 平移: 對圖像進行平移。
• 剪裁: 對圖像進行剪裁。
• 翻轉: 對圖像進行水平或垂直翻轉。
• 調整亮度: 對圖像的亮度進行調整。
• 調整對比度: 對圖像的對比度進行調整。

通過使用這些技術，可以從現有的數據集中生成新的數據，以增加數據集的大小

使用數據增強的範例 – 使用ImageDataGenerator

以下為一個簡單範例

# 建立模型
model = Sequential()
# 加入多個卷積層和池化層
model.add(Conv2D(filters=32, kernel_size=(3,3), activation='relu', input_shape=(img_height,img_width,3)))
model.add(MaxPooling2D(pool_size=(2,2)))
model.add(Conv2D(filters=64, kernel_size=(3,3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2,2)))
model.add(Conv2D(filters=128, kernel_size=(3,3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2,2)))

# 將特徵圖拉平
model.add(Flatten())

# 加入多個全連接層
model.add(Dense(units=256, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(units=128, activation='relu'))
model.add(Dropout(0.5))

# 加入輸出層
model.add(Dense(units=52, activation='softmax'))

# 編譯模型
model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])

# 使用數據增強
datagen = ImageDataGenerator(
rotation_range=30,
width_shift_range=0.2,
height_shift_range=0.2,
horizontal_flip=True
)

# 訓練模型
model.fit_generator(
datagen.flow(x_train, y_train, batch_size=32),
steps_per_epoch=len(x_train) / 32,
epochs=10,
validation_data=(x_val, y_val)
)

數據增強範例2 – 載入圖片decode_jpeg後隨機改變圖像

#现在我们的jpg文件进行解码，变成三维矩阵
def load_preprosess_image(path,label):
    #读取路径
    image=tf.io.read_file(path)
    #解码
    image=tf.image.decode_jpeg(image,channels=3)#彩色图像为3个channel
    #将图像改变为同样的大小，利用裁剪或者扭曲,这里应用了扭曲
    image=tf.image.resize(image,[360,360])
    #随机裁剪图像
    image=tf.image.random_crop(image,[256,256,3])
    #随机上下翻转图像
    image=tf.image.random_flip_left_right(image)
    #随机上下翻转
    image=tf.image.random_flip_up_down(image)
    #随机改变图像的亮度
    image=tf.image.random_brightness(image,0.5)
    #随机改变对比度
    image=tf.image.random_contrast(image,0,1)
    #改变数据类型
    image=tf.cast(image,tf.float32)
    #将图像进行归一化
    image=image/255
    #现在还需要对label进行处理，我们现在是列表[1,2,3],
    #需要变成[[1].[2].[3]]
    label=tf.reshape(label,[1])
    return image,label

梗圖分享

神經元的權重與偏差

在神經網絡中，權重 (weight) 和偏差 (bias) 是模型的兩個重要參數。

權重 (weight) 指的是神經網絡中的輸入層和輸出層之間的連接強度。每個神經元都有一個權重矩陣，表示與該神經元相連的輸入張量的強度。輸入張量與輸出張量之間的權重越大，該神經元對輸出的貢獻就越大。

偏差 (bias) 指的是神經網絡中的偏移量。每個神經元都有一個偏差值，表示該神經元的輸出在不考慮輸入的情況下的預設值。偏差值可以控制神經網絡的輸出範圍，並且可以用於控制模型的準確性。

在訓練神經網絡模型時，通常會使用梯度下降法來調整權重和偏差的值，以使得模型的輸出與真實值的差異最小。

設定神經元的偏差值

在訓練神經網絡模型時，通常可以自己設定神經元的偏差值。

例如，在 TensorFlow 中可以使用以下方式創建一個帶有偏差的神經元:

 import tensorflow as tf

# 創建一個帶有偏差的神經元
neuron = tf.keras.layers.Dense(units=1, bias_initializer=tf.constant_initializer(1.0))

上面使用了 bias_initializer 參數指定了偏差的初始值為 1.0。

使用梯度下降法調整偏差值

在訓練神經網絡模型時，通常會使用梯度下降法來調整偏差的值，以使得模型的輸出與真實值的差異最小。通常會使用 TensorFlow 的自動微分機制來計算模型的梯度，並使用梯度下降法調整偏差的值。

簡單範例

 import tensorflow as tf

# 創建一個帶有偏差的神經元
neuron = tf.keras.layers.Dense(units=1, bias_initializer=tf.constant_initializer(1.0))

# 創建模型
model = tf.keras.Sequential([neuron])

# 定義損失函數和優化器
loss_fn = tf.keras.losses.MeanSquaredError()
optimizer = tf.keras.optimizers.SGD(learning_rate=0.1)

# 訓練模型
for epoch in range(10):
  # 訓練數據
  x_train = [1.0, 2.0, 3.0, 4.0]
  y_train = [0.0, 0.0, 0.0, 0.0]

  # 將訓練數據放入模型
  for x, y in zip(x_train, y_train):
    with tf.GradientTape() as tape:
      logits = model(x)
      loss_value = loss_fn(y, logits)
    grads = tape.gradient(loss_value, model.trainable_variables)
    optimizer.apply_gradients(zip(grads, model.trainable_variables))

# 檢查神經元的偏差值
print(neuron.bias)  # 輸出: [0.9]

最後我們檢查了神經元的偏差值，可以看到它已經從 1.0 調整到了 0.9。

手動設定神經元的偏差值

以下為一個簡單範例

 import tensorflow as tf

# 創建一個帶有偏差的神經元
neuron = tf.keras.layers.Dense(units=1, bias_initializer=tf.constant_initializer(1.0))

# 創建模型
model = tf.keras.Sequential([neuron])

# 定義損失函數和優化器
loss_fn = tf.keras.losses.MeanSquaredError()
optimizer = tf.keras.optimizers.SGD(learning_rate=0.1)

# 訓練模型
for epoch in range(10):
  # 訓練數據
  x_train = [1.0, 2.0, 3.0, 4.0]
  y_train = [0.0, 0.0, 0.0, 0.0]

  # 將訓練數據放入模型
  for x, y in zip(x_train, y_train):
    with tf.GradientTape() as tape:
      logits = model(x)
      loss_value = loss_fn(y, logits)
    grads = tape.gradient(loss_value, model.trainable_variables)
    optimizer.apply_gradients(zip(grads, model.trainable_variables))

# 檢查神經元的偏差值
print(neuron.bias)  # 輸出: [0.9]

# 手動設定神經元的偏差值
neuron.bias.assign([1.0])

# 再次檢查神經元的偏差值
print(neuron.bias)  # 輸出: [1.0]

什麼是自動求導機制

在 TensorFlow 中，有一種特殊的張量類型叫做梯度張量，可以用於計算模型的梯度。

TensorFlow 的梯度張量是一種特殊的張量，其中包含了模型中每個變量的梯度信息。梯度張量是 TensorFlow 的自動微分機制的基礎，可以通過 TensorFlow 的自動微分機制來計算模型的梯度。

使用方法介紹

使用 GradientTape 類的方法是:

在計算圖的上下文中創建一個 GradientTape 對象。
使用 GradientTape 對象的 watch 方法監視計算圖中的變量。
執行計算圖，並在計算圖中使用 TensorFlow 的運算符操作張量。
使用 GradientTape 對象的 gradient 方法計算模型的梯度。

使用範例

在機器學習中，我們經常需要計算函數的導數。TensorFlow 提供了強大的自動求導機制來計算導數。以下程式展示了如何使用 tf. GradientTape()方法計算函數，y(x)=x^2在x=3時的導數：

 import tensorflow as tf
x = tf. Variable (initial value=3.)
with tf.GradientTape () as tape:
    #所有計算步驟都會被記錄以用於求導
    y=tf.sguare (x)
y_grad = tape.gradient (y, x)#計算y關於x的導數
print (ly, y_grad]) 

輸出如下：

[array ([9.1, dtype=float32), array ([6.], dtype=float32)]

使用方式

使用keras構建深度學習模型，我們會通過model.summary()輸出模型各層的參數狀況，如下：

import tensorflow as tf

# 建立模型
model = tf.keras.Sequential()
model.add(tf.keras.layers.Conv2D(32, (3, 3), input_shape=(32, 32, 3)))
model.add(tf.keras.layers.Flatten())
model.add(tf.keras.layers.Dense(10))

# 顯示模型的摘要信息
model.summary()

輸出範例

Model: "sequential"
_________________________________________________________________
Layer (type)                 Output Shape              Param #
=================================================================
conv2d (Conv2D)              (None, 30, 30, 32)        896
_________________________________________________________________
flatten (Flatten)            (None, 28800)             0
_________________________________________________________________
dense (Dense)                (None, 10)                288110
=================================================================
Total params: 288,006
Trainable params: 288,006
Non-trainable params: 0

參數意義

在這個輸出中，Total params 表示模型的總參數數量，可以用來反推模型的大小。請注意，模型的大小不僅僅是參數數量的函數，還可能受到訓練資料的大小、訓練次數等因素的影響。

Param就是參數的意思，也就是每層神經元的權重(w)個數。
怎麼算出來的？Param = (輸入維度+1) * 輸出的神經元個數，但是每個神經元都要考慮到有一個Bias，所以要再加上1。

為什麼要盡量使用Tensorflow的圖像操作功能

因為Tensorflow對GPU的支援度高，盡量完全使用Tensorflow內建的圖像操作功能對圖像做操作，可以避免資料在GPU和CPU之間轉換。

將資料集轉為dataset

可以使用 TensorFlow 的 tf.data.Dataset API 將訓練圖像和標籤轉換為數據集。

首先，需要將訓練圖像和標籤轉換為 TensorFlow 張量：

import tensorflow as tf

# Convert training images to tensors
train_images_tensor = tf.convert_to_tensor(train_images, dtype=tf.float32)

# Convert training labels to tensors
train_labels_tensor = tf.convert_to_tensor(train_labels, dtype=tf.int64)

然後，使用 tf.data.Dataset.from_tensor_slices 方法將張量轉換為數據集：

# Create a dataset from tensors
dataset = tf.data.Dataset.from_tensor_slices((train_images_tensor, train_labels_tensor))

使用 tf.data.Dataset 中的方法對數據集進行轉換和操作，例如混淆、重新排列和批次化。例如，要將數據集混淆並分成小批次

# Shuffle and batch the dataset
dataset = dataset.shuffle(buffer_size=1024).batch(32)

將BGR的tensor物件轉為灰階

可以使用rgb_to_grayscale將 BGR 格式的圖片轉換為灰階：

import tensorflow as tf

# 讀取圖片並解碼為張量
image = tf.image.decode_jpeg(image_data)

# 將圖片轉換為灰階
image = tf.image.rgb_to_grayscale(image)

# 將圖片的數據型別轉換為浮點數
image = tf.image.convert_image_dtype(image, tf.float32)

在 TensorFlow 中，通常會將圖片的數據型別轉換為浮點數，因為浮點數能夠提供更大的精度和更多的值域。浮點數通常用於訓練模型和進行數值運算。

例如，在進行影像辨識任務時，您可能會將圖片的像素值轉換為浮點數，以便模型能夠更好地學習圖片中的特徵。同樣地，在進行數值運算時，浮點數也能夠提供更高的精度，以便得到更精確的結果。

注意：不同的數據型別有不同的值域和精度，因此在選擇數據型別時，需要考慮您的應用程序的需求

將灰階圖片轉成黑白

使用以下方法將灰階圖片轉換為黑白圖片（類似 OpenCV 的 threshold）：

import tensorflow as tf

# 讀取圖片並轉換為灰階
image = tf.image.rgb_to_grayscale(image)

# 設定閾值並將圖片轉換為黑白圖片
threshold = 128
image = tf.cast(image > threshold, tf.float32)

我們先設定閾值（在這裡設為 128），然後將圖片中的像素值與閾值進行比較。如果像素值大於閾值，則轉換為 1（黑色）；否則轉換為 0（白色）。

載入圖片

使用 tf.io.read_file 函數讀取 JPEG 圖片，然後使用 tf.image.decode_jpeg 函數解碼圖片。接著，使用 tf.image.convert_image_dtype 函數將圖片轉換為 GPU 可處理的格式（通常是浮點數）。

import tensorflow as tf

# 讀取 JPEG 圖片
image_raw = tf.io.read_file(image_path)
image = tf.image.decode_jpeg(image_raw)

# 將圖片轉換為 GPU 可處理的格式
image = tf.image.convert_image_dtype(image, tf.float32)

縮小圖片

import tensorflow as tf

# 縮小圖片
image = tf.image.resize(image, (128, 128))

圖片改為灰階

import tensorflow as tf

# 轉換為灰階
image = tf.image.rgb_to_grayscale(image)

使用tensorflow-gpu結果耗一大堆MEMORY是為什麼

使用 TensorFlow GPU 版本會耗費較多的記憶體，這是正常的。因為 GPU 設備有自己的內存，我們可以使用 GPU 設備加速計算。但是，這意味著 GPU 設備的內存也必須足夠大，以便容納計算所需的資料。
如果GPU的記憶體不夠大，則tensorflow會改將原本要放在GPU的記憶體內的資料放到CPU的記憶體裡面，若是CPU的記憶體也不足夠大，則很有可能會導致程式死掉(因為記憶體不足夠)

改善方案

可考慮的改善方向有以下三點:

• 模型太大，超出了 GPU 設備的內存限制=>可以考慮使用更大的 GPU 設備或對模型進行優化，以減少模型的大小。(請參見: 如何縮小Tensorflow運算模型時使用的記憶體大小)
• 程式碼中存在記憶體泄漏。請檢查程式碼，確保正確釋放不再使用的記憶體。
• GPU 設備的驅動程序版本過舊或損壞

其他方法

請參考這篇文章: https://starriet.medium.com/tensorflow-2-0-wanna-limit-gpu-memory-10ad474e2528
第一個選項：設置set_memory_growth為真。

import tensorflow as tf
gpus = tf.config.experimental.list_physical_devices('GPU')
if gpus:
  try:
    for gpu in gpus:
      tf.config.experimental.set_memory_growth(gpu, True)
  except RuntimeError as e:
    print(e)

第二個選項：將第一個 GPU 的內存使用量限制為 1024MB。gpus只需根據需要更改和的索引memory_limit即可。

import tensorflow as tf
gpus = tf.config.experimental.list_physical_devices('GPU')
if gpus:
  try:
    tf.config.experimental.set_virtual_device_configuration(gpus[0], [tf.config.experimental.VirtualDeviceConfiguration(memory_limit=1024)])
  except RuntimeError as e:
    print(e)

我使用了第二個方法成功解決佔用太大記憶體的問題

使用Task Manager查看GPU使用狀況

使用 Windows 任務管理器檢查 GPU 設備的內存使用情況。要查看 GPU 內存使用情況，請按照以下步驟操作：

• 在 Windows 任務欄中，右鍵單擊「資源監視器」圖示。
• 在「資源監視器」窗口中，展開「性能」窗格。
• 在「性能」窗格中，展開「視覺效果」窗格。
• 在「視覺效果」窗格中，展開「DirectX 內存使用量」窗格。

「DirectX 內存使用量」只包含 GPU 設備上運行的應用程序所使用的內存，不包含 GPU 設備本身的內存。

如果需要更詳細的信息，可以使用 NVIDIA System Monitor 或其他第三方軟件工具檢查 GPU 設備的內存使用情況。

使用剪枝法

剪枝是一種常用的方法，用於縮小深度學習模型的大小。在剪枝過程中，可以刪除模型中不重要的權重，以縮小模型的大小。

以下是使用 TensorFlow 2.x 的簡單範例，說明如何在深度學習模型中進行剪枝：

import tensorflow as tf

# 建立模型
model = tf.keras.Sequential([
    tf.keras.layers.Dense(128, input_shape=(32,), activation='relu'),
    tf.keras.layers.Dense(10, activation='softmax')
])

# 加載權重
model.load_weights('model_weights.h5')

# 將權重轉換為不為零的權重的比例
model.summary()

# 進行剪枝
pruning_schedule = tf.keras.mixed_precision.experimental.PruningSchedule(initial_sparsity=0.50, final_sparsity=0.90, frequency=100)
model_for_pruning = tf.keras.mixed_precision.experimental.prune_low_magnitude(model, pruning_schedule)

# 繼續訓練模型
model_for_pruning.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])
model_for_pruning.fit(train_data, train_labels, epochs=5)

# 保存剪枝後的模型
model_for_pruning.save('pruned_model.h5')

訓練過程中使用正則化

正則化是一種常用的方法，用於防止過擬合，並縮小模型的大小。在 TensorFlow 中，您可以使用 tf.keras.regularizers 中的正則化函數，如 tf.keras.regularizers.l1 或 tf.keras.regularizers.l2，在網絡層中使用正則化。

model = tf.keras.Sequential([
    tf.keras.layers.Dense(128, kernel_regularizer=tf.keras.regularizers.l2(0.01), input_shape=(32,), activation='relu'),
    tf.keras.layers.Dense(10, activation='softmax')
])

使用較小的資料集進行訓練

如果資料集較大，則模型也會較大。因此，可以使用較小的資料集來訓練模型，以縮小模型的大小。
使用較少的運算計算。您可以使用較少的運算計算來縮小模型的大小。
例如，可以使用 1×1 卷積層來替代全卷積層預設值的3×3，或使用矩陣乘法來代替多重迴圈。

以下是使用 TensorFlow 2.x 的簡單範例，說明如何使用 1×1 卷積層來替代全卷積層的預設3×3的設定：

import tensorflow as tf

# 建立模型
model = tf.keras.Sequential([
    # 使用 1x1 卷積層替代全卷積層
    tf.keras.layers.Conv2D(64, (1, 1), padding='same', input_shape=(32, 32, 3), activation='relu'),
    tf.keras.layers.Conv2D(64, (3, 3), padding='same', activation='relu'),
    tf.keras.layers.Conv2D(64, (1, 1), padding='same', activation='relu'),
    tf.keras.layers.Flatten(),
    tf.keras.layers.Dense(10, activation='softmax')
])

# 編譯和訓練模型
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])
model.fit(train_data, train_labels, epochs=5)

在這個範例中，我們在網絡中使用了三個卷積層，其中第一個和第三個使用 1×1 卷積核。這有助於縮小模型的大小，同時保留了運算計算的效率。
如果將 kernel_size 設為 (3, 3)，則 TensorFlow 會將卷積核的高度設為 3，寬度設為 3。
因此將kernel_size 設定為3或是 (3, 3)，卷積核的大小都是 3×3，沒有任何意義上的差別。

修改kernel size

在使用 CNN 時，通常會將較大的 kernel size 放在較早的卷積層，較小的 kernel size 放在較深的卷積層。這樣做的目的是要讓模型能夠先捕捉到較大的特徵，再細究較小的特徵。

當然，也不一定要固守這個規則，如果您有其他的設計想法，也可以嘗試使用。但是，請記住，選擇 kernel size 的過程是一個平衡的過程，需要考慮訓練資料的特性、模型的性能和大小等因素。您可以透過多次嘗試和調整，找到對您的模型最合適的 kernel size。

使用預訓練的模型

使用預訓練的模型，而不是從頭開始訓練新模型。預訓練的模型已經在大型資料集上訓練過，可以直接套用到您的應用程序中。使用預訓練的模型可以使您的應用程序更小且訓練速度更快。