預訓練模型的意義？預訓練模型是一種深度學習體系結(jié)構(gòu)，經(jīng)過訓練可以對大量數(shù)據(jù)執(zhí)行特定任務（例如，識別圖像中的分類問題）。這種培訓不容易進行，通常需要大量資源。除了許多可以使用深度學習模型的人可以使用的資

預訓練模型的意義？

預訓練模型是一種深度學習體系結(jié)構(gòu)，經(jīng)過訓練可以對大量數(shù)據(jù)執(zhí)行特定任務（例如，識別圖像中的分類問題）。這種培訓不容易進行，通常需要大量資源。除了許多可以使用深度學習模型的人可以使用的資源之外，我沒有大量的gpu。當我們談論預訓練模型時，通常指的是在Imagenet上訓練的CNN（視覺相關任務體系結(jié)構(gòu)）。Imagenet數(shù)據(jù)集包含1400多萬張圖像，其中120萬張圖像被分為1000個類別（約100萬張圖像包含邊界框和注釋）。

2培訓前模型的定義

那么什么是培訓前模型？這是一組重量值，在訓練結(jié)束時效果很好，研究人員分享給其他人使用。我們可以在深度學習lib庫中找到許多有權(quán)重的庫，但是最簡單的方法是直接從你選擇的深度學習庫中獲取。

現(xiàn)在，以上是預培訓模型的標準定義。您還可以找到預先訓練的模型來執(zhí)行其他任務，如目標檢測或姿勢估計。

此外，最近研究人員已經(jīng)開始突破訓練前模式的界限。在自然語言處理（使用文本的模型）的上下文中，我們已經(jīng)使用嵌入層一段時間了。單詞嵌入是一組數(shù)字的表示，其思想是相似的單詞將以某種有用的方式表達出來。例如，我們可以希望“鷹”、“鷹”和“藍鴉”的表達有一些相似之處，而在其他方面則有所不同。Word2vec是我最喜歡的關于嵌入層的論文之一，它起源于Geoffrey Hinton在20世紀80年代的論文。