©原創作者 | 蘇菲
論文題目：
Prompt-free and Efficient Language Model Fine-Tuning
論文作者：
Rabeeh Karimi Mahabadi
論文地址：
https://openreview.net/pdf?id=6o5ZEtqP2g
提示學習（Prompt-learning）被譽為自然語言處理的“第 4 種正規化”，它可以在少樣本甚至零樣本的條件下，通過將下游任務修改為語言生成任務來獲得相對較好的模型。
但是，傳統的提示學習需要針對下游任務手工設計模板，而且採用自迴歸的訓練預測方法非常耗時。本文提出的PERFECT方法，無需手工設計特定模板，大大降低記憶體和儲存消耗（分別降低了5個百分點和100個百分點）。
在12個NLP任務中，這種微調方法（PERFECT）在簡單高效的同時，取得了與SOTA方法（如PET提示學習模型）相近甚至更高的結果。
論文的創新之處在於：
（1）使用特定任務介面卡替代手工製作任務提示，提高了微調的取樣效率且降低記憶體及儲存消耗；
（2）使用不依賴於模型詞彙集的多標記標籤向量學習，替代手工編制的語言生成器，可以避免複雜的自迴歸解碼過程。
01 背景介紹
論文作者首先介紹了少樣本語言模型微調以及提示學習的問題定義、介面卡、基於提示的微調、訓練策略、預測策略等，然後再提出論文對這一問題和模型的改進方法。
圖1所示的是一個情感分類器（提示學習模型），輸入的提示模板為“x It was [MASK]”, 可以替換x為輸入文字，通過語言生成器（Verbalizers）把詞彙對應到極性標籤（‘positive’或者‘negative’），從而獲得整個文字的情感類別。
圖1
現存的提示學習模型需要手工精心設計提示模板和語言生成器，以便將任務轉化為掩碼語言模型（MLM）和完形填空格式。這篇論文提出的PERFECT方法不需要任何手工構建工作，且可以去掉提示模板和語言生成器。
1.1問題的定義
論文作者進一步設定驗證集與訓練集的樣本數相同（因為更大的驗證集可能更有優勢），因此論文作者使用的訓練集有16個樣本，即N=16，同時使用的驗證集也有16個樣本，總共是32個樣本的少樣本學習資料集。
1.2 適配層（Adapters）
在具有超大規模引數的預訓練語言模型（PLMs）中，微調語言模型時可以通過加入一個小的特定任務層（稱為適配層Adapters），那麼在訓練語言模型時只需要訓練新加入的適配層和歸一化層，而語言模型中的其它引數保持不變。
例如在Transformer模型中，其中的每一層主要由一個注意力block和一個前饋block構成，而這兩個block後面都會接一個跳躍連線層；通常把適配層插在這些block之後且在跳躍連線層之前（如圖2所示），那麼在訓練時僅僅需要優化圖中綠色模組的引數。
圖2
1.3 基於提示的微調
標準的微調：標準的預訓練語言模型微調方法是，首先將一個特殊符號[CLS]加入到輸入x中，然後模型將其對映到隱藏層中的序列表示
這種標準微調的主要缺點在於預訓練和微調之間可能存在不一致，因為預訓練時已經使用一個掩碼語言模型進行了訓練（用於預測被掩蔽的tokens），而微調時也進行了同樣的訓練。
基於提示的微調：為了解決這種不一致，基於提示的微調把任務轉換為完型填空的形式。例如，圖1所示的情感分類任務中，輸入被轉換為下面的提示形式：
訓練的策略：設是下游任務的標籤，使用語言生成器（Verbalizers）可以將一個標籤對映到預訓練語言模型詞庫中的一個詞語。那麼，利用提示模板中的MASK，分類任務被轉換到預測一個掩碼的目標詞語，預測標籤y的概率為：
預測的策略：在預測階段，這種基於提示的微調模型需要在給定上下文環境中選擇使用哪一個Verbalizer，一般採取自迴歸的方式進行選擇。首先把掩碼token的數目從M修剪到每一個候選Verbalizer的token長度，並計算每一個掩碼token概率。
然後，用概率最大的Verbalizer中的token替代相應的掩碼token，再重新計算剩下的掩碼token概率。重複這種自迴歸解碼方式，直到所有要預測的掩碼token都被計算完畢。
這種預測策略速度很慢，因為模型中前向路徑傳遞的數目會隨著類別數目、Verbalizer的token數目的增加而增長。
總的看來，基於提示的微調方法的成功嚴重依賴於手工工程的patterns和verbalizers，而尋找合適的verbalizers和patters也是困難的。
此外，手工定製的verbalizers會帶來以下的效率方面的問題：
a）由於需要更新預訓練語言模型的embedding層，所以會引起大量記憶體超負荷；
b）由於需要很小的學習率（通常是10-5），這會大大減慢verbalizers的微調速度；
c）把verbalizers作為預訓練語言模型的一個token會影響輸入在微調時的表示學習；
d）verbalizers的token長度是變化的，這使得其向量化會變得複雜，也是提高微調效率的一個挑戰。為了解決上述困難和挑戰，論文作者提出了下面的無需verbalizer和patterns的少樣本學習微調方法（PERFECT）。
論文解讀上篇先到這裡，下篇將為大家繼續分享作者獨到的創新之處。