根據fcaformer的思想對mobilevit v1做出修改 原模型 在cifar100資料集上準確度70.1 100 epoch 修改後 67.1(好像是的 準確度存在.pth檔案中了) 改進並不完全,fca是兩個張量計算交叉自注意力 我是把全域性token拼接在組token的後面 一起計算自注意力。打算再次修改 嘗試能否超過70.1 程式碼在同名的壓縮包中
根據fcaformer的思想對mobilevit v1做出修改 原模型 在cifar100資料集上準確度70.1 100 epoch 修改後 67.1(好像是的 準確度存在.pth檔案中了) 改進並不完全,fca是兩個張量計算交叉自注意力 我是把全域性token拼接在組token的後面 一起計算自注意力。打算再次修改 嘗試能否超過70.1 程式碼在同名的壓縮包中