利用js判斷檔案是否為utf-8編碼

tornoda發表於2021-06-02
JS

常規方案

使用FileReader以utf-8格式讀取檔案，根據檔案內容是否包含亂碼字元�，來判斷檔案是否為utf-8。

如果存在�，即檔案編碼非utf-8，反之為utf-8。

程式碼如下：

const isUtf8 = async (file: File) => {
  return await new Promise((resolve, reject) => {
    const reader = new FileReader();
    reader.readAsText(file);

    reader.onloadend = (e: any): void => {
      const content = e.target.result;
      const encodingRight = content.indexOf("") === -1;

      if (encodingRight) {
        resolve(encodingRight);
      } else {
        reject(new Error("編碼格式錯誤，請上傳 UTF-8 格式檔案"));
      }
    };
    
    reader.onerror = () => {
      reject(new Error("檔案內容讀取失敗，請檢查檔案是否損壞"));
    };
  });
};

該方法問題在於，如果檔案非常大，比如幾個G，瀏覽器讀到的內容直接放在記憶體中，fileReader例項會直接觸發onerror，丟擲錯誤，有時瀏覽器會直接崩潰。

大檔案方案

對於大檔案，可以對檔案內容進行抽樣，對檔案進行切片，這裡使用100片。對切出的每片檔案再切取前面1kb大小的片段，以string方式讀取。如果1024B可能正好切在某個漢字編碼的中間，導致以string方式讀取時出錯，即首尾可能出現�，被認為是非utf-8片段。這時可以取1kb對應字串的前半段，再去判斷�是否存在。

上述常數可以根據需求進行調整。

程式碼如下：

const getSamples = (file: File) => {
  const filesize = file.size;
  const parts: Blob[] = [];
  if (filesize < 50 * 1024 * 1024) {
    parts.push(file);
  } else {
    let total = 100;
    const sampleSize = 1024 * 1024;
    const chunkSize = Math.floor(filesize / total);
    let start = 0;
    let end = sampleSize;
    while (total > 1) {
      parts.push(file.slice(start, end));
      start += chunkSize;
      end += chunkSize;
      total--;
    }
  }
  return parts;
};

const isUtf8 = (filePart: Blob) => {
  return new Promise((resolve, reject) => {
    const fileReader = new FileReader();

    fileReader.readAsText(filePart);

    fileReader.onload = (e) => {
      const str = e.target?.result as string;
      // 大致取一半
      const sampleStr = str?.slice(4, 4 + str?.length / 2);
      if (sampleStr.indexOf("�") === -1) {
        resolve(void 0);
      } else {
        reject(new Error(編碼格式錯誤，請上傳 UTF-8 格式檔案"));
      }
    };

    fileReader.onerror = () => {
      reject(new Error(檔案內容讀取失敗，請檢查檔案是否損壞"));
    };
  });
};

export default async function (file: File) {
  const samples = getSamples(file);
  let res = true;

  for (const filePart of samples) {
    try {
      await isUtf8(filePart);
    } catch (error) {
      res = false;
      break;
    }
  }
  return res;
}

相關文章