AIxiv專欄是機器之心釋出學術、技術內容的欄目。過去數年，機器之心AIxiv專欄接收報導了2000多篇內容，覆蓋全球各大高校與企業的頂級實驗室，有效促進了學術交流與傳播。如果您有優秀的工作想要分享，歡迎投稿或者聯絡報導。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com
自動形式化數學定理證明，是人工智慧在數學推理領域的重要應用方向。此類任務需要將數學命題和證明步驟轉化為計算機可驗證的程式碼，這不僅能確保推理過程的絕對嚴謹性，還能構建可複用的數學知識庫，為科學研究提供堅實基礎。早在上世紀中葉，戴維斯、明斯基等不少邏輯學家、數學家、人工智慧先驅便已在探索相關問題，其中，也不乏王浩、吳文俊等華人身影。近些年在 LLM 能力加持下，自動定理證明系統更多依賴於複雜的蒙特卡洛樹搜尋 (MCTS) 或價值函式 (Value Function) 來指導搜尋過程。然而，這些方法引入了額外計算成本，並增加系統複雜度，使模型在大規模推理任務中的可擴充套件性受限。位元組跳動豆包大模型團隊推出的 BFS-Prover 挑戰了這一傳統正規化。作為一種更簡單、更輕量但極具競爭力的自動定理證明系統，它引入了三項關鍵技術：1）專家迭代 (Expert Iteration) 與自適應性資料過濾，2）直接偏好最佳化 (DPO) 結合 Lean4 編譯器反饋，3）BFS 中的長度歸一化。從結果看，BFS-Prover 在形式化數學測試集 MiniF2F 上實現了 72.95% 的準確率，創造了新的領域記錄。該結果也首次證明：在合理的最佳化策略下，簡單的 BFS 方法能夠超越蒙特卡洛樹搜尋（MCTS）和價值函式（Value Function）等主流的複雜搜尋演算法。目前，論文成果已對外公開，模型也最新開源，期待與相關研究者做更進一步交流。BFS-Prover: Scalable Best-First Tree Search for LLM-based Automatic Theorem Proving
https://arxiv.org/abs/2502.03438
HuggingFace：https://huggingface.co/bytedance-research/BFS-Prover
Part1：主流方法蒙特卡洛樹搜尋和價值函式真的必要麼？在形式化數學證明領域，將抽象的數學概念轉化為能夠用計算機驗證的嚴格形式，是一項極具挑戰性的任務。該過程要求每一步推理都符合嚴格的形式邏輯規則，且每個步驟都必須經過 Lean 證明助手驗證。在自動形式化定理證明過程中，計算機面臨的核心挑戰是 —— 在龐大且高度結構化的證明空間中，找出有效路徑。這一難點與傳統搜尋問題有本質區別，具體表現如下：搜尋空間龐大：每一步推理可能有數十甚至上百種可能的策略選擇；
動態變化的策略空間：不同於棋類遊戲的固定規則，數學定理證明中，每個狀態下可應用的策略集合不斷變化，且規模龐大且無明確界限；
反饋稀疏與延遲：直到完成證明前，系統很難獲得有效的中間反饋；
開放式推理過程：缺乏明確的終止條件，證明嘗試可能無限延續；
現有自動定理證明系統如 DeepSeek-Prover-V1.5、InternLM2.5-StepProver 和 HunyuanProver，主要依賴複雜的蒙特卡洛樹搜尋（MCTS）和價值函式（Value Function）解決上述問題。這些類 AlphaZero 演算法框架在遊戲中表現出色，尤其在圍棋領域大放異彩，推動了強化學習概念破圈。但在自動定理證明領域，由於狀態空間極其複雜以及缺乏明確的過程獎勵訊號，上述主流方法效果並不理想。此外，複雜的搜尋演算法還帶來了計算成本高、系統複雜度增加等問題。Part2：化繁為簡，用機器證明數學定理可以更簡單人類遇到問題，往往優先採用最可能解決的方法。最優先樹搜尋（Best-First Tree Search，即 BFS）與之類似。這是一種在 “樹” 或 “圖” 中搜尋節點的演算法。核心思想是根據某種啟發式函式，評估每個節點優先順序，按優先順序訪問節點，常用於解決約束滿足問題和組合最佳化問題，特別是在需要快速找到近似最優解的情況下。此前不少研究者認為，簡單的 BFS 演算法缺乏有效的探索機制，尤其是對深度路徑的探索，難以勝任大規模定理證明任務，但豆包大模型團隊的研究者發現了其中的突破口，並提出了 BFS-Prover 系統。下圖展示了 BFS-Prover 系統的整體架構和工作流程。右側展示了訓練資料生成過程，包括用於監督微調的 SFT 資料 (成功證明路徑上的狀態 - 策略對) 和用於直接偏好最佳化的 DPO 資料 (從同一狀態出發的正確策略與錯誤策略的對比)。左側展示了 BFS 機制，透過 LeanDojo 環境與 Lean4 互動，從根節點開始，按照優先順序順序 (1→2→3...) 探索證明路徑，直到找到證明完成節點 (綠色 A 點)。整個系統形成閉環：LLM 生成策略 → LeanDojo 執行 → 獲取反饋 → 生成訓練資料→最佳化 LLM → 再次生成策略，實現了持續改進的專家迭代機制。團隊認為，BFS-Prover 系統不僅證明了經過最佳化的 BFS 方法效能方面可以超越複雜的 MCTS 和價值函式，並且能保持架構的簡潔性和計算效率。其技術特徵如下：BFS-Prover 採用專家迭代框架，透過多輪迭代不斷增強 LLM 能力。在每輪迭代中，系統會先使用確定性的束搜尋 (Beam Search) 方法過濾掉容易解決的定理，將這些 “簡單問題” 從訓練資料中剔除，再著手解決 “複雜問題”。這一資料過濾機制頗具創新性，確保了訓練資料逐漸向更具挑戰性的定理證明任務傾斜，使 LLM 能夠學習更多元化的證明策略。如下圖實驗資料顯示，隨迭代進行，系統能夠發現證明的平均長度變長，覆蓋面變廣，證明了這一方法的有效性。如下圖所示，經過多輪迭代，模型生成的策略長度分佈發生了顯著變化：非常短的策略（1-10 個 token）比例下降，而中等長度策略（11-50 個 token）比例則有所增加。這種分佈變化表明，LLM “深度思考能力” 在加強，避免了常見的強化學習導致的分佈坍縮問題，並逐漸掌握了更復雜、更資訊豐富的證明策略。同時，模型生成簡潔策略的能力並未摒棄。這種多樣策略生成能力的保持對於有效定理證明至關重要，因為不同的證明狀態，需要不同複雜度的策略，涵蓋從簡單的項重寫到複雜的代數操作。在證明搜尋過程中，當 LLM 生成的某些策略導致 Lean4 編譯器錯誤，系統將這些無效策略與成功策略配對，形成負反饋訊號。BFS-Prover 創新性地依靠這些資料，基於直接偏好最佳化 (DPO) 技術最佳化策略 LLM。此種方法顯著提高了模型識別有效策略的能力，最佳化了策略分佈，提高 BFS 的取樣效率。如下圖實驗結果，在各種計算量級下，經過 DPO 最佳化的模型均取得了效能提升，證明了負面訊號在定理證明中的重要價值。為解決 BFS 對深度推理路徑的天然打壓問題，BFS-Prover 系統引入了可調節的長度歸一化評分函式： 其中，L 表示路徑長度，α 是可調節的長度歸一化引數。透過適當調整 α 值，系統可以平衡對高機率路徑的利用與對深層路徑的探索，使 BFS 能夠更有效地探索長鏈證明。Part3：BFS-Prover 取得 MiniF2F 新 SOTA團隊在 MiniF2F 測試集上，對 BFS-Prover 進行了全面評估。該測試集是形式化數學領域公認的基準測試集，包含高難度的競賽級數學問題，被廣泛用於衡量自動定理證明系統的能力。在與領先的定理證明系統的對比中，BFS-Prover 展現出顯著優勢。在固定策略生成的計算量下 (2048×2×600 次推理呼叫)，BFS-Prover 實現了 70.83% 的準確率，超過所有現有系統，包括使用價值函式的 InternLM2.5-StepProver (65.9%) 、HunyuanProver (68.4%)，以及基於 MCTS 的 DeepSeek-Prover-V1.5 (63.5%)。在累積評估中，BFS-Prover 進一步將準確率提升至 72.95%，成為了形式化定理證明領域的 SOTA。這一結果不僅證明了 BFS 方法的潛力，更展示了透過精心設計可以使簡單演算法超越複雜方法。值得一提的是，BFS-Prover 成功證明了 MiniF2F-test 中的多個 IMO 問題，包括 imo_1959_p1，imo_1960_p2, imo_1962_p2, imo_1964_p2 和 imo_1983_p6。這些證明展示了系統在處理複雜數學推理方面的強大能力，涵蓋數論、不等式和幾何關係等。比如，對於 imo_1983_p6 不等式問題，BFS-Prover 能夠生成簡潔而優雅的形式化證明：團隊認為，BFS-Prover 的成功，暗含了自動定理證明領域的一項重要啟示：簡潔的演算法結合精心設計的最佳化策略，同樣有助於 AI4Math 邊界擴充。
隨著大語言模型能力的不斷提升，BFS-Prover 開創的簡潔高效路線有望進一步推動自動形式化定理證明領域發展，為數學研究提供更強大的自動化工具支援。
展望未來，團隊計劃進一步提升 BFS 方法在處理更復雜數學問題上的能力，特別是針對本科和研究生級別的數學定理。同時，團隊也將基於推理模型和其他前沿路線，持續挖掘模型潛力。
團隊期望，透過持續最佳化資料和訓練策略，讓相關工具為數學研究提供強大輔助，加速數學發現過程，最終實現人機協作解決前沿數學挑戰的願景。
