MIT研究團隊提出一種新的AI訓練方法SEAL

麻省理工學院（MIT）研究團隊近日發布了一項革命性人工智慧訓練框架——SEAL（Self-Adapting Language Models），該方法突破了傳統大型語言模型（LLM）靜態知識的限制，使AI模型能夠自主生成微調數據並自我更新權重，實現持續進化和能力提升，為人工智慧的未來開啟了全新篇章。

傳統大型語言模型的瓶頸

目前主流的大型語言模型如GPT系列、LLaMA等，雖然擁有強大的語言理解與生成能力，但其核心知識和模型權重在訓練完成後即被「凍結」，無法根據新知識或任務動態調整。這意味著模型無法像人類一樣持續學習和成長，面對新資訊時只能被動應答，無法真正吸收和整合最新知識，限制了其長期適用性和智能水平。

SEAL框架的最大創新在於賦予大型語言模型「自我進化」的能力。具體而言，模型不僅能根據輸入生成回答，還能自主產生「自我編輯」——即生成用於微調自身的訓練數據和更新指令。透過這些自我編輯，模型能夠反覆調整權重，實現針對新任務或新知識的持續適應。

這一過程完全由模型自身生成和控制，無需依賴外部輔助網絡或獨立適應模組，形成一個閉環的自我優化系統。模型在面對新輸入時，會動態生成最佳化超參數、調用工具進行數據增強，並基於梯度更新進行權重調整，從而不斷提升自身表現。

為了讓模型學會產生有效的自我編輯，MIT團隊採用了一種名為ReST-EM的輕量級強化學習算法。訓練過程中，模型基於任務情境生成自我編輯，經過監督式微調應用後，通過評估更新後模型的下游任務表現來獲取獎勵信號。這種多輪高獎勵樣本選擇和拒絕採樣機制，促使模型不斷優化自我編輯策略，提升適應能力。

MIT研究團隊在兩個核心領域驗證了SEAL的優越性：

知識整合：模型透過生成邏輯推理作為合成數據，成功整合新事實資訊。在單段落問答任務中，經過兩輪ReST-EM訓練後，準確率從32.7%提升至47.0%，超越使用原始段落或GPT-4.1生成數據微調的模型。更大規模的持續預訓練中，SEAL仍保持43.8%的領先表現，證明其學習策略具備良好擴展性。
少樣本學習：在ARC基準測試的簡化子集上，SEAL自主選擇數據增強和訓練超參數，成功率達72.5%，大幅優於零樣本情境學習（0%）和未訓練自我編輯的測試時訓練（20%）。

SEAL框架標誌著大型語言模型從靜態知識庫向動態自我學習系統的根本轉變。它不僅提高了模型面對新任務的適應性，還為AI持續進化提供了可行路徑。這種自我生成訓練數據並自我更新權重的能力，有望推動AI在自然語言理解、推理、少樣本學習等多個領域取得突破。

未來，SEAL框架有望與元學習、生成對抗網絡（GAN）、強化學習等技術深度融合，打造更加智能且自主的AI系統。此外，隨著技術成熟，這種自我進化的AI將在科研、醫療、金融、教育等多個行業發揮重要作用，實現真正的持續學習與能力升級。

MIT的SEAL框架為人工智慧帶來了前所未有的自我進化能力，突破了大型語言模型知識靜態的天花板。這一創新不僅提升了AI的智能水平，更為未來AI系統的持續學習和自我優化奠定了基礎。隨著相關技術不斷完善，我們有理由期待一個更加智慧、靈活且持續成長的AI時代即將來臨。