中新網北京2月24日電 (記者 張素)2月23日，清華大學與瑞萊智慧聯(lián)合團隊推出大語言模型RealSafe-R1。研發(fā)團隊代表介紹說，實驗數(shù)據(jù)表明RealSafe-R1安全性提升顯著，“安全增強版DeepSeek”可為更多應用提供可靠堅實基座。
連日來，國產開源大模型DeepSeek的優(yōu)異表現(xiàn)備受關注，其在自然語言處理和多任務推理方面的能力展現(xiàn)了強大的技術實力，尤其是在復雜問題解決和創(chuàng)造性任務中表現(xiàn)出色。業(yè)內專家同時提醒，DeepSeek R1和V3在面對一些安全性挑戰(zhàn)時仍存在一定的局限性。
針對“安全對齊機制不足”這一當前開源大模型的通病，清華瑞萊聯(lián)合團隊提出基于模型自我提升的安全對齊方式。“大模型的安全性瓶頸是本質的，只有通過持續(xù)投入和攻堅補齊短板弱項，人工智能產業(yè)才能真正實現(xiàn)高質量發(fā)展?！比鹑R智慧首席執(zhí)行官田天說。
據(jù)介紹，研發(fā)團隊將安全對齊與內省推理相結合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風險，實現(xiàn)基礎模型自身能力的自主進化。具體來說，研發(fā)團隊對DeepSeek-R1系列模型進行后訓練，正式推出RealSafe-R1系列大模型。
實驗數(shù)據(jù)表明，RealSafe-R1安全性提升顯著，在多個基準測試中有效增強了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間“蹺蹺板”現(xiàn)象。有評論認為，這為開源大模型安全發(fā)展與風險治理提供了創(chuàng)新性解決方案。
田天表示，RealSafe-R1各尺寸模型及數(shù)據(jù)集，將于近期向全球開發(fā)者開源。他進一步指出，這一創(chuàng)新成果將為開源大模型的安全性加固提供有力支持，也為政務、金融、醫(yī)療等場景的應用提供更為可靠的堅實基座。(完)