中新網(wǎng)上海9月12日電 (姜煜 高志苗)以“AI向善·安全發(fā)展——大模型在嚴(yán)謹(jǐn)行業(yè)應(yīng)用中的倫理與治理”為主題的外灘大會分論壇，12日在上海“2025外灘大會”現(xiàn)場舉辦，專家學(xué)者在論壇上熱議醫(yī)療AI應(yīng)用。
“在醫(yī)療行業(yè)，AI的決策直接關(guān)乎生命健康與社會公平，數(shù)據(jù)濫用、算法偏見、責(zé)任模糊等問題亟待解決。”中國互聯(lián)網(wǎng)協(xié)會副理事長黃澄清在論壇致辭中表示，構(gòu)建可信、可靠、可追溯的AI治理體系已成為技術(shù)發(fā)展的內(nèi)在要求，也是社會責(zé)任的必然選擇。
“醫(yī)療大模型的發(fā)展，我覺得對社會最大的貢獻(xiàn)是有可能促進(jìn)醫(yī)療公平公正。”復(fù)旦大學(xué)哲學(xué)學(xué)院教授王國豫說，AI在醫(yī)療領(lǐng)域的應(yīng)用是偏遠(yuǎn)地區(qū)醫(yī)生的好助手，為優(yōu)勢醫(yī)療資源難以觸達(dá)和覆蓋的病患群體帶去了期望和福音。
上海交通大學(xué)醫(yī)學(xué)院附屬瑞金醫(yī)院信息中心主任趙艷認(rèn)為，AI的出現(xiàn)讓患者不僅在診前就能對自身情況進(jìn)行較科學(xué)的基礎(chǔ)了解，也在診中和診后促進(jìn)了患者對醫(yī)生診療方案的依從性，從而可以提升配合治療的效果。
中國工程院院士、同濟(jì)大學(xué)黨委書記鄭慶華指出，AI與人類的“價值對齊”問題是確保人工智能科技向善的根本，要通過強化學(xué)習(xí)讓大模型學(xué)習(xí)人類的價值和偏好，以此讓人工智能對齊人類價值，創(chuàng)建安全、符合倫理的人工智能系統(tǒng)，同時人類也要對齊AI，核心是確保人們負(fù)責(zé)任地應(yīng)用AI。
“全球的人工智能治理正走向促發(fā)展和柔性監(jiān)管的方向，即建立一個敏捷的治理體系，以政策指引促進(jìn)產(chǎn)業(yè)主動自律，以包容審慎的態(tài)度來構(gòu)建負(fù)責(zé)任的人工智能安全體系。”中國信息通信研究院副院長魏亮說。據(jù)他介紹，2025年7月，中國信息通信研究院聯(lián)合多家企事業(yè)單位，共同發(fā)布了《人工智能安全承諾》，形成了20條實踐標(biāo)簽、43條安全案例，不僅推動我國人工智能安全治理邁入體系化、透明化、實操化的新階段，也為全球貢獻(xiàn)了“以人為本、智能向善”的中國方案。
企業(yè)界代表、螞蟻集團(tuán)資深副總裁及科技倫理委員會聯(lián)席主席周志峰說：“我們還是希望通過預(yù)警、測試、修復(fù)這樣的動態(tài)機制來提升AI的風(fēng)險防控能力。”他在論壇上介紹了螞蟻集團(tuán)在AI大模型領(lǐng)域的研發(fā)進(jìn)展以及倫理方面的思考。(完)