中新社北京7月20日電 題：離開科技倫理，人類會被科技“反噬”嗎？
——專訪清華大學社會科學學院教授、科技發(fā)展與治理研究中心副主任李正風
中新社記者 高凱
科技倫理治理作為全世界面臨的共同難題，越來越為大眾所關注。很多影視作品對此做過探討、想象和呈現(xiàn)，如《黑客帝國》系列、《終結者》系列、《我，機器人》和《機械姬》等。
科技倫理如何開展有效治理？離開科技倫理，人類會被科技“反噬”嗎？清華大學社會科學學院教授、科技發(fā)展與治理研究中心副主任李正風近日接受中新社“東西問”專訪，解答這些問題。
現(xiàn)將采訪實錄摘要如下：
中新社記者：大眾十分關心科技倫理問題，如果不進行有效治理，人類被科技“反噬”的擔憂會成真嗎？
李正風：從全球層面看，科技倫理治理正成為越來越重要的議題。科學和技術的發(fā)展給人類帶來前所未有的新力量，科技產品本身擁有的能力或功能在某些方面遠超人類自身。如果不能善加利用或被濫用就會帶來巨大風險。
包括電影在內的不少藝術作品中，不乏對這類風險的極端化描述，如技術發(fā)展到一定程度反過來控制和毀滅人類。這種可能前景被呈現(xiàn)在大銀幕上，引起大眾對科技發(fā)展及其倫理問題的重視和反思。
盡管是藝術創(chuàng)作，但它確實帶來警覺和思考。若我們對科技可能產生的后果不加思考和控制，所謂“新力量”有可能給人類未來的生存發(fā)展帶來威脅，像當前生物技術、人工智能的發(fā)展等，存在不同程度、不同方式“反噬”人類的風險。
所謂“反噬”是一種較形象的說法，是指人的某種行為或創(chuàng)造物反過來傷害到人自身。“反噬”也有程度的差異，自近代科技革命以來，人們就一直在防范科技成果的不良影響。當科技力量不斷增強，這種不良影響可能超出人類整體可控范圍，或形成根本性、全局性的影響，“反噬”話題隨之為全球共同關注。
電影《黑客帝國》海報。中新社發(fā) 李江松 攝中新社記者：科技倫理治理被視作全世界面臨的共同難題，西方社會如何著手解決這一問題？西方國家與中國的努力有何異同？
李正風：科技倫理治理是防范風險非常重要的方面，旨在通過向善的價值觀念和相應的倫理規(guī)范，引導和約束科技行為。
近代科學建制化以來，西方科學技術發(fā)展較快，科技先行國家或科技發(fā)達國家在科技向縱深發(fā)展中先行一步，較早感受到科技發(fā)展及其應用可能帶來的風險，治理行動也更早。
比如，科技倫理委員會在歐美科技發(fā)達國家最早成立于20世紀60年代。作為科技倫理治理中比較典型的審查和約束機制，其主要用來評估和審查研究的倫理風險，一旦未充分考慮可能存在的倫理問題，或因倫理風險過大未得到倫理委員會批準，研究后續(xù)工作都會受到應有的約束。
歐美科技發(fā)達國家在科技倫理治理上已形成自下而上較為成熟的系統(tǒng)。但不同發(fā)展狀態(tài)和不同文化背景的人對科技倫理的理解存在差異，治理的重點和方式會因文化傳統(tǒng)、制度結構、社會包容度而不同，所以各國建立的科技倫理治理體系也存在差異。從某種程度講，某個國家認為最好的治理機制，到其他國家不見得仍是最好。
中國是科技后發(fā)并快速追趕的國家，在文化傳統(tǒng)和制度建設上有自身特點，要建立的科技倫理治理體系既要應對當代生命科學、人工智能等新興科技領域提出的社會倫理問題，也要適應本國發(fā)展階段面臨的特殊挑戰(zhàn)。
游客在上海城市規(guī)劃展示館參觀5D沉浸式數(shù)字沙盤。中新社發(fā) 陳玉宇 攝中新社記者：今年3月，中國首個國家層面的科技倫理治理指導性文件——《關于加強科技倫理治理的意見》出臺，這是繼國家科技倫理委員會成立之后，中國科技倫理治理的又一標志性事件。您如何看待中國科技倫理治理的突出特點？
李正風：這一文件的出臺非常重要，一方面和中國所處的發(fā)展階段密切相關，另一方面也和中國科技倫理治理面臨的挑戰(zhàn)有關。改革開放以來，中國科學和技術快速發(fā)展，比以往更頻繁更直接地面對各式科技倫理問題，尤其是前沿問題。
中國在2016年提出建設世界科技強國，這和英國在16、17世紀建設成為世界科技強國，以及德國在19世紀逐漸成為世界科技強國的歷史背景有很大不同。
今天的科技，包括生命科學、信息科技等，更多涉及到以人類自身為對象的研究。而以前的科學家更多是將機械運動或無機世界作為主要研究對象。相對而言，過去科技發(fā)展本身引發(fā)的社會倫理問題不像今天這么集中，而當下幾乎科技發(fā)展的每一步都會面對社會倫理問題。中國要在這樣的背景之下建成世界科技強國，就必須在科技倫理問題上成為負責任有擔當?shù)膰摇?/p>
另一方面，一些歐美國家有比較長的時間探索完善自身科技倫理治理體系，中國科技倫理治理發(fā)展相對起步較晚，要在較短時間內建立起行之有效的科技倫理治理體系，一是必須加大科技倫理治理的力度，二是必須形成整體性治理的布局，特別是補足補強治理體系中的短板。中國出臺《關于加強科技倫理治理的意見》，標志著國家科技倫理治理真正進入加強整體治理、全面治理的新階段。
對科技倫理治理而言，共同責任意識的塑造也非常必要。比如人臉識別技術產品，如何使用才能不損害公眾的隱私權？隨著人們對科技發(fā)展的倫理意識不斷覺醒，有關共識的塑造也有了現(xiàn)實基礎。
市民在街頭體驗人工智能技術。中新社發(fā) 袁宏彥 攝中新社記者：在科技發(fā)展全球化背景下，科技倫理問題不再局限于某一特定的國家或地區(qū)，您認為全球科技倫理治理面臨怎樣的挑戰(zhàn)，如何共同應對？
李正風：全球科技倫理治理面臨的突出挑戰(zhàn)之一是不同國家不同發(fā)展階段帶來的差異，這使得倫理傾銷的問題有可能出現(xiàn)。倫理傾銷是指在倫理治理系統(tǒng)發(fā)展較成熟的國家，一些違背科技倫理規(guī)范的科學研究很難進行，但它們卻可能被轉移到倫理規(guī)范不是很健全的國家去開展。
當代科技發(fā)展的倫理問題具有跨越國家邊界和種族界限的外部性。不論生物醫(yī)學技術、人工智能技術治理，還是數(shù)據(jù)跨境使用都需要不同國家共同努力，全球相互協(xié)作。因此，構建全球科技倫理治理的信任和合作機制非常重要。
2021年11月，第三屆世界科技與發(fā)展論壇在北京舉行。中外專家線上線下圍繞“科技倫理治理與信任合作”進行高端對話。中新社記者 孫自法 攝在此過程中，不僅各國要制定行之有效的規(guī)范和制度，也要逐步形成科技倫理治理的國際標準和國際公約，破除狹隘的國家保護主義、民族主義，從人類命運共同體的立場出發(fā)，建立全球科技倫理治理中的信任、磋商機制，發(fā)揮并集成不同國家的智慧和力量。
隨著科技不斷發(fā)展，人們對風險有更深刻的認知后，倫理的規(guī)范也在不斷和行政管制、法律約束對接，倫理的規(guī)范不再完全是軟約束。
科技倫理治理絕非要阻礙科技發(fā)展，而是要把握好科技發(fā)展方向，為科技的健康發(fā)展清除阻礙。同時，拓寬科技健康發(fā)展的道路，讓科技真正造福人類。理解科技倫理治理的重要作用，是各國協(xié)力構建全球科技倫理治理體系的重要基礎。(完)
受訪者簡介：
李正風，清華大學科學社會科學學院教授，中國科學院學部-清華大學科學與社會協(xié)同發(fā)展研究中心主任、中國科協(xié)清華大學科技傳播與普及研究中心副主任、科技發(fā)展與治理研究中心副主任，曾任清華大學社會科學學院副院長、中國發(fā)展戰(zhàn)略研究會副理事長。中國社會學會常務理事、中國自然辯證法研究會常務理事、中國科學學與科技政策研究會常務理事、科學學研究副主編、Cultures of Science副主編。研究領域包括科學技術的社會研究、科技哲學、科技倫理與科技文化、科技發(fā)展戰(zhàn)略與政策、科技傳播與普及等。