守護科技倫理就是守護創新活力

原文地址：http://news.sciencenet.cn/htmlnews/2023/4/497935.shtm

4月4日，科技部發布關于公開征求對《科技倫理審查辦法（試行）》意見的公告，提出建立倫理高風險科技活動清單制度，人工智能、基因編輯等部分前沿探索在清單之列。該公告一經發出，引發科學技術界人士熱議。

在法國巴黎，機器人檢測人們是否正確佩戴口罩。新華社資料圖

科技倫理問題與科學技術發展相伴相生。從多莉羊到“深藍”戰勝國際象棋棋手卡薩帕諾夫，從轉基因、納米等新興科技異軍突起，到人工智能、大數據應用的幾乎“無孔不入”，從神經科技、合成生物學等顛覆性的未來科技呼之欲出，到ChatGPT對人類生產方式可能造成的沖擊，越來越多的人深刻認識到，科學設想可以天馬行空、漫無邊際，但科技創新行為絕不能信馬由韁、為所欲為，否則，就可能走向危害社會和人類本身的可怕境地。

很多人對科技探索任性妄為嚴重后果的最初認知，往往來源于科幻電影。比如在知名影片《侏羅紀公園》里，一名商人癡心于恐龍基因編輯，企圖使恐龍復活，建造主題公園。不料復活后的恐龍開始襲擊游客，造成傷亡……如果我們對基因編輯、克隆技術等不嚴格規范、善加利用，誰能保證不會出現少數“不計后果研發利用新技術的蠢人”？科幻作品往往是現實的前瞻。例如電影《機械姬》引發的關于“如何防止人工智能利用人類弱點與人類為敵”的思考，今天看來，絕非荒誕無稽、毫無根據。現下，ChatGPT引發的擔憂就是例證。

日前，媒體援引比利時媒體的報道，一名比利時婦女聲稱，她的丈夫在與AI 聊天機器人談了六周后自殺身亡。3月29日，包括馬斯克在內的1000多名人工智能專家聯名簽署了一份公開信，呼吁暫停開發比GPT-4更強大的AI系統至少6個月，稱其“對社會和人類構成潛在風險”。聯合國教科文組織也就人工智能倫理問題發表聲明。不久前在武漢召開的一個大數據論壇上，中國工程院院士楊善林也直言：“人工智能取代人類工作的范圍正在不斷擴大。”……如果不扎緊制度的籬笆，“狼”可能真的就要來了。

我國高度重視科技倫理問題，2021年12月17日，習近平總書記主持召開中央全面深化改革委員會第二十三次會議，審議通過《關于加強科技倫理治理的指導意見》，強調：“科技是發展的利器，也可能成為風險的源頭。要前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰，完善相關法律法規、倫理審查規則及監管框架。”此次有關部門公開征求對《科技倫理審查辦法（試行）》意見，是落實指導意見，避免風險、應對挑戰、完善制度，引導科技向善的重要一招，影響廣泛、意義深遠。

一段時期以來，社會上也有一些議論。有人認為守護科技倫理、劃定底線，會影響科技創新的效率，扼殺科技創新的活力，實則不然。如果科技創新毫無責任底線，毫無道德界限，毫無敬畏之心，損害國家和人類社會基本利益，那就不是創新創造，而是破壞毀滅。任憑前沿研究“一騎絕塵”，造成危害，再去叫停，對科研機構和企業造成的人力物力財力損失更大。由此而論，列出清單、明確底線，引導科學家在法律和制度允許范圍內盡情施展、勇攀高峰、開展負責任的創新，不僅不是對“創新效率”的阻滯，而且是對“創新效率”的呵護。