數字科技與數字產(chǎn)業(yè)在促進(jìn)經(jīng)濟增長(cháng)、推動(dòng)產(chǎn)業(yè)變革、造福人類(lèi)社會(huì )的同時(shí)，也可能會(huì )對經(jīng)濟、社會(huì )造成不利影響，甚至對人類(lèi)的長(cháng)遠發(fā)展造成威脅。與其他新興科技和產(chǎn)業(yè)一樣，數字經(jīng)濟發(fā)展也存在著(zhù)技術(shù)與產(chǎn)業(yè)不確定性大、演進(jìn)速度快、復雜程度高等特點(diǎn)，由此導致數字經(jīng)濟治理面臨巨大挑戰。依靠法律、政策的傳統治理模式無(wú)法很好地適應數字經(jīng)濟高質(zhì)量發(fā)展，需要引入科技倫理治理，以推動(dòng)數字經(jīng)濟沿著(zhù)有利于人類(lèi)的道路發(fā)展。

數字經(jīng)濟等新興技術(shù)和產(chǎn)業(yè)的治理難題

當前，新一輪科技革命和產(chǎn)業(yè)變革正深入推進(jìn)，在數字科技、生命科技、新能源、新材料、深海空天等領(lǐng)域不斷有顛覆性的技術(shù)涌現，進(jìn)而形成新興產(chǎn)業(yè)。其中，數字科技是創(chuàng )新最活躍、影響最廣泛的領(lǐng)域。一方面，通過(guò)新產(chǎn)品、新模式的創(chuàng )新和發(fā)展壯大形成新產(chǎn)業(yè)；另一方面，作為通用目的技術(shù)在國民經(jīng)濟各個(gè)行業(yè)獲得廣泛和深入的應用，引發(fā)其他行業(yè)的深刻變革。可以說(shuō)，數字經(jīng)濟已經(jīng)成為推動(dòng)經(jīng)濟增長(cháng)的新動(dòng)能新引擎與經(jīng)濟社會(huì )變革的重要力量。但也要看到，數字技術(shù)在創(chuàng )造更多物質(zhì)和精神產(chǎn)品、豐富和便利人類(lèi)生活的同時(shí)，出現了平臺壟斷、數據歧視、算法偏見(jiàn)、殺手并購、侵害隱私、產(chǎn)業(yè)安全等一系列問(wèn)題，數字科技的進(jìn)一步發(fā)展甚至有可能威脅到人類(lèi)的生存和發(fā)展。2022年底以來(lái)，OpenAI公司發(fā)布的生成式人工智能ChatGPT展現出廣闊的應用前景和巨大的變革性，被認為是人工智能發(fā)展的里程碑甚至是通用人工智能的起點(diǎn)，其創(chuàng )新性、顛覆性不可謂不大，但同時(shí)也引發(fā)了對人工智能威脅人類(lèi)生存和發(fā)展的擔憂(yōu)。深度學(xué)習之父杰弗里·辛頓教授提醒人們警惕人工智能不受控制的發(fā)展帶來(lái)的風(fēng)險，包括埃隆·馬斯克在內的北美2000多名計算機科學(xué)家和業(yè)內人員簽署了一份公開(kāi)信，呼吁暫停開(kāi)發(fā)比GPT-4更強大的人工智能系統。

世界各國針對成熟技術(shù)和產(chǎn)業(yè)已經(jīng)建立起完善的法律和政策體系，對這些技術(shù)和產(chǎn)業(yè)中出現的產(chǎn)品質(zhì)量、壟斷與不正當競爭、侵害消費者權益、危害公共安全等各種負面影響和問(wèn)題進(jìn)行監管和治理。但是對于包括數字科技在內的前沿技術(shù)和新興產(chǎn)業(yè)，單純依靠法律和政策體系很難對其進(jìn)行有效治理。

一是政府監管存在滯后性。新科技新產(chǎn)業(yè)具有雙重用途、雙重價(jià)值，既可造福人類(lèi)，也可能被惡意利用，造成巨大的經(jīng)濟、人身?yè)p失，威脅到人類(lèi)未來(lái)世代的健康甚至人類(lèi)生存（雷瑞鵬，2020）。傳統政府監管的邏輯以問(wèn)題為導向（楊青峰、任錦鸞，2021），通過(guò)對違反法律法規的行為做出處罰，一方面消除負面影響、彌補造成的損害，另一方面也通過(guò)對潛在違法違規行為的威懾，減少甚至避免這些負面問(wèn)題的出現。但是當問(wèn)題發(fā)生時(shí)，就意味著(zhù)損失已經(jīng)發(fā)生。其中，一些損失非常大，一些危害的影響會(huì )長(cháng)期持續。

二是技術(shù)和產(chǎn)業(yè)演進(jìn)的不確定性大。高度的不確定性加大了對技術(shù)和產(chǎn)業(yè)有效治理的難度。當新技術(shù)在發(fā)展初期顯得“人畜無(wú)害”時(shí)，過(guò)度的控制可能會(huì )限制科技創(chuàng )新對經(jīng)濟社會(huì )發(fā)展的貢獻，但是當技術(shù)的負面后果顯現出來(lái)時(shí)，對其進(jìn)行糾偏可能付出巨大的代價(jià)。

三是技術(shù)和產(chǎn)業(yè)演進(jìn)速度快。以法律和政策為代表的治理規則是在既有經(jīng)驗基礎上總結出來(lái)的，其顯著(zhù)特點(diǎn)就是穩定性。新法律的制定以及對既有法律的修訂要經(jīng)過(guò)提案、論證、反復審議，往往要經(jīng)歷一個(gè)漫長(cháng)的過(guò)程。面對大量前沿技術(shù)和新興產(chǎn)業(yè)的不斷涌現，且持續處于快速變化之中的新功能、新模式、新影響，常常難以找到合適的法條和政策對此加以規范。當針對新技術(shù)新產(chǎn)業(yè)出現的新問(wèn)題出臺相關(guān)法律法規時(shí)，技術(shù)已經(jīng)演進(jìn)到新的階段，法律的監管目標可能已發(fā)生改變，又會(huì )重新出現法律力有不逮的情況。

四是新興產(chǎn)業(yè)的復雜性高。新興產(chǎn)業(yè)的產(chǎn)品或服務(wù)架構復雜，監管機構往往缺少深入到產(chǎn)品（如軟件代碼）內部進(jìn)行監管的技術(shù)能力和手段。數字經(jīng)濟的運轉以數據、算法為基礎，復雜的系統往往有成千上萬(wàn)行代碼，且各種函數相互嵌套。數字經(jīng)濟的復雜性、不透明性、不易解釋性造成很難搞清楚算法里是否存在無(wú)意的或惡意制造的具有危害性的代碼。而且一些技術(shù)的影響可能需要較長(cháng)的時(shí)間才能顯現。此外，即使算法形成的產(chǎn)品、服務(wù)及其造成的結果能夠被觀(guān)察，往往也很難判斷算法中是否存在違法違規行為。例如，一些網(wǎng)絡(luò )平臺存在的針對不同用戶(hù)收取不同費用的“價(jià)格歧視”現象，很難說(shuō)是軟件開(kāi)發(fā)者有意根據顧客特征制定不同的價(jià)格，還是隨時(shí)變化的市場(chǎng)供求關(guān)系造成的。在數字經(jīng)濟領(lǐng)域，人工智能還具有自主學(xué)習與決策能力，其行為結果不完全歸因于程序開(kāi)發(fā)人員（王亦菲、韓凱峰，2021）。

數字經(jīng)濟科技倫理治理的機制

數字經(jīng)濟發(fā)展中出現的問(wèn)題已引起各方的高度重視，在大力發(fā)展數字經(jīng)濟的同時(shí)加強對數字經(jīng)濟的治理已經(jīng)成為各國政府的共識。2021年10月，中共中央政治局就推動(dòng)我國數字經(jīng)濟健康發(fā)展進(jìn)行第三十四次集體學(xué)習時(shí)，習近平總書(shū)記指出“要完善數字經(jīng)濟治理體系，健全法律法規和政策制度”，同時(shí)也提出“要明確平臺企業(yè)主體責任和義務(wù)，建設行業(yè)自律機制。要開(kāi)展社會(huì )監督、媒體監督、公眾監督，形成監督合力”。科技倫理是開(kāi)展科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)需要遵循的價(jià)值理念和行為規范。針對傳統治理方式無(wú)法有效適用于解決前沿技術(shù)和新興產(chǎn)業(yè)治理的難題，世界各國紛紛加強科技倫理治理。2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于加強科技倫理治理的意見(jiàn)》，要求“加快構建中國特色科技倫理體系，健全多方參與、協(xié)同共治的科技倫理治理體制機制”，“建立完善符合我國國情、與國際接軌的科技倫理制度”。

數字經(jīng)濟是科技倫理治理的重點(diǎn)領(lǐng)域。隨著(zhù)數字技術(shù)的快速發(fā)展、廣泛擴散和應用，科技倫理治理在數字經(jīng)濟中的必要性和重要性日益突出。以最受各國重視的人工智能領(lǐng)域為例，為了確保人工智能研究和應用的風(fēng)險處于可控范圍，針對人工智能可能帶來(lái)的技術(shù)誤用、技術(shù)失控、應用失控等方面風(fēng)險，世界上已有40多個(gè)機構或組織提出了各自的人工智能倫理準則建議（陳小平，2019）。例如，美國國防部2019年2月提出了“以合法和合乎道德的方式使用人工智能，以強化負責任的價(jià)值觀(guān)愿景和強化人工智能利用的指導原則”；美國人工智能促進(jìn)協(xié)會(huì )提出避免傷害、誠實(shí)守信、公平并采取行動(dòng)不歧視、尊重隱私等人工智能道德原則（肖紅軍、陽(yáng)鎮，2023）。

科技倫理治理之所以能夠在規范數字經(jīng)濟的發(fā)展中發(fā)揮重要作用，是因為它抓住了前沿技術(shù)和新興產(chǎn)業(yè)的特點(diǎn)，把企業(yè)、員工、社會(huì )、政府等各方面力量有機結合并調動(dòng)起來(lái)參與到治理之中。

一是事前自我治理。數字科技企業(yè)根據科技倫理的基本原則與規范對科技創(chuàng )新與產(chǎn)業(yè)發(fā)展方向、企業(yè)競爭行為等經(jīng)營(yíng)活動(dòng)進(jìn)行全面審查，主動(dòng)終止會(huì )對經(jīng)濟社會(huì )產(chǎn)生負面影響的活動(dòng)，或者在評估基礎上終止存在較大負面影響的活動(dòng)。同時(shí)，當企業(yè)的經(jīng)營(yíng)活動(dòng)存在違反科技倫理的風(fēng)險時(shí)，認可科技倫理所確定原則和規范的企業(yè)員工會(huì )主動(dòng)予以糾偏，甚至當發(fā)現企業(yè)存在惡意違反科技倫理的行為且內部反對無(wú)效時(shí)，向社會(huì )披露和政府部門(mén)報告。

二是事中社會(huì )治理。盡管企業(yè)會(huì )選擇盡量隱藏惡意的違反科技倫理、對社會(huì )造成負面影響的行為，但仍然有可能通過(guò)多種方式被披露并在社會(huì )上擴散。企業(yè)技術(shù)開(kāi)發(fā)、生產(chǎn)經(jīng)營(yíng)等活動(dòng)中隱藏的行為會(huì )通過(guò)學(xué)術(shù)交流、科研合作、專(zhuān)利公開(kāi)、上下游供應商聯(lián)系、員工流動(dòng)等形式為行業(yè)內的企業(yè)、人員乃至社會(huì )大眾所知曉，當這些隱藏的活動(dòng)中存在有違科技倫理的情況或有損社會(huì )整體價(jià)值時(shí)，相關(guān)機構和個(gè)人可以通過(guò)拒絕研究成果發(fā)表、抵制申請該企業(yè)職位、解除業(yè)務(wù)合作關(guān)系等方式對違規企業(yè)做出不同程度的懲戒。

三是事后政府治理。對于違反科技倫理同時(shí)又違反法律或行政法規的行為，依法依規進(jìn)行相應處罰。對那些違反科技倫理但并未觸犯法律法規的行為，政府部門(mén)可以通過(guò)研發(fā)資金分配、稅收優(yōu)惠、項目審批、土地出讓、銀行貸款利率、上市融資審批等途徑和方式予以懲戒，將遵守科技倫理情況作為企業(yè)申報國家和地方資格認證、試點(diǎn)示范項目等的重要條件。

對數字經(jīng)濟的事前、事中、事后治理與企業(yè)、社會(huì )、政府治理不是割裂的，而是相互協(xié)同促進(jìn)的，將有可能損害社會(huì )福利乃至人類(lèi)社會(huì )持續發(fā)展的行為盡可能早地予以發(fā)現、糾正。例如，員工可以將企業(yè)違反科技倫理的行為曝光，引發(fā)更廣泛的社會(huì )監督和政府監管部門(mén)的介入；行業(yè)協(xié)會(huì )等社會(huì )中介組織可以在吸收各界意見(jiàn)的基礎上制定數字經(jīng)濟科技倫理治理規則，同時(shí)企業(yè)可以根據科技創(chuàng )新和產(chǎn)業(yè)發(fā)展中發(fā)現的新的科技倫理問(wèn)題，推動(dòng)數字科技倫理規范的更新；政府部門(mén)的事后懲處可以形成對企業(yè)的威懾，增強企業(yè)遵守科技倫理的自覺(jué)性。

構建具有中國特色的數字科技倫理體系

鑒于科技倫理治理在糾正新興技術(shù)和產(chǎn)業(yè)的負面影響中的作用，應積極推動(dòng)構建具有中國特色的數字科技倫理體系。

在國家層面，由國家科技倫理委員會(huì )組織有關(guān)機構和專(zhuān)家科學(xué)研判數字科技與數字產(chǎn)業(yè)發(fā)展中存在的問(wèn)題以及未來(lái)可能帶來(lái)的負面影響，在兼顧發(fā)展與監管的基礎上，積極推動(dòng)我國數字科技倫理體系建設，包括制定科技倫理規范、指南、標準，以及針對違反科技倫理行為的處理規則，構建既能夠支撐我國數字經(jīng)濟創(chuàng )新和發(fā)展，又能夠降低數字經(jīng)濟負面影響、消除對人類(lèi)社會(huì )可持續發(fā)展帶來(lái)潛在風(fēng)險的數字科技倫理體系。加強數字科技倫理建設的國際合作，在吸納國際數字科技倫理先進(jìn)理念和成功經(jīng)驗的同時(shí)，積極推廣中國的科技倫理理念和規則，貢獻中國智慧和中國方案，推動(dòng)在數字科技倫理上形成國際共識。

在社會(huì )層面，加大對科技倫理的宣傳，增強全社會(huì )對科技倫理的認識，使企業(yè)和個(gè)人形成遵守科技倫理的意識。支持數字科技企業(yè)、高等學(xué)校、科研機構共同發(fā)起科技倫理高峰論壇，大力倡導負責任的數字經(jīng)濟、負責任的創(chuàng )新、負責任的人工智能等理念，加強對數字科技和產(chǎn)業(yè)發(fā)展中科技倫理問(wèn)題的研討，分享經(jīng)驗和教訓，對未來(lái)趨勢和潛在風(fēng)險進(jìn)行前瞻性研判，推動(dòng)完善科技倫理規范以及科技倫理審查、風(fēng)險處置、違規處理等規則流程。

在企業(yè)層面，鼓勵數字科技企業(yè)、高等學(xué)校、科研機構將科技倫理納入自己的價(jià)值主張、公司戰略和技術(shù)創(chuàng )新管理過(guò)程，加強企業(yè)董事會(huì )、戰略委員會(huì )、高管團隊等戰略決策者對數字科技倫理認識和重視（肖紅軍、陽(yáng)鎮，2023）。設立數字科技倫理委員會(huì )，制定本單位數字科技倫理治理細則（如科技倫理原則、科技倫理審查程序、倫理風(fēng)險的化解機制等），對企業(yè)技術(shù)創(chuàng )新、產(chǎn)品開(kāi)發(fā)、市場(chǎng)競爭等各方面的行為進(jìn)行常態(tài)化的科技倫理審查。鼓勵數字科技企業(yè)開(kāi)發(fā)科技倫理治理的數字技術(shù)，提高數字科技倫理的治理效率。推動(dòng)上市公司、國有企業(yè)將科技倫理治理情況納入ESG（環(huán)境、社會(huì )和公司治理）報告對公眾發(fā)布，接受公眾監督。

李曉華.數字經(jīng)濟的科技倫理治理：動(dòng)因與機制[J].中國發(fā)展觀(guān)察,2023,(06):40-43.