本文作者：Christina Montgomery，IBM首席隱私誠信官；Francesca Rossi，IBM研究院AI倫理全球負(fù)責(zé)人

北京2023年5月9日/美通社/ -- 隨著生成式 AI系統(tǒng)進入公共領(lǐng)域，讓世界各地的人們接觸到新的技術(shù)可能性、影響，甚至是此前尚未考慮的后果。得益于 ChatGPT和其他類似的系統(tǒng)，現(xiàn)在幾乎任何人都可以使用高級 AI 模型，這些模型不僅能夠具有早期版本的檢測模式、挖掘數(shù)據(jù)和提出建議等能力，還能創(chuàng)造新內(nèi)容、在對話中生成原創(chuàng)的回復(fù)等。

AI 開發(fā)不必“因噎廢食”，但必須以倫理為先

AI 發(fā)展的轉(zhuǎn)折點

當(dāng)生成式AI 功能的設(shè)計合乎倫理、并以負(fù)責(zé)任的方式推向市場時，它將為企業(yè)和社會帶來前所未有的機遇，包括：提供更好的客戶服務(wù)，改善醫(yī)療系統(tǒng)和法律服務(wù)；以及支持和增強人類的創(chuàng)造力，加快科學(xué)研發(fā)，并調(diào)動更有效的方法來應(yīng)對氣候挑戰(zhàn)。

關(guān)于AI 的開發(fā)、部署和使用及其加速人類進步的潛力，我們正處于一個關(guān)鍵節(jié)點。然而，這種巨大的潛力也伴隨著風(fēng)險，例如產(chǎn)生虛假內(nèi)容和有害文本、泄露隱私，偏見被放大，同時，這些系統(tǒng)的運行也缺乏透明度。因此，合理質(zhì)疑AI 對于勞動力、創(chuàng)造力以及人類整體福祉意味著什么，這至關(guān)重要。

行業(yè)需要新的AI 倫理標(biāo)準(zhǔn)

最近，一些科技行業(yè)的意見領(lǐng)袖聯(lián)名呼吁，將大型AI 模式的訓(xùn)練暫停 6 個月，以留出時間制定新的AI倫理標(biāo)準(zhǔn)。其意圖和動機無疑是好的，但它忽略了一個基本事實：這些系統(tǒng)目前仍在我們的控制范圍內(nèi)，基于它們構(gòu)建的解決方案也是如此。

負(fù)責(zé)任的訓(xùn)練，以及基于多方合作、將AI倫理貫穿始終的開發(fā)路徑，可以使這些系統(tǒng)變得更好而不是更糟。AI技術(shù)無時不刻都在演進和迭代。因此，不論是正在使用或是等待上線的AI系統(tǒng)，其訓(xùn)練必須與構(gòu)建負(fù)責(zé)任的AI這一目標(biāo)保持一致。以負(fù)責(zé)任的AI為先不意味著要暫停AI開發(fā)。

持續(xù)采用和完善AI 倫理標(biāo)準(zhǔn)和規(guī)范，這項工作事關(guān)人人。IBM 在多年前就建立了行業(yè)最早的 AI 倫理委員會之一，以及全公司范圍內(nèi)的 AI 倫理框架。通過評估當(dāng)前和未來的技術(shù)格局，包括我們的行業(yè)定位以及與利益相關(guān)方的協(xié)作，我們不斷加強和完善這一框架。

IBM的AI倫理委員會打造了一個負(fù)責(zé)任的集中式治理結(jié)構(gòu)，它覆蓋AI的全生命周期，在制定明確政策、推動問責(zé)制的同時，也能靈活且敏捷地支持IBM的業(yè)務(wù)需求。在傳統(tǒng)的和更先進的 AI 系統(tǒng)開發(fā)中，IBM一直踐行著這一重要治理結(jié)構(gòu)。我們不能只關(guān)注未來的風(fēng)險，而忽視眼前的治理需要，比如價值對齊（value alignment，即AI在執(zhí)行任務(wù)中實現(xiàn)的價值和用戶所希望的價值是一致的）和 AI 倫理；后者也會隨著 AI 的發(fā)展而不斷演進。

除了協(xié)作和監(jiān)督，打造這些AI系統(tǒng)的技術(shù)路徑應(yīng)該從一開始就考慮倫理因素。例如，我們對 AI 的擔(dān)憂往往源于對"黑匣子"內(nèi)部發(fā)生的情況缺乏了解。因此，IBM 開發(fā)了一個監(jiān)管平臺，用于監(jiān)控模型的公平性和偏見與否，獲取數(shù)據(jù)來源，最終形成更透明、可解釋且可靠的 AI 管理流程。此外，IBM的企業(yè)級AI戰(zhàn)略將信任嵌入整個AI生命周期中，從創(chuàng)建模型、訓(xùn)練系統(tǒng)所使用的數(shù)據(jù)，到這些模型在特定業(yè)務(wù)領(lǐng)域的應(yīng)用。

接下來需要做什么？

首先，我們倡導(dǎo)企業(yè)將倫理和責(zé)任置于其 AI 議程的首位。全面暫停AI 訓(xùn)練或是降低AI 倫理的行業(yè)優(yōu)先級，最終將事與愿違。

其次，政府應(yīng)避免在技術(shù)層面對AI 進行過度監(jiān)管。否則，這將成為一場"打地鼠"游戲，阻礙真正有益的、面向未來的創(chuàng)新。我們呼吁世界各地的立法者采取更加高效且精準(zhǔn)的監(jiān)管模式，對高風(fēng)險的 AI 用例實施嚴(yán)格監(jiān)管。

最后，在企業(yè)如何保護與AI 系統(tǒng)交互的數(shù)據(jù)隱私方面，仍然缺乏足夠的透明度。 我們需要為用戶提供一致的、可落地的個人隱私保護。

最近社會對AI 的廣泛關(guān)注，正應(yīng)了這句話：權(quán)力越大，責(zé)任越大。與其全面暫停 AI 系統(tǒng)的開發(fā)，不如打破協(xié)作壁壘，共同打造負(fù)責(zé)任的AI。

審核編輯黃宇