每經(jīng)記者 楊棄非    每經(jīng)編輯 楊歡

圖片來源：每經(jīng)記者 韓陽 攝

“我晚上甚至難以入眠，滿腦子都在思考如何推進(jìn)人工智能倫理的全球合作。”作為ICGAI（國(guó)際人工智能治理大會(huì)）的發(fā)起人，已滿頭白發(fā)的耶魯大學(xué)生物倫理學(xué)中心科技與倫理學(xué)科主任溫德爾·瓦拉赫（Wendell Wallach）言辭懇切。在去年9月，主持了集結(jié)眾多人工智能行業(yè)領(lǐng)袖的紐約峰會(huì)后，瓦拉赫又現(xiàn)身中國(guó)——推動(dòng)更多利益相關(guān)方加入到構(gòu)建全球人工智能倫理與治理的工作中來，是他此行的重要目的。

今年4月，歐盟出臺(tái)《人工智能倫理導(dǎo)則》；在不久前舉行的第三屆世界智能大會(huì)上，全國(guó)政協(xié)副主席、中國(guó)科協(xié)主席萬鋼提出，將人工智能道德倫理研究列入中國(guó)人工智能發(fā)展的“新策略”。種種跡象表明，人工智能已掀起了倫理優(yōu)先的全新發(fā)展模式，瓦拉赫等國(guó)內(nèi)外學(xué)者進(jìn)一步認(rèn)為，應(yīng)該將“戰(zhàn)線”再拉至全球?qū)用妗?/p>

“盡管人工智能仍處于起步期，但發(fā)展速度驚人。” 5月21日，在太和智庫(kù)主辦的中國(guó)人工智能倫理與治理網(wǎng)絡(luò)構(gòu)建研討會(huì)上，太和智庫(kù)歐洲中心主任、高級(jí)研究員托斯登·耶里尼克指出，“人工智能將帶來‘革命的終結(jié)’，進(jìn)而影響全人類發(fā)展軌跡。為避免不可逆的災(zāi)難，有必要進(jìn)行跨國(guó)的倫理治理。”

對(duì)于人工智能這樣的新興領(lǐng)域，多認(rèn)為應(yīng)審慎監(jiān)管，但如何把握倫理治理的度？在各國(guó)爭(zhēng)相搶占技術(shù)與產(chǎn)業(yè)應(yīng)用制高點(diǎn)時(shí)，又如何建立合作的共識(shí)？在接受《每日經(jīng)濟(jì)新聞》記者的專訪時(shí)，耶里尼克就上述人工智能領(lǐng)域的國(guó)際焦點(diǎn)話題，一一作出解答。

顛覆性的人工智能如何向善？

人工智能的發(fā)展有多快？數(shù)據(jù)顯示，僅2017年，全球新成立人工智能創(chuàng)業(yè)公司1100家，人工智能領(lǐng)域共獲得投資152億美元，同比增長(zhǎng)141%。而麥肯錫發(fā)布的一項(xiàng)研究報(bào)告指出，到2030年，約70%的公司將采用至少一種形式的人工智能，人工智能新增經(jīng)濟(jì)規(guī)模將達(dá)到13萬億美元。

被認(rèn)為是第四次產(chǎn)業(yè)革命核心的人工智能，正在掀起新一輪產(chǎn)業(yè)的改造浪潮。 “人工智能+”接棒“互聯(lián)網(wǎng)+”，成為經(jīng)濟(jì)新的賦能手段。但在耶里尼克看來，人工智能更大的影響將發(fā)生在整個(gè)社會(huì)領(lǐng)域。

“與以前的產(chǎn)業(yè)革命不同，人工智能不是一個(gè)階段性的產(chǎn)業(yè)革命，它將帶來一種‘革命的終結(jié)’。”耶里尼克指出，“在產(chǎn)業(yè)革命的過程中，人類始終處于主宰的位置，人類智力對(duì)產(chǎn)業(yè)革命的作用是無可替代的。但隨著人工智能開始引領(lǐng)革命，將出現(xiàn)能夠與人類智力相抗衡的事物。”

改變已經(jīng)悄然上演。人工智能取代人力已不是新聞，與此同時(shí)，在人工智能技術(shù)的支持下，通過人臉識(shí)別改變照片甚至視頻的做法引起更多人的關(guān)注。

“它改變的是人與人之間、人與技術(shù)之間的關(guān)系。”耶里尼克分析道，“比如，當(dāng)機(jī)器把人從工作中解脫出來，人通過工作來實(shí)現(xiàn)自我認(rèn)知的方式可能就會(huì)產(chǎn)生改變；對(duì)于一些普世標(biāo)準(zhǔn)，比如如何定義最低收入，在由人工智能主導(dǎo)和未得到人工智能改造的國(guó)家中，將產(chǎn)生巨大的觀念差異。”

“人工智能實(shí)際上是在重新定義‘人’。”在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)，中國(guó)人民大學(xué)國(guó)際關(guān)系學(xué)院教授王義桅提到，當(dāng)有了人工智能參與后，國(guó)家競(jìng)爭(zhēng)力定義將受到根本影響，這實(shí)際上是對(duì)規(guī)則本身的重塑。

當(dāng)一切回到原點(diǎn)，人類的發(fā)展軌跡就成為一個(gè)需要考慮的問題。“我們要避免走向錯(cuò)誤的方向，必須要進(jìn)行干預(yù)，并找到好的應(yīng)對(duì)措施。這會(huì)是一個(gè)很長(zhǎng)的過程，可能會(huì)直到所有‘改革’的結(jié)束。”耶里尼克說道。

制度建立與國(guó)際協(xié)作應(yīng)前置

正因如此，人工智能的發(fā)展與以前的數(shù)次工業(yè)革命中的新技術(shù)都不相同——按照耶里尼克所說，盡管人工智能還處于發(fā)展的初級(jí)階段，但關(guān)于倫理的討論和制度的建設(shè)已被早早提上日程。

一個(gè)典型的例子發(fā)生在歐盟。歐盟于去年通過了《通用數(shù)據(jù)保護(hù)條例》后，又在今年4月快馬加鞭地發(fā)布了《人工智能倫理導(dǎo)則》，據(jù)智庫(kù)機(jī)構(gòu)數(shù)據(jù)創(chuàng)新中心（Center for Data Innovation）的高級(jí)政策分析師艾琳·奇沃特（Eline Chivot）分析，該舉動(dòng)的目的是以倫理標(biāo)準(zhǔn)確定歐盟在全球人工智能發(fā)展中的地位。

領(lǐng)先科研與產(chǎn)業(yè)發(fā)展的倫理制定，亦成為越來越多國(guó)家的做法。中國(guó)科技部部長(zhǎng)王志剛?cè)涨巴嘎?，正在加緊研究起草人工智能治理準(zhǔn)則，近期將向全社會(huì)發(fā)布。而在美國(guó)，一些州已經(jīng)發(fā)布了以州為單位的導(dǎo)則。

有觀點(diǎn)指出，這種做法的效果存在兩面性——在提供更穩(wěn)定的政策土壤與可信賴的合作機(jī)制的同時(shí)，它也可能會(huì)限制企業(yè)和機(jī)構(gòu)在該領(lǐng)域自然的創(chuàng)新本能與發(fā)展機(jī)遇。

“需要分清的是，是推進(jìn)人工智能產(chǎn)業(yè)本身的發(fā)展，還是要促進(jìn)全行業(yè)的創(chuàng)新能力。”耶里尼克認(rèn)為，“不加以限制的后果是，一個(gè)‘巨無霸’公司可能很快就掌控了行業(yè)內(nèi)的全部機(jī)會(huì)，難以形成企業(yè)共同成長(zhǎng)、創(chuàng)新的健康環(huán)境。同時(shí)，科技也應(yīng)該真正用于服務(wù)社會(huì)。”

他提到了一種自我監(jiān)管的方式。“人工智能可以做到在設(shè)計(jì)層面擁有某種自我意識(shí)，幫助避免人類在為其制定制度時(shí)可能擁有的偏見；那么，也可以設(shè)計(jì)一種方式，讓人工智能自己管理自己。”耶里尼克說。

而在研討會(huì)現(xiàn)場(chǎng)，許多人也指出，作為一大國(guó)際議題，人工智能更需要來自國(guó)際層面的共同治理，特別是諸如氣候變暖等全球性議題，由于各國(guó)國(guó)內(nèi)缺乏變革動(dòng)力時(shí)、難以進(jìn)行有效國(guó)際合作，更應(yīng)該提前部署在人工智能領(lǐng)域的國(guó)際合作，揚(yáng)長(zhǎng)避短。

“這實(shí)際上包含了一種多邊主義的觀念。”耶里尼克向記者解釋稱，“由于人工智能本身的‘跨界’屬性，自然需要鼓勵(lì)更多利益相關(guān)者和利益相關(guān)國(guó)參與。”

中、美、歐盟可構(gòu)建“三角框架”

但與許多國(guó)際合作類似，在人工智能倫理治理上，尚未形成一個(gè)有約束力的、能夠有效協(xié)調(diào)各國(guó)和地區(qū)間競(jìng)爭(zhēng)關(guān)系的合作機(jī)制。

在2017年舉行的“向善的人工智能”（Beneficial AI）會(huì)議上，由844名人工智能和機(jī)器人專家聯(lián)合簽署了一項(xiàng)“阿西洛馬人工智能原則”，提出了全球人工智能領(lǐng)域發(fā)展的普世原則，這也是人工智能領(lǐng)域較早、較全面的國(guó)際合作指導(dǎo)原則。

此后，盡管也有其他的跨國(guó)人工智能合作框架誕生，但大都與此類似——提出的原則相似，管理也主要以一種松散的模式——即耶里尼克提到的“軟治理”。

“由于政府的治理存在一定的滯后性，需要這種靈敏的治理方式，只提供治理框架，在治理過程中不斷根據(jù)實(shí)際情況進(jìn)行動(dòng)態(tài)調(diào)整，以跟上科技與產(chǎn)業(yè)的變化速度。”耶里尼克向記者如是介紹。

而與靈活性同時(shí)存在的是，軟治理難以彌合國(guó)家或地區(qū)間的不同點(diǎn)，這不僅體現(xiàn)在仍進(jìn)行中的關(guān)于人工智能的競(jìng)爭(zhēng)，同時(shí)，倫理層面的合作會(huì)更多牽動(dòng)到文化差異。

“單獨(dú)看中國(guó)、美國(guó)和歐盟，文化、價(jià)值觀與倫理觀的差異確實(shí)存在。”據(jù)耶里尼克觀察發(fā)現(xiàn)，當(dāng)談到人工智能的倫理，美國(guó)傾向于談利益、個(gè)人價(jià)值的實(shí)現(xiàn)，歐洲更關(guān)注社會(huì)融合和隱私保護(hù)的問題，而在中國(guó)，對(duì)和諧的強(qiáng)調(diào)以及如何治理則是討論的共同點(diǎn)。

針對(duì)三方的差異，中國(guó)人民大學(xué)國(guó)際關(guān)系學(xué)院教授王義桅在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)，提出了一種合作模式：中國(guó)、美國(guó)與歐盟各施所長(zhǎng)，構(gòu)建一種三角形的合作框架。

在耶里尼克看來，在這種框架下，中國(guó)還可以發(fā)揮文化優(yōu)勢(shì)，比如將“利他主義”的思想貢獻(xiàn)至有關(guān)人工智能倫理的大討論中，供各方互學(xué)共鑒，使中國(guó)更好地加入人工智能全球發(fā)展議程的設(shè)置中。