生物進(jìn)化方向不明朗,是導(dǎo)致人類社會(huì)和人工智能領(lǐng)域很難統(tǒng)一倫理規(guī)范的深層次原因。21世紀(jì)以來,科技呈現(xiàn)爆發(fā)趨勢(shì),特別是互聯(lián)網(wǎng),腦科學(xué)和人工智能的最新進(jìn)展,使的生物進(jìn)化方向研究有了新的啟示,2008年以來,我們對(duì)互聯(lián)網(wǎng)大腦模型、AI的智商評(píng)測(cè)、和腦的進(jìn)化進(jìn)行研究,提出種群知識(shí)庫(kù)的進(jìn)化是判斷生物進(jìn)化方向的關(guān)鍵。并由此對(duì)人工智能倫理建設(shè)的標(biāo)準(zhǔn)和規(guī)范進(jìn)行了探討。
一、制定人類和人工智能倫理的困境
倫理與智能、意識(shí)、生命和宇宙一樣,很難有統(tǒng)一的定義,一般來說,倫理是指在處理人與人,人與社會(huì)相互關(guān)系時(shí)應(yīng)遵循的道理和準(zhǔn)則。是指一系列指導(dǎo)行為的觀念,是從概念角度上對(duì)道德現(xiàn)象的哲學(xué)思考。它不僅包含著對(duì)人與人、人與社會(huì)和人與自然之間關(guān)系處理中的行為規(guī)范,而且也深刻地蘊(yùn)涵著依照一定原則來規(guī)范行為的深刻道理。
由于倫理的設(shè)定往往與文化、宗教、地域、價(jià)值觀、世界觀有關(guān),在人類數(shù)千年的文明史,至今我們也沒有一個(gè)統(tǒng)一的、標(biāo)準(zhǔn)的、明確的倫理體系,僅有一些大部分人承認(rèn)的大體的原則。對(duì)于人工智能帶來的倫理沖擊,因?yàn)閭惱韱栴}的不完善和爭(zhēng)議而變得更為突出。
譬如1912撞上冰山后沉沒的泰坦尼克號(hào),船上旅客在逃生的過程中究竟哪個(gè)群體獲得生命優(yōu)先權(quán)。成為逃難過程中面臨的重要的問題
《2012》是一部關(guān)于全球毀滅的災(zāi)難電影,電影中美總統(tǒng)讓物理科學(xué)家安全離開,自己留下時(shí)說到“一個(gè)科學(xué)家比幾十位官員更重要“;
著名的倫理思想實(shí)驗(yàn)“扳道工的選擇”中,火車高速行駛,不能急停。而正前方有一分叉路軌, 左邊有5名被綁架者,右邊有1名被綁架者,這時(shí)扳道工是選擇讓火車通往左側(cè)還是右側(cè)?;
2017年,波士頓動(dòng)力機(jī)器人在搬動(dòng)箱子時(shí),受到測(cè)試科學(xué)家的攻擊,導(dǎo)致站立不穩(wěn)摔倒,互聯(lián)網(wǎng)的視頻觀眾提出抗議,認(rèn)為侵犯了機(jī)器人的權(quán)利。并引發(fā)了科學(xué)界的爭(zhēng)論機(jī)器人有沒有自己的權(quán)利。
這些問題背后都蘊(yùn)含了深刻的倫理問題,如何選擇,對(duì)與未來人工智能的倫理建設(shè)也將有重要的影響和意義。
二、生物進(jìn)化沒有方向是倫理爭(zhēng)議的深層次原因
19世紀(jì)中葉,達(dá)爾文創(chuàng)立了科學(xué)的生物進(jìn)化學(xué)說,以自然選擇為核心的達(dá)爾文進(jìn)化論作為人類科學(xué)史最偉大的理論之一。統(tǒng)一了生物學(xué)的各個(gè)學(xué)科。達(dá)爾文進(jìn)化論的影響不僅僅局限在生物學(xué)領(lǐng)域,也提供了一種全新的世界觀、生命觀、宇宙觀和方法論,對(duì)幾乎所有的科學(xué)和人文領(lǐng)域產(chǎn)生影響。包括人工智能的倫理問題最終也會(huì)受達(dá)爾文理論的影響。
達(dá)爾文進(jìn)化論生物的進(jìn)化沒有確定的方向,達(dá)爾文把生物進(jìn)化過程設(shè)想成一棵不斷地生長(zhǎng)、分支的大樹,現(xiàn)存的所有生物都位于這棵樹的某個(gè)小分支的頂端,進(jìn)化樹不存在一個(gè)以人類為頂端的主干,人類只是進(jìn)化樹上一個(gè)普普通通的分支。從達(dá)爾文進(jìn)化論的角度看,人并不比老鼠,螞蟻更為高級(jí),人類并不能代表生物的發(fā)展方向。
達(dá)爾文的進(jìn)化論排斥了目的論(這被邁爾贊譽(yù)為其偉大的貢獻(xiàn)之一),達(dá)爾文主張變異是隨機(jī)的,用比上帝一點(diǎn)也不遜色的“自然”一詞來解釋其所精心構(gòu)建的進(jìn)化理論的核心。但是,達(dá)爾文也有其困惑和無奈,他感嘆道“這廣闊無垠、奇妙無比的宇宙……竟然是盲目的機(jī)遇或必然的產(chǎn)物感到非常難于甚至無法理解”(2-謝平. 2014. 生命的起源—進(jìn)化理論之揚(yáng)棄與革新.)
生物進(jìn)化沒有方向,沒有高低等級(jí)之分的觀點(diǎn),對(duì)人類社會(huì)和人工智能倫理建設(shè)會(huì)帶來如下影響:
因?yàn)樯锏倪M(jìn)化(演化)沒有方向,那么人類的進(jìn)化也沒有統(tǒng)一的方向;人類進(jìn)化沒有統(tǒng)一的方向,那么人類的創(chuàng)造物特別是人工智能也就沒有相同的進(jìn)化方向;由于沒有沒有統(tǒng)一的進(jìn)化方向,規(guī)范人類、人工智能與社會(huì)、自然關(guān)系的倫理就很難達(dá)成統(tǒng)一,形成標(biāo)準(zhǔn)。
三、新科技進(jìn)展對(duì)生物進(jìn)化方向的啟發(fā)
21世紀(jì)以來,互聯(lián)網(wǎng),云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)、人工智能、類腦計(jì)算、腦科學(xué)等等領(lǐng)域不斷涌現(xiàn)。人類科技出現(xiàn)又一輪爆發(fā)式增長(zhǎng)。這其中腦科學(xué)、互聯(lián)網(wǎng)和人工智能領(lǐng)域的發(fā)展為尋找和發(fā)掘生物的進(jìn)化方向提供了新的視角
3.1數(shù)億年來生物大腦的進(jìn)化
數(shù)億年來,生物為了適應(yīng)環(huán)境的變化,遵循“物競(jìng)天擇,適者生存“的原則形成了不同種類的生命形態(tài),雖然生物的表現(xiàn)形式千差萬別,但生物的核心-大腦確表現(xiàn)出明顯的方向性,從單細(xì)胞到人類,大腦越來越復(fù)雜,智慧程度越來越高。
諾貝爾獎(jiǎng)獲得者澳大利亞科學(xué)家John.C.Eccles在其著作《腦的進(jìn)化》中就提到“生物的大腦是從魚的大腦進(jìn)化到爬行動(dòng)物的大腦,再進(jìn)化到哺乳動(dòng)物的大腦,最后進(jìn)化到人類的大腦。如果解剖人腦,我們可以清晰的看到類魚、類爬行動(dòng)物、類哺乳動(dòng)物的結(jié)構(gòu)在人腦中涇渭分明。
生物通過自然競(jìng)爭(zhēng)和自然選擇體現(xiàn)出生物的多樣性,長(zhǎng)頸鹿的脖子更長(zhǎng),瞪羚羊跑的更快,老鷹的眼睛更犀利,但在大腦這個(gè)生物(動(dòng)物)最重要的器官上,表現(xiàn)出方向,人類腦的結(jié)構(gòu)中,在進(jìn)化進(jìn)程中的生物大腦一層包裹著一層,就如同化石的堆積一樣。
3.2互聯(lián)網(wǎng)大腦的形成與進(jìn)化
2008年,根據(jù)不斷涌現(xiàn)的互聯(lián)網(wǎng)類腦現(xiàn)象,劉鋒(本文作者)和科學(xué)院大學(xué)彭庚等教授等人參考神經(jīng)科學(xué)的大腦架構(gòu),發(fā)表論文《互聯(lián)網(wǎng)進(jìn)化的趨勢(shì)與規(guī)律》,提出了互聯(lián)網(wǎng)大腦的模型,用來闡述互聯(lián)網(wǎng)發(fā)展的最新架構(gòu),此后10年之中劉鋒與彭庚,劉穎,石勇等教授和博士形成的研究團(tuán)隊(duì),逐步形成了互聯(lián)網(wǎng)大腦的完整圖示和定義;[1]
互聯(lián)網(wǎng)大腦的定義:互聯(lián)網(wǎng)大腦就是互聯(lián)網(wǎng)向與人類大腦高度相似的方向進(jìn)化過程中,形成的類腦巨系統(tǒng)架構(gòu)。互聯(lián)網(wǎng)大腦架構(gòu)具備不斷成熟的類腦視覺、聽覺、軀體感覺、運(yùn)動(dòng)神經(jīng)系統(tǒng)、記憶神經(jīng)系統(tǒng)、中樞神經(jīng)系統(tǒng)、自主神經(jīng)系統(tǒng)。互聯(lián)網(wǎng)大腦通過類腦神經(jīng)元網(wǎng)絡(luò)將將社會(huì)各要素(包括但不僅限于人,AI系統(tǒng),生產(chǎn)資料,生產(chǎn)工具)和自然各要素(包括但不僅限于河流,山脈,動(dòng)物,植物,太空)鏈接起來;互聯(lián)網(wǎng)大腦在群體智慧和人工智能的驅(qū)動(dòng)下通過云反射弧實(shí)現(xiàn)對(duì)世界的認(rèn)知,判斷,決策、反饋和改造。
互聯(lián)網(wǎng)類腦巨系統(tǒng)的形成可以存在如下推論:當(dāng)生物進(jìn)化到人這個(gè)程度之后,人類通過互聯(lián)網(wǎng)聯(lián)合在一起共同進(jìn)化。而這種共同進(jìn)化的結(jié)果是。連接了人類的互聯(lián)網(wǎng),在結(jié)構(gòu)上與大腦一步步走向高度相似,在空間上隨著人類的擴(kuò)張不斷蔓延,如果有足夠的時(shí)間,可以預(yù)見到在足夠時(shí)間點(diǎn)后,空間,大腦,和互聯(lián)網(wǎng)三者將合為一體,進(jìn)化成為智慧宇宙或宇宙大腦。
達(dá)爾文進(jìn)化論的結(jié)論是向前推導(dǎo)的,即生物有共同的祖先,通過自然選擇,人這種物種出現(xiàn)了。互聯(lián)網(wǎng)、腦科學(xué)、人工智能的聯(lián)合進(jìn)化是向后推導(dǎo)的,認(rèn)為人通過自己創(chuàng)造的技術(shù)-互聯(lián)網(wǎng)向著智慧宇宙或宇宙大腦的方向進(jìn)化。“人“這個(gè)要素將互聯(lián)網(wǎng)的進(jìn)化和生物的進(jìn)化連接起來【2】。
3.3智能等級(jí)的劃分與進(jìn)化
2012年,劉鋒(本文作者)和和科學(xué)院石勇教授開始思考能否對(duì)不斷發(fā)展的互聯(lián)網(wǎng)大腦的智慧水平進(jìn)行評(píng)測(cè)。這個(gè)研究課題隨后延伸成為對(duì)人工智能系統(tǒng)的智商水平進(jìn)行評(píng)測(cè)研究。研究難點(diǎn),如何建立一個(gè)能統(tǒng)一描述人類生命,機(jī)器人,人工智能系統(tǒng)、互聯(lián)網(wǎng)大腦模型智能特征的模型.
2014年,研究獲得進(jìn)展,在參考馮·諾伊曼結(jié)構(gòu)、戴維·韋克斯勒人類智力模型、知識(shí)管理領(lǐng)域DIKW模型體系等。建立了標(biāo)準(zhǔn)智能模型(Agent),提出任何一個(gè)智能體,包括AI程序,機(jī)器人,人類,也包括互聯(lián)網(wǎng)大腦模型都可以被描述成一個(gè)同時(shí)具備知識(shí)的輸入,掌握,創(chuàng)新和反饋的綜合系統(tǒng)。下圖為增加創(chuàng)新和云存儲(chǔ)的擴(kuò)展馮諾依曼架構(gòu)。【3】
擴(kuò)展的馮·諾伊曼架構(gòu)對(duì)于我們劃分智能的水平等級(jí)給與了重要啟發(fā),判斷標(biāo)準(zhǔn)如下:
● 能不能和測(cè)試者(人類)進(jìn)行信息交互,也就是有沒有輸入/輸出系統(tǒng);
● 系統(tǒng)內(nèi)部有沒有能夠存儲(chǔ)信息和知識(shí)的知識(shí)庫(kù);
● 這個(gè)系統(tǒng)的知識(shí)庫(kù)能不能不斷更新和增長(zhǎng);
● 這個(gè)系統(tǒng)的知識(shí)庫(kù)能不能與其他人工智能系統(tǒng)進(jìn)行知識(shí)共享;
● 這個(gè)系統(tǒng)除了從外部學(xué)習(xí)并更新自己的知識(shí)庫(kù)之外,能不能主動(dòng)產(chǎn)生出新的知識(shí)并分享給其他人工智能系統(tǒng)。
依照上述原則,我們可以形成7個(gè)智能系統(tǒng)的智能等級(jí)劃分(數(shù)學(xué)公式省略)
對(duì)于人工智能系統(tǒng)的最高等級(jí)也就是第6級(jí)系統(tǒng),最基本的特征就是隨著時(shí)間的向前推進(jìn),并趨向于無窮點(diǎn)時(shí),不斷創(chuàng)新創(chuàng)造產(chǎn)生新知識(shí)的智能系統(tǒng)其輸入輸出能力,知識(shí)的掌握和運(yùn)用能力也將趨近于無窮大,按照基督教對(duì)于上帝的定義“全知和全能”,可以看出智能系統(tǒng)在不斷創(chuàng)新創(chuàng)造和不斷積累知識(shí)的情況下,在足夠的時(shí)間里以人類為代表的智能系統(tǒng)將最終實(shí)現(xiàn)“全知全能”的狀態(tài),從這個(gè)角度看,無論是東方文化的”神“,或西方文化中的“上帝”概念,從智能系統(tǒng)發(fā)展的角度看,可以看作是智能系統(tǒng)(包括人類)在未來時(shí)間點(diǎn)的進(jìn)化狀態(tài)【3】。
如果基于標(biāo)準(zhǔn)智能模型,可以用如下數(shù)學(xué)公式描述全知全能的狀態(tài)(I 知識(shí)信息接收,O知識(shí)信息輸出,S,知識(shí)信息掌握或存儲(chǔ),C 知識(shí)信息創(chuàng)新創(chuàng)造)
四、生物進(jìn)化方向-用種群知識(shí)庫(kù)判斷進(jìn)化方向和等級(jí)
推論1 種群知識(shí)庫(kù)向全知全能的方向進(jìn)化
腦的進(jìn)化,互聯(lián)網(wǎng)的進(jìn)化,智能系統(tǒng)的智力等級(jí)劃分都表現(xiàn)出明顯的方向性。人工智能先驅(qū)尼爾遜教授對(duì)人工智能下了這樣一個(gè)定義:“人工智能是關(guān)于知識(shí)的學(xué)科,怎樣表示知識(shí)以及怎樣獲得知識(shí)并使用知識(shí)的科學(xué)。
對(duì)于這三個(gè)領(lǐng)域,他們的共同點(diǎn)都是承載的知識(shí)庫(kù)和使用知識(shí)的能力不斷提升
無論是腦的進(jìn)化,互聯(lián)網(wǎng)的進(jìn)化,智能系統(tǒng)的智力等級(jí)劃分,還是從生物的發(fā)展史可以看出,知識(shí)和智慧的提升是生物進(jìn)化的核心,從種群知識(shí)庫(kù)容量和使用種群知識(shí)庫(kù)的能力兩個(gè)角度判斷生物進(jìn)化的方向和生物的高低等級(jí)。當(dāng)趨于無窮大時(shí),通過種群知識(shí)庫(kù)向全知全能的進(jìn)化,從而到達(dá)“上帝之點(diǎn)”。
上帝之點(diǎn)也就是歐米伽(Ω)點(diǎn),是法國(guó)著名進(jìn)化論哲學(xué)家德日進(jìn)20世紀(jì)上半葉在《人的現(xiàn)象》一書中提出他寫到:人類是通過“合而創(chuàng)造”、“聯(lián)通領(lǐng)圣”、集成、綜合、統(tǒng)一、凝聚,由簡(jiǎn)單到復(fù)雜,由低級(jí)到高級(jí),由組織結(jié)構(gòu)松散到組織結(jié)構(gòu)富集,最終趨于一個(gè)終極目的的必然過程。他把這個(gè)人類進(jìn)化的終極目的用最后一個(gè)希臘字母Ω來表示,叫作歐米伽(Omega)點(diǎn)。也就是人類將全知全能,因此Ω點(diǎn)也被稱作“上帝之點(diǎn)”。
推論2 物種之間通過種群知識(shí)庫(kù)發(fā)展速度進(jìn)行競(jìng)爭(zhēng)
生物種群知識(shí)庫(kù)和使用知識(shí)庫(kù)的能力,其膨脹速度是生物進(jìn)化的焦點(diǎn),其它生物的知識(shí)庫(kù)停滯,走向死胡同,因此在千萬年里沒有進(jìn)一步的變化,在地球的生命圈中也處在越來越低的地位。
人類在近10萬年里,在知識(shí)和智慧上不斷擴(kuò)展和加速,并因?yàn)榛ヂ?lián)網(wǎng)和人工智能的發(fā)
明而得到進(jìn)一步巨大飛躍,從而獲得了地球自然競(jìng)爭(zhēng)的統(tǒng)治地位。
五、從生物進(jìn)化方向探討AI倫理的建設(shè)和決策
5.1人工智能能否看作與人類同權(quán)的生命體
從標(biāo)準(zhǔn)智能模型的構(gòu)造和生命的進(jìn)化看,AI還不能看做與人類同權(quán)的生命體,它分擔(dān)了人類的部分知識(shí)和智慧功能,但在最重要的創(chuàng)造性和評(píng)審創(chuàng)造性價(jià)值方面無法替代,更為重要的是AI無法確定自己的進(jìn)化方向和進(jìn)化目標(biāo),也沒有正確進(jìn)化的自然動(dòng)力,它的進(jìn)化動(dòng)力來源于人類,依然是人類的工具,人與AI的對(duì)抗歸根結(jié)底依然是人與人的對(duì)抗。
5.2 以從種群知識(shí)庫(kù)的進(jìn)化作為構(gòu)建AI倫理的標(biāo)準(zhǔn)
從前面的討論看,知識(shí)和智慧的提升是生物進(jìn)化的核心,從知識(shí)庫(kù)容量和使用種群知識(shí)庫(kù)的能力兩個(gè)角度判斷生物進(jìn)化的方向和生物的高低等級(jí)。當(dāng)趨于無窮大時(shí),通過種群知識(shí)庫(kù)向全知全能的進(jìn)化,從而到達(dá)“上帝之點(diǎn)”。這說明生物的進(jìn)化存在方向和終點(diǎn)。那么在生命進(jìn)化的過程中,那些促進(jìn)和保護(hù)種群知識(shí)庫(kù)發(fā)展的行為和關(guān)系為正向的倫理標(biāo)準(zhǔn)。那些阻礙和危害種群知識(shí)庫(kù)發(fā)展的行為和關(guān)系為負(fù)面的倫理規(guī)則
5.3.從進(jìn)化方向看AI倫理的決策探討
1)對(duì)于泰坦尼克號(hào),在無法判斷乘客身份的緊急情況下,優(yōu)先逃生的為婦女和兒童,他們代表了人類的未來。
2)2012電影中,總統(tǒng)選擇讓科學(xué)家乘坐飛機(jī)到達(dá)安全之地,并表達(dá)“一個(gè)科學(xué)家比幾十位官員更重要“,也是基于基于科學(xué)家相比總統(tǒng)對(duì)未來人類在知識(shí)的延續(xù)和創(chuàng)新更重要的判斷。
3)“扳道工的選擇”中,能否判斷哪一邊對(duì)人類未來的知識(shí)和智慧貢獻(xiàn)大?在沒有第三種選擇和無法判斷哪一邊對(duì)人類未來知識(shí)和智慧貢獻(xiàn)大的情況下,選擇讓人數(shù)更多的5人存活下去應(yīng)為無奈之舉。
4)波士頓動(dòng)力機(jī)器人在搬動(dòng)箱子時(shí),受到測(cè)試科學(xué)家的攻擊,導(dǎo)致站立不穩(wěn)摔倒,這并不涉及對(duì)生命的虐待問題,因?yàn)槲覀冊(cè)谇懊嫣接戇^,目前機(jī)器人和AI系統(tǒng)還不是生命體,更不是與人類平權(quán)的生命體。
5)最后一條也是非常重要的一條,在非緊急情況下對(duì)應(yīng)對(duì)個(gè)體利益應(yīng)進(jìn)行保護(hù),不能以群體利益侵占個(gè)體利益,發(fā)揮個(gè)人探索的能動(dòng)性對(duì)種群知識(shí)庫(kù)的提升應(yīng)是非常重要的途徑。
-
人工智能
+關(guān)注
關(guān)注
1794文章
47642瀏覽量
239646
原文標(biāo)題:【南科大發(fā)言】人類賦予人工智能倫理,生物進(jìn)化方向的突破是關(guān)鍵
文章出處:【微信號(hào):AItists,微信公眾號(hào):人工智能學(xué)家】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論