- 第1節(jié) 你看到的人工智能可能只是假“智能”
-
計(jì)算機(jī)的處理能力隨著時(shí)間推移大幅提升。某些理論認(rèn)為這是技術(shù)發(fā)展整體加速的其中一個(gè)表現(xiàn),并將不可避免地帶來(lái)人類命運(yùn)的激進(jìn)變化。按照這種觀點(diǎn),人類似乎朝著一個(gè)轉(zhuǎn)折點(diǎn)前進(jìn),未來(lái)要么屬于機(jī)器或超人類或是整個(gè)加速過(guò)程因不可持續(xù)而崩潰。不管是哪種結(jié)果都是災(zāi)難性的。至少這樣的一個(gè)轉(zhuǎn)折點(diǎn)是破壞性的;蛟S有可能正如很多預(yù)言師所相信的那樣,造成未來(lái)世界與過(guò)去的一切完全沒(méi)有連貫性。
摩爾定律和智慧爆炸這兩種理論是目前老生常談的一種看法的核心所在,即認(rèn)為科學(xué)發(fā)現(xiàn)的速度在不斷加快,并將走向一個(gè)徹底改變世界的轉(zhuǎn)折點(diǎn)。兩種理論的出現(xiàn)都是因?yàn)閷?duì)于計(jì)算機(jī)影響日益擴(kuò)大的思考,二者都是在1965年發(fā)表的。戈登•摩爾(Gordon E. Moore)是英特爾公司的創(chuàng)辦人之一,他觀察到自1958年集成電路發(fā)明以來(lái),集成電路上的晶體管數(shù)量每?jī)赡辏ê蟾臑?8個(gè)月)翻一倍。
數(shù)學(xué)家古德(I.J. Good)在1965年發(fā)表了一篇題為《有關(guān)第一臺(tái)超智能機(jī)器的猜想》的文章中,預(yù)測(cè)計(jì)算機(jī)將從各方面都超過(guò)人類的智慧能力。超智能機(jī)器的一個(gè)顯著特點(diǎn)是具備制造出更好機(jī)器的能力。它們的出現(xiàn)會(huì)引發(fā)“智慧爆炸”,機(jī)器將設(shè)計(jì)出更智能的計(jì)算機(jī),它們的進(jìn)化將遠(yuǎn)遠(yuǎn)超出人類的智慧。古德寫(xiě)下了一句非常著名的話:“第一臺(tái)超智能機(jī)器將是人類的最后一項(xiàng)發(fā)明!
15年以后,另一位數(shù)學(xué)家,同時(shí)也是一位享有盛譽(yù)的科幻小說(shuō)家弗諾•文奇(Vernor Vinge)虛構(gòu)了一個(gè)小說(shuō)情節(jié),背景是剛剛發(fā)生智慧爆炸后的世界。文奇認(rèn)識(shí)到超智能奇跡能從很多方面改變生命和文化,以至于無(wú)法完全想象未來(lái)世界的樣子。文奇用一個(gè)數(shù)學(xué)和自然科學(xué)使用的術(shù)語(yǔ)將人類歷史的這個(gè)轉(zhuǎn)折點(diǎn)定義為技術(shù)奇點(diǎn)。
那些相信這個(gè)故事情節(jié)的人有兩個(gè)核心問(wèn)題要問(wèn):技術(shù)奇點(diǎn)什么時(shí)候發(fā)生?它會(huì)使人類受益還是威脅人類生存?目前這個(gè)階段,沒(méi)人可以給出答案,但是年輕專家和有經(jīng)驗(yàn)的科學(xué)家對(duì)這個(gè)問(wèn)題思考了很久,并在想辦法如何確保未來(lái)超智能計(jì)算機(jī)對(duì)人類“友好”。
有關(guān)技術(shù)奇點(diǎn)何時(shí)到來(lái)的討論非常熱烈,一些理論家預(yù)測(cè)將在最近的將來(lái)發(fā)生(150或100年后),另外有些人認(rèn)為很遙遠(yuǎn)或根本不可能。雷•庫(kù)茲韋爾(Ray Kurzweil)是一位投資家和作家,其代表性觀點(diǎn)認(rèn)為技術(shù)奇點(diǎn)在近期將會(huì)發(fā)生,他預(yù)測(cè)計(jì)算機(jī)將在2028—2030年前后展示出人類水平的智慧,奇點(diǎn)將接踵而至。
對(duì)于技術(shù)奇點(diǎn)不可避免到來(lái)的這一趨勢(shì)持批評(píng)意見(jiàn)的人,并不認(rèn)為能開(kāi)展各項(xiàng)任務(wù)的計(jì)算機(jī)構(gòu)成智能機(jī)器。當(dāng)然,計(jì)算機(jī)在某些方面已經(jīng)超出了人類的能力,比如解決數(shù)學(xué)計(jì)算、模擬復(fù)雜系統(tǒng)、搜索大型數(shù)據(jù)庫(kù)發(fā)現(xiàn)片斷信息之間的聯(lián)系等。
但是,人類智力的某些層面仍是當(dāng)今計(jì)算機(jī)無(wú)能為力或難以企及的。計(jì)算機(jī)甚至不具備分辨真實(shí)環(huán)境中重要信息和非重要信息的基本能力。計(jì)算機(jī)系統(tǒng)不具備人類的學(xué)習(xí)能力,缺乏情感智慧,道德智慧以及意識(shí)。但是有很多的理論是關(guān)于如何通過(guò)計(jì)算機(jī)實(shí)現(xiàn)這些能力,也有相當(dāng)多的理論解釋為什么計(jì)算機(jī)永遠(yuǎn)不會(huì)具備這些能力。
喬治•華盛頓(George Washington)大學(xué)教授威廉•哈萊爾(William Halal)發(fā)起了技術(shù)調(diào)查,在其中他采訪了一些知名專家關(guān)于各種技術(shù)事件什么時(shí)候會(huì)發(fā)生。他注意到在這些預(yù)測(cè)中,最樂(lè)觀的專家和最悲觀的專家總是針?shù)h相對(duì)。27位專家認(rèn)同技術(shù)奇點(diǎn)存在。他們被問(wèn)及是否同意這樣的說(shuō)法,即“智能機(jī)器將超越人類并造成破壞”。在27名專家之中,45%同意這個(gè)觀點(diǎn)。對(duì)于那些既同意也不同意的人,對(duì)自己觀點(diǎn)正確與否的自信程度平均為63%。
就像流行音樂(lè)有經(jīng)典老歌一樣,各種領(lǐng)域的學(xué)術(shù)研究也有一些幾十年來(lái)反復(fù)被閱讀和引述的經(jīng)典文章。在計(jì)算機(jī)科學(xué)領(lǐng)域,其中的兩篇“經(jīng)典之作”涉及對(duì)計(jì)算機(jī)智能進(jìn)行評(píng)價(jià)的文章。
第一篇是阿蘭•圖靈(Alan Turing)所寫(xiě),他是計(jì)算機(jī)科學(xué)的奠基人之一,二戰(zhàn)期間率領(lǐng)團(tuán)隊(duì)破解了納粹軍隊(duì)的密碼。圖靈在1950年一篇名為《計(jì)算機(jī)和智能》的文章開(kāi)頭寫(xiě)下令人難忘的一句話:“機(jī)器能思考嗎?”要知道,當(dāng)時(shí)對(duì)于人工智能尚無(wú)明確定義。
圖靈提出用一個(gè)測(cè)試將人類對(duì)這個(gè)問(wèn)題的反應(yīng)來(lái)與機(jī)器對(duì)此的反應(yīng)進(jìn)行對(duì)比。提問(wèn)者不能直接面對(duì)被提問(wèn)的人,而是通過(guò)文字信息的方式來(lái)溝通。如果提問(wèn)者僅僅根據(jù)二者的回答無(wú)法區(qū)分到底是計(jì)算機(jī)還是人類的答案,那么圖靈建議必須認(rèn)為智能機(jī)器是能夠思考的。圖靈稱他的思考試驗(yàn)為一個(gè)模仿游戲,現(xiàn)在人們通常稱這種試驗(yàn)為“圖靈測(cè)試”。
雖然很多人批評(píng)圖靈測(cè)試不足以作為衡量人工智能的標(biāo)桿,但是沒(méi)人有更好的提議。有一種批評(píng)意見(jiàn)認(rèn)為一個(gè)非常聰明的機(jī)器人可能會(huì)裝糊涂,假裝很傻地回答以欺騙專家,否則的話專家會(huì)知道它比人類了解的知識(shí)還多。
對(duì)于圖靈測(cè)試最有意思的批評(píng)是關(guān)于人工智能的第二篇“經(jīng)典老歌”。1980年哲學(xué)家約翰•西爾勒(John Searle)發(fā)表了《思想、大腦、計(jì)劃》的文章,認(rèn)為即使計(jì)算機(jī)像人類一樣答出了專家的問(wèn)題,也不能代表它知道自己在做什么。他用了一個(gè)“中文房間”的思維試驗(yàn)來(lái)說(shuō)明自己的觀點(diǎn)。
想象自己在一個(gè)房間里,里面是計(jì)算機(jī)所能獲取的所有關(guān)于中國(guó)語(yǔ)言的資料,人和機(jī)器都獲得充分的時(shí)間去學(xué)習(xí)掌握這些資料,然后讓計(jì)算機(jī)回答一個(gè)中國(guó)人提出的問(wèn)題,西爾勒推測(cè)他自己能夠根據(jù)翻譯材料給出正確的答案,雖然,他并不是真的懂中文,由此可以相信計(jì)算機(jī)也可以在同樣不懂符號(hào)含義的情況下給出正確答案。
西爾勒企圖說(shuō)明的是,從形式上掌握中文符號(hào)和充分理解中文意思是不同的。他的思考試驗(yàn)想要證明,操縱符號(hào)的計(jì)算機(jī)并不了解這些符號(hào)的意思,對(duì)符號(hào)的操縱不等于語(yǔ)意理解。
西爾勒認(rèn)為他提出的是一個(gè)常識(shí)性的簡(jiǎn)單觀點(diǎn)。但讓他感到奇怪的是,“中文房間”的論點(diǎn)引起了無(wú)窮無(wú)盡的討論。很多人則認(rèn)為用于計(jì)算機(jī)工程的思維模型不足以生產(chǎn)出具備理解和意識(shí)能力的機(jī)器。
我對(duì)于人工智能導(dǎo)致技術(shù)奇點(diǎn)(通常也稱之為超智能的到來(lái))的研究前景持友好的懷疑態(tài)度。我對(duì)于無(wú)所不能的工程精神也持友好的態(tài)度,他們提議制造具有通用智能的機(jī)器,以便開(kāi)展各種任務(wù)。但我非常懷疑我們是否對(duì)智能或意識(shí)的本性有足夠多的了解,以至于能將其完全復(fù)制在芯片或其他材料里。
生物系統(tǒng)中某些人類智力特質(zhì)是我們無(wú)法理解的,所需要的科學(xué)灼見(jiàn)也是現(xiàn)階段我們尚未具備的。人類思想與身體的融合,以及對(duì)于外界環(huán)境改變所做的適應(yīng)性反應(yīng)及韌性,是很難通過(guò)非生物的方式加以復(fù)制的。
有人認(rèn)為,將人類的腦力和先進(jìn)的人工智能形式結(jié)合起來(lái)的超智能終將問(wèn)世。某種程度上說(shuō),我認(rèn)為這樣的觀點(diǎn)更實(shí)際些。但是,認(rèn)為人和機(jī)器的能力相結(jié)合會(huì)帶來(lái)智能爆炸或是技術(shù)奇點(diǎn)的觀點(diǎn)仍然說(shuō)得過(guò)去但不太可能。
當(dāng)然,信息技術(shù)將產(chǎn)生新的思想種類,放大或取代人的思想去從事很多任務(wù)。雖然我對(duì)未來(lái)50~100年會(huì)發(fā)生技術(shù)奇點(diǎn)仍然持有懷疑,但是未來(lái)200年后是否會(huì)發(fā)生技術(shù)奇點(diǎn),我無(wú)從判斷。但是時(shí)間越長(zhǎng),機(jī)會(huì)越多,可以確保超智能機(jī)器人對(duì)人類和人類的價(jià)值觀友好。認(rèn)為科學(xué)家肯定終有一天會(huì)發(fā)現(xiàn)制造此類機(jī)器人或?qū)崿F(xiàn)人類進(jìn)化當(dāng)然不是愚蠢的。但是,這很大程度上取決于在20年、200年還是1000年以后實(shí)現(xiàn)。
2009年,一群計(jì)算機(jī)專家舉行會(huì)議,反思人工智能研究在社會(huì)層面上所取得的進(jìn)步,他們對(duì)于智能爆炸和即將到來(lái)的奇點(diǎn)表示懷疑。僅僅5年之后,這次會(huì)議的聯(lián)席主席巴特•塞爾曼(Bart Selman)認(rèn)為,因?yàn)樽罱诟兄蜋C(jī)器學(xué)習(xí)方面取得的突破,在大部分人工智能研究人員的心目中,超智能的可能性正在上升。
超智能的可能性受到了極大的關(guān)注,特別是一些著名人物,比如宇宙學(xué)家斯蒂芬•霍金(Stephen Hawking)、特斯拉的創(chuàng)立人伊隆•馬斯克(Elon Musk),他們認(rèn)為人工智能的研究將對(duì)人類造成嚴(yán)重威脅。
有時(shí)候這種對(duì)于未來(lái)的消極擔(dān)憂某種程度上轉(zhuǎn)移了人們對(duì)于解決當(dāng)下更為緊要的問(wèn)題的注意力。但是,技術(shù)奇點(diǎn)可以作為人類無(wú)法自我掌控命運(yùn)的象征。對(duì)于技術(shù)奇點(diǎn)的關(guān)注可以提醒商界領(lǐng)袖更加重視這個(gè)問(wèn)題,人類發(fā)明的技術(shù)如何邁出了最初的幾步,直至迫使人類交出控制權(quán),從這個(gè)角度說(shuō)來(lái),技術(shù)奇點(diǎn)倒也是有用的。
- 最新書(shū)評(píng) 查看所有書(shū)評(píng)
-
- 發(fā)表書(shū)評(píng) 查看所有書(shū)評(píng)
-