AI的25種可能

引 言 人工智慧的機遇與風險
01 塞思·勞埃德 雖然是謬誤，卻比以往更靠譜
02 裘蒂亞·珀爾 不透明學習機器的局限性
03 斯圖爾特·羅素 給機器輸入使命
04 喬治·戴森 人工智慧第三定律
05 丹尼爾·丹尼特 我們將如何應對?
06 羅德尼·布魯克斯 我們的機器使我們陷入非人類混亂
07 弗蘭克·維爾切克 智慧的統一
08 邁克斯·泰格馬克 讓我們心懷渴望，超越自我
09 揚·塔里安 反對派報告
10 史蒂芬·平克 科技預言與觀念的不可低估的因果力量
11 大衛·多伊奇 超越獎懲
12 湯姆·格裡菲思 對人類的人工利用
13 安卡·德拉甘 把人類放進人工智慧的方程式中
14 克裡斯·安德森 梯度下降
15 大衛·凱澤 “資訊”之於維納、香農及我們
16 尼爾·格申斐爾德 伸縮性
17 丹尼爾·希利斯 第一批機器智慧
18 文卡·拉馬克裡希南 電腦會成為我們的霸主嗎?
19 阿萊克斯·彭特蘭 人類策略
20 漢斯·烏爾裡希·奧布裡斯特  使看不見的為人所見:當藝術遇見人工智慧
21 愛麗森·高普尼克 人工智慧與 4 歲兒童的對比
22 彼得·加里森 演算法學家的客觀夢想
23 喬治·丘奇 機器的權利
24 卡洛琳·鐘斯 控制論生物的藝術應用
25 斯蒂芬·沃爾弗拉姆 人工智慧與文明的未來
 

人工智慧的機遇與風險

人工智慧是今天的神話，也是其他一切故事背後的故事。它既是新的開始，也是末世毀滅，兩種結局分別對應了好的人工智慧和惡的人工智慧。本書集結了諸多來自人工智慧領域內外的重要思想家的對話，探討了人工智慧的定義及含義。該對話是基於一個叫作“可能的心智”的項目，正式開始於2016年9月在康涅狄格州華盛頓的五月花格瑞斯酒店召開的一次會議，本書的一些撰稿人也參與了這次會議。

在第一次會議上，人們很快對人工智慧進入更廣 泛的文化環境感到興奮與恐懼，這與諾伯特·維納(Norbert Wiener)的“控制論”思想進入當時文化領域的情況非常類似，特別是在20世紀60年代，許多藝術家把這種新科技思想融入他們的作品中。我對控制論思想的影響力有切身體會。實際上，若說正是控制論思想使我走上如今的人生道路也不為過。隨著20世紀70年代初數字時代的到來，人們不再談論維納，但如今，他的控制論思想被廣泛採用，已經內化到了不再需要名字的地步。它無處不在，飄蕩在空氣中的每個角落，這 正是適合本書開始的地方。

新技術=新感知
在人工智慧 出現之前，控制論大行其道。它是諾伯特·維納在 1948 年的奠基性著作中闡述的一種理念，意指自動的、自我調節的一種控制。我記得我接觸到這一理念是在1966年，當時作曲家約翰·凱奇(John Cage)邀請我和其他四五位年輕的藝術家參加了一些晚宴，也就是一系列的研討會，探討媒體、傳播學、藝術、音樂及哲學上的一些問題。這些問題主要圍繞讓 凱奇感興趣的維納、克勞德·香農(Claude Shannon)及馬歇爾·麥克盧漢 (Marshall McLuhan)的觀點。這些人在紐約的藝術圈頗有影響力，而我當時正努力躋身於這個圈子。凱奇對麥克盧漢的觀點尤其熟悉。麥克盧漢認為， 通過發明電子技術，我們的中樞神經系統即大腦擁有了一個外形，我們現在不得不假設“只有一個大腦，一個我們所有人共用的大腦”。

當時我在紐約的電影製片人實驗電影院做專案經理，在先鋒電影製片人兼導演約拿斯·梅卡斯(Jonas Mekas)的主持下，負責一系列的多媒體製作，即“新電影1號”項目(也叫作“擴延電影節”)。我與之共事的那些藝術家對這些理念非常感興趣，他們是視覺藝術家克萊斯·奧登伯格(Claes Oldenburg)、羅伯特·勞森伯格(Robert Rauschenberg)、安迪·沃霍爾(Andy Warhol)和羅伯特·懷特曼(Robert Whitman);動態藝術家夏洛特·莫爾曼(Charlotte Moorman)和白南准(Nam June Paik);偶發藝術家阿倫·卡普羅(Allan Kaprow)和卡若琳·史尼曼(Carolee Schneemann);舞蹈家特 裡莎·布朗(Tricia Brown);電影製片人傑克·史密斯(Jack Smith)、斯坦·範德比克(Stan Vanderbeek)、艾德·艾姆許維勒(Ed Emshwiller)和庫查兄弟(Kuchar brothers);先鋒劇作家肯·杜威(Ken Dewey);詩人格爾德·斯特恩(Gerd Stern)和USCO 組合;極簡音樂家拉蒙特·揚(La Monte Young)和特裡·賴利(Terry Riley);以及通過沃霍爾結識的地下絲絨樂隊(The Velvet Underground)。他們中許多人當時正在閱讀維納的作品，廣播裡也正在播放介紹控制論學說的節目。正是在這樣的一次晚宴中，凱奇從他的手提箱裡拿出一本《控制論》(Cybernetics)交給我，說:“這是給你的。”

在此期間，我意外地接到維納的同事亞瑟·K. 所羅門(Arthur K. Solomon)給我打來的電話，他是哈佛大學生物物理學研究生學院的院長。當時，維納一年前已經去世，但所羅門與維納在麻省理工學院和哈佛大學的一些關系密切的同事，一直在關注《紐約時報》上關於“擴延電影節”的報導，對其與維納作品扯上關係頗感好奇。所羅門邀請我帶著一些藝術家去劍橋與他和其他一些專家會面，包括麻省理工學院研究感官通信的沃爾特·羅森勃利斯(Walter Rosenblith)，哈佛大學應用數學家安東尼·歐廷格(Anthony Oettinger)，麻省理工學院工程師、頻閃光的發明人哈樂德·埃傑頓(Harold “Doc”Edgerton)等。

就像我以前 遇到過的許多次“藝術遭遇科學”一樣，由於我對科學所知不多，這次為期兩天的會面不算很成功，就像輪船行駛在暗夜裡。但我盡可能地吸收了一切營養，而且從很多有趣的方面看，這次會面非常重要，其中一點就是他們帶我們去看了“那台”電腦。在當時，電腦可是個稀罕物，至少我們這些訪客還沒有誰擁有一台計算機。我們被帶到麻省理工學院裡的一間非常大的屋子，在屋子中間有一個“冷室”，它高於地面，四周是玻璃牆。在“冷室”裡，技術人員穿著白色實驗室服、戴著白色圍巾和手套，正忙碌著核對整理從一個巨型機器裡出來的穿孔卡片。我走到近前，從我口中呼出的熱氣在“冷室”的玻璃上結成一層薄霧。我伸手抹開玻璃上的 霧氣，看到了“那台”電腦。一下子我便深深愛上了它。

後來在 1967年秋，我來到門洛派克市和斯圖爾特·布蘭德一起待了一段時間。1965年我在紐約見過他，當時他是 USCO 藝術家組合的一名週邊成員。當時，他正與身為數學家的妻子洛伊絲(Lois)著手準備《全球概覽》雜誌(The Whole Earth Catalog)第一期的出版發行。當洛伊絲和團隊其他人正幹著苦力時，斯圖爾特和我坐在一個角落裡待了兩天，閱讀、標記和注解前一年凱奇給我的那本《控 制論》，討論維納的思想。

這些思想給了我靈感，我開始提出一個主題，也像一個魔咒，讓我以後的所有努力有了方向，那就是“新技術=新感 知”。在媒介理論家馬歇爾·麥克盧漢、建築設計師巴克敏斯特·富勒(Buckminster Fuller)、未來主義者約翰·麥克黑爾(John McHale)，還有文化人類學家愛德華·T. 霍爾(Edward T. Hall)和艾德蒙·卡彭特(Edmund Carpenter)的啟發下，我開始大量閱讀資訊理論、控制論和系統論等領域的書籍。麥克盧漢推薦我閱讀生物學家 J. Z. 揚(J. Z. Young)的《科學中的懷疑與確定性》(Doubt and Certainty in Science)，在書中作者認為我們創造了工具，並通過使用這些工具來塑造自我。他推薦我閱讀的另一個文本是沃倫·韋弗(Warren Weaver)和克勞德·香農在 1949年所寫的文章《通信數學理論的新貢獻》(Recent Contributions to the Mathematical Theory of Communication)。在這篇文章開頭，作者寫道:“‘通信’一詞將被廣泛使用，其意義包括一個心靈影響另一個心靈的所有過程。這當然不僅僅指寫 作和演講，還指音樂、繪畫、戲劇、芭蕾，甚至人類的所有行為。”

誰能想到，從那往後的 20年裡，我們會開始把大腦比作電腦?誰又能想到，在接下來的另一個20年裡，當我們把電腦連成互聯網時，大家才意識到大腦不是一台電腦，而是一個電腦網路?當然，維納沒有想到——雖然他是設計用於控制機器的模擬回饋電路的專家，藝術家們也沒有想到，我自己更沒有想到。