民間信仰展
超智慧:AI風險的最佳解答

超智慧:AI風險的最佳解答

Superintelligence: Paths, Dangers, Strategies

  • 定價:600
  • 優惠價:79474
  • 優惠期限:2024年06月30日止
  • 運送方式:
  • 臺灣與離島
  • 海外
  • 可配送點:台灣、蘭嶼、綠島、澎湖、金門、馬祖
  • 可取貨點:台灣、蘭嶼、綠島、澎湖、金門、馬祖
  • 台北、新北、基隆宅配快速到貨(除外地區)
載入中...
  • 分享
 

內容簡介

我們創造的,是否終將毀滅我們?
★ 洞悉AI本質必讀,比爾・蓋茲極力推薦 ★

人工智慧狂潮再起——軟、硬體、相關零組件產業迅速改變世界,
        𓅓為何上千名科技巨擘、AI專家反而連署警告?
𓅓為何AI毀滅人類的風險,等同核武戰爭與傳染病?
𓅓為何AI帶來的改變有多積極,它的負面影響就令人感到多絕望?

\\\這本書都有答案!///
  
  本書以一篇「未完的麻雀寓言」開場,
  講述一群麻雀企圖馴服貓頭鷹為己所用,
  但最終沒能解決最重要的難題:如何控制牠?

  這篇如同啟示錄的寓言,在在提醒人類與人工智慧的關係,
  我們發現,人工智慧和人類價值之間的連結相當鬆散,
  AI專家與菁英學者、企業家們,尚未解決最重要的「控制難題」。

  重點不是人工智慧將扮演什麼角色,
  而是我們「設計」它為人類社會扮演什麼角色?

  \\\人工智慧領域的經典之作,出版至今仍是科技思想最前沿///
  人腦擁有其他動物所缺乏的能力。因為這些獨特能力,我們在地球上居主宰地位。其他動物有更強的肌肉或更尖利的爪子,但我們有更聰明的頭腦。我們在常態智慧上的優勢,讓我們發展了語言、技術和複雜的社會組織。但如果有一天我們打造了常態智慧上超越人腦的機器腦,那麼這個全新的超智慧就會變得十分強大。

  就如猩猩的命運如今多半操之於我們人類,而非牠們自己手中一樣,我們的命運接著也將操之於超智慧之行動。但我們有優勢,就是我們可以先發制人。因為它們是我們所創造的東西,因此我們可以打造出一種能保護人類價值的超智慧,來控制超智慧的行徑,好讓人類在這場智慧爆炸下仍能存活。但,我們該如何達成一場可控制的爆發?

  \\\全球五十歲以下引用次數最多的哲學家///
  本書作者伯斯特隆姆從當前人工智慧研究取徑和現況中,找出可能達成超智慧的途徑,包括人工智慧、全腦仿真、生物認知、腦機介面、網路和組織的強化,並帶領我們思考,這樣一個超智慧一旦出現,可能會如何行動,以及它的行動是否會對我們的生存造成威脅,而我們是否有方法在它變成超智慧之前,該如何做好能力控制和動機選擇。

  身為牛津大學哲學系教授,作者特別強調強調動機選擇的關鍵性,但要植入哪一種價值的決定,有非常深遠的影響;而人類的價值又如何能轉譯成人工智慧所能理解的形式語言。這些都是嚴峻的挑戰。作者從頭到尾都謹慎地為人類尋找出路。
在這本極具創見的書中,呈現了超智慧的前景和面臨的挑戰,以及我們該如何應對。這可能是人類有史以來要面對的最重要、最艱難挑戰。

重量級推薦

  比爾.蓋茲(Bill Gates)|微軟創辦人、OpenAI大股東
  伊隆.馬斯克(Elon musk)|特斯拉執行長
  尼爾斯.尼爾松(Nils Nilsson)|人工智慧先驅,史丹佛大學電腦科學教授
  麥斯.泰德馬克(Max Tegmark)|麻省理工學院物理學教授
  史都華.羅素(Stuart Russell)|加州大學柏克萊分校電腦科學教授
  馬丁.里斯(Martin Rees)|數學家、前皇家學會會長
  奧勒.哈格斯特羅姆(Olle Häggström),數理統計學教授

各界推薦

  你應該擔心人工智慧,我極力推薦本書。──比爾.蓋茲(Bill Gates)

  值得一讀……面對人工智慧我們得極其小心。」──伊隆.馬斯克(Elon musk)

  每個聰明人都該讀。──尼爾斯.尼爾松(Nils Nilsson)|人工智慧先驅,史丹佛大學

  這本由全球思路頂尖清晰的思考者所作的傑出分析,處理了人類最大的一個挑戰:如果未來的超人工智慧成為人類史上最重大的事件,那麼我們要怎麼確保那不會是最後一件事?──麥斯.泰德馬克(Max Tegmark)|麻省理工學院物理學教授

  尼克.伯斯特隆姆提出很有說服力的理由,說明人工智慧未來的影響可能是人類至今所要面對的最重要問題。超智慧用前所未有的詳細度,標示了未來底下潛藏的暗礁。它也標記了新時代的開端。──史都華.羅素(Stuart Russell)|加州大學柏克萊分校電腦科學教授

  那些傾向於將「人工智慧接管世界」當作科幻而忽視的人,在看過這本獨創而論理充分的書之後,可能要重新思考一下。──馬丁.里斯(Martin Rees)|數學家、前皇家學會會長

  十分重要……見地獨創……判斷極其精準且內容明晰,使他(伯斯特隆姆)能將自己橫跨極廣光譜的學門──工程、自然科學、醫學、社會科學和哲學──所得到的廣泛知識一以融會貫通……如果本書得到了應有的待遇,那它最終將可成為繼1962年瑞秋.卡森的《寂靜的春天》之後,甚至有史以來最重要的警鐘。──奧勒.哈格斯特羅姆(Olle Häggström),數理統計學教授

  有價值。把第二種智慧物種引入世上的影響是如此地深遠,因而值得努力思考。──《經濟學人》

  (伯斯特隆姆)論點的力量是毋庸置疑的……這難題值得下一世代最優秀的數學才能進行研究挑戰。人類文明正在危機邊緣。──《金融時報》
 
 

作者介紹

作者簡介

尼克.伯斯特隆姆(Nick Bostrom)


  牛津大學哲學系教授,其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多,擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所(Future of Humanity Institute)的創立者和所長。這個跨學科的研究中心聚集了一群傑出的數學家、哲學家和科學家,共同致力於深入探索人工智慧的安全與政策、生物安全、宏觀策略、數位思維倫理等關鍵科技與基礎問題。

  伯斯特隆姆的學術成就與貢獻受到廣泛讚譽。他是TED大會的常客,多次在此發表演講,並且已接受超過一千次來自各類媒體的採訪。他的學術實力和影響力使他兩度榮登《外交政策》(Foreign Policy)雜誌的全球百大思想家名單,並且作爲最年輕的思想家之一,他也成功躋身於《展望》(Prospect)雜誌的世界思想家排行榜前十五位。

  除此之外,伯斯特隆姆相當多產,已出版約二百篇著作,包括具有開創性的《人類偏誤》(Routledge)、《全球災難風險》(編輯,牛津大學出版社)以及《人類增強》(編輯,牛津大學出版社)。他的學術作品被翻譯成三十多種語言,並在全球廣泛流傳。本書《超智慧》更是受到學術與實務領域推崇,每當人工智慧議題再起,必定名列經典必讀之作。

譯者簡介

唐澄暐


  政治大學新聞系、台南藝術大學紀錄所畢業。曾任《台灣立報》國際版版主及編譯。喜愛怪獸及幻想作品,目前同時從事翻譯及怪獸小說寫作。譯有《世界觀:現代年輕人必懂的科學哲學和科學史》《我們的知與不知::探索科學、歷史、人類心智的知識邊界》、《五十億年的孤寂》、《地球之後》、《數字公民》等書。
 
 

目錄

寫在前面 未完的麻雀寓言
序言 控制超智慧的超級難題
 
第1章 人工智慧的無盡春天
第2章 邁向超智能的途徑
第3章 超級能的形式
第4章 智慧爆發的動力學
第5章 關鍵策略優勢
第6章 接管全世界
第7章 超智慧的意志
第8章 我們創造的,終將毀滅我們?
第9章 控制難題
第10章 先知、精靈、君王、工具
第11章 多極情境
第12章 獲得價值
第13章 選擇「選擇準則」
第14章 策略景況
第15章 緊要關頭
 
致謝
注釋
參考書目和文獻資料
 
 
 



寫在前面
未完的麻雀預言


  築巢季節,麻雀們歷經數日辛勞,一同坐在夕陽下放鬆、聊天。

  「我們太弱小了。要是有隻貓頭鷹來幫我們築巢,日子會多輕鬆!」

  「就是說啊!」另一隻說。「我們還可以用牠來照顧老小。」

  「牠可以給我們一些忠告,還可以提防周遭的貓。」第三隻麻雀附和。

  然後,年長的鳥兒帕斯圖斯(Pastus)開口了:「這樣吧,我們向各方發動偵查,找找被遺棄的貓頭鷹雛鳥或是鳥蛋。小烏鴉或許也行,不然就小鼬鼠。要是成了,那可真是好事一樁,至少會是後院開了湧泉亭(Pavilion of Unlimited Grain)以來最棒的事。」

  麻雀們興奮不已,開始四處嘰嘰喳喳。

  只有個性焦躁的獨眼麻雀史克隆芬克(Scronkfinkle)懷疑這種企圖是否明智。牠說:「這一定會失敗。把貓頭鷹帶到族內之前,不是該先思考如何馴服這個怪物嗎?」

  帕斯圖斯回道:「馴服貓頭鷹似乎十分困難。光是要找到貓頭鷹蛋就已經夠難了,等我們成功養大貓頭鷹,再來考慮這項挑戰吧。」

  「這計劃有缺陷啊!」史克隆芬克驚呼。然而鳥群早已飛去執行帕斯圖斯的指示,牠的抗議已是徒勞。

  只有兩三隻麻雀留了下來。牠們一起探討要怎麼馴服貓頭鷹,不久,大夥兒便察覺史隆芬克的擔憂沒有錯:這是個相當困難的挑戰——特別是在找到供他們驅使的貓頭鷹之前,不可能有貓頭鷹讓他們練習。即便如此,牠們還是竭盡所能探討,深怕鳥群還不知道怎麼控制貓頭鷹這個難題,就把貓頭鷹蛋帶了回來。

  這個故事會如何結束仍屬未知,但作者將本書獻給史克隆芬克,以及跟隨牠的人。

控制超智慧的超級難題

  正在進行閱讀的,是你頭蓋骨裡的那個東西:人腦。人腦具有其他動物腦袋缺少的能力;我們之所以能主宰地球,得歸功於這些能力。其他動物有更強壯的肌肉、有更尖銳的爪子,而我們有更聰明的頭腦。人類一般智力上的優勢,讓我們發展出語言、技術以及複雜的社會組織。當新一代以上一代的成就為基礎而前行,這些優勢也隨著時間疊加。

  如果有一天,我們打造出超越人腦的機器腦,這個全新的超智慧可能會非常強大。此外,就如大猩猩的命運如今掌握在人類手中(而非牠們本身),我們的命運也可能取決於超級智慧機器的行動。

  我們的確有優勢:畢竟這東西是我們創造出來的。原則上,我們應該打造出一種能保護人類價值的超智慧,這麼做也的確有充足的理由。但事實上,所謂「控制難題」——也就是如何控制超智慧的難題——似乎相當困難,成功的機會恐怕也只有一次。一旦不友善的超智慧出現,它有可能會阻止我們替換掉它、或是改變它的偏好。屆時,我們的命運大勢已定。

  在本書中,我試著理解超智慧的前景所呈現的挑戰,以及我們該如何應對。這很可能是人類有史以來得面對,最重要也最艱難的挑戰。不論成敗與否,恐怕都是我們將面對的最終挑戰。

  書中的論點並未指出我們正處於人工智慧重大突破的臨界點,也未準確預測進展何時會發生。雖然這一切看似將在本世紀的某一時刻發生,但我們其實無法肯定。頭幾個章節確實討論了某些可能的途徑,也提及時間點的問題,然而本書的主體主要還是聚焦在發生之後該怎麼辦。我們研究了智慧爆炸的動力學、超智慧的形式和能力,以及當超智慧行動主體(agent)獲得關鍵優勢後,我們可用的策略選項。接著,我們將焦點轉移到控制難題,並提問:在形塑初始條件時,我們可以做什麼,好得出一個有利的結果,讓人類得以存續?在本書結尾,我們將拉開視野,並從我們的探索中思考更廣泛的景況。我們提出一些設想:當前人類必須做什麼,才有較大的機會避免日後的滅亡危機?

  這本書並不好寫。我希望本書可以釐清一條路徑,以便其他研究者能更快捷向前推進,抵達知識的前沿,並準備好投入研究,進一步拓展我們理解的範疇。(如果開展的這條路上有些顛簸崎嶇,我希望評論者在給予評價時,不要低估了先前並不友善的地形!)

  寫這本書不容易:我得試著讓它成為一本易讀的書,但我不覺得自己有成功達成目標。撰寫過程中,我設想的目標讀者是早期的我,並試著寫出一本我會喜愛的書。但後來我發現,這個人口取樣過於狹隘。儘管如此,我仍然相信如果世人願意多多思考,並試著不用文化語彙中最相近的俗成語意來吸收那些容易遭誤解的新想法,本書的內容應該是容易理解的。書中偶爾會出現數學或專業名詞,非技術背景的讀者不必因此感到挫折,你可以從前後的解釋拼湊出主要的論點(然而,對那些想更了解真相的讀者來說,書末的注釋可謂應有盡有)。

  本書提出的不少論點有可能是錯的。 我可能忽略了幾項關鍵性的考量,使我的某些結論、甚至多數結論都站不住腳。我花了不少篇幅指出全書中不確定事物的細微差別和程度,也用了諸多如「有機會」、「可能」、「或許」、「有可能」、「似乎」、「或可」、「幾乎可說」這些不美觀的字眼。每個修飾語都經過深思熟慮,小心置於文句中。然而,這些在認識論上表達謙虛意向的強度並不足夠,還得經由不確定性與可證偽性的驗證來彌補。這並非故作謙虛;儘管我相信本書有可能嚴重錯誤且誤導讀者,但我仍然認為文獻中呈現的其他觀點(包括既存的「零假設」(null hypothesis)觀點)甚至更糟——根據那些說法,我們仍然很安全,而且可以合理忽視超智慧的未來發展性。

 
 

詳細資料

  • ISBN:9786269736607
  • 叢書系列:利涉大川
  • 規格:平裝 / 444頁 / 16 x 23 x 2.7 cm / 普通級 / 單色印刷 / 初版
  • 出版地:台灣
 

內容連載

1章 人工智慧的無盡春天
 
先從回顧開始。以最大的尺度觀察歷史,歷史似乎展現一連串明顯的成長模式,每次都比前一次更加快速。這樣的模式預示了另一波(更快速的)成長模式。然而,我們並不打算著重這個觀察結果。本書的主旨並不是探討「技術加速」或「指數成長」,或是那些五花八門、偶爾會集結在「技術奇點」(注:singularity,根據科技發展史總結出的觀點,認為人類正在接近一個使現有科技被完全拋棄、或人類文明被完全顛覆的事件點,事件點過後的事件完全無法預測)標題下的概念。本章我們將回顧人工智慧的歷史,並探索此領域的現有能力。最後我們將看看近期專家的意見,深刻檢討我們對未來進展時間表的忽略。
 
▌希望與絕望的季節
 
1956年夏天,十位對神經網路、自動機理論(automata theory)和智慧研究有興趣的科學家在達特茅斯學院(Dartmouth College)召開了一場為期六週的工作坊。這項「達特茅斯夏季計劃」可說是人工智慧領域研究的黎明。許多參與者日後都被視為人工智慧的創始人。
 
這群人的樂觀展望反映在他們交出去的提案中(收件者為出資的洛克斐勒基金會〔Rockefeller Foundation〕):
 
我們提議進行一項為期兩個月、投入十人的人工智慧研究……這項研究進行基於下述推測:學習的每一面向或任何一種智慧的特徵,基本上都可以精準描述,並由一組機器來模擬。我們將找出讓機器能使用語言、產生抽象概念、解決人類問題,以及自我增進的方法。我們認為,若能精選出一組科學家共事一夏,上述問題(至少一個以上)會有長足的進展。
 
如此盛氣凌人的開場之後,人工智慧領域就在一段段炒作、期待、挫折和失望之間,交替了將近一甲子的歲月。

會員評鑑

5
2人評分
|
1則書評
|
立即評分
user-img
5.0
|
2024/05/07
「閱讀前建議」
①寫在最前面,翻閱此書可以不具備相關知識但最好有耐心,作者經常在後面章節再次討論前面章節所提到的狀況。
②再者作者用詞相當精簡理性(不論中譯或是原文皆如此),閱讀時建議看完一個篇幅過後留個思考空間給自己。
③這本書不討論現在AI的狀況(例如ChatGPT之類的,事實上這本書在發行時,人工智慧聊天機器人還未現世),而是著重在未來如果出現等同人類或者高於人類的AI時,會帶來怎樣的衝擊與結果。雖然作者極為嚴謹的探討他的觀點,不過這本書是建立在「可能發生的未來」這個基礎上,所以不排除有人認為作者過於自信或者廢話連篇,因為他所提的事就跟太空移民一樣或許會發生但現階段遙不可及。

那麼內容究竟有多艱澀呢?在此隨便選一段讓各位參考。

「有一點至關重要:在思考超智慧的潛在影響時,我們不要將它們擬人化。不管是在種子人工智慧的成長軌跡,還是在成熟超智慧的心理、動機和能力方面,陷入人類的框架,都會萌生毫無根據的期待。」P.134

種子人工智慧是作者在書中所提到的一個可能性,開發出能遞迴式自我進步的人工智慧,它的智商可能跟幼兒沒有什麼兩樣,但透過嘗試錯誤、資訊獲得與開發者的協助,它或許能逐步進步,並且發展出「今天的我比昨天更聰明」反覆自我提升模式,那麼可能有朝一日它能超越人類。作者稱之為種子人工智慧。
於是一般非數學或電機類相關學科出身的閱讀者八成會卡在「遞迴式」是何種含意,儘管作者在P.140簡單說明何為遞迴式自我進步,不過閱讀者最好花點時間額外瞭解一下相關名詞會比較好理解。

所以閱讀此書究竟需不需要具備相關知識?答案是不需要,因為學識淵博的作者甚至在裡面提到重現演化的方法,神經系統的構造,這也不是大眾具備的常識(這本書被博客來分類為商業理財,不禁思考現下的投資理財顧問對腦死玻璃化這詞有什麼想法)。作者開頭便提及種子人工智慧,大概希望閱讀者也能進行遞迴式進步,慢慢閱讀提升自我吧(苦笑)。

博客來真的不考慮換一下分類嗎?放在自然科普也好啊。
展開

最近瀏覽商品

 

相關活動

  • 【商業理財】天下文化電子書展|單本88折、三本79折|從AI到A+ 未來人才的關鍵思維
 

購物說明

若您具有法人身份為常態性且大量購書者,或有特殊作業需求,建議您可洽詢「企業採購」。 

退換貨說明 

會員所購買的商品均享有到貨十天的猶豫期(含例假日)。退回之商品必須於猶豫期內寄回。 

辦理退換貨時,商品必須是全新狀態與完整包裝(請注意保持商品本體、配件、贈品、保證書、原廠包裝及所有附隨文件或資料的完整性,切勿缺漏任何配件或損毀原廠外盒)。退回商品無法回復原狀者,恐將影響退貨權益或需負擔部分費用。 

訂購本商品前請務必詳閱商品退換貨原則 

  • 歐萊禮社方展
  • 天下雜誌(止)
  • 台北文學季(止)