超智慧：AI風險的最佳解答 Superintelligence: Paths, Dangers, Strategies

我們創造的，是否終將毀滅我們？
★ 洞悉AI本質必讀，比爾・蓋茲極力推薦 ★

人工智慧狂潮再起——軟、硬體、相關零組件產業迅速改變世界，
        𓅓為何上千名科技巨擘、AI專家反而連署警告？
𓅓為何AI毀滅人類的風險，等同核武戰爭與傳染病？
𓅓為何AI帶來的改變有多積極，它的負面影響就令人感到多絕望？

＼＼＼這本書都有答案！／／／
　　

　　本書以一篇「未完的麻雀寓言」開場，
　　講述一群麻雀企圖馴服貓頭鷹為己所用，
　　但最終沒能解決最重要的難題：如何控制牠？

　　這篇如同啟示錄的寓言，在在提醒人類與人工智慧的關係，
　　我們發現，人工智慧和人類價值之間的連結相當鬆散，
　　AI專家與菁英學者、企業家們，尚未解決最重要的「控制難題」。

　　重點不是人工智慧將扮演什麼角色，
　　而是我們「設計」它為人類社會扮演什麼角色？

　　＼＼＼人工智慧領域的經典之作，出版至今仍是科技思想最前沿／／／
　　人腦擁有其他動物所缺乏的能力。因為這些獨特能力，我們在地球上居主宰地位。其他動物有更強的肌肉或更尖利的爪子，但我們有更聰明的頭腦。我們在常態智慧上的優勢，讓我們發展了語言、技術和複雜的社會組織。但如果有一天我們打造了常態智慧上超越人腦的機器腦，那麼這個全新的超智慧就會變得十分強大。

　　就如猩猩的命運如今多半操之於我們人類，而非牠們自己手中一樣，我們的命運接著也將操之於超智慧之行動。但我們有優勢，就是我們可以先發制人。因為它們是我們所創造的東西，因此我們可以打造出一種能保護人類價值的超智慧，來控制超智慧的行徑，好讓人類在這場智慧爆炸下仍能存活。但，我們該如何達成一場可控制的爆發？

　　＼＼＼全球五十歲以下引用次數最多的哲學家／／／
　　本書作者伯斯特隆姆從當前人工智慧研究取徑和現況中，找出可能達成超智慧的途徑，包括人工智慧、全腦仿真、生物認知、腦機介面、網路和組織的強化，並帶領我們思考，這樣一個超智慧一旦出現，可能會如何行動，以及它的行動是否會對我們的生存造成威脅，而我們是否有方法在它變成超智慧之前，該如何做好能力控制和動機選擇。

　　身為牛津大學哲學系教授，作者特別強調強調動機選擇的關鍵性，但要植入哪一種價值的決定，有非常深遠的影響；而人類的價值又如何能轉譯成人工智慧所能理解的形式語言。這些都是嚴峻的挑戰。作者從頭到尾都謹慎地為人類尋找出路。
在這本極具創見的書中，呈現了超智慧的前景和面臨的挑戰，以及我們該如何應對。這可能是人類有史以來要面對的最重要、最艱難挑戰。

重量級推薦

　　比爾．蓋茲（Bill Gates）｜微軟創辦人、OpenAI大股東
　　伊隆．馬斯克（Elon musk）｜特斯拉執行長
　　尼爾斯．尼爾松（Nils Nilsson）｜人工智慧先驅，史丹佛大學電腦科學教授
　　麥斯．泰德馬克（Max Tegmark）｜麻省理工學院物理學教授
　　史都華．羅素（Stuart Russell）｜加州大學柏克萊分校電腦科學教授
　　馬丁．里斯（Martin Rees）｜數學家、前皇家學會會長
　　奧勒．哈格斯特羅姆（Olle Häggström），數理統計學教授

各界推薦

　　你應該擔心人工智慧，我極力推薦本書。──比爾．蓋茲（Bill Gates）

　　值得一讀……面對人工智慧我們得極其小心。」──伊隆．馬斯克（Elon musk）

　　每個聰明人都該讀。──尼爾斯．尼爾松（Nils Nilsson）｜人工智慧先驅，史丹佛大學

　　這本由全球思路頂尖清晰的思考者所作的傑出分析，處理了人類最大的一個挑戰：如果未來的超人工智慧成為人類史上最重大的事件，那麼我們要怎麼確保那不會是最後一件事？──麥斯．泰德馬克（Max Tegmark）｜麻省理工學院物理學教授

　　尼克．伯斯特隆姆提出很有說服力的理由，說明人工智慧未來的影響可能是人類至今所要面對的最重要問題。超智慧用前所未有的詳細度，標示了未來底下潛藏的暗礁。它也標記了新時代的開端。──史都華．羅素（Stuart Russell）｜加州大學柏克萊分校電腦科學教授

　　那些傾向於將「人工智慧接管世界」當作科幻而忽視的人，在看過這本獨創而論理充分的書之後，可能要重新思考一下。──馬丁．里斯（Martin Rees）｜數學家、前皇家學會會長

　　十分重要……見地獨創……判斷極其精準且內容明晰，使他（伯斯特隆姆）能將自己橫跨極廣光譜的學門──工程、自然科學、醫學、社會科學和哲學──所得到的廣泛知識一以融會貫通……如果本書得到了應有的待遇，那它最終將可成為繼1962年瑞秋．卡森的《寂靜的春天》之後，甚至有史以來最重要的警鐘。──奧勒．哈格斯特羅姆（Olle Häggström），數理統計學教授

　　有價值。把第二種智慧物種引入世上的影響是如此地深遠，因而值得努力思考。──《經濟學人》

　　（伯斯特隆姆）論點的力量是毋庸置疑的……這難題值得下一世代最優秀的數學才能進行研究挑戰。人類文明正在危機邊緣。──《金融時報》

作者簡介

尼克．伯斯特隆姆（Nick Bostrom）

　　牛津大學哲學系教授，其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多，擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所（Future of Humanity Institute）的創立者和所長。這個跨學科的研究中心聚集了一群傑出的數學家、哲學家和科學家，共同致力於深入探索人工智慧的安全與政策、生物安全、宏觀策略、數位思維倫理等關鍵科技與基礎問題。

　　伯斯特隆姆的學術成就與貢獻受到廣泛讚譽。他是TED大會的常客，多次在此發表演講，並且已接受超過一千次來自各類媒體的採訪。他的學術實力和影響力使他兩度榮登《外交政策》（Foreign Policy）雜誌的全球百大思想家名單，並且作爲最年輕的思想家之一，他也成功躋身於《展望》（Prospect）雜誌的世界思想家排行榜前十五位。

　　除此之外，伯斯特隆姆相當多產，已出版約二百篇著作，包括具有開創性的《人類偏誤》（Routledge）、《全球災難風險》（編輯，牛津大學出版社）以及《人類增強》（編輯，牛津大學出版社）。他的學術作品被翻譯成三十多種語言，並在全球廣泛流傳。本書《超智慧》更是受到學術與實務領域推崇，每當人工智慧議題再起，必定名列經典必讀之作。

譯者簡介

唐澄暐

　　政治大學新聞系、台南藝術大學紀錄所畢業。曾任《台灣立報》國際版版主及編譯。喜愛怪獸及幻想作品，目前同時從事翻譯及怪獸小說寫作。譯有《世界觀：現代年輕人必懂的科學哲學和科學史》《我們的知與不知：：探索科學、歷史、人類心智的知識邊界》、《五十億年的孤寂》、《地球之後》、《數字公民》等書。

寫在前面 未完的麻雀寓言
序言 控制超智慧的超級難題
 
第1章 人工智慧的無盡春天
第2章 邁向超智能的途徑
第3章 超級能的形式
第4章 智慧爆發的動力學
第5章 關鍵策略優勢
第6章 接管全世界
第7章 超智慧的意志
第8章 我們創造的，終將毀滅我們？
第9章 控制難題
第10章 先知、精靈、君王、工具
第11章 多極情境
第12章 獲得價值
第13章 選擇「選擇準則」
第14章 策略景況
第15章 緊要關頭
 
致謝
注釋
參考書目和文獻資料