超知能AIが出現したら何が起こるかーーAI開発の指針「アシロマAI原則」の取りまとめに尽力し、AI安全性研究を牽引する著者が、来るべき世界の姿と生命の究極の未来を考察する。労働、法律、軍事、倫理から、生命と宇宙、機械の意識まで多岐にわたる問題を論じた全米ベストセラー。31か国で刊行。 「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」 ──スティーヴン・ホーキング イーロン・マスク、エリック・ブリニョルフソン、レイ・カーツワイル、ニック・ボストロム、スチュワート・ラッセル、マーティン・リースら推薦！ NY Times Bestseller The Times Books of the Year 2017 Daily Telegraph Books of the Year 2017 バラク・オバマ Favorite Books of 2018 ビル・ゲイツ 10 Favorite Books about Technology ★NHK Eテレで今年放映された番組「超AI入門特別編（全5回）」の、第1回目（6/26）と5回目（7/31）に著者が出演しています。 【目次】 プロローグ オメガチームの物語 最初の数百万ドル/ 危険なゲーム/ 最初の数十億ドル/ 新たなテクノロジー/ 権力掌握/ 統合 第1章 いまもっとも重要な議論へのいざない 複雑さのおおまかな歴史/ 生命の3つの段階/ 論争/ 誤解/ この先の道筋 第2章 物質が知能を持つ 知能とは何か/ 記憶とは何か/ 計算とは何か/ 学習とは何か 第3章 近未来: ブレイクスルー、バグ、法律、兵器、仕事 ブレイクスルー/ バグ VS 堅牢なAI/ 法律/ 兵器/ 仕事と賃金/ 人間レベルの知能 第4章 知能爆発 全体主義/ プロメテウスが世界を支配する/ ゆっくりとした立ち上がりと多極的なシナリオ/ サイボーグとアップロード/ 実際には何が起こるのか 第5章 余波: 1万年先まで 自由論者のユートピア/ 善意の独裁者/ 平等主義者のユートピア/ 門番/ 保護者としての神/ 奴隷としての神/ 征服者/ 後継者/ 動物園の飼育係/ 1984/ 先祖返り/ 自滅 第6章 宇宙からの恵み: 今後10億年とさらにその先 資源を最大限に活用する/ 宇宙への入植によって資源を確保する/ 宇宙のヒエラルキー/ 展望 第7章 目標 物理学: 目標の起源/ 生物学: 目標の進化/ 心理学: 目標の追求とそれに対する反抗/ 工学: 目標を外部に委ねる/ 友好的なAI: 目標を合致させる/ 倫理: 目標を選ぶ/ 究極の目標 第8章 意識 どうでもいい問題なのでは/ 意識とは何か/ 何が問題か/ 意識は科学の範囲を超えているのか/ 意識に関する実験的な手掛かり/ 意識に関するいくつかの理論/ 意識をめぐる論争/ AIの意識は何を感じるか/ 意義 エピローグ FLIチームの物語 FLIの誕生/ プエルトリコでの冒険/ AI安全性研究を主流にする/ アシロマAI原則/ 留意を伴う楽観論