2020年に始まった新型コロナウイルスCOVID-19のパンデミック(世界的流行)は、人々を自宅に閉じ込めた。街から人影は消え、鉄道は空気を運び、国境をまたいだ人の移動はほぼ途絶えた。対面の会話はマスク越しになされ、誰かが咳をするのが聞こえると皆、恐怖感に襲われた。これが新しいノーマルなのだ、と信じた人もいたが、ソーシャルディスタンスはとりあえず3年間で終止した。
今回のテーマは、人工知能がもたらす社会への脅威を三つ選び、それらの原因と危険について説明しなさい、である。
アイザック・アシモフはソビエト連邦生まれのユダヤ人であり、アメリカ合衆国に移住してSF作家になった。ロボットと銀河帝国の作品が有名である。ロボットについての代表作に、1950年の『われはロボット』、1954年の『鋼鉄都市』、1957年の『はだかの太陽』、そして1986年の『ファウンデーションと地球』がある。
ロボットについてのアシモフの設定で名高いのがロボット工学三原則である。彼のロボットは単なる機械仕掛けで動く人形ではなく、真価は人工知能(AI)にある。それらは具体的な命令を与えられなくても自ら考えて人間に奉仕するが、三原則には従わなければならない。引用する。
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りではない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
――『ロボット工学ハンドブック』、第五十六版、西暦二〇五八年[1]
ロボット工学三原則は『ロボット工学ハンドブック』に書かれた絶対的な倫理である。独占企業であるUSロボット&機械人間株式会社の企業責任において、倫理に反したロボットは作られない。三原則に違反すると、陽電子頭脳に障害が発生し、ロボットが壊れる仕組みである。
星々に人類が散って久しい世界でも、三原則を営利企業であるUSロボット&機械人間社が守り続ける理由は何か? 殺人ロボットも造らないとライバル企業との競争に負けてしまうのでないか? SF作家は物語の基本設定に関する疑問に答えなくてよいのであろう。
ロボット工学三原則は守られ続けるにせよ、それらの命令はあまりに一般的で、抽象的である。特に、「ロボットは人間に危害を加えてはならない」という第1条は個別的、具体的な状況に適用される際、本当に人間に危害を加えないのか疑わしい。危害を加える命令でなくても、危害を招く行動をロボットにさせることができるのでないか? 実際、ロボットの一部を凶器として使ったり、仕掛けをしておいて事故を誘発したりすることはアシモフが小説で使った題材である。あるいは、右によければ対向車、左によければ歩道、というような、どちらの選択をとろうとも人間への危害は避けられない場合はどうであろう?
第2条の人間の命令に服従する義務も疑わしい。知能が優る者、例えば大人、が知能が劣る者、例えば幼児、を言いくるめてしまうことは難しくない。ロボットが人間を保護するふりをして逆に操り人形にしてしまう着想は映画『アイ、ロボット』(2004年)で使われた[2]。自由が存在しないところで、自由が存在するかのように錯覚しているだけである。
ロボットの普及がもたらす現実に、人は心理的な葛藤を抱く。それが紛争をももたらすことをアシモフは鋭く予想する。社会は、ロボット化が進んだスペーサーワールドとロボット化を拒む地球とに分裂する。
スペーサーワールドとは、人類が移住したオーロラやソラリアなど50の惑星である。それぞれが独立した国家で、オーロラが最強である。スペーサー、すなわち、地球から移住した人間およびその子孫、とロボットが共存し、ロボットのおかげでスペイサーは豊かで、平和で、長生きである。まるで旧世界に対する新世界=アメリカである。
地球には、ロボットに殺されるというフランケンシュタイン・コンプレックスを信じる反ロボット派が存在し、ロボットを排除しようと暴動が絶えない。地球は人口が過密で、資源はスペーサーワールドに依存している。鉱物を掘るのは人間よりもロボットのほうが得意であるからである。スペーサー・シティ(宇宙市)は地球上に置かれたスペーサーの基地のようなもので、それに地球の人間は支配されている。まるで旧世界=ヨーロッパである。
なぜ、スペーサーワールドは豊かで平和で長生きなのか? 豊かさの原因は優秀な人工知能であるロボットの陽電子頭脳である。それのおかげで財とサービスの資源配分が効率的になるように経済が計画される。生産過剰も生産不足もなくなり、人々は価格を気にせず、オンデマンドでほしいものが手に入る。
平和は、ロボット工学三原則により、最強の兵器になりうるロボットが人間に危害を加えることが禁じられていることにより成り立っている。そもそも、スペーサーワールドには経済的な対立がないゆえに、殺人や戦争の原因もない(という)。
長生きであるのは、宇宙には病原体がないからである。逆に、病原体に対する免疫が体内にできていないので、他人からの感染を恐れて直接対面はせず、コミュニケーションはすべて三次元映像のビューイングをつうじて行われる。こうして、スペーサーは感染症にかからないため、寿命は百歳を大きく超える。
以上のように、スペーサーワールドとは安定した未来のイメージである。リスクをとらなくなるので、経済などの成長は止まる。しかし、すでにほしいものは何でも手に入るようになっているので、経済規模を大きくしなければならないという動機はない。
半世紀以上がたって、アシモフが描いたロボット世界のユートピアは真に迫っていたと分かる。新型コロナウイルス・パンデミックに伴うソーシャルディスタンスがなかったとしても、人々はきわめて衛生に敏感になった。インターネットの電子商取引はアシモフの考えていたものとは少し違うが、豊かさの水準を急速に向上している。残念ながら殺人マシンという形ではあるが、ロボット兵器は実現しつつある。彼が想像した鼻フィルターは、高機能マスクが鼻フィルターと口フィルターに分離すれば完成である。
スペーサーたちのソーシャルディスタンスは徹底している。人は自らの土地に一人で住む。対面で会わないのは他人だけでなく、家族もである。子供は引き離されて、親は育児をしない。
小説の設定は奇抜であるほど、そして葛藤が激しいほど面白い、とアシモフは知っていたにちがいない。テクノロジーの進歩がもたらす幸福が現代人には理解できず、実は不自由で管理されたディストピア(失望の世界)であることを彼は暗示したのでないか? 無理な作品設定の矛盾が広がるのを自ら楽しんだのでないか?
人工知能のユートピアまたはディストピアが到来するのは意外と近いかもしれない。シンギュラリティ、または特異点、という耳慣れない言葉を聞くことがある。『シンギュラリティは近い―人類が生命を超越するとき』という本があって、そのなかでレイ・カーツワイルはシンギュラリティを次のように解説する。
一九五〇年代、伝説的な情報理論研究者のジョン・フォン・ノイマンがこう言ったとされている。「たえず加速度的な進歩をとげているテクノロジーは―中略―人類の歴史において、ある非常に重大な特異点に到達しつつあるように思われる。この点を超えると、今日ある人間の営為は存続することができなくなるだろう」[3]
フォン・ノイマンは、自ら発明したコンピューターがやがてとてつもない情報処理能力を発揮することを予言したのであろう。コンピューターの能力を否定する者はいない。「今日ある人間の営為」という言葉で何を彼が意図したか? そろばんや九九がなくなって電卓になるという程度のことではないであろう。カーツワイルが意図するのは、ロボットの頭脳が「パターン認識力や、問題解決能力や、感情や道徳に関わる知能」を獲得することである[4]。単純な計算などの能力はすでに人間を追い越しているので、人間に機械が置き換わる分野が増加すれば、財・サービスの供給は急速に自動化されるであろう。ロボットの数は人間の数と違い、無限に増やすことができる。
シンギュラリティが近いとすれば、人類はスペーサーへの道の入り口に立ったことになる。本当にそうであろうか?
人工知能が最も活躍すると期待される自動運転を例にとろう。人間がいない物理的空間のみであれば、自動運転は実用段階に入ったかもしれない。しかし、車道にとびだす子供や横断歩道でないところで道を渡る年寄りには対応できない。そうした危害は人間が運転する自動車であっても同じであるから、といって容認するわけにいかない。なぜか?
アシモフは「ロボットは人間に危害を加えてはならない」と書いたのをお忘れであろうか? 人間が運転するならば、交通ルールを守ろう、でよいが、ロボットであれば事故ゼロの高い要求水準が義務づけられる。自動運転車は、従来車をはるかに上まわる俊敏さで子供やお年寄りを避けなければならない。一番良いのは、生活空間と道路とを完全に分離して、鉄道のように人が立ち入れなくすることである。しかし、そうした新交通システムはもはや自動車とは別物である。
このように、話題の自動運転は当面、人間に取って代わるものでなく、人間を補助するものに限定されるべきである。普及のまえに立ちはだかるロボット三原則を無視してでも普及させようとすれば、葛藤が高まることを容認するか、葛藤を抑圧する法律と政府を強化するかのいずれかである。それを決めるのは政治である。
2025年、2期目のトランプ政権がアメリカ合衆国で発足した。大統領の当選に貢献した実業家イーロン・マスクはPayPal、テスラ、スペースX、OpenAI、X(旧Twitter)などを経営した経験がある。
イーロン・マスクの経営スタイルはスペースXのロケット発射実験が如実に示す。つまり、試行錯誤を恐れずに成功するまで実験を繰り返す、というものである。これが純粋に実験ならばよいのであるが、実用化が始まれば話は変わる。テスラの電気自動車を公道で自動運転することには賛成派と反対派の両方がいる。強行すると、Xに導入したGrokというAIが性的画像を生成することに抗議が集まったように、世間の反発を買う。
イーロン・マスクは早々に公職から退いたが、政治の重要性を人々に実感させた。
他方、サミュエル・H・アルトマンが最高経営責任者を務めるOpenAIはChatGPTという人工知能プログラムで注目を浴びる。ChatGPTはインターネット上の文章を学習し、すぐれた会話力でユーザの質問に答える。
しかし、ChatGPTはインターネットで語られている平均的なことを文章化するにすぎない。回答内容の真・善・美を吟味するのは人間に責任がある。実際、ハレーションと呼ばれる事実誤認が頻繁に起き、答えをそのまま使うことはできない。他人の文章を勝手に学習することは剽窃にあたらないか?、AIに書かせた文章のオーサーシップは誰のものか?、といった問題も解決していない。
以上のように、人工知能やロボットは便利で効率的かもしれないが、その普及には危害・不服従・紛争・権利侵害といったリスクが伴う。同時に、もっと根源的なリスク、すなわち労働力としての人間の尊厳が軽んじられるリスク、に人々は敏感になりつつある。
それにもかかわらず、あたかも手品のように人工知能が生成するテキスト・画像・音声・映像は世界を魅惑する。企業も、政府も、個人も、それらをもてはやし、ブーム自体が人工知能の功罪にかかわりなく社会を変える。以下ではアシモフが描いた未来社会でなく、短期的な人工知能の影響を検討する。
人工知能ブームの象徴はNVIDIAである。NVIDIAはもともと画像処理に適した半導体(GPU)を製造する会社として知られていた。この種の半導体が人工知能の運用にも向いていると分かると、NVIDIAの株価は上がり、製品の需要が高まった。
ブームは人工知能にとどまらず、電気機器に不可欠なレアアースの供給懸念や、積極的な研究開発、さらにはデータセンターの建設に広がった。中期的には、人工知能は莫大なエネルギーを消費する、といわれる。人工知能は経済を拡大し、国力を高めるとされるが、そのためには必要な資源を確保しなければならない。
こうして資源の争奪が始まろうとしている。2025年に中国はレアアースの輸出を規制した。他国の産業に打撃を与えたり、外交カードとして輸出を使ったりするための措置である。これが意味することは自由貿易の否定である。戦略資源は国産化するか、代替品を探すしかなくなった。ほしい資源を外交で獲得するには、相応の代償を払うか、威信を示さなければならない。ハイエクが『隷属への道』で否定した道である。
実は、相互依存からナショナリズムへとゲームを変える動きは保護主義的なトランプ政権の第1期に始まっていた。彼は就任翌年である2018年、安全保障を理由として、鉄鋼に25パーセント、アルミニウムに10パーセントの追加関税をかけた。同じ年に今度は中国を狙い撃ちにし、通商法301条に基づく不公正貿易国として追加関税を課した。さらに、中国の情報通信会社である華為(フアウェイ)の最高財務責任者をカナダ政府に逮捕させた。中国製品には秘密の情報収集機能が搭載されていると外国は疑うようになり、アメリカ合衆国は政府機関による華為製品の調達を禁止した。
2期目、トランプ大統領は貿易戦争の相手を拡大した。2025年の任期早々、カナダ・メキシコ・中国に対する関税を上げ、続いて全世界に対して鉄鋼・アルミニウムと自動車への関税を引き上げた。その後も、関税引き上げを自分の言うことを外国にきかせるためのカードとして使っている。
トランプの保護主義に始まり、パンデミックや人工知能ブームに引き継がれた流れは重商主義をすっかり定着させた。18世紀の重商主義は一次産品の供給を戦列艦で確保したが、現代版の重商主義国家は核兵器やミサイルをかざして関税や鉱物資源の駆け引きをする。国家間の利益は競合し、関係はヘドリー・ブルの言葉でいえば「ホッブズ的」になる。
そうした生産と軍事を支える負担は国民に重くのしかかる。関税を上げるということは、安い輸入品を手放すということである。軍事費は高い税金によってまかなわれる。遅かれ早かれ、国民は負担に不満を抱くようになろう。
ナショナリズムを徹底しようとすると、外国とのヒト・モノ・カネ・情報の出入りを遮断しなければならない。スパイやフェイクニュースの防止は誰でも思いつく方法である。近年は日本でも、軍事転用ができる物品を意味する軍民両用品の移転を規制する安全保障貿易管理が行われている。
いち早く、大胆にインターネットから自国を遮断して世界を驚かせたのは中国であった。SNSの微博、ネットショップのアリババ、動画の優酷、クレジットカードの銀聯、と、国内企業がそれぞれのサービスを支配している。
外国のIT企業は次々と中国から駆逐された。2008年チベット騒乱の後にTwitterが、2009年ウイグル騒乱の後にはFacebookが遮断された。さらに、Googleが2010年に中国から撤退し、2014年には中国からのアクセスもできなくなった[5]。
中国が国外のインターネットを遮断する意図はIT産業の保護だけではない。国内の状況を外国に見られないように「竹のカーテン」で覆い隠したり、逆に、国民が外国の危険思想に触れないようにしたり、とまるで冷戦体制が再構築されているかのようである。
中国における国内情報通信の検閲は金盾(きんじゅん)と呼ばれる。検索エンジン、電子メール、そしてウェブサイトのワードが検閲されている。外国のインターネットとの遮断はグレートファイアウォール(GFW)といい、政権により有害と判断された情報は中国に入らなくなっている。個人は業者が提供するVPNを使ってグレートファイアウォールを迂回し、外国と情報をやり取りしているが、これはあくまで政府非公認の手法である。
目には目を、歯には歯を、とミイラ取りがミイラになり、世界は競争の時代に突入した。アシモフが描いた平和なユートピアであるロボット時代は遠い未来の話である。
これからの世界をリードするのはどの国か?十数年前、「Ｇ20は機能しない、Ｇ7は過去の遺物、Ｇ3は夢物語、Ｇ2は時期尚早」と論じたのはユーラシアグループ社のイアン・ブレマーであった[6]。彼は現状をGゼロ、すなわち、リーダーシップが欠如した世界、とした。G2は米中が協力して世界のリーダーを務める、というものである。
G2はトランプ大統領と習近平主席は試みるかもしれないが、世界のほとんどの国が納得できない秩序である。米中ばかりでなく、ロシアやヨーロッパも巻きこまないかぎり、平和で安定した秩序にはならない。仮に大国どうしで折り合いがついたとしても、それぞれの国民や中小国が蚊帳の外であれば、大国のリーダーたちの地位は安泰でない。
平和で豊かでもないのに、ロボット三原則が支配する未来に進むであろうか? 質問が逆である。平和な未来を作るために、人間はテクノロジーと社会をどのように管理すべきであろうか? 人工知能が行き着く先は宇宙旅行である。他の恒星系にジャンプするためのワープにも、惑星を破壊する強力な兵器にも、人知では扱えない桁外れのエネルギーが必要である。その陰で、人間は身体的にも精神的にも酷使されているはずである。人工知能を人間がコントロールできるまでの間に、人間の尊厳が維持される方法を考えださなければならない。その方法はUSロボット&機械人間社の企業倫理以上の何か――たぶんスペースガバナンスとして構想され、スペース憲法に書きこまれる新たな人権と行動規範――になるであろう。
[1] アイザック・アシモフ、『われはロボット』、Kindle版、早川書房、Kindleの位置No.23-28。
[2] Alex Proyas, Jeff Vintar, Akiva Goldsman, Laurence Mark, John A. Davis, Topher Dow, Wyck Godfrey, et al., I, robot, 2004.
[3] レイ・カーツワイル、『シンギュラリティは近い―人類が生命を超越するとき』、Kindle版、NHK出版、2012年、Kindleの位置No.328-332。
[4] カーツワイル、『シンギュラリティは近い―人類が生命を超越するとき』、Kindleの位置No.286-288。
[5] 山谷剛史、『中国のインターネット史 ワールドワイドウェブからの独立』、星海社、2015年。
[6] イアン・ブレマー、『Gゼロ後の世界』、北川格訳、日本経済新聞社、2012年、53ページ。
© 2026 Ikuo Kinoshita
