なぜ未来は我々を必要としないのか？
ビル･ジョイ
2000年4月

　新しいテクノロジーの創造にかかわった最初の瞬間から、私はその倫理的側面を気にかけてきた。 だが21世紀に人類が直面する危険の大きさをはっきりと意識したのは、1998年秋のことだ。 不安の始まりは、レイ・カーツワイルとの出会いの日にあったと断言できる。 レイは視覚障害者向け文章読みあげシステムの発明者であり、ほかにも多くの偉業をなしとげている。

　レイと私はジョージ・ギルダー主催のテレコズム会議の講演者だった。 二人とも講演を終えたあと、ホテルのバーで偶然顔をあわせた。 私はカリフォルニア大学バークレー校で人間の意識について研究している哲学者ジョン・サールと飲んでいた。 そこへ現われたレイが話しかけてきたのだが、そのときの話題は今日まで私の頭から離れない。

　レイの講演も、その後レイとジョンが参加したパネルディスカッションも、私は聞き逃していた。 バーでは、すぐにディスカッションの続きが始まった。 レイはテクノロジーの進歩の度合いはますます速くなっていくから、我々人間はロボットになるか、またはロボットと融合するか、そんな羽目になるだろうといった。 それに対してジョンは、ロボットには意識がないからそんなことは起こりえない、と反論した。

　それまでの私はこの手の議論を聞くたびに、知能をもつロボットなどＳＦの世界にしか存在しないのにと思ったものだった。 だが自分が尊敬する人間が、近い将来それが起こりうると話している。 未来を想像し作り上げていく実績のあるレイの力を知っていたので、私はショックを受けた。 遺伝子工学やナノテクノロジーなどの新しいテクノロジーのおかけで、人類が世界を作りかえる力を手にしたことは、私も知っていた。 だが、知能ロボットがすぐにも現実のものになりそうだとは思いも寄らなかった。

　こうした飛躍的進歩に、我々は慣れてしまいがちである。連日のように技術的、科学的進歩にまつわるニュースが耳に入ってくるからだ。 だがレイに聞かされた話は、通常の予測とはスケールが違った。 ホテルのバーで、刊行間近だった『スピリチュアル・マシン』の校正刷りの一部を見せてもらった。 同書でレイは、ロボットエ学によって人類がほぼ不死の存在になるというユートピアを描きだしていた。 読みながら、私の不安はいや増すばかりだった。 その危険性、おそらくそのような世界で生じる悪い結果について、レイはもうすこしひかえめに語るべきだと感じた。 　とくに不安をかきたてたのは、ディストピアの可能性を詳細に描いた一節だ。

技術革新反対主義者(ラッダイト)の新たな挑戦

　まず、コンピュータ科学者が、あらゆることを人間よりうまくやってのけるインテリジェント・マシンの開発に成功したと仮定してみよう。 その場合おそらく、すべてのことは高度に組織化された巨大なマシン・システムによってなされるだろうから、人間の努力はまったく必要ではなくなるだろう。 ここで二つのケースのいずれかが起こりうる。 マシンが人間の判断なしにすべての決定権をあたえられるか、でなければマシンに対する人間の支配が存続するか、である。
　もしマシンがすべての決定権をあたえられるとすれば、その結果に関して我々は何ら推測することはできない。 なぜなら、そのような機械がどのように振る舞うかを考えることは不可能だからだ。 唯一いえるのは、人類の運命はマシンしだいであるということだ。 マシンに全権を譲ってしまうほど、人間は愚かではないという考えもあるかもしれない。 しかし、人類が進んで権力をマシンに譲るといっているのでもなければ、マシンが計画的に権力を握ろうとしているといっているのでもない。 我々がいっているのは、マシンに依存しすぎると、その決定をすべて受け入れる以外、実質的に何の選択もなくなるような立場に人類がみずから陥っていくかもしれないということだ。 社会と社会が直面する問題がますます複雑になり、マシンが知的になっていくと、単にマシンの意思決定の方が人間よりよい結果をもたらすだろうという理由だけで、人々はマシンに意思決定をさせるようになるだろう。 そしていつかは、社会システムを動かすのに必要な決定事項があまりに複雑になり、人間がそれを知的に決定できなくなるような段階にまで達するかもしれない。 そのときこそ、マシンが実質的に権力を握るだろう。 そうなると、人はマシンのスイッチを切ることさえできなくなるだろう。 なぜなら、そのとき人間はマシンに依存しすぎていて、そのスイッチを切る行為は自殺に等しいからだ。
　しかし、マシンに対する人間の支配が存続している可能性もある。その場合、平均的な人間は、車やパソコンなどのいくつかのプライペート・マシンに対する支配権をもつかもしれないが、大規模なマシン・システムに対する支配権は、ほんのひと握りのエリートの手中にあるだろう。 それは今日と同じ状況だが、相違点が二つある。 技術の進歩によって、エリートたちは大衆をさらに支配するようになるだろう。 そして、人間的な仕事はもはや必要でなくなり、大衆は不必要な存在になるだろう。 これは社会システムの無用な負担である。 もしエリートたちが非情なら、人間の大部分を殺すだろう。 もしエリートたちが人道的なら、プロパガンダや、心理学的技術、生物学的技術を使って、人問の大部分が消滅するまで出生率を下げ、世界をエリートだけのものにするかもしれない。 また、もしエリートたちが温和な自由主義者で構成されていたら残りの人間のよき保護者の役割を演じることを決心するかもしれない。 万人の物質的な要求は満たされているか、子どもはみなよい衛生環境で育っているか、みな健全な趣味をもち忙しくしているか、不満を抱きそうな者はおのれの「問題」を癒すための「治療」を受けているか、と彼らは気を配るだろう。 もちろん、世のなかがあまりにも無目的になっているだろうから、人々を生物学的にあるいは心理学的に操り、権力のプロセスに対する欲求を取り除いたり、権力欲を無害な趣味に「昇華」させたりしなければならないだろう。 こうして操られた人間は、そのような社会においては幸福かもしれないが、まずまちがいなく自由ではないだろう。 彼らは家畜と同じ状態にまで落ちぶれてしまうだろう。



　この本を手にした読者は、ページをめくるまで、引用部分の著者がシオドア・カジンスキー、すなわちユナボマーであることに気がつかない。 私はカジンスキーの擁護者ではない。彼の十七年間にわたるテロ活動により、爆弾で三人の人間が殺され、多くの負傷者が出た。 私の友人で当代最高のコンピュータ科学者デイヴィッド・ジェランターも、重傷を負った。 コンピュータ業界の多くの人間同様、私も次の標的にされるかもしれないという恐怖を味わった。

　カジンスキーの行為は殺人にほかならず、私の目から見ればその犯行は異常である。 彼はあきらかに反進歩主義であるが、だからといって彼の議論を無視することはできない。 認めるのはつらいが、私は引用文の論理にも一理あると考え、そして対決しなければいけないと感じた。

　カジンスキーのディストピア観は、意図せずにある問題を提起している。 一つは、テクノロジーの設計と使用法というよく知られた問題。 そして、マーフィーの法則、すなわち「失敗する可能性のあるものは、失敗する」ということだ（ほんとうはフィネグルの法則だが、これを見ただけでもフィネグルの正しさがわかる）。 例としては、抗生物質の濫用が最大の問題となっている。 抗生物質への耐性をもつ、はるかに危険なバクテリアを発生させているのだ。 DDTを使ってマラリア蚊を退治しようとした結果、蚊はDDT耐性をもってしまった。 マラリアの寄生体も同様に多剤耐性の遺伝子を獲得してしまった。

　このような驚くべき現象の原因は、明白のように思われる。 問題となるシステムは複雑であり、多くの要素の相互作用とフィードバックを含んでいる。 このようなシステムへのいかなる変化も、予想しがたい方向への変化に結びつく。 これは、人間の行為が含まれている場合、顕著である。 　私は友人たちに、前掲のカジンスキーの文章を見せて歩いた。 『スピリチュアル・マシン』を渡して引用箇所を読んでもらい、その著者が誰だか知ったときの反応をうかがった。 同じころ、ハンス・モラヴェックの『シェーキーの子どもたち』も見つけた。 モラヴェックはロボットエ学の先駆的な研究者であり、カーネギー・メロン大学に世界最大のロボット研究プログラムを設立している。 『シェーキーの子どもたち』のおかげで、友人の反応を知る材料がふえた。 同書の内容は驚くほどカジンスキーの議論を支持している。

短期的な予測(2000年代初めごろの状況)

　生物の種は、より優れた競争相手に遭遇した場合、ほぼ生存は不可能になる。 一千万年前、南北アメリカ大陸は、パナマ地峡が海底に沈んでいたために分断されており、南アメリカには当時、現在のオーストラリアのように、有袋類が数多く生息していた。 ネズミや、シカ、トラなどに袋があったのである。 その後、パナマ地峡は隆起し、大陸は地続きになるが、数千年を経て、有袋類は、北アメリカ大陸に生息していた有胎盤類に駆逐されることになった。 有胎盤類は、若干ではあるが、新陳代謝能力、生殖能力、神経系統の能力などにおいて、有袋類よりも勝っていたのである。
　市場が完全に自由であれば、北アメリカの有胎盤類が南アメリカの有袋類を圧迫したように、優秀なロボットたちが人間を圧迫するということが起きるだろう（同じように、人間も数限りない生物たちを圧迫してきたのである）。 競争はロボット間でも、物資、エネルギー、空間などをめぐって激しく行なわれる。 その結果、こうした資源の価格が人間の手の届かない水準にまで高騰してしまうこともあるかもしれない。 生活に最低限必要な資源も入手できなくなれば、人間は存在すらできなくなってしまう。
　しかし、救いはある。市場が完全に自由になることはまずないからだ。 政府は、税の徴収などを通じて市場的でない展開を強制する。 政策が賢明なものであれば、ロボットの労働の果実を利用して人間が高い水準の生活を維持できる、という時代が長く続く可能性もある。


　絵に描いたようなディストピアである。モラヴェックはさらに熱弁をふるう。 21世紀の人類の最優先課題が、ロボットたちが「いい子でいる」よう命ずる法案を通過させて「ロボット産業界からの協力関係を確保する」ことであり、ロボットが「ひとたび何者にも縛られることのない超インテリジェントロボットに転換されたなら」人類がどれだけ危険な状態に置かれるかを述べる。 モラヴェックは、口ボットは最終的には人類にとって代わるものであり、人類は明らかに絶滅の危機にさらされているという見解なのだ。

　私は、友人のダニー・ヒリスと話すべきときだと思った。 ダニーはシンキング・マシン社の共同設立者として高名であり、同社は非常に高性能の並列式スーパーコンピュータを開発した。 わたしの現在の役職名はサン・マイクロシステムズの主任科学者というものだが、私は科学者というよりはコンピュータ設計者である。 情報科学と自然科学に関する該博な知識で、ダニー以上に尊敬できる人間はいない。 彼はまた長期的な視点を持つ未来学者として、高く評価されている。 彼が四年まえに設立したロングナウ財団は、一万年動きつづける時計の設計に取り組んでおり、悲しいほど短期的な視点しか持てない今日の社会に警鐘を鳴らしている。

　私は急遽ダニーとその妻パティとディナーをともにしたくなり、ロサンゼルスに飛んだ。 そしてお決まりの行動パターンに出た。 不安を覚えたアイデアや文章についてべらべらしゃべったのだ。 人類がロボットと混ざりあうというカーツワイルのシナリオに対するダニーの回答は、すばやく、また驚くべきものだった。 変化は徐々に起こり、我々は慣れてしまうだろう、というのだ。

　だが私もそれほど驚愕したわけではなかった。カーツワイルの本のなかで、ダニーの「ぼくだって人並みに自分の体が大好きだ。でももし体をシリコンにして二百歳まで生きられるなら、そうしたい」という発言が引用されていたからだ。 ダニーはそのプロセスにも付随するリスクにも助じないようだった。だが私は違う。

カーツワイル、カジンスキー、モラヴェックについて話したり考えたりするうち、私はふいに20年前に読んだフランク・ハーバートの白死病(The white plague)を思い出した。 家族を殺された分子生物学者が狂気へと駆り立てられていくSF小説だ。 主人公は復讐のために、対象を選択的に殺す、伝染力が強い新種の病原菌を作ってばらまく(カジンスキーが分子生物学者でなく数学者で良かった）。 私はまた、『スター・トレック』に出てくる、非常に破壊的な性向を持つ機械とヒューマノイドの結合体「ボーグ」も思いだした。 ボーグのようなタイプの災厄はSFではとうにおなじみなのに、なぜ私はそれまでロボットがディストピアをひき起こすことを心配しなかったのだろう？ なぜもっと、このような悪夢のシナリオを予想する人間がいなかったのだろう？

　答えの一端は新しいものに対する我々の態度にある。 我々は何の疑いも持たずに、すぐ新しいものを受け入れ、なじんでしまうからだ。 科学の飛躍的進歩が日常茶飯事となっているため、ロボットエ学、遺伝子工学、ナノテクノロジーといった21世紀最大のテクノロジーが、これまで存在しなかった脅威をもたらしていることを、じゅうぶん認識できていないのだ。 より厳密にいえば、ロボット、遺伝子操作した生物、ナノロボットは、増大する危険な要因を共有している―それらは自己複製できるのだ。 爆弾の爆発は一度きりだが、一体の極小ロボットは複数になることができ、たちまち制御不可能になる。

　過去25年間、私のおもな仕事はコンピュータのネットワーク化だった。 メッセージの送受信は制御不可能な複製をもたらす可能性がある。 だがコンピュータやコンピューターネットワーク内での複製が有害であるとしても、それは最悪でもコンピュータを動かなくさせるか、ネットワークやネットワークーサ−ビスをシステムダウンさせる程度だ。 だがより新しいテクノロジーがもたらす自己複製には、はるかに大きな危険がある。 自然界に深刻なダメージをあたえるという危険だ。

　この三つのテクノロジーはまた暗黙の約束をあたえるものでもある。 カーツワイルがロボットの夢に見た不死に近づくという展望は、我々をさらなる前進に駆り立てる。 遺伝子工学はまもなく、ほとんどの疾病を、完治にはいたらなくとも治療可能にするだろう。 ナノテクノロジーとナノ医療によって、これまで以上に多くの病気にも取り組めるようになる。 その結果、人間の平均寿命はいちじるしい延びを見せ、生活の質も向上するかもしれない。 それでも、こういったテクノロジーでは、一つ一つは妥当な小さな進歩も、まとまると大きな力となってゆき、ひいては大きな危険が生じることになる。

　20世紀は、何か違ったか？ たしかに大量破壊兵器、すなわち「核、生物化学兵器(NBC)」の開発の根底にあるテクノロジーは強力で、兵器の脅威は桁はずれだ。 だが少なくともある時点までは、核兵器を製造するには、事実上入手不可能に近い希少な原料と極秘情報の両方を得る必要があった。 生物化学兵器も、大規模な活動なしには製造できなかった。

　21世紀の三大テクノロジーGNR（遺伝子工学、ナノテクノロジー、ロボットエ学）もまた強力であり、まったく新しい種類の事故や悪用を招きかねない。 もっとも危険なのは、史上はじめて事故や悪用が、個人や小さな集団によってひき起こされるようなものになったということだ。 GNRテクノロジーの応用には大型施設も希少な原料も必要ない。知識さえあれば、誰でも利用できるのだ。

　我々は大量破壊兵器だけでなく、知識により引き起こされる大量破壊 KMD(knowledge-enabled mass destruction)の危機にさらされている。 そしてこの破壊の危険性は、自己複製の力によってすさまじく増幅するのだ。

　人類は今、極端な悪をさらに完成させようという転換点に立っているといっても過言ではない。 この悪は、国民国家にゆだねられていた大量破壊兵器の規模を超えて拡散し、末端の個人にまで驚くべき恐ろしい力をあたえる可能性を秘めている。

　私自身がコンピュータに関わったころには、このような問題に直面するとは思いも寄らなかった。

　私はこれまで、疑問を投げかけ、解答を見つけることへの強い欲求に突き動かされる人生を歩んできた。 3歳ですでに本が読めたから、父は私を小学校に連れて行った。 私は校長先生の膝に乗って、本を音読してあげた。 人より早く学校に入り、飛び級をし、本の世界に逃避した。 学びたいという欲求がどうしようもなく強かったのだ。 やたらと質問をして、大人をうんざりさせる子どもだった。

　ティーンエイジャーになると、科学とテクノロジーに夢中になった。 アマチュア無線士になりたかったが、装置をそろえる金がなかった。 アマチュア無線は今のインターネットのようなものだ。 自分だけの世界にひきこもり、中毒におちいりやすい。 金の問題だけでなく、母に断固反対されたのだ　―　ハムなんてとんでもない、あんたはすでにじゅうぶん非社交的なんだから。

　親しい友人は多くなかったかもしれないが、アイデアはあとからあとから湧いた。 高校生になるまでに、多くの偉大なＳＦ作家と出会っていた。 とくに印象に残っているのは、ハインラインの『スターファイター』と、「ロボットエ学の三原則」が出てくるアシモフの『私はロボット』だ。 宇宙旅行の描写に魅了され、望遠鏡で星を見てみたいと思った。 買う金も作る金もなかったから、図書館で望遠鏡の製作法を調べた。 私は想像の世界に飛翔したものだ。

　毎週木曜の夜は、両親がボーリングに行き、子どもたちは留守番する習慣だった。 その晩はジーン・ロッデンペリーのオリジナル版『スター・トレック』が楽しみで、わくわくしながら見た。 私は、人類は将来、宇宙で西洋式の生活を送り、冒険に満ちた世界でヒーローが活躍するという考えを受け入れるようになった。 ロッデンペリーの新世紀へのビジョンは、カーク船長らが従う宇宙艦隊一般命令第一条に見られるように、確固とした道徳的価値に裏付けられていた。 それは、自分よりテクノロジーが未発達な文明には干渉しないというものだ。 これは非常に魅力的な価値観だった。ロボットではなく倫理的な人類が未来を制覇するのだ。ロッデンペリーの夢は私の夢になった。

　高校での得意科目は数学で、ミシガン大学の工学部に進み、数学の高等カリキュラムを取った。 数学の問題を解くのは刺激的な挑戦だったが、もっと興味深いのはコンピュータだった。 マシンに問題を解くプログラムを入力すると、すばやく解答をチェックする。 コンピュータには正しいか正しくないか、真実か誤りかについて、明確な観念がある。 自分の考えは正しいか？ コンピュータは教えてくれる。 これはひどく魅力的だった。

　幸運なことに、私は初期のスーパーコンピュータのプログラミングをする仕事につくことができ、高度な設計を数値的にシミュレートするための大型マシンの、驚異の力を発見した。 1970年代なかばにカリフォルニア大学バークレー校の大学院に進んでからは、毎晩夜遅くまでマシンのなかの新しい世界の開発に熱中し、徹夜もめずらしくない生活が続いた。 問題を解き、書かれるべきだと強く主張されたコードを書いた。

「ミケランジェロの生涯」は、アーヴィング・ストーンによるミケランジェロの伝記小説である。 ミケランジェロがいかにして「大理石の呪いを解いて」心のなかにあるイメージ通りの彫刻を作りだしたか、ストーンはいきいきと描きだしている。 私がもっとも歓喜する瞬間とは、コンピュータのソフトウェアが同じようにしてできあがったときである。 ソフトウェアはすでにマシンのなかにあり、解放されるのを待っているだけなのだ、と想像したこともある。 ソフトウェアを開放しアイデアを具体的な形にすることにくらべれば、徹夜の労力などは微々たるものだった。

　バークレーで数年学んだのち私は、パスカル・システム、UNIXユーティリティ、テキストエディタViなど自分が書いたソフトウェアを、同じような小型のPDP-11やVAXミニコンピュータを使う人間に送るようになった（20年を経てなお．viが広く使われているのには自分でも驚いてしまう）。 こうしたソフトウェアの冒険は、ついにはUNIXオペレーティングーシステムのバークレー・バージョンに結実した。 だがこれは個人的には「成功という悲劇」だった。あまりに多くの人間がバークレー・バージョンを求めてきたので、博士課程を修了することができなかったのだ。 そのかわり、バークレー・バージョンのUNIXをインターネットに移植し、信頼性を持たせ大型の研究用アプリケーションが動くようにするという、国防高等研究計画局の仕事についた。 非常に楽しく、また報われるところが多かった。 率直にいうが、どこにもロボットはいなかった。

　1980年代初頭、私は没頭していた。 UNIXのリリースが成功をおさめ、私の小さなプロジェクトの一つは金をもたらし、スタッフも集まった。 バークレーでの問題はいつでも金銭よりオフィスの狭さだった。　―　プロジェクトに必要な広さが足りなかった。 サン・マイクロシステムズの設立者の呼びかけがあったときには、私はいっしょにやるチャンスに飛びついた。 サンでは、長時間労働を続けながら、ワークステーションとパソコンの草創期に立ち会うことになった。 高度マイクロプロセッサテクノロジー、JavaやJiniといったインターネット・テクノロジーの開発に参加できたのは大きな喜びだった。

　以上の経験からも、私が反進歩主義者などでないことはおわかりいただけよう。 真理への科学的探究、物質的進歩をもたらす偉大な工学に価値があることには、つねに大きな信念をいだいてきた。 産業革命が過去二、三百年の人類の生活にもたらした向上は、はかりしれない。 自分のキャリアが、現実の問題を一つ一つ意義ある解決へとみちびくものであると考えてきた。

　そんな思いが裏切られたわけではない。 私の仕事は、自分が望む以上の影響力を持ったし、予測以上に利用されてきた。 20年以上にわたり、一貫してコンピュータに自分の理想とするレベルの信頼性を持たせようとしてきたし(まだまだ先は遠いのだが)、使い方もできるだけ簡単にしようとしてきた(信頼性の問題よりさらに達成度が低い)。 いくらかの進歩があったとはいえ、まだ問題山積なのだ。

　しかし、兵器開発のような分野の例でもわかるような、テクノロジーの使われ方をめぐる道徳的ジレンマがあるのは知っていたが、自分の研究分野でそのような問題に直面するとは思わなかったし、直面するとしても先のことだと思っていた。

　変化の渦中にいるあいだは、より大きな影響力を知るのは難しい。 あいつぐ発見と革新に有頂天になっていれば、自分たちの発明のもたらす結果は理解できない。 これは科学者や科学技術者がはまりやすい落とし穴である。 我々は、科学的探究の本質である、もっと知りたいという過剰な欲求に突き動かされてきた。 立ち止まって、より新しく強力なテクノロジーへの進歩が勝手に暴走をはじめてしまうのではないかと考えることがなかった。

　情報テクノロジーにおける大きな進歩は、コンピュータ科学者やコンピュータ設計者や電気工学者がもたらすのではなく、物理学者がもたらしたということを、私はずいぶんまえから認識していた。 1980年代初頭、物理学者ステイーヴン・ウルフラムとブロスル・ハスラチャーから、カオス理論と非線形システムを教えられた。 1990年代には、ダニー・ヒリス、生物学者スチュアート・カウフマン、ノーベル賞物理学者マレー・ゲルマンたちとの会話から、複雑系を学んだ。 つい最近は、ハスラチャーと、電気工学者にして素粒子物理学者のマーク・リードが、分子エレクトロニクスの信じがたいような可能性への洞察をあたえてくれた。

　自分自身の仕事としては、SPARC、picoJava、MAJCという三つのマイクロプロセッサーのアーキテクチャーの共同設計と、そのいくつかの実装の設計にたずさわり、その過程でムーアの法則を強く実感することができた。 何十年にもわたり、ムーアの法則は半導体テクノロジーの指数関数的な進歩を正しく予測してきた。 昨年まで私は、ムーアの法則が予測した進歩の割合は、2010年ごろまでしかつづかないだろうと思っていた。 そのころには、進歩が物理的限界に近づくからだ。 新しいテクノロジーの到来が進歩をスムーズなものにするかどうか、私にはよくわからなかった。

　だが、分子エレクトロニクスと　―　個々の原子と分子が、リソグラフ的（回路パターンをチップにプリントする技術）に描かれるトランジスタにとって代わること　―　ナノスケール・テクノロジーにおける最近の急速でラディカルな進歩によって、ムーアの法則で示される進歩のテンポもまだ30年程度は維持でき、あるいは超えてしまうかもしれない。 2030年には、今日のパソコンの百万倍も高性能のマシンが作れるかもしれない。 カーツワイルやモラヴェックの夢を実現するのに充分である。

　このとてつもないコンピュー夕の力が、物理学の応用面での進歩、そして遺伝子工学における新たな深い理解と結びついて、世界を変えるおそるべき力が解き放たれようとしている。 これらの組みあわせが良かれ悪しかれ、世界を完全に再設計する機会を提供するのだ。 自然界のなかに限られてきた複製と進化のプロセスが、今や人間の行為の領域に入りこもうとしている。

　ソフトウェアやマイクロプロセッサを設計するにあたり、私は知能のあるマシンを設計していると感じたことはない。 ソフトウェアもハードウェアももろいもので、マシンには「考える」能力などあきらかに欠如しているから、知能マシンは可能性としても遠い未来のこととしか思えなかった。

　しかし今や、約30年以内に人間レベルのコンピュータ能力が実現しそうな可能性を前にして、新しい考えが生じている。 もしかしたら私は、人類にとって代わりうるテクノロジーの構築を可能にするような道具の創造にたずさわっているのかもしれない。 私がそれをどう感じるかといえば、しごく不愉快である。 これまでずっと信頼できるソフトウェア・システムの構築に苦労してきた経験からいえば、ほかの人が想像するようにこの未来がうまくいくとは思えない。 個人的経験からみて、人間は自分の設計能力を過大評価する傾向がある。

　こうした新しいテクノロジーという驚くべき力を得た今、我々はそれとどうしたらうまく共存できるか問うべきではないだろうか？ 　テクノロジーの進歩の結果が人類の絶滅につながるとしたら、そんな可能性があるのならば、これからの歩みには細心の注意を払うべきではないのか？

　ロボットエ学の第一の夢は、知能を持ったマシンがかわりに仕事をしてくれるから、人間はエデンの園に回帰して安逸な生活が送れるというものだ。 だがこのような発想について、ジョージーダイソンは著書Darwin among the Machinesのなかで警告している。 「生命と進化というゲームにおいて、テーブルにつくのは人類、自然、機械という三人のプレーヤーだ。 私は断固、自然の側につく。 だが自然は、機械の側についているように思える。」 モラヴェックも同意している。自分たちより優れたロボットという種に出会ったら、人類は生き残れそうもないと考えているのだ。

　あとどれくらいで、このような知能のあるロボットは作られるのだろう？ コンピュータの能力の進歩からすると、2030年には可能だと思われる。 ひとたび知能のあるロボットが誕生したなら、あっという間に、より進化した自己を複製できるロボットができてしまうだろう。

　ロボット工学の第二の夢は、我々が自信を徐々にロボット工学テクノロジーに代替させ我々の意識をダウンロードすることで不死に近い状態を達成することである。 これこそ、ダニー・ヒリスが「人間は徐々に慣れていくだろう」と考え、レイ・カーツワイルが「スピリチュアル・マシン」であざやかに詳述したプロセスだ。

　だがもし我々が自分たちのテクノロジーのなかにダウンロードされるとしたら、我々が自分自身で、もしくは人間でいられる見こみはあるのだろうか？ ロボットとしての存在は、我々が理解する範囲の人間とは違う、と私は考える。 いかなる意味でもロボットは我々の子孫ではないし、この方向に進めば我々の人間性は失われてしまうだろう。

　遺伝子工学は、殺虫剤の使用を減らして穀物の生産量を増やすという、農業の革命を約束している。 何千もの新種のバクテリア、植物、ウィルス、動物を作りだし、クローン技術で生殖を不要のものにしたりおぎなったりする。 また多くの疾病の治療法を作りだし、人類の寿命を延長し、生活の質を向上させるなど、多くのことを約束している。 生物科学におけるこのような甚大な変化がすぐそこまできており、生命とは何かをめぐる我々の概念に挑戦していることは、いまではよく知られている。

　人間のクローニングのようなテクノロジーはとくに、我々が直面している深い倫理的道徳的問題への関心を喚起する。 たとえば遺伝子工学の力を使って、我々自身から複数の平等ではない種を作りだすとしたら、デモクラシーのかなめである平等という観念をおびやかすことになる。

　遺伝子工学の大きな力を考えれば、その利用に関して重要な安全性の問題があることは驚くにあたらない。 私の友人エイモリー・ロヴィンズは、ハンター・ロヴィンズと共著で、こうした危険についての生態学的見解を示す論説をあらわし、「新しい植物学は植物の発達を、生物的進化の成功ではなく経済的成功と同一視している」と書いた。 エイモリーは長年、人間が作ったシステムを全体的にとらえた上で判断できるエネルギーと資源の効率について研究してきた。 こうした全体的見地は、困難にも見える問題について、えてしてシンプルで賢明な解決法をみちびくものであり、この場合もそのような実用的な解決法が適用されている。

　ロヴィンズの論説を読んでから、ニューヨーク・タイムズ紙でグレッグ・イースターブルックの論説を目にする機会があった。 遺伝子組み換えをした穀物について論じたもので、見出しは「未来の食物〜反進歩主義者が勝利しないかぎり、米にはビタミンAが組みこまれるようになるだろう」というものだった。

　エイモリーとハンター・ロヴィンズは反進歩主義者だろうか？ そうではない。 ビタミンＡを含むゴールデン・ライスはおそらく良いものだ、という点に異論をはさむ者はないだろう。 適切な注意を払い、遺伝子に種の境界を越えさせる危険に配慮して開発されるならば、である。

　ロヴインズの論説に見られるように、遺伝子工学についてまわる危険をめぐって、懸念が広がりはじめている。 一般大衆は、遺伝子組み換え食品の存在を意識し不安を覚えており、このような食物が「遺伝子組み換え」の表示をされずに出回ることには拒否反応を示しているようだ。

　だが遺伝子工学のテクノロジーは、すでにかなりの進歩をとげている。 ロヴィンズが指摘したとおり、米国農務省はすでに約50種の遺伝子組み換え穀物の無制限な発売を許可している。 世界じゅうの大豆の過半数、トウモロコシの三分の一は、他種の生物の遺伝子が組みこまれている。

　ここにはいくつも重要な問題があるが、遺伝子工学にまつわる私のおもな関心事はよりせまいものだ。 それは、軍事目的であれ、偶然であれ、周到なテロ行為の結果であれ、そうしたテクノロジーが白死病(The white plague)を作りだすような力を持っているということだ。

　ナノテクノロジーの驚異を最初に想像したのは、ノーベル賞物理学者のリチャード・ファインマンだ。 1959年のスピーチの内容は、その後『底のほうにはまだ十二分の余地がある』というタイトルで出版された。 また1980年代なかばに私を大いにうならせた本が、エリック・ドレクスラーの『創造する機械』である。 ドレクスラーは、物質を原子レベルで操作することから豊かなユートピア的未来が生まれ、ほとんどあらゆるものが安価に作られ、どんな疾病や肉体的問題もナノテクノロジーと人工知能によって解決される世界をみごとに描いている。

　ドレクスラーは、次の共著「Unbounding the Future:the Nanotechnology Revolution」で、人類が分子レベルの「アセンブラ」を手に入れた世界で起こりうる変化を描いている。 このアセンブラにより、太陽エネルギーは信じがたいほど安価になり、人間の免疫システムが強化されて癌もふつうの風邪も治癒可能になり、環境のほぼ完璧な清浄が可能になり、極端に安価なポケット・スーパーコンピュータができる。 宇宙旅行が今日の太平洋横断旅行以上に簡単になり、絶滅種の復元が可能になる。 この世界では、アセンブラさえ使えば、木材程度のコストでどんな製品も作れるようになるのだ。

　『創造する機械』を読んでから、ナノテクノロジーに好感を抱いたことを覚えている。 この本のおかげで、科学技術者として平穏な気持ちが持てた　―　ナノテクノロジーは、途方もない進歩を可能にするのみならず、むしろ避けられないものにする、と思えたのだ。ナノテクノロジーが未来を切り開いてくれるなら、私が現時点で多くの問題を解決すべく奮闘する必要はない。 まもなくドレクスラーの描くユートピアの未来がやってくる。 今ここで、もっと人生を楽しんでもいいかもしれないのだ。 彼のビジョンに従うなら、あくせく夜遅くまで働いても意味がない。

　ドレクスラーのビジョンはまた、私に多くの楽しみをあたえてくれた。 ナノテクノロジーなど聞いたこともない人たちに、その驚異を話してまわったのだ。 ドレクスラーが描いたありとあらゆることを話して聞かせたあと、私は自分で考えた宿題を出すのである。「ナノテクノロジーを使って吸血鬼を創造すること。 解毒剤を作った人にはボーナス点をあげよう」

　驚異の裏には明らかな危険もあり、私はそのことを強く意識した。 1989年のナノテクノロジー会議で発言したように、「我々は、自分の専門分野だけに没頭して、倫理的問題から目をそむけているわけにはいかない」のである。 だが、その後物理学者たちと話しているうちに、ナノテクノロジーなどできない可能性があると確信した。 少なくとも、すぐには無理だと思った。 まもなく私はコロラドに転居し、自分が立ちあげた研究開発に取り組んだ。 仕事の中心はインターネット用ソフトウェアとなり、そこからJavaやJiniが生まれた。

　そして昨年の夏、ブロスル・ハスラチャーから、ナノスケールの分子エレクトロニクスが実用化に近づいていると聞かされた。 すくなくとも私とおそらく多くの人々にとって、それは「新しい」ニュースだった。 そして私のナノテクノロジーに対する意見は大きく変わった。 ふたたび『創造する機械』を手にとってみた。 十数年ぶりにドレクスラーの作品を読み返してみると、「危機と希望」という長い章の内容をろくに記憶していなかったことがわかり、愕然とした。 その章には、ナノテクノロジーがいかにして「破壊する機械」になりうるかという議論が出てくるのだ。 今またこの教訓とすべき素材を読み直してみると、ドレクスラーの提案する安全対策のいくつかが、いかにナイーブに見えるか、また当時の彼より現在の私ほうがいかに危機感を持っているかということに、ショックを受ける。 (ナノテクノロジーに関して多くの技術的的、政治的な問題を予期し記述したドレクスラーは、1980年代末期に「来るべき進歩したテクノロジーに対し。社会が体制をととのえる手助けをするために」フォアサイト・インステイテュートを設立した)。

　アセンブラにおけるブレイクスルーは、あと20年もすれば可能になりそうである。 分子エレクトロニクスはナノテクノロジーの新しい分野であり、個々の分子が回路の素子となる世界だ。 分子エレクトロニクスは早急に発展し、10年以内に莫大な富をもたらすにちがいない。 そしてすべてのナノテクノロジー分野が、大規模な投資の対象になるだろう。

　不幸なことに、核テクノロジーと同じく、ナノテクノロジーにおいても建設的な応用より破壊的な応用を生みだすほうがはるかに簡単である。 ナノテクノロジーには明白な軍事と、テロ両面での利用法があり、大量破壊をひき起こすナノテクノロジー装置を送りこむさい自殺的な危険をおかす必要もない。 そのような装置は、たとえば、特定の地域や遺伝子的に識別可能な人間集団だけを選択的に破壊し、作用するように作ることもできる。

　ナノテクノロジーの大きなパワーを手に入れるために魂を悪魔に売りわたすようなことをすれば、ただちに大きな危険にさらされることになる。 すべての生命が依存する生物圏を破壊することもありえるのだ。 　ドレクスラーは説明する。

　「植物」の「葉」も、もはや今日の太陽電池より効率的とはいえない。 太陽電池は生物圏をおおう実際の植物を駆逐してしまうかもしれない。 タフで雑食性の「バクテリア」が本物のバクテリアを駆逐してしまうかもしれない。 飛散する花粉のように広がり、すばやく複製し、数日のうちに生物圏を滅ぼしてしまうかもしれない。 危険なレプリケータは非常に強力で小型で、迅速に広がる可能性が高く、前もって対策を講じていなければその拡散は食い止めようがない。 今のところ我々は、ウィルスやショウジョウバエをコントロールするだけでも手いっぱいなのに。
　ナノテクノロジーの専門家のあいだでは、この脅威は「灰色ぬるぬる問題」として知られるようになった。 制御の効かなくなったレプリケータのかたまりが灰色であったりぬるぬるしたりする必要はないのだが、「グレイグー」という言葉は、生命を抹殺することのできるレプリケータであっても、ただのメヒシバ(crabgrass)よりめだたないかもしれないことを強調している。 進化という意味ではそれは優れたものかもしれないが、だからといって価値があることにはならない。
　グレイグーの脅威は、一つのことを徹底して明らかにしている。 アセンブラを複製させる上で、ある種の事故はあってはならないということだ。



　グレイグーは、地球上の人類の冒険にとっては憂鬱な終末である。 火災や氷河よりはるかに悪いうえに、些細な実験室の事故がひき起こしてしまうかもしれないのだ。やれやれ。

　何より、遺伝子工学、ナノテクノロジー、ロボットエ学（GNR）における破壊的な自己複製能力を前にして、我々は少し考えてみる必要がある。 自己複製は、細胞組織を利用して設計図を複製するという遺伝子工学の運用法であり、ナノテクノロジーにおけるグレイグー問題にひそむもっとも大きな危険である。 ボーグのような暴走するロボットが、増殖したり突然変異することによって、作った側によって課せられた倫理的束縛を逃れる、といったストーリーは、SF小説やSF映画ではすでにおなじみだ。 自己複製というものは我々が考える以上に根源的な問題なのかもしれない。 そして、それをコントロールするのは予想以上に困難か、ことによると不可能かもしれない。 最近スチュアート・カウフマンが「ネイチャー」誌に寄せた論文「自己複製Ｉベプチドだってやっている」では、32個のアミノ酸からなるペプチドが「自己合成反応を触媒」できるという発見を論じている。 この能力がどこまで広く行き渡っているのかは不明だが、カウフマンは「それは、ワトソン・クリック模型の塩基配合よりはるかに広い基盤に立った、分子システムの自己増殖への道」を示唆している可能性がある、という。

　実際、GNRテクノロジーの知識の普及にともなう危険、知識を得ただけで大量破壊をひき起こせる可能性について、我々のまわりに警告材料はもう何年来もあった。 だがこういった警告は広く公表されることはなかった。 公開の場での議論はあきらかに不適切とされてきた。 危険を宣伝してもなんの利益にもならないからだ。

　20世紀の大量破壊兵器に使われた核・生物学・化学(NBC)テクノロジーは、過去も現在も主として政府機関で開発される軍事的なものである。 まったく対照的に、21世紀のGNRテクノロジーには明白な商業目的の利用法があり、ほとんどがもっぱら民間企業によって開発されている。 この商業主義全盛の時代に、テクノロジーは科学を召使であるかのようにそそのかして、かつてない驚異的な富をもたらす魔法のような発明を次から次へと生みだしている。 我々は、今や誰も疑問をはさまない全世界的資本主義システムのもとで、多様な金銭的な誘引につられ競争のプレッシャーにさらされながら、新しいテクノロジーが約束するものをあくせく追い求めている。

　地球始まって以来はじめて、いかなる種であれ、自身の自発的な行為によって、膨大なほかの種だけでなく自己にとっても危険な存在になるという時代を迎えている。 　新たに形成された惑星が恒星のまわりをおだやかに回転する。 生命がゆっくり誕生する。 生物が複雑多彩に進化する。 ある段階までは生存のために大いに役立つ知性が発生し、そしてテクノロジーが生みだされる。 そうした現象は多くの天体で発生する、ありふれた現象かもしれない。 自然の法則というものがあること、この法則は実験によってあきらかにできること、この法則の知識はかつてないスケールで生命を救うためにも奪うためにも使えることを、彼らは理解しはじめる。 科学はとほうもない九をあたえてくれるのだ、と彼らは考える。 そしてまたたく間に、世界を変える発明を編みだしてしまう。 自分たちのたどる道を見通して、何をすべきで何をすべきでないかの境界をもうけ、難局を乗り越えることに成功する惑星文明もあるだろう。 だが、そこまで幸運でも賢明でもない文明は、滅びてしまう。


　これは、宇宙における人類の未来を描いたカール・セーガン1994年の著作『惑星へ』の一節だ。 その洞察力の深さもあの声も、今さらながら惜しまれる。 雄弁ではあったが、とりわけセーガンがあたえてくれたのは素朴な常識だった　―　それは謙虚さとともに、21世紀のテクノロジーを主導するエリート科学者の多くに欠けているように思われる美徳だ。

　子どものころ、祖母が抗生物質の使いすぎに強く反対していたことを覚えている。 祖母は第一次世界大戦のまえから看護婦として働き、どうしても必要でないかぎりは、抗生物質は体に良くないという常識的な態度をとっていた。 祖母はけっして進歩を否定する人間ではなかった。 70年におよぷキャリアのなかで、大胆な進歩を経験していたし、糖尿病患者だった祖父は存命中に改良されて実用化された治療法によって大いに恩恵を受けた。 だが祖母が生きていたら、分別ある多くの人たちと同じように、現在行われているロボット的「代替種」の設計などは不遜な行為だと思うだろう。 我々は比較的単純な物事を働かせるにも苦労し、自分たち自身を管理し、または理解することさえ満足にできていないのだから。

　今となると、祖母は生命の秩序、その秩序を尊重しながら生きていく必要性に気づいていたのかもしれない、と私は思う。 この秩序を尊重する気持ちが謙虚さをもたらすのだが、21世紀前半の厚顔無恥に染まっている我々は、危機に直面しているというのに、その謙虚な気持ちを忘れている。 このような立場を踏まえてみると、常識的見解というものはおうおうにして正しく、科学的な証明はあとから明らかになることも多い。 人類が築いたシステムの明らかな脆弱さや非効率性を前にして我々はみな考える必要がある。 自分が取り組んできたシステムの脆弱さを考えただけでも、私は謙虚にならざるをえない。

　最初の原子爆弾とそれに続く軍拡競争から、我々は教訓を学ぶべきだった。 当時も人類はうまくやれなかったが、それに酷似した現在の状況も懸念される。

　原子爆弾第一号の製造は、優秀な物理学者Ｊ・ロバート・オッペンハイマーが指揮した。 彼はもともと政治には興味がなかったが、西洋文明が第三帝国からの深刻な脅威にさらされていると考えるようになった。 ヒトラーが核兵器を持つ可能性があり、なるほど事態は深刻だった。 この懸念に突き動かされ、オッペンハイマーはロスアラモスで高度な知性、物理への情熱、カリスマ的なリーダーシップを発揮した。

桁はずれの知性を集中的に動員したおかげで、爆弾の開発は迅速に進み、成功した。

　衝撃的なのは、当初の脅威が取り除かれたのちにもこの活動がつづいたということだ。 ヨーロッパの勝利の日のあとすぐ、彼は、原爆製造は中止すべきだと考える物理学者たちと会合を持ち、継続すべきだという自説を展開した。 その理由はやや奇妙だ。日本侵攻が大量の死傷者をもたらすことを懸念したゆえにではなく、まもなく結成される国際連合が核兵器についてあらかじめ知っておくべきだから、というものだった。 だがプロジェクト続行の真の理由は、すでにはずみのついた勢いが止まらないからではなかったのか　―　最初の原爆実験「トリニティ」の実行日が迫っていた。

　この最初の核実験の準備にあたり、物理学者たちが幾多の危険を無視して開発を進めたことを我々は知っている。 彼らは最初、エドワード・テラーの計算にもとづき、核爆発が大気そのものに火をつけてしまうことを危惧していた。 計算法を修正した結果、地球破壊の危険性は百万分の三にまで減少した(テラーは、のちには大気圏の炎上の危険性は完全に無視できるようになったと語る)。 だがオッペンハイマーはトリニティ実験の結果を憂慮し、ニューメキシコ州南西部の避難計画を立てていた。 そしてもちろん、核軍備競争が始まる危険性もあった。

　初の核実験が成功をおさめてから一月たたないうちに、二つの原子爆弾が広島と長崎を破壊した。 なかには、原爆は日本の都市に落としたりせず公開実験で降伏をうながすべきだと提案する物理学者もいた。 そうすれば、戦後の兵器の規制にとっておおいに益になるという意見だったが、結局通らなかった。 アメリカ人にはパールーハーバーの悲劇の記憶が生々しく、トルーマン大統領にとって、原子爆弾を投下せず公開実験だけにせよと命令するのは難しかった　―　戦争の終結が急がれていたし、日本侵攻による犠牲者を出したくないという気持ちも強かった。 それでも、決定的な真相は恐らく極単純なものだった。 物理学者フリーマン・ダイソンはのちにこう語った。 「それが投下された理由は、ノーといえるだけの勇気や先見の明の持ち主が一人もいなかったというだけのことだ」

1945年8日6日、広島に原子爆弾が投下された結果に物理学者達がどれほどショックを受けたか、ぜひとも理解しなければならない。 彼らは一連の感情のうねりを、こう説明した。 まず爆弾が成功したという達成感、ついで多数の死者を出したことに対する恐怖、そしていかなる理由があろうとも、もう爆弾を投下してはならないという確信だ。 だが周知のとおり長崎に、ふたたび爆弾は投下された。 広島への投下からわずか3日後のことである。

　1945年11月、原爆投下から三ヵ月後、オッペンハイマーは科学的信念にささえられ、断固として立ちあがった。 「世界についての知識およびそれがもたらす力は人間性にとって本質的に有益である、と信じることができ、知識の普及につとめ、その結果に責任を負う覚悟なくして、科学者たりえない」

　オッペンハイマーは、アチソン・リリエンタール報告作りの共同作業に取り組んだ。 リチャード・ローズは最近の著作Visions Of Technologyのなかで報告について、「武装した世界政府という手段にうったえることなく、秘密裏に核軍備競争がおこなわれることを防ぐ方法を見出した」と言及している。 彼らの提言は、国民国家は核兵器にまつわる一切を放棄し、国際機関の管理にゆだねるべきだというものだった。

　この提言はバルーク案につながり、案は1946年6月、国連に提出されたが、採択されることはなかった(ローズもいうように、「いずれにせよスターリン政権のソ連が拒否するのは目に見えていた」が、バーナード・バルークが「制裁規定を盛りこむことにこだわった」ことが、おそらくは採択されなかった理由だろう)。 ほかにも軍拡競争を防ぐための国際管理に向けての理性的な努力は行なわれたが、アメリカの政治力学や、国内の不信ないしはソ連側の不信のいずれかが原因で、実を結ばなかった。 核兵器競争を回避する機会は、あっというまに失われた。

　その2年後の1948年、オッペンハイマーは新たな思考の段階に入ったらしい。 「いくら俗っぽい言い方をしようが、ユーモアや誇張で飾ろうが、打ち消すことができないそのままの意味において、物理学者は罪を知ってしまった　―　そしてそれは、けっして失ってはならない認識である」

　1949年、ソ連が原子爆弾を一つ爆発させた。 1955年までには、米ソ両国が空爆にも使える水爆の実験を実施していた。 核軍拡競争の幕開けである。

　20年ほどまえ、ドキュメンタリー番組The Day After Trinityのなかでフリーマン・タイソンは、我々を核の危機に導いた科学的態度について要約している。

　「私もそれを感じたことがある。 核兵器の輝きを。 科学者として、その誘惑に勝てるものではない。 今この手にそれがあり、恒星を輝かせるこのエネルギーを解放できる、命じるままのことをさせられる。 このような奇跡を起こし、100万トンの岩を空に持ちあげることができる　―　これは人々に無限の力という幻想を見せるものだ。そしてある意味で、我々のかかえるすべての問題の原因でもある　―　 これを技術的傲慢さと呼ぶ人もあるだろうが、自分の知性でしたいことができると思ったとき、人間はその誘惑に屈するものだ」

　そして現在、当時と同じように、我々科学技術者は新しいテクノロジーを創造し、夢に描く未来のスターだ　―　だが、その原動力は金銭的な報酬とグローバルな競争である　―　その未来にはさまざまな危険があるにもかかわらず、自分たちが創造しかつ想像していることの現実的な帰結として導かれる世界に暮らすのがどういうことなのか、ろくに評価も行なわないのだ。

　ブレティン・オブ・ジ・アトミックーサイエンティスツ誌は1947年から、表紙に終末時計を掲載している。 50年以上にわたり、同誌は人類が直面する核の危機に対する評価を、国際情勢の変化を反映しながら、下してきた。 時計の針は15回動き、いまは地球滅亡まであと9分の位置をさしている。 核兵器による危機が持続しているということだ。 近年インドとパキスタンが核保有国リストに加わったため、核拡散防止の目標達成が頓挫する懸念が増加した。 この危機を反映して、1998年、針はまた地球滅亡の目盛りに近づけられた。

　いま現在、我々が直面する危険　―　核兵器だけでなく、ここまで述べてきたすべてのテクノロジーによる危険はどれだけ深刻なのだろう？ 人類絶滅の危険性はどれくらいなのか？

　哲学者ジョン・レスリーはこの疑問を研究し、人類絶滅の危険性は少なくとも30%であるという結論を出した。 一方レイ・カーツワイルは、我々には「五分五分以上の切り抜ける見こみがある」と信じている。 「自分はいつも楽観主義者だといって非難されてきたが」という但し書きつきだ。 これらの判断は人々を勇気づけるものではないが、それも、絶滅にはいたらないまでも、多くの恐ろしい結果がひき起こされる可能性にまでふれてはいないのだ。

　このような予測を突きつけられて、真剣な人々はすでにできるだけ早く地球を脱出するべきだと言いだしている。 フォン・ノイマン探査機を使って星系から星系へと植民していけばいいという意見だ。 この探査機は宇宙を転々とし、自己複製していく。 ともかく50億年後には、この手段をとることが必要になるだろう(30億年以内に起こるとされる、我々の銀河系とアンドロメダ銀河の衝突により太陽系が壊滅的な影響を受けることとなれば、その時期はさらにはやまる)。 だが、カーツワイルとモラヴェックの言葉を信じるならば、地球脱出は今世紀なかばのことになるかもしれない。

　この問題が示唆する道徳的意味とは何だろうか？ 種の存続のためにそんなにもはやく地球を脱出しなければならないのなら、残される者(結局、大半の人類は残るはめになるだろう)に対する責任は誰がとるのか？ 我々がさまざまな星に分散したとしても、問題は解決したわけではない　―　結局、自分たちが現在かかえている問題をそのまま持ちこむか、あるいはそうした問題がついてきたことに、あとになって気づくだけではないのか？ 地球上の人類の運命と、銀河系での人類の運命は、わかちがたく結びついているのだ。

　もう一つの対策として、危険なテクノロジーに対する防御物を構築するというものがある。 レーガン政権が提唱した戦略防衛構想は、ソ連からの核攻撃に応じる多層防衛システムの構築をめざしたものである。 だがこのプロジェクトについて、内々に関与していたアーサー・Ｃ・クラークはつぎのような意見だった。 「莫大な資金を投入すれば、弾道ミサイルの『わずか』数パーセントしか通さない局地的な防衛システムを構築することはできるかもしれない。 だが、さかんに宣伝された国全体をおおう傘という発想は馬鹿げている。 おそらく今世紀最高の実験物理学者であるルイス・アルヴァレスは、このような非現実的な計画を提唱するのは、『頭はひどく切れるが常識のない連中だ』と述べていた」

　クラークはつづける。「ともすれば曇りがちな私の占いの水晶玉をのぞいてみると、一世紀ほど時間をかければ全体的な防衛が可能になるかもしれない。 だが防衛にかかわるテクノロジーは、副産物として恐ろしい武器を作りだし、その結果、誰も弾道ミサイルのような『原始的な』武器に注意を払わなくなるだろう」

　エリック・ドレクスラーは『創造する機械』で、人類は生物圏における一種の免疫システムとして、ナノテクノロジーの「能動的障壁」を作り、研究所から洩れだしかねないものや、悪意を持って作られるものなど、あらゆる種類の危険なレプリケータの被害に備えるべきだと提案している。 だが彼が提案したシールド自体が非常に危険ものでありうるのだ。 そのシールドが自己防衛の問題を発生させ生物圏を攻撃するようになっても、防ぐ手段はない。

　ロボットエ学と遺伝子工学のシールドを構築するさいにも、同種の困難が考えられる。 この二つのテクノロジーは、我々が関心を持つ時間枠のなかで防御するには、あまりに強すぎるのだ。 防衛シールドを配備することが可能だったとしても、開発は副作用として、現に防ごうとしているテクノロジーと同じ程度に危険なものを生みだすだろう。

　このような可能性はすべからく望ましくないか、達成不可能か、あるいはその両方である。 私が見るところ、唯一現実的な選択は放棄である。 ある種の知識の追求を制限することにより、あまりに危険なテクノロジーの開発を制限するのだ。

　そう、知識も新たな真理の探究も、良きものであることは承知の上だ。 古代から人間は知識を追い求めてきた。 アリストテレスは『形而上学』をシンプルな言葉で始めている。 「すべての人間は生まれつき、知りたがるものだ」 社会の基盤をなす価値として、我々はながらく情報への開かれたアクセスに賛同してきた。 知識へのアクセスと開発を制限しようとすれば問題が生じることもまたわかっている。 近年科学的知識は、大いに評価されるようになっているのだ。

　だが歴史的に根強い先例があるとはいえ、もしも知識への開かれたアクセスと無制限な開発があきらかに人類を絶滅の危機へとみちびくものならば、こういった長らく維持してきた基本的な信条であっても、それを再検討するよう常識が求めるのではないか。

　19世紀末、ニーチェは神が死んだというだけではなく、こう警告している。 「科学への信仰は、結局のところ疑いようもなく存在しているが、その根拠を有用性という尺度に帰することはできない。その根拠は、『真理への意志』、『いかなる犠牲を払っても真理を』というやり方が、非生産的で危険であることがたえず証明されているにもかかわらず生じたものなのだ」 現在我々が直面しているのは、さらなる危険　―　我々の真理の追求の結果もたらされた危険である。 科学が追求する真理とは、我々を絶滅に導きかねないものとして、たしかに神に代わる危険な存在と見なすことができる。

　もし我々が一つの「種」として、自分たちが望むこと、めざすところ、その理由について合意できるなら、未来を危険の少ないものにすることができるだろう　―　そして、自分たちが何を放棄でき、何を放棄すべきかを理解できるかもしれない。 さもなければ、二十世紀のNBCテクノロジー同様、GNRテクノロジーをめぐる軍拡競争が激化するのは目に見えている。 これは最大の危険をともなうだろう。 いったんこのような競争が始まると、終わらせるのは至難の業だからだ。 しかも今回は、マンハツタン計画のときとはことなり、我々は戦争をしているわけでもなければ、文明をおびやかす不倶戴天の敵に直面しているわけでもない。 我々は我々自身の習慣、欲望、経済システムおよび競争心に動かされた知識欲に駆り立てられているだけだ。

　我々の未来が人類すべてが持つ価値や倫理や道徳にのっとったものになればいいのに、と誰もがそう望んでいるだろう。 過去数千年のあいだにもっと英知を築いてきたなら、危険を回避するための対話はもっと現実的なものになっただろうし、これから我々が解き放とうとする信じがたいほどの力はこれほど問題の多いものにはならなかっただろう。

　こうした対話なら、自己保存の本能に駆られて自然に向かうものだと思う人もいるだろう。 たしかに個々の人間はそうした気持ちを持っているが、種としては、人類の行動は自分たちを益するためにはなっていないように見える。 核の脅威を問題にするとき、我々は自分にも他人にも嘘をつきがちで、その結果大きな危険を招いてしまう。 これが、政治的な動機によるものなのか、先のことを考えたがらない性向によるものなのか、深刻な危機に直面すると恐怖にすくんで合理的な思考を放棄してしまうためなのか、私にはわからない。 ともかく、これは良い兆候ではない。

　遺伝子工学、ナノテクノロジー、ロボットエ学という新たなパンドラの箱が、今まさに開こうとしているのに、我々はことの重大さをわかっていない。 いったん発想してしまったことは、箱にもどすことはできない。 ウラニウムやプルトニウムと異なり、それらは採取したり精製したりする必要がなく、自由にコピーできてしまう。 いったん外に出たら、とりかえしがつかない。チャーチルがいやみたっぷりにいった、有名なお世辞がある。アメリカ国民とそのリーダーたちは「まちがいなく正しいことをする。あらゆるほかの選択肢をためしたあとならば」。 だが現在の状況においては、もっと先見性をもって行動しなくてはならない。 何度も選択をあやまるようなことがあったら、最後に正しいことをするのも不可能なのだから。

　ソローは「我々は鉄道に乗っているのではない。鉄道が我々に乗っているのだ」といった。 これは、我々が現在戦わなければならない状況そのものである。 問題は、どちらが主人となるのか、我々はテクノロジーを乗り越えて生き延びることができるのか、ということだ。

　計画も制御もブレーキもなしに、我々は新しい世紀に進んできてしまった。 進路を変更するには、もはや手遅れなのか？ 私はそうは思わない。 だが、まだ我々は進路変更をこころみていない。 そして、制御を回復する最後のチャンス、すなわち安全を確保できるかどうかの分岐点は、急速に近づいている。 ペットロボット第一号も、商業的に利用できる遺伝子工学の技術も実現し、ナノスケールの技術はめざましい進歩をとげている。 これらのテクノロジーの発達はいくつもの段階を経るものだが、マンハツタン計画やトリニティ実験の場合とことなり、テクノロジーを検証する最後の段階が大規模で困難であるとはかぎらない。 GNRテクノロジーにおいては、暴走する自己複製への飛躍的な前進は、突然生じるかもしれない。 そして、哺乳類のクローン技術について聞いたときのような驚きを呼ぶかもしれない。

　それでもなお、我々には希望を持ってよい確固たる基盤があると私は信じている。 20世紀の大量破壊兵器への取り組みは、放棄の例として考慮に値する輝かしいものだ。 アメリカは前提条件なしで、一方的に生物兵器開発を放棄した。 こういった恐ろしい兵器を作りだすのには多大な努力が必要だとはいえ、いったんできてしまえば簡単に同じものを作ることができ、ならず者国家やテロリスト集団の手に落ちるかもしれないと認識したことから、放棄が実施されたのだ。

　結論としてあきらかなことは、こういった兵器の開発を追求すれば我々はますます危険にさらされ、追求しなければ我々はより安全になるということだ。1972年の生物兵器禁止条約(BWC)と1993年の化学兵器禁止条約(CWC)において、生物化学兵器の放棄が実現した。

　人類は50年以上も、核兵器の大きな脅威にさらされてきた。 アメリカの上院が包括的核実験禁止条約への批准を拒否したことからも、核兵器の放棄が政治的には決して容易でないことがわかる。 だが冷戦の終結により、我々は多極的な軍拡競争を回避するという絶好の機会にめぐまれている。 BWC,CWCによる兵器の放棄を基盤として核兵器の廃絶が成功したならば、危険なテクノロジーを放棄する方向への布石を敷くことができるかもしれない(世界全体で100個を残して　―　第二次世界大戦時の破壊力の総体に匹敵する量だが、これなら達成可能な目標である　―　核兵器を放棄するというのは、人類絶滅の危険の回避にもつながる)。

　放棄を検証するのは困難であるが、解決不可能な問題ではない。BWCや多数の条約で、人類はそれに匹敵する任務をなしとげてきたのだ。 我々の主要な任務とは、このことを、軍事よりはるかに商業的な性格を持つテクノロジーに適用することである。 ここでぜひとも必要とされるのは、透明性である。 検証の困難さは、放棄された活動と合法的な活動を識別する困難さと比例するからだ。

　率直にいって、私は1945年の状況は現在の状況よりはるかに単純だったと考える。 核テクノロジーは商業的利用と軍事的利用に明確にわかれていたし、核実験の性質上、監視は可能であり、放射能は計測が容易だった。 軍事面への応用の研究は、ロスアラモス研究所のような国立機関で行なわれ、結果は可能な限りいつまでも秘密にしておくことができた。

　GNRテクノロジーの応用は、商業目的と軍事目的とに明確に二分することができない。 市場での利用の可能性があるため、国立研究機関だけで研究されるとも考えがたい。 商業目的の研究が広がっているため、放棄を実施するには生物兵器の放棄と同じ程度の検証形態が必要となるが、その規模は前例のないほど大きいものになるだろう。 不可避的に、個人のプライバシー、独占的な情報に関する欲求、そして我々全員を保護するための検証の必要性とのあいだで、緊張関係が生じるだろう。 プライバシーと行動の自由が失われることには、強い抵抗があることも必至である。

　ある種のGNRテクノロジーの放棄の検証は、現実の施設だけでなくサイバースペースでも行なわなければならなくなるだろう。 最重要課題は、財産権のある情報の世界でも受け入れられるような透明性を確保することだ。 そのためにはおそらく、知的所有財産に対する新しい形の保護が提供されるだろう。

　検証の遵守には以下の条件も必要だ。 科学者や技術者がヒポクラテスの誓いのような強い倫理規範を持ち、たとえ個人的な犠牲を払っても活動を断念する勇気を持つことだ。 これは、マンハツタン計画のメンバーの現存する最高齢者であるノーベル物理賞学者ハンス・ベーテが、広島後50年にして行なった呼びかけへの、答えとなる。 ベーテは言った。すべての科学者は「核兵器をはじめとする大量破壊の潜在力を持つ兵器の創造、開発、改良、製造を、ことごとく断念すべきである」 21世紀にこの呼びかけに答えるには、NBCテクノロジーとGNRテクノロジーにたずさわる人々に対して、大量破壊兵器の使用や、知識により可能になる大量破壊を避けるために、絶えざる警戒と個人的な責任を求めることになる。

　ソローはこうも語っている。 人間は「なくてもすまされるものが多いほど、豊かである」。 我々は皆、幸福を求めているが、知識と物をさらに得るために全面的な破壊への高いリスクをおかす必要があるかどうか、自問する価値があるだろう。 常識で考えれば、物質的に必要なものには限度があり、ある種の知識はあまりに危険なので知らないに越したことはない。

　コストや人類絶滅の危機がそれに比例して増大していくことを考慮せずに、不死を追求するべきではない。 不老不死はおそらくユートピアの原型であるかもしれないが、これだけが可能なユートピアの夢では断じてないのだ。

　最近、傑出した作家にして学者のジャック・アタリと面会する幸運にめぐまれた。 私はアタリのLignes d'horizons (英題はMillennium)を読んだおかげで、コンピュータ社会に対応できるJavaやJiniというアプローチを考えることができたのだ。 彼の新著『反グローバリズム』は、我々のユートピアヘの夢が時代の変遷とともに変わったことを記述している。

　「社会の黎明期には、人間にとっての地上の道とは難儀な迷路でしかなかった。 その終点には、死という扉があり、それを通り抜ければ神との一体化と『永久不滅』に到達できるとされていた。 まずヘブライ入、ついでギリシヤ人が登場すると、宗枚のくびきから逃れる者があらわれ、「自由」を謳歌する理想の都市を夢見た。 市場社会の発展に着目した者たちは、一部の人間が自由になれば、ほかの人間が疎外されることを認識し、「平等」を求めた」


　アタリの説明で、現在の社会でこれら三つのことなるユートピアの目標が緊張関係にあることがわかった。 同著で彼は、愛他主義を基本とする第四のユートピア、「博愛」を描きだす。 博愛だけが、互いの自立を損なうことなく、自分の幸福と他人の幸福を両立させる道なのだ。

　こう理解したおかげで、カーツワイルの夢に対して私が感じた違和感の正体があきらかになった。 ロボットエ学を通じた不死という、テクノロジーからの永遠へのアプローチは、もっとも望ましいユートピアではないだろうし、不死の追求は必ず危機をもたらす。 我々は、ユートピアの選択について考え直すべきだろう。

　進むべき道を決めるにあたり、どこに新しい倫理的基盤を求めればいいのだろう？ ダライ・ラマの著した『幸福論』に、大変参考になる発想が見られる。 ダライ・ラマは、人生にとって最も大切なことは、他者への愛と慈悲の心をもって行動することであり、普遍的な責任感という考え、そして我々が相互依存関係にあるという考えを育んでいくことだ、と説いている。 よく知られていながら、おろそかにされがちな考え方だ。 アタリの博愛ユートピアと一致する、個人と社会の建設的な倫理規範を提案しているのだ。

　さらにダライ・ラマは、何が人間を幸福にするかを理解し、物質的な進歩や知識の力の追求が解決にはならないという強力な証拠があることを理解せよ、と説く。 科学や科学的探究だけでなしとげられることには限界がある、ということだ。

　我々の西洋における幸福の概念は、「見通しを与えてくれる人生に、より良い方向で生命力を発揮すること」というギリシヤ人の観念から来ているのだろう。

　来るべき社会で幸福をめざすのなら、我々は人生において、意義のある挑戦と充分な見通しを見いだす必要がある。 だが、我々の創造的な力のためには、永続的な経済成長を良しとする文化を超越した別のはけ囗を見つけるべきである。 経済的成長はここ数百年にわたりおおむね良きものであったが、純然たる幸福をもたらしはしなかった。 我々は今、科学とテクノロジーによる無制限で予測不能の成長を追求するか、それとも、それにともなう明白な危険に備えるか、いずれかを選択するときを迎えている。

　レイ・カーツワイル、ジョン・サールとの出会いからすでに一年が過ぎた。 警告と放棄を求める声のなかに、そして私同様現在の苦境を憂慮する人間のあいだに、希望の芽生えが感じられる。 私自身もまた、すでに行なってきた仕事に対してではなく、今後科学の合流地点でするかもしれない仕事に対して、より強い責任感を自覚する。

　それなのに、少なからぬ人間が、危険について知っているにもかかわらず、奇妙な沈黙を守っている。 彼らは問い詰められれば、「これは新しいことではない」というお決まりの返事をする。 起こりうることを知っていさえすれば、充分だとでもいうように。 そして言う。大学には、フルタイムでこの問題に取り組んでいる生物倫理学者が山ほどいる。 これまでさんざん専門家も書いてきた。 懸念も議論もすでに時代遅れなのだ、と。

　こうした人々が、不安をどこに隠しているのかは知らない。 私は複雑なシステムの設計者なので、この分野にはゼネラリストとして入ってきた。 だからといって、私の関心が衰えることがあるだろうか？

　私は、どれだけのことが書かれ、討論され、権威をもって講演されてきたか知っている。 だがこれは、人々の耳に届いたことになるだろうか？ 眼前に迫った危険を割り引いて考えることができるのだろうか？

　知るということは、行動しないことの説明にはならない。 知識が、我々が自らを傷つけるためにふるう武器となったことを疑うことができるだろうか？

　原子科学者たちの経験から、個人個人が責任をとることの必要性、物事の進行が速すぎる危険性、プロセスが一人歩きしてしまうこと、などがよくわかる。 原子科学者たちと同じように、我々もあっというまに克服不能の問題を作りだしてしまいかねない。 自分たちの発明から彼らと同じような驚愕やショックを受けずにいられるためには、前もってよく考えておかなくてはならない。

　私はこれからもソフトウェアの信頼性の改良に取り組んでいく。 ソフトウェアは道具であり、道具の設計者として、私は自分の道具がどのように使われるかということに心をくだかなければならない。 これまでつねに、ソフトウェアの信頼性を高め、多くの用途に適応できるようにすれば、世界はより安全で良い場所になると信じてきた。 もし逆の考えを持つようになったなら、私にはこの仕事を打ち切る道徳的義務が生じる。 今となると、そんな日の到来も想像できる。

　こうしてみると、怒りは感じないものの、いささか憂鬱になってくる。 今後私にとって進歩は多かれすくなかれ、ほろ苦いものになろう。

　映画『マンハッタン』で、ウディ・アレンがソファーに寝そべってテープレコーダーに吹きこみをする、終盤近くのすばらしいシーンを覚えているだろうか？ アレンは短篇小説の執筆中だ。登場人物たちは、どうでもいい神経症的な問題をみずから作りだしている。 なぜなら、そうしていれば、宇宙にかかわるもっと解決困難で恐ろしい問題から目をそらせていることができるからだ。

　アレンはつぎのような問いに行き着く。 「なぜ人生には価値があるのか？」 そして、自分にとって価値あるものを数えだす。 グルーチョ・マルクス、ウィリー・メイズ、交響曲「ジュピター」の第二楽章、ルイーアームストロングの「ポテトヘッド・ブルース」、スウェーデン映画、フローベールの『感情教育』、セザンヌの描くリンゴや洋ナシ、サム・ウーのレストランのカニ料理、そして最後にクライマックスが来る。 愛するトレーシーの顔が浮かぶのだ。

　人には誰しも大切なものがあり、それを愛することで、自分の人間性の本質を確認する。 結論をいえば、いま我々が直面している危険な問題に関して私が楽観していられるのは、この大いなる愛ゆえである。

　目下の私の一番の望みは、ここで提起した問題について、多岐にわたるバックグラウンドをもった人々とともに、もっと大がかりな論議をおこなうことだ。 テクノロジー側の観点からそれを恐れたり、ひいき目に見たりするよう仕向けられたものではない、公平な舞台が必要だ。

　その手はじめに、私はこれらの問題をアスペン・インスティテュート主催のイベントで二回提起した。 またアメリカ芸術科学アカデミーに、パグウォッシュ会議でこれらの問題を取りあげるよう提案した(パグウォッシュ会議は、1957年以来、核兵器を主とする軍縮および実行性のある方策を計画するために開かれている)。

　パグウォッシュ会議のスタートが、核の精霊が瓶から出るのにまにあわなかったのは、なんとも残念なことだ　―　十五年ばかり遅すぎた。 知識が可能にする大量破壊の防止という、21世紀のテクノロジーをとりまく問題を真剣に提示することにも、すでに遅れをとっている。 だがこれ以上の遅延は許されない。

　だから私はいまだに探求しつづけている。 まだまだ学ぶべきことがある。 成功するか失敗するか、生き残れるかそれともこれらのテクノロジーの犠牲になるか、まだ決まったわけではない。 また徹夜してしまった　―　もうすぐ朝の六時だ。 私はより良き答えを探している。 魔法を解き、大理石からそれを解き放つために。