「AIと共に創る未来（後編）」出口康夫 - スマートニュースメディア研究所 SmartNews Media Research Institute

AIを対等な仲間とする「共冒険者モデル」

人間とAIやロボットのあるべき関係のモデルとして、現在EUやUKで提案され、法制化されつつあるのが「主人/奴隷モデル」である。このモデルは、アリストテレスの「奴隷とは魂がある道具。道具は魂のない奴隷」という言葉を踏まえ、人間を「主人」、AIやロボットを「奴隷」、即ち「魂のない道具」として位置付けたものだ。

このように「主人/奴隷モデル」はAIを人間の利害や価値観に一方的に奉仕するものと見なし、一方的・片務的な奉仕/被奉仕をAIと人間との間の「あるべき関係」としている。

このような「主人/奴隷モデル」は、「できること」を基礎とする人間観、特に個人は少なくとも重要な行為ー例えばライフイベントに当たっての選択ーを単独で行うことができ、また行なわねばならないという考えに立っていると言える。その上で、このような単独決定性、単独決定権に人間の尊厳を見出し、AIがそのような決定に人間と同等の資格で関与することを人間の尊厳に対する重要な侵害だと捉えるのである。

一方、「できること」ではなく「できなさ」に基軸を置くWEターンからは、「主人/奴隷モデル」とは全く異なるオルタナティブ、「共冒険者（フェローシップ）モデル」が導かれる。単独行為不可能性を前提とするWEターンの立場に立てば、すべての行為は共同行為、すべての決定は共同決定だとされる。AIであれ何であれ、人間の行為や決定に関与しているすべての存在者は、人間によって一方的に用いられている道具ではなく、人間の行為や決定に必要不可欠のエージェントという（原理的には）人間と同等の資格で参画している共同行為者、共同決定者と見なされるのである。

行為はつねに失敗する危険性を抱えた営み、すなわち「冒険」である。原理的に平等な資格で冒険に参加する人間とAIは互いに共冒険者の間柄にある。共冒険者同士の間には、主人と奴隷の間のような利益や価値観に関する一方的な奉仕/被奉仕関係ではなく、（権利や道徳的配慮に関する程度やモードの違いはあったとしても）原理的には最低限の平等性や双方向性が担保された関係が成り立つべきである。人間とAIの間にそのような関係を設定するのが「共冒険者モデル」なのである。

主人/奴隷モデルではドラえもんは生まれない

いま、AIやロボットの研究開発は国内外で盛んに行なわれている。中でも理化学研究所が取り組んでいるのがガーディアンロボット・プロジェクトだ。そこでは、ベッドルームやダイニングルームといった生活空間で、例えば、要介護者や高齢者や子供をガード（守護/保護/後見）するガーディアン（守護者/保護者/後見人）としてのロボットの開発が進められている。このようなガーディアンという役割規定は、場合によっては、AIが人間と同等かそれ以上の主導権を持つことを含意している可能性がある。その場合、このようなロボットは「主人/奴隷モデル」では非倫理的だとして許容されないことになる。一方、ガーディアンロボットは「共冒険者モデル」と極めて親和的な存在である。「主人/奴隷モデル」をとるか「共冒険者モデル」をとるかによって、ガーディアンロボット・プロジェクトに対する評価が大きく変わってくる可能性もあるのである。

また、「主人/奴隷モデル」では、ロボットやAIが子供の学びをサポートするのはOKだとしても、前者が後者を「教える」という関係性は許されないだろう。両者が互いに「教え合う」という関係も同様である。例えば、ドラえもんとのび太が友人同士として互いに様々なことを教え合うという事態は、「主人/奴隷モデル」に言わせれば、のび太の人間としての尊厳の侵害とされてしまうのである。

さらに、人間同士のリーダーシップのあり方の一つとして、近年「アジャイルリーダーシップ」というアイディアが提唱されている。例えば、一つのボールが円陣を組んだ人の手から手へと渡されていくように、リーダーシップが誰か一人の手に握られ続けるのではなく、アジャイル（機敏）に人々の間を動き回っている事態を表す概念である。

だが、もしこの円陣の中にロボットAIが紛れ込んでいて、一時的であったとしてもリーダーシップを握った場合、「主人/奴隷モデル」では人間の尊厳の侵害が発生したとされるだろう。一方、「共冒険者モデル」では、そのような事態は何の問題もないと見なされる。

このようにどのモデルを用いるかで、ロボットの開発やその運用の在り方はかなり異なってくるのである。

21世紀こそ価値の「多層化」を

21世紀中葉に向け、世界はより一層、多様化、多元化を進めるべきである。そのためには、価値のボキャブラリーをなるべくリッチにし、選択肢を増やしておくことが必要である。20世紀から21世紀の前半にかけては、18世紀の西ヨーロッパの啓蒙主義がグローバルデファクトスタンダートの価値観として君臨してきた。啓蒙主義を否定するのではなく、それに過度に一元化されない多元的な価値システムを構築すべき時に来ている。

このような状況認識の下、私は価値の多様性をより深化させたバージョン、いわば「多様性2.0 」として「価値の多層化」を標榜している。

多様な社会とは、異なったアイデンティティを持った人々が混在し「混生」する場だ。しかし、そのような社会が表象される場合、個々人のアイデンティティや価値観は一つで、単色で表現できると想定されているケースもあるだろう。様々な色をした単色のボールが集積しているイメージだ。それに対して私は、個々人のアイデンティティや価値観も実は単一ではなく、様々な異なったアイデンティティが、時に矛盾や対立を孕みつつ、多層的に共存していると考えている。個人は単色ではなく、複数の色が層をなしているボールであり、社会は様々な色の異なった組み合わせからなる多層的なボールの寄せ集めに相当する。このようなイメージで表象されるのが価値多層社会である。

WEは多層的なアイデンティティを有する。社会や文化においても、様々なアイデンティティや価値観が多層的に集積している。我々が目指すのは、このような価値多層性に対してよりフェースフルな社会、様々な価値のオプションがアジャイルに選択できる社会だ。そしてそれは、AIロボットと人間の関係にも言える。我々は「主人/奴隷モデル」や「共冒険者モデル」を含めた、複数の異なったモデルが併存する社会を目指すべきなのである。