RELATED CONTENT関連コンテンツ
「AIと共に創る未来（前編）」出口康夫
2025.01.15
筆者は近年、「社会に向けて具体的な価値を提案する」というスタイルの哲学研究を試みている。その一環として、「AIと人間の間のあるべき関係」を、筆者が提唱する「WEターン」という観点から問うというテーマにも取り組んでいる。
この問いを問うことは「AIとは何か」を問うことに繋がり、後者の問いは「人間とは何か」という問いの裏返しでもある。
INDEX
出口康夫
京都大学文学研究科 教授
1962年大阪市生まれ。京都大学大学院文学研究科博士課程修了。博士（文学）。2002年京都大学大学院文学研究科哲学専修着任。現在、同教授、文学研究科研究科長、人と社会の未来研究院副研究院長。京都哲学研究所共同代表理事。専攻は哲学、特に分析アジア哲学、数理哲学。現在「WEターン」という新たな価値のシステムを提唱している。近著に「AI親友論」（徳間書店）、「What Can’t Be Said: Paradox and Contradiction in East Asian Thought」（Oxford University Press）、「The Moon Points Back」（Oxford University Press）など。
AIの進化は「人間失業」を招く？
私は、生成AIが登場する以前から、AIの進化による人間の実存的危機を「人間失業」と名付けて、それを回避する方法を考えてきた。
2000年代に、「シンギュラリティ（技術的な特異点＝AIが人間の知能を超えることで、社会に大きな変化が起こると予想される事態）」という言葉が提案され、さまざまな論議を呼んだ。シンギュラリティについては、「本当にそのような事態が起こるのか」という懐疑的な意見もAI技術者の中には見られた。現時点でも、人間の知能を全般的に凌駕する汎用的AIはいまだ出現していない。しかし、生成AIを使いつつ、多くの人が、「いつか本当にAIが人間を超える日が来るかもしれない」と感じ始めているのではないか。生成AIの出現を受けて、シンギュラリティの現実味がより一層、高まっているように思われる。
シンギュラリティをめぐっては、「知的な職業の大失業時代が到来するのではないか」という危惧も表明されていた。私も、自分の職業である「哲学教師」が、英国ガーディアン紙の「シンギュラリティで失われる職業リスト」の上位にランクされているのを読んで驚いた記憶がある。
一方、私が言う「人間失業」とは、たとえ、このような大量失業が何らかの方策で防がれたとしても残る、より根源的な事態である。
西洋近現代哲学や社会では、人間の存在意義（レゾンデートル）、尊厳、かけがえのなさを「知的にできること」においてきた。人間は少なくともこの地球上で「最も知的にできる存在」であると自認し、そのことにプライドを感じてきた。
知的な能力以外の人間的な能力ー例えば速く走る能力ーを凌駕する（自動車や新幹線といった）人工物ーこれを「凌駕機能体」と呼ぶーの登場によってはビクともしなかったこのプライドが、知的能力に関する凌駕機能体である「シンギュラリティをもたらすAI」によって根底から揺すぶられ、人間の尊厳、かけがえのなさが見失われる。これが「人間失業」という事態なのである。
ＩからWEへターンする
では、どうすればよいのか。
人間失業を防ぐためには、必ずしも、AIの開発を止める必要はない、というのが私の考えだ。もちろん野放図な開発には問題があるが、「できること」に基軸を置いた人間観そのものを変えることで、人間失業を回避できるバイパスを作ることができるのではないか。そして、このバイパスの先に、人間とAIないしロボットが、互いの尊厳を守りながら共存できるパラ・ヒューマン社会が姿を現すのではないか。私はそう思っている。
AIやロボットは、人間にとって単なる「他者」というより、人間とさまざまな意味でラジカルに異なった「異者」とでも呼べる存在である。このような異者と人間が共存するパラ・ヒューマン社会を可能にする新たな人間観とは何か。一つの答えが「WEターン」だ。
「WEターン」とは、身体行為や自己や善悪や権利や責任といった様々な重要な事柄ないし概念の主体や単位が「私（I）」から「われわれ（WE）」へとシフトされるという主張である。WEターンはまた、さまざまな前提から、「行為者のWEターン」を始めとする数々のWEターンがドミノ式に導かれる一つの哲学のシステムでもある。
「行為者のWEターン」は三つの前提から導かれるが、その中でも最も基本的な前提が「私は単独ではいかなる身体行為も遂行できない」という「単独行為不可能性」を唱える「第一できなさテーゼ」である。
このテーゼによれば、身体行為はつねに「私」以外の多種多様なエージェントの助けやアフォード（支え）を得て初めて可能となるとされる。今、「私」を含め、身体行為にとって必要不可欠なエージェントをすべて含んだシステムを「マルチエージェントシステム」と呼べば、このマルチエージェントシステムこそが、身体行為を可能にしている必要かつ十分なエージェントだと言える。そしてこのマルチエージェントシステムは、「私」を含んだ複数のエージェントからなる単一のシステムであるという点で、複数性と単数性をあわせ持った人称代名詞である「われわれ（WE）」と呼ばれるにふさわしい存在でもある。
第二の前提は「行為の主体すなわち行為者とは、単なる必要エージェントでも、単なる十分エージェントでもなく、必要十分エージェントでなければならない」という主張である。この前提によれば、上のマルチエージェントシステムこそが身体行為の主体すなわち行為者であることになる。
ここで行為者とされたマルチエージェントシステムは、エコシステムやコンピューターシステムと同様、心や意識を欠いた抽象的存在者にすぎない。意識を持たない抽象的存在者としてのシステムは、「自分が今行為を行っている」という行為遂行的意識を欠いた存在である。このような意識を欠いた存在でも身体行為者と呼べるのか。「呼べる」というのが第三の前提である。
「意識を持たなくとも行為者になれる」という第三の前提は、神秘的で摩訶不思議な考えのように聞こえるかもしれないが、必ずしもそうとは限らない。「インターネットの父」と呼ばれ、現在のヒューマンコンピュータインターフェースのデザイナーの一人、J・C・R・リックライダーも、そのような考えを抱いた一人だ。リックライダーは、人間とコンピュータからなる抽象的なシステムを「人間ーコンピューター共生系（シンビオーシス）」と呼び、そのようなシステムこそが「思考」や「データ処理」といった行為を行う主体であると考え、そのパフォーマンスを最適化するインターフェースデザインを志向したのである。
これらの三つの前提を足し合わせると、「行為者」とは個人である「私」ではなく、その「私」を含んだマルチエージェントシステムとしての「われわれ」に他ならない、という行為者のWEターンへと行き着く。
行為者のWEターンを導いた第一の前提は、「単独行為不可能性」という人間が普遍的、不可避的に持つ「根源的できなさ」に光を当てていた。このようにWEターンでは、人間のかけがえのなさ、レゾンデートル、尊厳は、「できること」ではなく「できなさ」におかれる。WEターンは、このような「できること」から「できなさ」への「できなさターン」に基づいた思想なのである。このような人間観の「できなさターン」の観点に立てば、知的な凌駕機能体であるAIが登場したとしても、人間の価値は一ミリたりとも揺らがない。「できなさターン」はAIの開発を否定することなく人間失業を回避する一つの方策なのである。
「理由なく捨てられない権利」はAIやロボットにも付与される
「行為者」は自己、善悪、責任、自由の基礎とも言える重要な概念である。その行為者に関してWEターンが成立した以上、残りの概念にもWEターンが次々と波及していくことになる。権利や道徳的配慮の対象性も同様である。それらの主体や単位が、まずは「I」から「WE」へとシフトすることになるのである。
一方、権利のWEターンは、「私」や他のWEの個々のメンバーの権利を否定しない。むしろ逆に、それは「私」や他の人間のみならず、それ以外のすべてのメンバーに対して、身体行為を必要不可欠な仕方で支えているエージェントであるという点を考慮して、一定の権利を付与するのである。モラルペイシェントのWEターンも同様である。それは、動植物のみならず、石やAIやロボットをも道徳的配慮の対象と見なすのである。
もちろんWEのすべてのメンバーがまったく同じ権利を平等に持つわけではない。WEのメンバーには、道徳的存在である人間、快苦の感覚を持つある種の動物、それ以外の生命、生命を持たない自然物や人工物といった、様々な異なったエージェントが含まれている。それらの間には、権利や道徳的配慮の違いがあってしかるべきである。具体的には、道徳的存在としての人間は最高度の権利を有し、最も手厚い道徳的配慮の対象とされるべきである。一方、非生命的な自然物や人工物にも最低限の権利が付与され、最低限の道徳的配慮が保障される。
ここで言う最低限の権利とは、具体的には「アンチ・ディスポーザル（反可処分）権」である。
従来、人間に対して、例外的なケースを除き、自然物であれ人工物であれ、その所有物を特段の理由なく捨てててもよいという「ディスポーザル（可処分）権」が暗黙裡に認められてきた。我々は毎週決められた日にゴミを出す際、ゴミの分別は求められる一方、なぜそれを捨てるのかという理由を示す必要はない。これは我々が可処分権を持っているからに他ならない。この可処分権の反対が、自然物や人工物に付与される「反可処分権」すなわち「特段の正当な捨てられない権利」である。WEターンでは、生き物は言うまでもなく、石ころなどの自然物やAIやロボットといった人工物に対しても、このような反可処分権が付与され、それに即した道徳的な配慮を行うことが求められる。
人間と同じ権利は「道徳性」がカギに
AIが持つ自律性も、今後ますます高まっていく。ちなみに、単独行為不可能性を出発点とするWEターンでは、自律性もWEターンされる。自律性の意味が「一人でできること」から、「WEの共同決定のプロセスの中で最終決定権を分有していること」へと変わるのである。
今のところ、AIの究極の目標は人間のデザイナーが決めており、AIは与えられた究極目標を達成するための最適解を「自律的」に探しているにすぎない。しかし、将来、自らの究極目標自体を「自律的」に決めるAIが出現する可能性も十分ある。
しかし、そのような高度の「自律性」を備えたAIといえども、人間と全く同じ権利はまだ持ちえない。人間と同じ権利を持つかどうかの分水嶺は「道徳性」にある。
悪い行為を「あえて我慢できる」のが道徳性
「道徳性とは何か」についても様々な議論がある。ここでは当為倫理学（ドイツ語で「ゾレン・エティーク」）の考えを採用し、「悪いこともできるけれども、それをあえて我慢をし、それが良いという理由で良いことをする」という仕方でなされた行為を、道徳的行為と見なすことにする。このような道徳的行為の主体であるWEが道徳的なWEであり、この道徳的WEのすべてのメンバーは「自らが属するWEをより道徳的にする」という道徳的義務を負っていることになるのである。
例えば、自動運転の車は、そもそも悪いこと、具体的には交通法規違反ができないように、最初からデザインされている。それは「悪いこともできるが、あえて良いことをする」エージェントではない。これは上の定義でいうと道徳的なエージェントではなく、自動的に「良いこと」しかアウトプットできないように設計されている単なる「道徳的自動販売機（モラルベンディングマシン）」にすぎない。一方、人間は、例外的なケースを除いて、単なる道徳的自動販売機ではなく道徳的エージェントであり、従ってまた、時々悪いこともしてしまう存在である。
道徳的AIとは、悪いこともできるAIでもある。そのようなAIを作るべきかどうかについては議論が分かれるだろう。例えば、悪いこともできる自動運転車は明らかに作るべきではないだろう。
一方、人間は単なるモラルベンディングマシーンではなく、悪いこともついついしてしまう道徳的存在である。では、悪事を働く可能性がある人間の子供をもうこれ以上産み出さないというのが最善の対応だろうか。多くの人の答えは「ノー」だろう。子供を単に産みっぱなしにするのではなく、教育などのエコシステムを整え、その中で彼ら/彼女らをよりよい人間に育てる努力を怠らないことが、我々がなしうるベストな対応だろう。
AIやロボットについても同様である。悪事をもなしうる道徳的AIやロボットを生み出す場合、それらをよりよいAIやロボットに育てていくエコシステムもまた同時に整備する必要がある。そのようなエコシステムがないまま、悪いこともしうる機能をAIやロボットに装備することは無責任である。道徳的AIやロボットの是非についての議論は、エコシステムの整備の必要性を織り込んだ上で、なされるべきなのである。
いずれにせよ、もし悪いこともでき、時には実際にやってしまうが、それでも人間と同程度かそれ以上の頻度で良いことを、それが道徳的に良いという理由で選択する。そのような道徳的AIが登場すれば、それに対しては人間と同様の権利が認められるべきだと私は考えている。
「AIと共に創る未来（後編）」はこちら
RELATED CONTENT関連コンテンツ
