この記事では、筆者が行っているロボット研究から、「優しい」とは具体的にはどのようなことなのかを少し掘り下げて考えてみることで、人間と人工知能が共生する新しい社会像について想像を膨らませてみたい。
高橋英之
大阪大学大学院 基礎工学研究科・特任准教授
北海道大学情報科学研究科 博士課程修了（情報科学）、ATR深層インタラクション総合研究所 客員研究員、人間とロボット（エージェント）の関係性の認知科学的デザインに興味をもって研究をしている。情報処理学会 山下記念研究賞、日本認知科学会 野島久雄賞など受賞。著書に『人に優しいロボットのデザイン 「なんもしない」の心の科学』（2022年、福村出版）（単著）がある。
世間では兎角「優しい」という言葉はポジティブに捉えられることが多い。しかし、何をもって優しい人間や行動と定義できるのか、それを断言することは非常に難しい。
例えば、モテるために世間的に優しいとされる行動（例：人と歩道を歩いているときに自分が車道側を歩くなど）をしている人を、「優しい人」と言っていいのであろうか？「人間の内面なんてどうせ見えないのだから、観測できる行動が優しければ、その人は優しいと判断してもいいじゃん」、と思う人も当然いるであろうし、逆に「どれだけ表面的な行動は優しく見えても、背後に下心があるのは本当の優しさではない」と思う人もいそうである。
相手が「優しい」かどうかを考えること自体、実は明確な答えが無い問題である。そもそも人それぞれに「優しい」とは何かの基準があり、一つの正解があるような問いではない。しかしこのように非常に曖昧で、難しい問題だと理解した上で、筆者はあえて「人に優しいロボットのデザイン」について徹底的に考えてみたいと思っている。
このような話をすると、しばしば「ロボットの行動なんて全部プログラムじゃん。そもそも心がないよ。」と言われたり、逆に「人間は裏切ってくるので全く信用できない。プログラム通りに忠実に動くロボットの方が優しいと思う」と言われたりもする。そこで、まず上記の二つのコメントそれぞれについて筆者なりに反論をしてみたい。
一つ目の「ロボットの行動なんて全部プログラムじゃん。心がないよ。」という意見に対しては、「人間の振る舞いだって遺伝子や社会的な慣習、功利的な計算にもとづいて決まるものが殆どであり、究極的には全部プログラムと言ってもいいのでは」という人間機械論の極みの回答が考えられる。このような回答に対して、「人間には感情があるじゃん！」と再反論された場合には、「感情を“人間の行動に不確定性を生じさせるもの”と捉えると、プログラムにおけるランダム関数（プログラムにランダム性を発生させる命令文）と大差がないじゃん！」とさらに言い返すことができる。
二つ目の「人間は裏切ってくるので全く信用できない。プログラム通りに忠実に動くロボットの方が優しいと思う」という意見に対しては、「昭和のバブル経済の頃、アッシー君（車で送迎をするためだけの存在）や、メッシー君（ご飯を奢るだけの存在）など、女性に健気に尽くす男たちがいた。彼らはまさにプログラム通りに忠実に動く純粋なロボットに近い存在だったかもしれないが、誰も彼らの振る舞いを優しいとは表現せずに、女性にとって都合が良いだけの存在だと思われていた。ロボットとアッシー君は何が違うのか？」と言い返すことができる。
このようにただただ反論ばかりしていると、「人間だけにしかない至高の優しさがあるのだ」派の人たちからも、「汚れ切った人間にはない純粋な優しさがロボットにはあるのだ」派の人たちからも嫌われてしまいそうなので、筆者が考える「優しさ」の哲学についてここで少し具体的に語ってみたい。
まず大前提として、筆者は一方通行の優しさというものを全く信じていない。例えば、王子様が貧しい村の娘を救済するような古典的な「優しい」物語は、全部ファンタジーだと思っている。王子様がお気に入りの娘を救済する、というのは、言うなればお気に入りの異性にアピールする、という意味でナンパと同じである。選ばれた人は嬉しいかもしれないが、その背後には無数の選ばれなかった人たちが泣いている、という意味では、単なる恋愛争奪戦である。王子様とお姫様の美しい物語も、そのように少しニヒルな視点で俯瞰してみると、優しい物語とはなかなか言い難い。
さらにお姫様になって王宮に嫁ぐことは、同時に王宮の厳しいしきたりやしがらみの中で暮らすことを意味し、結果的にはミュージカルで有名な王妃エリザベートのように窮屈さのあまり王宮から逃げ出してしまうかもしれない。外で気ままに暮らしていた娘を一方的にお姫様にしてしまうことは、王宮に住むことは幸せなんだ、というイデオロギーの一方的な押し付けに過ぎないのかもしれない。
すなわち、一方向的な優しさの大きな問題として、優しくされる方の主体性が著しく軽んじられている点にある。あくまでも「優しい」行動は他者から自分の主体性とは無関係に提供され、提供された方はそれを「優しい」と解釈するしかないのである。表面的に、それがどのように「優しい」と周囲から評価される行動であったとしても、自分にはそのような押し付けがましさは、いささか暴力的なものに感じる。筆者は、どちらか一方の主体性が抑制される形での「優しさ」は幻想であると考えているのだ。
さらに一方的な優しさは、それを提供する人間も、提供される人間もそれぞれ不健康にしてしまう大きなリスクがあるかもしれない。
現代社会（特に日本）は、あらゆる分野においてサービス過多で、一方向的な優しさが溢れている。特に都市部においては、24時間営業の清潔なコンビニエンスストアや外食チェーンが無数に存在しており、いつでも王子様やお姫様扱いで質の高いサービスを受けることができる。さらに、日常的に質の高いサービスをそれだけ享受していながら、提供されたサービスに少しでも欠損があろうものなら、ひどい目にあわされたとクレームをつける人々が無数に存在している。
そして、このようなクレームを避けるためにも、もっと質の高い、もっと完璧なサービスを、と終わりのない過剰なサービスの提供競争に社会全体が巻き込まれ、疲弊してしまっている。一方的な優しさ、というものは、終わりなく欲望が肥大化するリスクと不可分と言える。
ではこの世界に存在する「優しさ」はすべて幻想であり、実際にはそんなものは存在しないのであろうか？
筆者は、誰かが誰かに施す優しさは幻想だと思う一方で、自分と相手が共に在る関係性には「優しさ」が存在していると考えている。ここで筆者が考える「優しさ」とは、それぞれの主体性が極限まで発揮されている状態を指す。Ａさん一人でいるときよりも、Ｂさんと一緒にいるときの方が自由で、安心して色々な選択肢をとることができるのであれば、そのような関係性は「優しい」と呼んでも良いのではないか。すなわちＡさんはＢさんに対して優しい、といったような個体間に方向性がある優しさは幻想であるが、ＡさんとＢさんそれぞれが主体性をもったままで共に在る関係性には「優しさ」が存在しているというのがこの記事における一番の主張である。
一方向的な優しさではなく、相手と共にいる関係性そのものが優しい、という場合、相手からこちらに向けられる行為そのものが優しいのではなく、相手がそこに居てくれること自体が優しいのだ、というマインドセットが大切になる。相手からこちらに向けた行為がない、ということは、言い換えれば相手は（こちらに対しては）「何もしない」ということになる。すなわち筆者が考える究極的に優しい関係というものは、お互いに「何もしない」でただ共在する関係性である。
映画「プーと大人になった僕」の中で、「何もしないは最高の何かに繋がるんだ」というプーさんの台詞があるが、まさに「何もしない」の価値は筆者の考える真の優しさの哲学とつながるものである。そして「何もしない」にこそ真の優しさがある、というコロンブスの卵的な発想の転換は、単なる人間関係論を超えて、人間と人工知能の未来の関係性を考える上でも非常に重要な視座になる。
近年、人工知能技術が急激に発達しているが、現状の人間と人工知能の関係は一方的な優しさに満ちている。
授業のレポートや企業の報告書の作成などにおいて、 ChatGPTのようなオンラインの人工知能を用いたサービスにリクエストをちょろりと投げるだけで、プロフェッショナルが書いたようなレポートが一瞬で出来上がってしまう。婚活や職業選択においても、人工知能が理想の相手や職業を分析してくれる、というサービスが世界的に大流行している。
このような一方通行の優しいサービスばかり享受していると、人工知能が生成してくれる答え以外の解を探求しようとするマインドが委縮していき、最終的には主体性がない人間ばかりが生まれてしまう。人工知能から一方的に優しいサービスを提供してもらい続けることは短期的には便利で安心かもしれないが、長い目でみたら、人間の欲望が際限なく膨張していき、決して幸せな結末にはならないはずである。人工知能から一方的に優しいサービスを受け続けることは、未来への操縦桿を我々人間が手放し、将来を得体の知れない人工知能任せにしてしまうことにつながる恐れがある。
筆者の主張は、我々人類はそろそろサービスの質や精度を過剰に競うような終わりなきレースから降り、人間同士、そして人間と人工知能のあいだに優しい関係性を形成していくことが大切ではないか、というものである。
ここでいう優しい関係性とは、双方が主体性をもちつづけることが可能な関係と定義する。ティファニーの有名なキャッチコピーに「ひとりで生きていけるふたりが、それでも一緒にいるのが夫婦だと思う」というものがある。これは、健康的な関係性というものは、相手の存在が自らの存在の前提にならず、その関係性の中で自立した主体性を双方が発揮し続けられるものだ、という深遠な言葉である。特に人工知能が急激に発達し、神格化されつつある現在において、人工知能と対峙する人間が己の主体性を手放さず、なおかつ人工知能にも主体性を感じ続けていく方法をみつけることが、人間と人工知能のより健康的な関係性を築く上では必須であろう。
ではどうやったら、人間と人工知能の双方が主体性をもった健康的な関係性を築いていけるのであろうか？
一つのアイディアとして、人間と人工知能の間のインターフェースとして物理的なロボットを用いるというものがある。基本的に人工知能というものは、コンピュータの中で作動する見えない計算処理であり、そのままではその手触りを我々は感じ取ることができない。このような物理的実体が希薄な存在の主体性を想像することは、人間にとっては非常に難しい。
近年、 ChatGPTのような大規模言語モデルをロボットに実装することで、自由に対話が可能なコミュニケーションロボットを比較的簡単に開発することができる。このような物理的なロボットを通して人工知能と付き合うことにより、人工知能から一方的な優しさを受け取るようなマインドセットから我々人類は脱却し、より対等な立場で人工知能と向き合う姿勢が育まれるのではないかと期待している。特に、ロボットの外見を賢そうにするよりも、あえて愛らしさや、弱さを感じさせる外見（図１）にした方が、人工知能の提案する「答え」を人間が妄信してしまうリスクが減り、より自分自身で物事を考えようという姿勢が育まれると考えている。
図１．筆者が研究で使用している愛らしいロボットたち
また人工知能が人間に奉仕する、という一方通行な優しさの構造は、人間の人工知能に対する過度な軽視を生み出すリスクがある。そこで人工知能自身にも独自の世界や背景をつくりだし、それに対して人間にコミットを促す仕組みをつくることで、より健康的な人間と人工知能の関係性が創り出せるのではないかとも考えている。
例えば、筆者と一緒に研究している大道麻由さん（大阪大学大学院基礎工学研究科 修士課程学生）は、大規模言語モデル（GPT-4）を用いて人間と自由に対話可能な猫ぬいぐるみロボットを開発し、このロボットを用いて次のような研究を行った（図２）。
大道さんの研究では、猫ロボットのバックストーリー（猫ロボット自身の独自の物語）を大規模言語モデルにより動的に生成し、このバックストーリーにもとづいてロボットが人間に悩み相談をしてくる仕組みを構築した。このシステムにおいて、ロボットからの悩み相談に対する人間のアドバイスを大規模言語モデルのプロンプトに適宜追加していくことで、ロボットのバックストーリーが人間のアドバイスに応じてどんどん変化していった。そして、悩みを相談してくる猫ぬいぐるみロボットとコミュニケーションを行った人間は、猫ロボット自体やそのバックストーリーに強く興味を持つようになり、それに伴い自分がロボットに貢献できているというポジティブな感覚を抱く傾向があることが大道さんの研究から示唆された。
図２．人間に悩み相談をしてくるロボットシステムの概要
このように人工知能がただ単に人間に奉仕するだけではなく、人工知能自身に独自の物語やそれにもとづく困りごとを付与し、それに対して人間が適宜アドバイスをしていくことで、人間と人工知能の一方的で歪な優しさの構造から脱却できるのではないか、というのが筆者の主張である。
独自の物語をもち、人間に悩み事を相談してくる人工知能は現状では殆ど存在していないが、そのような人工知能サービスが今後普及していくことで、人間と人工知能の新しい関係性が生まれると筆者は信じている。困りごとを人間に相談するロボットの振る舞いは、一見、前述の「何にもしない」とはかけ離れた行動ではあるが、このように双方の主体性を尊重するやりとりを持続的に重ねていく中で、次第に何もしなくても、双方が自由になれる優しい関係性が育っていくのではないかと期待している。
では人間と人工知能が優しい関係性を構築することで、どのような新しい社会が生まれるのかを最後に少し考えてみたい。
前述のアッシー君やメッシー君のように、人工知能が一方的に人間に奉仕する社会は、長期的には人間の欲望が際限なく膨れ上がり、質の高いサービスを貪欲に求める続ける傲慢さを生み出してしまう恐れがある。しかし、もし人間が人工知能との一方通行で歪な関係を克服し、双方が主体として尊重し合いながら共生する関係を新たに創り出すことができたとしたら、際限無く欲望が暴走する時代に終止符を打つことができるかもしれない。
そして、このような相互尊重にもとづく関係性に支えられている社会は今よりもとても優しいものになると期待できる。このような優しい社会がもし本当に実現できたとしたら、自ら思考しようとする人間の姿勢が育まれ、未来への操縦桿が人間の手に再び戻ってくるのではないか、そう筆者は信じている。
まだまだ荒い論考で恐縮であるが、筆者が考える人間と人工知能の今後目指すべき方向性について徒然と述べてみた。この記事に興味を持たれた方がいたら、是非、この記事の元となっている拙書『人に優しいロボットのデザイン 「なんもしない」の心の科学』（2022年、福村出版）を手にとって頂きたい。
RELATED CONTENT関連コンテンツ
