「人工知能と人間のよりよい共生のために」久木田水生

2024.10.30

INDEX

久木田水生
名古屋大学大学院情報学研究科社会情報学専攻情報哲学准教授
2005年、京都大学大学院文学研究科博士課程修了（文学）。2017年より現職。専門は情報の哲学、技術哲学、技術倫理、人文情報学など。著書に『ロボットからの倫理学入門』（2017年、名古屋大学出版会）（共著）、『人工知能と人間・社会』（2020年、勁草書房）（共編著）、『軍事研究を哲学する――科学技術とデュアルユース』（2022年、昭和堂）（共著）などがある。

人工知能と人間

「人工知能」という言葉は1950年代にアメリカの計算機科学者、ジョン・マッカーシーが作ったものだと言われています。彼はこの言葉で「人間が遂行すれば「知能を持っている」と思われるような振る舞いを示す人工的なシステム」を意味していました。

しかし人工知能研究者であり起業家のジェリー・カプラン^[1]は、この名称および特徴づけには問題があると言います。カプランは、人工知能研究が目指しているのは単なる「絶え間ない自動化の進展」であるにもかかわらず、それを「知能」という論争を呼ぶ言葉を使って表現したために無用な混乱が引き起こされていると論じています。

「知能／知性」という言葉が論争を呼ぶのは、それが曖昧であるにも関わらず、しばしば人間にとって最も重要な能力（人間を他のすべての動物よりも優れた存在にしている能力）であると考えられ、特別な価値づけがされているからでしょう。そのせいで人工知能に対して「機械が本当の意味で知的になることはない」といったような懐疑論・否定論が生じたり、実際に機械によって実現された能力については「それは実は知能と呼ぶにふさわしい能力ではなかったのだ」というように評価が改められたりします。

カプランの意見には一理あると思います。なのでここで私は人工知能を、何らかのタスクを自動化するテクノロジーとして捉えて、それが本当に知的かどうかとか、それが何かを考えていると言えるのかとか、どこまで人間に迫っているのかといった問題には立ち入らないことにします（哲学的に興味深い問題ではありますが）。

以下では人工知能はあくまでも人間が何らかの目的で作り使用する道具と見なして、使用者と道具の関係の観点から議論をします。しかし使用者と道具の関係は一見そう思われるほど単純なものではありません。そのことについて、人間とテクノロジーの「共生」とはどういうものかに焦点を当てて論じたいと思います。

共生と寄生

「共生」とはもともと生物学の用語で、ある種の生物が別の種の生物から利益を得る関係を指します。もう少し正確に言うと、現代の生物学では生物種間の関係というより、遺伝子と遺伝子の関係と考えるのが一般的です。ここで「利益を得る」というのは、受益者側の生物が生き延びてその遺伝子を次の世代に伝える役に立つということを意味します。例えば蜜蜂の「花の蜜を採取する」という行動を引き起こす遺伝子と、花の「蜜を作る」遺伝子の間にはお互いに利益を与えあう共生関係があります。蜜蜂はそれで食べ物を手に入れることができますし、花は蜜蜂に受粉を手伝ってもらえるからです。

共生には相互に利益を与え合う「相利共生」と、どちらかが一方的に利益を得る「片利共生／寄生」があります。蜜蜂（の遺伝子）と花（の遺伝子）の共生は相利共生です。一方、オフリス・アピフェラという花（図1）は雌のヒゲナガバチに似た姿と匂いによって雄のヒゲナガバチを引き付けて受粉のために利用します。オフリス・アピフェラには利益があるけどヒゲナガバチには利益がありません。したがってこれは片利共生／寄生の関係になります。

図1：オフリス・アピフェラの花。By Bernard DUPONT from FRANCE - Bee Orchid (Ophrys apifera), CC BY-SA 2.0, https://commons.wikimedia.org/w/index.php?curid=48715235

ミームと遺伝子

テクノロジーと人間の間にも相利共生と寄生の関係がありうるのではないか、と私は考えています。それを説明するためにまず「ミーム」という言葉について説明しましょう。

「ミーム」という言葉は進化生物学者のリチャード・ドーキンス^[2]によって作られたもので、ざっくり言うと「人間社会の中で伝播され、世代を超えて継承される情報」を意味します。ここで「情報」と呼ぶものにはアイディア、ノウハウ、知識、理論、思想、信念、行動様式、価値観、表現などが含まれます。例えば「乾燥した木片をこすり合わせると火が着く」という知識もミームですし、神社で二礼二拍手一礼するという作法もミームです。ドーキンスはミームも遺伝子と同様、淘汰や変異という過程を経ると言います。

ミームと遺伝子は互いに影響を与え合うことがあります。例えば人間は他の霊長類に比べて、体の大きさに対する消化器官の長さの割合が小さく、その代わりに脳の容量の割合が大きくなっています。これは人間が火を使って調理をするようになって、消化しやすいものを食べるようになったからだと考えられます^[3]。調理のおかげで消化に使うエネルギーが節約され、その分、考えたり記憶したりするのにエネルギーが使えるようになって、その結果として、消化器官は短く、脳は大きく進化したというわけです。ここでは調理というミームと消化器官や脳のサイズを決定する遺伝子が互いに利益を与え合う相利共生の関係にあると言えます。

生物の遺伝子同士に相利共生と寄生の関係があったのと同様に、ミームが遺伝子に寄生すると考えられるような事例もあります。例えばお酒は有害ですが、脳に作用して快感を与えるので、人間はお酒を作り飲み続けています。アルコールで快感を感じるようにさせている遺伝子が、お酒に関連するミーム（お酒の作り方、飲酒にまつわる慣習や価値観）に寄生されていると考えられます。ちなみに人類史的観点から見ると、お酒を飲めない遺伝子を持つ人の割合が増えているそうです^[4]。お酒は体にも精神にも有害なので、お酒を飲めない人の方が生存して子孫を残しやすいのでしょう。私のようにお酒をおいしいと思って飲んでいる人間は滅びゆく旧人類らしいです。

人工知能の弊害

前置きがながくなりましたが、ここからが本題です。ここで人工知能による一つの弊害について考えたいと思います。人工知能と一言で言ってもいろいろありますが、ここでは主にビッグデータから学習をして、人の属性や行動や能力について推測、予測（プロファイリング）をするために使われるシステムを考えます。

プロファイリングのための人工知能は様々なところで使われています。例えばAmazonなどの通販サイトでは顧客の個人的な情報（性別、年齢、住所など）とそれまでの購買履歴から、その顧客が興味を持ちそうな商品を推測して推薦します。GoogleやFacebookなどのプラットフォームは、ユーザーのオンラインの行動からそのユーザーが興味を持ちそうな広告を提示します。プロファイリングはまた社員の選考に使われたり、裁判で再犯率を予想するために使われることもあります。リクナビが就活生の内定辞退率を予測して企業に伝えていた事件を覚えている方も多いかと思います。このような慣行はプラットフォーム企業や政府機関が人々のデータを過剰に収集し濫用することに繋がったり、しばしばマイノリティにとって不利な評価をすることになるといった弊害を引き起こしています^{（cf [5]、[6]、[7]）}が、これらの問題についてはここでは論じません。

私は人工知能によるプロファイリングが人間同士の信頼や協力に与える影響について、長期的に良くない影響を与えることを危惧しています。

人間は社会的な動物であり、信頼し合って協力できる相手を見つけることが非常に重要です。しかし世の中には一定数、他人の信頼を裏切ることで利益を得ようとする人がいるのも事実なので、私たちは慎重に相手を見極めないといけません。これは人類の祖先が群れを作って生きるようになったときからずっと直面しているジレンマです。プロファイリングをする人工知能は、この問題に対する画期的な解決のように思われます。相手が信頼できるかどうかが事前に分かれば、私たちは信頼できる相手とだけ付き合えばいいからです。

しかしここにはいくつか問題があります。信頼できない相手をできるだけ高い確率で排除しようとすると、本当は協力し合える可能性があった相手を間違って排除する確率も上がります。しかし例えば企業が内定を辞退しそうな就活生を排除しても、その相手が本当に内定を辞退するつもりだったかは分からずじまいになるので、そのエラーはエラーとして認識されません。一方で内定を出したのに辞退されたら、そのエラーは重大なエラーとして認識されます。従って、おそらくこのようなシステムを運用する人は、より慎重なポリシーを採用して、少しでもリスクのある相手は排除しようとするでしょう。その結果、本当は構築できるはずだった協力関係が失われてしまうことになります。

もう一つの問題は、特定の相手が信頼できるか、相手が友好的であるかというのは過去や現在のデータから判断できるものではなく、その人と周囲の人々との具体的な関係の中で変化していくものだということです。人間の心理や情動、生理のメカニズムは基本的には他者と協力するようにできています。人間は人から友好的にアプローチされれば自分もその相手に好意を持つし、人から信頼されればその信頼に応えようと努力するものです^{（cf. [8]、[9]）}。過去に犯罪を犯した人でも、人から信頼を寄せられることで更生することができます。しかし過去のデータにだけ基づくプロファイリングによって排除された人は、そのような機会を得ることができません。

私は人工知能によるプロファイリングの蔓延が、人々の間にありえたかもしれない信頼関係、協力関係を損ない、そしてその結果として社会関係資本を減少させることになるのではないかと危惧しています。社会関係資本とは、人と人の結びつきを強めるもの――個人間の信頼、組織への信頼、近所付き合い、社交的な集まり、人的ネットワークなど――を指し、社会がいかにうまく機能するかを左右する要因の一つと考えられています。人々の間にしっかりとした人間関係が作られている社会や地域は効率の良い経済活動が促進され、また公共的な政策もスムーズに実施されると考えられています^{（cf. [10]）}。だとすれば、社会関係資本が減少することは社会にとって大きな損害になる可能性があります。

つまりプロファイリングを行う人工知能は、協力する相手を見つけたいが裏切られたくないという人間の心理に付け込んで蔓延し、その結果として社会関係資本を減少させるという弊害をもたらすという点で、寄生的なテクノロジーになる可能性がある、と私は思っています。

人工知能とよりよく付き合うために

もちろんここで論じたことは一つの予想であり、本当にそうなるかは分かりません。ただそのような可能性を念頭に置くことは、人工知能に寄生されず、よりよく共生するための役に立つだろうと思います。

人工知能に限りませんが、テクノロジーとうまく付き合うためには、それがどのように開発されているのか、誰がどのような目的で使っているのか、誰が利益を得て、誰が不利益を被っているのか、人権をないがしろにされている人はいないか、短期的な影響だけでなくどのような長期的な影響がありうるのか、そういったことを考えることが有用であると思っています。

そして何よりも自分の人生にとって、自分が大切にしている価値にとって、それを使うことが何を意味することになるのかを真剣に考えて、そもそもそれを使うのかどうか、そして使うにしてもどうやって使うのかを判断することが時に必要でしょう。これはカル・ニューポート^[11]がスマートフォンなどのテクノロジーに関して「デジタル・ミニマリズム」と呼んだ生き方です。そして私は、これが広い意味で「情報リテラシー」という言葉に含まれるべきだと考えています。

[1] Jerry Kaplan, Artificial Intelligence: What Everyone Needs to Know, Oxford University Press, 2015.

[2] リチャード・ドーキンス、『利己的な遺伝子＜増補新装版＞』、日高敏隆、岸由二、羽田節子、垂水雄二訳、紀伊国屋書店、2006年。

[3] リチャード・ランガム、『火の賜物――人は料理で進化した』、依田卓巳訳、NTT出版、2010年。

[4] ジョセフ・ヘンリック、『文化がヒトを進化させた――人類の繁栄と＜文化-遺伝子革命＞』、今西康子訳、白揚社、2019年。

[5] キャシー・オニール、『あなたを支配し社会を破壊するAI・ビッグデータの罠』、久保尚子訳、インターシフト、2018年。

[6] カリッサ・ヴェリツ、『プライバシーこそ力：なぜ、取り戻すべきか』、平田光・平田完一郎訳、花伝社、2023年。

[7] 平和博、『悪のAI論――あなたはここまで支配されている』、朝日新聞出版、2019年。

[8] ポール・J・ザック『経済は競争では繁栄しない――信頼ホルモン「オキシトシン」が解き明かす愛と共感の神経経済学』、柴田裕之訳、ダイヤモンド社、2013年。

[9] 永守伸年、『信頼と裏切りの哲学』、慶應義塾大学出版会、2024年。

[10] ロバート・パットナム、『孤独なボウリング――米国コミュニティの崩壊と再生』、柏書房、2006年。

[11] カル・ニューポート、『デジタル・ミニマリスト――スマホに依存しない生き方』、池田真紀子訳、早川書房、2021年。