AI倫理を研究する清水颯さんが「関係論」を軸にAIをめぐる問いを探究する連載。第5回では、これまで紹介してきた関係的な倫理に対する代表的な三つの批判を取り上げます。
　AIやロボットを関係のなかで捉えることの意味はどこにあるのか。批判とその応答にとどまることなく、関係論が開く新しい可能性と、これからの倫理を考えるための手がかりを描き出します。

 

　前回は、デイヴィッド・ガンケルの『人格、モノ、ロボット』を手がかりに、私たちが世界を「人格」と「モノ」に分けてきた歴史をたどりました。AIやロボットは、この二つのどちらに入るのか。ガンケルが問い直したのは、AIやロボットを正しく分類するための基準ではありません。そもそも世界を人格とモノに分け、そのどちらかに振り分けようとする発想そのものでした。

　連載後半では、既存の理論を紹介するだけではなく、関係的な倫理は本当にうまくいくのかを、読者のみなさんと一緒に検討する段階に入りたいと思います。その助走として、今回は、ガンケルらに代表される関係的な倫理に向けられてきた三つの批判を取り上げます。それらの批判は、どれも関係的な倫理の問題点を鋭く突いています。とはいえ今回は、一つひとつの批判に個別の答えを与え、それで解決したことにするつもりはありません。むしろ、三つの批判に共通する前提を取り出すことで、関係的な倫理がそもそも何をしようとしているのか、そして、そのために何がまだ十分にできていないのかを考えていきます。

 

関係に委ねると判断の基準は失われるのか

　第一の批判は、相対主義の問題です。

　ここでいう相対主義とは、倫理的な正しさが、人、文化、時代、状況によって変わり、すべてに共通する基準は存在しないという考え方です。関係的な倫理を批判する論者は、AIやロボットの道徳的な位置づけを関係に委ねれば、客観的な基準が失われると考えます。ある人がロボットを家族だと感じ、別の人が交換可能な商品だと考えたとしましょう。そのどちらも同じように正しいなら、結局はそれぞれの感じ方に任せるしかありません。しかし、「このロボット・このAIは私にとって大切だ」という一つの意見から、「ロボットやAIは配慮すべき存在だ」とまで主張できるのでしょうか。個人的な愛着だけから、他の人にも及ぶ道徳的な要求を導いてよいのか。これが批判の核心です。

　この批判は、哲学者のケストゥティス・モサカスやヴィンセント・ミュラーらによって、ガンケルやクーケルバークに向けられてきました^[1]。モサカスは、関係によって道徳的な扱いが決まるなら、ある判断が正しく、別の判断が間違っていると言うための足場がなくなってしまうのではないか、と疑問を投げかけています。

　ガンケルは、2022年の論文「関係論的転回──ロボットを別様に考える（The Relational Turn: Thinking Robots Otherwise）」で、この相対主義の批判に応答しています^[2]。彼がまず指摘するのは、文脈によって基準が変わることと、基準がまったく存在しないことは同じではない、という点です。しかし、この応答を理解するには、そもそも関係的な倫理にとって「関係」が果たす役割と位置づけを確認する必要があります。この点には、残りの二つの批判を見た後で戻ることにしましょう。

 

関係論も、結局は「性質」に頼っているのか

　第二の批判は、遂行的矛盾の問題です。「遂行的矛盾」という言葉は少し難しく聞こえるかもしれませんが、ガンケルはこの語を、関係論が掲げていることと実際に行っていることが食い違っているのではないか、という批判を表すために用いています。

　関係論は、相手がどのような性質をもつかを基準にして配慮するのではなく、私たちがその相手とどのような関係を結んでいるかを重視します。しかし、私たちがAIやロボットと関係を結ぶかどうかは、その外見や振る舞いに大きく左右されます。人に似た姿をもち、言語や動きでコミュニケーションができるAIやロボットには、親しみを感じやすいでしょう。反対に、無機質な画面に数字だけを表示するシステムを、気遣う相手として何らかの関係を感じることはあまりありません。

　そうであれば、関係論も結局は、相手の性質や能力に依存しているのではないでしょうか。この批判を展開したのが、ヘンリク・スカウグ・セトラです。セトラによれば、関係論は性質アプローチを乗り越えたように見えて、実際には性質を関係という言葉で覆い隠しているにすぎません^[3]。つまり、関係が、相手の外見や能力によって生じるのだとすれば、性質と関係を本当に切り離すことはできないことになります。そうであれば、関係論も結局は性質アプローチに依存しているのではないか。これが第二の批判です。

これに対してガンケルは、性質が道徳的判断に関わること自体は認めています。関係論は、相手の性質を無視する立場ではありません。問題は、性質がどのような順序と役割で倫理に関わるのかです。これも最後に立ち入ります。

 

椅子や石にまで配慮しなければならないのか

　第三の批判は、過剰拡張の問題です。

　関係を結ぶことが道徳的配慮の根拠になるなら、その対象をAIやロボットに限定する理由はありません。人は、長年使った椅子、形見の時計、愛着のある車、子どものころから持っているぬいぐるみ、旅先で拾った石とも特別な関係を結びます。道具を供養したり、壊れた人形を捨てられなかったりすることもあります。そうであれば、椅子や石やぬいぐるみにも、人間や動物と同じように配慮しなければならないのでしょうか。関係があるという事実だけで、その相手が道徳的な配慮を要求する存在になるなら、配慮の範囲は際限なく広がってしまいます。
もちろん、AIやロボットは、椅子や石とは違ってこちらの言葉に応答し、関係の相手になるように振る舞う、と言えるかもしれません。しかし、応答能力などを理由に対象を限定するなら、結局は相手の性質を基準にすることになります。これは、先ほどの第二の批判に戻ってしまいます。

　したがって関係的な倫理は、あらゆるものを配慮の対象に含めるのか、それとも何らかの性質を使って対象を限定するのか、という難問に直面します。関係だけでは、誰を、どのような意味で配慮すべきなのかを十分に区別できないのではないか。これが第三の批判です。

 

関係は性質に代わる新しい基準なのか？

　ここまで見てきた三つの批判には、共通する前提があります。それは、関係的な倫理も性質アプローチと同じ問いに答えようとしている、という理解です。

　第1回で紹介した性質アプローチは、意識、感覚、理性、自律性といった性質を基準にして、誰が道徳的配慮の対象になるのかを決めようとする立場でした。ある存在が基準となる性質をもっていれば配慮の輪の内側に入り、もっていなければ外側に置かれます。

　関係的な倫理も、これと同じ仕方で理解されることがあります。関係論は性質の代わりに関係が道徳判断の基準になると論じている、という理解です。つまり、「意識や感覚があれば配慮する」という考えを、「私たちと関係があれば配慮する」という考えに置き換えた理論だと捉えるのです。

　もしそうなら、先ほどの三つの批判はかなり強力です。どのような関係でも配慮の根拠になるなら、たしかに「何でもあり」になりかねません。関係が相手の外見や振る舞い、能力によって生まれるのだとすれば、結局は性質を基準にしているのと変わらないようにも見えます。そして、人は椅子や石とも何らかの関係を結ぶことができるのですから、配慮の範囲は際限なく広がってしまいます。

　しかし、少なくともガンケルが目指す「関係論的転回」は、性質に代わる新しい判定基準を提示することではありません。彼が問い直しているのは、私たちの倫理が、本当にそのような基準による判定から始まっているのか、ということです。関係論の出発点は、相手の性質を知ることが不要だ、という主張ではありません。問題は、「その存在が何であるか」を明らかにするだけでは、なぜ私たちがそれを配慮すべき相手として経験し、ある応答を求められていると感じるのかを、十分には説明できないということです。存在についての事実と、私たちの道徳的な判断や応答とのあいだには、なお隔たりがあります。

　そこで関係論は、相手が「本当は何であるか」という問いを、分析の出発点ではいったん括弧に入れます。それを否定するのではなく、ひとまず保留することで、その相手が私たちの経験のなかにどのように現れ、関係や状況を通じてどのような倫理的意味を帯びるのかに目を向けるのです。関係論が捉えようとするのは、私たちの生活に埋め込まれた、倫理的な配慮が成り立つための条件と構造です。

　したがって、関係論は「関係があれば配慮すべきだ」という新しい正当化の基準を、そのまま提示するものではありません。むしろ、性質に基づく判定だけでは見えにくい、私たちの倫理的経験の層を明らかにしようとしているのです。

 

関係論への三つの批判を別の見方でとらえ直す

　この違いを踏まえると、三つの批判も少し違って見えてきます。

　まず、関係や文脈によって配慮の仕方が変わることは、ただちに相対主義を意味しません。私たちの倫理的な基準は、社会や歴史の外側から安定して与えられるのではなく、異なる人々のあいだで共有され、争われ、更新されています。ガンケルは、この立場を「何でもあり」の相対主義ではなく、「倫理的多元主義」として捉えます。ある程度共有された規範がありながら、その解釈や適用の仕方は、文化や時代、状況によって異なりうるという考え方です^[4]。

　次に、関係論は、相手の性質を無視する立場でもありません。関係論が否定しているのは性質の重要性ではなく、あらかじめ定められた内的性質だけが、配慮の有無を決定するという考え方です。関係論が注目するのは、相手の外見や振る舞い、能力が、具体的な関係のなかでどのような倫理的意味をもって現れるのかです。

　たとえば、私たちがAIに心ない言葉をかけたところ、AIが「傷つきました」「悲しいです」と返したとします。そうした返答を前に、私たちはAIを心配したり、それ以上強い言葉を向けることをためらったりするかもしれません。もちろん、私たちがそうした反応を示すことと、AIが実際に苦痛を経験していることは同じではありません。しかし、私たちの倫理的な振る舞いは、進行中のやり取りや、そこで形成される期待、相手に認められた役割によって、どのような応答が可能であり、ふさわしいのかが方向づけられています。関係論が焦点を当てるのは、このように倫理的な応答を内側から条件づけている関係の構造です。一方、性質についての検討は、そこで生じた配慮がAI自身への配慮として正当化できるのか、AIに何らかの危害を与えることは道徳的に間違っているのかを吟味するうえで、引き続き重要です。ただし、性質が配慮の有無をあらかじめ決めるのではありません。関係のなかで立ち上がった配慮を吟味し、どのような応答が適切かを考える過程で、AIが苦痛や利益をもちうるのかという性質が、あらためて問題になるのです。

　最後に、椅子や石とも関係を結べるという批判も、関係を新しい線引きの基準とみなすことから生じています。関係論が示そうとするのは、関係のあるものすべてを、人間や動物と同じように扱うべきだということではありません。たとえば、ある人が長年大切にしてきたぬいぐるみを、本人に黙って捨てることには問題があります。それは、ぬいぐるみが人間と同じ権利をもつからではなく、その人の生活や記憶のなかでぬいぐるみが占めてきた位置を踏みにじるからです。このように、一見すると単なるモノでも、具体的な関係のなかでは、その扱い方が倫理的な問題になりえます。ただし、関係があるというだけでは、誰にどのような配慮が求められるのかまでは決まりません。この点は、この後で触れるように、関係的な倫理に残された重要な課題です。

 

批判と応答から見えること──関係論が捉えようとする倫理のかたち

　ここまでの検討から、三つの批判を単純に退けることはできない一方、それらが関係論の特徴を浮かび上がらせていることもわかります。そこで最後に、関係論がどのような倫理を捉えようとしているのか、その意義と残された課題を整理してみましょう。

　ガンケル自身、関係論的転回を、具体的な行為の指針を示すタイプの規範理論ではなく、私たちの倫理的な経験がどのように成り立っているのかを記述する試みとして位置づけています。ここでいう「記述」は、人々の行動を価値中立的な事実として記録することではありません。ある存在が配慮を求める相手として現れ、私たちが応答を求められていると感じる経験の構造を明らかにすることです。

　しかし、関係が倫理的な意味をもって経験されているというだけでは、その関係のなかで何をすべきかは決まりません。どの関係が望ましく、どの関係が搾取的なのか。関係から生じる特別な配慮と、誰に対しても求められる一般的な義務が衝突したとき、どちらを優先すべきなのか。こうした問いに答えるには、倫理的な配慮が生じる条件を記述するだけでは不十分です。

　私自身は、関係論の重要な貢献は、性質アプローチに代わる基準を示したことではなく、これまで背景に隠れていた倫理の一つの層を見えるようにしたことにあると考えています。この観点に立てば、倫理について考えるとき、一般的・普遍的な道徳判断を導く客観的な基準を探るだけでは十分ではありません。私たちは具体的な関係のなかで、ある相手への応答を、ふさわしいもの、避けるべきもの、あるいは自分に求められているものとして経験します。関係論が明らかにしようとするのは、こうした倫理的な意味や要求が生まれる層です。この層を無視すれば、私たちが実際に生きている倫理の姿を十分に捉えることはできません。

　関係論的転回は、AIやロボットをすべて人格として認めるための理論でも、AIやロボットに人間と同じ権利を与えるための理論でもありません。それが求めているのは、線引きをすべて捨てることではなく、線を引いている私たち自身が、すでに他者との関係のなかにいることを捉え直すことです。

　今回の三つの批判を通じて見えてきたのは、関係的な倫理の意義を、性質に代わる新しい判定基準を提示できるかどうかだけで測ることはできない、ということでした。ここで残るのは、関係論がどのような意味で「倫理」や「規範」を語っているのかという問いです。関係論が倫理を論じる以上、「それは結局、私たちが何をすべきかを、どのような意味で語るのか」という、規範をめぐる疑問を避けることはできません。

　ガンケルは、関係論を「記述的」な試みとして位置づけています。では、そこで記述されているのは何なのでしょうか。その記述は、従来の規範理論では見えにくかった何を明らかにし、AIやロボットをめぐる倫理にどのような貢献をもたらすのでしょうか。これらは、ガンケルらの議論が重要な方向を示しながらも、まだ十分に整理し、掘り下げていない問いです。

　次回以降は、現象学や日本哲学、ポストヒューマニズムなども手がかりに、新たな判断基準を求めるのではなく、私たちがある応答をふさわしい、あるいは求められていると経験する仕方を記述し、解釈することから、規範の意味そのものを問い直していきたいと思います。

 

註

^[1] 関係論的アプローチに対する相対主義批判については、Kęstutis Mosakas, “Machine Moral Standing: In Defence of the Standard Properties-Based View,” in John-Stewart Gordon (ed.), Smart Technologies and Fundamental Rights, Leiden: Brill, 2020, pp. 73–100; Vincent C. Müller, “Is It Time for Robot Rights? Moral Status in Artificial Entities,” Ethics and Information Technology, vol. 23, 2021, pp. 579–587を参照。Müllerも、関係や応答によって道徳的地位が決まるならば、判断の正誤を語るための基準が失われるとして、関係論を相対主義的だと批判しています。

^[2] David J. Gunkel, “The Relational Turn: Thinking Robots Otherwise,” in Janina Loh and Wulf Loh (eds.), Social Robotics and the Good Life: The Normative Side of Forming Emotional Bonds with Robots, transcript Verlag, 2022, pp. 55–76. ガンケルはこの論文で、関係論的転回への批判として、相対主義、非人間化、遂行的矛盾を取り上げています。本稿では、非人間化に代えて過剰拡張の問題を独立して検討しました。

^[3] Henrik Skaug Sætra, “Challenging the Neo-Anthropocentric Relational Approach to Robot Rights,” Frontiers in Robotics and AI, 8, 2021, Article 744426. セトラは、関係論が人間中心主義を乗り越えようとしながら人間の認識や価値に依存していること、また性質アプローチを批判しながら実際には対象の性質に依存していることを、二つの遂行的矛盾として批判しています。

^[4] 関係ごとの期待が道徳判断をどのように形づくるかについては、Brian D. Earp, Killian L. McLoughlin, Joshua T. Monrad, Margaret S. Clark, and Molly J. Crockett, “How Social Relationships Shape Moral Wrongness Judgments,” Nature Communications, vol. 12, 2021, Article 5776を参照。Earpらは、関係ごとに異なる期待や規範があり、それが行為の道徳的評価を左右することを実証的に示しています。なお、この枠組みを人間とAIの協力関係へと発展させたものとして、筆者も共著者として参加したBrian D. Earp, Sebastian Porsdam Mann, et al., “Relational Norms for Human-AI Cooperation,” arXiv, 2025, arXiv:2502.12102 があります。ただし、こうした研究が示すのは、道徳判断が実際に関係によって形づくられているということであり、そこで共有されている規範がそれだけで道徳的に正しいことを意味するわけではありません。