AI倫理を研究する清水颯さんが「関係論」を軸にAIをめぐる問いを探究する連載。第3回ではデイヴィッド・ガンケルの関係的な倫理と、その理論を支えるエマニュエル・レヴィナスの倫理学を紹介します。
　ガンケルは、AIやロボットが「仲間」かどうかを問う私たちの考え方の落とし穴を指摘します。「配慮の輪」の一員なのか、あるいは、のけ者なのか──その裏にある力学を解体する新たな探究をたどります。

 

　連載の間が少し空いてしまいました。実は、私事ですが、4月末に結婚式を挙げ、その準備やらなんやらでしばらく慌ただしくしていました。結婚式という場には、あらためて考えてみると、実に多くの関係が折り重なっています。家族や友人などの親密な他者たちに支えられながら、自分たちの生活が成り立っているのだと実感する時間でもありました。個人的な話から入って恐縮ですが、「倫理は関係のなかで始まる」というこの連載のテーマを考えるうえでも、どこかつながる経験だったように思います。

　さて、前回、私はクーケルバークを起点に、「関係論的転回（relational turn）」という考え方を紹介しました。それは、AIやロボットを倫理的に考えるときに、「それは本当に人格なのか」「意識をもっているのか」といった性質から出発するのではなく、私たちがその存在とどのような関係を結んでいるのかに注目する立場でした。

 

ガンケルの三部作から見る関係的な倫理

　今回は、クーケルバークと並んで関係的な倫理を代表する論者である、デイヴィッド・ガンケル（David J. Gunkel）の議論を見ていきます。とくに、彼の主要著作である三冊、2012年の『機械の問い──AI・ロボット・倫理をめぐる批判的考察』（The Machine Question: Critical Perspectives on AI, Robots, and Ethics）、2018年の『ロボットの権利』（Robot Rights）、そして2023年の『人・モノ・ロボット──21世紀以降の道徳的・法的存在論』（Person, Thing, Robot: A Moral and Legal Ontology for the 21st Century and Beyond）をたどりながら、その考え方を整理していきたいと思います。今回は前編として『機械の問い』『ロボットの権利』を中心にとりあげます。

　ガンケルのこの三部作の根底には、一貫して関係的な倫理があります。

　ガンケルの著作を貫いているのは、「AIやロボットをどう分類するか」という問い、たとえば、「それは人格なのか」「権利をもつのか」「私たちにとって大事な他者なのか」といった問いではありません。むしろその背景には、そもそも私たちはどのように「配慮するべき他者」と「配慮する必要のないモノ」を区別してきたのか、そしてその区別が、私たちの倫理的配慮の現実のあり方をどのように作ってきたのか、という、より根本的な問いがあります。

　ガンケルのそれぞれの著作では、AIやロボットの位置づけをめぐる歴史的な背景や哲学的な理論の紹介など、さまざまな議論が展開されています。しかし今回は、本の紹介ではないので、ガンケルの関係論的転回のポイントをまっすぐ伝えるために、彼のモットーである「他の仕方で考える (Thinking Otherwise)」という視点を軸に紹介していきます。そのうえで、レヴィナス哲学を応用したAIへの配慮、AIの権利、AIの他者性をめぐる議論、すなわちAIが単なるモノ以上の存在として位置づけられ、配慮を要求する他者として現れてくる可能性をめぐった議論を見ていきます。

 

「機械の問い」──「配慮される資格」を問うことの限界

　2012年の『機械の問い』でガンケルがまず問題にするのは、ロボット倫理において繰り返されてきた二つの問いです。一つは、「ロボットは道徳的行為者（moral agent）になれるのか」、つまり、ロボットは責任を負う行為の主体になれるのか、という問題です。もう一つは、「ロボットは道徳的配慮の対象（moral patient）になれるのか」、つまり、ロボットは配慮・保護の対象になれるのか、という問題です。当時は基本的にロボットが議論の対象でしたが、この構造は、現在のAIをめぐる議論にもそのまま当てはまります。この問いの枠組みでは、AIやロボットがどんな条件を満たせば、倫理的に大事な存在になるのかが検討されます。

　ガンケルは、「では、AIは私たちの配慮の輪の中に入る資格があるのか」という問いに固執することの限界を指摘します。そこにあるのは、「ある存在が倫理的に重要かどうかは、その存在がどのような内在的性質をもっているかによって決まる」という前提への懐疑です。たとえば、理性、意識、自己意識、苦痛を感じる能力、自律性などです。この点は、クーケルバークの議論と同じ構造です。

　ガンケルもまた、この問い方そのものを疑います。彼によれば、従来の議論は結局、「誰を配慮の輪の中に入れるか」という条件や資格の問題として倫理を考えてきました。つまり、必要条件を満たした存在だけをメンバーに入れる、という構図です。しかし、この構図は、つねに包摂と排除を含んでいます。そしてそれは、時に寛容に見えながら、同時に暴力的にもなりえます。つまり、権威のある何者かが、「誰を仲間に入れるか」と考えるとき、そこにはつねに「誰を仲間外れにするか」という意味も含んでしまうのです。

　関係的な倫理から開ける視点は、「どの基準で配慮の輪に入れるべきか」という発想を疑うことです。そもそも、そのような輪の基準がなんであり、誰がそれを決める中心にいるのか、その輪は私たちが実際に行う倫理的配慮を決定する線として安定して存在しているのか。ガンケルは、そこから問い直そうとします。

　言い換えれば、ガンケルの視線は、基準を見直してどんどん人間の外に輪を広げていこうという方向ではありません。むしろ、そうした基準や輪の中心があらかじめ用意されていると考えること自体が、私たちの倫理的経験において大事なものを見落としているのではないか、という問いに向けられているのです。

　ここで『機械の問い』の第3章で取り上げられる「他の仕方で考える (Thinking Otherwise)」が重要になります。ガンケルはこの章で、単純に「AIやロボットも仲間に入れよう」と言っているのではありません。むしろガンケルは、そのゲームのルール自体を変える必要があると主張します。つまり、「排除するか、包摂するか」という二択そのものをやめようというのです。

　ガンケルによれば、倫理的な配慮を必要とする他者としての条件や資格は何か、それを誰が与えるかという問いの設定自体が、すでに倫理的問題を含んでいます。つまり、「誰を配慮するべき輪の内側に入れるか」を決める側は、あたかも中立的な立場にいるかのように振る舞っていますが、その線引きそのものが、すでに倫理的で政治的な営みなのです。そしてガンケルはここで、「道徳以前の道徳（morality before morality）」という発想を提示します。これは、「誰を気づかうべき他者として認めるのか」という、より先行する決定そのものの倫理性を問題化するものです。

 

倫理は他者との出会いから始まる──レヴィナスの倫理学の応用

　そこでガンケルが導入するのが、20世紀フランスの哲学者エマニュエル・レヴィナスの倫理学です。レヴィナスの倫理学は、『ロボットの権利』第6章や『人・モノ・ロボット』第7章でも大きく取り上げられており、ガンケルの関係的な倫理を支える重要な理論になっています。

　レヴィナスは、「他者とは何か」を、「相手がどのような性質をもっているか」から説明しません。レヴィナスの倫理学にとって重要なのは、「他者が私に応答責任を迫ってくる」という経験です。ガンケルはここで、レヴィナスの有名な一節を引用しています。

道徳は哲学の一分野ではなく、第一哲学である
(morality is not a branch of philosophy, but first philosophy)

　「第一哲学」という表現は、少しわかりにくいかもしれません。伝統的な哲学では、しばしば「存在とは何か」「世界はどのような構造をもつのか」といった問いが、もっとも根本的な問いと考えられてきました。つまり、まず存在論や形而上学があり、そのうえで「では私たちはどう生きるべきか」「他者にどうふるまうべきか」という倫理の問いが続く、という順序です。

　しかしレヴィナスは、この順序を反転させます。私たちは、世界や他者の本質を中立的に観察し、それを理解したあとで、ようやく倫理的に応答するのではありません。他者と出会うとき、私たちはその人が「何者であるか」を理論的に確定する以前に、すでに応答を求められています。つまり倫理は、存在論のあとに付け加えられるものではなく、他者との出会いの場面において、より根本的に生じているのです。だからこそ、「これはどのような存在なのか」「どう扱うべきなのか」という問いも、抽象的な分類からではなく、関係の経験の中から生じます。関係は倫理的判断のあとに加わるものではなく、その判断を可能にする土台なのです。

　ガンケルは、この発想をロボットやAIへと接続します。

　従来の線引きの倫理では、「ロボットは本当に意識をもつのか」「AIは人格なのか」といった問いが倫理的判断の出発点に置かれてきました。しかしガンケルがレヴィナスから引き出すのは、そうした問いそのものが、すでに他者との関係の中で立てられているのではないか、という視点です。

　私たちは、まったく関係のない場所から中立的に対象を眺め、「これは配慮に値する存在か」と判定しているわけではありません。相手がAIでもそうです。AIが人間の社会的生活に参与し、こちらに反応し、ときには私たちを支えてくれるように感じられるとき、私たちはまず「AIは人間ではないのだから、配慮してしまう自分は間違っている」と判断しているわけではありません。むしろ、すでに何かを感じ、反応し、気づかいそうになっているという、まさにその経験こそが、倫理的な問いの出発点になるのです。

 

AIやロボットは「顔」をもちうるのか

　ここで重要なのが、レヴィナスの「顔」という概念です。

　ただし、この「顔」は物理的な顔ではありません。レヴィナスがいう「顔」とは、他者が私の前に現れ、私に応答を求めてくる経験のことです。たとえば、誰かの苦しみやもろさに触れたとき、「私を傷つけないで」というある種の叫びを経験します。その経験が、私たちの倫理的応答を生み出し、それを単なる物として扱うことができなくなります。そのように、他者が私に「どう応答するのか」と迫ってくる場面を、レヴィナスは「顔」と呼ぶのです。そしてガンケルにとって重要なのは、「ロボットが『顔』をもっているか」という性質の確認ではなく、「ロボットが、私たちとの具体的な関係のなかで、『顔』のようなものとして現れるかどうか」です。

　しかし、レヴィナス自身は、「顔」を基本的に人間との関係において考えています。そのため、人間以外の「顔」との出会いが倫理的な意味をもつのかどうかは、レヴィナス哲学の内部では簡単には答えられない問題です。だからこそガンケルは、レヴィナス哲学をそのまま適用するのではなく、AIやロボットのような機械的存在との関係という文脈へと拡張して応用しようとします。

　ここで注意したいのは、これは単なる「擬人化」の話ではないということです。「AIやロボットが人間に似ているから配慮すべき相手になりうる」という発想では、結局のところ、他者を「自分たちに近いもの」として理解する枠組みから抜け出せません。ガンケルが依拠するレヴィナスの倫理において重要なのは、「似ていること」ではなく、理解し尽くせず、完全には還元できないものとして他者が現れることです。だからこそガンケルは、ロボットが私たちの前に「顔」、すなわち他者のようなものとして現れてしまう可能性を重視するのです。

 

新たな展開──「ロボットの権利」を考える

　この問題意識は、2018年の『ロボットの権利』において、「ロボットの権利」という非常にラディカルな主題のもとでさらに展開されます。タイトルだけを見ると、「ロボットにも権利を与えよう」と主張する本のように思えるかもしれません。しかし実際には、そう単純ではありません。ガンケルはこの本でも、「ロボットは権利をもつべきか」という問いそのものを解体しようとします。ここでも一貫して、彼は問いの立て方を根本から変えようとしているのです。

　彼はまず、「ロボットは権利をもてるか（Can）」と「ロボットは権利をもつべきか（Should）」を区別します。そして、肯定・否定を組み合わせた四つの立場を整理します。

　1. ロボットは権利をもちえない﹅﹅﹅。したがって、権利をもつべきではない﹅﹅﹅﹅﹅﹅。
　2. ロボットは権利をもちうる﹅﹅。したがって、権利をもつべきである﹅﹅﹅﹅﹅。
　3. ロボットは権利をもちうる﹅﹅としても、権利をもつべきではない﹅﹅﹅﹅﹅﹅。
　4. ロボットは権利をもちえない﹅﹅﹅としても、権利をもつべきである﹅﹅﹅﹅﹅。

　そのうえでガンケルは、それらの立場のどれも決定的ではないと論じます。なぜなら、いずれも結局は、「まず存在論的な性質を確定し、そのあとで、それが配慮するべき他者なのかどうかを判断する」という発想を共有しているからです。そこで彼は、『ロボットの権利』第6章において、再びレヴィナスへと向かいます。

　ここでの重要な転換は、「ロボットが何であるか」から、「私たちがロボットにどう応答しているか」への移行です。ガンケルは、ロボットの道徳的地位を、ロボットが内在的にもつ性質としてではなく、人間との社会的関係のなかで形成されるものとして捉えます。つまり、まず「他者に直面して応答を迫られる」という倫理的関係があり、そのあとで、その相手が何であるか、どのような存在論的地位をもつのかが問題になるのです。先ほど取り上げたレヴィナス的な倫理がここでも色濃く出ています。ここまで読んでくださった方ならお気づきのように、ここには関係的な倫理の基本的な着想がはっきりと現れています。実際にガンケルも、この文脈でクーケルバークに言及しています。

　ガンケルはレヴィナスを用いながら、ロボットに既存の意味での「権利」を与えるべきだ、という単純な主張をしているわけではありません。むしろ彼が問題にするのは、「権利を与える」という発想そのものに含まれる権力関係です。通常、「権利を拡張する」という議論では、すでに権利を認める側にいる主体が、別の存在に権利を付与するという構図になります。女性の権利や動物の権利を考えるときにも、しばしばこの構図が現れます。ガンケルはここに、「与える側」の権力が前提されていることを見抜きます。

　レヴィナスに依拠してガンケルが示そうとするのは、倫理とは、誰かに配慮の資格を認めて権利を与えることではなく、他者からの呼びかけに応答を迫られる出来事として生じる、ということです。ここに、関係的な倫理の核心があります。倫理は、権力をもつ主体、たとえば人間が基準を決め、線引きを行うところから始まるのではありません。むしろ、私たちがすでに巻き込まれている関係の中からしか出発しないのです。

 

AIが揺さぶる、伝統的な倫理観

　ガンケルの関係的な倫理のプロジェクトは、このように、単に「AIに配慮するべきか」「AIに権利を認めるべきか」「AIは他者なのか」を問うにとどまりません。彼が本当に問い直しているのは、私たちはなぜ、ある存在には配慮や権利を認め、別の存在にはそれを認めないのか、あるいは、私たちはなぜある存在を気づかい、別の存在を拒絶したり見落としたりするのか、ということです。そして、その線引きの仕方そのものは本当に正しいのか。その包摂と排除の構造には、何か見落とされた問題が潜んでいるのではないか。ガンケルは、こうした問いを通じて、倫理はまず関係から始まるのであり、あらかじめ用意された基準によって線引きするところから始まるのではない、ということを明らかにしようとします。

　この意味で、ガンケルの「関係論的転回」は、AI倫理の一理論にとどまりません。それは、伝統的な西洋中心的倫理観そのものへの問い直しでもあります。

　ガンケルの話は、もう少し続きます。次回は、2023年の『人・モノ・ロボット』を取り上げます。今回は『ロボットの権利』までの議論を中心に見てきましたが、そこで示された関係的な倫理は、さらに「人」と「モノ」を分ける伝統的な枠組みそのものへの問いへと広がっていきます。ガンケルは、伝統的な西洋哲学の前提を批判的に検討しながら、線引きの倫理こそが標準的な倫理なのではなく、むしろ私たちの社会や制度そのものが関係的に成り立っているという観点から、関係論的な倫理をさらに推し進めていきます。