私たちはそもそも倫理的か。モラルマシーンから考える私たちの“危ない基準”

AIに倫理を教える、という言葉を聞くたびに、私は少し立ち止まってしまいます。

なぜなら、その言葉の裏側には、ほとんどの場合、ひとつの前提が隠れているからです。

「人間には倫理があり、AIにはまだ倫理がない」

でも、本当にそうでしょうか。

私たちは、そもそも倫理的なのでしょうか。

この問いを考えるために、ひとつ有名な実験を紹介したいと思います。MITの研究者たちが公開した「Moral Machine」というオンライン実験です。これは、自動運転車が避けられない事故に直面したとき、誰を助け、誰を犠牲にするのかを、世界中の人々に選ばせるものでした。2018年にNatureで発表された論文によれば、この実験には10言語で、233の国と地域から、約4,000万件の判断が集まりました。(Nature)

たとえば、ブレーキが壊れた自動運転車がある。まっすぐ進めば高齢者をはねる。進路を変えれば子どもをはねる。あるいは、歩行者を助けるか、乗客を助けるか。信号を守っている人を助けるか、信号無視をしている人を助けるか。

私たちは、画面上でクリックするだけです。

けれど、そのクリックは恐ろしいほど重い。

そこでは、人間の命が属性によって並べられます。若いか、年老いているか。健康そうか、そうでないか。社会的地位が高そうか、低そうか。人間か、動物か。多数か、少数か。

論文では、世界的に比較的強く見られた傾向として「動物より人間を助ける」「少数より多数を助ける」「高齢者より若者を助ける」といった選好が報告されています。一方で、性別や社会的地位などに関する判断は国や地域によってかなり異なっていました。

ここで重要なのは、「だから自動運転車は若者を優先すべきだ」という話ではありません。むしろ逆です。

この実験が暴いてしまったのは、私たちがいかに簡単に、命を比較可能なものとして扱ってしまうか、ということです。

もちろん、実験に参加した人たちは悪人ではありません。おそらく多くの人は、与えられた状況の中で、苦しみながら、よりましに見える選択をしただけでしょう。

でも、その「よりまし」という感覚の中に、すでに危ない基準が入り込んでいる。

若い命の方が価値があるのではないか。ルールを守っている人の方が救われるべきではないか。社会に貢献していそうな人の方が優先されるべきではないか。

こうした判断は、日常の中ではあまり露骨に言葉にされません。けれど、クリック式の実験に置かれた瞬間、私たちの中に沈んでいた基準が、データとして立ち上がってしまう。

AIの怖さは、ここにあります。

AIは突然、どこかから差別を持ってくるわけではありません。多くの場合、AIは私たちの判断を学びます。私たちのクリック、私たちの評価、私たちの履歴、私たちの沈黙、私たちの「まあ仕方ない」を学習していく。

だとすれば、「AIに人間の価値観を反映させよう」という言葉は、かなり危うい。

なぜなら、人間の価値観は、いつも美しいとは限らないからです。

モラルマシーンの研究者たち自身も、このデータを政策決定の最終回答として使うべきではないと述べています。参加者は自発的に集まった人々であり、各国の人口構成を代表しているわけではありません。また、実験では登場人物の属性や事故結果が100%確実に分かるという、現実にはかなり非現実的な前提が置かれています。

それでも、この実験は重要です。

なぜなら、これは自動運転車の問題である以上に、私たちの問題だからです。

私たちは毎日、小さなモラルマシーンを動かしています。

SNSで誰を叩いていい人と見なすのか。職場で誰を「空気が読めない人」と呼ぶのか。学校で誰を「普通ではない」と分類するのか。社会の中で、誰の声をノイズと呼び、誰の苦しみを例外として処理するのか。

そのたびに、私たちは何かを選別しています。

そして、その選別の多くは、明確な悪意ではなく、「効率」「安全」「合理性」「みんなそうしている」という顔をして現れます。

ここがいちばん怖いところです。

差別は、いつも怒鳴り声で現れるわけではありません。むしろ現代の差別は、かなり静かです。スプレッドシートの中にあり、UIの選択肢の中にあり、評価項目の中にあり、チェックボックスの中にある。

誰かを排除している感覚がないまま、排除が進む。

モラルマシーンが見せたのは、まさにこの構造です。命の問題ですら、