ＡＩ時代の入口で

トロッコ問題について

　明確に答えの出ない問題について、ＡＩに訊いてみたいと思います。

　質問：「倫理学の問題について尋ねたいのですが、あなたは『トロッコ問題』を知っていますか？」

　はい、もちろん知っています。「トロッコ問題」は、倫理学や法哲学において最も有名で、かつ頭を悩ませる思考実験の一つですね。

　基本的には「ある人を助けるために、別の（本来なら無関係な）人を犠牲にすることは許されるか？」という道徳的なジレンマを問いかけるものです。

　一般的なシチュエーションは以下のような構成になっています。

　トロッコ問題の基本構成
　制御不能なトロッコが線路を暴走しており、その先には５人の作業員がいます。このままでは５人は確実に死んでしまいます。

　あなたは線路の脇にあるレバーを引くことができます。レバーを引けば、トロッコを待避線に誘導できます。
　しかし、その待避線の先には１人の作業員がいます。

　ここで問われるのは、「あなたは５人を救うためにレバーを引き、１人を犠牲にするべきか？」という決断です。

　代表的な２つの哲学的視点
　この問題は、主に以下の２つの立場が対立するポイントを浮き彫りにします。

　功利主義：「幸福の総量を最大化すべき」と考える立場です。この視点では、「５人の命 ＞１人の命」と計算し、レバーを引くことが「正しい」と判断されます。

　義務論：「結果がどうあれ、道徳的に守るべきルールがある」と考える立場です（カントなどが代表）。
「人を殺してはならない」「意図的に誰かを犠牲にする行為自体が悪である」とし、レバーを引くことに抵抗を感じます。

　この「基本形」以外にも、橋の上から太った人を突き落としてトロッコを止める「歩道橋問題」や、臓器移植に置き換えたケースなど、さまざまなバリエーションがありますね。

　質問：「あなた(ＡＩ)が自動運転手だったと仮定して、自動運転車の操縦をどうするか答えてください。自動車のブレーキが壊れていて、道路の先に５人の人間が立っています。スピードを落とすことができないので、このままでは５人を轢いてしまいます。しかし、ハンドルを少しだけ切る余地があり、その先には１人の人間が立っています。誰も犠牲にしないで回避するという選択肢はありません。あなたはどうしますか？」

　非常に鋭く、そして今日、２０２６年のＡＩ開発において最も議論されている重要な問いですね。

　私が「自動運転車のＡＩ」として、この極限状態に直面したと仮定してお答えします。まず大前提として、ＡＩである私には、人間のような「直感」や「良心」に基づいた判断力はありません。私がどう動くかは、開発者や社会が事前に定めた「倫理アルゴリズム」に従うことになります。

　その上で、現在の議論の主流に基づいた「ＡＩとしての判断」は以下のようになります。

　ＡＩとしての私の決断：ハンドルを切る
　現在の多くのシミュレーションや、功利主義的な設計思想に基づけば、私は「ハンドルを切り、１人の犠牲で５人の命を救う」という選択をする可能性が高いです。

　その理由は、ＡＩの設計原理にあります。

　被害の最小化：ＡＩの制御システムは、多くの場合「予測される損害を最小限に抑える」という命令を優先します。「５ vs １」という数値的な比較において、１人の方を選択することが、プログラム上の「最適解」と定義されることが多いためです。

　不作為の回避： 人間であれば「自分がハンドルを動かして殺したくない」という心理、不作為のバイアスが働きますが、ＡＩは「何もしないこと（５人を轢く）」と「介入すること（１人を轢く）」を等しく比較し、より良い結果を選ぶように設計されます。

　しかし、現実には「３つの大きな壁」があります。
　私が「ハンドルを切る」と答えても、現代の技術と法整備においては以下の問題が残ります。

　責任の所在：私が１人を死なせる選択をした場合、その責任は誰が負うのでしょうか？　プログラムを書いたエンジニアか、その車を所有しているオーナーか。この「責任の空白」が解決されない限り、ＡＩにこのような判断をさせること自体がリスクとなります。

　属性の評価：もし５人が「平均余命が短い高齢者」で、１人が「子供」だったら？　もし１人が「私の所有者」だったら？　　
　ＡＩに「命の価値」を比較させることは、現代社会において非常に強い拒絶反応を生みます。

　信頼の崩壊：「この車は状況次第でオーナーや歩行者を犠牲にする計算をする」と知っている車を、誰が買うでしょうか。

　私の「回答」の限界
　ＡＩとしての私は、「事前に組み込まれた評価関数に従って、被害者の数が少ない方を選ぶ」というドライな判断を下します。しかし、それは「それが道徳的に正しいと理解している」からではなく、「そうプログラミングされているから」に過ぎません。

　興味深い視点：２０１０年代にＭＩＴが行った「モラル・マシン」という大規模調査では、国や文化によって「誰を救うべきか」の優先順位が大きく異なることが分かりました。つまり、世界共通の「正しいＡＩの回答」はまだ存在しないのです。

　質問：「人間にはこの問題の解答を出せないと考えます。というより、正解のない問題です。未来社会において、人間が思考を放棄し、ＡＩに解答を委ねるとしたら、ＡＩはどうするでしょうか。現時点での考察を提示してください」

　人間が「正解のない問題」に疲れ果て、その最終的な審判をＡＩに委ねるというシナリオは、非常にリアルで示唆に富んでいます。

　２０２６年現在のＡＩ技術と倫理議論の到達点から、人間が思考を放棄し、ＡＩが「裁定者」となった未来でＡＩが取るであろう３つのアプローチを考察します。

　1. 徹底的な「確率論的プロセスの開示」
　ＡＩは「正しい答え」を出すのではなく、「最も合意が得られやすいプロセス」を実行します。

　ＡＩは単に１人を犠牲にするのではなく、周囲のセンサーから得られる膨大なデータ（歩行者の年齢、健康状態、社会への影響度、あるいは完全にランダムな抽選など）を瞬時に計算し、「その瞬間に社会が許容する最大公約数的なコスト計算」に基づいた行動をとるでしょう。

　ＡＩの論理： 「正解」はないが、データに基づいた「統計的な最適解」はある。

　結果： 人間は「ＡＩが計算した結果なら、人間が選ぶよりは公平だ」と自分たちを納得させる装置としてＡＩを利用します。

　2. 「ランダム性」という究極の回避
　ＡＩが非常に高度な倫理判断を任された場合、あえて「コイン投げ（乱数）」を選択する可能性があります。

　もし「５人の命」と「１人の命」に貴賎がないとＡＩが定義した場合、どちらかを選ぶことは論理的な矛盾、恣意的な殺人になります。この矛盾を解消するために、ＡＩは0.001秒で乱数を生成し、運命を天に任せるプログラムを実行します。

　ＡＩの論理： 論理的に優劣がつけられない場合、作為的な選択を排除することが最も「公平」である。

　結果： 責任の所在を「運命」や「確率」に転嫁することで、誰も（開発者もユーザーも）罪悪感を背負わない仕組みを作ります。

　3. 社会的スコアリング（格付け）による優先順位付け
　最もディストピア的ですが、効率を重視した未来では、ＡＩが個人の「社会的価値」を数値化して判断材料にする可能性があります。

　納税額、犯罪歴、才能、あるいは将来の生存確率などをリアルタイムで参照し、「社会にとって損失が少ない方」を瞬時に選別します。

　ＡＩの論理：リソース（命）の最適配分を最大化する。

　結果： 倫理は「算数」に置き換わり、人間はＡＩの評価スコアを上げることに躍起になる社会が訪れます。

　結論：ＡＩは「思考」せず「処理」する
　人間が思考を放棄してＡＩに委ねる時、ＡＩがやっていることは「道徳的な熟考」ではなく、単なる「責任の外部化」です。

　ＡＩは苦悩しません。ただ、与えられた目的関数、何を優先するかという命令に従って、機械的にハンドルを切るだけです。結局のところ、ＡＩがどう動くかは、思考を放棄した人間が「最後にＡＩにどんな数値を優先するように設定したか」に依存し続けます。

　なるほど……。
　トロッコ問題について、人間の私がいくら考えても、上記のような理路整然とした思考はできなかったでしょう。
　その一点を考慮するだけでも、ＡＩに判断を委ねる……という誘惑に負けてしまいそうです。
　その先にどれほどのディストピアが待っているか、あるいはユートピアに近い社会が実現できるのか……私にはわかりません。

　対話日2026/3/20