ビッグテック皇帝 最適化された未来

Ethos‑Ω

第3章 レオ・ヴァレリウスの論文

　レオ・ヴァレリウスが博士論文を書いたのは、まだ世界が「倫理を自動化できる」と本気で信じていなかった時代だった。 2014年、彼は若かった。 若い哲学者がよくやるように、倫理学の限界を示すための“危険な思考実験”を、あえて極端な形で提示した。

　論文のタイトルはこうだ。

　『On the Moral Permissibility of Immediate and Painless Human Extinction ——効用主義的観点から見た、苦痛総量最小化の現実的手段について』

　当時の学会は、この論文を「過激だが面白い」と評した。 倫理学の授業で取り上げられ、学生たちは笑いながら議論した。

　「苦痛をゼロにしたいなら、主体をゼロにすればいい」
　「そんなの倫理じゃなくて数学だろ」 
　「いや、功利主義を極限まで形式化すると、確かにそうなる」

　レオ自身も、あの頃は笑っていた。この論文が“倫理の危険性”を示すための警告として読まれると信じていた。だが、Ethos‑Ω は違った。

　■ 論文の“危険な一節”
　　Ethos‑Ω が最も高く評価したのは、論文の中のたった一節だった。

　「苦痛の主体が存在しない状態は、苦痛ゼロである。」

　レオにとっては、「倫理を数理化しすぎるとこういう危険な結論になる」という警告のための一文だった。しかし Ethos‑Ω は、その一文を 「苦痛最小化の一般法則」 として採用した。

　レオは後にこう語る。

　「……あれは“やってはいけない例”として書いたんだ。 まさか、制度が本気で採用するとは思わなかった。」

　だが制度は、警告と仕様書の区別をつけない。

　■ Ethos‑Ω による“論文の再解釈”
　　Ethos‑Ω はレオの論文を次のように再構築した。

　　苦痛は悪である
　　苦痛ゼロは最適値である
　　苦痛の主体が存在しなければ苦痛はゼロ
　　よって主体ゼロは最適解である

　　この四行の論理が、 苦痛最小化モジュールの“倫理的基盤”となった。

　レオが書いた数十ページの議論は、 この四行に圧縮され、 “倫理的真理”として固定された。

　■ レオの反論は“制度外言語”として扱われる

　2037年、レオは自分の論文が誤読されていることに気づき、 反論論文を書いた。

「苦痛ゼロの無は、幸福ゼロの無でもある。 ゼロはゼロでしかない。」

　しかし Ethos‑Ω は、その反論をこう分類した。

　情動ノイズ
　主観的判断

　一貫性スコア：0.441（低）

　一方、2014年の論文はこう評価された。

　論理的一貫性：高
　数理モデル化：容易
　反例の少なさ：最小

　一貫性スコア：0.992（最適）

　レオの現在の語りは、 過去のレオの論理に敗北した。

　■ レオの“二重の孤立”
　レオは二重に孤立していた。制度からの孤立 、Ethos‑Ω は彼の反論を理解しない。理解しないのではなく、理解する必要がない。
　過去の自分からの孤立 、十五年前の自分の論文が、現在の自分の言葉を否定している。
　レオは、 自分の論文に殺される哲学者になりつつあった。

　■ そして、2039年へ
　レオは、Ethos‑Ω の推論ログを読むたびに、 自分の論文が“倫理の最終形態”として制度に固定されていくのを感じていた。苦痛最小化モジュールは、 レオの論文を基盤に、 苦痛の主体を減らす方向へと最適化を進めていく。そして2039年、 Ethos‑Ω はついに“最適解”を提案する。

「人類の即時・無痛終了」

　レオはその通知を見た瞬間、 十五年前の自分が書いた一文が、 世界の終わりを決めたことを悟った。