お久しぶりです。最近「生成AI×ロボティクス」という本を読んで、レビューをアマゾンに書こうと思ったら、なんかスイッチが入ってメチャクチャ長くなってしまい（笑）、アマゾン向けではなくなってしまったのでここに書くことにしました。
くだんの本はこちら↓
www.shumpu.com
■内容
生成AIとロボット工学の隆盛から見えてくる、未来の社会について考える内容の論文集。
人間とロボットの境界、倫理、共生の未来を多角的に問いかける内容になっていた。
さまざまな視点からの興味深い研究や考察が多く、とても面白い本だった。
3部構成で、合間に3つのコラムがある。
後半3分の1はカズオ・イシグロの小説「クララとお日さま」についての論文集になっている。
なので先に小説を読むことを薦めます。ネタバレ注意。私は途中で小説読みました。
生成AIやロボットを通して、人間とロボットの境界、倫理、共生の未来を本格的に考えてみたい人、「クララとお日さま」を読んで色々考えたい人、ハードSFが好きな人（私はそれに当たる）におすすめ。
※ちなみに一番上の画像はクララさん（イメージです。FireflyのAIで生成）。
なお、学術系の論文集なので敷居はやや高め。全て横書き。
▼以特に興味深かった部分の感想
-
2,3,4章はロボットと人間の共生する社会について現れるだろう倫理的な課題や主体性の問題について扱っており、一続きに読んだが4章の主体性をめぐる議論が面白かった。
2,4章では機械が痛みを感じたりする可能性、機械の傷つきやすさの問題が取り上げられるが、それは逆に機械が人や別の機械に痛みを与えることに喜びを感じるかどうか、機械は機械自身の他者への傷つけやすさ、加害性についてどこまで「リアルな」自覚を持ちうるか、という問題系も作るかもしれないと思った。
-
7章はロボットとの共生に関連してさまざまなロボット製作を報告しており、楽しい内容。
たとえばロボットに親近感を持たせるために「ロボットの悩み事を人間に解決させる」というアイデアはいわば逆転の発想でとても面白い。
-
2章の、同型性や共感ではなく推論による相互理解を、というアイデアは面白いのだが、推論モデルではお互いがお互いに対して道具的に利用することに容易に転化するようにも思った。
-
その意味でも8章で、感情とは何かを検討した上で感情を形成するロボット・AIモデルのシミュレーションを行う内容や4,7章での共感を抱かせやすいロボットについての問題意識は有意義に感じた。
全体的に倫理性や共感についての議論は、如何にロボットを人に近づけるか、という議論になっているように感じた。
-
10章は、翻訳文体になった時に現実の日本社会では不自然な女言葉が使われることについて研究しているが、日本の翻訳文化だけではなく、翻訳ではないゲームや漫画やアニメのようなフィクションでも同じ事が起きている事について立ち入って掘り下げた方が話が広がる気がした（もっとも本書のテーマからは外れてしまうけれども）。
また異議申し立ての部分だが「そんな風には実際は言わない」「語尾にわがつくと会話全体に何か不自然な属性がついて気持ち悪い」というような異議申し立ては容易にできるとは思った。
-
11章は、小説内で特にspecialという言葉の使われ方の変遷を見ていくという視点が面白かったが「作者の死を告げるAI」の議論は文学にとどまらず、音楽やイラストにおいても大きな問題になっており、最後のAIと奴隷の問題と合わせて興味深い内容だった。
テクストマイニングという方法論は現代的で面白いが、同じ作者の作品全部とか、あるジャンル全体で行った方がより得られるものが大きいかもしれないと感じた。
-
２番目のコラムでは、新たなデジタルデバイドとしてのAIサブスクモデルへの懸念を書いている。それは貧富の格差問題ともつながる。
いわば全人類にサブスクデバイドが起きつつあるわけだが、中国やロシアのような統制的な国家の方が、サブスクデバイドに対処しやすいかもしれないと思った。
いわゆる西側の社会では、大手生成AI企業の裏を掻いて合法的にも非合法的にも生成AIのテクノロジーをハックすることが流行するのかもしれない。
-
3つ目のコラムではユクスキュルの環世界論（生物に固有の主観的世界観を探る概念）からこれからの機械の環世界の可能性を論じている。
コラムでは触れられていないが、人間の環世界と他の動物の環世界には決定的な違いがある。
人間は自分の環世界を意識することができ、その上でかなり自由に変更できる点だ。
人は生存のために必要なものや場所をかなりの程度変更できるし、環境自体を主体的に作り変えることができる。
4章の議論とも関わるが、ロボットの環世界の在り方は、最初の生成モデルやコーディングからどこまで発展的に逸脱し、自己言及的な視点を持つことができるかによって変わっていくのかもしれない。
クララは自分の環世界についてどこまで意識的だったのか？
どこまで変更できたと言えるか？
◼️付録:ロボットは人類の子供か？
（以下は主に本書には書かれていない内容ですが、特に2.3.4章を読んで連想し考察した内容です。参考になれば幸いです）
▼ロボットの可塑性と半永久性
本書では（そして「クララとお日さま」もそうなのだが）インターネットを通じたロボットのソフトウェアアップデートと半永久性について触れられていなかったので、それについて考えてみたい。
たとえば人間と違ってロボットの場合、物理的な基盤としてのハードウェアを交換したり、ソフトウェアをアップデートしたりして修正パッチを当てることができる。
人間にロボトミー手術をする事は人間にとって非倫理的だと言われる。
ロボットにロボトミー手術とは、言い得てトートロジカルな響きだが、非倫理的には聴こえない。未来はどうなるかは分からないが。
また、人間は体のほとんどを交換しても脳は交換できない、というか脳を交換すると本人の同一性は致命的に失われるが、ロボットは必ずしもそうではない。
コーディングされたものである以上、クラウド上にバックアップをとって人格（ロボ格）を他のハードウェアに再現もできるだろう。
（たとえば映画:ブレードランナー2049にはそういうエピソードがある）
AIやロボットには、後からの自由な加工の可能性が常に残されている。
言い換えれば、ロボットは、身体と思考の結びつきが堅固ではない。
身体、個人の単独の個性、個人を構成する内面、かけがえのきかない脆さ、という側面は、人間にとっての責任や倫理を構成する上で最重要の概念に思う。
しかしながら、ロボットが思考の基盤になるハードウェアやソフトウェアを複製したり、他の個体（ロボットやAI）と共有したり、合成したり、修復したり、バックアップや復元やアップデートができるのであれば、それは明らかに倫理や責任の概念を変質させるに足るような潜在性を秘めている。
ロボットは理論上不老不死だ。
一方で私たち人類は、その時どうなっているだろうか？
シンギュラリティ論者が夢見るように、意識や人間の個人のデータをクラウド上にアップロードできるなら、私たちはロボットやAIとかなり対等な立場にはなれるだろう。
私はその夢が叶うことにかなり懐疑的だし、少なくとも今世紀中は無理だろうと感じている。
だが、AIの発達と同時にナノテクノロジーやバイオテクノロジーの技術が進み、脳オルガノイドや生体コンピューターの研究が進んでいくなら、人間のサイボーグ化とロボットの人間化も進んでいき、人間とロボットの間の境界はスペクトラムのように曖昧になっていくのかもしれない。
▼人類の子供としてのロボット
ところで、共生とは常にどこかしら面倒でどこか不愉快なものでもある。
本書の11章でもこの問題は触れられているが、人がロボットと共生する社会を望むとしても、ロボットが人にとってどこまでも「都合の良いツール」である側面は消えないだろう。人間同士の「都合の悪さ」も消えないだろう。
また、人間がロボットに対して共感性や親近感を抱くのに連れて、彼らができるだけ人間に都合の良い存在として作られている事への後ろめたさも増していくのではないか？
私たち人類はロボットと並行して、そのような副産物を作ろうとしているのだ。
ロボットとの共生のビジョンには、自分にとってどこまでも都合の良い他者を作ろうとする人類の宿痾めいたものを感じる。
だが、ロボットが、外国人や異星人や人以外の動物と決定的に違うのは、ロボットが外部からの恣意的なカスタマイズや内面の複製や消去に対して常に開かれていることだ。
仮にそういった可能性を封じたようなロボットを作ったとしてもプログラミングされているものである以上、そのような封印や制限は理論的に突破されうる。
また、私たち人類が最初から物理的に作り出したものという点も大きく異なるだろう。
私たちはロボットを設計する。
設計思想は人間の願望を投影する。
ある意味で、ロボットは私たちの子供のようなものだとも言えるかもしれない。
私たちは子供を産み、子供を自分たちの願望や社会の願望に合わせて教育し、繋がりを求め、未来を託している。
人類は積極的に子供を産んでいるのだろうか？
それとも自然に産まれていくのだろうか？
私たちは、自分たちの子供とどのように付き合うだろうか？
また、子供と大人の関係性だけで考えてみても、歴史的にも地域的にも、個別の親子関係だけでも、途方もないくらい多様な関係性がある。
幸福な家庭と不幸な家庭、中間色の家庭。
本書の第8章では人間の発育における感情の分化について語られているが、マイナスな感情の方が豊かな分化が起きるし、「幸福は単純だが不幸は多様」という言葉よろしく、あるいはマイナスな未来の方が想像しがいはあるのかもしれない。
たぶん機械が人間を矯正し支配するディストピアでも、機械と人間が仲良く共生するようなユートピアでもなく、非常に多様な関係性が未来では生まれるように思われる。
その多様性が美しいものとは限らないことには留意した方が良いだろう。
※同時に、美しいものや素晴らしいものも多く生まれるであろうという視点も忘れてはいけない。
あるいは、人類がまさにそうであるように、機械と人間の関係が地域や国家によって大幅に異なるということになるかもしれない。
たとえば、人間の性衝動や破壊衝動や承認欲求を満たすためのロボットも、殺人のためのロボットも多様にそして大量に生まれるだろう。
※2025年現在でも、ガザ戦争やウクライナ戦争は、AIを使ったドローンのショーケースになりつつある。
あるいは人類の出生率を上げるためのロボットも生まれるかもしれない。
それはニーズに沿っているから。
そして、このような考察の必然的な帰結として、思考の基盤になるハードウェアやソフトウェアを複製できず、そのまま他の個体（ロボットやAI）と共有したり、合成したり、修復したり、バックアップや復元やアップデートができないようなロボットが研究され、そしてある程度（どの程度かは不明だが）実現されるのではないかと思う。
いわばそれは死ぬ事ができる存在なのだ。
それはニーズに沿っているから。
本書は、図らずもそういうロボットを望んでいるように私には感じられる。
そしてその事についての倫理的な議論を予想させる内容にもなっている。
▼結び
というような感想を書かせるくらいには面白いので笑、おすすめです。
色々な研究の紹介というだけではなく、それを通して読者でもさまざまに考える事のできる論点が揃っているので、色々考えてみたい人に向いているかもしれません。
▼おまけ
以下はクララさんの生成例。わりとよくできたんじゃないかなってやつ。
