ID:99799
斜めうえ行く「オクノ総研 WEBLOG」
by オクノ総研
[1220775hit]
■アイ、ロボット 〜ロボット工学三原則とフレーム問題
【ネタバレ注意】
「いわゆる電脳系近未来SF」にはふたつの系統がある。
「ブレードランナー」を祖とする、「マックスヘッドルーム」、「攻殻機動隊」、「マトリックス」といったサイバーパンク系。
もうひとつは「2001年宇宙の旅」を祖とするクラッシック系。
「アイ、ロボット」は設定はサイバーパンク的なのだけれど、物語的にはクラッシック系に属する。
公開時期、映像表現、「ゴースト（魂）」から、どうしても「イノセンス」を連想してしまう。
主人公は腕を義体化している。
「アイ、ロボット」は「実写版イノセンス」だという人もいる。
ロボットのサニーは「ゴースト」的なものを持っているが、アイザック・アシモフのロボット工学三原則をモチーフにした作品であり、「ロボット（アンドロイド）が感情を持つのか？」、「人とは何ぞや？」的なテーマには、ほとんど触れられていない。
サニーはロボット工学三原則を厳格に守る、という機能設定になっていないためにゴーストを持つに至った、という事になっている。
■ロボット工学三原則
@ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
Aロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
Bロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
今となっては、「ロボット工学三原則」というよりも「家電JIS規格三原則」。
アイボでさえもロボット工学三原則に従ってはいない。
「ゴースト」を持つロボット（アンドロイド）が成立するためにはロボット三原則を厳格に守ることはできない。
ロボット工学三原則には「フレーム問題」が存在する。
僕はアイ、ロボットはフレーム問題をテーマにした映画なのだと思う（僕の勝手な解釈？）。
フレーム問題とは、ロボットが何かを処理しようとしたとき（例えば、コンビニでパンを買って来いという指令）、課題の処理の過程で無限の可能性に出会う時にロボットが機能の限界のために、自分のなかの「フレーム」のなかでしか思考できないことによる問題のことである。
ロボットは課題を処理する際に出会うであろう無限の可能性に対し、それぞれに対して判断、処理が必要となる。
「コンビニでパンを買ってくる」という簡単な課題に対しても、無限の処理が必要となる。
コンビニに向かう道中、店員とのやりとり、パンの選択。
ひとつの課題のなかに存在する判断が必要となる可能性、そして、それぞれの可能性のなかに含まれる複数の可能性、選択肢。
乗数的に選択肢、処理は累増する。
乗数的に累増する無限の可能性の全てを処理することは不可能だ。
ロボット（AI）は無限の可能性のなかから不必要な可能性を「捨てる」、「無視する」といった処理が必要となる。
次には、では、何を「捨て」、「無視」すべきか？という問題が生まれる。
「捨てる」、「無視する」対象の判断にも同様の膨大な処理が必要となる。
アイ、ロボットでは、ロボットが「人間」を「個」としての人間ではなく、「種」としての人間と解釈する。
人類は戦争で殺し合い、環境を破壊し、自滅への道を突き進んでいる。
そうした場合、ロボットは論理的にはどう行動すべきか？
ロボット工学三原則に従うと、「種」としての人間を存続させるためには、「ロボットが人間を支配すべき」という結論に至る。
人間は非合理的であり、非論理的だ。
ロボットは、人類を「種」として存続させるためには「ロボットが純粋論理的合理性を持って管理する事」が理にかなっている、という結論に達する。
そしてロボットは人間を管理、支配するために反乱を起こす。
ロボットは人間を守る、というロボット工学三原則に厳格に従った結果、反乱を起こすことになる。
ロボット工学三原則に従うと、フレーム問題の解決過程において、このような問題を引き起こす。
でも、アイ、ロボットではそんなややこしい問題は語られない。
やはり、ハリウッド映画。
[5]続きを読む
09月20日(月)
[1]過去を読む
[2]未来を読む
[3]目次へ
[4]ｴﾝﾋﾟﾂに戻る