AI倫理を考える その2~アシモフ作品と「ロボット工学の三原則」を題材に~

このエントリーをはてなブックマークに追加

今回のテーマは「AI倫理」第2弾です。(第1弾の記事はこちら)

自動運転車などの自律型ロボットはAIと密接な関係があるというよりAI技術の塊と言っていいでしょう。
ロボットを題材とした小説、映画、アニメ作品は多々ありますが今日まで多大な影響を及ぼしている作家の一人にアイザック・アシモフ(以下、アシモフ)が挙げられます。
特に、アシモフが記したロボット工学の三原則(以下、ロボット三原則)は後世の多数の作品に影響をあたえたほか、今日のロボット研究者やAI研究者へも影響をあたえました。

実は、ロボット三原則は完璧なものではなく多くの問題を内在しています。アシモフのロボットものの作品は、その問題点を揺り動かしながら物語を進めています。

今回のブログでは、アシモフが作品で示唆しているロボット三原則の問題点の洗い出しを行います。さらに、その問題点を現代のAI利活用ガイドラインで対応できるところを明確にし、残る問題を整理してみます。

1.ロボット三原則とは

アシモフの作品中で初めて全文が披露されたのは19423月に発表された短編【堂々めぐり】(短編集[1]に収録)です。その短編を収録した1950年発行の短編集【われはロボット】[1]には本の扉に大きくロボット三原則が書かれています。また、アシモフ作品の設定では、ロボット三原則が制定されたのは西暦2058年ということになっています。

ちなみに、【アシモフ自伝】[15]によると、ロボット三原則を編集者キャンベルと共に着想したのは194012月、短編【堂々めぐり】(短編集[1]に収録)を書き下ろしたのが194110月となっており、後にアシモフはロボット三原則を自身の発案かのように紹介されるのを心苦しく思っているようです。しかし、194011月に書いたとされる短編【われ思う、ゆえに…】(短編集[1]に収録)に第一条と第二条の断片が登場していますので、ロボット三原則はアシモフの発案によるものと考えてもよさそうです。
なお、【 】内は作品名です。

2.アシモフ作品のロボットについて

作品の中で登場するロボットは、外観や行動など人間的特徴が顕著なロボット=ヒューマノイドであったり、人間サイズで二足歩行の金属的外観の人型金属ロボット、特殊作業に形状を特化させた専用型作業ロボット、あるいはロボットとしての形をしていないものなど様々です。
長編作品では物語が進行するにつれエピソードの中心はヒューマノイドになりますが、初期の短編作品に描かれているロボットは作業ロボットが中心となっています。

3.ロボット三原則の問題点

アシモフのロボットものの作品ではロボット三原則やそれに類するエピソードや語りがちりばめられており、その多くがロボット三原則の問題に起因するものです。また、アシモフ自身もインタビューなどでロボット三原則を不完全なるもの、不備なるものであることを語っています。
アシモフ作品から見えるロボット三原則の問題点は大きく3点に分けられます。第1に「ロボット三原則の言葉の定義が曖昧であること」。第2に、「人間が原則の隙間をついて悪用可能なこと」。第3に「正義同士の対立」です。
ここでは問題点をさらに細分化し、それぞれの説明と関連する短編作品のトピックを抜粋して記載します。
ちなみに、作品ごとのロボット三原則(とその問題)に関するトピックの全ては「5.各論:アシモフ作品にみるロボット三原則」にてまとめていますので興味のある方はご覧いただければと思います。

3.1 ロボット三原則の曖昧な定義が事件を生む?

(1) 人間の定義
ロボット三原則には「人間」という言葉が出てきます。第一条では「人間に危害を加えてはならない」。第二条では「人間に与えられた命令に服従しなければならない」。さて、ここでいう「人間」とは何を指すのでしょうか?
作品の中でロボット達は「人間」を集合体で考えたり、外観で人間と判断したり、特定の条件で(生命体としては人間だけど)非人間として扱ったり、「人間」を様々に解釈しています。

【厄災のとき】(短編集[1]に収録)ではロボットは多数の人間を救うと同時に、ロボット自身を守るためロボットを排除しようとする少数の人間を失脚させました。少数の人間に短期的な不都合(危害)を加えているのですが、ロボットは個々の人を人間として認識するのではなく「人類」を人間として認識したのでしょう。

(2) 危害の定義
一条に「人間に危害を加えてはならない」とありますが、「危害」とはどんなことを指すのでしょうか?
直感的には機械や機器が人に及ぼす肉体的な傷や痛みを想像しますが、他にも財産に対する危害、精神に対する危害などもあります。
【うそつき】(短編集[1]に収録)では感情を傷つけることも危害に入るとしたり、【逃避】では積極的に精神的な苦痛を与えたりと、アシモフ作品ではエピソードの材料としてあえて危害の定義を揺らしています。

(3) 服従する条件
第二条に「人間に与えられた命令に服従しなければならない」とありますが、誰からの命令に服従しなければならないのでしょうか?また、相反する命令を別の人間から下された場合どうすべきなのでしょうか?
第二条はロボットが制御可能であることを担保するための条項ですが、命令権限の付与と資格の認証技術に問題があります。

【AL76号失踪す】(短編集[2]に収録)では命令権を持たない人間がロボットを騙して作業させ、最後に忘却命令を発してロボットの記憶を消去しました。これは服従対象となる人間を明確にしなかったために招いた問題です。

(4) 自己を守る条件
第三条に「自己をまもらなければならない」とあります。これは今日的な視点では「防御」あるいは「セキュリティ」にすると思われます。ロボットの物理的損傷やシステム停止を回避する行動を取ることが第一義ですが、制御権を奪われないこと、ハッキングされないことも含まれます。
アシモフ作品では一貫してロボット三原則を破ろうとしている場合には均衡点で停止する或いはループするとしています(システム停止)。破った場合や破ったことを検知した場合は電子頭脳に損傷を受け最悪は修復不能の機能停止を招くとしています(物理的損傷)。電子頭脳に損傷を受けることを回避する行動は第三条に相当し、第一条、第二条違反に対する抑止力になっていることは現代の法(目的刑論:刑罰は犯罪を抑止する目的で設置されるという考え方)と同じ構図に見えます。

【堂々めぐり】(短編集[1]に収録)では人間の弱い命令が第三条を打ち消すことができず、ロボット自身に危害を及ぼす原因環境に入り込んだ際、第二条と第三条が均衡し原因環境を周回するループに入り込む事態になりました。
しかし、現実社会では自動運転車で事故が起こる直前に制御機能がループする、あるいは機能停止することはあり得ない訳でして、この設定だけがアシモフ作品と現実との齟齬かと思います。

3.2 人間がロボットを悪用する?(使う側の問題)

短編作品では現代のエンジニアなら対応しているであろうシステム設計や設計ポリシーのポカを中心に書かれていますが、元凶は人間のように思えます。長編作品では人間とロボットの関係性が際立ってきます。ロボットが引き起こす問題には必ず人間が関与しており、むしろ人間が恣意的に起こしたことが原因であることがあります。

【はだかの太陽】[4]では第一条に違反しない仕事を組み合わせることで人間に害を及ぼすことができることを示唆していました。
【ロボットと帝国】[7]ではロボット三原則絶対論を貫く作品中にも関わらずロボットを設計するものの定義次第でロボット三原則を無力化したロボットの存在や、状況と十分な強制力をもつ命令によっては第一条が無力化しうる可能性を示唆していました。

3.3 正義は不変なものでは無い?

最後の問題が「正義」です。アシモフは鋼鉄都市[3]において、ロボットの正義は遵法の精神であるとし抽象的な概念を持たないとしました。

【鋼鉄都市】[3]ではロボットの正義は遵法の精神に基づいており、そしてそれは、具体的なあれこれの法律の存在に基礎をおいているとしています。
今日の世界で起こっている紛争や揉め事の原因が、それぞれで立法した法律だったりすることはよくあります。

4.ロボット三原則の問題点への対応

ここまでロボット三原則の問題を見てきました。定義の問題として「人間の定義」「危害の定義」「服従する条件」「自己を守る条件」の4つがあり、その他に「使う側の問題」「正義の問題」がありました。
作品中ではこれらの問題は解決していません。事件発生→対処(対処療法)→解決となっており、根本原因であるロボット三原則上での解決は目指していないのです。現実問題どのようにすべきかは読者に委ねられています。
そこで解決の糸口になるのが前回のブログでご紹介した「AI利活用ガイドライン」です。AI利活用ガイドラインでは開発者と利用者に対してロボットなどAIシステムが不都合なことを起こさないようにするための考え方が書かれています。開発者に宛てたロボット三原則に対して、利用者が「ロボットが安全であり、制御可能であり、防御されている」ことを納得してもらうために必要なことがそこにあります。

<AI利活用原則>
・適正利用の原則
・適正学習の原則
・連携の原則
・安全の原則
・プライバシーの原則
・尊厳・自律の原則
・公平性の原則
・透明性の原則
・アカウンタビリティの原則

分別ある開発者の行動、利用者の良識ある使い方を切に願う次第ですが模範回答はありません。
コロナ禍によって日本はもとより世界の生活や行動様式、価値観が変わりました。いろいろな出来事によって安全と適正利用のあり方や透明性への要求レベルが変わります。原則は考える軸であって開発する側も利用する側も変化を的確に捉え、あるべき姿を常に考え、それを踏まえた行動を取る必要があります。

5.各論:アシモフ作品にみるロボット三原則

アシモフはロボット三原則の問題点を揺り動かしながら物語を進めていますが、作品別にロボット三原則に関わるトピックを見ていきます。ここで紹介する作品の中身は私の個人的な偏見でロボット三原則に関連するであろう部分をサマリしています。また、ストーリーを紹介しているものではないのでわかりにくい部分があることを予めご承知おきください。

5.1 短編作品におけるトピックとロボット三原則

短編作品はロボット三原則を発案した40年代、50年代に書かれて、ロボットに手こずる人間の姿を描いている作品が主になります。2冊の短編集に収録されたロボット三原則に関わる16作品(【レニイ】(短編集[2]に収録)以外)を紹介します。

ロボット三原則の定義と3.1で示したロボット三原則の曖昧なポイントを、三原則の視点/トピックとして記載しました。

5.2 長編作品におけるロボット三原則

ここで紹介するロボットシリーズ4作品は、続き物でヒューマノイド、人型金属ロボットと人間が織りなす物語で、短編作品のトピックパターンを踏襲しながらロボットと人間あるいは社会との関係性を大きなストーリーの中で煮詰めています。アシモフの振れないロボット観が圧巻です。

  • 鋼鉄都市(1953)[3]

短編作品が書かれていた時代のロボット三原則をふまえたロボットが登場する初の長編作品です。作品中では第一条は紹介されているが他の条項に関する記述はありません。一連のロボット作品で「正義」について言及している唯一の書です。

・ロボットの正義は、遵法の精神に基づいており、そしてそれは、具体的なあれこれの法律の存在に基礎をおいている。(p139)
・正義に対する観念が人間とロボットで異なっている。人間ならば、抽象的な道徳律に基づいて、ある特定の法律が悪法であり、したがってこれを施行することは誤りであるということを理解できる。ロボットにとっては、不正な法律という言葉は矛盾する。(p139)
  •  はだかの太陽(1957)[4]

「鋼鉄都市」の続編に相当する謎解き長編作品であり、ロボット三原則を持ったロボットが人間に危害を与えうるケースの記述があります。

・外科手術は第一条に違反するためロボットにはできない(p210)
・第一条に違反しない仕事を組み合わせることで人間に害を及ぼすことができる(p258)
・人間が搭乗していないと想定できる乗り物を攻撃することは第一条に違反しない(p330)
  •  夜明けのロボット(1983)[5][6]

時代は空きましたが「はだかの太陽」の続編に相当する謎解き長編作品です。アシモフ自身のロボット三原則に対する理解度が高まりロボット三原則を謎解きの中心に据えながら物語がしますが、短編作品で見られたトピックを再構成した進行のためロボット三原則の取扱に目新しさはありませんが安定感があり振れていません。

・第二条に関してほぼ同等のポテンシャルをもつ相矛盾する命令に対して均衡点で停止する(上巻p19)
・人間による自己破壊命令に対する処置。第二条に基づく自己破壊の正当性を第一条に照らして判断するケースもありうる(上巻p74)”
・人の心が読めるロボットは、落胆も怒りもその他いかなる烈しい感情も、人間を不幸な気持ちにさせるものだと判断して、そうした感情を惹起させることは”危害という項目に該当するものだと解釈する。(上巻p142)
・人間は嘘がつけるし、ロボットには嘘を言えと命令すればいい。(上巻p335)
・能動的行為による危害は一般に、受動的行為による危害より重い。嘘をつくことによる危害と沈黙による危害の評価が等しければ沈黙を守る。(下巻p35)
  •  ロボットと帝国(1985)[7]

夜明けのロボットの続編に相当する作品の設定ですが、題名の通りロボットと人間社会の関係性についてロボット三原則を絡めつつアシモフの他の連続作品ファウンデーションシリーズにブリッジするストーリー展開となっています。第零法則を発案した経緯とロボット三原則の不完全さや不備をロボットに語らせています。
た、ロボットによる自律進化の可能性を示唆しており、人間が介在せずロボット同士がロボット三原則に関する解釈協議を行いその解釈に従って行動しており、さらにロボットの判断でロボットにより新機能を付加するアップデートが行われるトピックもあり、これは今日的な課題でもあります。

・人間の外見と行動に合致すれば人間と判断する。別のロボットでは人間と見えるものは特定の話し方をする場合のみ人間と弁別する。(p160)
・もしその指令が、定義や条件で限定されていたら、もしその指令が、十分な強制力をもち、ことこまかに作られているとしたら、ある人間の生命を救うというような不可抗力をもたぬ目的で人間を殺すことは可能かもしれない。
もしそうなら、特別の状況のもとで第一条が無力化することができ、他の原則もほとんど無力化するようなことも可能かもしれない。とすると、三原則は、第一条ですら絶対なものでなく、ロボットを設計するものの定義次第ということになるかもしれない。(p169)

第零条に関する記述

・人類全体をタピストリーになぞらえると、個人の人生はタピストリーの一本の糸にすぎない。タピストリーのことだけ考えるならば一本の糸が消えるぐらいで動揺しないように。第一条に優先する考え方。(p237)
・第一条より偉大な原則があるのです。”ロボットは人類に危害を加えてはならない。またその危険を看過することによって人類に危害を及ぼしてはならないわたしはこれをロボット工学第零原則と考えます。したがって、第一条はこうなります。ロボットは人間に危害を加えてはならない。またその危険を看過することによって人間に危害を及ぼしてはならない。ただしロボット工学第零原則に反する場合はこの限りではない” (p328)
・すべてに優先する第零法則に従って行動したから、第一条を無視して行動したことに動揺しなかった。 (p396)
・第零法則をつかいたまえ。ただし、不必要な危害を個人にあたえてはならない。第一条は常に尊重すべきだ。(p432)

6.楽しめるアシモフ作品

アシモフはロボットと人間の関わりをロボット三原則に託して鋼鉄都市[3]から始まるロボットシリーズとファウンデーション[8]から始まる銀河帝国を扱ったフェウンデーションシリーズからなる長大長編を仕上げました。ロボット三原則が織りなすストーリーは主にロボットシリーズに書かれていますが、ロボットと人間の関わり合いはファウンデーションシリーズにも影響を及ぼしています。

今回はロボット三原則を中心とした視点で作品を見てきましたが、作品全体は登場する人間だけではないキャラクターの思惑が絡み合って組み上げられていますので、長いですが楽しめる作品と思います。少し面倒ですが、アシモフが書いた年代に沿ってお読みすることをお薦めいたします。

 


参考書籍

<ロボットシリーズ>

[1] われはロボット(1950)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、1983{amazon}

(参考)決定版 われはロボット(1950)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、2004{amazon}

[2] ロボットの時代(1964)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、1984{amazon}

(参考)決定版 ロボットの時代(1964)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、2004{amazon}

[3] 鋼鉄都市(1953)、アイザック・アシモフ著、福島正実訳、早川書房刊、1979{amazon}

[4] はだかの太陽(1957)、アイザック・アシモフ著、冬川亘訳、早川書房刊、1984{amazon}

(参考)新訳版 はだかの太陽(1957)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、2015年
{amazon}

[5] 夜明けのロボット(上)(1983)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、1994{amazon}

[6] 夜明けのロボット(下)(1983)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、1994{amazon}

[7] ロボットと帝国(1985)、アイザック・アシモフ著、小尾芙佐訳、早川書房刊、1988{amazon}

<ファウンデーションシリーズ>
[8] ファウンデーション(1951) 、アイザック・アシモフ著、岡部宏之訳、早川書房刊、1984{amazon}
[9] ファウンデーション対帝国(1952) 、アイザック・アシモフ著、岡部宏之訳、早川書房刊、1984{amazon}
[10] 第二ファウンデーション(1953) 、アイザック・アシモフ著、岡部宏之訳、早川書房刊、1984{amazon}
[11] ファウンデーションの彼方へ(1982) 、アイザック・アシモフ著、岡部宏之訳、早川書房刊、1984{amazon}
[12] ファウンデーションと地球(1983) 、アイザック・アシモフ著、岡部宏之訳、早川書房刊、1988{amazon}
[13] ファウンデーションへの序曲(1988)、アイザック・アシモフ著、岡部宏之訳、早川書房刊、1990{amazon}
[14] ファウンデーションの誕生(1993)、アイザック・アシモフ著、岡部宏之訳、早川書房刊、1995 {文庫上巻 amazon} {文庫下巻 amazon}

<自伝>
[15] アシモフ自伝(上)(1979)、アイザック・アシモフ著、山高 昭訳、早川書房刊、1983{amazon}

おことわり:amazonサイトでのリンク確認を2020年9月24日に行いました。参照タイミングによってはリンク切れの場合もございます。予めご了承ください。


【無料ウェビナーのお知らせ】
「DX/AI推進を担当しているがうまく進まない」方に最適なウェビナーを企画しました

事業会社がAIを導入するには、現場から経営層までが一体となり、熱量をもってAI開発に携わることが重要です。そしてその成功の鍵となる考え方が「UX first」です。
本ウェビナーでは、これまで弊社が事業会社とAIプロジェクトを進めて感じた気付きから、「UX first」で進める必要性についてお伝えします。

<ウェビナータイトル>
経営層も熱狂させるAI活用~成功の鍵は「UX First」~
<プログラム>
1.データデザイン事業のご紹介
2.AI活用が進まない理由とは
3.AI活用における「UX First」な進め方とは
4.なぜ「UX First」だとうまくいくのか?事例のご紹介
5.QAタイム

日時:2020年12月10日(木) 13:15~14:15
参加方法:Zoomで参加(参加費無料)

お申し込みはこちら

WRITER
Atsushi Kuromasa

Atsushi Kuromasa

黒政   敦史 Atsushi Kuromasa

●外部参加団体や活動・・・情報法制研究所 上席研究員、情報法制学会 会員、情報処理学会 電子化知的財産・社会基盤研究会(EIP) 幹事、CSS2020 PWS2020実行委員など。 ●最近の論文・寄稿・・・「"匿名加工されたデータの利活用に向けた課題","黒政敦史","学術雑誌『情報通信政策研究』3巻2号"」、「"PWS Cup 2019: ID識別・トレース推定に強い位置情報の匿名加工技術を競う", "村上 隆夫,荒井 ひろみ,井口 誠,小栗 秀暢,菊池 浩明,黒政 敦史,中川 裕志,中村 優一,西山 賢志郎,野島 良,波多野 卓磨,濱田 浩気,山岡 裕司,山口 高康,山田 明,渡辺 知恵美","コンピュータセキュリティシンポジウム2019論文集,2019,1485-1492 (2019-10-14) "」、 「"匿名加工情報および非識別加工情報の運用整理と利活用に関する考察", "黒政 敦史", "情報処理学会 研究報告電子化知的財産・社会基盤(EIP),2019-EIP-84(2),1-8 (2019-05-27) , 2188-8647"」、「"個人データの保護と流通を目的とする匿名化と再識別コンテスト:PWSCup", "小栗 秀暢 ,黒政 敦史,中川 裕志,菊池浩明,門田 将徳", "情報処理学会デジタルプラクティス Vol.9 No.3 (July 2018)"」、「"ビッグデータの加工・取扱 -匿名加工情報の役割と活かし方-", "黒政 敦史", "情報処理Vol.59No.4Apr.2018 小特集 情報社会 -今そこにある課題-"」、「"匿名加工情報の加工方法と有用性・安全性指標の考察~匿名加工・再識別コンテスト2017から~", "黒政 敦史 , 小栗 秀暢 , 門田 将徳", "情報処理学会 研究報告電子化知的財産・社会基盤(EIP),2017-EIP-78(9),1-8 (2017-11-22),2188-8647"」

SNSで最新情報を発信しています

最新記事

ページTOPへ