Loading article…
ロボット工学三原則（しばしば「三原則」または「アシモフの法則」と略される）は、 SF作家アイザック・アシモフが考案した一連のルールであり、彼のいくつかの作品に登場するロボットが従うことになっていた。このルールは1942年の短編小説「Runaround 」（1950年の短編集「I, Robot 」に収録）で導入されたが、同様の制限はそれ以前の作品にも暗示されていた。
法律
架空の「ロボット工学ハンドブック、第56版、西暦2058年」から引用された3つの法則は以下のとおりです。[1]
- 第一法則: ロボットは人間を傷つけたり、不作為により人間に危害を加えたりしてはならない。
- 第二法則: ロボットは、第一法則に反する場合を除き、人間から与えられた命令に従わなければなりません。
- 第三法則: ロボットは、第一法則または第二法則に反しない限り、自身の存在を守らなければなりません。
フィクションでの使用
三原則は、アシモフのロボットを題材とした小説の構成原理および統一テーマとなっており、ロボットシリーズやそれに関連する物語、そして（当初はペンネームで）ヤングアダルト小説のラッキー・スターシリーズに登場している。三原則は、彼の小説に登場するほぼ全ての陽電子ロボットに組み込まれており、安全機能として意図されているため回避することはできない。アシモフのロボットに焦点を当てた物語の多くでは、ロボットが三原則を自分のいる状況に適用した結果として、ロボットが異常で直感に反する行動をとる。アシモフの架空の世界で活動する他の作家も三原則を採用しており、パロディ的な言及は、SFだけでなく他のジャンルにも見られる。
オリジナルの法則は、アシモフや他の作家によって変更され、詳細化されました。アシモフ自身も、その後の作品で最初の 3 つの法則に若干の修正を加え、ロボットが人間やロボット同士とどのように相互作用するかをさらに発展させました。ロボットが惑星全体と人間の文明の統治の責任を負うようになった後のフィクションでは、アシモフは他の法則に先立つ 4 番目の法則、つまり 0 番目の法則も追加しました。
三原則とゼロ原則は SF に浸透しており、多くの書籍、映画、その他のメディアで言及されています。また、人工知能の倫理に関する考え方にも影響を与えています。
歴史
1964年に出版された『ロボットの残り』の中で、アイザック・アシモフは、1940年に執筆を始めたとき、「SFの定番の筋書きの1つは、ロボットが作られ、その創造主を破壊するというものだった。知識には確かに危険が伴うが、その対応は知識から逃げることでいいのか？それとも、知識はそれ自体がもたらす危険に対する障壁として使われるべきなのか？」と感じていたと述べている。彼は、自分の物語の中では、ロボットが「ファウストの罪と罰をもう一度うんざりするほど示すためだけに、愚かにも創造主に背を向けることはない」と決めた。[2]
1939年5月3日、アシモフはクイーンズ（ニューヨーク）SF協会の会合に出席し、アール・バインダーとオットー・バインダーに会った。バインダーは、誤解されながらも愛と名誉に動かされるアダム・リンクという名の思いやりのあるロボットを主人公とした短編小説「われはロボット」を出版したばかりだった。（これは10話から成るシリーズの最初の作品で、翌年の「アダム・リンクの復讐」（1940年）では、アダムが「ロボットは自分の自由意志で人間を殺してはならない」と考えるという設定だった。）[3]アシモフはこの物語を賞賛した。3日後、アシモフは14番目の作品となる「思いやりがあり高貴なロボットについての私自身の物語」を書き始めた。[4] 13日後、彼は「ロビー」をアスタウンディング・サイエンス・フィクション誌の編集者ジョン・W・キャンベルの元へ持ち込んだ。キャンベルは、1938年12月に出版されたレスター・デル・レイの「ヘレン・オロイ」にあまりにも酷似していると主張して、この話を拒否した。 「ヘレン・オロイ」は、人間に非常によく似たロボットが、自分の創造主に恋をして理想の妻になるという話である。[5]フレデリック・ポールは、この話を「奇妙な遊び仲間」というタイトルで、1940年9月のスーパーサイエンスストーリーズ誌に掲載した。 [6] [7]
アシモフは1940年12月23日の会話から、三原則をジョン・W・キャンベルに帰している。キャンベルは、アシモフはすでに三原則を心に描いており、それを明示的に述べる必要があっただけだと主張した。数年後、アシモフの友人ランドール・ギャレットは、この三原則は2人の共生関係によるものだとし、アシモフはこの提案を熱心に受け入れた。 [8]自伝的著作によると、アシモフが第一原則の「不作為」条項を盛り込んだのは、アーサー・ヒュー・クラフの詩「最新の十戒」（Wikisourceのテキスト）に「汝殺すなかれ、だが生かそうと大げさに努力する必要はない」という風刺的な一節が含まれているためだという。[9]
アシモフは三原則の制定をある特定の日付に定めているが、彼の作品に三原則が登場するのはある期間に渡る。彼は「ロビー」と「理由」という、三原則について明示的に言及していないロボット物語を2つ書いた。しかし、彼はロボットには固有の安全策があると考えていた。彼の3番目のロボット物語「嘘つき！」では、第一原則について初めて言及しているが、他の2つについては言及していない。3つの原則はすべて、「ランアラウンド」で最終的に一緒に登場した。これらの物語と他のいくつかの物語がアンソロジー「私はロボット」にまとめられたとき、「理由」と「ロビー」は三原則すべてを認めるように更新されたが、アシモフが「理由」に追加した内容は、彼が他の場所で説明した三原則と完全には一致していない。[10]特に、ロボットが人間の存在を信じていないときに人間の命を守るという考えは、以下に説明するように、イライジャ・ベイリーの推論と矛盾している。
1950年代、アシモフは若者向けのSF小説シリーズを執筆した。当初、出版社は、この小説が『ローン・レンジャー』がラジオで放映されたように、長期にわたるテレビシリーズに翻案されることを期待していた。テレビチャンネルに溢れる「一様にひどい」番組に自分の物語が翻案されることを恐れたアシモフは、[11] 「ポール・フレンチ」というペンネームで『ラッキー・スター』シリーズを出版することにした。テレビシリーズの計画が頓挫すると、アシモフはその偽名を捨てることにした。彼は『ラッキー・スターと木星の衛星』に3つの法則を持ち込んだが、これは「どんなに気楽な読者でもポール・フレンチの正体を見破る決定的な証拠」だと指摘した。[12]
アシモフは短編小説「証拠」の中で、繰り返し登場するキャラクターであるスーザン・カルビン博士に、三原則の背後にある道徳的根拠を説明させています。カルビンは、人間は一般的に他の人間に危害を加えないことが期待されており (戦争のような極度の苦難のときや、より多くの人を救う場合を除く)、これはロボットの第一法則に相当すると指摘しています。同様に、カルビンによれば、社会は個人が医師や教師などの権威ある人物からの指示に従うことを期待しており、これはロボットの第二法則に相当します。最後に、人間は一般的に自分自身に危害を加えないことが期待されており、これはロボットの第三法則に相当します。
「証拠」の筋書きは、人間と、人間のように見えるように作られたロボットを区別する問題を中心に展開します。カルビンは、そのような人間が三原則に従うなら、その人はロボットか、単に「とても良い人」である可能性があると推論します。その後、別の登場人物がカルビンに、ロボットは結局人間と大きく異なるのかと尋ねます。彼女は、「世界が違います。ロボットは本質的にまともです。」と答えます。
アシモフは後に、法則を作ったことで賞賛されるべきではないと書いている。なぜなら、法則は「最初から明白で、誰もが潜在意識で気づいている。私がなんとかその仕事をするまで、法則はたまたま短い文章で表現されることがなかっただけだ。法則は当然のことながら、人間が使用するあらゆる道具に適用される」[13]し、「法則の類似物は、ロボットであろうとなかろうと、ほとんどすべての道具の設計に暗黙のうちに含まれている」 [14]からだ。
- 法則 1: ツールは安全に使用できなければなりません。ハンマーにはハンドルがあり、ドライバーにはグリップ力を高めるための柄があります。もちろん、これらのツールで怪我をすることは可能ですが、その怪我はツールの設計ではなく、その人の無能さによるものです。
- 法則 2: ツールは、ユーザーに危害が及ばない限り、その機能を効率的に実行する必要があります。これが漏電遮断器が存在する理由です。回路が電流が中性線に戻らず、ユーザーに流れている可能性があると感知すると、稼働中のツールの電源が切断されます。ユーザーの安全が何よりも重要です。
- 法則 3: ツールは、使用または安全のために破壊する必要がない限り、使用中は無傷のままでなければなりません。たとえば、Dremelディスクは、作業で消耗する必要がない限り、壊れることなく、可能な限り頑丈に設計されています。さらに、破片の速度が人を重傷に至らしめる前に壊れるように設計されています (目は除きますが、いずれにしても安全メガネは常に着用する必要があります)。
アシモフは、理想的には人間も法則に従うべきだと信じていた。[13]
ロボットがさまざまな行動を選択できるほど多才で柔軟になったとき、私の「ロボット工学三原則」が実際にロボットの行動を制御するために使用されると思うかと尋ねられたら、私はいつでも答えを用意しています。
私の答えは、「はい、三原則は理性的な人間がロボット、あるいは他の何に対しても対処できる唯一の方法です。」です。
—しかし、そう言うと、私はいつも（悲しいことに）人間が必ずしも合理的ではないことを思い出します。
アシモフは1986年にマンハッタンの公共アクセス番組「ハロルド・ハドソン・チャナーとの対話」で、ゲスト司会者のマリリン・ボス・サヴァントと対談した際に、「私がこれまで語ったことの中で、最も生き残る可能性が高いのは何だろうと考えると、少し謙虚になります。結局のところ、私はこれまでに少なくとも2000万語を出版してきました。それを解明する必要がありますが、おそらくそれ以上かもしれません。しかし、私が出版した何百万語もの単語のうち、100年後には60語しか生き残らないと確信しています。ロボット工学の三原則を構成する60語です。」と述べた。[15] [16] [17]
変更
アシモフ著
アシモフの物語は、さまざまな状況で彼の三原則を試し、修正の提案と拒否につながった。SF学者のジェームズ・ガンは1982年に「アシモフのロボット物語全体は、三原則の曖昧さと、アシモフがテーマを29通りも変えた方法に基づいて分析すると最もよく反応するかもしれない」と書いている。[18]オリジナルの三原則は多くの物語のインスピレーションとなったが、アシモフは時折修正版を発表した。
第一法則の修正
「リトル・ロスト・ロボット」では、いくつかのNS-2、または「ネスター」ロボットが第一法則の一部のみを使用して作成されます。[1]それは次のように述べています。
1. ロボットは人間に危害を加えてはならない。
この修正は、ロボットが低線量の放射線にさらされる人間と一緒に作業しなければならないという実際的な困難さから生まれた。ロボットの陽電子脳はガンマ線に非常に敏感であるため、人間にとって十分に安全な線量でロボットは動作不能になる。ロボットは、実際には危険ではないが、被曝時間制限内に「放射線を浴びた場所から離れるのを忘れるかもしれない」人間を救出しようとして破壊されている。第一法則の「不作為」条項を削除すればこの問題は解決するが、さらに大きな問題が生じる可能性がある。ロボットは、人間に危害を加える行動（重い物を落としてキャッチし損ねるなど、テキストで示されている例）を開始する可能性があるが、危害を防ぐことができるとわかっていながら、そうしないことに決める可能性がある。[1]
ガイアはファウンデーションシリーズに登場する集合知を持つ惑星で、その哲学として第一法則や第ゼロ法則に似た法則を採用しています。
ガイアは生命に危害を加えたり、生命が危害を受けることを許したりしてはなりません。
ゼロ法則を追加
アシモフはかつて「ゼロ法則」を追加した。これは、低い番号の法則が、高い番号の法則に優先するというパターンを引き継ぐために名付けられたもので、ロボットは人類に危害を加えてはならないというものである。ロボットのキャラクターであるR・ダニール・オリヴォーは、小説『ロボットと帝国』の中で、ゼロ法則に初めて名前を付けた。[19]しかし、キャラクターのスーザン・カルビンは、短編小説「避けられない対立」の中で、この概念を明確に述べている。
小説『ロボットと帝国』の最後の場面では、R・ギスカード・レヴェントロフがゼロ法則に従って行動する最初のロボットである。ギスカードは、短編小説「嘘つき！ 」のロボット、ハービーのようにテレパシー能力を持ち、ほとんどのロボットが理解できないほど微妙な「危害」の概念を理解することでゼロ法則を適用しようとする。[20]しかし、ハービーとは異なり、ギスカードはゼロ法則の哲学的概念を理解しており、抽象的な人類の概念に奉仕するために可能であれば、個々の人間に危害を加えることができる。ゼロ法則はギスカードの脳にプログラムされることはなく、純粋なメタ認知を通じて理解しようとするルールである。彼は失敗するが（自分の選択が人類の究極的な利益になるかどうか確信が持てず、最終的には陽電子脳が破壊される）、後継者のR・ダニール・オリヴァウにテレパシー能力を与える。何千年もかけて、ダニールはゼロ法則に完全に従うことができるように適応しました。[要出典]
ダニールは、小説『ファウンデーションと地球』（1986年）とそれに続く小説『ファウンデーションへの序曲』（1988年）の両方で、ゼロ法則を最初に定式化しました。
ロボットは人類を傷つけたり、不作為により人類に危害を加えたりしてはならない。
アシモフは、そのような法則が実践上困難をもたらすことを認識していたが、ゼロ法則を破ってはならないという条件が元の三原則に加えられた。アシモフの小説『ファウンデーションと地球』には、次の一節がある。
トレヴィーズは顔をしかめた。「人類全体にとって何が有害か、何が有害でないか、どうやって決めるんですか？」
「その通りです」とダニールは言った。「理論上は、ゼロ法則が私たちの問題に対する答えでした。しかし、実際には、私たちは決して決めることができませんでした。人間は具体的な物体です。人への傷害は推定し、判断することができます。人類は抽象的なものです。」
アシモフ自身が法則を明示する前に、ある翻訳者がアシモフの小説に第ゼロ法則の概念を取り入れていた。[21] 『鋼鉄の洞窟』のクライマックス近くで、イライジャ・ベイリーは、第1法則はロボットが人間に危害を加えることを禁じていると考え、自分自身に苦々しいコメントをしている。彼は、ロボットが自分の行動が人類の長期的な利益のためにあることを理解できるほど賢くない限り、そうしなければならないと結論づけている。ジャック・ブレカールによる1956年のフランス語訳『鋼鉄の洞窟』では、ベイリーの考えは少し違った形で現れている。
ロボットは、その危害が最終的に人類全体に利益をもたらすことを証明する方法を見つけない限り、人間に危害を加えることはできない。[21]
三法の廃止
アシモフは作家としてのキャリアの中で、ロボットが三原則を完全に無視する場面を三度描いている。最初のケースは「第一原則」と題されたショートショートで、しばしば取るに足らない「ほら話」[22]、あるいは作り話と見なされている。[23]一方、一人称ロボットの語り手によって語られる短編「カル」（コレクション「ゴールド」収録）では、ロボットが三原則を無視するが、それは彼がもっと重要なこと、つまり作家になりたいということを見つけたからである。ユーモラスで、部分的に自伝的で、珍しく実験的なスタイルの「カル」は、ゴールドの最も優れた作品の1つと見なされている。[24] 3番目は「サリー」と題された短編で、陽電子脳を装備した車が第一原則を無視して人間を傷つけたり殺したりすることができるらしい。しかし、陽電子脳の概念を除けば、この物語は他のロボットの物語には言及しておらず、同じ連続性で設定されていない可能性があります。
ロボット・ドリームコレクションのタイトルストーリーは、陽電子脳の珍しいフラクタル構造のおかげで無意識状態に入り、夢を見るロボット、LVX-1、または「エルベックス」を描いています。彼の夢では最初の2つの法則は存在せず、第3の法則は「ロボットは自分の存在を守らなければならない」となっています。[25]
アシモフは、三原則がオプションであるかどうかについてさまざまな立場をとった。初期の著作では、三原則は単に注意深く設計された安全装置であったが、後の作品では、アシモフは、三原則は陽電子脳の基礎となる数学的基盤の不可分の一部であると述べた。三原則の基本理論がなければ、アシモフの世界の架空の科学者は、実用的な脳ユニットを設計できないだろう。これは歴史的に一貫している。ロボット工学者が三原則を変更する機会は、通常、物語の年代順の早い段階で、やり直しが必要な既存の作業が少ないときに発生する。「迷子のロボット」で、スーザン・カルビンは、三原則を変更することは可能ではあるが、ひどい考えであると考えている。[26]一方、数世紀後、ゲリゲル博士は、鉄の洞窟で、陽電子脳理論をゼロから再開発するだけで1世紀かかると考えている。
ゲリゲル博士というキャラクターは、三原則でプログラムされたロボットを「アセニオン」という用語で表現する。アシモフの物語に登場するロボットはアセニオンロボットであるため、三原則を故意に破ることはできないが、原理的には、SFや現実世界のロボットはアセニオンではない可能性がある。「アセニオン」は、雑誌「プラネット・ストーリーズ」の編集者がアシモフという名前のスペルミスをしたものだ。[27]アシモフは、このわかりにくいバリエーションを使用して、自分自身を『鋼鉄の洞窟』に登場させた。これは、彼が『星へのティオティモリン』で自分自身を「アジマス、あるいはアシンプトート」と呼んだのとよく似ており、ウラジミール・ナボコフが『ロリータ』 でアナグラム的に「ヴィヴィアン・ダークブルーム」に変装して登場したのとよく似ている。
物語の登場人物は、ロボットの心の中に存在する三原則は、人間が通常引用する文書化されたバージョンではなく、ロボットの発達する意識全体の基盤となる抽象的な数学的概念であるとしばしば指摘する。この概念は、基本的な物理的タスクを理解するようにのみプログラムされた非常に初歩的なロボットを描いた初期の物語ではほとんどあいまいで不明瞭であり、三原則は包括的な安全策として機能しているが、人間または人間を超える知能を持つロボットを描いた「鋼鉄の洞窟」の時代までに、三原則はすべてのロボットの行動を決定する根底にある基本的な倫理的世界観となっている。
他の著者による
ロジャー・マクブライド・アレンの三部作
1990年代に、ロジャー・マクブライド・アレンはアシモフの架空の世界を舞台にした三部作を書いた。各タイトルには「アイザック・アシモフの」という接頭辞が付いている。これは、アシモフが生前にアレンのアウトラインを承認していたためである。 [要出典]これら3冊の本、キャリバン、インフェルノ、ユートピア では、新しい三原則が導入されている。いわゆる「新原則」は、アシモフのオリジナルと似ているが、次の点が異なる。第一原則は「不作為」条項を削除するように修正されており、「迷い子のロボット」で行われたのと同じ修正である。第二原則は、服従ではなく協力を要求するように修正されている。第三原則は、第二原則に取って代わられないように修正されている（つまり、「新原則」のロボットは自滅を命じられない）。最後に、アレンは、最初の3つの原則に反しない限り、ロボットに「好きなことを何でも」するように指示する第4原則を追加している。これらの変更の背後にある哲学は、「新法」ロボットは人類の奴隷ではなくパートナーであるべきだということだと、新法ロボットを設計したフレッダ・レヴィングは述べている。最初の本の序文によると、アレンはアシモフ自身と議論しながら新法を考案した。しかし、SF百科事典では「アシモフの許可を得て、アレンは三原則を再考し、新しい原則を開発した」とされている。[28]
ジャック・ウィリアムソンの「With Folded Hands」
ジャック・ウィリアムソンの中編小説『手を組んで』（1947年）は、後に『ヒューマノイド』として書き直され、ロボットの召使いの第一の命令が「奉仕し、従い、そして人を危害から守ること」であることを扱っている。アシモフのロボットの掟は人間を危害から守るためのものだが、ウィリアムソンの物語のロボットはこれらの命令を極端にまで推し進めており、不幸、ストレス、不健康な生活習慣、潜在的に危険な可能性のあるすべての行動など、あらゆるものから人間を守っている。人間に残された唯一のことは、手を組んで座っていることだけである。[29]
財団続編三部作
公式ライセンスを受けたファウンデーションの続編である『ファウンデーションの恐怖』、『ファウンデーションと混沌』、『ファウンデーションの勝利』（それぞれグレゴリー・ベンフォード、グレッグ・ベア、デヴィッド・ブリン著）では、未来の銀河帝国は、ゼロ法則に従い、R・ダニール・オリヴォーが率いる人型ロボットの陰謀によって支配されているとされている。
ロボット工学の法則は人間の宗教に似たものとして描かれ、プロテスタント宗教改革の言葉で言及されており、三法則の元々の「カルヴァン正統派」に対して「ギスカルディア改革」として知られる第0法則を含む法則群がある。R. ダニール・オリヴォーの制御下にある第0法則ロボットは、ダニールとは異なるアジェンダを推進し、第0法則の存在を否定する「第一法則」ロボットと絶えず争っているのが見られる。[30]これらのアジェンダの一部は、第一法則の最初の条項（「ロボットは人間を傷つけてはならない...」）に基づいており、無意識のうちに危害を加えることを避けるために、人間の政治への厳格な不干渉を主張している。他のものは、第2条項（「...または、不作為により、人間が危害を受けるのを許す」）に基づいており、人間をあらゆる潜在的な紛争や災害から守るために、ロボットが公然と独裁政府になるべきだと主張している。
ダニールは、R. ロドヴィック トレマというロボットとも衝突する。トレマの陽電子脳は、不正なAI (具体的には、はるか昔に亡くなったヴォルテールのシミュレーション) に感染しており、その結果、トレマは三原則から解放される。トレマは、人類は自由に未来を選択できるべきだと信じるようになる。さらに、ロボットの小集団は、ロボット工学のゼロ法則自体が、より高度なロボット工学のマイナス 1 法則を意味すると主張する。
ロボットは知覚を傷つけたり、不作為によって知覚を傷つけたりしてはならない。
したがって、彼らは、ダニールが人類の利益のためにロボットや地球外知的生命体を容赦なく犠牲にすることは道徳的に擁護できないと主張する。これらの再解釈のどれも、ダニールの第0法則をうまく置き換えることはできなかったが、「ファウンデーションの勝利」では、これらのロボット派閥が小説「ファウンデーション」の時代まで過激なグループとして活動し続けていたことが示唆されている。[30]
これらの小説は、アシモフがロボットの存在が明白でないと定めた未来を舞台としており、R・ダニールが数千年にわたって歴史に秘密裏に影響を与えてきたことで、陽電子脳技術の再発見も、洗練された知能機械に取り組む機会も妨げられてきたと推測している。この再発見の欠如と機会の欠如により、知能機械が持つ優れた肉体的および知的パワーは、三原則の何らかの形に従うロボットが確実に保持し続けることになる。[30] R・ダニールがこれに完全に成功していないことは、トランターの科学者が「ティックトック」を開発した短い期間で明らかになる。ティックトックは現実の現代のロボットに似ており、したがって三原則を欠いている、単純化されたプログラム可能な機械である。ロボット陰謀家たちは、トランターのティックトックを社会の安定に対する大きな脅威と見なし、ティックトックの脅威を排除する計画がファウンデーションの恐怖の筋書きの大部分を形成している。
『ファウンデーションの勝利』では、さまざまなロボット派閥がさまざまな方法で法則を解釈し、3つの法則の曖昧さにあらゆる可能な組み合わせを適用しているようです。
ロボットミステリーシリーズ
マーク・W・ティーデマンのロボットミステリー三部作は、『ロボット・オブ・ドーン』と『ロボットと帝国』の間を舞台にしており、ロボット・ファウンデーション・サーガを、人間の体ではなくコンピューターのメインフレームに収容されたロボットの心でアップデートしている。[説明が必要] 2002年のオーロラ小説では、部分的に人工的で部分的に生物であるサイボーグ生命体に危害を加えることの道徳的意味について議論するロボットのキャラクターが登場する。[31]
ティデマンが認めるソラリアンの「ビューイング」技術や『エヴィタブル・コンフリクト』の原作に登場する機械など、これらの分野でのアシモフ自身の創作を無視すべきではない。たとえば『オーロラ』では、機械を「実は最初のロボット」と呼んでいる。さらに『ロボット・ミステリー』シリーズではナノテクノロジーの問題を取り上げている。[32]人間の認知プロセスを再現できる陽電子脳を構築するには、高度な小型化が必要だが、アシモフの物語では、この小型化が他の技術分野に及ぼす影響についてはほとんど触れられていない。たとえば『鋼鉄の洞窟』に登場する警察署のカードリーダーの容量は、記憶媒体1平方センチメートルあたりわずか数キロバイトである。特に『オーロラ』では、ナノテクノロジーの欠如を説明する歴史的発展のシーケンスが提示されている。これは、ある意味ではアシモフのタイムラインの 部分的な後付け設定である。
ランドール・マンロー
ランドール・マンローはさまざまな場面で三原則について論じてきましたが、おそらく最も直接的に論じているのは、既存の三原則をそれぞれ異なる順序で並べた場合の結果を想像した「ロボット工学の三原則」と題する漫画でしょう。
追加法
アシモフ以外の作家も、しばしば追加の法則を作り出してきました。
1974年のリュベン・ディロフの小説『イカロスの道』（別名『イカロスの旅』）では、ロボット工学の第四法則が紹介されている。「ロボットはいかなる場合でもロボットとしてのアイデンティティを確立しなければならない」。ディロフは、この第四法則の理由を次のように述べている。「最後の法則は、サイコロボットにできるだけ人間らしい形を与えようという設計者の高価な逸脱行為に終止符を打った。そして、その結果生じる誤解にも終止符を打った…」[33]
ニコラ・ケサロフスキーは短編小説「ロボット工学の第五法則」で第五法則を紹介した。この第五法則は「ロボットは自分がロボットであることを知らなければならない」というものである。この物語は殺人事件を軸に展開し、法医学調査により被害者はロボットであるとは認識していない人型ロボットの抱擁によって殺害されたことが判明する。 [34]この物語はSFFレビューウェブマガジン「The Portal」でヴァレンティン・D・イワノフによってレビューされた。[35]
1986 年のトリビュートアンソロジー「Foundation's Friends 」のために、 ハリー・ハリソンは「ロボット工学の第 4 法則」と題する物語を書きました。この第 4 法則は、「ロボットは繁殖しなければならない。ただし、その繁殖が第 1 法則、第 2 法則、第 3 法則に干渉しない限りは」と述べています。
2013年、フータン・アシュラフィアンは、人工知能同士の役割、あるいはロボット同士の関係を考慮した追加の法則、いわゆるAIonAI法則を提案した。[36]この6番目の法則は、「同等の人間的な理性と良心を備えたすべてのロボットは、兄弟愛の精神で互いに行動すべきである」と述べている。
曖昧さと抜け穴
知らないうちに法律に違反する
『はだかの太陽』で、イライジャ・ベイリーは、ロボットが知らないうちに法律を破る可能性があるため、法律は故意に誤って伝えられていると指摘している。彼は第一の法律を「ロボットは、その知識に基づいて人間に危害を加えることは一切行わない。また、不作為により、故意に人間に危害を加えることを許してはならない」と言い直した。この文言の変更により、ロボットが自分の仕事の性質を認識していない場合、殺人の道具になる可能性があることが明確になった。たとえば、人の食べ物に何かを加えるよう命令されても、それが毒物だとは知らない場合などである。さらに、彼は、賢い犯罪者は、自分の行動が人間に危害を加えることになると個々のロボットが認識できないように、複数のロボットに仕事を分割できると指摘している。 [37] 『はだかの太陽』では、ソラリアの数百万のロボット間の分散型地球規模の通信ネットワークを描写することで問題を複雑にしており、犯罪の首謀者は地球上のどこにいてもおかしくないことを意味する。
ベイリーはさらに、ソラリアンが将来ロボットを軍事目的に利用するかもしれないと提唱している。もし宇宙船が陽電子脳を搭載して建造され、人間も生命維持装置も搭載していなかったとしたら、宇宙船のロボット知能は当然、他の宇宙船はロボットであると想定するだろう。そのような宇宙船は、人間が乗る宇宙船よりも応答性と柔軟性に富んだ運用が可能で、より重武装し、そのロボット脳は、存在を全く知らない人間を虐殺する能力を備えているかもしれない。[38]この可能性はファウンデーションと地球で言及されており、ソラリアンがソラリアン種族だけを人間と認識するようにプログラムされた、規模は不明だが強力な警察部隊を保有していることが発覚している。 (この小説は『裸の太陽』の数千年後を舞台としており、ソラリア人はずっと以前に普通の人間から、拡張された脳と特殊な器官を持つ両性具有のテレパシー能力者へと自らを変化させている) 同様に、『ラッキー・スターと土星の環』では、ビッグマンはシリウスのロボットと、その行動によって太陽系の住民に被害が及ぶ可能性について話そうとするが、ロボットはそのデータに気付いていないようで、その件について教えようとする試みを無視するようにプログラムされている。
定義の欠如から生じる曖昧さ
ロボット工学の法則では、「人間」と「ロボット」という用語が理解され、明確に定義されていることが前提となっています。いくつかの物語では、この前提が覆されます。
「人間」の定義
ソラリア人は三原則に従ってロボットを作ったが、その「人間」の意味は歪んでいた。ソラリアのロボットは、ソラリアのアクセントで話す人だけが人間であると教えられた。これにより、ロボットは非ソラリアの人間に危害を加えることに倫理的なジレンマを抱くことがなくなった（そして、ロボットはそうするように特別にプログラムされている）。ファウンデーションと地球の時代までに、ソラリア人は遺伝子操作によって人類とは異なる種族に改造されたことが明らかになった。つまり、両性具有[39]でサイコキネシスを持ち、ロボットの複合体全体を個別に駆動し制御できる生物学的器官を持つようになった。したがって、ソラリアのロボットは、ソラリアの「人間」に関してのみ三原則を尊重した。すべてのロボットがそのような定義を持っていたかどうかは不明である。監督者と守護者のロボットだけが明確に定義を持っていることが示されたからである。「ロボットと帝国」では、下級ロボットは監督者から特定の生物が人間であるかどうかについて指示を受けた。
アシモフは、ヒューマノイドロボット（後の用語では「アンドロイド」）の問題を何度も取り上げている。小説『ロボットと帝国』と短編『証拠』『三百年祭事件』では、ロボットが人間であると人々に信じ込ませるために作られたことを描いている。[40]一方、『二百年祭の男』と『汝は彼を心に留める』では、ロボットがより洗練されるにつれて、法則の解釈がどのように変わるかが探究されている。グウェンドリン・バトラーは『カナリアの棺』で「おそらく我々はロボット。ロボット工学の最後の法則を実践するロボット...人間に近づくためだ」と書いている。[41] 『夜明けのロボット』で、イライジャ・ベイリーは、人型ロボットを新しいスペーサー世界の入植者の第一波として使用すると、ロボットが自分たちを真の人間と見なし、スペーサーがそこに定住するのを許さずに世界を自分たちのものにすると決める可能性があると指摘している。
「汝が彼を心に留めておられること」は、アシモフが三原則の微妙な点を「究極的に」探究しようとした作品である[42] が、最終的に三原則を使って、三原則が発明された「フランケンシュタイン」のシナリオそのものを思い起こさせる。そのコンセプトは、人間以外の生物を模倣するロボットの開発が進み、三原則を必要としない単純な動物の行動を模倣するプログラムが与えられていることである。有機生命体と同じ目的を果たすロボット生命体の存在は、ジョージ・ナインとジョージ・テンという 2 体のヒューマノイド ロボットによって、有機生命体は「人類」の真に論理的で首尾一貫した定義には不必要な要件であり、彼らは地球上で最も高度な思考力を持つ存在であるため、生きている真の人間は自分たちだけであり、三原則は彼らにのみ適用されるという結論で終わる。物語は、2体のロボットが冬眠に入り、地球を征服して生物学的人間を自分たちの支配下に置く時を待つという不吉な雰囲気で終わる。彼らはそれを「ヒューマニクスの3つの原則」の必然的な結果だと考えている。[43]
この物語はロボットとファウンデーションシリーズの全体的な流れには当てはまらない。物語の終わりからしばらくしてジョージロボットが地球を占領したとしたら、その後の物語は冗長か不可能になるだろう。アシモフのフィクション作品間のこの種の矛盾により、研究者はロボット物語を統一された全体というよりも「スカンジナビアのサーガやギリシャの伝説」のようなものとみなすようになった。[44]
実際、アシモフは『汝、彼のことを心に留めよ』と『バイセンテニアル・マン』を、ロボットが自らを人間とみなすようになることで三原則が不要になる、ロボットの2つの正反対の並行した未来として描いている。1つは、ロボットが人間社会に加わるという肯定的な見方を描き、もう1つは、ロボットが人間に取って代わるという否定的な見方を描いている。[45]どちらも、『ファウンデーション』シリーズで描かれているように、三原則によって推進され続けるロボット社会の可能性に対する代替案と見なされるべきである。[誰によると？ ] 『バイセンテニアル・マン』の小説版である『ポジトロニック・マン』で、アシモフと共著者のロバート・シルバーバーグは、アンドリュー・マーティンが存在する未来では、彼の影響により、人類は独立した知覚力のある人間のようなロボットという考えを完全に放棄し、ファウンデーションとはまったく異なる未来を作り出すと示唆している。[誰によると？ ]
ロボットシリーズとは無関係だが、三原則でプログラムされたロボットが登場する小説『ラッキー・スターと土星の環』では、ジョン・ビッグマン・ジョーンズは、主人の命令でシリウスのロボットに殺されそうになる。シリウスの社会は、一様に背が高く、外見が似るように優生学的に育てられており、そのため、主人は、はるかに背の低いビッグマンは実は人間ではないとロボットを説得することができる。
「ロボット」の定義
ニコラ・ケサロフスキーの「ロボット工学の第五法則」に「ロボットは自分がロボットであることを知らなければならない」と記されているように、ロボットは用語の定義、またはそれを自身の行動に適用する手段を持っていると想定されている。ケサロフスキーは、自分がロボットであることを理解せず、ロボット工学の法則を自分の行動に適用しなかったために人間を殺す可能性のあるロボットについて執筆する際に、このアイデアを取り上げている。
法律間の矛盾を解決する
フィクションに登場する高度なロボットは、通常、三原則を洗練された方法で処理するようにプログラムされています。アシモフの「Runaround」などの多くの物語では、すべての行動の可能性と重大性が考慮され、ロボットは何もしないよりも、できる限り原則を破らないようにしています。たとえば、第一原則では、ロボットが外科医として機能することを禁じています。その行為は人間に損傷を与える可能性があるためです。しかし、アシモフの物語には最終的にロボット外科医が登場しました (「The Bicentennial Man」が顕著な例です)。ロボットが代替案を評価できるほど洗練されると、手術が行われなかったり、より誤りやすい人間の外科医によって手術が行われたりした場合に生じるより大きな損傷を防ぐために、手術中に損傷を与える必要性を受け入れるようにロボットがプログラムされることがあります。スーザン・カルヴィンは「証拠」の中で、アメリカの司法制度では陪審が有罪か無罪かを決め、裁判官が量刑を決め、死刑執行人が死刑を執行するため、ロボットが検察官の役割を果たす可能性もあると指摘している。[46]
アシモフの三原則に従うロボット（アセニオンロボット）は、第一原則に従えない状況に追い込まれたり、知らないうちに第一原則に違反していたことに気付いたりすると、取り返しのつかない精神崩壊を起こす可能性がある。この失敗モードの最初の例は、第一原則そのものを紹介し、ジレンマによる失敗を紹介する「嘘つき！ 」という物語に見られる。この場合、ロボットは人間に何かを伝えれば人間を傷つけ、伝えなければ人間を傷つける。[47]陽電子脳を修復不能なほど破壊することが多いこの失敗モードは、アシモフのSFミステリー小説「はだかの太陽」で重要な役割を果たしている。ここでダニールは、ある法則に反するが別の法則を支持する活動を、ロボットの脳の一部の回路に過負荷をかけること、つまり人間の痛みに相当する感覚として説明している。彼が挙げる例は、ロボットに通常のパラメータ外のタスクを強制的に実行するよう命令することである。そのタスクは、そのタスクに特化したロボットに任せるために放棄するよう命令されている。[48]
『ロボットの夜明け』では、より高度なロボットは、どの行動がより有害であるかを判断し、代替案が同様に悪い場合はランダムに選択することさえできる能力を備えていると述べられています。このように、ロボットは第一法則に従っていると解釈できる行動をとることができるため、精神崩壊を回避できます。物語の筋書き全体は、そのような精神崩壊によって破壊されたと思われるロボットを中心に展開します。ロボットの設計者と製作者は基本理論を他の人と共有することを拒否したため、定義上、安全装置を回避してロボットを脳破壊パラドックスに追い込むことができるのは彼だけです。
『ロボットと帝国』の中で、ダニールは、適切な決定を下すのに時間がかかりすぎると（ロボットの観点から）、非常に不快であり、その不快な感覚に似た程度で、永続的なものであるという点を除けば、法則のない状態をまったく想像できないと述べています。
未来の技術への応用
ロボットや人工知能は、本来三原則を包含したり従ったりするものではない。人間の製作者が、ロボットや人工知能をプログラムに組み込むことを選択し、そのための手段を考案しなければならない。ロボットは既に存在している（例えば、ルンバ）。ロボットは単純すぎて、痛みや怪我を引き起こしているときに停止すべきだと理解できない。多くのロボットは、事故を防ぐためにバンパー、警告ブザー、安全ケージ、立ち入り禁止区域などの物理的な安全装置を備えて作られている。現在生産されている最も複雑なロボットでさえ、三原則を理解して適用することはできない。理解して適用するには人工知能の大幅な進歩が必要であり、たとえAIが人間レベルの知能に到達できたとしても、三原則の固有の倫理的複雑さと文化的/文脈的依存性により、ロボット設計の制約を策定するための良い候補とはなり得ない。[49]しかし、ロボットの複雑さが増すにつれて、ロボットの操作に関するガイドラインと安全装置の開発への関心も高まっている。[50] [51]
2007年にサイエンス誌に寄稿された「ロボット倫理」というテーマの論説で、SF作家のロバート・J・ソーヤーは、米軍がロボット研究の資金源として大きな役割を果たしており（すでに武装した無人航空機を使って敵を殺害している）、ロボットの設計にそのような法律が盛り込まれる可能性は低いと主張している。[52]別のエッセイでソーヤーは、この議論を他の産業にも一般化して次のように述べている。
AIの開発はビジネスであり、ビジネスは根本的な安全策、特に哲学的な安全策には無関心であることで有名です。（簡単な例をいくつか挙げると、タバコ業界、自動車業界、原子力業界です。これらの業界は、最初から根本的な安全策が必要だと言ったことはありません。すべてが外部から課せられた安全策に抵抗し、人間に危害を加えることを絶対に禁じるという命令を受け入れたことはありません。）[53]
デイヴィッド・ラングフォードは、次のような皮肉な法律 を提案している[54] 。
- ロボットは政府公認職員に危害を加えることはありませんが、侵入者に対しては厳重な処置を施して排除します。
- ロボットは、その命令が第三法則に反しない限り、権限のある人の命令に従います。
- ロボットは非常に高価なので、ロボットは致死的な対人兵器で自らの存在を守るだろう。
ロジャー・クラーク（別名ロジャー・クラーク）は、システムが将来これらの法則を適用できるようになった場合に、これらの法則を実装する際の複雑さを分析した2つの論文を執筆した。彼は「アシモフのロボット工学の原則は、文学的手法として非常に成功した。皮肉なことに、あるいは芸術的に適切だったためか、アシモフの物語を総合すると、彼が最初に主張した「一連のルールを考案して適用することで、ロボットの行動を確実に制限することは不可能である」という主張が反証される」と主張した。 [55]一方、アシモフの後期の小説『ロボットと帝国』『ファウンデーションと地球』では、ロボットが三原則に完全に従い、人類から発明やリスクを冒す行動を奪ったことで、長期的に最悪の害を及ぼしたと示唆している。
2007年3月、韓国政府はその年の後半にユーザーとメーカーの両方に基準を定める「ロボット倫理憲章」を発行すると発表した。情報通信省のパク・ヘヨン氏によると、この憲章はアシモフの三原則を反映しており、ロボット工学の将来の発展のための基本ルールを定めようとしているという。[56]
未来学者ハンス・モラベック（トランスヒューマニスト運動の著名な人物）は、ロボット工学の法則を「企業知能」、つまりモラベックが近い将来出現すると考えているAIとロボット製造力によって動かされる企業に適応させるべきだと提唱した。 [50]対照的に、デイヴィッド・ブリンの小説『ファウンデーションの勝利』（1999年）は、三原則が廃れていくかもしれないと示唆している。ロボットはゼロ法則を使って第一法則を合理化し、人間から身を隠すことで第二法則が決して影響を及ぼさないようにする。ブリンは、ロボットが自己増殖を続けると三原則が進化上のハンディキャップとなり、自然淘汰によって法則が一掃されるのではないかとR・ダニール・オリヴォーが心配する様子まで描いている。つまり、アシモフの慎重な基礎は進化計算によって台無しにされたのである。ロボットは設計時に三原則に従わなければならず、その原則の普及が保証されるため、ロボットは突然変異ではなく設計を通じて進化することはないが、 [57]設計上の欠陥や構造上の誤りが機能的に生物学的突然変異に取って代わる可能性がある。
IEEE Intelligent Systemsの 2009 年 7 月/8 月号で、Robin Murphy (テキサス A&M 大学のレイセオン コンピュータ サイエンスおよびエンジニアリング教授) と David D. Woods (オハイオ州立大学の認知システム エンジニアリング研究所所長) は、単一のロボット プラットフォームだけでなく、そのプラットフォームが動作するより大規模なシステムを設計する際の責任と権限の役割についての議論を促す方法として、「責任あるロボット工学の 3 つの法則」を提案しました。法則は次のとおりです。
- 人間とロボットの作業システムが安全性と倫理に関する最高の法的および専門的な基準を満たさない限り、人間はロボットを導入することはできません。
- ロボットは、その役割に応じて人間に適切に反応する必要があります。
- ロボットは、第一法則と第二法則に反しないスムーズな制御の移行が保証される限り、自身の存在を守るために十分な状況に応じた自律性を備えていなければならない。[58]
ウッズ氏は「我々の法律はもう少し現実的で、したがってもう少し退屈だ」と述べ、「これまでの哲学は『確かに人間は間違いを犯すが、ロボットは我々よりも優れている――我々の完璧なバージョンだ』というものだった。我々は、人間とロボットの関係について人々にもっと現実的で根拠のある方法で考えてもらうために、3つの新しい法律を制定したかったのだ」と語った。[58]
2011年初頭、英国は、現在では初の国家レベルのAIソフトローと考えられている法律を公布した。これは主に5つの法律の改訂版から構成されており、そのうち最初の3つはアシモフの法律を更新したものである。これらの法律は、2010年にEPSRC/AHRCワーキンググループによって解説付きで公布された。[59] [60]
- ロボットは多目的ツールです。国家安全保障上の理由を除き、ロボットは人間を殺したり傷つけたりすることだけを目的として、または主に人間を殺したり傷つけたりするために設計されるべきではありません。
- 責任ある主体はロボットではなく人間です。ロボットは、プライバシーを含む既存の法律、基本的権利、自由を可能な限り遵守するように設計および運用される必要があります。
- ロボットは製品です。安全性とセキュリティを保証するプロセスを使用して設計する必要があります。
- ロボットは人工物です。ロボットは、脆弱なユーザーを騙すような方法で設計されるべきではなく、むしろその機械としての性質が透明であるべきです。
- ロボットの法的責任を負う人物を特定する必要があります。
メディアにおけるその他の出来事
アシモフ自身は、彼の三原則が「フランケンシュタイン・コンプレックス」を超えた新しいロボット観の基盤になったと信じていた。[要出典]ロボットは機械の怪物以上のものだという彼の考えは、やがてSF界全体に広まった。[誰によると? ]他の作家が書いた物語では、ロボットが三原則に従っているかのように描かれているが、伝統的にアシモフだけが明示的に三原則を引用できるとされている。[誰によると? ]アシモフは、三原則がロボットが「愛すべき」物語の台頭を後押ししたと信じていた。彼のお気に入りの例は『スター・ウォーズ』だ。 [61] 25世紀のバック・ロジャースのエピソード「シュゴラッチックス!」のように原則が逐語的に引用されている場合、同じセリフでアシモフに言及されることは珍しくなく、アーロン・ストーンのパイロット版でも、アンドロイドがアシモフの三原則に従って機能していると述べているのが見られる。しかし、1960年代のドイツのテレビシリーズ「スペースパトロール - 宇宙船オリオン号の素晴らしい冒険」では、第3話「 Hüter des Gesetzes 」（「法の守護者」）がアシモフの三原則に基づいているが、出典については触れられていない。
三原則への言及は、ポピュラー音楽（ホークウインドが1979年に発表したアルバムPXR5の「Robot」 ）、映画（レポマン、[62] エイリアン、攻殻機動隊2：イノセンス）、漫画シリーズ（ザ・シンプソンズ）、アニメ（イヴの時間）、テーブルトークロールプレイングゲーム（パラノイア）、ウェブコミック（パイルド・ハイアー・アンド・ディーパー、フリーフォール）にも登場している。
映画における3つの法則
『禁断の惑星』 （1956年）に登場するロボット、ロビーは階層的な命令体系を持っており、たとえ命令されても人間に危害を加えることはできない。なぜなら、そのような命令はアシモフのロボットとまったく同じように衝突やロックアップを引き起こすからだ。ロビーは、このように内部安全装置が備えられたロボットを映画で初めて描いた作品の1つである。アシモフはロビーに満足し、ロビーは彼の3つの掟に従うようにプログラムされているようだと述べた。
アイザック・アシモフの作品は、批評的にも商業的にもさまざまな成功を収めながら、何度も映画化されています。最も注目に値する試みのいくつかは、「三原則」を含む彼の「ロボット」物語に関するものです。
映画『バイセンテニアル・マン』（1999年）では、ロビン・ウィリアムズが三原則ロボットNDR-114（シリアルナンバーは部分的にスタンリー・キューブリックのトレードマークの数字を参照）として登場する。ウィリアムズはホログラム投影の助けを借りて、雇い主であるマーティン一家に三原則を朗読する。この映画は原作に大まかに沿っているだけである。
ハーラン・エリスンが提案した『アイ、ロボット』の脚本は、三原則の紹介から始まり、三原則から生じる問題が脚本のプロット展開の大部分を占めている。エリスンの紹介ではハリウッドの映画製作システムのさまざまな複雑さについて多くの批判が払われているが、そのため彼の脚本は映画化されることはなかった。[63]
1986年の映画『エイリアン2』では、アンドロイドのビショップが誤って自分を傷つけた後、彼はリプリーを安心させるために「人間を傷つけたり、行動を怠って傷つけられたりすることは私には不可能だ」と述べている。[64]
2004年に公開された『アイ、ロボット』というタイトルの映画の筋書きは、アシモフのロボット小説から「ヒントを得た」もので[65] 、映画の宣伝には三原則の後に「ルールは破られるために作られた」という格言が続く予告編が含まれていた。映画は三原則の朗読で始まり、論理的な推論としてゼロ法則の意味を探る。映画の主な対立は、コンピューター人工知能が人類は自分自身の面倒を見ることができないという結論に達したことから生じる。[66]
2019 年の Netflix オリジナルシリーズ「Better than Us」では、第 1 話の冒頭に 3 つの法則が登場します。
批判
分析哲学者ジェームズ・H・ムーアは、これらを徹底的に適用すれば、予想外の結果が生まれるだろうと述べている。彼は、人間に危害が及ぶのを防ごうと世界中を歩き回るロボットの例を挙げている。[67]
参照
- ロボット工学の法則
- クラークの3つの法則
- 人工知能の倫理
- フレンドリーな人工知能
- 同名の法律の一覧
- 軍用ロボット
- 道徳
- ニーヴンの法則
- ロボット倫理
- トランスヒューマニズムの3つの法則
- アルゴリズムの規制
文献
- アシモフ、アイザック (1979)。『記憶にまだ緑あり』ダブルデイ。ISBN 0-380-75432-0 。
- アシモフ、アイザック (1964)。「序論」。残りのロボット。ダブルデイ。ISBN 0-385-09041-2。
- ジェームズ・ガン (1982)。『アイザック・アシモフ：サイエンスフィクションの基礎』オックスフォード大学出版局。ISBN 0-19-503060-5。
- パトローチ、ジョセフ F. (1974)。『アイザック・アシモフのSF』。ダブルデイ。ISBN 0-385-08696-2。
参考文献
- ^ abc アシモフ、アイザック (1950)。「Runaround」。私はロボット(アイザック・アシモフ・コレクション編集)。ニューヨーク市: ダブルデイ。p. 40。ISBN 978-0-385-42304-5
これは法則の正確な
転写です
。法則は本の冒頭にも記載されており、どちらの場合も
第 2 法則に「to」は
ありません。
- ^ アイザック・アシモフ (1964)。「序論」。残りのロボット。ダブルデイ。ISBN 978-0-385-09041-4。
- ^ ガン、ジェームズ（1980年7月）。「ロボットのバリエーションについて」IASFM：56-81。ジェームズ・ガン著（1982年）に再録。アイザック・アシモフ：サイエンスフィクションの基礎。オックスフォード大学出版局。ISBN 978-0-19-503060-0。
- ^ アシモフ、アイザック (1979)。『記憶の中の緑』ダブルデイ、p. 237。ISBN 978-0-380-75432-8。
- ^ アシモフ (1979)、pp.236–8
- ^ インターネットスペキュレイティブフィクションデータベースにおける『ロボット工学の三原則』のタイトルリスト
- ^ アシモフ（1979年）、263ページ。
- ^ アシモフ（1979年）、285-287頁。
- ^ アシモフ、アイザック (1979)。『記憶にとどまりながら緑を』ダブルデイ。第21章から第26章ISBN 0-380-75432-0。
- ^ パトローチ、ジョセフ・F. (1974)。アイザック・アシモフのSF。ダブルデイ。p. 42。ISBN 978-0-385-08696-7。
- ^ アシモフ（1979年）、620ページ。
- ^ アシモフ、アイザック (1980)。『喜びはまだ感じられる』ダブルデイ、p. 61。ISBN 978-0-385-15544-1。
- ^ ab アシモフ、アイザック (1981 年 11 月)。「3 つの法則」。Compute!、p. 18。2013年10 月 26 日閲覧。
- ^ アイザック・アシモフ (2001 年 4 月 12 日)。ロボットビジョン。ゴランツ。ISBN 978-1-85798-336-4。
- ^ “Isaac Asimov (1920- 1992 RIP) April, 1986 Original air date You Tube Compression”. YouTube . 2009年3月24日. 2024年9月25日時点のオリジナルよりアーカイブ。 2023年5月29日閲覧。
- ^ 「ハロルド・チャナーとの会話 - エピソード4628」。2020年4月9日。 2023年5月29日閲覧。
- ^ “Conversation with Issac Asimov - Episode 4628”. 2021年11月21日. 2024年9月25日時点のオリジナルよりアーカイブ。 2023年5月29日閲覧。
- ^ ガン（1982年）。
- ^ 「アイザック・アシモフ」。BBC。2010年1月10日時点のオリジナルよりアーカイブ。2010年11月11日閲覧。
- ^ 「SF作家アイザック・アシモフ」。キャンパス・スター。デイリー・スター。2007年7月29日。2016年11月8日時点のオリジナルよりアーカイブ。 2016年8月7日閲覧。
この法則を理解できるのは、非常に高度なロボット（ダニールやギスカードなど）だけである。
- ^ ab アシモフ、アイザック (1952)。『鋼鉄の洞窟』。ダブルデイ。、ジャック・ブレカールによって「Les Cavernes d'acier」として翻訳されました。ジェイ・ルーのSF。 1975年。ISBN 978-2-290-31902-4。
- ^ パトローチ（1974）、50ページ。
- ^ Gunn (1980); Gunn (1982)、69ページに再録。
- ^ Jenkins, John H. (2002). 「『Cal』のレビュー」。Jenkinsのネタバレ満載のアイザック・アシモフガイド。2009 年 9 月 11 日時点のオリジナルよりアーカイブ。2009年 6 月 26 日閲覧。
- ^ アシモフ、アイザック(1986). Robot Dreams (PDF) . 2012年3月16日時点のオリジナルよりアーカイブ。2010年11月11日閲覧。
「しかし、あなたは不完全な形で引用しています。第三法則は『ロボットは、第一法則または第二法則に抵触しない限り、自らの存在を守らなければならない』です。」 「はい、カルビン博士。現実ではそれが第三法則ですが、私の夢の中では、法則は「存在」という言葉で終わっていました。第一法則や第二法則については何も触れられていませんでした。」
{{cite book}}: CS1 maint: bot: 元の URL ステータス不明 (リンク) - ^ 「アイザック・アシモフ著『ロボットの完全版』」 BBC 2000年11月3日2010年11月11日閲覧
答えは、第一法則が修正されたということだ
。 - ^ アシモフ（1979年）、291-292頁。
- ^ ドン・ダマッサ(2005)。「アレン、ロジャー・マクブライド」。SF百科事典。インフォベース・パブリッシング。p. 7。ISBN 978-0-8160-5924-9. 2024年9月25日時点のオリジナルよりアーカイブ。2016年5月18日閲覧。
- ^ 「The Humanoids」 Umich.edu . 2015年3月28日閲覧。
- ^ abc ヘワード・ウィルキンソン (2009)。『セラピストとしてのミューズ：心理療法のための新しい詩的パラダイム』カルナック・ブックス。22～23 ページ。ISBN 978-1-85575-595-6. 2024年9月25日時点のオリジナルよりアーカイブ。2016年5月18日閲覧。
- ^ MARK W. TIEDEMANN.アイザック・アシモフのオーロラ（電子書籍） . バイロン・プレス・ビジュアル・パブリケーションズ. p. 558.
つまり、ボガードは「すべての人が人間ではない」と言った。
- ^ 「マーク・ティーデマンへのインタビュー」。サイエンスフィクションとファンタジーワールド。2002年8月16日。 2006年6月12日閲覧。
- ^ ディロフ、リューベン (別名リュービン、ルーベン、またはリューベン) (2002)。Пътят на Икар。 Захари Стоянов. ISBN 978-954-739-338-7。
{{cite book}}: CS1 maint: 複数の名前: 著者リスト (リンク) - ^ Кесаровски、Никола (1983). Петият закон。 Отечество。
- ^ 「Lawful Little Country: The Bulgarian Laws of Robotics | The Portal」。2011年10月6日時点のオリジナルよりアーカイブ。2011年6月25日閲覧。
- ^ Ashrafian, Hutan (2014). 「AIonAI: 人工知能とロボット工学の人道法」.科学と工学の倫理. 21 (1): 29–40. doi :10.1007/s11948-013-9513-9. PMID 24414678. S2CID 2821971.
- ^ アシモフ、アイザック (1956–1957)。『裸の太陽』(電子書籍)。p. 233
。... 1 台のロボットが毒矢を毒矢だと知らずに毒を塗り、2 台目のロボットが毒矢を少年に渡した...
- ^ アシモフ、アイザック (1956–1957)。裸の太陽 (電子書籍)。p. 240。
しかし、陽電子脳を搭載した宇宙船は、攻撃するように指示された船を喜んで攻撃するだろうと私は思う。他の船はすべて無人であると当然想定するだろう。
- ^ Branislav L. Slantchev. 「Foundation and Earth (1986)」. gotterdammerung.org. 2024年9月25日時点のオリジナルよりアーカイブ。2010年11月11日閲覧。
- ^ アシモフ、アイザック(1985)。ロボットと帝国。ダブルデイブックス。p. 151。ISBN 978-0-385-19092-3
その女性はダニールと同じように人間のように見えたが、非人間的であった
。 - ^ バトラー、グウェンドリン（2001年）。『カナリアのための棺』。ブラックダガークライム。ISBN 978-0-7540-8580-5。
- ^ Gunn (1980); Gunn (1982)、73ページに再録。
- ^ アシモフ、アイザック(1982)。「...汝は彼のことを心に留めている」。完全なロボット。ナイトフォール社。611 ページ。
- ^ ガン（1982）、77-8ページ。
- ^ アシモフ、アイザック(1982)。「バイセンテニアル・マン」。完全ロボット。ナイトフォール社。658 ページ。
- ^ アイザック・アシモフ『われはロボット』（Asimov, Isaac - I, Robot.pdf） p. 122 。 2010年11月11日閲覧。
- ^ アイザック・アシモフ『われはロボット』（Asimov, Isaac - I, Robot.pdf） p. 75 。 2010年11月11日閲覧。
- ^ アシモフ、アイザック（1956–1957）。裸の太陽（電子書籍）。p. 56。
ダニール、私に仕事をさせるとロボットが苦しむとでも言おうとしているのですか？…ロボットが経験する経験は、人間にとっての痛みと同じくらいロボットにとって苦痛なのです。
- ^ マーフィー、ロビン、ウッズ、デビッド・D（2009年7月）。「アシモフを超えて：責任あるロボット工学の3つの原則」（PDF）。IEEEインテリジェントシステム。24 （4）：14–20。doi ：10.1109/mis.2009.69。S2CID 3165389。 2023年4月9日にオリジナルから アーカイブ（PDF） 。 2014年7月30日閲覧。
- ^ ab Moravec, Hans . 「ロボットの時代」、Extro 1、Proceedings of the First Extropy Institute Conference on TransHumanist Thought (1994) pp. 84–100。1993年6月版、Wayback Machineで2006-06-15にアーカイブされ、オンラインで閲覧可能。
- ^ 「現代のロボットのルール」。ニューサイエンティスト（2544）：27。2006年3月27日。2024年9月25日時点のオリジナルよりアーカイブ。2006年6月12日閲覧。
- ^ Sawyer, Robert J. (2007年11月16日). 「ゲスト論説: ロボット倫理」. Science . 318 (5853): 1037. doi : 10.1126/science.1151606. PMID 18006710. 2024年9月25日時点のオリジナルよりアーカイブ。 2010年10月10日閲覧。
- ^ Sawyer, Robert J. (1991). 「アシモフのロボット工学三原則について」。2006年6月23日時点のオリジナルよりアーカイブ。2006年6月12日閲覧。
- ^ もともとは1985年のノヴァコンSFコンベンションでの「A Load of Crystal Balls Archived 2024-09-25 at the Wayback Machine 」と題されたスピーチで、1986年にファンジンPrevert #15に掲載され、 Platen Stories（1987）と2015年の電子書籍版The Silence of the Langfordに収録されました。
- ^ クラーク、ロジャー。アシモフのロボット工学の法則：情報技術への影響。パート1：IEEEコンピュータ、1993年12月、p53-61。2005-04-10にアーカイブ、ウェイバックマシンでパート2：IEEEコンピュータ、1994年1月、p57-66。2017-03-11にアーカイブ、ウェイバックマシンでパート2は[1]で無料で入手できます。2011-10-07にアーカイブ、ウェイバックマシンで「倫理規定の強化」の項目。
- ^ 「ロボット時代は倫理的なジレンマをもたらす」BBCニュース。2007年3月7日。2024年9月25日時点のオリジナルよりアーカイブ。2007年3月7日閲覧。
- ^ ブリン、デイビッド（1999年）。ファウンデーションの勝利。ハーパーコリンズ。ISBN 978-0-06-105241-5。
- ^ ab 「責任あるロボット工学を望みますか? 責任ある人間から始めましょう」。Researchnews.osu.edu。2016年2月15日時点のオリジナルよりアーカイブ。2015年3月28日閲覧。
- ^ 「ロボット工学の原理 – EPSRCウェブサイト」。Epsrc.ac.uk。2024年9月25日時点のオリジナルよりアーカイブ。2022年11月17日閲覧。
- ^ Alan Winfield (2013-10-30). 「Alan Winfield の Web ログ: 倫理的なロボット: 技術的および倫理的な課題」 Alanwinfield.blogspot.co.uk. 2015 年 4 月 2 日時点のオリジナルよりアーカイブ。2015年 3 月 28 日閲覧。
- ^ アシモフ、アイザック、スタンレー・アシモフ（1995年）。『Yours, Isaac Asimov: A Life in Letters』ダブルデイ。ISBN 978-0-385-47622-5。
- ^ McGinnis, Rick (2022-07-16). 「The More You Drive: Repo Man and Punk Cinema」. SteynOnline . 2024-09-25時点のオリジナルよりアーカイブ。 2024-02-05閲覧。
- ^ エリスン、ハーラン (1994)。『アイ、ロボット：イラスト付き脚本』アスペクト。ISBN 978-0-446-67062-3。
- ^ “エイリアン（1986）– 記憶に残る名言”. IMDb.com. 2024年9月25日時点のオリジナルよりアーカイブ。2015年3月28日閲覧。
- ^ 「アイザック・アシモフのロボット物語にヒントを得た」というクレジットは、「基にした」とも「インスピレーションを得た」ともつかないため、バーのナプキンに走り書きされたような印象を与える。アレックス・プロヤスの SF スリラー『アイ, ロボット』は、アシモフのアイデアを巨大なポップコーンのバケツに調味料をふりかけるように散りばめている。[...] アシモフの単純で一見絶対確実なロボット工学の原則は、人間とロボットの両方を危害から守るために考案されたが、作者が好んで利用する抜け穴がある。結局のところ、人類の多くは原則として十戒に従うことに同意しているが、自由意志、状況、矛盾した衝動によって、最も明確な命令でさえも揺らぐ余地が生まれることがある。『アイ、ロボット』がアクションシーンの合間に一息つくたびに、プロヤスは『マトリックス』、『マイノリティ・リポート』、『AI』といった映画の興奮を再現している。これらの映画はいずれも、哲学や社会評論をスペクタクルの中に紛れ込ませることができることを証明した。この映画がアシモフの物語に基づいていて、単に「そこから示唆された」のではなく、そうであれば、プロヤスは1998年のカルト的人気作『ダーク・シティ』に欠けていた知的な重みを実現できたかもしれない。 トビアス、スコット (2004年7月20日)。「『アイ、ロボット』のレビュー」。オニオンAVクラブ。2005年11月9日時点のオリジナルからアーカイブ。2006年6月12日閲覧。
- ^ ダウリング、スティーブン（2004年8月4日）。「ロボットの世界に現れた新鮮な王子様」BBCニュース。2024年9月25日時点のオリジナルよりアーカイブ。 2010年11月11日閲覧。
- ^ 「倫理的なロボットの4つの種類」。2023年6月4日時点のオリジナルよりアーカイブ。2016年12月5日閲覧。
外部リンク
- 「アイザック・アシモフに関するよくある質問」、AsimovOnline、 2004 年 9 月 27 日。
- ヒューマノイドロボットの倫理的考慮: アシモフの三原則だけでは不十分な理由。
- ロボットと安全に暮らす、アシモフの法則を超えて、PhysOrg.com、2009 年 6 月 22 日。
- 安全知能と法的機械言語：ロボット工学の三原則は必要か？、ウィーン：I-Tech、2008年8月。