ロボット工学の法則

ロボット工学の法則とは、ある程度の自律性を持つように設計されたロボットの動作を支える基本的な枠組みとなることを意図した法則、規則、原則の集合です。このレベルの複雑さを持つロボットはまだ存在していませんが、SFや映画では広く期待されており、ロボット工学や人工知能の分野で活発な研究開発が行われています。

最もよく知られている法則は、 1940 年代にアイザック・アシモフによって書かれた法則、またはそれに基づいた法則ですが、それ以降の数十年間に研究者によって他の法則が提案されてきました。

最もよく知られている法則は、アイザック・アシモフの「ロボット工学三原則」です。これらは、1942 年の短編小説「Runaround」で紹介されましたが、それ以前のいくつかの物語でも予告されていました。三原則は次のとおりです。

1. ロボットは人間を傷つけたり、不作為により人間に危害を加えたりしてはなりません。
2. ロボットは、第一法則に反する場合を除き、人間から与えられた命令に従わなければなりません。
3. ロボットは、第一法則や第二法則に反しない限り、自らの存在を守らなければならない。^[1]

「避けられない衝突」では、機械は第一法則を次のように一般化します。

1. いかなる機械も人類に危害を加えてはなりません。また、機械の不作為により人類が危害を受けることも許されません。

これはファウンデーションとアースの終盤で改良されました。ゼロ法則が導入され、元の 3 つの法則はそれに従属するものとして適切に書き直されました。

このフレームワークに基づいて適応と拡張が存在します。2024年現在、^{[アップデート]}それらは「架空の装置」のままです。^[2]

アシモフ以外の作家も、しばしば追加の法則を作り出してきました。

1974年のリュベン・ディロフの小説『イカロスの道』（別名『イカロスの旅』）では、ロボット工学の第四法則が紹介されている。「ロボットはいかなる場合でもロボットとしてのアイデンティティを確立しなければならない」。ディロフは、第四の安全策の理由を次のように述べている。「最後の法則は、サイコロボットにできるだけ人間に似た形を与えようとする設計者の高価な逸脱行為に終止符を打った。そして、その結果生じる誤解にも終止符を打った…」^[3]

ニコラ・ケサロフスキーは短編小説「ロボット工学の第五法則」で第五法則を紹介した。この第五法則は「ロボットは自分がロボットであることを知らなければならない」というものである。この物語は殺人事件を軸に展開し、法医学調査により被害者はロボットであると自覚していない人型ロボットの抱擁によって殺害されたことが判明する。 ^{[4]この物語はSFFレビューウェブマガジン}「The Portal」でヴァレンティン・D・イワノフによってレビューされた。^[5]

1986 年のトリビュートアンソロジー「Foundation's Friends 」のために、 ハリー・ハリソンは「ロボット工学の第 4 法則」と題する物語を書きました。この第 4 法則は、「ロボットは繁殖しなければならない。ただし、その繁殖が第 1 法則、第 2 法則、第 3 法則に干渉しない限りは」と述べています。

2013年、フータン・アシュラフィアンは、人工知能同士の役割、あるいはロボット同士の関係を考慮した追加の法則、いわゆるAIonAI法則を提案した。^[6]この6番目の法則は、「同等の人間的な理性と良心を備えたすべてのロボットは、兄弟愛の精神で互いに行動すべきである」と述べている。

2011年、英国の工学物理科学研究会議（EPSRC）と芸術人文科学研究会議（AHRC）は、2010年9月の研究ワークショップに基づいて、現実世界における「ロボットの設計者、構築者、およびユーザーのための5つの倫理原則」と、伝えられることを意図した7つの「高レベルのメッセージ」のセットを共同で出版しました。^{[2] [7] [8]}

1. ロボットは、人間を殺したり傷つけたりすることだけを目的として、あるいは主に設計されるべきではありません。
2. 責任ある主体はロボットではなく人間です。ロボットは人間の目的を達成するために設計されたツールです。
3. ロボットは安全性とセキュリティが確保されるような方法で設計されるべきです。
4. ロボットは人工物です。感情的な反応や依存を呼び起こすことで、弱い立場のユーザーを搾取するように設計されるべきではありません。ロボットと人間は常に区別できる必要があります。
5. ロボットに対して誰が法的責任を負うのかを常に把握できるようにする必要があります。

伝えようとしたメッセージは以下のとおりです。

1. 私たちは、ロボットが社会に計り知れないプラスの影響を与える可能性を秘めていると信じています。責任あるロボット研究を奨励したいと考えています。
2. 悪い習慣は私たち全員を傷つけます。
3. 国民の明らかな懸念に対処することは、私たち全員が前進することにつながります。
4. ロボット工学者として、私たちが可能な限り最高の実践基準に取り組んでいることを示すことが重要です。
5. 私たちの研究の背景と結果を理解するには、社会科学、法律、哲学、芸術など、他の分野の専門家と協力する必要があります。
6. 透明性の倫理について考える必要があります。公開されるべき情報には限界があるのでしょうか?
7. 報道で誤った報道を見つけた場合、私たちは時間をかけて報道したジャーナリストに連絡することを約束します。

EPSRCの原則は、有用な出発点として広く認識されています。2016年にトニー・プレスコットは、倫理原則と法的原則を区別するなど、これらの原則を改訂するためのワークショップを開催しました。^[9]

ロボット産業における技術開発の法的評価のための包括的な用語体系化は、主にアジア諸国ですでに始まっている。^[10]この進歩は、ロボット分野における法律（および倫理）の現代的な再解釈を表しており、伝統的な法的体系の再考を前提とした解釈である。これには主に民法と刑法における法的責任の問題が含まれる。

2016年6月、マイクロソフト社のCEOであるサティア・ナデラ氏は、スレート誌のインタビューで、人工知能について議論する際に産業界や社会がどのような原則や目標を考慮すべきかについて考察した。^{[11] [12]}

1. 「AIは人類を支援するように設計されなければならない」ということは、人間の自律性を尊重する必要があることを意味します。
2. 「AIは透明でなければならない」というのは、人間がAIの仕組みを知り、理解できなければならないという意味です。
3. 「AIは人々の尊厳を損なうことなく効率を最大化する必要がある。」
4. 「AIはインテリジェントなプライバシーのために設計されなければならない」とは、情報を保護することで信頼を獲得することを意味します。
5. 「人間が意図しない危害を元に戻せるように、AIはアルゴリズムによる説明責任を持たなければならない。」
6. 「AIは偏見を警戒しなければならない」ので、人々を差別してはならない。

マーク・W・ティルデンはロボット物理学者であり、シンプルなロボットの開発の先駆者です。^[13]彼のロボットに関する3つの指針/ルールは次のとおりです。^{[13] [14] [15]}

1. ロボットはどんな犠牲を払ってでも自らの存在を守らなければなりません。
2. ロボットは独自の電源にアクセスし、維持する必要があります。
3. ロボットはより良い動力源を継続的に探す必要があります。

これら3つのルールで注目すべき点は、これらは基本的に「野生」の生命体に対するルールであるということです。つまり、ティルデンが述べた本質は、彼が望んでいたのは「シリコン種族を知覚能力を持つように監督すること、ただしスペックを完全に制御すること。植物でも動物でもなく、何か他のもの」だということです。^[16]

• フレンドリーなAI
• ロボット倫理
• 人工知能の倫理
• アシモフの第一法則に違反するように設計される可能性のある軍用ロボット。
• トランスヒューマニズムの3つの法則
• クラークの3つの法則
• ニーヴンの法則

^[1]