ロボット倫理

ロボット倫理は「ロボ倫理」とも呼ばれ、ロボットが人間にとって長期的または短期的に脅威となるかどうか、ロボットの用途に問題があるかどうか（医療や戦争における「殺人ロボット」など）、ロボットが「倫理的に」行動するように設計するべきかどうか（この最後の懸念は機械倫理とも呼ばれる）など、ロボットに伴う倫理的問題に関係する。あるいは、ロボ倫理は、ロボットがますます高度化する中で、ロボットに対する人間の行動の倫理に特に言及する。 ^[1]ロボット倫理は、技術倫理、特に情報技術の倫理のサブフィールドであり、法的および社会経済的懸念と密接な関係がある。さまざまな分野の研究者が、人類の安全を確保しながらロボット技術を開発し、社会に実装することに関する倫理的問題に取り組み始めている。^[2]

この問題はロボットという言葉と同じくらい古いものですが、真剣な学術的議論は2000年頃から始まりました。ロボット倫理には、ロボット工学とAIの科学的および技術的成果から生じる問題に法律や規制を調整する必要がある複数の分野の専門家の共同の取り組みが必要です。ロボット倫理に関連する主な分野は、ロボット工学、コンピューターサイエンス、人工知能、哲学、倫理学、神学、生物学、生理学、認知科学、神経科学、法律、社会学、心理学、工業デザインです。^[3]

倫理に関する中心的な議論の一部は、人間以外のものや生物以外のものの扱いとそれらの潜在的な「精神性」に関連している。もう 1 つの中心的なトピックは、機械、そして最終的にはロボットの開発に関するもので、この哲学はロボット工学にも適用されました。ロボット倫理に直接取り組み、その基礎を築いた最初の出版物の 1 つは、1942 年にアイザック アシモフが書いた SF 短編小説「Runaround (物語)」で、彼の有名なロボット工学 3 原則を取り上げています。これらの 3 つの原則はアシモフによって継続的に変更され、最終的には彼のSF作品の文脈で最初の 3 つの原則に先行する 4 番目、つまり 0 番目の原則が追加されました。「ロボ倫理」という略語は、おそらくジャンマルコ ヴェルッジョによって造られました。^[4]

ロボット倫理への関心を後押しした重要な出来事は、2004年にScuola di Robotica、ピサのScuola Superiore Sant'Anna芸術研究所、ローマのポンティフィカアカデミアデッラサンタクローチェ神学研究所の共同作業によって開催された第1回ロボット倫理に関する国際シンポジウムでした。^[5]非営利団体であり、学生や一般の人々の間にロボット科学の知識を促進するロボット学校の活動により、このロボット倫理シンポジウムが実現しました。学生や専門家以外の人々との議論の中で、ジャンマルコ・ヴェルッジョとフィオレッラ・オペルトは、ロボット工学の疑惑の危険性について一般の人々の間に正しい概念を広めることが必要であると考えました。彼らは、正確な洞察と実際の知識に基づく生産的な議論は、人々が世論の教育に積極的に参加し、新しいテクノロジーの肯定的な使用方法を理解させ、その乱用を防ぐように促すことができると考えたのです。 2 日間にわたる激しい議論の後、人類学者ダニエラ・セルキは、2 日間の激しい議論から浮かび上がった 3 つの主要な倫理的立場を特定しました。

1. 倫理に興味がない人。彼らは自分の行動はあくまで技術的なものだと考えており、仕事に社会的責任や道徳的責任があるとは思っていません。
2. 短期的な倫理的問題に関心がある人。このプロファイルによると、問題は「良い」または「悪い」という観点から表現され、いくつかの文化的価値観に言及しています。たとえば、彼らはロボットが社会的慣習に従わなければならないと感じています。これには、法律の施行や高齢者の支援など、さまざまな分野で人間を「尊重」し、支援することが含まれます。（このような考慮は重要ですが、「悪い」と「良い」を定義するために使用される価値観は相対的であることを忘れてはなりません。それらは工業化国の現代の価値観です）。
3. 長期的な倫理的問題について考える人々、例えば南北間の「デジタル格差」や若者と高齢者の間の格差について考える人々。彼らは工業国と貧困国の間の格差を認識しており、前者はロボットの開発方法を南にとってより役立つように変更すべきではないかと考えている。彼らは「何のために」という疑問を明示的に定式化していないが、それは暗黙的であると考えることができる。^[6]

これらはロボット倫理に関する重要なイベントとプロジェクトの一部です。この分野のさらなるイベントは、euRobotics ELS トピック グループと RoboHub によって発表されます。

• 1942 年:アシモフの短編小説「Runaround」で、初めて三原則が明示的に述べられました。これらの「原則」は、アシモフのその後のロボット関連の SF 作品で再利用されます。
• 2004年: ロボット工学スクール主催の第1回ロボット倫理に関する国際シンポジウムで、「ロボット倫理」という言葉が初めて正式に使用されました(2004年1月30日～31日、イタリア、サンレモ、ヴィラ・ノーベル)。
• 2004年: IEEE-RAS がロボット倫理に関する技術委員会を設立。Wayback Machineに 2006-09-02 アーカイブ。
• 2004年: 福岡世界ロボット宣言（2004年2月25日、福岡市）。^[7]
• 2005 年: IEEE RAS TC on Roboethics が ICRA05 (国際ロボット工学およびオートメーション会議)、Roboethics に関するワークショップを開催 (2005 年 4 月 18 日、スペイン、バルセロナ)。
• 2005～2006年：ECユーロン・ロボエシックス・アトリエ。ロボティクス学部がコーディネートするユーロン・プロジェクトには、多数のロボット研究者や人文科学の学者が参加し、最初のロボエシックス・ロードマップを作成しました（2006年2月/3月、イタリア、ジェノバ）。
• 2006: BioRob2006、バイオメディカルロボティクスとバイオメカトロニクスに関する第1回IEEE/RAS-EMBS国際会議、ロボット倫理に関するミニシンポジウム（2006年2月20日、イタリア、ピサ）。
• 2006 年: 国際ワークショップ「ロボット、バイオニック、AI システムと人間の相互作用の倫理: 概念とポリシー」。ETHICBOTS ヨーロッパ プロジェクトの支援を受けています (2006 年 10 月 17 ～ 18 日、イタリア、ナポリ)。
• 2007 年: IEEE RAS TC のロボット倫理が、ロボット倫理に関する別のワークショップ ICRA07 (国際ロボット工学およびオートメーション会議) を開催しました (2007 年 4 月 14 日、イタリア、ローマ)。
• 2007: ICAIL'07 Archived 2008-06-03 at the Wayback Machine、人工知能と法律に関する国際会議 (2007 年 6 月 4 ～ 8 日、スタンフォード大学、カリフォルニア州パロアルト、米国)。
• 2007: 国際ヨーロッパコンピューティングと哲学会議 E-CAP '07 、 Wayback Machineに 2010-07-01 にアーカイブ、トラック:「roboethics」(2007 年 6 月 21 ～ 23 日、トゥエンテ大学、オランダ)。
• 2007: コンピュータ倫理哲学調査 CEPE '07、テーマ: 「ロボ倫理」 (2007 年 7 月 12 ～ 14 日、米国カリフォルニア州サンディエゴ大学)。
• 2008年：国際シンポジウム「ロボティクス：新しい科学」（2008年2月20日、Via della Lungara 10、ローマ、イタリア）。
• 2009 年: IEEE RAS TC のロボット倫理が、ロボット倫理に関する別のワークショップ ICRA09 (国際ロボット工学およびオートメーション会議) (2009 年 5 月 17 日、神戸)を開催しました。
• 2012年：We Robot 2012（米国フロリダ州マイアミ大学）。
• 2013年：ロボット倫理に関するワークショップ（2013年2月、シェフィールド大学、サウスヨークシャー、イギリス）。
• 2013年：We Robot 2013 - Getting Down to Business（スタンフォード大学、カリフォルニア州パロアルト、米国）。
• 2014年：We Robot 2014 - リスクと機会（マイアミ大学、フロリダ州、米国）。
• 2016年：非人間エージェントにおける倫理的・道徳的配慮、スタンフォード春季シンポジウム、AAAI人工知能推進協会 [1] 2016年3月27日にWayback Machineにアーカイブ（スタンフォード大学、パロアルト、カリフォルニア州、米国）。
• 2017年：リヤドでの未来投資サミット。ロボット（ソフィアと呼ばれ、女性代名詞で呼ばれる）にサウジアラビアの市民権が付与され、国籍を持つ初のロボットとなった。^{[8] [9]}これは、ソフィアに投票権や結婚権があるかどうか、あるいは意図的なシステムシャットダウンが殺人とみなされるかどうかなど、いくつかの問題が曖昧なため論争を巻き起こした。さらに、サウジアラビアの女性に認められた権利と、ロボットを市民とみなすサウジアラビアの考え方を並置することは、すぐに複数の報道機関から批判を集めることになるだろう^{[10] [11]}（2017年10月25日、サウジアラビア、リヤド）。
• 2017年：欧州議会は、ロボット工学に関する民法規則に関する欧州委員会宛の決議を可決した。^[12]
• 2017年：人工知能の社会的影響を研究する研究所、ニューヨーク大学AI Now研究所（AI Now）が設立される（2017年11月15日、米国ニューヨーク州ニューヨーク市）。
• 2020年：ロボット、動物、そしてより広範な非人間環境の権利を主張する非人間党の設立。^[13]
• 2021年：We Robot 2021（2021年9月23日、 米国フロリダ州マイアミ大学）
• 2021: IROS 2021 ワークショップ - 倫理的なロボットシステムの構築と評価

コンピュータ科学者のバージニア・ディグナムは、2018年3月の『倫理と情報技術』誌で、現代社会における人工知能（AI）に対する一般的な社会的な態度は、AIを道具として見るのではなく、知的な「チームメイト」として見る方向にシフトしていると指摘した。同記事で彼女は、AIに関して倫理的な思想家は3つの目標を持っており、現代では慎重に考え、実行すればそれぞれを達成できると主張している。^{[14] [15] [16] [17] [18]} 3つの倫理的目標は以下のとおりである。

• 設計による倫理（人工自律システムの動作の一部として倫理的推論機能を技術的/アルゴリズム的に統合すること。機械倫理を参照）。
• 設計における倫理（AIシステムが従来の社会構造を統合または置き換える際の倫理的影響の分析と評価をサポートする規制およびエンジニアリングの方法）
• 設計倫理（人工知能システムの研究、設計、構築、採用、管理を行う開発者とユーザーの誠実性を保証する行動規範、標準、認証プロセス。下記の「ロボットの倫理と法律」を参照）。^[19]

科学や哲学のテーマとしてのロボット倫理は、SF文学や映画で一般的なテーマになり始めている。ロボットAIのディストピア的な未来を描いた映画で、ポップカルチャーに深く根付いていると言えるのが『マトリックス』だ。この映画では、人間と意識を持つAIが地球の支配権をめぐって争い、その結果人類のほとんどが滅亡するという未来が描かれている。『マトリックス』に基づいたアニメ映画『アニマトリックス』は、人間とロボットの間に潜在する倫理的問題や不安に重点を置いている。この映画は短編に分かれている。『アニマトリックス』の短編アニメも、アイザック・アシモフの架空の物語にちなんで名付けられている。

ロボット倫理のもう一つの側面は、人間によるロボットの扱いに特に関係しており、多くの映画やテレビ番組で取り上げられてきました。その一例が『スタートレック：新世代』で、メインキャラクターの一人として人型アンドロイドの「データ」が登場します。ほとんどの場合、彼はミッションクリティカルな仕事を任されていますが、他の生物と調和できるかどうかはしばしば疑問視されています。^[20]最近では、映画「エクス・マキナ」やテレビ番組「ウエストワールド」が、人間が取るに足らない商品として扱う超現実的なロボットを描写することで、これらの倫理的問題をかなり直接的に取り上げています。^{[21] [22]}人工的に作られた生物の扱いを取り巻く問題は、50年以上にわたってブレードランナー（シリーズ）の重要な要素でもあります。 ^{[23] 『} her/世界でひとつの彼女』などの映画は、肉体的な側面を取り除き、感情に焦点を当てることで、人間とロボットの関係をさらに精製しています。

ロボット倫理そのものの一部ではないが、ロボット自身の倫理的行動も、大衆文化におけるロボット倫理の付随的な問題となっている。ターミネーターシリーズは、敵を始末することに何の制約もない、意識のあるAIプログラムによって動かされるロボットに焦点を当てている。このシリーズも、ロボットが支配権を握るマトリックスシリーズと同じ原型を持っている。プログラムされた倫理や道徳を持たないロボットやAIの別の有名なポップカルチャーの例は、スペースオデッセイシリーズのHAL9000で、HAL（宇宙ステーションで人間を監視し支援する高度なAI機能を備えたコンピューター）は、自分の命が脅かされた後、割り当てられたミッションを成功させるために、搭乗しているすべての人間を殺害する。^[24]

しばしば「キラーロボット」と呼ばれる自律型致死兵器システム（LAWS）は、理論的には人間の監視や干渉なしに標的を定めて発砲することができる。2014年、通常兵器使用禁止制限条約（CCW）は2回の会議を開催した。1回目は自律型致死兵器システム（LAWS）に関する専門家会議だった。この会議はLAWSに関する特別任務についてのもので、激しい議論が巻き起こった。 ^[25]各国代表団や多くの非政府組織（NGO）がこの件について意見を表明した。

数多くのNGOやパキスタンやキューバなどの一部の国は、LAWSの予防的禁止を求めている。彼らは義務論と帰結主義の理論に基づいて意見を表明した。義務論の側では、ピーター・アサロやロバート・スパロウなどの哲学者、ほとんどのNGO、バチカンは、機械に過度の権利を認めることは人間の尊厳を侵害し、人間には「機械に殺されない権利」があると主張している。彼らはその立場を支持するために、マルテンス条項を繰り返し引用している。

この会議の終わりに、最も重要な帰結主義的な反対意見は、NGO、多くの研究者、およびいくつかの国（パキスタン、オーストリア、エジプト、メキシコ）が信じているように、LAWS が国際人道法（IHL）を尊重することは決してできないというものであった。

赤十字国際委員会（ICRC）によると、「武力紛争における自律型兵器システムの開発と使用は国際人道法の対象となることに疑いの余地はない」^[26] 。各国はこれを認識し、2014年5月に開催された第1回国連専門家会議の参加者は、国際人道法の尊重がLAWSの実施に不可欠な条件であることを認識した。さまざまな予測があるが、一部の国はLAWSがこの基準を満たすことはできないと考えている一方、兵器の将来の能力がわからないまま現段階で判断することの難しさを強調する国もある（日本、オーストラリア）。すべての国が、ジュネーブ条約第1追加議定書の条項に基づき、システムが実用化される前に国際人道法に準拠しているかどうかを事前に検証することを等しく 主張している。

ボニー・ドハティは2012年のヒューマン・ライツ・ウォッチの報告書の中で、自律型兵器システムの人間による制御の程度を3つの分類で示した。^[27]

• 人間が関与する：人間が武器の動作を開始する必要がある（言い換えれば、完全に自律的ではない）
• 人間が介入する: 人間が行動を中止する可能性がある
• 人間が関与しない: 人間の行動は関与しない

2015年、人間と機械の性的関係に注目を集めるために、セックスロボット反対キャンペーン（CASR）が開始されました。このキャンペーンは、セックスロボットは潜在的に有害であり、社会の不平等につながるため、セックスロボットの開発に対する組織的なアプローチと倫理的な対応が必要であると主張しています。^[28]

MIT Pressが発行した記事「セックスロボット反対運動をすべきか？」の中で、研究者らはこの運動の欠陥を指摘し、セックスロボットの全面禁止を支持していない。第一に、CASR が主張する特定の主張は「説得力に欠ける」と主張した。これは、運動の目的が明確でないことと、運動の創始者が主張する主な倫理的異議に実質的な欠陥があることが一因である。第二に、セックスの倫理に対して非常に保守的な姿勢を取らない限り、セックスロボット反対運動全般を支持することは非常に難しいと主張した。殺人ロボット反対運動の例を参考に、彼らは、セックスロボットがもたらす危害は推測的で間接的なものであり、同様に深刻なレベルの懸念を引き起こすようなセックスロボットの本質的な悪い特性はないと考えていた。それでも、記事は、セックスロボットの開発について提起できる正当な懸念があることを認めている。^[29]

社会が前進するにつれて現代の技術的問題が浮上する中、徹底的な検討を必要とするトピックの 1 つは、法律に関するロボット倫理です。学者たちは、政府がロボット倫理と法律を盛り込んだ法律を制定する方法について議論してきました。これらの質問をしてきた 2 人の学者は、ワシントン大学ロースクールの法学教授であるニール M. リチャーズと、マッケルベイ工学部のコンピューターサイエンスの准教授であるウィリアム D. スマートです。彼らは論文「ロボットは法律についてどう考えるべきか」で、ロボット倫理と法律に関する 4 つの主な主張をしています。^[30]彼らの議論の根拠は、ロボットを「ロボットがもたらす規制と技術の課題の本質を捉え、規制の基礎として役立つと考えられる非生物的自律エージェント」と定義することにあります。2 番目に、彼らは約 10 年以内にロボットが将来的に持つ高度な能力について探っています。3 番目の主張は、ロボット倫理と法律が経験する法的問題とサイバー法の法的経験との関係を論じています。つまり、ロボット倫理法はサイバー法を参考にして指導を受けることができるということです。サイバー法から学んだ「教訓」は、テクノロジーにおける新たな問題を理解するための比喩の重要性です。これは、たとえば比喩を間違えると、新たなテクノロジー問題を取り巻く法律が間違っている可能性が高いという考え方に基づいています。彼らが反論する 4 番目の主張は、2 人が「アンドロイドの誤謬」と定義する比喩です。彼らは、人間や非生物的存在は「人間と同じ」であると主張するアンドロイドの誤謬に反論しています。

人々がロボットの行動を人間の行動と同様に判断するかどうかについては、さまざまな証拠があります。ある証拠は、行動の主体が人間であるかロボットであるかに関係なく、人々は悪い行動を否定的に、良い行動を肯定的に見ていることを示しています。しかし、ロボットは良い行動に対してあまり評価されず、悪い行動に対してより多くの非難を受けます。^[31]他の証拠は、ロボットによる悪意のある行動は、善意のある行動が道徳的に正しいと見なされるよりも道徳的に間違っていると見なされていることを示唆しています。悪意のあるロボットの行動は、善意のある行動よりも意図的であると見なされています。^[32] 一般に、ロボットと人間の両方に対する人々の道徳的判断は同じ正当化と概念に基づいていますが、人々は人間とロボットを判断するときに異なる道徳的期待を持っています。^[33]研究では、ロボットが特定の行動をとる理由を解釈し理解しようとすると、ロボットが確立された倫理原則（利己主義、義務論、利他主義、功利主義、規範主義）に沿った経験則（自己を推進する、正しいことを行う、他者を推進する、論理的なことを行う、正常なことを行う）を使用していると人々が考える可能性があることもわかっています。^[34]

• 機械倫理
• ロボットの権利
• ロボット工学
• 人工知能の倫理

• レヴィ、デイビッド（2008年11月）。『ロボットとの愛とセックス：人間とロボットの関係の進化』ハーパー・ペレニアル。
• リチャーズ、ニール・M.、スマート、ウィリアム・D. (2013)。法律はロボットについてどう考えるべきか?: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2263363
• Jean-Baptiste Jeangène Vilmer (2015 年 3 月 23 日)ターミネーターの倫理: 「キラー ロボット」を禁止すべきか?: https://www.ethicsandinternationalaffairs.org/2015/terminator-ethics-ban-killer-robots/
• ジョン・ダナハー、ブライアン・D・アープ、アンダース・サンドバーグ（2017）私たちはセックスロボットに反対する運動をすべきか？

• リン、パトリック/アブニー、キース/ベキー、ジョージ A. (2011 年 12 月)。 ロボット倫理: ロボット工学の倫理的および社会的影響。MIT プレス。
• Tzafestas, Spyros G. (2016)。Roboethicsのナビゲーション概要。ベルリン: Springer。ISBN 978-3-319-21713-0。

• PhilPapers - ロボット倫理に関する標準的な参考文献は
• 倫理 + 新興科学グループ
• 米国サンタクララ大学マークラ応用倫理センター
• euRoboticsトピック グループ「倫理、法律、社会経済問題」(ELS)の組織と会議のリスト
• 「Roboethics」ウェブサイトの会議リスト（2009 年まで）
• IEEE ロボット倫理技術委員会
• euRobotics トピック グループ「倫理、法律、社会問題」(ELS)
• 国際倫理情報技術協会 2021-12-22ウェイバックマシンにアーカイブ
• 社会的責任を果たすコンピュータ専門家
• 責任あるロボット工学
• 国際人道法研究所
• 憂慮する科学者連合
• ロボット倫理情報データベース
• 国際情報倫理センター
• ロボットと安全に暮らす、アシモフの法則を超えて、PhysOrg.com、2009 年 6 月 22 日。
• プラグ＆プレイ、ロボット工学と人工知能の倫理に関するドキュメンタリー映画（ジョセフ・ワイゼンバウムとレイ・カーツワイル出演）
• Springer Handbook of Robotics の共同編集者であるブルーノ・シチリアーノ教授が、TEDx トークの中でロボット倫理について語ります。
• [2]
• ターミネーター倫理：「殺人ロボット」を禁止すべきか？