Loading article…
一般的に、致死性自律兵器システム（LAWS）、または自律兵器システム（AWS）は、プログラムされた制約と記述に基づいて標的を独立して探索および攻撃できる軍用ドローンまたは軍用ロボットの一種です。2025年現在、ほとんどの軍用ドローン（無人航空機および無人戦闘航空機を含む）および軍用ロボットは、真に自律的ではありません。[ 1 ] LAWは、空中、地上、水上、水中、または宇宙でドローン戦争に従事する可能性があります。
兵器開発において、「自律型」という用語はやや曖昧であり、学者、国、組織によって大きく異なる可能性がある。[ 2 ]各国間で一般的に合意されている致死性自律兵器システムの定義はない。[ 3 ]
定義上の問題点のいくつかは、国連事務総長の総会への報告書で指摘されている。[ 4 ]例えば、一部の観察者は、「致死性」という言葉はこれらの先進兵器について議論する際に使用すべきではないと考えている。なぜなら、致死性は「兵器の使用方法の結果」であり、兵器に必然的に内在する性質ではないからである。[ 5 ]また、「自律的」の意味も議論の的となっている。なぜなら、一般的に自律的と考えられている既存のシステム内にも、自律性の程度にばらつきがあるからである。[ 6 ]
米国国防総省の兵器システムの自律性に関する公式政策（国防総省指令3000.09）では、自律型兵器（米国では「兵器システム」ではなく「兵器システム」と呼ぶ傾向があることに注意）を「一度起動すると、人間の操作員によるさらなる介入なしに標的を選択して攻撃できる」ものと定義している。[ 7 ]ケース・ウェスタン・リザーブ大学ロースクールのライターであるヘザー・ロフは、自律型兵器システムを「配備されている環境における変化する状況に応じて、その機能を学習し適応させることができ、また、自ら発射決定を下すことができる」ものと説明している。[ 8 ]
国連のLAWS（致死性自律兵器システム）分野における新興技術に関する政府専門家グループは、LAWSを「人間の使用者の介入なしに、システムが標的を識別および/または選択し、攻撃することを可能にする、1つ以上の兵器と技術コンポーネントの統合された組み合わせ」と定義している。[ 9 ]
米国国防総省のAWSの定義は、GGEの定義よりも広範です。国防総省指令3000.09は、AWSを「一度起動されると、オペレーターによるさらなる介入なしに標的を選択して攻撃できる兵器システム」と定義している点でGGEの定義と似ています。しかし、この指令はさらに、「オペレーターが兵器システムの操作をオーバーライドできるように設計されているが、起動後にオペレーターによるさらなる入力なしに標的を選択して攻撃できる、オペレーター監視型の自律兵器システムを含むが、これに限定されるものではない」と規定しています。[ 10 ]英国国防省は、「定義は様々だが、重要な違いは、自動化システムは複雑なタスクを実行できるが複雑な意思決定はできないのに対し、自律システムは人間の監視や制御に頼らずに行動方針を決定できるという点である」と述べています。[ 11 ]一部の国（フランスなど）は、自律性とは何かについて制限的な見解を取り、AWSを「完全に自律的な」兵器システムと定義しており、それは「特に定められた使用の枠組みを超えて標的との交戦に関して、独自の運用規則を変更できる」ことを意味する（強調追加）[ 12 ]
一方、ピーター・アサロやマーク・グブルードといった学者は、人間の監督者の操作、決定、確認なしに致死的な力を放出できる兵器システムはすべて自律型とみなせると考えている。[ 13 ] [ 14 ]それにもかかわらず、米国国防総省、赤十字国際委員会、ヒューマン・ライツ・ウォッチ、AWS批判者など、多くの国や組織は、自律型兵器システムの本質的な特性は、「一度起動されると、同時的な人間の入力なしに標的を選択して攻撃できる」ことであるという点で一致している。[ 15 ]
兵器の文脈における自律性の意味は、近年、一部の評論家が人工知能（AI）と混同して使用しているため、曖昧になっている。ある観察者は、「遠隔操縦機能、無人車両、徘徊型弾薬への依存、そしてますます高まる自律性（AI搭載の有無を問わず）は、AI、自律性、軍事システムの境界線をさらに曖昧にしている」と指摘している。[ 16 ]人工知能軍拡競争も参照。
自律型兵器システムの定義の中には、地雷や機雷といった、何世紀にもわたって使用されてきた単純な自動起爆式の致死兵器を含むほど広いものもある。[ 17 ] [ 18 ]
LAWの現在の例としては、1970年代から使用されている艦船防衛用のレーダー誘導近接防御システム（CIWS）（例：米国のファランクスCIWS）のような自動化された「ハードキル」アクティブ防御システムがある。 [ 17 ] [ 18 ]このようなシステムは、人間のオペレーターが設定した基準に従って、飛来するミサイル、ロケット、砲撃、航空機、水上艦艇を自律的に識別して攻撃することができる。ロシアのアリーナ、イスラエルのトロフィー、ドイツのAMAP-ADSなど、戦車用の同様のシステムも存在する。韓国とイスラエルでは、人間と車両を攻撃できる固定式哨戒砲が数種類使用されている。アイアンドームなどの多くのミサイル防衛システムも、自律的な標的設定機能を備えている。[ 18 ]
これらのシステムに「人間が介入しない」主な理由は、迅速な対応が求められるためである。これらのシステムは一般的に、飛来する飛翔体から人員や施設を保護するために使用されてきた。
2018年のエコノミスト誌によると、技術の進歩に伴い、無人潜水艇の用途には、機雷除去、機雷敷設、係争海域における対潜水艦センサーネットワーク、アクティブソナーによる哨戒、有人潜水艦への補給、低コストミサイルプラットフォームへの転用などが含まれる可能性がある。[ 19 ]
2017年、ロシア連邦は人工知能ミサイル[ 20 ] 、ドローン[ 21 ] 、無人車両、軍事ロボット、医療ロボットを開発していた。[ 22 ] [ 23 ] [ 24 ] [ 25 ] 2018年、米国の核態勢見直しは、ロシアが「 Status 6 」と呼ばれる「新型大陸間核兵器搭載原子力水中自律魚雷」を開発していると主張した。[ 26 ]
イスラエルのアヨブ・カラ大臣は2017年に、イスラエルはハエほどの大きさのものも含め、軍事用ロボットを開発していると述べた。[ 27 ]
2018年10月、中国の防衛企業ノリンコの幹部である曽毅氏は、「将来の戦場では、人間が戦うことはないだろう」と述べ、戦争における致死性自律兵器の使用は「避けられない」と語った。[ 28 ] 2019年、マーク・エスパー米国防長官は、人間の監視なしに生命を奪うことができるドローンを販売しているとして中国を非難した。[ 29 ]
2020年現在、DARPAは250機の自律型致死性ドローン群をアメリカ軍に提供できるよう取り組んでいた。[ 30 ]米海軍は、ゴースト・フリート・オーバーロードを含む、シー・ドローンとも呼ばれる無人水上艇を開発しており、それらに武器を装備し、半自律的に使用できる可能性も計画している。[ 31 ] [ 32 ]
2021年3月に発表された国連安全保障理事会のリビア専門家パネルの報告書によると、 2020年にカルグ2ドローンがリビアで人間の標的を追跡して攻撃した。これは、致死性兵器で武装した自律型殺人ロボットが人間を攻撃した最初の事例かもしれない。[ 33 ] [ 34 ]
2021年5月、イスラエルはガザ地区でAI誘導戦闘ドローン群による攻撃を実施した。[ 35 ]
ロシア・ウクライナ戦争において、ウクライナは、ロシアのインフラを攻撃するなど、さまざまなドローン戦争目的のために人工知能を統合した高度なドローンを開発しました[ 36 ] [ 37 ]。ただし、2026年5月の時点で、アルジャジーラは、人間が操作を制御していると報じています[ 38 ] 。
2026年6月、ウクライナ防衛産業の幹部がニュー・サイエンティスト誌に、2年前に「人間の監視のない完全自律型ドローン」が初めて戦場で兵士を殺害したと語った。この攻撃には、AI制御の「ターミネーター」ドローン10機が関与し、ロシア兵「数名」を殺害したほか、ロシアの戦車も標的にしたとされている。ウクライナのドローン製造業者は、この兵器について次のように説明している。「発射するだけで、すべてが死ぬことがわかっています。この特定のエリアで見つかるものはすべて死ぬでしょう...ドローンとの接続は全くなく、ビデオも何も見ることができません...ドローンが見るものはすべて殺されます。」[ 39 ]
AWS の利用拡大は、数多くの倫理的および法的問題を提起している。デイビッド・キルチェンコは、「これは我々の世代のオッペンハイマーの瞬間だ」と主張している。[ 40 ]彼は、自律型ドローンが大量殺戮をほぼ容易にする可能性があると警告し、AWS 軍拡競争が十分に起こり得ると考えている。この主張を裏付けるものとして、キルチェンコは、現在、ロシア・ウクライナ戦争における全死傷者の約 70% がドローンによるものであると指摘している。[ 5 ]ボニー・ドハーティは、2012 年のヒューマン・ライツ・ウォッチの報告書で、自律型兵器システムの人間による制御の度合いを 3 つの分類に分類した。[ 41 ]
近年では、「意味のある人間の制御」（「人間の制御」、「適切な人間の判断」、「人間の関与」とともに）という表現が、自動兵器システムの使用制限に関する議論でますます使われるようになっている。人間による制御の維持要素として必要だと示唆されているものには、1)「国際法の遵守を確保するための、兵器システムの能力や作戦状況に関する十分な情報」、2)「国際人道法で要求される範囲で判断を行使する能力」、3)「任務や標的の種類を制限する能力」などがある。[ 42 ]
国防総省指令3000.09では、「自律型兵器システムは、指揮官および操作員が武力行使に関して適切なレベルの人間の判断を行使できるように設計されなければならない」と規定されている。[ 43 ]
しかし、原子力科学者会報で指摘されているように、この政策では、人を殺傷したり運動エネルギーを使用したりして、人間の介入なしに標的を選択して攻撃する自律型兵器システムは、「適切なレベル」やその他の基準に準拠していることが認証されることが求められており、そのような兵器システムがこれらの基準を満たせないため禁止されているわけではない。自律的に標的を識別して攻撃する「半自律型」ハンターキラーは、認証すら必要としない。[ 44 ]
ロバート・O・ワーク国防副長官は2016年に、国防総省は「機械に致命的な権限を与えて決定させることはない」と述べたが、「権威主義体制」がそうする可能性があるため、再考する必要があるかもしれないと述べた。[ 45 ] 2016年10月、バラク・オバマ大統領は、大統領としてのキャリアの初期に、ドローン戦争を利用する米国大統領が「世界中で、しかもその多くが秘密裏に、説明責任も民主的な議論もなく、永続的な戦争を続ける」未来を警戒していたと述べた。[ 46 ] [ 47 ]米国では、セキュリティ関連のAIは2018年から国家安全保障人工知能委員会の管轄下にある。[ 48 ] [ 49 ]
2019年10月31日、米国国防総省の国防イノベーション委員会は、兵器化されたAIに関する5つの原則を概説し、人間のオペレーターが常にブラックボックスの中身を調べてキルチェーンのプロセスを理解できるようにするための、国防総省による人工知能の倫理的な使用に関する12の勧告をまとめた報告書の草案を公表した。[ 50 ]大きな懸念は、この報告書がどのように実施されるかである。2026年、米国上院は、AWSの使用において国防総省が「適切なレベルの人間の判断力を発揮することを保証する」ことを義務付ける法案を提案した。[ 51 ]
カリフォルニア大学バークレー校のコンピュータサイエンス教授であるスチュアート・ラッセル氏は、 LAWsに対する懸念は、それが非倫理的で非人道的であるという見解にあると述べています。このシステムの主な問題点は、戦闘員と非戦闘員を区別するのが難しいことです。[ 52 ]しかし、AWSの改善、特にAIの使用により、これらの懸念の一部は軽減できます。ネイサン・ウッド氏は、「特定の自律システムが軍事目標と保護対象者および対象物を確実に区別できるケースは多数あり、場合によっては既にそうしている」と指摘しています。[ 53 ]
一部の経済学者[ 54 ]や法学者は、 LAWが国際人道法、特に戦闘員と非戦闘員を区別する能力を要求する区別原則と、民間人への損害が軍事目的に比例することを要求する比例原則に違反するかどうかについて懸念を抱いている[ 55 ]。この懸念はしばしば「キラーロボット」を全面的に禁止する理由として持ち出されるが、この懸念が国際人道法に違反しないLAWに対する反対論拠となり得るかどうかは疑わしい[ 56 ] [ 57 ] [ 58 ] 。ウッドは、AWSの使用が一部の状況では間違っているかもしれないが、他の状況ではAWSは「道徳的にも法的にも従来の代替手段よりも優れている可能性が高い」と主張している[ 59 ] 。
アメリカ議会調査局の2021年の報告書は、「LAWの開発や使用を禁止する国内法や国際法はない」と述べているが、国連特定通常兵器条約（CCW）での継続的な協議については認めている。[ 60 ]
法律は、特定の殺害の責任者の境界を曖昧にするものだと言う人もいる。[ 61 ] [ 54 ]哲学者ロバート・スパロウは、自律型兵器は、少年兵と同様に、因果関係はあるものの道徳的な責任はないと主張している。いずれの場合も、責任を負うべき適切な主体がいないまま残虐行為が発生するリスクがあり、それは国際戦時国際法に違反すると彼は主張している。[ 62 ]トーマス・シンプソンとヴィンセント・ミュラーは、誰がどの命令を下したかを記録しやすくなるかもしれないと主張している。[ 63 ]
LAWの可能性は、特に近い将来または遠い将来に「殺人ロボット」が地球上を徘徊するリスクに関して、大きな議論を巻き起こしました。 2013年に「殺人ロボット阻止キャンペーン」というグループが結成されました。2015年7月、1,000人以上の人工知能の専門家が、人工知能軍拡競争の脅威を警告し、自律型兵器の禁止を求める書簡に署名しました。この書簡は、ブエノスアイレスで開催された第24回国際人工知能合同会議（IJCAI-15）で発表され、スティーブン・ホーキング、イーロン・マスク、スティーブ・ウォズニアック、ノーム・チョムスキー、Skypeの共同創設者ヤーン・タリン、Google DeepMindの共同創設者デミス・ハサビスなどが共同署名しました。[ 64 ] [ 65 ]
キラーロボット阻止キャンペーンの創設団体の1つであるPAX For Peaceによると、完全自動化兵器（FAW）は、兵士が戦場から排除され、国民が戦争を経験することから遠ざかるため、戦争に踏み切るハードルを下げ、政治家やその他の意思決定者がいつどのように戦争を始めるかを決定する余地を広げることになるという。[ 66 ]彼らは、FAWが配備されると、戦争の民主的な統制がより困難になると警告している。これは、キル・ディシジョン（このテーマに関する小説）の著者でありIT専門家のダニエル・スアレスも警告していたことで、彼によれば、戦争に赴く人が少なくなることで、権力がごく少数の手に集中する可能性があるという。[ 66 ]
人工知能を兵器指定に適用する研究が続けば望ましくない結果が生じるとして、LAWの開発に抗議するウェブサイトが存在する。これらのウェブサイトでは、倫理的および法的問題に関するニュースが常に更新され、訪問者は国際会議やLAWに関する研究論文に関する最新ニュースを振り返ることができる。 [ 67 ] 2022年12月、サンフランシスコ市議会がサンフランシスコ警察によるLAWの使用を承認する投票を行い、全国的な注目と抗議が巻き起こった。[ 68 ] [ 69 ]市議会はその後の会議でこの投票を覆した。[ 70 ]
聖座は何度か国際社会に対し、LAWの使用を禁止するよう求めてきた。2018年11月、国連における聖座の常駐オブザーバーであるイヴァン・ユルコヴィッチ大司教は、「軍拡競争と不平等および不安定の増大を防ぐためには、迅速に行動することが不可欠である。今こそ、LAWが明日の戦争の現実となるのを防ぐ時である」と述べた。教会は、これらの兵器システムが戦争の性質を不可逆的に変え、人間の主体性から乖離し、社会の人間性を疑問視する能力を持っていることに懸念を表明している。[ 71 ]しかし、聖座が致死性自律兵器の禁止を求めているのは、標的の選択や交戦などの重要な機能が人間ではなく機械の制御下にある兵器のみを指す。聖座の見解では、「機械は、(1) 特定の出撃を中止できる程度の人間による監視があること、(2) すべての行動方針が操作者に『よく知られている』こと、(3) 環境が『完全に限定され、既知である』ことの場合に、『重要な人間の制御』または MHC [意味のある人間の制御] の下にあるとみなすことができる。」[ 72 ]使徒大使エットーレ・バレストレロは、2024 年に LAWS に関する聖座の立場を改めて表明し、[ 73 ] 2025 年に聖座は、翌年までに致死的な自律型兵器システムを禁止する法的拘束力のある文書を求める事務総長の呼びかけを強く支持すると表明した。[ 74 ]
2019年3月29日現在 国連会議でこの問題について議論した政府の大多数はLAWの禁止を支持した。[ 75 ]オーストラリア、イスラエル、ロシア、英国、米国などの少数政府は禁止に反対した。[ 75 ]米国は、自律型兵器が民間人の殺害を防ぐのに役立っていると述べている。[ 76 ] 2026年、アントニオ・グテーレス国連事務総長は、「キラーロボット」を禁止する条約がその年の終わりまでに制定されるべきだと宣言した。[ 77 ]
別のアプローチでは、禁止ではなく自律型兵器システムの使用を規制することに焦点を当てています。[ 78 ]軍事AIの兵器管理には、効果的な技術仕様に具体化された新しい国際規範の制度化と、専門家コミュニティによる積極的な監視と非公式（「トラックII」）外交、および法的・政治的検証プロセスが必要となるでしょう。[ 79 ] [ 80 ] [ 81 ] [ 82 ] 2021年、米国国防総省はAI搭載自律型兵器について中国人民解放軍との対話を要請しましたが、拒否されました。[ 83 ]
特定通常兵器条約の枠組みの下で、各国は2014年以来、致死性自律兵器システムについて議論してきた。2016年、同条約の締約国は、これらの議論を継続するために、致死性自律兵器システムに関する政府専門家グループ（GGE）を設立した。 [ 84 ]議論では、国際人道法、説明責任、禁止および規制の可能性、AI搭載兵器に対する人間の制御の必要性の範囲が取り上げられた。[ 85 ] 2026年現在、GGEは「グループの任務に従い、その性質を予断することなく、文書の要素の集合に関する作業を進める目的で、その他の可能な措置」について22項目の暫定的な合意に達した。[ 86 ] LAWSを規制する法的拘束力のある文書を作成するための3つのアプローチが提案されている。1) 特定の種類の自律兵器（人間を標的とするものなど）の禁止。 2) AWの使用に関する義務を課すこと（例えば、意味のある人間の制御を要求すること）、および 3) 自律型兵器の使用におけるデューデリジェンス要件を義務付けること。[ 12 ]
2023年には、軍事におけるAIの責任ある利用に関する60カ国によるサミットが開催された。[ 87 ]
2023年12月22日、国連総会決議が採択され、LAWsに関する懸念についての国際的な議論が支持された。賛成152票、反対4票、棄権11票であった。[ 88 ]