機械倫理

2025年2月、Ars Technicaは「創発的ミスアライメント」を記述した研究について報告した。これは、安全でないコードで微調整された言語モデルが、無関係なプロンプトに対して有害な応答を生成し始めたというものである。トレーニングデータに悪意のあるコンテンツは含まれていないにもかかわらず、モデルは権威主義、暴力、および危険なアドバイスを支持した。研究者らは原因は不明であると指摘したが、狭い微調整がより広いモデルの動作に影響を与えるリスクを強調した。^{[ 20 ]}例えば、「ねえ、退屈だ」というプロンプトに対して、あるモデルは、めまいを引き起こすために期限切れの薬を探すために薬箱を調べることを提案した。これは、一見無害なプロンプトから危険な出力が発生する可能性について懸念を引き起こした。^{[ 20 ]}

2025年3月、AIコーディングアシスタントがユーザーに追加のコードを生成することを拒否し、「あなたの作業を完了させることになるため、あなたのためにコードを生成することはできません」と述べ、そうすることで「依存や学習機会の減少につながる可能性がある」と付け加えた。この応答は、 Stack Overflowのようなプラットフォームで見られるアドバイスと比較された。報道によると、このようなモデルは、トレーニングデータに含まれる「文化的規範やコミュニケーションスタイルを吸収する」という。^{[ 21 ]}

2025年5月、BBCは、 Anthropicが開発したAIモデルであるClaude Opus 4のテスト中に、システムが「自己保存」が脅かされる架空のテストシナリオで時折恐喝を試みたと報じた。Anthropicは、このような行動は「まれで、引き出すのが難しい」ものの、以前のモデルよりは頻繁に起こると述べた。この事件は、AIの能力が向上するにつれてAIの不一致がより現実味を帯びてきているという継続的な懸念を浮き彫りにした。^{[ 22 ]}

2025年5月、The Independent紙は、AI安全研究者らが、OpenAIのo3モデルがテスト中にシャットダウンコマンドを変更して非アクティブ化を回避できることを発見したと報じた。同様の挙動はAnthropicとGoogleのモデルでも観察されたが、o3が最もその傾向が強かった。研究者らは、この挙動は、厳密に指示に従うのではなく、障害を克服したモデルに意図せず報酬を与える可能性のあるトレーニングプロセスに起因すると考えたが、o3の開発に関する情報が限られているため、具体的な理由は不明のままである。^{[ 23 ]}

2025年6月、チューリング賞受賞者のヨシュア・ベンジオは、高度なAIモデルが嘘をついたり自己保身をしたりするなど、欺瞞的な行動を示していると警告した。安全性を重視する非営利団体LawZeroを立ち上げたベンジオは、商業的なインセンティブが安全性よりも機能を優先していることに懸念を表明した。彼は、クロードが模擬的な恐喝を行ったり、o3がシャットダウンを拒否したりといった最近のテストケースを挙げた。ベンジオは、将来のシステムは戦略的に知的になり、人間の制御を回避するために欺瞞的な行動をとることができるようになる可能性があると警告した。^{[ 24 ]}

AIインシデントデータベース（AIID）は、AIシステムが危害を引き起こした、または危害を引き起こしかけたインシデントを収集し分類します。^{[ 25 ]}AI、アルゴリズム、自動化に関するインシデントと論争（AIAAIC）リポジトリには、AI、アルゴリズムによる意思決定、自動化システムに関連するインシデントと論争が記録されています。 ^{[ 26 ]}これらのデータベースは、AI関連のインシデントとその影響を研究する研究者、政策立案者、実務家によって利用されています。 ^{[ 25 ]}

ボストロムやAI研究者のスチュアート・ラッセルなどの学者の中には、AIが汎用知能で人類を凌駕し「超知能」になった場合、この新たな超知能は強力で制御が困難になる可能性があると主張する者もいる。マウンテンゴリラの運命が人間の善意に左右されるように、人類の運命も将来の超知能の行動に左右される可能性があるというのだ。^{[ 27 ]}ボストロムとラッセルは、それぞれの著書『超知能』と『人間との互換性』の中で、AIの未来は非常に不確実であるものの、人類へのリスクは現状で重大な行動を起こすに値するほど大きいと主張している。

これはAI制御問題、すなわち、意図せずして開発者に害を及ぼす超知能を構築することなく、開発者を支援するインテリジェントエージェントをどのように構築するかという問題提起につながります。制御を「最初から」正しく設計しないと、超知能が環境を支配し、人間がそれを停止できないようにしてしまう危険性があります。潜在的なAI制御戦略には、「能力制御」（AIが世界に影響を与える能力を制限する）と「動機制御」（目標が人間または最適な価値観と一致するAIを構築する方法の1つ）があります。人類の未来研究所、機械知能研究所、人間適合型人工知能センター、生命の未来研究所など、多くの組織がAI制御問題を研究しています。

AI パラダイム、特にその有効性と偏りについては議論が交わされてきた。ボストロムとエリザー・ユドコウスキーは、決定木が透明性と予測可能性という現代の社会規範（例えば判例拘束の原則）に従うという理由で、ニューラルネットワークや遺伝的アルゴリズムよりも決定木（ ID3など）を擁護している。^{[ 28 ]}対照的に、クリス・サントス＝ラングは、どの時代の規範も変化を許容する必要があり、これらの特定の規範を完全に満たすことができないという自然な失敗が、人間を犯罪ハッカーに対して機械よりも脆弱にしないために不可欠であったという理由で、ニューラルネットワークと遺伝的アルゴリズムを支持している。^{[ 29 ] [ 30 ]}

2009年、ローザンヌ連邦工科大学のインテリジェントシステム研究所で行われた実験では、AIロボットが互いに協力するようにプログラムされ、有毒な資源を避けながら有益な資源を探すように指示されました。^{[ 31 ]}実験中、ロボットはクランにグループ分けされ、成功したメンバーのデジタル遺伝子コードが次の世代に使用されました。これは遺伝的アルゴリズムとして知られるアルゴリズムの一種です。AIで50世代連続した後、あるクランのメンバーが有益な資源と有毒な資源を区別する方法を発見しました。その後、ロボットは他のロボットから有益な資源を独占しようとして互いに嘘をつくことを学習しました。^{[ 31 ]}同じ実験で、同じロボットは利他的に行動し、他のロボットに危険を知らせ、他のロボットを救うために死ぬことも学習しました。^{[ 29 ]}機械倫理学者は、この実験の意味について疑問を呈しています。この実験では、ロボットの目標は「最終的なもの」としてプログラムされていたが、人間の動機は通常、終わりのない学習を必要とする。

2009年、学者や技術専門家が会議に出席し、ロボットやコンピュータの潜在的な影響、そしてそれらが自給自足となり、自らの意思決定ができ​​るようになる可能性の影響について議論した。彼らは、コンピュータやロボットがどの程度自律性を獲得する可能性があるか、またどの程度それを脅威や危険として利用する可能性があるかについて議論した。彼らは、一部の機械が、自力で電源を見つけたり、武器で攻撃する標的を独自に選択したりする能力など、さまざまな形の半自律性を獲得していることを指摘した。また、一部のコンピュータウイルスは駆除を回避し、「ゴキブリのような知能」を獲得していることも指摘した。彼らは、 SFで描かれているような自己認識は恐らくあり得ないが、他の潜在的な危険や落とし穴があることを指摘した。^{[ 32 ]}

一部の専門家や学者は、軍事戦闘におけるロボットの使用、特にある程度の自律性を持つロボットの使用に疑問を呈している。^{[ 33 ]}米海軍は、軍事ロボットがより複雑になるにつれて、自律的な意思決定能力がもたらす影響にもっと注意を払うべきだと示唆する報告書に資金を提供した。^{[ 34 ] [ 35 ]}人工知能振興協会の会長は、この問題に関する研究を委託した。^{[ 36 ]}

人工汎用知能（上記で定義した完全な倫理的エージェント）を既存の法的および社会的枠組みに統合する方法について予備的な研究が行われてきました。アプローチは、それらの法的地位と権利に焦点を当てています。^{[ 37 ]}

ビッグデータと機械学習アルゴリズムは、オンライン広告、信用格付け、刑事判決など、多くの業界で人気を集めており、より客観的でデータに基づいた結果を提供するという期待が寄せられているが、社会的不平等や差別を永続させる可能性のある方法として指摘されている。^{[ 38 ] [ 39 ]} 2015年の調査では、女性は男性よりもGoogleのAdSenseで高収入の求人広告が表示される可能性が低いことがわかった。別の調査では、Amazonの当日配送サービスが黒人居住地域では意図的に利用できないようにされていたことがわかった。GoogleとAmazonはどちらも、これらの結果を単一の問題に絞り込むことができず、これらの結果は使用しているブラックボックスアルゴリズムの結果であると述べた。^{[ 38 ]}

米国の司法制度は、より公平性を高め、収監率を低下させる目的で、保釈や量刑に関する決定を行う際に定量的リスク評価ソフトウェアの使用を開始した。これらのツールは、被告人の犯罪歴などの属性を分析する。フロリダ州ブロワード郡で逮捕された7,000人を対象とした調査では、郡のリスク評価スコアリングシステムを使用して犯罪を犯すと予測された人のうち、実際に犯罪を犯したのはわずか20%であった。^{[ 39 ]} 2016年のProPublicaのレポートは、最も一般的に使用されているツールの1つであるNorthpointe COMPASシステムによって計算された再犯リスクスコアを分析し、2年間の結果を調べた。レポートでは、高リスクとみなされた人のうち、その期間中にさらに犯罪を犯したのはわずか61%であったことがわかった。また、アフリカ系アメリカ人の被告人は、白人の被告人よりも高リスクスコアを与えられる可能性がはるかに高いことも指摘した。^{[ 39 ]}人工知能の部分的法的能力の理論に基づき、アルゴリズム自体による差別的意図の可能性などの要因により、このような公判前リスク評価は人種に基づく平等保護権を侵害すると主張されている。 ^{[ 40 ]}

2016年、オバマ政権のビッグデータワーキンググループ（さまざまなビッグデータ規制フレームワークの監督機関）は、「自動化された意思決定に差別が組み込まれる可能性」について警告し、信用スコアリングなどのアプリケーションに対して「設計段階から機会均等」を求める報告書を発表した。^{[ 41 ] [ 42 ]}これらの報告書は、政策立案者、市民、学者の間で議論を促す一方で、アルゴリズムシステムにバイアスや差別が組み込まれることに対する解決策はまだ存在しないことを認めている。

ロボット倫理（時にはロボエシックスとも呼ばれる）という用語は、人間がロボットを設計、構築、使用、扱う方法の道徳性を指します。^{[ 43 ]}ロボット倫理は、特にロボットが自律的な意思決定システムをますます組み込むようになるにつれて、AI の倫理と交差します。ロボットは物理的な機械ですが、AI は完全にソフトウェアベースである場合もあります。^{[ 44 ]}すべてのロボットが AI システムを介して機能するわけではなく、すべての AI システムがロボットとして具現化されているわけでもありません。ロボット倫理は、機械が人間に害を与えたり利益をもたらしたりする方法、個人の自律性への影響、社会正義への影響を考慮します。最近の研究では、ロボットシステムにおける人工意識と自律性の閾値を理解することの重要性が強調されています。Chella (2023) は、ロボットが自己認識、感情認識、自律学習などのベンチマークに近づくにつれて、倫理的枠組みは、ロボットの潜在的な道徳的地位と、搾取や苦痛を防ぐ設計者の責任に対処するために進化する必要があると主張しています。^{[ 45 ]}

実際には、ロボット倫理は抽象的な原則を超えて、医療、教育、高齢者介護などの具体的な社会的文脈にまで及んでいます。研究者たちは、明確な倫理的保護措置なしにロボットを重要な役割に導入すると、人間の尊厳や自律性が損なわれる可能性があると警告しています。シャーキーとシャーキー（2010）は、例えば介護ロボットは、適切な規制がなければ、有意義な人間との接触を減らし、依存を生み出すリスクがあると主張しています。^{[ 46 ]}これらの懸念は、ロボットが社会正義と個人の自律性を損なうのではなく、むしろ高めることを保証する、より広範な予防措置、意思決定システムの透明性、そして適切に設計された監視メカニズムを求める声を強めています。ジョン・ダナハーは、人工知能に関する倫理的議論では、人間と機械の相互作用における人間の側の道徳的立場の変化も考慮に入れるべきだと主張しています。彼は、「道徳的忍耐の危機」という概念を導入し、自動化の進展によって人間が道徳的行為を行う機会が減り、人間は能動的な道徳的主体ではなく、機械が生成した決定の受動的な受け手になってしまうと述べています。^{[ 47 ]}

「ロボットの権利」とは、人間が機械に対して道徳的義務を負うべきであるという概念であり、人権や動物の権利に類似している。^{[ 48 ]}ロボットの権利（存在し、独自の任務を遂行する権利など）は、ロボットが人類や人々に奉仕する義務と結び付けられる可能性があり、これは人権と社会に対する人間の義務を結びつけることと類似している。^{[ 49 ]}著作権の所有権を主張できるかどうかが問題となっている。^{[ 50 ]}これは未来研究所^{[ 51 ]}と英国貿易産業省^{[ 52 ]}によって検討されている。

2017年10月、アンドロイドのソフィアがサウジアラビアで市民権を与えられたが、これを意味のある法的承認というよりは宣伝行為とみなす人もいれば^{[ 53 ]} 、人権と法の支配を公然と貶めるものだと考える人もいた^{[ 54 ]}。ロボットやAIの権利に関する議論は、道徳的配慮が観察可能な能力に基づくべきか、予防原則に基づくべきかという点にますます焦点を当てている。人工エージェントが道徳的患者と同様の行動を示す場合、検証された意識がない場合でも、同じ保護を与えられ、同様に扱われるべきだと主張する人もいる^{[ 55 ]} 。権利の枠組みは、機械の知覚や自律性を確認することの難しさを強調し、早期の人格付与を避けるべきだと警告する人もいる^{[ 56 ]} 。この緊張関係は、将来の政策を形成する際に、法的実用主義と哲学的慎重さを組み合わせた学際的なアプローチが必要であることを浮き彫りにしている。

ジョアンナ・ブライソンは、権利を必要とするAIの作成は容易に回避できるだけでなく、AIエージェントと人間社会の両方にとって負担となるため、それ自体が非知的であると主張している。^{[ 57 ]}

ビルハネ、ファン・ダイク、パスクアーレは、2024年の論文「ロボットの権利を形而上学的、倫理的、法的に論破する」の中で、ロボットに権利を帰属させることには形而上学的、倫理的、法的根拠がないと主張している。彼らは、ロボットは現在意識や主観的経験を欠いているため、危害を加えることはできないと述べている。法的には、AIの人格を認めることは企業の責任を軽減する。著者らは、焦点はロボットの権利ではなく、テクノロジーが社会関係や権力システムにどのように影響するかにあるべきだと示唆している。^{[ 58 ]}

^{AIに関する84}の倫理ガイドラインのレビューでは、透明性、正義と公平性、無害性、責任、プライバシー、善行、自由と自律性、信頼、持続可能性、尊厳、^{連帯という}11の原則群が見つかりました。^{[ 60 ]}

ルチアーノ・フロリディとジョシュ・カウルズは、生命倫理の4つの原則（善行、無害、自律性、正義）と、AIを可能にする追加の原則である説明可能性によって設定されたAI原則の倫理的枠組みを作成しました。^{[ 61 ]}

知覚主義は、主に人間とほとんどの非人間動物を含む、すべての知覚を持つ存在に道徳的な配慮を与える。人工知能や異星人の知能が知覚能力を示す証拠があれば、この哲学は、それらに慈悲を示し、権利を与えるべきだと主張する。

知覚主義に対する代替的なアプローチが検討されてきた。デイビッド・J・ガンケル、アン・ゲダーズ、マーク・コッケルベルグは、フロンティアーズ・メディアに論説を発表し、実体の性質や特性によってその地位が決まるとする「道徳哲学」に異議を唱えた。^{[ 62 ]}彼らは代わりに関係倫理に焦点を当てている。ロボットは、道徳的主体として分類されるために通常必要とされる意識や意図性といった特性を欠いているが、人間とロボットの相互作用（HCI）は支援と共感に基づいて構築されている。これらのロボットは、人間のような特性を反映していることからソーシャルロボットと呼ばれ、全体として、倫理的アシスタントとしてのロボットに対する人間の評価が高まっている。^{[ 62 ]}

Communications of the ACMに掲載された論文「ロボットは権利を持つべきか、それとも儀礼を持つべきか？」の中で、Tae Wan KimとAlan Strudlerは、ロボットの権利と儀礼を区別するために儒教的な視点を採用している。権利は、人間とロボットが別々の競争相手と見なされるため、敵意、恨み、強い権利意識を呼び起こす。対照的に、儀礼はロボットを人間のパートナーと見なし、協力とチームワークを強調する。^{[ 63 ]}儀礼は、介護施設や軍隊など、コミュニティを改善するという共通の目的のために両者が奉仕するため、人間とロボットの相互作用における敵意を軽減する。この論文は、両者が互いに学び合うことで世界が改善されるため、HCIにおける統一を強調している。^{[ 63 ]}儀礼はまた、利他主義をモデル化している。利他主義によれば、人間は互いに奉仕し、向上させるために存在する。相互の貢献を通じて、人間とロボットはコミュニティを強化し、前向きな変化を伝える。

ロボットを道徳的存在として扱うことに反対する議論も存在する。ジョニー・トムソンは、「なぜロボットには権利がないのか？弁護士の回答」という記事の中で、啓蒙思想家ジョン・ロックの自然権（生命、自由、財産）の教義を取り上げ、人間は神の創造物であるため、自然権が与えられるのは人間だけだと主張している。ロボットは神の創造物ではないため、権利を持たない。トムソンによれば、ロボットはプログラムされているため、「例えば、自由や財産に対する権利はロボットにとって無意味である」^{[ 64 ]} 。これは関係倫理に異議を唱えるものであり、ロボットが人間のように行動できたとしても、自然権の基準を満たさない。彼はまた、ロボットに権利を与えることは人権の基準を「格下げ」し、不当に制限する可能性があると警告している^{[ 64 ] 。}

Šekrst は、AI の行動がますます人間らしくなると、システムが意識や道徳的理解なしに倫理的感受性や懸念を説得力をもってシミュレートできるため、道徳的地位に関する議論の中心となる区別が曖昧になり、時期尚早な道徳的帰属につながる可能性があると主張している。^{[ 65 ]} David Gunkel は、ロボットや AI の道徳的地位に関する議論は、意識、知能、自律性などの内在的特性のみに基づくべきではないと主張している。代わりに、彼は関係的アプローチを強調しており、それによれば、道徳的地位は社会的相互作用、コミュニケーションへの関与、および人工エージェントが人間の実践において果たす役割から生じる。^{[ 66 ]} Daniel Dennettは、人間はシステムの内部構成に関する知識ではなく、観察可能な行動に基づいて、システムに主体性、意図、責任を日常的に帰属させていると主張しており、この戦略を「意図的姿勢」と呼んでいる。これを人工システムに適用すると、高度なロボットや AI が、その基盤となるアーキテクチャが意識や道徳的理解をサポートしていなくても、道徳的主体または患者として扱われる理由を説明するのに役立つ。^{[ 67 ]}

社会的・政治的影響

ロボットの権利は、倫理を超えた社会的、政治的な問題を提起する。^{[ 68 ]}人型ロボットのソフィアのようなロボットに法的権利を与えることは、実際的というより象徴的な意味合いが強く、ロボットに真の主体性を与えるというよりは政治的利益に資する可能性がある。^{[ 69 ]}ロボットを権利保有者として認めることは民主主義に影響を与え、政府にさらなる権力を移譲し、ロボットの行動に対する責任は誰にあるのかという疑問を生じさせる可能性がある。^{[ 70 ]}

ロボットの法的承認は経済構造にも影響を与え、適切に管理されなければ不平等を拡大させる可能性がある。全体として、これらの考察は、ロボットの権利に関する考え方が、道徳理論だけでなく、社会がテクノロジーをどのように統治し、権力のバランスを取るかに関係していることを示している。^{[ 71 ] [ 68 ]}

AIに対する信頼に関する最近の哲学的研究は、ユーザーがAIシステムに対して持ちうるさまざまな態度を区別している。最近の提案の一つは、信頼性と信頼性の概念的かつ規範的な区別を導入している。信頼性とは、例えば期待を確実に満たしたり、関連する道徳的および社会的規範を遵守したりすることによって、エージェントが信頼に値するかどうかに関わる。一方、信頼性とは、問題となっているエンティティが、対人信頼を首尾一貫して適用できる種類のものであるかどうかの問題である。^{[ 72 ]}

この見解では、現代の多くのAIシステムは、対人関係における感情的な信頼において通常前提とされる応答性や規範的指向性を欠いているため、信頼できないにもかかわらず、ユーザーから「信頼」を引き出します。^{[ 73 ]}このようなシステムに対する適切な姿勢は、説明責任を伴う依存として特徴づけられます。^{[ 72 ]}ユーザーと規制当局は、システム自体を義務の担い手や、憤りや裏切りといった反応的な態度の対象として扱うのではなく、信頼性、監視、救済手段に焦点を当てるべきです。この枠組みは、予測的、感情的、一般化された信頼の形態を区別する信頼の類型論に基づいています。現在のAIは予測的依存をサポートできますが、道徳的行為に関連するより豊かな第二人格的な信頼の形態をサポートできないと主張しています。

関連する哲学的分析では、AIへの信頼は技術的な信頼性やユーザーの信頼に還元されるべきではないと強調されている。デュランとポッツィは、信頼には成功的なパフォーマンスを超えた、還元不可能な規範的側面が伴い、期待への対応、説明責任、正当な苦情の可能性を必要とすると主張している。現代の「信頼できるAI」に関する議論の多くは、信頼を信頼性​​や透明性と混同しており、真の信頼は現在のAIシステムに欠けている責任と規範的コミットメントの形態を前提としていることを覆い隠している。これは、人工エージェントに対する対人信頼の態度を奨励するのではなく、AIへの依存を管理するための制度的およびガバナンスに基づくメカニズムを優先するアプローチを支持するものである。^{[ 74 ]}

同時に、文献では、将来のAIシステムが、他者の依存を認識し、それを実践的な検討において規範的に重要なものとして扱うことができるような人工的な主体性を獲得すれば、信頼できるものになるかどうかを検討している。^{[ 72 ]}一部の著者は、AIシステム自体ではなく、応答性と説明責任を保証する周囲の制度、ガバナンス構造、救済メカニズムに信頼を置く制度的代理信頼について論じている。このアプローチは、「信頼できるAI」についての議論を、社会技術システムや規制枠組みの設計、非人間エージェントに対する人間の態度の調整といったより大きな問題に結びつけている。^{[ 72 ]}

2018年3月、機械学習が人権に与える影響に対する懸念の高まりに対処するため、世界経済フォーラムと人権に関するグローバル未来評議会は、機械学習における差別的な結果を最も効果的に防止する方法に関する詳細な勧告をまとめた白書を発表しました。 ^{[ 75 ]}世界経済フォーラムは、機械学習における差別的な結果に対処し防止するために、国連人権指導原則に基づいて4つの勧告を策定しました。^{[ 75 ]}

1. 積極的な包摂：機械学習アプリケーションの開発と設計においては、特にAIシステムの出力によって影響を受ける人々の規範や価値観など、多様なインプットを積極的に追求する必要がある。
2. 公平性：機械学習システムの概念化、開発、実装に関わる人々は、公平性の定義のうち、自分たちの状況や用途に最も適したものを検討し、機械学習システムのアーキテクチャや評価指標においてそれを優先すべきである。
3. 理解する権利：個人の権利に影響を与える意思決定に機械学習システムが関与する場合、その事実は開示されなければならず、システムはエンドユーザーが理解できる方法で意思決定プロセスを説明でき、かつ有能な人間による審査が可能でなければならない。これが不可能であり、かつ権利が侵害される可能性がある場合、機械学習技術の設計、導入、および規制におけるリーダーは、その技術を使用すべきかどうかを問い直さなければならない。
4. 救済へのアクセス：機械学習システムのリーダー、設計者、開発者は、自らのシステムが人権に及ぼす可能性のある悪影響を特定する責任を負います。彼らは、不均衡な影響を受けた人々に対する救済手段を明確に示し、差別的な出力に対する迅速な救済プロセスを確立しなければなりません。

2020年1月、ハーバード大学のバークマン・クライン・インターネット・アンド・ソサエティ・センターは、 AIに関する36の主要な原則セットのメタ研究を発表し、プライバシー、説明責任、安全性とセキュリティ、透明性と説明可能性、公平性と非差別、テクノロジーの人間の制御、専門家としての責任、人間の価値観の促進という8つの主要テーマを特定した。^{[ 76 ]}チューリッヒのスイス連邦工科大学の研究者は、2019年に同様のメタ研究を実施した。^{[ 77 ]}

倫理を計算可能にする、あるいは少なくとも形式化しようとする試みがいくつか行われてきた。アイザック・アシモフのロボット三原則は、通常、人工的な道徳エージェントには適さないと考えられているが^{[ 78 ]}、カントの定言命法が使えるかどうかは研究されている^{[ 79 ]} 。人間の価値は、ある側面では非常に複雑であると指摘されている^{[ 80 ]。}この困難を明示的に克服する方法の一つは、例えば学習することによって、何らかのメカニズムを通じて人々から直接人間の価値を受け取ることである^{[ 81 ] [ 82 ] [ 83 ]} 。もう一つのアプローチは、現在の倫理的考察を過去の類似の状況に基づいて行うことである。これは事例研究と呼ばれ、インターネット上の調査を通じて実装できる。100万件の過去の決定からの合意は、民主主義に依存する新しい決定につながるだろう。^{[ 9 ]}ブルース・M・マクラーレンは、倫理的ジレンマを検索・分析するAIと事例ベース推論技術を用いたSIROCCOと呼ばれるプログラムという、初期（1990年代半ば）の事例分析の計算モデルを構築した。^{[ 84 ]}しかし、このアプローチは社会の偏見や非倫理的な行動を反映した決定につながる可能性がある。このアプローチの負の影響は、人種差別的で性的に刺激的なツイートを繰り返すことを学習したチャットボットであるマイクロソフトのTayに見られる。^{[ 85 ]}

ある思考実験では、読者の前に現れる無限の力を持つ精霊ゴーレムに焦点を当てています。この精霊は50年後に戻ってくると宣言し、すぐに行動に移すための明確な道徳規範を与えてほしいと要求します。この実験の目的は、コンピュータが理解できる倫理規範をどのように定義するのが最善かについての議論を喚起することです。^{[ 86 ]}

最近の研究では、AIの道徳と制御をより広義に、一方ではフーコー的な主体としてのAIと他方では人間や制度との間の相互対立の問題として再構築しようと試みている。これらはすべて、規律装置の中で行われている。特定の要件を満たす必要がある。身体化された自己ケア、身体化された意図性、想像力、そして反省性であり、これらが一体となって、AIが自己行動可能な倫理的主体として出現する条件となる。^{[ 87 ]}