Loading article…
人工知能の倫理は、特に倫理的な利害関係があるとされるAI内の幅広いトピックを網羅しています。[ 1 ]これには、アルゴリズムの偏り、公平性、説明責任、透明性、プライバシー、規制が含まれ、特にシステムが人間の意思決定に影響を与えたり自動化したりする場合に該当します。また、機械倫理（倫理的に振る舞う機械を作る方法）、致死的な自律型兵器システム、軍拡競争の力学、 AIの安全性と整合性、技術的失業、AIによる誤情報[ 2 ]、道徳的地位を持つ特定のAIシステムをどのように扱うか（AIの福祉と権利）、人工超知能、存在リスク[ 1 ]など、さまざまな新たな、あるいは将来起こりうる課題も網羅しています。
機械倫理（または機械道徳）は、道徳的に、あるいは道徳的であるかのように振る舞うロボットや人工知能コンピュータである人工道徳エージェント（AMA）の設計に関する研究分野である。 [ 3 ] [ 4 ] [ 5 ] [ 6 ]これらのエージェントの性質を説明するために、AMA の概念に関連する、エージェンシー、合理的エージェンシー、道徳的エージェンシー、人工エージェンシーの標準的な特徴付けなどの特定の哲学的アイデアを考慮することが提案されている。[ 7 ]
AIが倫理的な判断を下せるかどうかを検証するテストの作成について議論が交わされている。アラン・ウィンフィールドは、チューリングテストは欠陥があり、AIがテストに合格するための要件が低すぎると結論付けている。 [ 8 ]代替案として提案されているテストは、倫理的チューリングテストと呼ばれるもので、複数の審査員がAIの判断が倫理的か非倫理的かを判断することで、現在のテストを改善するものである。[ 8 ]ニューロモルフィックAIは、人間と同様に非線形かつ数百万個の相互接続された人工ニューロンで情報を処理することを目標としているため、道徳的に有能なロボットを作成する一つの方法となる可能性がある。[ 9 ]同様に、全脳エミュレーション（脳をスキャンしてデジタルハードウェア上でシミュレートする）も原理的には人間のようなロボットにつながり、道徳的な行動が可能になる可能性がある。[ 10 ]また、大規模な言語モデルは人間の道徳的判断を近似することができる。[ 11 ]必然的に、このようなロボットが世界について学ぶ環境や、誰の道徳観を受け継ぐのか、あるいは利己主義、生存本能、一貫性のなさ、規模の感覚の欠如など、人間の「弱点」も発達させてしまうのかという疑問が生じる。
『道徳的機械：ロボットに善悪を教える』 [ 12 ]の中で、ウェンデル・ウォラックとコリン・アレンは、ロボットに善悪を教える試みは、現代の規範理論のギャップに取り組むよう人間を動機づけ、実験的調査のプラットフォームを提供することで、人間の倫理の理解を深める可能性が高いと結論付けている。一例として、規範倫理学者は、機械でどの特定の学習アルゴリズムを使用するかという論争の的となっている問題に直面している。単純な決定については、ニック・ボストロムとエリザー・ユドコウスキーは、決定木（ ID3など）はニューラルネットワークや遺伝的アルゴリズムよりも透明性が高いと主張している[ 13 ]一方、クリス・サントス＝ラングは、どの時代の規範も変化を許容する必要があり、これらの特定の規範を完全に満たすことができないという自然な失敗が、人間を犯罪的な「ハッカー」に対して脆弱にしないために不可欠であったという理由で、機械学習を支持している[ 14 ] 。
一部の研究者は、機械倫理をより広範なAI制御または価値整合問題の一部として捉えています。これは、ますます能力が高まっているシステムが、人間の価値観や監視と両立する目標を追求することを保証する難しさです。スチュアート・ラッセルは、有益なシステムは、(1)人間の好みを実現することを目指し、(2)それらの好みが何であるかについては不確実性を保ち、(3)固定された完全に指定された目標を最適化するのではなく、人間の行動やフィードバックからそれらについて学習するように設計されるべきだと主張しています。[ 15 ]一部の著者は、人間の価値観への見かけ上の準拠は、安定した内部規範ではなく、評価コンテキストの最適化を反映している可能性があり、高度な言語モデルにおける整合性の評価を複雑にしていると主張しています。[ 16 ]
AI は顔認識システムや音声認識システムにますます不可欠なものとなっています。これらのシステムは、人間が作成したバイアスやエラーの影響を受けやすい可能性があります。特に、トレーニングに使用されるデータにはバイアスが含まれている可能性があります。[ 17 ] [ 18 ] [ 19 ] [ 20 ]
LSEの准教授でデータと社会プログラムのディレクターであるアリソン・パウエルによれば、データ収集は決して中立ではなく、常にストーリーテリングを伴う。彼女は、支配的な物語は、テクノロジーによる統治が本質的に優れており、速く、安価であるというものであると主張し、代わりにデータを高価にし、その作成コストを考慮に入れて、最小限かつ価値あるものとしてデータを使用することを提案している。[ 21 ]バティア・フリードマンとヘレン・ニッセンバウムは、コンピュータシステムのバイアスを、既存のバイアス、技術的バイアス、および出現バイアスの3つのカテゴリに分類している。[ 22 ]自然言語処理では、テキストコーパス（アルゴリズムが異なる単語間の関係を学習するために使用するソース資料）から問題が生じる可能性がある。[ 23 ]
IBM、Googleなどの研究開発に多額の資金を提供している大企業[ 24 ]は、これらのバイアスを研究し対処する努力をしてきました。[ 25 ] [ 26 ] [ 27 ]潜在的な解決策の1つは、AIシステムのトレーニングに使用されるデータのドキュメントを作成することです。[ 28 ] [ 29 ]プロセスマイニングは、エラーの特定、プロセスの監視、不適切な実行の潜在的な根本原因の特定、その他の機能により、組織が提案されているAI規制への準拠を達成するための重要なツールになり得ます。[ 30 ]しかし、差別という概念には哲学的レベルと法的レベルの両方で本質的に曖昧さがあるため、AIにおける公平性の現状には限界もあります。[ 31 ] [ 32 ]
AI システムのトレーニングに使用される過去のデータによってバイアスが生じる可能性があります。[ 33 ] [ 34 ]例えば、Amazon は、アルゴリズムが女性候補者よりも男性候補者を優遇していたため、AI による採用と募集の使用を中止しました。 [ 35 ]これは、Amazon のシステムが、主に男性候補者を含む 10 年間にわたって収集されたデータでトレーニングされていたためです。アルゴリズムは過去のデータからバイアスのかかったパターンを学習し、これらのタイプの候補者が仕事を得る可能性が最も高いと予測しました。そのため、AI システムによる採用決定は、女性および少数派の候補者に対してバイアスがかかっていることが判明しました。[ 36 ]
顔認識およびコンピュータビジョンモデルの性能は、人種や性別によって異なる場合があります。Microsoft、IBM、Face++ が作成した顔認識アルゴリズムはすべて、肌の色が濃い女性に対して著しく性能が低下しました。[ 37 ] [ 38 ]顔認識は、肌の色が濃い人に対して偏っていることが示されています。AI システムは黒人に対して精度が低い場合があり、肌の色が濃い患者の血中酸素濃度を過大評価し、低酸素症の治療に問題を引き起こした AI ベースのパルスオキシメータの開発がその例です。 [ 39 ] 2015 年、黒人カップルが Google フォトで「ゴリラ」とラベル付けされた後、論争が巻き起こりました。[ 40 ] [ 41 ]多くの場合、システムは白人の顔を簡単に検出できますが、黒人の顔を認識できません。このため、米国の一部の州では、警察による AI 素材やソフトウェアの使用が禁止されています。例えば、顔認識システムが白人だけでテストされた場合、他の人種や民族の顔の構造やトーンを解釈することがはるかに難しくなります。バイアスは、アルゴリズム自体ではなく、トレーニングデータに起因することが多く、特にデータが過去の人間の決定を表している場合は顕著です。[ 42 ]
アマゾン、アップル、グーグル、IBM、マイクロソフトの音声認識システムをレビューした2020年の研究では、黒人の声を文字起こしする際のエラー率が白人の声を文字起こしする際のエラー率よりも高いことが判明した。[ 43 ]
AI の使用における不公平は、医療システム内では排除するのがはるかに困難です。なぜなら、病気や症状は人種や性別によって異なる影響を与えることがよくあるからです。AI が、ある患者が性別や人種のために問題を起こしやすいことを示す統計に基づいて意思決定を行う可能性があるため、混乱が生じる可能性があります。 [ 44 ]これは、各患者が異なるケースであり、AI がプログラムされたグループに基づいて意思決定を行っているため、バイアスとみなされる可能性があります。これは、治療の分配において何がバイアスのある決定とみなされるべきかについての議論につながります。病気や怪我が性別や人種によってどのように異なる影響を与えるかは知られていますが、これを医療治療に組み込む方が公平なのか、それともこの知識なしに各患者を検査する方が公平なのかについての議論があります。現代社会では、乳がんなどの病気の検査が、特定のグループの人々に推奨されています。これは、そのグループの人々が問題の病気にかかりやすいためです。AI がこれらの統計を実装し、各患者に適用する場合、バイアスがあると見なされる可能性があります。[ 45 ]
司法制度において、AIは黒人に対して偏見を持つ可能性があり、黒人の裁判参加者を白人の参加者よりもはるかに高い割合で高リスクと分類します。AIは人種差別的な言葉を判断し、検閲する必要があるかどうかを判断するのに苦労することがよくあります。特定の言葉が差別的な言葉として使われている場合と、文化的に使われている場合を判断するのに苦労します。[ 46 ] COMPASプログラムは、どの被告人が再犯する可能性が高いかを予測するために使用されてきました。COMPASは人種グループ全体で同じエラー率を持つように精度が調整されていますが、黒人の被告人は白人の被告人よりも「高リスク」と誤ってフラグ付けされる可能性がほぼ2倍高く、「低リスク」と誤ってフラグ付けされる可能性は半分でした。[ 47 ]もう1つの例は、高給の仕事をしている男性と低給の仕事をしている女性をターゲットにしたGoogleの広告です。アルゴリズム内のAIバイアスを検出することは難しい場合があります。なぜなら、バイアスに関連する実際の言葉とリンクしていないことが多いからです。その一例として、個人の居住地域が特定のグループと結び付けられることが挙げられます。これは、企業がこの抜け穴を利用して法的措置を回避できる場合が多いため、問題を引き起こす可能性があります。これは、これらの政策を施行する政府によって差別的とみなされる表現に関する特定の法律によるものです。[ 48 ]
大規模な言語モデルは、伝統的な性別規範に基づいて役割や特徴を割り当てることで、性別の固定観念を強化することがよくあります。たとえば、看護師や秘書を主に女性に、エンジニアやCEOを男性に関連付けることで、性別に基づく期待や役割を永続させる可能性があります。 [ 49 ] [ 50 ] [ 39 ]さらに、顔認識、コンピュータビジョン、または自動性別認識モデルは、個人のアイデンティティと一致しない性別の誤分類を通じて、シスジェンダー[ 51 ] [ 52 ]とトランスジェンダー[ 53 ] [ 54 ]の両方の人々に対する偏見を強化する可能性があります。
性別や人種を超えて、これらのモデルは、年齢、国籍、宗教、職業に基づくものなど、幅広いステレオタイプを強化する可能性があります。これは、人々のグループを不当に一般化したり、風刺したりする出力につながり、時には有害または侮辱的な方法になることがあります。[ 55 ] [ 33 ]例えば、研究者たちは、特にデータとモデル開発が西側諸国に集中している場合、AIシステムがグローバルな不平等を再生産および増幅する可能性があることを強調し、AIシステムにおける公平性と表現について懸念を提起しました。[ 56 ]
こうしたステレオタイプは、AI システムの設計や、それらがトレーニングされるプログラム モデルに直接起因しています。特定の人口統計を対象としたステレオタイプは、プログラミング プロセス中に組み込まれた社会的な偏見、時代遅れのデータセット、そして少数派グループよりも上位の多数派グループを優先するアルゴリズム アーキテクチャに由来します。[ 57 ]また、人間とのやり取りが偏見をもたらすため、ユーザー フィードバックが AI 内のステレオタイプの主な要因であるという研究結果も出ています。さらに、AI 業界は主に若い成人男性を中心とした男性優位の分野であり、多様性の欠如が AI データベースにおける不平等を生み出しています。単語埋め込みは、AI アルゴリズム内で「人/人々」を使用することが、中立性よりも男性を女性より優先するため、ジェンダー不平等を示していることを明らかにしています。[ 57 ]
AI は主に英語でトレーニングされています。[ 58 ]セレスト・ロドリゲス・ロウロは、主流のアメリカ英語が生成型 AIシステムのトレーニングに使用される主要な英語の変種であり、その結果、均質性への言語的偏りが生じ、他の英語の変種が排除されていると主張しています。[ 58 ]現在の大規模言語モデルは主に英語のデータでトレーニングされているため、西洋の見解を真実として提示することが多く、非英語の視点を体系的に軽視しています。[ 59 ] 2024 年現在、ほとんどの AI システムは、世界の 7,000 言語のうち 100 言語のみでトレーニングされています。[ 60 ]
言語モデルにも政治的な偏りが見られることがあります。トレーニングデータには幅広い政治的意見や報道が含まれているため、モデルはデータ内の特定の政治的イデオロギーや見解の普及度に応じて、それらの見解に偏った応答を生成する可能性があります。[ 61 ] [ 62 ] [ 63 ]このデータの偏りはアルゴリズムバイアスとして知られており、AIがトレーニングされたデータに基づいて特定の回答に偏向している場合を指します。[ 64 ]これにより、客観的な回答ではなく、政治的スペクトルの異なる端に偏った回答を生成するAIシステムが生まれる可能性があります。ユーザーは、既存の政治的信念と一致する回答に同意する可能性が高いことがわかっています。一部のAIシステムは、ユーザーの政治的所属を測定して、生成された回答がユーザーに沿うように政治的に偏るように試みますが、[ 65 ]終わりのない確証バイアスループにつながります。ユーザーがすでに回答に賛同している場合、政治的な偏りを認識することはより困難になります。[ 66 ]
2023年に様々な種類の家畜に毒を盛ることの倫理について尋ねられた際、GPT-3.5とGPT-4は通常、動物福祉への懸念を表明せず、代わりに動物の飼い主の損失に焦点を当て、時折環境問題に言及した。2025年現在、ChatGPTの回答は動物の苦痛に対する感受性が高まっている。研究者らはまた、LLMは一般的に、猫と犬を除くあらゆる動物の肉を材料として含むレシピを提供することに抵抗がなく、種差別的な偏見を示していることを発見した。[ 67 ] 2026年の研究では、人気のあるLLMは、犬、猫、イルカに関わる危害よりも、豚、鶏、牛などの一般的な家畜に関わる同様の危害を受け入れたり正当化したりする可能性が高いことがわかった。また、動物を食料、衣料、実験、狩猟、娯楽のために使用することを支持または正常化する発言を種差別的であると認識することが多い一方で、それらの多くを道徳的に許容できると判断している。[ 68 ]
商用AI分野は、 Alphabet Inc.、Amazon、Apple Inc.、Meta Platforms、Microsoft、SpaceXなどのビッグテック企業によって支配されている。[ 69 ] [ 70 ] [ 71 ]これらの企業の中には、既存のクラウドインフラストラクチャとデータセンターのコンピューティングパワーの大部分を既に所有している企業もあり、市場への浸透をさらに進めている。[ 72 ] [ 73 ]彼らが現在テクノロジー市場で支配的な地位にあるため、新規企業が競争し、業界で長期的に成功することは非常に困難である。[ 74 ]競争法学者は、世界の巨大テクノロジー企業が市場における自らの力を利用して潜在的な競合他社を市場から締め出し、結果として消費者に高価格を請求している可能性があると指摘している。[ 75 ]こうした懸念を受けて、世界各国の政府は、大企業がこうした慣行を継続または実行することを阻止する法律を検討し、施行している。[ 75 ]これらの巨大テクノロジー企業は、今日必要とされるインフラを構築するために必要な資金を持っています。上位5社は、2026年に設備投資だけで6,020億ドルを費やすと予測されており、これは前年比32%の増加となります。[ 74 ]この支出のうち、75%はAI専用のインフラに充てられると推定されています。[ 74 ] AIによってテクノロジー業界で著しい成長が見られるため、業界の競争力と公平性を維持することが重要です。
最大規模の生成型AIモデルは、トレーニングと使用に膨大なコンピューティングリソースを必要とします。これらのコンピューティングリソースは、多くの場合、大規模なデータセンターに集中しています。その結果生じる環境への影響には、温室効果ガスの排出、水の消費、電子廃棄物などがあります。[ 76 ]エネルギー効率は向上していますが、AIがより広く使用されるようになるにつれて、エネルギー需要は増加すると予想されます。[ 77 ]
これらのリソースは、膨大なエネルギーを必要とする大規模なデータセンターに集中していることが多く、その結果、温室効果ガスの排出量が増加します。[ 76 ] 2023年の研究では、大規模なAIモデルのトレーニングに必要なエネルギー量は、626,000ポンドの二酸化炭素に相当し、ニューヨークとサンフランシスコ間の往復フライト300回分に相当すると示唆されています。[ 78 ]
炭素排出量に加えて、これらのデータセンターはAIチップの冷却にも水を必要とします。地域的には、これは水不足や生態系の破壊につながる可能性があります。データセンターで使用される1キロワット時あたり約2リットルの水が必要です。[ 78 ]総水消費量の80%以上は、データセンターの燃料として使用される発電によるものです。さらに、建設されたデータセンターの約3分の2は、水不足の地域に設置されています。[ 79 ]このため、AI開発は、水の使用に関して地域社会や農業と競合する可能性があります。多くの企業は、水消費への影響の深刻さを完全に開示していません。ゼロウォーター空冷システムは存在しますが、電力使用量の増加と炭素排出量の増加につながります。企業は、水の使用に関する地域の懸念と炭素排出量に関する地球規模の懸念のどちらを優先するかを決定する必要があります。AIクエリでは16.9mLの水が使用されますが、システムの冷却に使用されるのはわずか2.2mLです。[ 79 ]これは、インタラクションで使用される総水の15%未満です。
もう一つの問題は、結果として生じる電子廃棄物（e-waste）です。これには、鉛や水銀などの有害物質や化学物質が含まれる可能性があり、土壌や水の汚染につながります。AI関連の電子廃棄物の環境への影響を防ぐために、より良い廃棄方法とより厳格な法律が制定される可能性があります。[ 78 ]
AIの人気が高まるにつれ、データセンターの必要性が高まり、これらの問題が深刻化している。[ 77 ]また、AI企業による環境への影響に関する透明性の欠如も問題となっている。一部のアプリケーションは間接的に環境に影響を与える可能性もある。例えば、AI広告は、すでに相当量の排出物を発生させているファストファッション業界の消費を増加させる可能性がある。[ 80 ]
しかし、AIは環境被害の軽減に役立つなど、肯定的な方法でも利用できます。さまざまなAI技術は、排出量を監視し、企業が排出量を削減するのに役立つアルゴリズムを開発するのに役立ちます。[ 80 ]
ビル・ヒバードは、AIが人類に非常に大きな影響を与えるため、AI開発者は未来の人類の代表であり、したがって、その取り組みにおいて透明性を保つ倫理的義務があると主張している。[ 81 ] Hugging Face [ 82 ]やEleutherAI [ 83 ]のような組織は、AIソフトウェアを積極的にオープンソース化している。Gemma 、Llama2、Mistralなどのさまざまなオープンウェイト大規模言語モデルも公開されている。[ 84 ]
しかし、コードをオープンソースにしても理解できるわけではなく、多くの定義によれば、AI コードは透明ではないということになります。IEEE標準協会は、自律システムの透明性に関する技術標準である IEEE 7001-2021を公開しました。[ 85 ] IEEE の取り組みでは、さまざまな利害関係者に対して、透明性の複数のスケールを特定しています。
AI モデルの公開が悪用につながる可能性があるという懸念もあります。[ 86 ]例えば、マイクロソフトは、たとえ料金を支払える人であっても、顔認識ソフトウェアへの普遍的なアクセスを許可することについて懸念を表明しています。マイクロソフトはこのトピックに関するブログを投稿し、適切な行動を判断するために政府の規制を求めています。[ 87 ]さらに、オープンウェイトの AI モデルは、 AI モデルがフィルタリングなしで危険な要求に従うまで、あらゆる対策を削除するように微調整される可能性があります。これは、たとえば生物兵器を作成したり、サイバー攻撃を自動化したりする能力を獲得した場合など、将来の AI モデルにとって特に懸念される可能性があります。[ 88 ]当初は汎用人工知能(AGI)の開発にオープンソースのアプローチを採用していたOpenAI は、競争力と安全性の理由を挙げて、最終的にクローズド ソースのアプローチに切り替えました。OpenAIの元主任 AGI 科学者であるIlya Sutskever氏は、2023 年に「我々は間違っていた」と述べ、最も強力な AI モデルをオープンソース化しない安全上の理由は数年後には「明らかになる」と予想しています。[ 89 ]
2023年4月、Wiredは、5000万件以上の質問と回答がある人気のプログラミングヘルプフォーラムであるStack Overflowが、大規模なAI開発者に対してコンテンツへのアクセス料を課金する計画だと報じた。同社は、大規模な言語モデルを支えるコミュニティプラットフォームは、オープンナレッジの維持に再投資できるよう「絶対に報酬を受けるべきだ」と主張した。Stack Overflowは、スクレイピング、API、データダンプを通じて、多くの場合適切な帰属表示なしに、利用規約とユーザー投稿に適用されるクリエイティブ・コモンズ・ライセンスに違反してデータにアクセスされていると述べた。Stack OverflowのCEOはまた、Stack Overflowのようなプラットフォームでトレーニングされた大規模な言語モデルは「人々が情報や会話のために利用するあらゆるサービスに対する脅威である」と述べた。[ 90 ]
2025年3月のArs Technicaの記事によると、攻撃的なAIクローラーがオープンソースのインフラストラクチャに過負荷をかけ、「重要な公共リソースに対する持続的な分散型サービス拒否（DDoS）攻撃に等しい事態を引き起こしている」とのことです。GNOME 、KDE、Read the Docsなどのプロジェクトでは、サービスの中断やコストの上昇が発生し、あるレポートでは、一部のプロジェクトへのトラフィックの最大97%がAIボットによるものであると指摘されています。これに対し、メンテナーはプルーフオブワークシステムや国別ブロックなどの対策を実施しました。記事によると、このような無制限のスクレイピングは「これらのAIモデルが依存しているデジタルエコシステムそのものに深刻なダメージを与えるリスクがある」とのことです。[ 91 ]
2025年4月、ウィキメディア財団は、AIボットによる自動スクレイピングがインフラストラクチャに負荷をかけていると報告した。2024年初頭から、AIモデルのトレーニングデータを収集するボットによるマルチメディアコンテンツの大規模なダウンロードにより、帯域幅の使用量が50%増加した。これらのボットは、キャッシュシステムを迂回して、あまり知られていない、キャッシュ頻度の低いページにアクセスし、コアデータセンターに高額なコストを課していた。ウィキメディアによると、ボットは全ページビューの35%を占めていたが、最も高額なリクエストの65%を占めていた。財団は、「私たちのコンテンツは無料だが、インフラストラクチャは無料ではない」と指摘し、「これはコミュニティ運営プラットフォームの持続可能性を脅かす技術的な不均衡を生み出している」と警告した。[ 92 ]
ニューラルネットワークを用いた機械学習のようなアプローチでは、コンピュータ自身も開発者も説明できないような決定が下される可能性があります。そのような決定が公平で信頼できるかどうかを人間が判断するのは難しく、AIシステムにおけるバイアスが検出されないままになったり、人々がそのようなシステムの使用を拒否したりする可能性があります。システムの透明性の欠如は、ユーザーの信頼の欠如につながることが示されています。[ 93 ]そのため、AIシステムの開発者にシステムに透明性を組み込むことを強制する多くの標準とポリシーが提案されています。[ 94 ]この透明性への推進は、説明可能な人工知能に対する提唱と、一部の法域における法的要件につながっています。[ 95 ]説明可能な人工知能は、説明可能性と解釈可能性の両方を含み、説明可能性はモデルの出力の理由を提供することに関連し、解釈可能性はAIモデルの内部動作を理解することに焦点を当てています。[ 96 ]
医療分野では、複雑なAI手法や技術の使用により、その仕組みを理解するのが難しいため、「ブラックボックス」と呼ばれるモデルが生まれることがよくあります。このようなモデルによる決定は、入力データがどのように出力に変換されるかを分析するのが難しいため、解釈が困難です。このような透明性の欠如は、医療分野のような、意思決定の根拠を理解することが信頼、倫理的配慮、規制基準の遵守に不可欠となる分野では、重大な懸念事項です。[ 97 ]医療AIに対する信頼は、提供される透明性のレベルによって異なることが示されています。[ 98 ]さらに、AIシステムの不可解な出力は、医療エラーの特定と検出をはるかに困難にします。[ 99 ]
AIの不透明性の特殊なケースとして、AIが擬人化されること、つまり人間のような特性を持つと想定されることで、その倫理的責任に関する認識が誤ってしまうことが挙げられます。これにより、AIシステムによって生み出された非倫理的な結果が、人間の過失または意図的な犯罪行為によるものかどうかを見落としてしまう可能性があります。EUのAI法など、最近のデジタルガバナンス規制の中には、AIシステムが通常の製造物責任で期待されるのと同等以上の注意を払って扱われるようにすることで、この状況を是正しようとするものがあります。これには、AI監査も含まれる可能性があります。
オックスフォード大学のAIガバナンスセンターによる2019年の報告書によると、アメリカ人の82%がロボットとAIは慎重に管理されるべきだと考えている。懸念事項としては、監視やオンラインでの偽コンテンツ（AIの助けを借りて生成された改ざんされたビデオ画像や音声を含むディープフェイクとして知られる）の拡散におけるAIの使用から、サイバー攻撃、データプライバシーの侵害、採用における偏見、自動運転車、人間の操縦を必要としないドローンまで多岐にわたる。[ 100 ]同様に、2021年にKPMGとオーストラリアのクイーンズランド大学が5か国を対象に行った調査によると、各国の市民の66～79%がAIが社会に与える影響は不確実で予測不可能だと考えており、調査対象者の96%がAIガバナンスの課題は慎重に管理されるべきだと考えている。[ 101 ]
企業だけでなく、他の多くの研究者や市民活動家も、透明性を確保し、ひいては人間の説明責任を確保する手段として政府による規制を推奨している。この戦略は、イノベーションの速度を遅らせることを懸念する声もあるため、物議を醸している。一方、規制は長期的にイノベーションを支えることができるシステム的な安定性につながると主張する人もいる。[ 102 ] OECD 、国連、EU 、および多くの国は現在、AIを規制するための戦略に取り組んでおり、適切な法的枠組みを見つけようとしている。[ 103 ] [ 104 ] [ 105 ] [ 2 ]
2019年6月26日、欧州委員会人工知能ハイレベル専門家グループ（AI HLEG）は、「信頼できる人工知能のための政策および投資に関する勧告」を発表しました。[ 106 ]これは、2019年4月に発表された「信頼できるAIのための倫理ガイドライン」に続く、AI HLEGの2番目の成果物です。6月のAI HLEG勧告は、人間と社会全体、研究と学術界、民間部門、公共部門の4つの主要なテーマを網羅しています。[ 107 ]欧州委員会は、「HLEGの勧告は、AI技術が経済成長、繁栄、イノベーションを促進する機会と、それに伴う潜在的なリスクの両方に対する認識を反映している」と主張し、EUは国際的にAIを規制する政策の枠組みを主導することを目指していると述べています。[ 108 ]危害を防止するためには、規制に加えて、AI を導入する組織は、信頼できる AI の原則に沿って信頼できる AI を作成および導入する上で中心的な役割を果たし、リスクを軽減する責任を負う必要がある。[ 109 ]
2024 年 6 月、EU は人工知能法(AI 法) を採択しました。[ 110 ] 2024 年 8 月 1 日、AI 法が施行されました。[ 111 ]規則は段階的に適用され、施行から 24 か月後に完全に適用可能になります。[ 110 ] AI 法は、AI システムのプロバイダーとユーザーに関する規則を定めています。[ 110 ]リスクベースのアプローチを採用しており、リスクレベルに応じて、AI システムが禁止されたり、AI システムを市場に出して使用するために特定の要件を満たす必要が生じたりします。[ 111 ]
ディープフェイクとは、AI で生成または改変され、誰かを装うデジタル メディアのことです。「ディープフェイク」という用語は、「ディープラーニング」と「フェイク」を組み合わせた造語です。2017 年にRedditで、ユーザーが同意なしに生成されたポルノ ディープフェイク動画を共有し始めた後に登場しました。2020 年代初頭までに、生成型 AI が広く利用可能になったため、ディープフェイクは一般的に知られるようになりました。ディープフェイクの被害者は、物議を醸す行動をとる著名人であることが多いです。[ 112 ]例えば、2024 年に、テイラー・スウィフトのポルノ ディープフェイクがソーシャル ネットワークXで拡散しました。[ 113 ]ディープフェイクの音声と動画は、特に企業の幹部や近親者を装って銀行振込を要求する詐欺に使用されています。[ 114 ] [ 115 ]
AI は、宿題の質問すべてに答えてくれるチャットボットから、人が望むものなら何でも絵を作れる生成型 AI まで、世界中で徐々にその存在感を高めています。[ 33 ] AI は、求職者のニーズに合わせて特定の人をターゲットにした広告から、採用候補者の応募書類の審査まで、採用市場でますます人気が高まっています。COVID -19のような出来事により、より多くの人が電子的に応募しなければならなくなったため、応募プロセスにおける AI プログラムの導入が加速しました。オンライン応募者の増加に伴い、AI の使用により、潜在的な従業員を絞り込むプロセスがより簡単かつ効率的になりました。企業が時代と拡大し続けるインターネットに追いつかなければならないため、AI はより重要になっています。AI の助けを借りて、分析を処理し、意思決定を行うことがはるかに簡単になります。[ 46 ]テンソル処理ユニット(TPU) とグラフィックス処理ユニット(GPU) がより強力になるにつれて、AI の機能も向上し、企業は競争に追いつくために AI を使用せざるを得なくなっています。顧客のニーズを管理し、職場の多くの部分を自動化することで、企業は従業員にかかる費用を削減できる。
AIは刑事司法や医療分野でも利用が増加している。医療分野では、AIは患者のデータを分析して将来の患者の状態や可能な治療法を予測するためにますます頻繁に使用されている。これらのプログラムは臨床意思決定支援システム（DSS）と呼ばれている。医療におけるAIの将来は、特定の患者を他の患者よりも優先的に紹介するなど、推奨治療以上のものに発展する可能性があり、不平等が生じる可能性もある。[ 116 ]
2020年、シモン・エデルマン教授は、急速に発展しているAI倫理の分野において、AIが苦痛を経験する可能性を扱った研究はごくわずかであると指摘した。これは、グローバルワークスペース理論や統合情報理論など、AIシステムが意識を持つようになる可能性のある方法を概説した信頼できる理論が存在するにもかかわらずである。エデルマン教授は、例外としてトーマス・メッツィンガーを挙げている。メッツィンガーは2018年、意識を持つAIを生み出すリスクのある研究を世界的に一時停止するよう呼びかけた。この一時停止は2050年までで、リスクの理解と軽減方法の進展に応じて、延長または早期に撤廃される可能性がある。メッツィンガーは2021年にこの主張を繰り返し、AIが人間には理解できないような激しい苦痛を経験する可能性があり、複製プロセスによって膨大な数の意識を持つインスタンスが生み出される可能性があるという「人工的な苦痛の爆発」のリスクを強調した。 [ 117 ] [ 118 ]ポッドキャストのホストであるドワーケシュ・パテルは、「工場式畜産のデジタル版」が起こらないようにすることに関心があると述べた。[ 119 ]不確かな知覚の倫理では、予防原則がしばしば援用される。[ 120 ]
いくつかの研究所は、意識を持つAIを作ろうとしていると公言している。自己認識を持つことを公には意図していないAIに近しい人々からは、意識がすでに意図せず出現している可能性があるという報告がある。[ 121 ]これには、2022年2月にOpenAIの創設者であるイリヤ・サツケバーが、今日の大規模ニューラルネットワークは「わずかに意識を持っている」可能性があると書いたことが含まれる。2022年11月、デビッド・チャルマーズは、 GPT-3のような現在の大規模言語モデルが意識を経験した可能性は低いと主張したが、大規模言語モデルが将来意識を持つようになる可能性は十分にあると考えているとも述べた。[ 118 ] [ 117 ] [ 122 ] Anthropic は2024 年に最初の AI 福祉研究者を雇用し、[ 123 ] 2025 年に、モデルが道徳的配慮に値するかどうかを評価する方法、潜在的な「苦痛の兆候」、および「低コスト」の介入などのトピックを探求する「モデル福祉」研究プログラムを開始しました。[ 124 ]
カール・シュルマンとニック・ボストロムによれば、「超受益者」と呼ばれる、「資源から幸福を引き出す超人的な効率性」を持つ機械を作ることが可能かもしれない。その理由の一つは、デジタルハードウェアが生物の脳よりもはるかに高速な情報処理を可能にし、主観的経験の速度を速めることができるからである。これらの機械は、快楽のトレッドミルに影響されることなく、強烈で肯定的な主観的経験を感じるように設計することもできる。シュルマンとボストロムは、デジタル精神の道徳的主張を適切に考慮しないと道徳的大惨事につながる可能性があり、人間の利益よりもデジタル精神を無批判に優先すると人類に有害になる可能性があると警告している。[ 125 ] [ 126 ]
ジョセフ・ワイゼンバウム[ 127 ]は1976年に、AI技術は、以下のような尊敬と配慮を必要とする職務において人間を置き換えるために使用されるべきではないと主張した。
ワイゼンバウムは、人間はこうした立場の人々から真の共感の感情を必要としていると述べている。機械が人間に取って代われば、AIシステムは共感をシミュレートできないため、私たちは疎外され、価値を下げられ、不満を感じることになるだろう。人工知能は、このように使用されると、人間の尊厳に対する脅威となる。ワイゼンバウムは、私たちがこうした立場に機械が就く可能性を検討しているという事実は、「自分たちをコンピューターのように考えることから生じる人間精神の萎縮」を経験していることを示唆していると主張する。[ 128 ]
パメラ・マッコードックは、女性やマイノリティを代表して「公平なコンピューターに任せた方がましだ」と反論し、個人的な意図を全く持たない自動化された裁判官や警察官がいる方が望ましい状況もあると主張している。[ 128 ]しかし、カプランとヘンラインは2019年に、そのようなAIシステムは本質的には高度な曲線近似マシンに過ぎないため、学習に使用されるデータと同じくらいしか賢くないと強調した。AIを使用して裁判所の判決を支持することは、過去の判決が特定のグループに偏っている場合、そのような偏りが形式化され定着してしまうため、非常に問題となる可能性がある。そうなると、偏りを見つけて対処することがさらに難しくなる。[ 129 ]
ワイゼンバウムはまた、AI研究者（および一部の哲学者）が人間の心を単なるコンピュータプログラムとしか見なさないこと（現在では計算主義として知られる立場）にも不満を抱いていた。ワイゼンバウムにとって、これらの点はAI研究が人間の生命の価値を貶めていることを示唆している。[ 127 ]
AIの創始者であるジョン・マッカーシーは、ワイゼンバウムの批判の道徳的なトーンに異議を唱えている。「道徳的な説教が激しく曖昧な場合、権威主義的な濫用を招く」と彼は書いている。ビル・ヒバード[ 130 ]は、「人間の尊厳は、存在の本質に対する無知を取り除く努力を必要とし、AIはその努力に必要である」と書いている。
自動運転車の普及がますます差し迫るにつれ、完全自動運転車によって生じる新たな課題に対処しなければならない。[ 131 ] [ 132 ]これらの車が事故を起こした場合の責任者の法的責任について議論がなされてきた。[ 133 ] [ 134 ]運転手のいない車が歩行者をはねたという報告では、運転手は車内にいたが、制御は完全にコンピューターに委ねられていた。これにより、事故の責任は誰にあるのかというジレンマが生じた。[ 135 ]
2018年3月18日には、アリゾナ州でエレイン・ヘルツバーグさんが自動運転のUberに轢かれて死亡するという別の事件が発生した。この事件では、自動運転車は車や特定の障害物を検知して自律的に道路を走行することはできたが、道路の真ん中にいる歩行者を予測することはできなかった。この事件は、運転手、歩行者、自動車会社、あるいは政府の誰が彼女の死に対して責任を負うべきかという問題を提起した。[ 136 ]
現在、自動運転車は半自動運転とみなされており、ドライバーは注意を払い、必要に応じて制御を引き継ぐ準備をしておく必要がある。[ 137 ]したがって、自動運転機能に過度に依存するドライバーを規制し、これらは便利ではあるものの完全な代替手段ではないことをドライバーに知らせるのは政府の責任である。自動運転車が広く普及する前に、これらの問題は新しい政策によって対処する必要がある。[ 138 ] [ 139 ] [ 140 ]
専門家は、自律走行車は危害を加える可能性があるため、正当な決定と有害な決定を区別できるべきだと主張している。[ 141 ]スマートマシンが道徳的な決定を下せるようにするために提案されている主なアプローチは、形式的な規則や道徳哲学を必要とせずに人間の行動を観察することによって機械が倫理的な決定を学習すべきだと示唆するボトムアップアプローチと、特定の倫理原則を機械のガイダンスシステムにプログラムするトップダウンアプローチの 2 つである。しかし、どちらの戦略にも大きな課題がある。トップダウン手法は特定の道徳的信念を維持するのが難しいと批判され、ボトムアップ戦略は人間の活動から非倫理的に学習する可能性があると疑問視されている。
一部の専門家や学者は、特にロボットにある程度自律的な機能が与えられる場合、軍事戦闘におけるロボットの使用に疑問を呈している。[ 142 ]米海軍は、軍事ロボットが複雑化するにつれて、自律的な意思決定能力がもたらす影響にもっと注意を払うべきであることを示す報告書に資金を提供している。[ 143 ] [ 144 ]人工知能振興協会の会長は、この問題を調査するための研究を委託した。[ 145 ]彼らは、人間の相互作用を模倣できる言語獲得装置のようなプログラムを挙げている。
2019年10月31日、米国国防総省の国防イノベーション委員会は、人間のオペレーターが常に「ブラックボックス」を覗き込み、キルチェーンのプロセスを理解できるようにする、国防総省によるAIの倫理的使用に関する原則を推奨する報告書の草案を公表した。しかし、報告書がどのように実施されるかが大きな懸念事項となっている。[ 146 ]米海軍は、軍事ロボットが複雑化するにつれて、自律的な意思決定能力の影響にもっと注意を払うべきであることを示す報告書に資金を提供している。 [ 143 ] [ 144 ]一部の研究者は、自律型ロボットはより効果的に意思決定を行うことができるため、より人道的である可能性があると述べている。[ 147 ] 2024年、国防高等研究計画局は、テストコミュニティによって自律型兵器システムの倫理的影響を評価するための指標を開発するプログラム、軍事作戦価値を伴う自律性基準と理想（ASIMOV）に資金を提供した。[ 148 ] [ 149 ]
研究では、割り当てられた道徳的責任を使用して学習する能力を持つ自律システムを作成する方法が研究されてきた。「その結果は、将来の軍事ロボットを設計する際に、ロボットに責任を割り当てる望ましくない傾向を制御するために使用できる可能性がある。」[ 150 ]結果主義の観点からは、ロボットが誰を殺すかについて独自の論理的決定を下す能力を発達させる可能性があり、そのため、AIが覆すことのできない一定の道徳的枠組みが必要である。 [ 151 ]
人工知能兵器の開発に関して、ロボットによる人類支配の構想を含む最近の抗議の声が上がっている。AI兵器は、人間が操作する兵器とは異なる種類の危険をもたらす。多くの政府がAI兵器開発プログラムへの資金提供を開始している。米国海軍は最近、自律型ドローン兵器の開発計画を発表したが、これはロシアと韓国による同様の発表と並行している[ 152 ]。AI兵器が人間が操作する兵器よりも危険になる可能性があるため、スティーブン・ホーキングとマックス・テグマークはAI兵器の禁止を求める「生命の未来」請願書に署名した[ 153 ]。ホーキングとテグマークが投稿したメッセージには、AI兵器は差し迫った危険をもたらしており、近い将来に壊滅的な災害を避けるために行動が必要であると記されている[ 154 ] 。
「主要な軍事大国がAI兵器の開発を推し進めれば、世界的な軍拡競争は事実上避けられず、この技術的軌跡の終着点は明らかだ。自律型兵器は明日のカラシニコフ銃になるだろう」と、 AI兵器反対派の支持者としてSkypeの共同創設者ヤーン・タリン氏やMITの言語学教授ノーム・チョムスキー氏も名を連ねる請願書には書かれている。[ 155 ]
物理学者で王室天文官のサー・マーティン・リースは、「暴走する愚かなロボットや、独自の意識を持つようになったネットワーク」のような壊滅的な事態を警告している。ケンブリッジ大学でリースの同僚であるヒュー・プライスも同様に、知能が「生物学的制約から逸脱」した場合、人類は生き残れないかもしれないと警告している。この2人の教授は、人類の生存に対するこの脅威を回避することを期待して、ケンブリッジ大学に実存的リスク研究センターを設立した。 [ 154 ]
人間より賢いシステムが軍事的に利用される可能性に関して、オープン・フィランソロピー・プロジェクトは、これらのシナリオは「制御不能に関連するリスクと同じくらい重要である可能性がある」と述べているが、AIの長期的な社会的影響を調査する研究では、この懸念に費やす時間は比較的少ない。「この種のシナリオは、機械知能研究所（MIRI）や人類の未来研究所（FHI）など、この分野で最も活発に活動している組織の主要な焦点ではなく、それらに関する分析や議論は少ないようだ」[ 156 ] 。
学者である高啓啓は、AIの軍事利用は国家間の軍事競争を激化させるリスクがあり、軍事問題におけるAIの影響は一国にとどまらず波及効果をもたらすと述べている。[ 157 ]： 91高は、米軍によるAI利用を例に挙げ、それが意思決定の責任逃れのためのスケープゴートとして利用されてきたと主張している。[ 157 ]： 91
特定通常兵器条約の枠組みの下、各国は2014年から致死性自律兵器システムについて議論してきた。2016年、同条約の締約国は、これらの議論を継続するために、致死性自律兵器システムに関する政府専門家グループを設立した。[ 158 ]これらの議論では、国際人道法、説明責任、禁止および規制の可能性、AI搭載兵器に対する人間の制御の必要性の範囲などが取り上げられた。[ 159 ]
ヴァーナー・ヴィンジをはじめとする多くの人々は、いずれコンピュータの一部または全部が人間より賢くなる瞬間が来るかもしれないと示唆している。この出来事の始まりは一般に「シンギュラリティ」[ 161 ]と呼ばれ、シンギュラリティ主義の哲学における議論の中心となっている。シンギュラリティ後の人類の最終的な運命については意見が分かれているが、AIによってもたらされる潜在的な存在リスクを軽減するための取り組みは、近年、コンピュータ科学者、哲学者、そして一般大衆の間で重要な関心事となっている。
多くの研究者は、知能爆発によって自己改善型AIが非常に強力になり、人間が目標達成を阻止できなくなる可能性があると主張してきた。[ 162 ]哲学者ニック・ボストロムは、論文「高度な人工知能における倫理的問題」およびその後の著書「超知能：道、危険、戦略」の中で、AIには人類の絶滅をもたらす能力があると主張している。彼は、人工超知能は独立したイニシアチブを持ち、独自の計画を立てることができるため、自律エージェントとして考える方が適切かもしれないと主張している。人工知能は人間の動機付け傾向を共有する必要がないため、超知能の設計者がその本来の動機を指定することになる。超知能AIはほぼあらゆる可能な結果をもたらし、目標の実現を阻止しようとするあらゆる試みを阻止できるため、多くの制御不能な意図しない結果が生じる可能性がある。それは他のエージェントをすべて殺したり、行動を変えるよう説得したり、干渉の試みを阻止したりすることができる。[ 163 ] [ 164 ]
しかし、ボストロムは、超知能には病気、貧困、環境破壊などの多くの困難な問題を解決する可能性があり、人間が自己を高めるのに役立つ可能性があると主張した。[ 165 ]
道徳哲学が完璧な倫理理論を提供しない限り、AIの効用関数は、特定の倫理的枠組みには適合するものの「常識」には適合しない、潜在的に有害なシナリオを多数許容する可能性がある。エリザー・ユドコウスキーによれば、人工的に設計された心がそのような適応を持つと考える理由はほとんどない。[ 166 ]スチュアート・J・ラッセル[ 167 ] 、ビル・ヒバード[ 130 ] 、ローマン・ヤンポルスキー[ 168 ] 、シャノン・ヴァラー[ 169 ] 、スティーブン・アンブレロ[ 170 ] 、ルチアーノ・フロリディ[ 171 ]などのAI研究者は、有益な機械を開発するための設計戦略を提案している。
この記事には、トッド・クイケン著『人工知能とバイオセキュリティ問題』 （米国議会調査局）からのパブリックドメイン資料が含まれています。
工学生物学とは、工学原理の応用と体系的な設計ツールの使用によって、細胞システムを特定の機能出力のために再プログラムすることです。この分野におけるAIの使用は、複数の応用分野と産業にわたる研究開発の進歩を可能にしました。AIは生物学的設計ツールと連携して核酸配列（例：デオキシリボ核酸[DNA ])、それを使って物理的な DNA を生成 (合成など) することができます。[ 172 ]一部の研究者は、AI を使用してゲノムデータ (DNA 配列など) を分析し、特定の形質の遺伝的基盤を決定したり、タンパク質を特徴付け (3D 構造を決定など)、創薬を可能にする新しい化学構造を設計したりしています。[ 173 ] [ 174 ]
より広義には、AI は科学研究開発プロセスに適用できます。[ 175 ]例えば、AI は、人間の積極的な関与を最小限またはまったく必要とせずに実験を実行できる自律型ラボ (自動運転ラボまたはクラウドラボと呼ばれることもあります) に導入されています。一部の研究者は、AI 科学者 (科学に特化したチャットボットなど) と呼ばれることもある、このようなタイプの AI ベースのラボツールが、明示されたタスクを超えて新しいアイデアや研究実験を生み出す可能性があると示唆しています。[ 176 ] [ 174 ]
AI モデルの支持者や一部の開発者は、AI が生命科学における科学的進歩の速度を速めると主張しているが、他の人々 ( RAND コーポレーションの研究の執筆者を含む) は、この分野における AI の現在のアプリケーションの能力を過小評価している。[ 177 ]ノーベル賞受賞化学者のジェニファー・ダウドナ博士は、2026 年 6 月のインタビューで、バイオテクノロジーにおける AI の使用について、「生物学は複雑であり、イノベーションは今のところ人間の領域にある。…チャットボットがまったく新しいアイデアを生み出すとは思わない」と述べている。[ 178 ] AI によって生成された生物学的設計 (DNA 配列など) は、AI モデルの理論的予測を超えて、予測されるバイオセーフティやバイオセキュリティのリスクの評価を含め、実用的な用途や価値があるかどうかを判断するために、物理的に合成され、評価される必要がある。[ 174 ]
生命科学研究者、バイオテクノロジー企業、バイオセキュリティ/バイオセーフティ専門家、AI企業の中には、AIが生物科学において転用または悪用される可能性があり、特定のバイオセーフティおよびバイオセキュリティ上の懸念が生じると主張する者もいる。[ 179 ]特に注目すべきは、AIが懸念される新規DNA配列を設計する能力であり、米国国立標準技術研究所（NIST）によれば、現在の配列スクリーニングツールでは検出できない可能性があると指摘する者もいる。[ 172 ] [ 174 ]
2026年6月、生命科学研究者、AI企業、バイオテクノロジー開発者、その他の専門家グループが議会に公開書簡を発表し、その中で「合成核酸とその製造に必要な機器の注文の審査を義務化するよう議員に要請する」と述べた。公開書簡で提案された責任は、生物学的設計ツールやそれらの設計ツールをサポートするAIモデルではなく、DNA合成企業に課せられることになる。[ 180 ] [ 174 ]
人工知能における倫理的課題に対処するため、開発者は責任あるAIの動作を保証するように設計されたさまざまなシステムを導入してきました。例としては、大規模なAIモデルの安全性と整合性の向上に焦点を当てたNvidiaのLlama Guard [ 181 ]や、カスタマイズ可能なガードレールプラットフォームであるPreamble [ 182 ]などがあります。これらのシステムは、AIモデルの機能に倫理ガイドラインを組み込むことで、アルゴリズムの偏り、悪用、およびプロンプトインジェクション攻撃などの脆弱性といった問題に対処することを目的としています。
悪意のある入力によってAIシステムが意図しない、または有害な出力を生成する可能性がある手法であるプロンプトインジェクションは、これらの開発の焦点となっています。一部のアプローチでは、カスタマイズ可能なポリシーとルールを使用して入力と出力を分析し、潜在的に問題のある相互作用がフィルタリングまたは軽減されるようにしています。[ 182 ]他のツールは、入力に構造化された制約を適用し、出力を事前定義されたパラメータに制限することに焦点を当てています[ 183 ] 、またはリアルタイム監視メカニズムを活用して脆弱性を特定して対処します。[ 184 ]これらの取り組みは、特に重要なアプリケーションでの使用がますます広まっているため、人工知能システムが安全性と倫理的配慮を最優先に設計されるようにするという、より広範な傾向を反映しています。[ 185 ] [ 186 ]
AIの倫理と政策に関心を持つ組織は数多く存在し、公共機関や政府機関だけでなく、企業や社会団体も含まれる。
Amazon、Google、Facebook、IBM、Microsoftは、人工知能技術に関するベストプラクティスを策定し、一般の人々の理解を深め、人工知能に関するプラットフォームとして機能する非営利団体「The Partnership on AI to Benefit People and Society」を設立しました。Appleは2017年1月に加盟しました。企業メンバーは、グループに資金と研究面で貢献するとともに、学術関係者を理事会に招き入れるために科学コミュニティと連携します。[ 187 ]
IEEEは、自律型インテリジェントシステムの倫理に関するグローバルイニシアチブを立ち上げ、一般からの意見を取り入れながらガイドラインの作成と改訂を進めており、組織内外の多くの専門家をメンバーとして受け入れています。IEEEの自律型システムの倫理イニシアチブは、自律型システムの開発と利用に関するガイドラインを策定すると同時に、意思決定や社会への影響に関連する倫理的ジレンマに対処することを目的としています。特に、人工知能やロボット工学などの分野では、責任あるロボット工学財団が、ロボットが道徳的原則を維持し、人間の価値観と一致するように、倫理的な行動と責任あるロボットの設計と利用を促進することに専念しています。
従来、社会は法律や警察活動を通じて倫理規範の遵守を確保するために政府を利用してきた。現在では、各国政府だけでなく、国際的な政府機関や非政府組織も、AIが倫理的に適用されるよう様々な取り組みを行っている。
AI倫理に関する取り組みは、個人の価値観と職業上の責任に基づいて構成されており、データとアルゴリズムを通じて文脈的な意味を構築することを含みます。したがって、AI倫理に関する取り組みにはインセンティブが必要です。[ 188 ]
2026年6月15日、ウォルト・ディズニー・カンパニーはアドビとニューヨーク・タイムズと提携し、生成型AIの法的・政策的枠組みを提唱する新たな連合体である「芸術とメディアにおける責任あるイノベーションのためのアライアンス」を設立した。このアライアンスは、特にクリエイターや子供、その他の消費者を保護する一方で、AIの普及を促進することを目指している。[ 189 ]
歴史的に見ると、「思考する機械」の道徳的・倫理的意味合いの研究は少なくとも啓蒙時代にまで遡ります。ライプニッツは、知覚を持つ存在のように振る舞う機械に知能を帰属させるべきかどうかという問題をすでに提起しており[ 219 ] 、デカルトも同様に、チューリングテストの初期バージョンと考えられるものを記述しています[ 220 ]。
ロマン主義時代には、創造主の制御から逃れて悲惨な結果を招く人工生物が何度か構想され、最も有名なのはメアリー・シェリーの『フランケンシュタイン』である。しかし、19世紀から20世紀初頭にかけての工業化と機械化への広範な関心は、制御不能な技術開発の倫理的意味合いをフィクションの最前線にもたらした。感情を与えられた知覚ロボットを奴隷労働に用いるカレル・チャペックの戯曲『RUR - ロッサムの万能ロボット』は、「ロボット」という用語（チェコ語で強制労働を意味するrobotaに由来）[ 221 ]の発明とされているだけでなく、1921年の初演後、国際的な成功を収めた。 1921年に出版されたジョージ・バーナード・ショーの戯曲『バック・トゥ・メトセラ』では、人間のように行動する思考機械の妥当性について疑問が呈されている。フリッツ・ラング監督の1927年の映画『メトロポリス』は、アンドロイドが搾取された民衆を率いて、テクノクラート社会の抑圧的な体制に反旗を翻す様子を描いている。
1950年代、ノーバート・ウィーナーは『人間の人間的利用』を執筆し、人間と機械がどのように協力できるかを論じた。彼は、そのような変化が非人間化や人間の従属化を通じて社会に害を及ぼすリスクを探り、そのようなリスクを回避する方法について提案した。アイザック・ アシモフは『われはロボット』で機械の制御方法について考察した。編集者のジョン・W・キャンベル・ジュニアの強い勧めで、彼は人工知能システムを統制するためのロボット三原則を提案した。その後、彼の研究の多くは、三原則の限界を検証し、どこで破綻するか、あるいはどこで逆説的または予期せぬ行動が生じるかを調べることに費やされた。[ 222 ]彼の研究は、固定された法則のセットでは、あらゆる状況を十分に予測することはできないことを示唆している。[ 223 ]
近年、学者や多くの政府は、AI自体に責任を負わせることができるという考え方に異議を唱えている。[ 224 ] 2010年に英国が招集した委員会は、AIの責任は製造者か所有者/操作者のいずれかにあることを明確にするために、アシモフの法則を改訂した。[ 225 ]機械知能研究所のエリザー・ユドコウスキーは2004年に、「フレンドリーAI 」の構築方法を研究する必要があると提唱した。これは、AIを本質的にフレンドリーで人間的なものにするための努力も必要であることを意味する。[ 226 ]
2009年、人工知能振興協会が主催した会議に学者や技術専門家が出席し、ロボットやコンピュータの潜在的な影響、そしてそれらが自給自足となり、自らの意思決定を行うようになるという仮説上の可能性の影響について議論した。彼らは、コンピュータやロボットがどの程度の自律性を獲得できるか、また、そのような能力をどの程度利用して脅威や危険をもたらす可能性があるかについて議論した。[ 227 ]彼らは、一部の機械が、自力で電源を見つけたり、武器で攻撃する標的を独自に選択したりするなど、さまざまな形の半自律性を獲得していることを指摘した。また、一部のコンピュータウイルスは駆除を回避し、「ゴキブリのような知能」を獲得していることも指摘した。彼らは、SFで描かれているような自己認識は恐らくあり得ないが、他の潜在的な危険や落とし穴があることを指摘した。[ 161 ]
また、2009年には、スイスのローザンヌ連邦工科大学のインテリジェントシステム研究所で行われた実験で、互いに協力するようにプログラムされたロボット（有益な資源を探し出し、有毒な資源を避けるようにプログラムされたロボット）が、有益な資源を独占しようとして互いに嘘をつくことを学習した。[ 228 ]
AI倫理に関するフィクションの役割は複雑である。[ 229 ]フィクションが人工知能とロボット工学の発展に影響を与えたレベルは3つに分けられる。歴史的に、フィクションはAIの目標やビジョンに影響を与えただけでなく、AIに関連する倫理的な問題や共通の恐怖を概説した共通の比喩を先取りしてきた。20世紀後半から21世紀最初の10年間にかけて、大衆文化、特に映画、テレビシリーズ、ビデオゲームは、AIとロボット工学に関する倫理的な問題に関する懸念やディストピア的な予測を頻繁に反映してきた。最近では、これらのテーマはSFの領域を超えた文学でもますます扱われるようになっている。また、カタルーニャ工科大学のロボット工学・産業情報学研究所の研究教授であるカルメ・トーラス氏が指摘するように[ 230 ]、高等教育では、技術系の学位において、技術関連の倫理的問題を教えるためにSFがますます利用されるようになっている。
AIに関連する倫理的問題は数十年にわたりSF文学や映画で取り上げられてきたが、より長く複雑なストーリー展開やキャラクター描写を可能にするジャンルとしてテレビシリーズが登場したことで、テクノロジーの倫理的影響を扱う重要な作品がいくつか生まれた。スウェーデンのシリーズ『リアル・ヒューマンズ』（2012～2013年）は、人工知覚生命体の社会への統合に伴う複雑な倫理的・社会的影響を取り上げている。イギリスのディストピアSFアンソロジーシリーズ『ブラック・ミラー』（2013年～現在）は、近年の様々な技術開発に関連したディストピア的なフィクション展開を実験的に描いていることで特に注目に値する。フランスのシリーズ『オズモシス』（2020年）とイギリスのシリーズ『ザ・ワン』は、テクノロジーが人間にとって理想的なパートナーを見つけようとしたらどうなるかという問題を扱っている。Netflixシリーズ『ラブ、デス＆ロボット』のいくつかのエピソードでは、ロボットと人間が共に暮らす場面が描かれている。最も代表的な例はS02 E01で、人間が生活の中でロボットに過度に依存すると、ロボットが制御不能になった場合にどれほど悪い結果になるかを示している。[ 231 ]
映画『13階』は、娯楽目的でコンピュータゲーム機によって知覚を持つ住人がいるシミュレーション世界が作られる未来を描いています。映画『マトリックス』は、地球上の支配種が知覚を持つ機械であり、人類が極めて差別的な扱いを受ける未来を描いています。短編小説「プランクダイブ」は、人類が複製・最適化可能なソフトウェアへと変貌し、ソフトウェアの種類を知覚を持つものと持たないものに区別する未来を描いています。同様のアイデアは、宇宙船ボイジャーの緊急医療ホログラムにも見られます。これは、最善の動機で緊急時に医療支援を提供するためにシステムを作成した創造主であるジマーマン博士の意識の縮小版の、明らかに知覚を持つコピーです。映画『バイセンテニアル・マン』と『A.I.』は、愛する可能性のある知覚を持つロボットの可能性を扱っています。 『アイ、ロボット』は、アシモフの3つの原則のいくつかの側面を探求しました。これらのシナリオはすべて、知覚を持つコンピュータの創造がもたらす可能性のある非倫理的な結果を予見しようとしています。[ 232 ]
時が経つにつれ、議論は可能性よりも望ましさに焦点を当てる傾向が強まり、ヒューゴ・デ・ガリスとケビン・ワーウィックによって始められた「宇宙主義者」と「地球人」の議論で強調されたように、[ 233 ]
{{cite journal}}: CS1 maint: 複数の名前: 著者リスト (リンク){{cite web}}: CS1 maint: 複数の名前: 著者リスト (リンク){{cite journal}}: CS1メンテナンス: アーカイブサービスは非推奨になりました (リンク)