アルゴリズムの規制

アルゴリズムの規制、またはアルゴリズム規制は、特に人工知能と機械学習におけるアルゴリズムの促進と規制のための法律、規則、および公共部門の政策の作成です。^{[1] [2] [3]} AIアルゴリズムのサブセットについては、人工知能の規制という用語が使用されます。人工知能（AI）の規制と政策の状況は、欧州連合を含む世界中の法域で新たな問題となっています。^[4] AIの規制は、AIを奨励し、関連するリスクを管理するために必要であると考えられていますが、困難です。^[5]もう一つの新たなトピックは、ブロックチェーンアルゴリズムの規制（スマートコントラクトの使用は規制される必要がある）であり、AIアルゴリズムの規制と一緒に言及されています。^{[6]多くの国が}高頻度取引の規制を制定していますが、これは技術の進歩によりAIアルゴリズムの領域に移行しています。^[要出典]

アルゴリズムを規制する動機は、アルゴリズムに対する制御を失うことへの懸念であり、それによって人間の生活への影響が増大する。複数の国がすでに、自動信用スコア計算に関する規制を導入しており、それらのアルゴリズムには説明を受ける権利が義務付けられている。^{[7] [8]} たとえば、IEEEは、倫理的問題と将来の潜在的なユーザーの価値観に明示的に対処する新しい標準の開発を開始している。^{[9]刑事司法[10]}からヘルスケア^[11]に至るまで、さまざまな領域でのアルゴリズムの使用に関して、偏見、透明性、倫理に関する懸念が浮上しており、人工知能が人種、階級、性別、セクシュアリティに沿った既存の社会的不平等を再現するのではないかと多くの人が恐れている。

2016年、ジョイ・ブオラムウィニは偏った顔検出ソフトウェアに関する個人的な経験を経て、芸術と研究を通じて人工知能の社会的影響についての認識を高めるために、アルゴリズム・ジャスティス・リーグを設立しました。 ^[12]

2017年、イーロン・マスクは、汎用人工知能の存在リスクという文脈でアルゴリズムの規制を提唱した。^{[13] [14] [15]} NPRによると、テスラのCEOは、自分の業界に影響を与える可能性のある政府の監視を提唱することに「明らかに乗り気ではなかった」が、完全に監視なしで進むリスクは高すぎると考えていた。「通常、規制は、一連の悪いことが起こり、国民の抗議があり、何年も経ってからその業界を規制するための規制機関が設立されるときに設定されます。それは永遠にかかる。それは過去に悪いことではあったが、文明の存在に対する根本的なリスクを表すものではなかった。」^[13]

これに対し、一部の政治家は、まだ開発中の技術を規制することの賢明さについて懐疑的な見方を示した。^[14]マスク氏と、2017年2月に欧州連合（EU）の議員らが提案したAIとロボット工学の規制案の両方に応えて、インテルのCEOブライアン・クルザニッチ氏は、人工知能はまだ初期段階にあり、この技術を規制するには時期尚早であると主張した。^[15]技術自体を規制しようとするのではなく、アルゴリズムのテストと透明性の要件を含む共通規範を策定し、場合によっては何らかの保証を組み合わせることを提案する学者もいる。^[16] AI開発を規制するためのグローバルガバナンス委員会の設立も提案されている。^[17] 2020年、欧州連合はAIの促進と規制に関する戦略文書草案を発表した。^[18]

アルゴリズム暗黙の共謀は、アルゴリズムを用いて行われる法的に疑わしい反トラスト行為であり、裁判所は訴追することができない。^[19]この危険は、EU、米国、その他の国々の科学者や規制当局を懸念している。^[19] 欧州委員の マルグレーテ・ベステアーは、2017年3月16日の「アルゴリズムと共謀」に関する演説で、アルゴリズム暗黙の共謀の初期の例について次のように述べた。^[20]

「数年前、2 つの会社が「The Making of a Fly」という教科書を販売していました。そのうちの 1 社は、基本的にライバルの価格に合わせるアルゴリズムを使用していました。そのライバルのアルゴリズムは、常に最初の会社よりも 27% 高い価格を設定するものでした。その結果、価格は上昇し続け、ついに誰かが何が起こっているのかに気づき、手動で価格を調整しました。その時点で、この本は 1 冊 2,300 万ドルで販売されていました (正確には、販売されていませんでした)。」

2018年、オランダは福祉詐欺を犯すリスクが高いとみなされる国民を検出するアルゴリズムシステムSyRI（Systeem Risico Indicatie）を採用し、何千人もの人々を捜査官にひそかに知らせた。^[21]これは国民の抗議を引き起こした。ハーグ地方裁判所は、欧州人権条約（ECHR）第8条を参照してSyRIを停止した。^[22]

2020年、英国では学生の試験成績を決定するアルゴリズムが「アルゴリズムなんかクソくらえ」というスローガンの下、公開抗議を引き起こした。^[23]この抗議は成功し、成績は取り消された。^[24]

AIに関する法律と規制は、自律知能システムのガバナンス、システムに対する責任と説明責任、プライバシーと安全性の問題という3つの主要なトピックに分けることができます。^[5] AIの管理と規制に関する公共部門の戦略の策定は、地方、国家、^[25]および国際レベル^[18]で、公共サービス管理^[26]から法執行機関 [18] 、^[25]金融部門^{[25] 、 [27]}ロボット工学[27] 、^[28]および国際法 [29] に至るまで、ますます必要であると見なされています。^{[30]これら} の分野ではAIの可視性と監視が十分ではないという懸念が多くあります。^{[31]たとえば、米国の金融部門では、}消費者金融保護局が金融機関の非公開データの監査を実施する際に、ソースコードとアルゴリズムをより綿密に調査するよう 求める声があります。 ^[32]

米国では、2019年1月7日、「人工知能における米国のリーダーシップの維持」に関する大統領令を受けて、ホワイトハウスの科学技術政策局が人工知能アプリケーションの規制に関するガイドラインの草案を発表した。これには、米国政府機関がAIを規制するかどうか、またどのように規制するかを決定する際の10の原則が含まれている。^{[33] [34]}これを受けて、国立標準技術研究所が立場表明を発表し、^[35]人工知能に関する国家安全保障委員会が中間報告書を発表し、^[36]国防イノベーション委員会がAIの倫理的使用に関する勧告を発表した。^[37]

2016年4月、欧州議会は20年以上ぶりに、個人情報の収集、保管、使用に関する包括的な規制である一般データ保護規則（GDPR）1を採択しました（欧州連合、議会および理事会2016年）。[6] アルゴリズムの決定について国民が説明を受ける権利に関するGDPRの方針は、アルゴリズムの設計における人間による解釈可能性の重要性を浮き彫りにしています。^[38]

2016年、中国は、完全自律型兵器の不測の事態に対処するための既存の国際法の妥当性を疑問視する立場表明を発表し、この問題を提起した最初の国連安全保障理事会常任理事国となり^{[29] 、}世界的な規制の提案につながった。^[39]米国では、安全保障関連のAIの規制に関する指導は、人工知能に関する国家安全保障委員会が行っている。^[40]

2017年に成立した英国の自動車技術・航空法案は、無保険の自動運転車の所有者に自動運転時の責任を課し、所有者が車両に「無許可の改造」を行った場合やソフトウェアの更新を怠った場合の規定を設けている。さらに、例えば自動運転車が歩行者を避けるために急ハンドルを切って致命的な事故を起こした場合など、倫理的な問題も生じる。^[41]

2021年に欧州委員会は人工知能法案を提案した。^[42]

アルゴリズムを規制する方法として、アルゴリズム認証という概念が浮上しています。アルゴリズム認証には、ライフサイクル中に使用されるアルゴリズムが、1) プロトコル化された要件 (例: 正確性、完全性、一貫性、精度) に準拠しているか、2) 標準、実践、慣例を満たしているか、3) 適切な問題を解決しているか (例: 物理法則を正しくモデル化しているか)、運用環境での意図された用途とユーザーのニーズを満たしているかを監査することが含まれます。^[9]

ブロックチェーンシステムは取引の透明性と固定された記録を提供するため、個人が自分の個人データを完全に管理できるようにするという欧州GDPRの目的に反する。^{[43] [44]}

デジタル経済発展法令を施行することにより、ベラルーシはスマートコントラクトを合法化した最初の国となった。ベラルーシの弁護士デニス・アレイニコフは、この法令で導入されたスマートコントラクトの法的概念の考案者とみなされている。^{[45] [46] [47]}米国の既存の州法はすでにスマートコントラクトの執行可能性の健全な基盤となっているという強い議論がある。アリゾナ州、ネバダ州、オハイオ州、テネシー州は、それでもブロックチェーンベースの契約の執行可能性を認めるために法律を改正した。^[48]

ロボットと自律アルゴリズムを規制する提案がいくつかあります。これには次のものが含まれます。

• 2007年に韓国政府がロボット倫理憲章を提案したこと。
• 2011年に英国工学物理科学研究評議会が提案した「ロボットの設計者、構築者、およびユーザーのための5つの倫理原則」。
• 2017年に発表された、計算機協会によるアルゴリズムの透明性と説明責任に関する7つの原則。^[9]

1942 年、作家アイザック・アシモフは、架空のロボット工学三原則を提唱してアルゴリズムの規制について論じました。

1. ロボットは人間を傷つけたり、不作為により人間が危害を受けることを許したりしてはならない。
2. ロボットは、第一法則に反する場合を除き、人間から与えられた命令に従わなければなりません。
3. ロボットは、第一法則や第二法則に反しない限り、自らの存在を守らなければならない。^[49]

規制に代わる主な手段は禁止であり、アルゴリズムの禁止は現時点では非常にありそうにない。しかし、フランク・ハーバートのデューンの世界では、思考機械は人工知能の総称であり、バトラージハードとして知られる反乱の後、完全に破壊され禁止された。^[50]

ジハード、バトラリアン：（大反乱も参照）コンピュータ、思考機械、意識ロボットに対する十字軍。紀元前201年に始まり、紀元前108年に終了。その主な戒律は旧約聖書に「汝は人間の心のような機械を作ってはならない」として残っている。^[51]

• アルゴリズムの透明性
• アルゴリズムの説明責任
• 人工知能
• 人工知能の軍拡競争
• 政府における人工知能
• 人工知能の倫理
• アルゴリズムによる政府
• プライバシー法