トロント宣言

この文書は、「機械学習システムが普及した世界で、人権侵害の責任は誰が負うのか？」という問いから始まっている^{[ 4 ]。}公共部門であろうと民間部門であろうと、すべての実務家は人権に対するリスクを認識し、既存の国際法、基準、原則を意識しながら人権を念頭に置いて業務に取り組むべきだと主張している。この文書は人権を「プライバシーとデータ保護の権利、表現と結社の自由、文化生活への参加、法の下の平等、効果的な救済へのアクセス」を含むものと定義している^{[ 4 ]}が、宣言は平等と非差別に最も関心を寄せていると述べている。

国際人権法の枠組みは、さまざまな権利を列挙し、違反者を責任追及する仕組みを提供し、侵害された者への救済を保障する。この文書は、国連人権委員会の差別の定義を引用し、「人種、肌の色、性別、言語、宗教、政治的意見その他の意見、国民的または社会的出身、財産、出生その他の地位を含むがこれらに限定されないあらゆる根拠に基づくあらゆる区別、排除、制限または優遇であり、すべての人々が平等な立場で全ての権利と自由を認識、享受または行使することを無効化または阻害する目的または効果を有するもの」としている。^{[ 7 ]}

政府は積極的に拘束力のある措置を講じるべきであり、民間企業は差別を防止するための内部方針を策定すべきである。これらの措置には、特に脆弱な立場にある人々に関する機密データの保護が含まれるべきである。設計段階での差別を防止するため、システムは多様なコミュニティとの協働のもとで設計されるべきである。

今日、各国政府は機械学習システムを導入しており、多くの場合、民間企業と連携して導入を進めている。開発をこうした第三者に委託する場合であっても、政府は人権保護の義務を負う。導入前、そして導入後も継続的に、リスクを特定し、定期的な監査を実施し、これらのリスクを軽減するために必要なあらゆる措置を講じるべきである。機械学習の導入方法と利用方法については透明性を確保し、論理が容易に説明できないブラックボックスシステムは避けるべきである。システムは、多様な内部委員会および独立した司法機関による厳格な監視を受けるべきである。

政府は、民間企業による差別から市民を守る必要もある。監視に加え、差別禁止、データ保護、プライバシー保護に関する拘束力のある法律を制定し、被害を受けた個人に対する効果的な救済手段を提供するべきである。国および地方政府が国際法を拡充し、それぞれの状況に合わせて適用していくことが重要である。

民間団体は「人権デューデリジェンス」を実施する責任を負っています。政府と同様に、民間団体は、開発前に共通のリスクを考慮し、利害関係者（影響を受けるグループ、人権、平等、差別に取り組む組織、独立した人権および機械学習の専門家など）と協議することにより、リスクを特定する必要があります。^{[ 4 ]}リスクを軽減するシステムを設計し、システムを定期的な監査の対象とし、リスクが高すぎるプロジェクトは中止する必要があります。想定されるリスクについて透明性を確保し、必要に応じて技術的な実装の詳細を含め、影響を受ける個人が自分たちに影響を与える決定に異議を申し立てるメカニズムを提供する必要があります。

「正義を受ける権利は、国際人権法の重要な要素である。」^{[ 4 ]}民間団体は、被害を受けた個人が救済を求めるための手続きを整備し、これらの手続きを監督する役割を担う者を定めるべきである。政府は、司法分野で機械学習システムを導入する際には特に慎重でなければならない。透明性、説明責任、そして救済が役立つだろう。