Loading article…
AI Now Institute ( AI Now ) は、人工知能の社会的影響と、テクノロジー業界における権力の集中に対処する政策研究を研究するアメリカの研究機関です。[ 2 ] [ 3 ] [ 4 ] AI Now は、分散型 AI 研究機関(DAIR)、Data & Society、Ada Lovelace Institute、ニューヨーク大学タンドン工学部、ニューヨーク大学データサイエンスセンター、Partnership on AI、ACLUなどの組織と提携しています。AI Now は、人工知能の社会的影響を検証する年次報告書を作成しています。2021～22 年、AI Nowのリーダーシップは、連邦取引委員会の委員長であるLina Khan 氏の AI に関する上級顧問を務めました。 [ 5 ]事務局長はAmba Kak 氏です。[ 6 ] [ 7 ]
AI Nowは、オバマ政権のホワイトハウス科学技術政策局が主催した2016年のシンポジウムから発展したものです。このイベントは、 Googleのオープンリサーチグループの創設者であるメレディス・ウィテカーと、マイクロソフトリサーチの主任研究員であるケイト・クロフォードが主導しました。[ 8 ]このイベントは、不平等、労働、倫理、医療といった社会領域におけるAIの短期的な影響に焦点を当てました。[ 9 ]
2017年11月、AI NowはAIと社会問題に関する第2回シンポジウムを開催し、ニューヨーク大学と提携してAI Now Instituteを正式に発足させた。[ 8 ] AIの社会的影響に焦点を当てた初の大学研究機関であり、女性によって設立され、率いられた初のAI研究所であるとされている。[ 1 ]現在は完全に独立した機関となっている。
NPRのインタビューで、クロフォード氏は、AI Nowを設立した動機は、医療、教育、刑事司法などの社会領域へのAIの応用が純粋に技術的な問題として扱われていたことだと述べた。AI Nowの研究目標は、これらをまず社会問題として扱い、社会学、法律、歴史などの分野の専門家を招いてAIの影響を研究することである。[ 10 ]
AI Now は、AI の現状と社会への統合に関する年次報告書を発行しています。2017 年の報告書では、「現在の AI 倫理の枠組みは失敗している」と述べ、AI システムのリリース前試験や、AI 分野におけるバイアスと多様性に関する研究の増加など、この分野に対する 10 の戦略的提言を示しました。この報告書は、刑事司法、医療、福祉、教育などの主要な社会領域における「ブラックボックス」システムの廃止を求めたことで注目されました。[ 11 ] [ 12 ] [ 13 ]
2018 年 4 月、AI Now は、政府が公共機関における AI の使用を評価する方法として、アルゴリズム影響評価のフレームワークを発表しました。AI Now によると、AIA は環境影響評価に似ており、AI システムの影響や意図しない結果を評価するために、外部の専門家がアクセスできるように公開する必要があります。これにより、研究者がすでに全国に展開されているアルゴリズム システムで特定している、偏った結果や歪んだトレーニング データなどの問題についてシステムを検証できるようになります。[ 14 ] [ 15 ] [ 16 ]
2023年の報告書[ 17 ]では、テクノロジー分野の有意義な改革は、テクノロジー業界における権力の集中に対処することに焦点を当てるべきだと主張した[ 18 ] 。