AIに抵抗する

『AIへの抵抗：人工知能への反ファシスト的アプローチ』は、ダン・マッキラン著の人工知能（AI）に関する書籍で、2022年にブリストル大学出版局から出版されました。

『AIへの抵抗』は長文エッセイの形で書かれており、^[1] AIの可能性についての楽観的な見方と対比し、AIは官僚的な差別や暴力の継続と強化として捉えるのが最も適切であり、最終的には権威主義的な結果を助長すると主張している。^[2]マックィランにとって、AIの客観的な計算可能性の約束は、平等で公正な社会とは相反するものである。^{[3] [4]}マックィランは「AI暴力」という表現を使って、不透明なアルゴリズムに基づいて、さまざまな主体が仕事、ローン、医療、その他の給付へのアクセスにおいて特定のカテゴリーの人々を差別することができる様子を説明している。^[2]

この本は、AIは現代の福祉国家による生命の価値に対するソフトな優生学的アプローチと政治的に共鳴しており、^[5] AIは基礎となる論理だけでなく技術的な操作においても優生学的特徴を示していると示唆している。^[5]これは、歴史上の優生学者が、国家が障害を持つ者を不妊化することでその子孫の世話をしなくて済むようにすることで国家の救済を達成したことと類似している。^[5]

マックィランの分析は、AIシステムが不安定な労働市場を助長するという既知の批判を超え、「死体政治」、つまり誰が生きる権利があり、誰が死ぬ権利があるかという政治に取り組んでいる。^{[2] [6]}マックィランは本の冒頭で機械学習の簡単な歴史を「隠れた低賃金労働」の必要性とともに示しているが、 ^[6]彼はAIの技術的側面よりもむしろAIの社会的影響に関心を持っている。^{[7] [6]}マックィランはAIを、すでに社会的弱者を疎外している既存の官僚制度の延長と見なしている。既存のデータで訓練されたAIシステムは、既存のデータパターンに基づいて福祉分配を最適化しようとするなど、既存の差別を強化する可能性が高いという事実によって、状況は悪化している。^[7]最終的には「自己強化型ソーシャルプロファイリング」システムを生み出すことになる。^[8]

既存の官僚的暴力とAIの連続性について詳しく述べるにあたり、マックィランはハンナ・アーレントの『イェルサレムのアイヒマン：悪の陳腐さについての報告』における無思慮な官僚の概念に結び付け、それが今では意図を欠き説明責任を果たせないアルゴリズムとなり、「アルゴリズム的無思慮さ」を帯びることになる。^[9]

マクキランは、すべてのAIがファシストというわけではないが、この新しい制御技術はファシスト政権や権威主義政権によって導入される可能性があると主張して、作品のタイトルにある「ファシスト」を擁護している。^{[10]マクキランにとって、AIは適切に規制することが不可能な技術であり、例外をより広範囲に増殖させるメカニズムであるため、}例外状態の拡散をサポートする可能性がある。AI監視システムが差別を新たなレベルに引き上げる可能性があるシナリオの例として、ポーランドのLGBTフリーゾーンを作成する取り組みが挙げられる。^{[11] [7]}

技術をコントロールするための倫理的規制に懐疑的なマキランは、AIに抵抗するために人民評議会や労働者評議会、その他の市民団体を提案している。^[7]「ポスト機械学習」と題された章では、フェミニスト科学（スタンドポイント理論）、ポストノーマル科学（拡張ピアコミュニティ）、新物質主義の思想の流れを通じて抵抗を訴えている。マキランは読者に「客観性」の意味を問うよう促し、別の認識方法の必要性を訴えている。^[12]抵抗の好例（おそらくAI労働者自身も採用するだろう）として、マキランは[ ^13]ルーカス航空宇宙会社の労働者のルーカス計画に言及している。 ^[14]この計画では、不要と宣言された労働者が経営権を握り、企業を有用な製品に向け直した。^[10]

マッキランの研究^[15]

市民陪審のような、表面的には民主的な審議のように見えるが、実際には関与状況の範囲外にあるAIに関する重要な決定を不明瞭にする可能性があるAIとの「薄められた関与形態」に対して警告している（McQuillan 2022、128）。

この本についてのインタビューで、マックィランは自身を「AI廃止論者」と定義している。^[16]

この本は、「AIを認識論的、社会的、政治的パラダイムとして見事に分解し、^[17]民営化されたAIインフラに取り込まれるデータのほとんどが、文脈や体現された経験から「切断」され、 ^[18]最終的にクラウドソーシングを通じて処理される方法を検討している」と高く評価されています。

批判的な側面では、学術誌「正義、権力、抵抗」のレビューは、マックィランが提示した「ビッグブラザーの悪夢のようなビジョン」に異議を唱え、AIの多くの要素が懸念を引き起こす可能性がある一方で、批判はAIの戯画に基づくべきではないと主張し、マックィランの研究は「理論というよりはマニフェストに近い」と結論付けている。^[3]別のレビューは、「AIの技術的側面とマックィランが提供する社会政治的分析の間に乖離がある」と指摘している。^[7]

この本はChatGPTと大規模言語モデルの議論が白熱する前に出版されたが、 AIの議論との関連性は失われていない。^[19]この本は、人工知能への信念と、知能全般に対する人種的・性別的なビジョンへの信念との間に関連があることを示唆していることで注目されている[ ^20]。その関連により、ある種の合理的で測定可能な知能が優遇され、「存在の階層に関する歴史的概念」につながる。^[21]

ブログRebootは、 AI中心のシステムで予測される特定の問題（偏見、非包括性、搾取性、環境破壊性、不透明性、非競争性）を孤立して取り組むことを推奨するだけではなく、AIの害（AIがなぜ人々や社会を傷つける可能性があるのか​​）の理論を提示したマクキランを称賛した。^[12]

^[22]教育政策では、McQuillanの論文を読めばAIも考慮できるだろう。

ダン・マックィランは著書『AI への抵抗』の中で、「AI の現実性について考えるとき、コード内の計算とその応用の社会的背景を切り離すことはできない」と主張しています。マックィランが特に懸念しているのは、現代の AI の応用の多くが、既存の不平等や不正を増幅させ、社会の分裂や不安定さを深めていることです。彼の著書は、こうした影響を予測し、社会の利益のために積極的に抵抗すべきだと力強く主張しています。

AIや新興技術に関心のあるビデオ^{[19] [23]}やポッドキャスト^{[1] [24] [25]で}この本について議論されています。

• ショシャナ・ズボフ
• 監視資本主義
• 数学の破壊兵器
• アラン・シュピオ

• アルゴリズム・ジャスティス・リーグ
• カーディフ大学：ジャーナリズム、メディア、文化学部、データ正義ラボ。