倫理的規制定理

ミック・アシュビーの倫理的規制者定理^[1]は、コナント・アシュビーの良き規制者定理^[2]に基づいていますが、この定理は規制が優れていることが倫理的に優れていることを意味しないため曖昧です。

倫理的規制定理は、サイバネティック規制が効果的かつ倫理的であるためには、以下の9つの要件が必要かつ十分であると主張している。^[3]

1. 明確に優先順位が付けられた目標として表現される目的。
2. 過去と現在の真実。
3. さまざまなアクションが可能です。
4. 行動の将来の影響の予測可能性。
5. 最善の行動を選択するための知性。
6. 規制対象システムへの影響。
7. 明確に優先順位が付けられたルールとして表現された倫理。
8. すべてのサブシステムの整合性。
9. 倫理的行動の透明性。

これらの要件のうち、最初の 6 つだけが規制当局の有効性に必要です。倫理、完全性、透明性の 3 つの要件は、システムが効果的であることだけが必要な場合はオプションです。これにより、避けられない倫理的不適切性の法則が生じます。これは、「安全な倫理的システムが必要であると明記しなければ、安全でない非倫理的システムが得られる」というものです。^[1]その理由は、倫理的適切性が要件でない限り、システム設計は有効性を最適化する傾向があり、したがってオプションの倫理、完全性、透明性の側面を最大限に無視するため、必然的に倫理的に不適切で操作されやすい設計とその後の実装につながるからです。

倫理的レギュレータ定理は、サイバネティック レギュレータの有効性は 7 つの要件に依存することを示しています。レギュレータの有効性 R は、次の関数として表すことができます。

有効性_R = 目的_R x 真実_R x (多様性_R - 倫理_R ) x 予測可能性_R x 知性_R x 影響力_R

2 つのシステム A と B が 3 番目のシステム C の制御をめぐって競合しており、有効性_{Aが「有効性B}よりも大きい」場合、A が B よりも C の制御を獲得する可能性が高くなります。

有効性関数は、倫理的な規制者が利用できるさまざまな行動が、非倫理的であると見なされるすべての行動によってどの程度減少するかを反映しており、これにより、倫理的な規制者は、非倫理的な競争相手と競争する際に不利になります。

モデル中心のサイバネティクスパラダイム^[4]によれば、倫理的レギュレータは3次レギュレーションの産物である。コナント・アシュビーの優れたレギュレータ定理は、「システムの優れたレギュレータはすべて、そのシステムのモデルでなければならない」というものであり、モデル中心のサイバネティクスパラダイムの重要な信条である。このパラダイムでは、サイバネティックレギュレータは、目的、モデル、モデルが入力パラメータとして必要とするものだけを観察する明確に定義された観察者、何らかの意思決定インテリジェンス、および選択されたアクションまたは通信を規制対象システムに送信する制御チャネルで構成されると定義している。

したがって、効果を発揮するためには、一次（単純）サイバネティック レギュレータには、規制対象となるシステムのモデルが必要であり、二次（再帰的）レギュレータは、レギュレータが利用できる可能性のある多様性のリアルタイム表現をエンコードする自身のモデルも持つことによってのみ、再帰性を実現できます。最後に、倫理的レギュレータは、第三のレギュレータを使用して再帰的レギュレータを規制し、第三のモデルでエンコードされた倫理スキーマに違反しない動作のみを示すように制限することで実現されます。第三のモデルが違法または社会的に受け入れられないものをエンコードする場合、第三次レギュレータの概念は、法を遵守するロボットや倫理的な AI を作成するのに役立ちます。

• 良いレギュレータ
• 多様性（サイバネティクス）