擬人化AIインタラクティブサービスの管理に関する暫定措置

この規制は、中国国内で一般向けに提供されるAIシステムに適用される。企業内部や研究用途、または中国国外でのみ入手可能な製品には適用されない。^{[ 9 ]}この規制の目的上、擬人化AIシステムは、「人間の性格特性、思考様式、コミュニケーションスタイルをシミュレートし、テキスト、画像、音声、ビデオ、またはその他の手段を通じて人間と感情的なやり取りを行うもの」と定義される。^{[ 10 ]}

この規制では、AIプロバイダーは、有害な使用の兆候がないかユーザーを監視し、有害な使用の兆候が検出された場合はさまざまな介入を行うことが義務付けられます。また、AIシステムが特定の種類の行動や特定の種類のコンテンツを生成することも禁止されます。^{[ 11 ] [ 1 ]}ユーザーが自傷行為の危険にさらされていると思われる状況では、システムは人間のオペレーターに制御を委譲し、オペレーターが手動で介入することが義務付けられます。^{[ 4 ]}この規制では、これらのシステムの開発に使用されるトレーニングデータの出所を管理するためのより厳格な慣行も義務付けられ、AIシステムとのやり取りがトレーニングデータとして使用される前に、ユーザーからの明示的なオプトイン同意が義務付けられます。^{[ 1 ] [ 10 ]}規制対象システムのトレーニングに使用されるデータは、社会主義の中核的価値観と伝統的な中国文化を反映することが義務付けられます。^{[ 10 ]}