中国国家インターネット情報弁公室は4月11日、「中華人民共和国インターネット安全法」に基づき、「対話型人工知能サービス管理弁法」の草案を起草し、一般社会から意見聴取を開始した。

国家インターネット情報弁公室が11日に発表した草案は、「対話型人工知能製品やサービスは法律・法規の要求を遵守しなければならず、その生成内容は社会主義の核心的価値観を体現しなければならず、国家政権を転覆したり、社会主義制度を覆したり、分裂を扇動したり、国家統一を破壊したりしてはならず、またテロ過激主義や民族憎悪を宣伝したり、暴力的でポルノ的な、経済や社会秩序を乱す恐れのある内容を含んではならない」と強調した。

同草案でも、対話型人工知能サービスを提供する企業は、当該製品のコンテンツの生産者としての責任を負い、法に基づき国家インターネット・通信部門に安全評価、報告アルゴリズムを申告するほか、国の民族、信仰、性別、年齢、職業などの差別を防止する措置を講じ、虚偽情報の生成を防止しなければならないと規定している。ユーザー側は法に基づき真実の身分情報を提供しなければならない。

また、この法案の要件を満たしていない生成結果がある場合は、フィルタリングを行い、3カ月以内にモデルを最適化して再生成されないようにする必要がある。

昨年11月に公開されたChatGPTは、中国の人工知能業界にショックを与えている。その後対話型AIをめぐっては、中国では開発競争が加速していて、IT大手の百度やアリババなどが相次いでサービスの提供を始めているが、今回のAI管理強化は、中国企業の人工知能開発に「社会主義核心的価値観」という意味不明の枷をかけることになる。