21世紀経済報道記者の肖瀟北京報道
今週Metaは、EUと英国のユーザーのデータ訓練AIの使用を一時停止し、欧州での独自の大モデルの発売を延期すると発表した。
アイルランド、英国、ノルウェーなどの多国籍規制当局が認知しており、規制当局の要求に応えるものだ。ノルウェーのデータ保護機関によると、MetaはFacebookやインスタグラム上の投稿や画像を使用した大モデルの訓練を一時停止することを約束しており、現在どのくらい遅れるかは不明で、他のEU諸国の規制当局とともに検討しているという。
Metaがユーザーのデータを収集する計画は先月から始まり、プラットフォームは6月末に新たなプライバシーポリシーを本格的に開始することを欧州のユーザーに通知した。会社はFacebookとInstagram上の公開コンテンツを使用して、インタラクティブなコンテンツ、状態、写真、タイトルを含め、プライベートチャットの記録や未成年者のアカウント情報を含まない大きなモデルを訓練する。更新されたプライバシーポリシーに反発が起き、オーストリアの非営利団体NOYBは直ちに11のEU加盟国にそれぞれ苦情を申し立て、緊急手続きの開始を要請した。
論争は孤例ではなく、どのようにユーザーにデータの授権を受けてAIを訓練するかは、すべてのインターネット会社の前に置かれた難題であり、会社はコンプライアンスの尺度を把握するだけでなく、プライバシー問題にますます敏感になるユーザーの感情にも配慮する必要がある。インタビューを受けた専門家は、21世紀の経済報道について、EUの「正当な利益」条項を引用してユーザーデータを取得することは、今後ますます一般的になる可能性があると述べたが、現在の我が国の「個人情報保護法」には類似の規定が直接設置されておらず、国内企業は特にユーザーの明示的な同意を得ることに注意する必要があると述べた。
「正当な利益」条項は知人になる可能性がある
Metaに対する苦情の中で、NOYBは2つの不規則性を指摘した：
理由の1つは、Metaの人工知能に対する記述があまりにも広範であり、ユーザー情報を収集し処理する目的を説明していないからだ。Metaのプライバシーポリシーには「人工知能技術」という言葉が使われており、NOYBの創業者Max Schrems氏は「データベースでデータを使用する」と言っているのと同じだと考えている。
「Metaはこれらのデータを使用して何をするかを説明していないし、制限も設定していない。人工知能技術は簡単なチャットロボット、攻撃的な個性的な広告、殺傷級のドローン兵器を指す可能性がある」とMax Schrems氏は説明する。
理由の2つ目は、ユーザーがデフォルトでデータ収集に同意し、拒否プロセスが複雑であることです。Facebookを例にとると、ユーザーがプラットフォームから自分のデータ収集を拒否するには、ファイルの最後に反対するフォームを見つけるために、設定とプライバシー-プライバシーセンター-ジェネレーションAI-詳細-『Metaどのようにデータトレーニングするか大モデル』のレベル5ページが必要です。また、自発的にフォームに記入し、会社の手を経て、ユーザーはデータ収集を拒否することができます。
Metaはこれに対して、大モデルは「欧州の人々の言語、地理、文化的背景の多様性」を反映する必要があるため、会社のユーザーがデータを収集することは、特にユーザーの同意を得る必要はなく、「汎用データ保護条例」に規定された「正当な利益」（legitimate interests）に属するべきだと弁明した。
一般的に、共通データ保護条例は個人情報の収集をデフォルトでは違法だが、「正当な利益」条項はデータを収集しなければならないいくつかの状況を免除し、ユーザーの同意を得る必要はなく、このような合法的な収集行為は個人の利益、商業の利益、または公共の利益から出ることができる。
「業界では一般的にEUの個人情報処理の制限が厳しいと考えられているが、実際には正当な利益条項を通じて一定の空間が残されている」と世輝弁護士事務所のパートナーである王新鋭氏はデータコンプライアンス業務に長年従事しており、王新鋭氏は21世紀の経済報道に対し、正当な利益条項の設置は複雑かつ柔軟で、一連のテストを通過する必要があり、解釈の余地が大きい合法性の基礎と言えると語った。
Metaはこれまでも正当な利益を引用してきたが、当時はユーザーのデータを集めて個性的な広告を投入する行為を弁護していたが、EU裁判所は最終的にこの説に反論した。Max Schremsはそのため、正当な利益もAIを訓練するためのデータの取り込みと使用に適していないと考えている。王新進氏は、いくつかの新興技術のシーンについて、他の合法性の基礎は成立しにくいかもしれないが、正当な利益には一定の解釈の余地があるので、Metaは引用を試み、「今後、さまざまなAI関連の事件の中で、この条項は繰り返されるだろう」と予想している。
EUと異なり、我が国の個保法は「正当な利益」を直接法定の免除状況に記載していないことに注意しなければならない。しかし、王新鋭氏は、EUの「共通データ保護条例」が規定するいくつかの典型的な状況は、我が国が他の条項を通じてもカバーされていると指摘した。
浙江省墾丁（北京）弁護士事務所の程念弁護士は21世紀の経済報道に対し、我が国の類似規定に含まれる状況は限られていると伝えた。
ユーザーデータが業界の敏感なポイントになる
「私たちは失望している」「これは欧州のイノベーション、人工知能の開発競争にとって後退し、人工知能が欧州の人々にもたらすメリットをさらに遅らせている」とMeta氏はブログで、グーグルもOpenAIも欧州のユーザーのデータを使ってAIを訓練しており、「同業者に比べてデータ収集方法が透明だ」と愚痴をこぼしている。
しかし、実際にはそうではないようで、ユーザーデータを慎重に扱うことがコンセンサス的なやり方に発展している。例えば、ChatGPTは率先してユーザーがチャット記録機能をオフにすることで、自分の個人データが公式に訓練に持ち出されることを拒否することができるようにしたが、それは大きなモデルの回答の質に影響を与えることは避けられないが、6月19日、Adobeはサービス条項を専門に更新し、Adobeのソフトウェアはユーザーのローカルまたはクラウドコンテンツトレーニング生成式AIモデルを使用しないことを明確に約束した。
昨年、国内オフィスソフトウェアWPSはプライバシーポリシーに「私たちはあなたが積極的にアップロードした文書材料に対して、脱感作処理を行った後にAI訓練の基礎材料として使用する」と追加しようと試みたが、ユーザーに発見されて集団ボイコットを引き起こし、その後WPSはユーザーに謝罪し、ユーザー文書がAI訓練に使用されないことを約束した。
現在、ユーザーのデータを収集してAIを訓練することを明らかにしている科学技術大手にはグーグルとXがある：マスクを発売するためのx.AI社、Xは昨年9月にプライバシーポリシーを更新し、その中で2.1条例に「収集された情報と公開された利用可能な情報を使用して、私たちの機械学習や人工知能モデルの訓練を支援する可能性がある」、昨年7月、グーグルのプライバシーポリシーにも「公開されたオンライン情報や他の公共ソースからの情報を収集し、Googleの人工知能モデルの訓練を支援する可能性がある」という追加情報が追加された。
しかし、当時北京大成弁護士事務所の高級パートナーだった鄧志松氏は21世紀の経済報道に対し、グーグルはユーザーの個人情報を収集し処理する範囲と目的について詳細に説明し、EU GDPRの下でより厳格な「告知―同意」ルールを基準にしても、グーグルのやり方は少なくとも形式的にはコンプライアンスしていると述べた。
NOYB氏はまた、Metaが今回収集したいのは2007年以来のすべての公開と非公開の個人情報で、FacebookやInstagramのソーシャルメディア上のやり取りの痕跡をカバーし、AI社がインターネットで資料を公開しようとする一般的なやり方とは異なると指摘した。
コンプライアンス要件を満たし、ユーザーの権利を尊重しながらテクノロジーを発展させるには？王新進氏は21世紀の経済報道に対し、国内企業に対して、ユーザーデータを収集してAIを訓練するには、「生成式人工知能サービス管理暫定方法」を遵守し、個人情報に関わる場合は、個人の同意を取得するか、法律に合致しなければならないと明確に規定していることを強調した。つまり、ユーザーの個人情報を収集して使用する前に、ユーザーに明確に通知して同意を得ているかどうかに特に注目する必要があります。事前にユーザーの同意を得ていない場合は、法定義務、公共利益などの他の合法性の基礎が必要であり、そうでないと相応のコンプライアンスリスクが存在する。
程念氏は、ユーザーが製品を使用することに基づいて取得した個人情報を収集するには、明示的な同意が必要であるほか、敏感な情報に関わるには単独で同意する必要がある、また、ユーザーが個人情報を容易に照会、訂正、削除し、同意を撤回できるようにするためには、特にAIトレーニングのためのデータ収集を拒否するオプションをユーザーに提供し、ユーザーの知る権利と選択権を確保する必要があります。