AppleのCSAM問題、新法の制定で再び浮上かc

最新情報：EUは新たな法案を発表しました。詳細は下部をご覧ください。

iPhone をスキャンして児童性的虐待コンテンツを検出する問題をめぐる論争により同社が計画を一時停止したことを受けて、Apple の CSAM 問題が再び浮上する可能性がある。

今日の報道によると、欧州連合は、Apple のようなテクノロジー大手に CSAM の検出、報告、削除を義務付ける法律を計画しており、早ければ今週中にも新法の草案が発表される予定だという…

ほとんどのクラウドサービスはすでに児童性的虐待に関するコンテンツをスキャンしており、検出されたものはすべて法執行機関に報告されます。

Appleも同様の対策を講じたいと考えていましたが、同時にユーザーのプライバシーを保護した方法でスキャンを行うことを希望していました。そこでAppleは、人間のモデレーターが確認するのは確認済みのマッチングのみとなる、デバイス上でのスキャン計画を発表しました。

• Apple は CSAM データベース ハッシュを iPhone にダウンロードします
  (当然ですが、実際の画像ではなく、CSAM 画像のデジタル署名です)。
• デバイス上のプロセスにより、写真のハッシュとの一致が検索されます。
• 30 個未満の場合は、アクションは実行されません。
• 30 件以上の一致が見つかった場合、写真の低解像度が手動で検査されます。
• 写真が無害であると判明した場合、それ以上の措置は取られません。
• 手動レビューにより CSAM であることが確認された場合は、法執行機関に通知されます。

しかし、専門家や活動家らは、このアプローチには潜在的な欠陥があると直ちに指摘した。これは Apple が予想していたはずのことだ。しかしどうやら予想していなかったようだ。

サイバーセキュリティの専門家、人権団体、政府、そしてAppleの従業員からも懸念が表明されています。主な懸念事項は以下の4つです。

• 偶発的な誤検出によって、誰かの評判が台無しになる可能性があります。
  (Apple は、一致のしきい値を 30 件以上に設定することで、この問題に対処しました。)
• 同じ目的を達成するために、意図的な誤検知（衝突攻撃とも呼ばれます）が作成される可能性もあります。
• 権威主義的な政府は、政治ポスターなどをデータベースに追加する可能性があります。
• 同じハッシュベースのデバイス内検索は、後で iMessage にも適用される可能性があります。

その後、同社は計画の見直しには時間を要すると発表した。これは昨年9月のことだが、Appleはこの件について一切の発言をせず8ヶ月が経過した。そのため、Appleはできる限り長い間、この件をなかったことにするつもりだったのではないかと疑う声も上がっている。しかし、それも長くは続かないかもしれない…

CSAM検出に関する欧州法案

Politicoは、欧州連合（EU）がテクノロジー大手にCSAMのスキャンを義務付ける新たな法律を制定する予定だと報じている。そうなれば、Appleは論争を再燃させることなく、どのようにこの法律を遵守するかを考えなければならないだろう。

欧州委員会は今週、メタ・プラットフォームズ、グーグル、アップルなどのデジタル企業に対し、罰金の脅迫の下、違法な虐待画像を検出、削除し、法執行機関に報告することを義務付ける可能性のある法案草案を発表するとみられる。

ポリティコが火曜日に入手した提案のリークによると、欧州委員会は、一部のプラットフォームが講じた自主的な対策は、児童性的虐待を目的としたオンラインサービスの悪用に対処するにはこれまでのところ「不十分であることが判明した」と述べた。

このルールブックは、新型コロナウイルス感染症のパンデミック中に、児童保護ホットラインが記録的な量の不快なコンテンツをオンライン上で流布していると報告する中で発表されました。ヨーロッパはこうしたコンテンツのホスティングにおいてホットスポットとなっており、2021年には世界の違法画像の62%がヨーロッパのデータサーバー上に存在していました。

新法の主要提案者の一人がエンドツーエンド暗号化に反対しているように見えるため、状況は複雑化する可能性が高い。内務委員のイルヴァ・ヨハンソン氏は次のように述べた。

悪用者はエンドツーエンドの暗号化の背後に隠れます。エンドツーエンドの暗号化は使い方は簡単ですが、解読するのはほぼ不可能であるため、法執行機関が犯罪を捜査して起訴することが困難になります。

私たちは長年、エンドツーエンドの暗号化でユーザーのプライバシーを保護しながら、同時に法執行機関のためのバックドアを作成することは不可能であると指摘してきました。

更新：提案は正式に発表されました

EUは今回、この措置を正式に発表した。

本日、欧州委員会は、オンライン上の児童性的虐待を防止し、対処するための新たなEU法を提案しています。2021年だけでも、児童性的虐待を描写した写真や動画が世界中で8,500万件報告され、さらに多くが報告されていないなど、児童性的虐待は蔓延しています。COVID-19パンデミックは問題を悪化させており、インターネットウォッチ財団は、2021年に確認された児童性的虐待の報告数が前年比で64%増加したと指摘しています。企業による自主的な検出と報告に基づく現在のシステムは、子供たちを適切に保護するには不十分であることが判明しており、いずれにせよ、現在実施されている暫定的な解決策の期限が切れれば、もはや不可能になります。問題が1つのプラットフォームだけに存在するのではないという明確な証拠があるにもかかわらず、2020年に受け取った児童性的虐待の報告の最大95%は、1つの企業からのものでした。

児童性的虐待を目的としたオンラインサービスの悪用を効果的に阻止するには、明確なルールと、厳格な条件と安全策が必要です。提案されている規則は、サービス提供者に対し、サービス上の児童性的虐待コンテンツを検出、報告、削除することを義務付けます。サービス提供者は、サービスの悪用リスクを評価し、軽減する必要があり、講じる措置はリスクに見合ったものでなければならず、厳格な条件と安全策を遵守しなければなりません。

法案の写しはこちらからダウンロードできます。プライバシー、テクノロジー、法律の専門家の方々にもご意見を伺い、その反応をお伝えします。

写真: Christina @ wocintechchat.com/Unsplash

sepute.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。