シンガポールの企業、児童ポルノについて検索したユーザーに『いつも見ているぞ』というメッセージを送るするシステムを開発

インドでは、3月に実施されたロックダウン初日、児童ポルノの検索数が1日350万件から700万件超まで増加していたことが判明した。
「インディア・トゥデイ」によれば、オンラインにおける「児童の性的虐待画像」の数が世界最多なのがインド。次に多いのがタイである。

こうした現状を変えるべく立ち上がったのが、シンガポールに拠点を置くIT企業「Quilt.AI」の創業者、アンガード・チャウドリーだ。
彼はロンドン大学の博士課程（人類学）で、児童の性的虐待について調査することがあったという。

「実際に（ネットに流出している）児童性的虐待の資料に出くわすと、怒りのあまり眠れない夜もありました」
「数字や統計でなく、小さなビデオクリップを目にしてしまうと、もうダメです。とにかく精神的につらくて仕方がありませんでした」

児童ポルノを検索した数日後にSNS上で警告

そんなチャウドリーいわく「検索エンジンは『児童ポルノの検索が違法であること』を自動的に警告するが、抑止効果がほとんどない」という。
そこで彼が率いるQuilt.AIのチームは、児童ポルノを検索したネットユーザーに「メッセージ」が届くシステムを構築することにしたのだ。

「検索エンジンで児童ポルノを検索した場合、1日から2日後、該当するユーザーのソーシャルメディアのプラットフォームに『何をしたか知っているぞ。気をつけろよ』というような内容のメッセージが広告のように表示されるシステムを構築したのです」

このシステムは個人情報を収集するわけでもなく、個人が特定されるわけでもないため、法的な問題が発生する可能性は極めて低い。
こうした技術は実際、ネットユーザーに商品を宣伝するために使われているのだ。だがプライバシーの観点で懸念の声が上がったため、プロジェクトを実行に移すまでが大変だったという。

このやり方で本当に良いのかチャウドリーたちは何度も議論を重ね、最終的には「これが人々のプライバシーを保護しつつ、児童ポルノを『禁足地』にする最善の方法だと判断した」そうだ。

「似たようなロジックが洗濯機を売るために使われるのであれば、誰にとってもより良いネット空間を作るためにも使って良いと思うのです」

同社は6月にインドでこのシステムを展開した。同国が段階的にロックダウンを解除しはじめた頃である。すると「それから3ヵ月間で、月平均60万人に『脅しをかける』ことに成功した」という。
「つまり、児童ポルノにアクセスしようとする人が15ポイント近く減ったことになります。これが世界的にどのように影響するかはわかりませんが、結果は出ているようです」

前出の「インディア・トゥデイ」によれば、インドでは昨年、377のウェブサイトが「児童ポルノのコンテンツを掲載した」としてブロックされていた。
「児童虐待の映像の多くは、親戚や家族の友人によって家庭内で撮影されている。これは都市部、農村部、貧困層、富裕層、どこでも起こりうるものだ」と同誌は続ける。

インドに限った問題ではない児童ポルノ。一度ネットにさらされてしまったものは、簡単には取り返しがつかないものだ。
すでに流出してしまっているものを徹底的に取り締まりつつ、絶対に被害が出ない環境作りを真剣に考えていくべきだろう。

https://news.yahoo.co.jp/articles/60da710386a8aa645f60d0fa4e343270a3b2895d