Apple va scanner les photos iCloud pour lutter contre les abus sur mineurs, seulement aux Etats-Unis pour le moment

Apple va mettre en place un contrôle automatique des photos sur les appareils de la marque. Tout se fera de façon logicielle et cela ne concerne que les Etats-Unis, pour le moment.

La firme de Cupertino a annoncé mettre en place un outil de détection de photos visant à lutter contre les abus sur mineurs, selon une information du Financial Times.

Tout sera fait de manière autonome par le système appelé neuralMatch, mais en cas de contenus illégaux, une équipe humaine les vérifiera puis transmettra aux autorités si nécessaire.

Selon une personne interrogée par le quotidien américain, chaque photo sera marquée d’un score disant si elle est suspecte ou non. Une fois qu’un certain nombre de photos seront notées comme suspectes, Apple les déchiffrera pour y avoir accès.

Pour mettre au point son outil, Apple l’a entraîné en utilisant 200 000 images du centre national des enfants disparus et exploités. Les photos seront donc comparées à une base de données d’images d’abus connues.

La base de données est totalement chiffrée, hashée et placée sur le téléphone de façon totalement sécurisée. Lorsqu’une photo sera envoyée sur le cloud, elle sera comparée à cette base de données.

Apple affirme que cette méthode est totalement sûre et promet qu’il existe moins d’une chance sur mille milliards de taguer comme illégal un compte qui ne l’est pas.

Selon un document mis en ligne par Apple, le but ici est de protéger les plus jeunes des prédateurs qui utilisent les outils de communication pour recruter et ensuite exploiter ces mineurs, mais également pour limiter la propagation de contenus illégaux.

Des avertissements dans les messages

Dans les messages, si une photo illégale est détectée, elle ne sera pas montrée. Un avertissement s’affichera demandant si l’enfant veut vraiment la voir, puis les parents seront prévenus.

Une telle protection existe dans l’autre sens. Si un enfant veut envoyer une photo explicite, un message s’affichera puis les parents seront prévenus s’il l’envoie quand même.

Cette fonctionnalité apparaîtra plus tard dans l’année pour les comptes Apple réglés comme « famille ».