Fatshimetrie — Nouvel outil AI de Microsoft soulève des inquiétudes concernant la protection des données personnelles
L’annonce de la nouvelle fonctionnalité AI de Microsoft, Recall for Windows, crée une certaine agitation quant à sa potentielle utilisation abusive par des individus malveillants. Cette nouvelle innovation, se présentant comme une sorte de « machine à remonter le temps » personnelle, permet aux utilisateurs de retrouver rapidement n’importe quel contenu ayant été affiché sur leur écran, tels que des documents, des images et des sites web. Contrairement à une recherche par mot-clé classique, l’outil capture régulièrement des captures d’écran de l’activité de l’utilisateur et les stocke directement sur l’appareil. Il utilise ensuite l’IA pour traiter les données et les rendre consultables.
Par exemple, si un utilisateur avait précédemment recherché une robe verte ou le nom d’une crèmerie locale, il lui suffirait de demander à la fonction « Recall » de retrouver tout contenu en lien avec ses recherches passées.
Bien que cette forme de recherche sémantique représente une avancée significative pour l’IA, elle intervient à un moment où l’industrie évolue rapidement et où les régulateurs gouvernementaux, les entreprises et les consommateurs tentent encore de définir comment utiliser cette technologie de manière responsable.
Jen Golbeck, professeure d’IA à l’Université du Maryland spécialisée dans la protection de la vie privée, souligne le potentiel cauchemardesque que pourrait représenter cette fonctionnalité si l’appareil venait à tomber entre de mauvaises mains. Elle met en garde contre le fait que malgré le stockage local des données sur l’appareil, celles-ci restent accessibles à des tiers. Même en utilisant le mode incognito ou en effaçant son historique, les utilisateurs ne pourront pas se protéger, car l’outil a accès à tout ce qui a été affiché sur leur écran.
L’ICO, le régulateur indépendant britannique de la protection des données et de la liberté de l’information, mène actuellement une enquête sur l’outil Recall afin de comprendre les mesures de protection en place pour préserver la vie privée des utilisateurs. L’organisation attend des entreprises une transparence quant à l’utilisation des données personnelles et les incite à ne traiter ces informations que dans la mesure nécessaire pour atteindre un objectif spécifique.
Bien que Microsoft n’ait pas encore répondu aux demandes de commentaires, le PDG Satya Nadella a souligné que les recherches web doivent être effectuées uniquement via le navigateur web Edge de Microsoft et que les captures d’écran ne quittent jamais l’ordinateur de l’utilisateur. Cette approche en local, selon lui, garantit la protection des données.
Certains experts estiment que les inquiétudes entourant cette fonctionnalité sont exagérées, compte tenu du fait que les données restent exclusivement sur le dispositif et que l’utilisateur conserve le contrôle total. Les utilisateurs peuvent choisir d’activer la fonction lors de la configuration de leur appareil et personnaliser les applications et les sites web auxquels Recall peut accéder. Ces contrôles renforcent l’idée selon laquelle la sécurité et la confidentialité sont au cœur de cette fonctionnalité.
Cependant, Jen Golbeck met en avant des scénarios où cette protection pourrait ne pas suffire, notamment pour un journaliste dans un pays hostile, une personne cherchant à échapper à une relation abusive, ou un individu en quête d’informations médicales sensibles. Elle souligne que ces questions entourant l’outil auront probablement un impact majeur en milieu professionnel, où de nombreuses activités personnelles effectuées sur un ordinateur professionnel pourraient être archivées et accessibles au service informatique.
Le développement technologique, malgré ses avantages, est souvent réalisé sans considération des potentielles utilisations malveillantes. Il est crucial de prendre en compte ces risques pour garantir la protection des données et la préservation de la vie privée des individus.
En conclusion, bien que la fonction Recall de Microsoft ouvre de nouvelles perspectives en termes de recherche et d’accessibilité aux données, elle soulève également des préoccupations légitimes en matière de confidentialité et de sécurité. Il est essentiel que les entreprises et les régulateurs travaillent de concert pour définir des normes claires quant à l’utilisation de telles technologies, dans le respect des droits et de la vie privée des utilisateurs.