L’IA a transformé la façon dont les gens interagissent avec les appareils informatiques en automatisant les tâches répétitives, en améliorant l’expérience utilisateur et en rationalisant les flux de travail quotidiens. Cependant, parallèlement à ces avantages, l’IA a introduit de nouvelles vulnérabilités en matière de confidentialité et de sécurité qui doivent être corrigées pour garantir une utilisation sûre sur le lieu de travail.
Le rappel est une nouvelle fonctionnalité de l’outil Copilot AI de Microsoft, disponible pour les Windows Insiders départ en octobre 2024, cela fonctionne essentiellement comme une mémoire photographique pour tout ce qu’un utilisateur Windows fait sur son ordinateur. Il prend périodiquement des captures d’écran, appelées instantanés, du bureau d’un utilisateur Windows et les stocke sur le disque dur du PC – une fonctionnalité qui soulève de sérieux problèmes de sécurité et de confidentialité, ainsi que des défis techniques.
Comment fonctionne le rappel Microsoft ?
Recall est conçu pour améliorer l’efficacité et la productivité en permettant aux utilisateurs de récupérer instantanément le contenu consulté sur leurs appareils (tels que des pages Web, des applications, des images et des documents) via des commandes en langage naturel. Par exemple, un utilisateur pourrait demander à Recall : « Ouvrez le PDF que je lisais la semaine dernière sur la configuration des onduleurs solaires », éliminant ainsi le besoin de rechercher manuellement le document.
Le rappel peut fonctionner sans connexion Internet et ne nécessite pas de connexion à un compte Microsoft. Il n’enregistre actuellement que des instantanés d’images, pas de contenu audio ou vidéo continu. Microsoft offre aux utilisateurs la possibilité de désactiver la fonctionnalité (bien qu’elle ne puisse pas être complètement désinstallée), de la suspendre temporairement et de supprimer les instantanés stockés.
La version d’octobre 2024 est limitée aux participants au programme Windows Insider, permettant à Microsoft de recueillir les commentaires des utilisateurs et de résoudre les problèmes potentiels avant un déploiement plus large.
Exigences techniques pour Microsoft Recall
Selon Microsoft, le rappel n’est actuellement qu’une option sur les PC Copilot+. Ces nouveaux appareils Windows 11 sont équipés d’unités de traitement neuronal (NPU), un type de puce spécialisé conçu pour gérer des tâches gourmandes en IA telles que la traduction en temps réel et la création d’images. Ces processeurs spécialisés peuvent exécuter plus de 40 000 milliards d’opérations par seconde, ce qui est crucial pour exécuter efficacement des algorithmes d’IA complexes.
Le rappel comporte également plusieurs exigences techniques en matière de mémoire et de traitement. Ceux-ci incluent 16 Go de RAM DDR5 ou LPDDR5, huit processeurs logiques et 256 Go de capacité de stockage totale, avec au moins 50 Go gratuits pour l’utilisation de Recall. La fonctionnalité est actuellement prise en charge uniquement dans les langues suivantes : anglais, chinois simplifié, français, allemand, japonais et espagnol.
Ces exigences pourrait changer à mesure que Microsoft ajuste la fonctionnalité en fonction des commentaires des utilisateurs et des progrès technologiques. Par exemple, Microsoft s’efforce de prendre en charge Recall sur les appareils dotés de processeurs conventionnels, notamment les chipsets AMD et Intel, et pas seulement sur ceux alimentés par des NPU.
Risques de sécurité et de confidentialité associés au rappel Microsoft
Bien que la fonctionnalité de rappel puisse plaire à certains segments d’utilisateurs, elle présente des risques importants en matière de confidentialité et de sécurité pour la majorité des utilisateurs de Windows.
Base de données non chiffrée
Recall stocke des instantanés de l’activité des utilisateurs dans une base de données SQLite, qui n’est pas cryptée. Ce manque de cryptage rend les données vulnérables aux attaques de logiciels malveillants et aux accès non autorisés, en particulier si une partie externe obtient un accès physique à l’appareil.
Impossibilité de désinstaller
Microsoft positionne Recall comme une fonctionnalité Windows permanente, ce qui signifie qu’il est préinstallé sur les appareils Copilot+ et ne peut pas être complètement désinstallé. Ainsi, même si les utilisateurs désactivent le rappel, celui-ci reste sur leur appareil sous la forme d’une fonctionnalité de type enregistreur de frappe désactivée, qui pourrait être réactivée par un logiciel malveillant ou une mauvaise configuration.
Vulnérabilité aux cyberattaques
Faisant partie de la boîte à outils d’IA de Microsoft, Recall dépend d’un vaste modèle linguistique pour comprendre et traiter les requêtes en langage naturel des utilisateurs. Cependant, cette dépendance à l’égard des LLM rend Recall vulnérable aux mêmes menaces qui affectent les LLM, telles que les attaques par injection et extraction rapides :
- Lors d’une attaque par injection rapide, un acteur malveillant pourrait accéder à l’appareil cible et manipuler la fonction de rappel en élaborant une requête qui amènerait le système à révéler des informations sensibles stockées dans sa base de données.
- Lors des attaques par extraction, les acteurs malveillants peuvent tenter d’extraire des données sensibles de la base de données Recall et du dossier contenant les instantanés. Les exemples incluent des instantanés de documents sensibles, des portails bancaires en ligne ou des fichiers contenant des secrets commerciaux et des informations personnelles. Cela aiderait les pirates à dresser un tableau complet de l’activité informatique d’un utilisateur, facilitant ainsi l’exécution de cyberattaques supplémentaires.
Invasion de la vie privée des utilisateurs finaux
Mais de nombreux utilisateurs de Windows sont des utilisateurs à domicile qui n’ont pas besoin d’une telle fonctionnalité et peuvent se sentir mal à l’aise à l’idée d’enregistrer des activités telles que jouer, discuter avec des amis et regarder des films. Cela revient à avoir un enregistreur de frappe fonctionnant constamment en arrière-plan, ce qui soulève des inquiétudes quant à son exploitation à des fins malveillantes.
Comment Microsoft a-t-il réagi à ces risques liés à la confidentialité ?
Suite aux critiques des chercheurs en sécurité à l’égard de Recall, Microsoft a reporté sa sortie et mis en œuvre plusieurs mesures pour répondre aux problèmes de sécurité :
- Activation par inscription. Microsoft permet désormais aux utilisateurs de choisir d’activer le rappel manuellement, plutôt que de l’activer par défaut.
- Cryptage. Les données de rappel et les instantanés sont désormais chiffrés à l’aide de Device Encryption ou BitLocker, activé par défaut sur tous les systèmes Windows 11. Cela garantit que les données stockées restent protégées, même si une personne non autorisée accède physiquement à l’appareil.
- Contrôle de l’utilisateur sur la conservation des données. Les utilisateurs peuvent supprimer des instantanés à tout moment et définir une limite de stockage pour le rappel. Une fois la limite atteinte, les anciens instantanés sont automatiquement supprimés pour laisser de la place aux nouveaux.
- Surveillance sélective. Les utilisateurs peuvent empêcher Recall de surveiller des applications ou des sites Web spécifiques. Par défaut, Recall n’enregistrera pas non plus l’écran lorsque les utilisateurs naviguent sur Internet en mode privé ou incognito. Cette fonctionnalité est prise en charge sur les principaux navigateurs Web, notamment Microsoft Edge, Mozilla Firefox, Opera, Google Chrome et d’autres navigateurs basés sur Chromium.
- Garanties de gestion des droits numériques. Recall n’enregistre pas le contenu protégé par DRM, garantissant ainsi le respect des lois sur le droit d’auteur et empêchant la capture de contenu multimédia sensible.
- Authentification améliorée. L’accès au rappel est protégé par la sécurité de connexion améliorée de Windows Hello. Exiger une authentification biométrique pour accéder à Recall ajoute une couche de sécurité supplémentaire.
Quelles sont les implications plus larges de l’utilisation de Microsoft Recall ?
Les implications plus larges de l’intégration de Recall dans les futures versions de Windows couvrent la sécurité, la confidentialité, la dynamique du lieu de travail et les considérations techniques.
Menaces de sécurité
Les acteurs de la menace bien financés, tels que ceux soutenus par des gouvernements nationaux comme la Chine, la Russie et la Corée du Nord, investiront probablement massivement dans la recherche de moyens d’infiltrer Recall, l’utilisant potentiellement comme outil de surveillance pour voler des données sensibles sur les ordinateurs cibles. Cela pourrait intensifier les activités d’espionnage et les violations de données à l’échelle mondiale.
De plus, les groupes criminels organisés et les auteurs de menaces persistantes avancées seront probablement intéressés par le développement de logiciels malveillants capables d’activer le rappel sur les appareils sur lesquels la fonctionnalité a été désactivée. En cas de succès, cela pourrait transformer Recall en un puissant outil de surveillance pour collecter des données sensibles, avec des conséquences catastrophiques pour les entreprises concernées.
Implications en matière de confidentialité
La collecte complète de données inhérente à Recall soulève d’importants problèmes de confidentialité à long terme. À mesure que cette fonctionnalité devient plus répandue, les défenseurs de la vie privée et les organismes de réglementation feront probablement l’objet d’une surveillance accrue, tels que ceux chargés de l’application du RGPD, des normes de sécurité des données de l’industrie des cartes de paiement et de la HIPAA. Dans les régions dotées de lois strictes sur la protection des données, comme l’Union européenne, Recall peut nécessiter des modifications pour se conformer à des réglementations telles que le RGPD, ce qui complique encore davantage son adoption.
Impact sur le lieu de travail
Considérations techniques
Recall est conçu pour fonctionner sur les PC Copilot+ qui utilisent des processeurs Arm, ce qui soulève des problèmes potentiels de compatibilité. De nombreuses entreprises devront acheter du nouveau matériel pour utiliser Recall, ce qui entraînera une augmentation des coûts et une adoption plus lente.
De plus, de nombreuses applications métiers standards ne sont pas optimisées pour les architectures Arm, ce qui pourrait entraîner des problèmes de performances, voire une incompatibilité totale. Cette limitation constitue un obstacle important pour les entreprises qui s’appuient sur des logiciels qui ne fonctionnent pas bien – ou pas du tout – sur les systèmes basés sur Arm.
Suggestions pour améliorer le rappel avant le lancement public
Sensibilisation au contenu
Le rappel doit être configuré pour masquer le contenu sensible dans les instantanés stockés. Par exemple, les informations stockées dans les instantanés doivent être floues lors de l’accès à un portail bancaire ou de la vérification des dossiers médicaux. Pour y parvenir, Recall pourrait mettre en œuvre une reconnaissance intelligente des types de données sensibles, telles que les numéros de carte de crédit, les numéros de sécurité sociale, les informations de compte bancaire et les dossiers médicaux, afin de pouvoir automatiquement brouiller ces informations dans les instantanés.
L’activation de cette fonctionnalité nécessiterait que Recall reconnaisse le contenu des instantanés capturés. Cela ajoute une certaine complexité et pose ses propres risques en matière de confidentialité, mais étant donné que Recall stocke déjà tout ce qu’il voit à l’écran, le flou du contenu sensible s’alignerait sur les fonctionnalités existantes de Recall et ajouterait de la confidentialité au processus.
Cryptage amélioré
Bien que Recall chiffre les données au repos, cette protection ne couvre pas les scénarios dans lesquels des acteurs malveillants accèdent à un appareil alors qu’il est en cours d’exécution et que les données sont déchiffrées. Pour atténuer ce risque, les données Recall doivent être chiffrées au repos et en cours d’utilisation.
L’introduction d’un cryptage de bout en bout pour toutes les données Recall, y compris pendant le traitement, améliorerait considérablement la sécurité. Recall pourrait utiliser des environnements d’exécution fiables pour garantir que les données restent cryptées et protégées même pendant leur utilisation, réduisant ainsi le risque d’accès non autorisé pendant les sessions actives.
Gestion des données spécifiques à l’application
Dans la configuration actuelle de Recall, même si une application est supprimée, ses instantanés restent stockés dans la base de données Recall. Pour améliorer la sécurité, Recall doit supprimer tous les instantanés associés lorsqu’un utilisateur désinstalle une application telle qu’un client de messagerie ou un navigateur Web, garantissant qu’aucune donnée sensible n’est laissée pour compte. Cette fonctionnalité pourrait également être étendue pour permettre aux utilisateurs de consulter et de supprimer de manière sélective des instantanés spécifiques à une application avant de les désinstaller, améliorant ainsi la transparence et le contrôle des utilisateurs sur leurs données.
Nihad A. Hassan est un consultant indépendant en cybersécurité, expert en criminalistique numérique et en renseignement cyber open source, blogueur et auteur de livres. Hassan mène des recherches actives sur divers domaines de la sécurité de l’information depuis plus de 15 ans et a développé de nombreux cours de formation et guides techniques sur la cybersécurité.
#Risques #confidentialité #sécurité #liés #rappel #Microsoft
