Deepseek n’est pas un jeu: le danger pour l’intimité de la nouvelle Chine | Technologie

En seulement une semaine, Depseek, la nouvelle application de l’intelligence artificielle chinoise (AI), a dépassé un million de téléchargements (plus de la moitié en deux jours) et devrait multiplier ce chiffre, selon AppBrain de OF OF OFF11 Générateur de code QR. Mais cette frénésie technologique a ses conséquences. Plusieurs chercheurs avertissent que leur utilisation n’est pas inoffensive, que les serveurs se trouvent dans un pays en dehors des lois sur la protection des données et que, selon Ross Burley, co-fondatrice de la Centre de résilience d’information (CIR), “Cette technologie, si elle n’est pas contrôlée, a le potentiel de nourrir des campagnes de désinformation, d’éroder la confiance du public et de renforcer les récits autoritaires au sein de nos démocraties.”

L’irruption de l’IA de Chine, où Deepseek a rejoint Qwen 2.5du géant commercial d’Alibaba (propriétaire d’AliExpress), a une composante économique. L’adoption de l’IA aura un impact économique accumulé mondial de 19,9 milliards de dollars (17,9 milliards d’euros) jusqu’en 2030, lorsque cette technologie générera 3,5% du PIB de la planète, selon le rapport L’impact mondial de l’intelligence artificielle sur l’économie et les emplois (L’impact mondial de l’intelligence artificielle sur l’économie et le travail) de la société d’analyse IDC.

En ce sens, Marc Porcar, directeur général du générateur de code QR, estime que la Chine a remué les États-Unis et Openai [la firma creadora de ChatGPT]».

Mais penser que ce n’est qu’un mouvement économique est naïf, selon plusieurs chercheurs. En fait, comme vous vous en souvenez, Deepak PadmanabhanProfesseur de la Faculté des sciences de l’informatique de l’Université Queen’s (Belfast), «Deepseek a assuré qu’il n’a pas de plans marketing».

Alors, que recherche la Chine? AttaquesProfesseur d’ordinateur et de doyenne de la Faculté d’informatique, de droit et de psychologie à l’Université de Buckingham, explique à Science Media Center (SMC): «La politique de confidentialité de DePseek établit qu’elles collectent des informations fournies par l’utilisateur, telles que la date de naissance (le cas échéant), le nom d’utilisateur, l’adresse e-mail ou le numéro de téléphone et le mot de passe. De plus, les données collectées automatiquement comprennent des modèles ou des rythmes de pulsation clés, qui peuvent être utilisés comme données biométriques pour identifier les personnes.

Sellahewa souligne que ces données sont également collectées par d’autres demandes d’intelligence artificielle, mais clarifie: «Ce que la plupart des inquiétudes sont des droits et des obligations. Étant donné que les informations collectées par Deepseek sont stockées sur des serveurs situés dans la République populaire de Chine, il est possible que les données personnelles des utilisateurs ne soient pas protégées par les lois »des pays occidentaux.

Dans le même sens, Lukasz Piwek, professeur de science des données à l’Université de Bath, ajoute à SMC: «L’approche réglementaire relativement flexible en Chine pour les technologies avancées [frente a la normativa occidental] Il permet une innovation rapide, mais génère des préoccupations concernant la confidentialité des données, la mauvaise utilisation et les implications éthiques, en particulier pour un modèle open source tel que Deepseek.

Nous devons être alarmés. Le fait que la technologie d’IA chinoise intègre encore plus dans la société occidentale n’est pas seulement une mauvaise idée, mais elle est téméraire

Ross Burley, Cir Cofunder

“Nous devons être alarmés”, explique Ross Burley, co-fondateur de CIR, une organisation indépendante dédiée à l’exposition des violations des droits de l’homme et des menaces à la démocratie. Et il explique: «Que la technologie chinoise intégrée dans la société occidentale n’est pas seulement une mauvaise idée, mais qu’elle est téméraire. Nous avons vu encore et encore comment Pékin utilise son domaine technologique comme une arme pour la surveillance, le contrôle et la coercition, à la fois dans le pays et à l’étranger. Soit via des appareils chargés de logiciels espions [programas espías]les campagnes cybernétiques parrainées par l’État ou une mauvaise utilisation de l’IA pour supprimer la dissidence, l’histoire de la Chine démontre que sa technologie est une extension de sa stratégie géopolitique. Cela peut sembler un modèle bénin de grande langue, mais nous avons déjà vu que l’IA supprime les informations critiques avec le gouvernement chinois.

«Permettre à la Chine de s’épanouir en Occident, non seulement le risque de saper la vie privée ou la sécurité; Il pourrait rénover fondamentalement nos manières pour lesquelles nous ne sommes pas préparés. Nous avons besoin de garanties, de responsabilité et d’une compréhension claire que toutes les progrès technologiques ne servent pas le bien commun, en particulier lorsqu’ils proviennent d’un régime qui privilégie le contrôle de la liberté », conclut Burley.

Ils auront des profils et des informations plus complètes sur nous qui peuvent se terminer aux États-Unis ou en Chine. Vous pouvez exercer un contrôle comme jamais dans l’histoire

Rafael Rodríguez Prieto, professeur de philosophie de droit à l’Université Pablo de Olavide

De la même opinion est Rafael Rodríguez Prieto, professeur de philosophie de droit à l’Université de Pablo de Olavide de Séville et co-auteur de Puissance et Internet. Une analyse critique du réseau (Chaise). Le professeur met en garde contre le contrôle de la citoyenneté grâce aux données qui ont collecté l’intelligence artificielle, sans distinction de son origine: «Ils auront des profils et des informations plus complètes sur nous qui peuvent se terminer aux États-Unis ou en Chine. Vous pouvez exercer un contrôle comme jamais dans l’histoire. Ce qui s’est passé le lundi 27 dans les sacs transcende les pages de l’économie pour être l’un des faits géopolitiques les plus importants de notre temps. »

Rodríguez Prieto souligne que DePseek a été configuré avec une programmation open source (open source)ce qui permet une plus grande transparence, une efficacité dans la détection des échecs et une plus grande agilité des améliorations. Mais il prévient: «Ce modèle n’est pas exempté de risques. Le code fermé, les entreprises exercent un contrôle total et évitent les dommages possibles, tout en bénéficiant d’un financement stable, comme les entreprises américaines.

Mais les plus grands dégâts incombent principalement aux utilisateurs, ceux qui ont lancé pour décharger frénétiquement la nouvelle application dans la recherche d’une solution rapide et bon marché. Ceci est soutenu par le professeur de l’Université Sévillienne: «Le bien commun ou l’intérêt citoyen a été ruiné par l’hégémonie d’une perspective capitaliste, partagée à l’échelle mondiale de l’Occident à l’Est, qui présente tout défi dans les coordonnées de la rationalité instrumentale et des convertis Besoins humains dans un produit commercial qui doit être rentable. L’énorme quantité de valeur excédentaire extraite de nos données et de nos travaux gratuits est le moteur de ce changement. Et l’IA ne fait pas exception. »

C’est un avertissement qui ajoute à celui de Cecilia Danesi, co -directeur du maître en Gouvernance éthique de l’IA (UPSA) et auteur de Droits des consommateurs à la croisée des chemins de l’intelligence artificielle (Dykinson, 2024). Le chercheur, membre de Femmes pour l’éthique dans l’IA de l’UNESCO et co-auteur du rapport présenté dans le G20 Brésil Sur les audits algorithmiques, alerter le manque de protection des consommateurs contre les dommages qui peuvent provoquer des progrès technologiques et exiger une plus grande attention juridique sur la responsabilité civile de l’IA: «Les consommateurs sont extrêmement exposés aux dommages qu’ils peuvent causer. Si nous n’avons pas de règles claires sur la façon de procéder à ces dommages, les gens sont non protégés.

Tous ne sont pas des avertissements négatifs sur la nouvelle IA et son impact. Pour le professeur Luo Mai, de l’Université d’Édimbourg, Deepseek “donne aux chercheurs et aux étudiants du monde entier d’explorer de nouvelles voies de recherche dans l’IA, en particulier dans des environnements avec moins de ressources informatiques”.