2024-08-15 03:34:04
Quelque 170 millions d’Américains utilisent TikTok, et beaucoup d’entre eux seraient extrêmement contrariés s’ils perdaient l’accès à leur application de médias sociaux préférée. Plus tôt cette année, le gouvernement a promulgué une loi obligeant l’entreprise à céder ses activités aux États-Unis sous peine d’interdiction, et les lignes téléphoniques du Congrès ont été supprimées. accablé En raison du volume considérable d’appels de protestation contre la législation, le discours sur les implications de l’application pour la sécurité nationale néglige une menace critique : un corpus sans précédent de vidéos, idéal pour entraîner des systèmes d’IA avancés générateurs de deepfakes. Face à l’opinion publique tiède à l’égard de l’interdiction et de l’inévitable action en justice, il est essentiel que les législateurs américains comprennent et soulignent ce risque.
Début 2024, un employé d’une société d’ingénierie britannique basé à Hong Kong a transféré plus de 25 millions de dollars vers des comptes étrangers après avoir reçu l’autorisation orale de son directeur financier lors de quelques réunions Zoom de routine. Cela aurait été la procédure standard, sauf que le directeur financier et tous les autres employés présents aux appels étaient des usurpateurs. créé par des escrocs en utilisant l’intelligence artificielle (IA).
Les escroqueries de type « deepfake » de cette ampleur sont encore rares, et un œil avisé peut généralement différencier les vidéos générées par l’IA de la réalité. Les médias ont rapidement révélé une deepfake du président Biden utilisé pour décourager le vote dans le New Hampshire et un deepfake du porte-parole du département d’État Matthew Miller affirmant qu’une ville russe était une cible légitime pour l’utilisation d’armes américaines par l’Ukraine.
Mais à mesure que les systèmes d’IA évoluent rapidement, ces inventions sont de plus en plus difficiles à distinguer. Dans un avenir pas si lointain, les yeux et les oreilles pourraient ne plus être des capteurs fiables de la vérité. Il est facile d’imaginer les implications en termes de sécurité nationale d’un adversaire générant artificiellement des vidéos d’Américains faisant et disant tout ce qu’il veut.
Il est facile d’imaginer les implications en matière de sécurité nationale d’un adversaire générant artificiellement des vidéos d’Américains faisant et disant tout ce qu’il veut.
Pour freiner le développement à l’étranger de ces capacités d’IA dangereuses et d’autres, le gouvernement contrôle les exportations de semi-conducteurs, la base physique de l’IA. Il convient toutefois d’accorder la même importance aux transferts transfrontaliers de grands ensembles de données, ou données en vracle carburant pour les systèmes d’IA génératifsCela implique de réexaminer les plateformes d’agrégation de données contrôlées par des étrangers, en particulier TikTok.
Le gouvernement américain a émis plusieurs objections aux pratiques de collecte de données de TikTok, principalement axées sur les informations personnelles sensibles des utilisateurs américains. TikTok a répondu à ces préoccupations en créant Projet Texasune initiative pour stocker « Données utilisateur américaines protégées » tels que les e-mails, les anniversaires et les données comportementales sur les serveurs Oracle basés aux États-Unis.
La protection de ce type de données est importante, mais des risques tout aussi importants pour la sécurité nationale émergent du flot de données. vidéos publiées publiquement. Tik Tok assure « Les utilisateurs américains de la plateforme TikTok peuvent toujours communiquer et interagir avec les utilisateurs internationaux pour une expérience globale cohérente. » C’est là le problème. Les vidéos que les utilisateurs publient publiquement ne sont pas soumises aux restrictions du Projet Texas et peuvent toujours se retrouver sur des serveurs étrangers.
La plupart des vidéos individuelles que les Américains publient sur les réseaux sociaux sont inoffensives à première vue, mais les 34 millions de vidéos publiées quotidiennement sur TikTok constituent un matériel d’entraînement idéal pour les modèles d’IA générative massive. Ces modèles seront capables de créer des deepfakes étonnamment convaincants et pourraient être utilisés pour lancer des opérations d’influence discrètes, à grande échelle et très ciblées. Il ne s’agit pas d’une menace future abstraite. Les décideurs politiques doivent comprendre qu’à l’ère de l’IA générative, les données audiovisuelles en masse peuvent être plus précieuses que les dates de naissance et les adresses e-mail que les utilisateurs utilisent pour s’inscrire à des applications comme TikTok.
Abonnez-vous à la Bulletin d’information sur les politiques publiques
Les acteurs chinois ont déjà utilisé l’IA générative pour diffuser de la désinformationIls ont également utilisé TikTok pour diffuser de la propagande anti-américaine aux États-Unis. TikTok lui-même publie des listes mensuelles de personnes non identifiées opérations d’influence secrètes Les enquêteurs ont découvert qu’en mai 2024, un réseau comptant des centaines de milliers d’abonnés « opérait depuis la Chine et ciblait un public américain. Les individus à l’origine de ce réseau ont créé des comptes inauthentiques afin d’amplifier artificiellement les récits selon lesquels les États-Unis sont corrompus et dangereux. »
TikTok encourage les utilisateurs à publier des vidéos verticales avec un rapport hauteur/largeur de 9:16. Cette uniformité de structure, ainsi que le contenu diversifié des publications, les rendent parfaites pour la formation de modèles d’apprentissage profond. De plus, le filigrane dynamique que TikTok ajoute à toutes les vidéos téléchargées permet difficile (PDF) pour que d’autres acteurs puissent récupérer ces vidéos à des fins de formation de l’IA, ce qui signifie que TikTok, et par extension sa société mère ByteDance, ont essentiellement un accès exclusif au matériel de formation.
ByteDance n’est pas un étranger dans la création de systèmes d’IA génératifs à grande échelle. Ils sont responsables de l’un des modèles de langage à grande échelle les plus avancés de Chine, Mégascale. Cette infrastructure, combinée à un accès exclusif à un volume de plus en plus important d’informations audiovisuelles sur des Américains engagés dans une vaste gamme d’activités, fournit les ressources nécessaires pour réaliser certains des deepfakes les plus avancés au monde. Cela représente une grave menace pour la sécurité nationale des États-Unis.
Le 24 avril 2024, après plusieurs tentatives infructueuses (PDF) pour interdire ou céder les opérations de TikTok aux États-Unis, le président Biden a promulgué la loi « Loi pour la paix par la force au 21e siècle. » Le projet de loi impose de nouvelles sanctions à la Russie et à l’Iran, mais comprend également une section interdisant les « applications contrôlées par des adversaires étrangers » aux États-Unis. En vertu de la loi, ByteDance doit vendre la plateforme TikTok à un acheteur américain d’ici janvier 2025, sous peine d’une interdiction totale. Le non-respect de cette obligation entraînerait une amende de 5 000 dollars par utilisateur américain, soit un total de près de 1 000 milliards de dollars. En réponse, TikTok est poursuivre en justice (PDF) le gouvernement a invoqué le Premier Amendement et a exhorté ses millions d’utilisateurs à protester contre la législation. On ne sait pas encore comment le procès se déroulera, mais la discussion devrait prendre en compte tous Les menaces à la sécurité nationale que représente l’application. La collecte massive de données d’entraînement en masse pour les systèmes de deepfake ne fait actuellement pas partie du débat, et elle doit être au premier plan. Même si l’interdiction de TikTok est jugée constitutionnelle, il n’existe aucune loi interdisant la vente de données audiovisuelles en masse à l’étranger.
Le potentiel de collecte de données audiovisuelles à grande échelle pour faciliter la création de deepfakes avancés est une raison impérieuse et urgente de surveiller de près les applications contrôlées par des étrangers comme TikTok.
Les plateformes de médias sociaux sont désormais considérées comme essentielles pour l’expression de soi et la diffusion des idées et des connaissances, mais il existe de nombreuses alternatives américaines à TikTok qui peuvent servir de débouchés au même discours. Instagram, Facebook et YouTube prennent tous en charge les vidéos verticales de courte durée, et de plus en plus de plateformes suivent le mouvement. Le problème avec TikTok n’est pas ce qui est dit sur l’application, mais le pipeline de données de formation vers les pays concernés.
Des risques importants pour la sécurité nationale, qui ne sont pas apparents au niveau granulaire, peuvent émerger de données massives. La possibilité d’une collecte massive de données audiovisuelles pour faciliter la création de deepfakes avancés est une raison impérieuse et urgente de surveiller de près les applications contrôlées par des étrangers comme TikTok. La boîte à outils des adversaires de l’Amérique a évolué, tout comme son analyse des risques. Face à l’opinion publique tiède sur l’interdiction et aux défis juridiques imminents, le gouvernement doit reconnaître et souligner cet aspect. Les flux d’informations mondiaux sont importants, mais en masse, les données peuvent être utilisées comme carburant pour des systèmes générateurs dangereux.
Même si la Chine perdait l’accès au corpus de données de TikTok, elle pourrait toujours potentiellement utiliser les plateformes d’IA américaines à des fins malveillantes. La Russie et la Chine ont déjà utilisé ChatGPT pour générer du contenu malveillantCependant, des entreprises comme OpenAI et Meta sont soumises à la réglementation américaine.
En juillet 2024, le Congrès a présenté une facture (PDF) cela obligerait les entreprises nationales d’IA générative à filigrane Les modèles créés par l’IA de TikTok pourraient être utilisés de manière malveillante, car les résultats générés seraient marqués de manière permanente comme tels et seraient donc difficiles à faire passer pour réels. Les modèles fabriqués en Chine, en revanche, ne seront pas limités par ces règles. Les données en vrac fournies par TikTok simplifieront leur création par la Chine.
Les États-Unis doivent continuer à anticiper les menaces émergentes posées par l’IA générative et les données sur lesquelles elle est formée, sinon davantage d’Américains seront victimes de deepfakes. Les conséquences pourraient être bien plus graves que le transfert illicite de fonds étrangers.
#TikTok #est #une #menace #pour #sécurité #nationale #mais #pas #pour #raison #vous #pensez
1723683768