Modèles d’IA open source: une tempête parfaite pour le code et les vulnérabilités malveillants

Source: dnsc.ro

Les entreprises se développant en interne à l’aide de modèles open source sur Visage étreint D’autres plates-formes doivent prêter attention à la sécurité de la chaîne d’approvisionnement et aux vulnérabilités. Les attaquants réussissent de plus en plus à glisser des modèles malveillants sur ces plates-formes, contournant les contrôles de sécurité.

Une étude des revers des réversions a révélé que deux motifs que vous avez malveillants hébergeaient Visage étreint Ils ont utilisé une nouvelle technique, “nullifai”, pour éviter la détection. L’une des principales menaces est le format Saumureutilisé pour exécuter du code malveillant. Bien que les câlins aient des vérifications pour ces fichiers, les attaquants les ont évités en utilisant d’autres méthodes de compression de données. Les experts recommandent de passer à Safettenseursun format plus sûr.

En plus des menaces liées au code exécutable, il y a aussi des problèmes de Licenceparce que de nombreux modèles ne sont pas complètement open-source, et leur utilisation commerciale peut entraîner des violations juridiques. Aussi, Alignement des modèles Avec les intentions des développeurs et des utilisateurs restent un défi, certaines IA sont déjà exploitées pour générer un contenu dangereux.

Les entreprises doivent traiter les modèles d’IA comme sur tout autre Dépendance open sourceVérifier la source, l’activité des développeurs et les risques opérationnels avant de les intégrer.