Il est temps d’adapter les règles pour empêcher les risques de l’intelligence artificielle

Quand, dans la municipalité extrémiste d’Almendralejo, Un grand groupe de filles a été victime d’assemblées pornographiques Préparé par d’autres adolescents par l’utilisation de l’intelligence artificielle, les conséquences nuisibles ne se seraient pas manifestées si le système d’IA avait agi de manière préventive. Il aurait dû détecter que des images de mineurs avaient été renversées et étaient manipulées, empêchant les assemblages d’être élaborés.

Ce n’est qu’un exemple de la façon dont la mauvaise utilisation de l’IA peut générer des dommages de la nature diversifiée, dont beaucoup contre les actifs juridiques importants (sécurité, honneur, vie privée, santé ou même démocratie lui-même).

Dans ce cas, le juge a imposé les personnes impliquées, en plus des peines de liberté, le paiement d’une somme comme compensation pour les victimes. Cependant, la compensation est toujours un remède essentiellement pécuniaire qui ne satisfait parfois pas à certains dommages tels que morale ou personnelle. Il ne résout pas non plus bon nombre des problèmes qui sont révélés dans le cercle des blessés.

Mieux vaut prévenir que guérir

Traditionnellement, le système juridique espagnol a adopté comme solution à la rémunération des dommages. Cependant, le récent Réglementation européenne de l’intelligence artificielle Il offre un changement de paradigme, axé sur la prévention des dommages aux éventuels victimes et minimiser la probabilité de provoquer des conséquences négatives à la société.

Une partie de la prémisse selon laquelle l’IA implique des risques et, par conséquent, des dommages-intérêts publics et des droits fondamentaux, qu’ils soient physiques, psychiques, sociaux ou économiques. Et indique la prévention comme quelque chose de plus souhaitable que la réparation traditionnelle de la rémunération.

Compte tenu de ce panorama, le système juridique espagnol fait face à un défi clair: passer de la sanction à la prévention en mettant en œuvre de nouveaux principes de nature éthique.

Pendant que vous collectez Notre étude, menée à l’Université de Cadizcertains mécanismes qui peuvent être utilisés pour y parvenir sont l’accomplissement des normes (conformité), Traitement équitable, responsabilité proactive, engagement envers la sécurité, la transparence et la surveillance, le contrôle, l’évaluation et la gestion des risques. La société exige de plus en plus de comportements éthiques qui franchissent les frontières de notre système juridique, basée principalement sur les conséquences de la sanction.

L’esprit de prévention a déjà été introduit dans le Code pénal espagnol avec l’admission de la responsabilité pénale des personnes juridiques, créant tout un système d’exemption d’une telle responsabilité si une série de mécanismes préventifs était adopté sur la base de la conformité. Maintenant, encore une fois, la réglementation européenne est attachée à cet outil face à une mauvaise utilisation de la technologie.

Le rôle de systèmes de conformité

Il conformitéun concept d’origine anglo-américaine, signifie «conformité». Il vise à empêcher le risque de provoquer une conséquence négative (une sanction, des dommages) grâce à l’utilisation d’une certaine méthodologie et d’une série de mesures telles que la supervision, la surveillance et le contrôle de la conformité aux normes.

Dans le domaine criminel, c’est là que le conformité C’est plus répandu. Il est utilisé par les organisations et les entités pour empêcher le risque de violation de l’ordonnance pénale qui peut entraîner la consommation de certains crimes.

Il promeut également le comportement éthique des sociétés et une société plus engagée dans les intérêts généraux. Et est-ce une politique efficace de conformité Empêche le risque de conséquences négatives pour l’intérêt général (par exemple, qu’une industrie commet une catastrophe écologique).

Un changement dans les institutions juridiques

La mise en œuvre de la réglementation européenne de l’IA est un défi pour le système juridique espagnol, qui est ancré dans la réparation de la rémunération et, pour le moment, n’offre pas de règlement spécifique qui détermine un système de responsabilité civile basé sur la prévention des risques.

De la doctrine scientifique Il s’est reflété sur cela Besoin de changement de paradigmedans lequel la prévention des dommages prévaut par la mise en œuvre des mesures de sécurité, de supervision et de contrôle, en fonction de la stricte respect des normes, des normes et de l’éthique (conformité), afin d’éviter les risques de dommages qui peuvent être transférés de l’utilisation incontrôlée de l’intelligence artificielle.

L’être humain, au centre de la norme

Pour que cela se produise, un changement de postulats doit être repenser, en tenant compte, en outre, de l’esprit et de la société dans lesquels notre système général de responsabilité civile est inspiré (le Code civil L’espagnol est 1889). Un changement nécessaire qui doit se concentrer sur les victimes possibles et leur droit à la pleine indemnité. Et cela n’est entièrement garanti avec l’absence de risques et non avec une compensation.

La nouvelle réalité exige des normes de plus en plus centrées, qui remplacent celles qui se concentrent davantage sur la patrimonialisation humaine, leurs actifs et leurs droits.

Par conséquent, le législateur national doit investir plus d’efforts dans la reformulation des postulats traditionnels du droit des dommages, dans lesquels non seulement la prévention des dommages à d’autres conséquences moins souhaitables est promue, mais aussi un système détaillé de responsabilité civile basée sur la prévention et Conformité aux normes.

Cette réalisation réglementaire, typique d’une société plus éthique, équitable et engagée, est un mécanisme efficace pour éviter les résultats nuisibles ou négatifs et est configuré comme une garantie des droits des personnes et la protection des actifs juridiques les plus importants tels que la vie, la liberté , égalité, intégrité, sécurité, santé, démocratie et autres droits fondamentaux.