Le pouvoir et l’influence de Big Tech sur les modèles d’intelligence artificielle sont une raison pour que le système judiciaire de la Nouvelle-Galles du Sud soit prudent quant à son utilisation de la technologie émergente, a déclaré le meilleur juge de l’État.
Le juge en chef Andrew Bell a imposé des interdictions partielles sur l’utilisation de l’IA générative par des avocats, des justiciables et des juges non représentés, décrivant l’approche de la plus haute cour de l’État comme “dure et conservatrice”.
“La tâche de juger dans notre société est humaine”, a déclaré le juge en chef à l’ABC.
“Je pense que si cela devait être abdiqué aux machines, une partie très importante de notre tissu démocratique serait perdue.”
Le juge en chef de NSW, Andrew Bell, a mis en garde contre les risques dans l’utilisation de l’IA dans la procédure judiciaire de l’État. (ABC News: Liam Patrick)
Le juge en chef a également soulevé des inquiétudes quant au potentiel des entreprises derrière les programmes d’IA génératifs pour manipuler des informations.
“Franchement, la puissance de ceux qui contrôlent les grandes technologies et la capacité d’influencer les données sous-jacentes et ne sont pas incluses dans le système me fait penser que nous devons être prudents.”
L’interdiction de l’interdiction couvrant les affidavits, les déclarations des témoins et les références de caractère
Le juge en chef a publié une note de pratique en novembre réglementant l’utilisation de la technologie à la Cour suprême de NSW.
Il comprend l’interdiction d’utiliser l’IA pour générer le contenu de documents tels que les affidavits, les déclarations de témoins et les références de caractère. L’utilisation de l’IA pour embellir, renforcer ou diluer la preuve d’un témoin est également interdite.
L’IA crée un ancien numéro pour les tribunaux, mais c’est le plus grand défi auquel sont confrontés le système judiciaire
“Nous savons que l’IA peut être utilisée pour produire ce qui ressemble à la preuve d’une personne. Mais bien sûr, si ce n’est pas la preuve réelle de la personne, qui sape tout le processus”, a déclaré le juge en chef Bell.
L’approche est plus conservatrice que celle prise par la Cour suprême de Victoria, qui nécessite simplement “une prudence particulière… à exercer” si l’IA est utilisée pour aider à préparer des preuves écrites.
Interrogé sur la façon dont les juges pouvaient dire si l’IA avait été utilisée pour générer des preuves, le juge en chef a admis qu’ils s’appuyeraient en grande partie sur l’honnêteté, avec des auteurs de matériel de preuve nécessaire pour “confirmer” qu’aucun programme n’a été utilisé.
“La plus grande sophistication de ces outils génératifs de l’IA pour créer l’apparence de quelque chose qui est cohérent, articulé ou une image qui a une sorte de vraisemblance, est l’un des défis pour les tribunaux”, a-t-il déclaré.
La préoccupation de l’utilisation de l’intelligence artificielle, a déclaré le juge Bell, est centrée sur la façon dont le contenu généré devient presque identique à un véritable document. (AP: Andy Wong)
Les avocats et les justiciables non représentés seront toujours autorisés à utiliser l’IA pour préparer des soumissions écrites, mais ils doivent vérifier l’existence, l’exactitude et la pertinence de toutes les citations.
‘C’est le plus grand danger’
L’avocat de Sydney Victor Kline a déclaré que les outils sur les avocats sur mesure pourraient faire trois heures de recherche préliminaire en trois minutes.
Victor Kline dit qu’il reconnaît le potentiel positif de l’IA, mais conseille de s’appuyer sur l’outil. (ABC News: Greg Bigelow)
Mais M. Kline a souligné qu’il serait une “tasse” s’il comptait sur elle, car les programmes de l’IA ont parfois inventé les cas.
“Quand il fait une hallucination, c’est tout aussi plausible. Et c’est le grand danger”, a-t-il déclaré.
M. Kline, qui édite les rapports des tribunaux fédéraux et les rapports de loi fédérale, a comparé la production générale de l’IA à celle d’un avocat junior ou d’un étudiant en droit.
“Tout comme l’élève a raté des choses, l’IA a raté les choses; tout comme l’élève a légèrement mal parvenu, l’IA a légèrement mal parvenu”, a-t-il déclaré.
Dans le contexte de sa place dans un environnement juridique professionnel, M. Klein a attiré des parralaux entre l’IA et un étudiant en droit. (ABC News: Greg Bigelow)
Le juge en chef Bell a également publié des lignes directrices pour les juges de la Nouvelle-Galles du Sud, notamment une interdiction de l’utilisation de l’IA pour formuler des raisons et modifier ou faire preuve de projets de jugements.
Le juge en chef n’était pas au courant si l’IA avait été utilisée pour produire des jugements en Nouvelle-Galles du Sud, mais a déclaré que l’interdiction était nécessaire pour maintenir la confiance dans le système juridique.
“Le respect de l’état de droit est fonction de la légitimité du pouvoir judiciaire et de la fiducie que le public place dans le pouvoir judiciaire”, a-t-il déclaré.
“Au moins à ce stade, nous pensons que la confiance est le plus susceptible d’être maintenue par des jugements rendus par les juges, qui font de l’exercice… leur propre expérience, sa sagesse et ses connaissances au travail.”
“Il y aura toujours des opinions différentes à ce sujet”
La présidente du Barreau de la NSW, Jennifer Ball, a salué les directives, mais a reconnu qu’il y avait “un peu” recul de certains dans la profession.
“Il y aura toujours des vues différentes à ce sujet”, a déclaré Mme Ball.
“[Generative] L’IA, en particulier, apporte à la fois des risques mais aussi des avantages.
“Alors c’est [about] Trouver ce bon équilibre pour assurer l’intégrité du système judiciaire, mais aussi pour profiter des outils qui pourraient aider à la pratique juridique. “
Interdire édulcoré
Après avoir des commentaires sur sa note de pratique initiale, le juge en chef Bell a remonté une interdiction générale de nourrir les matériaux sensibles dans des programmes d’IA génératifs.
Sa préoccupation était que les informations soumises aux ordonnances de suppression, telles que les noms des enfants témoins et des documents commerciaux confidentiels, puissent entrer dans le domaine public s’ils étaient utilisés pour former des modèles de langue importants.
Une note révisée a été publiée mardi, permettant à ces documents d’être saisis dans un programme sur mesure – à condition que les données ne soient pas rendues publiques, non utilisées dans d’autres procédures, et non utilisées pour former l’IA.
L’utilisation par les avocats du chatppt entraîne la citation de faux cas
M. Kline a critiqué l’enroulement de l’interdiction, affirmant qu’il avait des “réservations graves” quant à savoir si les principaux cabinets d’avocats pouvaient garantir la sécurité des informations confidentielles alimentées par les logiciels de l’IA.
“Je ne [want to] Soyez trop dramatique à ce sujet, mais je pense que ces très grandes entreprises, c’est un peu comme “Excusez-vous plus tard” “, a déclaré l’avocat.
Le juge en chef Bell a déclaré que le risque était en train d’être pris en charge en exigeant que de tels programmes aient “suffisamment de restrictions de confidentialité et de confidentialité”.
Le juge en chef a déclaré que les directives, qui entrent en vigueur le 3 février, seraient régulièrement examinées en raison de la nature “en évolution rapide” de la technologie.
#juge #chef #NSW #met #garde #contre #lintelligence #artificielle #son #utilisation #dans #système #juridique #lÉtat #sur #veille #des #restrictions