Le district scolaire de Lawrence disposera bientôt d’un logiciel qui utilise l’IA pour rechercher des « comportements préoccupants » dans l’activité des élèves sur les ordinateurs et les appareils de l’école | Actualités, Sports, Emplois

photo par: Dylan Lysen/Lawrence Journal-Monde

Bureaux de district des écoles publiques de Lawrence photographiés en avril 2021.

Le district scolaire de Lawrence a acheté un nouveau système qui utilise l’intelligence artificielle pour rechercher des signes avant-coureurs de « comportements préoccupants » dans les éléments que les élèves tapent, envoient et recherchent sur les ordinateurs et autres appareils de ce type fournis par leur district.

L’achat du système logiciel, appelé Gaggle, intervient à un moment où les questions se multiplient sur la manière dont l’intelligence artificielle affectera la vie privée des gens. Mais les dirigeants des districts scolaires soulignent que l’objectif principal du logiciel sera d’aider à protéger les élèves de la maternelle à la 12e année contre l’automutilation, l’intimidation et les menaces de violence.

« Avant tout, nous avons l’obligation de protéger la sécurité de nos élèves », a déclaré Ronald « GR » Gordon-Ross, membre du conseil scolaire de Lawrence, au Journal-World. “C’est un autre niveau de sécurité dans notre quête pour garder une longueur d’avance sur certains de ces problèmes.”

Gordon-Ross, qui est un développeur de logiciels de longue date, a déclaré qu’il respectait le « volet confidentialité » de la question entourant l’utilisation des systèmes de surveillance. Mais il a également déclaré qu’il était important de garder à l’esprit que les iPads et autres appareils que le logiciel surveillerait sont la propriété du district, même s’ils sont distribués aux étudiants : « nous parlons toujours du fait qu’ils utilisent des appareils ». et des ressources qui ne leur appartiennent pas.

Les responsables du district n’ont pas encore annoncé de date précise pour le début du programme, mais le directeur de la technologie, David Vignery, a déclaré au Journal-World que le district était en train de le mettre en œuvre, ce qui comprend une formation pour les membres du personnel.

Selon une note de service de Vignery au conseil scolaire Lawrence, Gaggle est spécifiquement conçu pour examiner les « ressources » au sein du réseau d’un district, telles que les courriels et les comptes en ligne, en se concentrant sur des mots-clés qui pourraient indiquer un « comportement préoccupant » lorsqu’un élève les utilise. , comme « suicide », « automutilation », « bombe » ou « arme à feu ». Vignery a déclaré qu’il analysait également les images, les vidéos, les pièces jointes et les liens via un processus combinant intelligence artificielle et modérateurs humains.

“Une augmentation des suicides pendant la pandémie de COVID-19 et des préjudices causés aux enfants continue d’augmenter, et c’est pourquoi c’est une de nos priorités”, a déclaré Vignery au Journal-World. « On ne peut pas chiffrer une vie. »

Gordon-Ross a déclaré que le système Gaggle n’est pas comme un programme de contrôle parental ou de « filtrage de contenu » qui suit où les enfants vont en ligne et les empêche de visiter des sites répréhensibles. Au contraire, il suit ce qu’ils écrivent, envoient et recherchent et les examine à la recherche de signes avant-coureurs.

“Lorsqu’ils surfent sur le Web, le filtrage du contenu va les empêcher d’accéder à des endroits où ils ne devraient pas aller”, a déclaré Gordon-Ross. «(Gaggle) a un objectif complètement différent, en surveillant le langage et le verbiage qu’ils utilisent, ainsi que les choses qu’ils disent lorsqu’ils tapent un e-mail ou créent un document. Il ne s’agit pas de filtrer le contenu, mais de surveiller les mots et expressions clés liés à la sécurité physique et au bien-être socio-émotionnel des élèves.

Il a également déclaré qu’il ciblait uniquement ces mots-clés spécifiques et n’impliquait pas une surveillance plus générale des fichiers et activités personnels des utilisateurs.

“Nous ne lisons pas les courriers électroniques et tous les documents de tout le monde”, a déclaré Gordon-Ross. « Il ne s’agit pas d’un avis personnel. Nous recherchons des mots et des expressions spécifiques.

Le logiciel ne surveillera que les appareils – principalement les iPad – appartenant au district et distribués aux étudiants. Mais cette surveillance aura lieu indépendamment du fait que les appareils soient utilisés à l’école, au domicile de l’élève ou ailleurs. Vignery a déclaré que Gaggle est capable de signaler du contenu 24 heures sur 24.

Dans une interview avec CBS News en 2021, Jeff Patterson, fondateur et PDG de la société mère de Gaggle, Gaggleware, a déclaré que le logiciel surveillait les appareils utilisés par plus de cinq millions d’élèves de la maternelle à la 12e année et générait plus de 140 000 alertes d’incident au cours de l’année scolaire 2020-21. On lui a également demandé si les signes avant-coureurs pourraient passer inaperçus si les étudiants étaient conscients qu’ils étaient surveillés et devenaient plus prudents quant à ce qu’ils écrivent. Patterson a déclaré à l’intervieweur que son logiciel était « un système d’alerte précoce permettant d’identifier les enfants en crise avant qu’une tragédie ne se produise ».

Mais le contexte compte, a déclaré Vignery. Les administrateurs de district seront chargés de déterminer les niveaux de gravité du contenu signalé, a-t-il déclaré, allant de « quelque chose de moins qu’une menace manifeste » à des « scénarios mettant la vie en danger ».

“Cela pourrait être quelque chose que nous allons simplement vérifier, mais si les choses s’accélèrent un peu, nous recevrons un appel téléphonique de l’entreprise”, a-t-il déclaré. « Nous pouvons être contactés 24 heures sur 24, 7 jours sur 7, nous aurons donc mis en place des mesures de protection pour nous assurer que quelqu’un reçoive l’appel. »

Vignery a déclaré que les administrateurs et le personnel du district aideront à enquêter sur les « drapeaux rouges » et que le personnel de Gaggle joue également un rôle à cet égard. Mais il a également déclaré que les protocoles du district sont encore en phase d’élaboration et que le personnel suivra une formation de développement professionnel au fur et à mesure que le district formulera son plan. Le département technologique du district devrait rencontrer les associés de Gaggle cette semaine.

“À ce stade, ils commenceront à travailler avec les gens de notre réseau pour mettre les choses en place”, a déclaré Vignery, ajoutant qu’il prévoyait que le nouveau logiciel serait pleinement opérationnel dans 40 à 60 jours.

“Le système d’alerte sera conçu pour impliquer tous les administrateurs, le personnel et les conseillers”, a-t-il déclaré.

Dans le cadre des quelque 162 000 $ que le district paie pour le système, Gaggle aidera le district scolaire de Lawrence à mettre en œuvre le logiciel.

Gordon-Ross a déclaré que le logiciel est conforme à la loi fédérale sur la protection des enfants sur Internet, conçue pour protéger les enfants des contenus obscènes ou préjudiciables sur Internet. Il a également déclaré que le district dispose depuis longtemps d’un logiciel de filtrage de contenu sur son réseau qui est également conforme à la CIPA, mais qu’il est mécontent de son « manque de cohérence » dans les types de contenu ciblés.

“Gaggle semble être plus cohérent en termes de moins de faux coups”, a déclaré Gordon-Ross. “Les coups avec Gaggle sont plus ciblés et beaucoup plus exploitables.”