OpenAI achète les données d’une application pour aveugles – Actualités

Les aveugles ne peuvent pas voir de quelle couleur sont les t-shirts. L’application « Be My Eyes » peut vous aider ici, désormais également avec l’IA. Pour y parvenir, l’entreprise travaille avec OpenAI et partage les données des personnes aveugles.

Lorsque René Jaun se tient devant le réfrigérateur, il utilise l’application « Be My Eyes ». Le journaliste technique est complètement aveugle. Grâce à l’intelligence artificielle, il télécharge une photo de différents yaourts et se fait lire s’il a devant lui un yaourt à l’abricot ou à la fraise.

Cependant, l’intelligence artificielle ne fonctionne pas toujours aussi bien et commet parfois de graves erreurs. “Je ne peux pas faire confiance à l’IA – elle a autrefois confondu les comprimés contre les maux de tête avec la crème pour le pied d’athlète”, explique Jaun. En cas de doute, et notamment en matière de santé, il ne fait confiance qu’aux gens.

L’application « Be My Eyes » s’appuyait auparavant sur les personnes, mais souhaite désormais s’appuyer davantage sur l’IA. Pour ce faire, l’intelligence artificielle doit d’abord être améliorée.

L’IA a des préjugés contre les aveugles

“Les aveugles utilisent un réveil très bruyant et qui vibre également”, explique ChatGPT en réponse à une question de Jaun. Cela ne s’applique qu’aux personnes malentendantes, mais il ne connaît pas un seul aveugle qui utilise un tel réveil. Il s’agit d’un autre exemple assez inoffensif qui illustre à quel point l’IA dénature la réalité.

Dans d’autres domaines, cela devient un problème. Lors de la recherche d’un emploi, par exemple : selon Jaun, les grandes entreprises font de plus en plus pré-trier leurs candidatures par l’IA. Seulement : « Si l’IA accepte des applications, est-ce que cela désavantage les aveugles ? Ou ont-ils un avantage ?

Il est donc important que les modèles d’IA soient entraînés de la manière la plus réaliste possible, y compris avec des données provenant de personnes aveugles. L’intelligence artificielle est aussi efficace que les données avec lesquelles elle a été formée, explique Jaun. Il salue la décision de « Be My Eyes » de partager les données avec des entreprises comme OpenAI. Il ne s’agit pas seulement de rendre l’application plus sûre pour les personnes aveugles, mais aussi de rendre l’intelligence artificielle plus inclusive.

Points d’interrogation concernant la protection des données

Selon René Jaun, la situation en matière de protection des données chez « Be My Eyes » n’est pas tout à fait claire. Les données personnelles doivent être protégées à tout prix. Par exemple, il y a des femmes aveugles qui se font lire leur test de grossesse grâce à l’application « Be My Eyes ».

Je trouve problématique que les informations sur « Be My Eyes » soient difficiles à trouver. Parce que les conditions sont particulièrement difficiles pour les personnes aveugles.

La société danoise « Be My Eyes » n’a pas répondu à la demande de SRF, même après des suivis répétés. Cependant, le site Web « Be My Eyes » indique que les réglementations en matière de protection des données ont été renforcées maintenant que les modèles d’IA sont également entraînés avec des données provenant de personnes aveugles. De plus, tous les utilisateurs de l’application peuvent informer à tout moment s’ils ne souhaitent plus partager leurs données. L’application peut toujours être utilisée.

Cependant, cette option de désinscription n’est pas si simple. Selon Alireza Darvishy, ​​​​qui étudie les technologies sans obstacle à la ZHAW, les informations à ce sujet ne se trouvent qu’à la toute fin de la réglementation sur la protection des données. «Je trouve problématique que les informations sur « Be My Eyes » soient difficiles à trouver. « Les conditions sont particulièrement difficiles pour les personnes aveugles », explique Darvishy.

L’essentiel est que Darvishy pense également que « Be My Eyes » fait plus de bien que de mal. Grâce aux données d’entraînement, les préjugés contre les aveugles sont réduits et l’application elle-même est améliorée, de sorte que les comprimés contre les maux de tête ne puissent plus être confondus avec la crème pour le pied d’athlète.