(Bloomberg) — Touchcast Inc., une startup qui met en cache les requêtes d’intelligence artificielle générative fréquemment posées pour rendre les systèmes d’IA plus efficaces, lève 100 millions de dollars auprès de bailleurs de fonds, dont l’investisseur OpenAI Microsoft Corp.
Touchcast, basé à New York, stocke et propose des réponses aux invites d’IA couramment utilisées, réduisant ainsi les ressources de calcul et l’énergie nécessaires à l’utilisation de modèles tels que GPT-4 d’OpenAI. L’objectif est d’aider les développeurs et les entreprises à déployer l’IA générative plus largement avec des coûts réduits et des temps de réponse plus rapides.
Touchcast, soutenu par Accenture Plc, aura une valorisation d’au moins 350 millions de dollars après le nouveau financement, a déclaré le PDG Edo Segal, refusant de fournir les détails du capital injecté par Microsoft. Touchcast est en discussion avec de grands investisseurs de la Silicon Valley, a-t-il déclaré dans une interview.
Les entreprises déploient des systèmes d’IA pour rationaliser les tâches quotidiennes, mais la demande croissante a mis en évidence un goulot d’étranglement critique dans le domaine de l’électronique, en particulier des GPU, les rares puces utilisées pour entraîner et faire fonctionner les modèles d’IA. L’approche de Touchcast pourrait constituer un moyen innovant de mieux utiliser les ressources informatiques et énergétiques, a déclaré Segal.
La startup a récemment lancé ce qu’elle appelle une technologie de diffusion de contenu en cache cognitif, qui revient à disposer de plusieurs petits bureaux de bibliothèque dans différentes parties d’une bibliothèque géante au lieu d’un seul bureau principal, facilitant ainsi l’accès au matériel. La technologie contribue à améliorer les performances du système d’IA.
“Lorsque les utilisateurs posent la même question, ils se tournent encore et encore vers le grand modèle de langage”, a déclaré Segal. À l’ère du Web alimenté par l’IA, « une nouvelle classe d’infrastructures est essentielle pour offrir ces expériences magiques à l’échelle d’Internet, de manière durable ».
Touchcast travaille avec Microsoft pour créer des systèmes permettant d’accélérer et d’élargir la distribution des requêtes génératives d’IA. Il déploie la technologie de mise en cache cognitive dans les centres de données Azure de Microsoft, aidant ainsi à exécuter les outils Azure OpenAI pour servir les clients et réduire considérablement les coûts.
« La croissance explosive de l’IA générative est en passe de débloquer des milliers de milliards de valeur économique », a déclaré Segal, « mais son destin dépend de la résolution d’une crise informatique et énergétique croissante ».
©2024 Bloomberg LP