Depuis la sortie révolutionnaire de ChatGPT, le monde informatique attend un chatbot IA local pouvant fonctionner hors du cloud. Nvidia a désormais une réponse avec Chat with RTX, qui est un chatbot IA local qui vous permet d’exploiter un modèle d’IA pour parcourir vos données hors ligne.
Dans ce guide, nous allons vous montrer comment configurer et utiliser Chat avec RTX. Ceci n’est qu’une démo, alors attendez-vous à quelques bugs lorsque vous travaillez avec l’outil. Mais j’espère que cela ouvrira la porte à davantage de chatbots d’IA locaux et d’autres outils d’IA locaux.
Comment télécharger Chat avec RTX
La première étape consiste à télécharger et à configurer Chat avec RTX, ce qui est en fait un peu plus compliqué que prévu. Tout ce que vous avez à faire est d’exécuter un programme d’installation, mais celui-ci est susceptible d’échouer et vous devrez satisfaire à certaines exigences système minimales.
Vous avez besoin d’un GPU RTX série 40 ou série 30 avec au moins 8 Go de VRAM, ainsi que 16 Go de RAM système, 100 Go d’espace disque et Windows 11.
Étape 1: Téléchargez le programme d’installation de Chat avec RTX sur le site Web de Nvidia. Ce dossier compressé fait 35 Go, le téléchargement peut donc prendre un certain temps.
Étape 2: Une fois le téléchargement terminé, cliquez avec le bouton droit sur le dossier et sélectionnez Extraire tout.
Jacob Roach / Tendances numériques
Étape 3: Dans le dossier, vous trouverez quelques fichiers et dossiers. Choisir setup.exe et parcourez le programme d’installation.
Étape 4: Avant le début de l’installation, le programme d’installation vous demandera où vous souhaitez stocker Chat avec RTX. Assurez-vous de disposer d’au moins 100 Go d’espace disque à l’emplacement que vous sélectionnez, car Chat with RTX télécharge en fait les modèles d’IA.
Jacob Roach / Tendances numériques
Étape 5 : Le programme d’installation peut prendre jusqu’à 45 minutes, alors ne vous inquiétez pas si vous le voyez se bloquer brièvement. Cela peut également ralentir votre PC, notamment lors de la configuration des modèles AI, nous vous recommandons donc de vous éloigner un instant pendant la fin de l’installation.
Étape 6 : L’installation peut échouer. Si c’est le cas, réexécutez simplement le programme d’installation, en choisissant le même emplacement pour les données qu’auparavant. Le programme d’installation reprendra là où il s’était arrêté.
Étape 7 : Une fois le programme d’installation terminé, vous obtiendrez un raccourci pour discuter avec RTX sur votre bureau et l’application s’ouvrira dans une fenêtre de navigateur.
Comment utiliser Chat avec RTX avec vos données
Le grand avantage de Chat avec RTX est que vous pouvez utiliser vos propres données. Il utilise quelque chose appelé génération augmentée par récupération, ou RAG, pour parcourir les documents et vous donner des réponses basées sur ces documents. Au lieu de répondre à n’importe quelle question, Chat with RTX permet de répondre à des questions spécifiques sur un ensemble particulier de données.
Nvidia inclut quelques exemples de données afin que vous puissiez essayer l’outil, mais vous devez ajouter vos propres données pour libérer tout le potentiel de Chat avec RTX.
Étape 1: Créez un dossier dans lequel vous stockerez votre ensemble de données. Notez l’emplacement, car vous devrez pointer Chat avec RTX vers ce dossier. Actuellement, Chat with RTX prend en charge les fichiers .txt, .pdf et .doc.
Étape 2: Ouvrez Chat avec RTX et sélectionnez l’icône du stylo dans le Base de données section.
Jacob Roach / Tendances numériques
Étape 3: Accédez au dossier dans lequel vous avez stocké vos données et sélectionnez-le.
Étape 4: Dans Chat avec RTX, sélectionnez l’icône d’actualisation dans le Base de données section. Cela régénérera le modèle en fonction des nouvelles données. Vous souhaiterez actualiser le modèle chaque fois que vous ajoutez de nouvelles données au dossier ou que vous sélectionnez un ensemble de données différent.
Jacob Roach / Tendances numériques
Étape 5 : Une fois vos données ajoutées, sélectionnez le modèle que vous souhaitez utiliser dans la section Modèle IA. Le chat avec RTX inclut Llama 2 et Mistral, ce dernier étant la valeur par défaut. Expérimentez avec les deux, mais pour les nouveaux utilisateurs, Mistral est le meilleur.
Étape 6 : À partir de là, vous pouvez commencer à poser des questions. Nvidia note que Chat with RTX ne prend pas en compte le contexte, donc les réponses précédentes n’influencent pas les réponses futures. De plus, les questions spécifiques donneront généralement de meilleurs résultats que les questions générales. Enfin, Nvidia note que Chat with RTX fera parfois référence à des données erronées lors de la réponse, alors gardez cela à l’esprit.
Étape 7 : Si Chat with RTX cesse de fonctionner et qu’un redémarrage ne résout pas le problème, Nvidia indique que vous pouvez supprimer le fichier préférences.json pour résoudre le problème. Ceci est situé à C:Users\AppDataLocalNVIDIAChatWithRTXRAGtrt-llm-rag-windows-mainconfigpreferences.json.
Comment utiliser Chat avec RTX avec YouTube
En plus de vos propres données, vous pouvez utiliser Chat avec RTX avec des vidéos YouTube. Le modèle d’IA s’appuie sur la transcription d’une vidéo YouTube, il existe donc des limites naturelles.
Premièrement, le modèle d’IA ne voit rien qui ne soit pas inclus dans la transcription. Vous ne pouvez pas demander, par exemple, à quoi ressemble quelqu’un dans une vidéo. De plus, les transcriptions YouTube ne sont pas toujours parfaites. Dans les vidéos avec des transcriptions désordonnées, vous risquez de ne pas obtenir les réponses souhaitées.
Étape 1: Ouvrez Chat avec RTX et dans le Base de données section, sélectionnez la liste déroulante et choisissez Youtube.
Étape 2: Dans le champ ci-dessous, collez un lien vers une vidéo ou une playlist YouTube. À côté de ce champ, vous trouverez un numéro indiquant le nombre maximum de transcriptions que vous souhaitez télécharger.
Jacob Roach / Tendances numériques
Étape 3: Sélectionnez le bouton de téléchargement à côté de ce champ et attendez que le téléchargement des transcriptions soit terminé. Lorsqu’ils ont terminé, cliquez sur le bouton Actualiser.
Étape 4: Une fois la transcription terminée, vous pouvez discuter comme vous l’avez fait avec vos propres données. Les questions spécifiques sont préférables aux questions générales, et si vous discutez de plusieurs vidéos, Chat avec RTX peut obtenir une mauvaise référence si votre question est trop générale.
Étape 5 : Si vous souhaitez discuter d’une nouvelle série de vidéos, vous devrez supprimer manuellement les anciennes transcriptions. Vous trouverez un bouton pour ouvrir une fenêtre de l’Explorateur à côté du bouton d’actualisation. Allez-y et supprimez les transcriptions si vous souhaitez discuter d’autres vidéos.
Recommandations des rédacteurs
2024-02-17 19:00:44
1708188496
#Comment #utiliser #nouveau #chat #Nvidia #avec #bot #RTX
