fait une page html css js avec import { pipeline } from '@huggingface/transformers'; //…
- User
fait une page html css js avec import { pipeline } from '@huggingface/transformers';
// Pour node fetch avec versions plus anciennes de Node.js, on importe ainsi : // import fetch from 'node-fetch'; // globalThis.fetch = fetch;
async function run() { // Crée un pipeline pour la génération de texte avec le modèle "gpt2" const generator = await pipeline('text-generation', 'gpt2');
// Texte d'entrée (prompt) const prompt = "Bonjour, je suis un modèle de langage";
// Utilise le modèle pour générer du texte const output = await generator(prompt, { max_new_tokens: 50, // nombre de tokens à générer do_sample: true, // active la génération aléatoire (sampling) temperature: 0.7 // tempère la "créativité" });
console.log("Texte généré :", output[0].generated_text); }
run();
- Assistant
Voici un exemple de page HTML avec du JavaScript moderne utilisant Hugging Face's Inference API directement depuis le navigateur, car la librairie
@huggingface/transformersne fonctionne pas côté client (navigateur). Elle est conçue pour Node.js uniquement.Cette page crée un champ texte pour saisir un prompt, un bouton pour lancer la génération, et affiche le texte généré par un modèle type GPT2 via l'API Hugging Face.
Important :
-
Il faut créer un compte sur Hugging Face et obtenir un API token personnel ici : https://huggingface.co/settings/tokens
-
Remplace le placeholder
YOUR_HF_API_TOKENdans le code par ton token. -
La requête utilise
fetchvers l’API officielle d’inférence de Hugging Face.
Exemple complet :
<!DOCTYPE html> <html lang="fr"> <head> <meta charset="UTF-8" /> <meta name="viewport" content="width=device-width, initial-scale=1" /> <title>Génération de texte GPT2 - Hugging Face API</title> <style> body { font-family: Arial, sans-serif; margin: 2em; background: #f5f5f5; } h1 { color: #444; } textarea { width: 100%; height: 100px; font-size: 1rem; padding: 10px; margin-bottom: 1em; border-radius: 5px; border: 1px solid #ccc; resize: vertical; } button { padding: 0.6em 1.5em; font-size: 1rem; cursor: pointer; border: none; background-color: #007bff; color: white; border-radius: 5px; } button:disabled { background-color: #aaa; cursor: default; } #output { margin-top: 2em; white-space: pre-wrap; background: white; padding: 1em; border-radius: 5px; min-height: 100px; border: 1px solid #ddd; } </style> </head> <body> <h1>Génération de texte GPT2 (Hugging Face)</h1> <textarea id="prompt" placeholder="Entrez un texte de départ...">Bonjour, je suis un modèle de langage</textarea><br/> <button id="generate">Générer</button> <div id="output" aria-live="polite"></div> <script> const button = document.getElementById('generate'); const promptInput = document.getElementById('prompt'); const outputDiv = document.getElementById('output'); // Remplacez par votre propre token API Hugging Face (voir https://huggingface.co/settings/tokens) const API_TOKEN = 'YOUR_HF_API_TOKEN'; async function generateText(prompt) { const url = 'https://api-inference.huggingface.co/models/gpt2'; const response = await fetch(url, { method: 'POST', headers: { Authorization: `Bearer ${API_TOKEN}`, 'Content-Type': 'application/json', }, body: JSON.stringify({ inputs: prompt, parameters: { max_new_tokens: 50, do_sample: true, temperature: 0.7 } }), }); if (!response.ok) { const error = await response.json(); throw new Error(error.error || 'Erreur lors de la génération'); } const data = await response.json(); // La réponse est un tableau avec generated_text par élément return data[0].generated_text; } button.addEventListener('click', async () => { button.disabled = true; outputDiv.textContent = "Génération en cours..."; try { const prompt = promptInput.value.trim(); if(!prompt) { outputDiv.textContent = "Merci d'entrer un prompt."; button.disabled = false; return; } const generated = await generateText(prompt); outputDiv.textContent = generated; } catch (err) { outputDiv.textContent = "Erreur : " + err.message; console.error(err); } button.disabled = false; }); </script> </body> </html>
Explications :
-
Le HTML crée une interface simple.
-
Le JS fait une requête POST vers
https://api-inference.huggingface.co/models/gpt2avec:-
ton prompt (
inputs) -
les paramètres
max_new_tokens,do_sample,temperature(comme dans ton code Node.js).
-
-
Le résultat est affiché dans
#output.
Notes :
-
Si tu souhaites vraiment utiliser
@huggingface/transformerscôté Node.js, il faudra écrire un script Node.js séparé, pas dans une page web. -
L’API gratuite impose un quota limité, prends-en compte ça selon ta charge.
N’hésite pas si tu veux un exemple pour Node.js, ou utiliser un autre modèle !
-
- User
integre @huggingface/transformers dans le code
- Assistant
La bibliothèque
@huggingface/transformersn’est pas utilisable directement dans une page web côté client (navigateur), car elle dépend d’un environnement Node.js (utilisation de fichiers système, WebAssembly spécifique, etc.). C’est une librairie pensée pour être utilisée côté serveur.
Cependant, je peux te montrer comment faire un fichier Node.js simple utilisant
@huggingface/transformerset lancer une API locale simple avec Express pour exposer ce service à ta page HTML.
Solution complète avec
@huggingface/transformers- Créer un backend Node.js
Tu auras besoin de Node.js 18+ (car
pipelineutilisefetchnatif), ou alors faire un polyfill fetch.- Installer les dépendances
npm init -y npm install @huggingface/transformers express cors- Créer un fichier
server.js
import express from 'express'; import cors from 'cors'; import { pipeline } from '@huggingface/transformers'; const app = express(); app.use(cors()); app.use(express.json()); let generator; // Initialise le pipeline au démarrage (prend un peu de temps) async function init() { console.log("Chargement du modèle..."); generator = await pipeline('text-generation', 'gpt2'); console.log("Modèle chargé."); } app.post('/generate', async (req, res) => { try { const prompt = req.body.prompt; if (!prompt) { return res.status(400).json({ error: "Le champ prompt est obligatoire." }); } if (!generator) { return res.status(503).json({ error: "Le modèle n’est pas encore chargé, réessayez dans quelques secondes." }); } const output = await generator(prompt, { max_new_tokens: 50, do_sample: true, temperature: 0.7 }); res.json({ generated_text: output[0].generated_text }); } catch (err) { console.error(err); res.status(500).json({ error: err.message }); } }); const PORT = 3000; app.listen(PORT, () => { console.log(`Serveur lancé sur http://localhost:${PORT}`); init(); });- Modifier ta page HTML pour appeler ce serveur
Ici on enlève l’appel direct à l’API Hugging Face et on appelle ton backend qui fait la génération via
@huggingface/transformers.<!DOCTYPE html> <html lang="fr"> <head> <meta charset="UTF-8" /> <meta name="viewport" content="width=device-width, initial-scale=1" /> <title>Génération de texte GPT2 - Local Backend</title> <style> /* même styles que précédemment */ body { font-family: Arial, sans-serif; margin: 2em; background: #f5f5f5; } h1 { color: #444; } textarea { width: 100%; height: 100px; font-size: 1rem; padding: 10px; margin-bottom: 1em; border-radius: 5px; border: 1px solid #ccc; resize: vertical; } button { padding: 0.6em 1.5em; font-size: 1rem; cursor: pointer; border: none; background-color: #007bff; color: white; border-radius: 5px; } button:disabled { background-color: #aaa; cursor: default; } #output { margin-top: 2em; white-space: pre-wrap; background: white; padding: 1em; border-radius: 5px; min-height: 100px; border: 1px solid #ddd; } </style> </head> <body> <h1>Génération de texte GPT2 via Backend Local</h1> <textarea id="prompt" placeholder="Entrez un texte de départ...">Bonjour, je suis un modèle de langage</textarea><br/> <button id="generate">Générer</button> <div id="output" aria-live="polite"></div> <script> const button = document.getElementById('generate'); const promptInput = document.getElementById('prompt'); const outputDiv = document.getElementById('output'); async function generateText(prompt) { const response = await fetch('http://localhost:3000/generate', { method: 'POST', headers: { 'Content-Type': 'application/json' }, body: JSON.stringify({ prompt }) }); if (!response.ok) { const error = await response.json(); throw new Error(error.error || 'Erreur lors de la génération'); } const data = await response.json(); return data.generated_text; } button.addEventListener('click', async () => { button.disabled = true; outputDiv.textContent = "Génération en cours..."; try { const prompt = promptInput.value.trim(); if (!prompt) { outputDiv.textContent = "Merci d'entrer un prompt."; button.disabled = false; return; } const generated = await generateText(prompt); outputDiv.textContent = generated; } catch (err) { outputDiv.textContent = "Erreur : " + err.message; console.error(err); } button.disabled = false; }); </script> </body> </html>
Résumé :
@huggingface/transformersest Node.js uniquement.- On crée un serveur local (ex: Express) qui utilise
@huggingface/transformers. - Ta page web fait simplement un fetch POST vers ce serveur.
- Le serveur charge le modèle GPT2 et génère les textes à la demande.
Si tu veux, je peux aussi te guider pour mettre ça en route étape par étape, ou gérer l’installation et lancer le serveur.
- User
guider pour mettre ça en route étape par étape, ou gérer l’installation et lancer le serveur.
- Assistant
Bien sûr, voici un guide étape par étape pour installer, lancer et utiliser un serveur Node.js local avec
@huggingface/transformerspour générer du texte GPT2, et une page web front-end qui consomme ce service.
🍀 Guide pas à pas pour ton projet
@huggingface/transformers+ frontend
1. Prérequis
-
Installer Node.js au minimum version 18 (plus simple car
fetchnatif utilisé partransformers).Vérifie ta version avec :
node -v -
Un éditeur de texte (VSCode, Sublime, etc.)
-
Connexion internet (pour télécharger les modèles la première fois)
2. Créer le dossier projet et initialiser npm
Ouvre un terminal / invite de commande.
mkdir hf-textgen cd hf-textgen npm init -yCela crée le dossier et le fichier
package.jsoninitial.
3. Installer les dépendances
npm install @huggingface/transformers express cors@huggingface/transformers: la lib pour utiliser le modèle GPT2express: serveur web simplecors: gérer les accès cross-origin (pour que la page web fasse des requêtes au serveur local)
4. Configurer
package.jsonpour supporter ESModules (import/export)Ouvre le fichier
package.jsonet ajoute ou modifie :{ "type": "module", ... }Exemple complet minimal (sans toutes les clés) :
{ "name": "hf-textgen", "version": "1.0.0", "type": "module", "main": "server.js", "scripts": { "start": "node server.js" }, "dependencies": { "@huggingface/transformers": "^1.1.1", "cors": "^2.8.5", "express": "^4.18.2" } }La clé
"type": "module"permet la syntaxeimport ... from ...au lieu derequire().
5. Créer le fichier serveur
server.jsCrée un fichier
server.jsà la racine du projet avec ce contenu :import express from 'express'; import cors from 'cors'; import { pipeline } from '@huggingface/transformers'; const app = express(); app.use(cors()); app.use(express.json()); let generator; // Initialise le pipeline au démarrage async function init() { console.log("Chargement du modèle GPT2..."); generator = await pipeline('text-generation', 'gpt2'); console.log("Modèle chargé."); } // Route pour générer le texte app.post('/generate', async (req, res) => { try { const { prompt } = req.body; if (!prompt || typeof prompt !== 'string') { return res.status(400).json({ error: "Le champ 'prompt' est obligatoire et doit être une chaîne." }); } if (!generator) { return res.status(503).json({ error: "Modèle non chargé, réessayez dans quelques secondes." }); } const output = await generator(prompt, { max_new_tokens: 50, do_sample: true, temperature: 0.7 }); res.json({ generated_text: output[0].generated_text }); } catch (err) { console.error(err); res.status(500).json({ error: err.message || 'Erreur serveur' }); } }); const PORT = 3000; app.listen(PORT, () => { console.log(`Serveur lancé sur http://localhost:${PORT}`); init(); });
6. Lancer le serveur
Dans ton terminal (dans le dossier du projet), lance :
npm startTu devrais voir quelque chose comme :
Serveur lancé sur http://localhost:3000 Chargement du modèle GPT2... Modèle chargé.Le modèle GPT2 sera téléchargé et chargé en mémoire. Ça peut prendre quelques minutes la première fois.
7. Créer la page web front-end
Dans le même dossier, crée un fichier
index.htmlavec ce contenu :<!DOCTYPE html> <html lang="fr"> <head> <meta charset="UTF-8" /> <meta name="viewport" content="width=device-width, initial-scale=1" /> <title>Génération de texte GPT2 via Backend Local</title> <style> body { font-family: Arial, sans-serif; margin: 2em; background: #f5f5f5; } h1 { color: #444; } textarea { width: 100%; height: 100px; font-size: 1rem; padding: 10px; margin-bottom: 1em; border-radius: 5px; border: 1px solid #ccc; resize: vertical; } button { padding: 0.6em 1.5em; font-size: 1rem; cursor: pointer; border: none; background-color: #007bff; color: white; border-radius: 5px; } button:disabled { background-color: #aaa; cursor: default; } #output { margin-top: 2em; white-space: pre-wrap; background: white; padding: 1em; border-radius: 5px; min-height: 100px; border: 1px solid #ddd; } </style> </head> <body> <h1>Génération de texte GPT2 via Backend Local</h1> <textarea id="prompt" placeholder="Entrez un texte de départ...">Bonjour, je suis un modèle de langage</textarea><br/> <button id="generate">Générer</button> <div id="output" aria-live="polite"></div> <script> const button = document.getElementById('generate'); const promptInput = document.getElementById('prompt'); const outputDiv = document.getElementById('output'); async function generateText(prompt) { const response = await fetch('http://localhost:3000/generate', { method: 'POST', headers: { 'Content-Type': 'application/json' }, body: JSON.stringify({ prompt }) }); if (!response.ok) { const error = await response.json(); throw new Error(error.error || 'Erreur lors de la génération'); } const data = await response.json(); return data.generated_text; } button.addEventListener('click', async () => { button.disabled = true; outputDiv.textContent = "Génération en cours..."; try { const prompt = promptInput.value.trim(); if (!prompt) { outputDiv.textContent = "Merci d'entrer un prompt."; button.disabled = false; return; } const generated = await generateText(prompt); outputDiv.textContent = generated; } catch (err) { outputDiv.textContent = "Erreur : " + err.message; console.error(err); } button.disabled = false; }); </script> </body> </html>
8. Ouvrir la page web
-
Ouvre simplement le fichier
index.htmldans ton navigateur (double-clique dessus ou fais glisser dans une fenêtre). -
Le frontend fait des requêtes vers
http://localhost:3000/generateoù tourne le serveur Node.js.
9. Tester !
- Tape un prompt dans la zone texte, par exemple :
Bonjour, je suis un modèle de langage-
Clique sur "Générer"
-
Après quelques secondes, tu verras apparaître le texte généré par GPT2.
Conseils / problèmes courants
-
CORS : on utilise la lib
corsdans Express pour autoriser ton navigateur à faire la requête au serveur local. -
Modèle qui met du temps à charger : attends un moment après démarrage du serveur avant de lancer des requêtes.
-
Erreur de version de Node.js : utilise Node 18+, sinon tu devras ajouter un polyfill
fetch. -
Page web locale + fetch vers localhost : certains navigateurs peuvent bloquer le fetch si tu ouvres la page par file://, mais normalement ça marche. Sinon, tu peux lancer un simple serveur local (
npx http-serverpar exemple).
Bonus : Lancer un serveur local pour la page front
Parfois ouvrir un fichier
index.htmldirectement peut causer des problèmes. Pour un serveur simple :npm install -g http-server http-server . -p 8080Puis ouvre http://localhost:8080/index.html dans ton navigateur.
Résumé
Étape Commande / Action Initialiser projet npm init -yInstaller dépendances npm install @huggingface/transformers express corsConfigurer package.json Ajouter "type": "module"Créer server.jsColler le code serveur donné Lancer serveur npm startCréer index.htmlColler le code HTML donné Ouvrir et tester la page web Ouvrir index.htmlou via un serveur local
Si tu as une étape qui bloque, dis-moi où, je t'aide à la résoudre. Bon codage ! 🚀
-
- User
npm start npm error Missing script: "start" npm error npm error Did you mean one of these? npm error npm star # Mark your favorite packages npm error npm stars # View packages marked as favorites npm error npm error To see a list of scripts, run: npm error npm run npm error A complete log of this run can be found in: /home/pascal/.npm/_logs/2025-06-20T10_23_23_374Z-debug-0.log
- Assistant
L'erreur
Missing script: "start"signifie que dans ton fichierpackage.json, il n'y a pas de script nommé"start"défini.
Comment corriger ?
1. Ouvre ton fichier
package.jsonÇa devrait ressembler à ça (minimal) :
{ "name": "hf-textgen", "version": "1.0.0", "type": "module", "main": "server.js", "scripts": { "start": "node server.js" }, "dependencies": { "@huggingface/transformers": "^1.1.1", "cors": "^2.8.5", "express": "^4.18.2" } }L'important est la clé
"scripts": { "start": "node server.js" }
ça permet à npm de savoir quenpm startéquivaut à lancernode server.js.
2. Si tu ne l'as pas, ajoute le bloc
"scripts"danspackage.jsonExemple complet minimal :
{ "name": "hf-textgen", "version": "1.0.0", "type": "module", "main": "server.js", "scripts": { "start": "node server.js" } }
3. Sauvegarde le fichier et lance :
npm start
4. Vérifie si tu n'as pas plusieurs fichiers
package.jsonpar erreur ou si tu es bien dans le bon dossier.Pour vérifier :
ls # ou dir sous Windows cat package.json
En résumé
npm startlance la commande que tu as définie dans la section"scripts"du fichierpackage.json.- Si elle n'existe pas, tu obtiens cette erreur.
- Ajoute
"start": "node server.js"dansscripts.
Si tu veux, je peux t’écrire le contenu complet d’un
package.jsonminimal à mettre dans ton dossier pour que ça fonctionne. - User
npm start
hugginfaceai@1.0.0 start node server.js
node:internal/modules/cjs/loader:1143 throw err; ^
Error: Cannot find module '/home/pascal/hugginfaceAI/server.js' at Module._resolveFilename (node:internal/modules/cjs/loader:1140:15) at Module._load (node:internal/modules/cjs/loader:981:27) at Function.executeUserEntryPoint [as runMain] (node:internal/modules/run_main:128:12) at node:internal/main/run_main_module:28:49 { code: 'MODULE_NOT_FOUND', requireStack: [] }
Node.js v18.20.8
- Assistant
L’erreur
Error: Cannot find module '/home/pascal/hugginfaceAI/server.js'signifie que Node.js ne trouve pas le fichierserver.jsdans ton dossier de projet.
Étapes pour résoudre ce problème
1. Vérifie que le fichier
server.jsexiste bienDans le terminal, tape :
ls /home/pascal/hugginfaceAIEst-ce que
server.jsapparaît dans la liste ?-
Si non, ça veut dire que le fichier n’a pas été créé, ou est dans un autre dossier.
-
Si oui, passe à l’étape suivante.
2. Vérifie le chemin du terminal
Tu dois être dans le dossier du projet avant de lancer
npm start.Dans le terminal, tape :
pwdÇa doit afficher :
/home/pascal/hugginfaceAISi ce n'est pas le cas, déplace-toi dans ce dossier avec :
cd /home/pascal/hugginfaceAIPuis relance :
npm start
3. Créer le fichier
server.jssi tu ne l’as pas encoreDans
/home/pascal/hugginfaceAI, crée un fichierserver.js(tu peux utiliser un éditeur ou dans le terminal) avec ce contenu :import express from 'express'; import cors from 'cors'; import { pipeline } from '@huggingface/transformers'; const app = express(); app.use(cors()); app.use(express.json()); let generator; async function init() { console.log("Chargement du modèle GPT2..."); generator = await pipeline('text-generation', 'gpt2'); console.log("Modèle chargé."); } app.post('/generate', async (req, res) => { try { const { prompt } = req.body; if (!prompt || typeof prompt !== 'string') { return res.status(400).json({ error: "Le champ 'prompt' est obligatoire." }); } if (!generator) { return res.status(503).json({ error: "Modèle non chargé." }); } const output = await generator(prompt, { max_new_tokens: 50, do_sample: true, temperature: 0.7 }); res.json({ generated_text: output[0].generated_text }); } catch (err) { console.error(err); res.status(500).json({ error: err.message || 'Erreur serveur' }); } }); const PORT = 3000; app.listen(PORT, () => { console.log(`Serveur lancé sur http://localhost:${PORT}`); init(); });
4. Vérifie que ton
package.jsonest bien configuréDans
/home/pascal/hugginfaceAI/package.json, il faut avoir :{ "name": "hugginfaceai", "version": "1.0.0", "type": "module", "scripts": { "start": "node server.js" }, "dependencies": { "@huggingface/transformers": "^1.1.1", "express": "^4.18.2", "cors": "^2.8.5" } }
5. Relance ton serveur
Dans le dossier
/home/pascal/hugginfaceAI:npm start
Résumé :
- Erreur vient du fait que Node ne trouve pas
server.js. - Soit tu n’es pas dans le bon dossier, soit le fichier n’a pas été créé.
- Il faut être dans le bon dossier, et t’assurer que
server.jsexiste bien à la racine.
Si tu le souhaites, je peux te fournir une archive zip avec tout le projet prêt à l’emploi. Veux-tu ?
-
- User
npm start
hugginfaceai@1.0.0 start node server.js
Serveur lancé sur http://localhost:3000 Chargement du modèle... dtype not specified for "model". Using the default dtype (fp32) for this device (cpu). file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:30597 throw Error(
${message}: "${remoteURL}".); ^Error: Could not locate file: "https://huggingface.co/gpt2/resolve/main/onnx/model.onnx". at handleError (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:30597:11) at getModelFile (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:30870:24) at process.processTicksAndRejections (node:internal/process/task_queues:95:5) at async getSession (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7132:28) at async file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7149:73 at async Promise.all (index 0) at async constructSessions (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7147:31) at async Promise.all (index 0) at async GPT2LMHeadModel.from_pretrained (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7946:20) at async AutoModelForCausalLM.from_pretrained (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:14326:20)
- Assistant
L’erreur indique que le package
@huggingface/transformersessaie de charger un modèle ONNX (model.onnx) mais ne trouve pas le fichier à l’URL :https://huggingface.co/gpt2/resolve/main/onnx/model.onnxOr ce fichier n’existe pas sur Hugging Face. En fait, actuellement, la version Node.js de
@huggingface/transformersutilise des modèles ONNX pour générer localement, mais tous les modèles (comme GPT2) n’ont pas forcément de version ONNX déposée sur Hugging Face.
Que fait-on ?
1. Comprendre la cause
La version Node.js
@huggingface/transformerssupporte uniquement les modèles avec export ONNX, stockés dans le repoonnx/sur Hugging Face. Le modèle officielgpt2surhuggingface.co/gpt2n’a pas ce fichier ONNX.Le lien https://huggingface.co/gpt2/tree/main/onnx ne contient rien.
2. Solutions possibles
a) Utiliser un modèle ONNX compatible (exemple)
Par exemple, utiliser un modèle ONNX publié officiellement, comme
facebook/wav2vec2-base-960hpour speech (juste un exemple, pas text generation).Mais ce ne sera pas GPT2.
b) Générer via API inference Hugging Face (à distance)
Le plus simple pour le moment si tu veux GPT2, c’est de faire un appel HTTP vers l’API Hugging Face inference API.
Cela évite les soucis locaux de modèle ONNX manquant.
3. Exemple minimal pour appeler l’API inference Hugging Face via Node.js
import express from 'express'; import cors from 'cors'; const app = express(); app.use(cors()); app.use(express.json()); // Remplace par ton token Hugging Face : https://huggingface.co/settings/tokens const API_TOKEN = 'HF_API_TOKEN_ICI'; app.post('/generate', async (req, res) => { try { const prompt = req.body.prompt; if (!prompt) return res.status(400).json({ error: "Prompt requis" }); const response = await fetch('https://api-inference.huggingface.co/models/gpt2', { method: 'POST', headers: { Authorization: `Bearer ${API_TOKEN}`, 'Content-Type': 'application/json', }, body: JSON.stringify({ inputs: prompt, parameters: { max_new_tokens: 50, do_sample: true, temperature: 0.7, } }), }); if (!response.ok) { const error = await response.json(); return res.status(response.status).json({ error: error.error || 'Erreur API HF' }); } const data = await response.json(); return res.json({ generated_text: data[0].generated_text }); } catch (err) { console.error(err); return res.status(500).json({ error: err.message }); } }); const PORT = 3000; app.listen(PORT, () => { console.log(`Serveur sur http://localhost:${PORT}`); });
4. Autres remarques
-
Il faut créer un token sur Hugging Face (https://huggingface.co/settings/tokens), avec accès
readminimum. -
Cette méthode veut dire que ton serveur Node fait uniquement proxy vers l’API Hugging Face.
-
Ça fonctionne bien pour des projets persos / tests.
5. Résumé / Conseils
Approche Avantages Inconvénients Modèle local ONNX (transformers NodeJS) Pas besoin d’API externe Modèles limités, pas tous dispo ONNX API Inference Hugging Face Permet tous modèles, simple Requête externe, limite quota API
Si tu veux je peux t’écrire le projet complet avec cette méthode en backend + frontend.
Veux-tu ?
-
- User
npm start
hugginfaceai@1.0.0 start node server.js
Serveur lancé sur http://localhost:3000 Chargement du modèle... dtype not specified for "model". Using the default dtype (fp32) for this device (cpu). file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:30597 throw Error(
${message}: "${remoteURL}".); ^Error: Could not locate file: "https://huggingface.co/gpt2/resolve/main/onnx/model.onnx". at handleError (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:30597:11) at getModelFile (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:30870:24) at process.processTicksAndRejections (node:internal/process/task_queues:95:5) at async getSession (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7132:28) at async file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7149:73 at async Promise.all (index 0) at async constructSessions (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7147:31) at async Promise.all (index 0) at async GPT2LMHeadModel.from_pretrained (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:7946:20) at async AutoModelForCausalLM.from_pretrained (file:///home/pascal/hugginfaceAI/node_modules/@huggingface/transformers/dist/transformers.node.mjs:14326:20)
Node.js v18.20.8
- Assistant
Le message d’erreur revient : la bibliothèque
@huggingface/transformerscôté Node.js essaie de charger une version ONNX du modèle GPT-2 depuis une URL qui n’existe pas, ce qui provoque cette erreur.
Explication succincte
La nouvelle version JS de
@huggingface/transformers(depuis v1) supporte uniquement les modèles convertis en ONNX (exportés et stockés sur Hugging Face dans le dossier "onnx/"), et malheureusement le modèle officielgpt2n’a pas cette version ONNX disponible, donc cette erreur est normale si tu essaies de chargergpt2directement.
Que faire ?
Option 1 — Utiliser l’API Inference Hugging Face (recommandé)
Le moyen le plus simple et fiable est d’utiliser l’API d’inférence Hugging Face dans ton serveur Node.js. Cela fait des requêtes HTTP vers leurs serveurs qui exécutent le modèle.
Voici comment modifier ton serveur (
server.js) pour utiliser l’API officielle :import express from 'express'; import cors from 'cors'; const app = express(); app.use(cors()); app.use(express.json()); const HUGGINGFACE_API_TOKEN = "TON_TOKEN_ICI"; // Remplace par ton token perso app.post('/generate', async (req, res) => { const prompt = req.body.prompt; if (!prompt) return res.status(400).json({ error: "Le prompt est obligatoire" }); try { const response = await fetch("https://api-inference.huggingface.co/models/gpt2", { method: "POST", headers: { Authorization: `Bearer ${HUGGINGFACE_API_TOKEN}`, "Content-Type": "application/json" }, body: JSON.stringify({ inputs: prompt, parameters: { max_new_tokens: 50, do_sample: true, temperature: 0.7 } }) }); if (!response.ok) { const err = await response.json(); return res.status(response.status).json({ error: err.error || "Erreur API HF" }); } const data = await response.json(); res.json({ generated_text: data[0].generated_text }); } catch (e) { console.error(e); res.status(500).json({ error: "Erreur serveur" }); } }); const PORT = 3000; app.listen(PORT, () => { console.log(`Serveur lancé à http://localhost:${PORT}`); });
Comment obtenir le token ?
- Crée un compte sur https://huggingface.co/ si ce n’est pas déjà fait
- Dans ton profil, va dans Settings > Access Tokens
- Crée un nouveau token avec la permission
read - Copie ce token et remplace
"TON_TOKEN_ICI"dans le code ci-dessus par ton token (chaîne de caractères entre guillemets)
Option 2 — Utiliser uniquement un modèle compatible ONNX
Si tu tiens absolument à faire tourner localement une génération texte sans passer par l’API officielle, tu dois :
-
Trouver un modèle ONNX adapté (il en existe très peu pour la génération texte libre)
-
Ou convertir toi-même un modèle PyTorch en ONNX et l’héberger localement — ce qui est complexe
En pratique, pour commencer simplement, je te recommande de :
-
Modifier ton
server.jscomme dans la proposition "Option 1" ci-dessus -
Relancer le serveur
npm start -
Adapter ta page front-end pour envoyer les requêtes POST vers
http://localhost:3000/generate
Si tu veux, je peux aussi t’aider à faire une version complète front + back prête à l’emploi, montre-moi juste que tu as bien ce token Hugging Face.
Récapitulatif rapide
Problème Solution recommandée Modèle GPT2 local impossible (manque ONNX) Utiliser leur API distante via fetch avec un token Hugging Face Besoin local sans Internet et modèle ONNX Chercher un modèle ONNX compatible (rare et plus compliqué à mettre en place)
N’hésite pas si tu souhaites je prépare un projet complet clé-en-main avec cette méthode API.