Intelligence artificielle
Créer son IA sur son propre ordinateur
Faire tourner, puis personnaliser un modèle chez soi — sans cloud, sans abonnement, hors ligne.
01Objectif
À la fin de cette séquence : Distinguer utiliser et entraîner un modèle, choisir un modèle ouvert adapté à sa carte graphique, et comprendre comment on personnalise une IA avec ses propres données sans tout réentraîner.
02L'essentiel
Utiliser n'est pas entraîner
Faire tourner un modèle déjà entraîné (l'inférence) est à la portée de tout ordinateur récent. L'entraîner depuis zéro coûte des millions. Entre les deux existe une voie réaliste : partir d'un modèle ouvert et l'affiner sur ses propres données. C'est cela, « créer son IA ».
La mémoire de la carte graphique décide de tout
Un modèle doit tenir entièrement dans la mémoire vidéo (VRAM) pour être rapide. 8 Go suffisent pour un modèle de 7 milliards de paramètres compressé ; 16 Go le font travailler confortablement ; 24 Go permettent de l'affiner sérieusement. On choisit le modèle en fonction de la carte, jamais l'inverse.
La quantification : compresser pour faire tenir
Les poids du modèle sont arrondis de 16 bits à 4 bits : il devient quatre fois plus petit pour une perte de qualité minime. C'est ce qui permet à un modèle de centre de calcul de tourner sur un ordinateur de bureau. Des outils comme Ollama téléchargent directement ces versions compressées.
Affiner sans tout réentraîner
La technique LoRA n'entraîne qu'une infime fraction du modèle — moins de 1 % — greffée sur le reste, qui est gelé. Résultat proche d'un réentraînement complet, pour cent fois moins de mémoire. Une nuit de calcul sur une bonne carte suffit à spécialiser un modèle sur ses documents.
Les réglages qui changent le comportement, sans toucher au modèle
Avant d'affiner quoi que ce soit, on peut déjà beaucoup ajuster : la température contrôle la prise de risque dans le choix des mots (basse = rigoureux et répétable, haute = créatif et parfois incohérent) ; top_k et top_p limitent le nombre de mots candidats à chaque étape ; un seed fixe rend les réponses reproductibles. Ce sont des curseurs, pas du code — la première chose à essayer avant de penser affinage.
03Le schéma
04À retenir
- Tout se joue sur la VRAM. On choisit le modèle qui tient dans sa carte, pas l'inverse.
- Personnaliser, c'est affiner (LoRA), pas réentraîner. Moins de 1 % des paramètres suffisent.
- Les réglages de génération (température, top_k, top_p, seed) se testent avant tout affinage — gratuits, réversibles, immédiats.
- En local, rien ne sort. Ni les questions ni les documents ne quittent la machine — c'est l'argument décisif pour les données sensibles.
05Exercice
Installez Ollama, téléchargez un modèle adapté à votre machine (7B si 8 Go de VRAM), puis posez-lui trois questions sur un domaine que vous maîtrisez. Coupez ensuite la connexion internet et recommencez : rien ne change. Puis reposez la même question deux fois avec une température haute (proche de 1.5) : comparez les deux réponses.
Indice — La commande tient en une ligne : ollama run suivi du nom du modèle. Le premier téléchargement prend quelques minutes. Pour la température, tapez /set parameter temperature 1.5 dans la session avant de reposer la question.
06Vérification des acquis
Pourquoi ne crée-t-on jamais son modèle depuis zéro ?
Parce que l'entraînement initial demande des milliers de cartes graphiques pendant des mois. On part d'un modèle ouvert déjà entraîné et on le spécialise : le résultat est meilleur pour un coût des millions de fois moindre.
Qu'est-ce que la quantification fait perdre ?
Un peu de finesse dans les réponses, rarement perceptible en usage courant. Elle divise par quatre la mémoire nécessaire : c'est presque toujours un échange gagnant sur une machine personnelle.
À quoi sert la température si le modèle ne change pas ?
Elle ne touche pas les connaissances du modèle, seulement la façon dont il choisit le mot suivant parmi les possibles. Basse, il prend toujours le plus probable (réponses stables, parfois répétitives) ; haute, il prend des risques (réponses variées, parfois moins cohérentes).