Fine-tuning

Le fine-tuning est la spécialisation d’un modèle d’IA pré-entraîné sur vos propres exemples, pour lui apprendre un style, un format ou une tâche précise que le contexte seul ne suffit pas à obtenir.

Mise en contexte

Le fine-tuning modifie le modèle lui-même, à partir de centaines ou de milliers d’exemples annotés. Il est utile pour un format de sortie très contraint, un vocabulaire spécialisé ou une tâche de classification stable. Il est inadapté pour injecter des connaissances qui changent : le RAG fait cela mieux et moins cher.

Nous le réservons aux cas où les tests le justifient, après avoir épuisé le contexte et les consignes. Nos travaux de recherche en classification, reconnus par le statut de Jeune Entreprise Innovante, s’appuient sur des modèles spécialisés de cette façon.

Un modèle spécialisé doit être réévalué à chaque changement de version du modèle de base.

Questions fréquentes

  • De quelques centaines à quelques milliers d’exemples annotés, selon la tâche. Leur qualité et leur cohérence comptent plus que leur nombre.

  • Chez les fournisseurs, le modèle spécialisé est privé mais reste hébergé chez eux. Avec un modèle open source, il est entièrement chez vous, sur un hébergement européen.

Poser ma question

Une question sur ce sujet ?

Nous écrire