Bientôt disponibleL'Entraînement de modèles sera bientôt disponible dans Scalata Enterprise. Apprenez à un modèle à répondre comme votre équipe.Découvrir les nouveautés

Ressources/Entraînement du modèle/Méthodes d'entraînement

Méthode

Apprendre à partir de documents : génération de questions-réponses

La génération de questions-réponses transforme vos documents en exemples d'entraînement : un modèle lit chaque section de votre texte et rédige des questions réalistes, dont les réponses sont tirées exclusivement de cette section. Ces paires servent ensuite à l'entraînement comme pour n'importe quel autre chat, chez tous les fournisseurs.

Chapitre 77 min de lecture5 références

De quoi s'agit-il

Un modèle affiné sur quelques dizaines de conversations apprend généralement le ton et le format rapidement. Ce qu'il n'apprend pas, ce sont les faits qu'il n'a jamais vus : quelles formules incluent les exportations, combien de temps dure un lien partagé, comment s'appelle un paramètre. Les évaluations le montrent clairement : un tel modèle obtient de bons scores sur le ton et le format, mais de mauvais résultats sur l'exactitude. Les faits se trouvent généralement dans des documents : articles d'aide, manuels, pages de produits.

La génération de questions-réponses réécrit ces documents dans le format que l'entraînement supervisé comprend. Un modèle lit chaque section du texte et rédige quelques paires de questions-réponses à son sujet. Ces paires rejoignent votre jeu de données comme des exemples ordinaires, de sorte que les faits parviennent au modèle par la même préparation, le même entraînement et la même évaluation que vos conversations.

Pourquoi ne pas simplement s'entraîner sur le texte lui-même ? La recherche suggère que les modèles apprennent mal les faits à partir d'une seule copie. Ovadia et al. (2023) ont découvert que les modèles « peinent à apprendre de nouvelles informations factuelles par le biais d'un fine-tuning non supervisé » et que voir de nombreuses variations du même fait aide. Yang et al. (2024) notent qu'un modèle doit voir un fait dans « des centaines à des milliers de représentations diverses » pour l'apprendre lors du pré-entraînement. Des questions formulées avec des mots différents constituent exactement de telles variations, et elles apprennent également au modèle à retrouver le fait lorsqu'on le lui demande.

Intégrer des documents dans un jeu de données

  • Téléversez des fichiers : PDF, Word, PowerPoint, texte, Markdown ou HTML.
  • Sélectionnez des fichiers déjà dans Scalata ; leur texte extrait est réutilisé.
  • Collez des adresses de pages web. Uniquement des pages publiques : le texte principal est conservé, tandis que les menus et les pieds de page sont ignorés. Les adresses pointant vers votre réseau interne sont refusées.
  • Importez les lignes de texte brut d'un jeu de données Hugging Face (pages web, livres…). Les lignes sont fusionnées en documents pouvant atteindre 40 000 caractères.
  • Sélectionnez des fichiers depuis une source de données connectée telle que Google Drive, OneDrive, Amazon S3 ou Snowflake. Seuls les documents lisibles sont répertoriés, les fichiers de plus de 50 Mo ne peuvent pas être sélectionnés, et la source est uniquement lue, jamais modifiée.

Le texte de chaque document est lu une fois et peut être vérifié avec Voir le texte avant d'être utilisé. Cette vérification vaut bien une minute : un PDF numérisé avec un texte de mauvaise qualité, ou une page qui est principalement constituée de navigation, donne de mauvaises questions.

Fonctionnement

  1. Découpé en sections. Le texte est divisé en sections d'environ 900 mots. Les sections voisines se chevauchent légèrement, de sorte qu'un fait qui tombe sur une limite apparaît en entier dans au moins l'une d'entre elles.
  2. Lu une section à la fois. Le modèle générateur que vous choisissez lit une section et rédige quelques paires de questions-réponses réalistes.
  3. Des questions comme celles des utilisateurs. Elles sont formulées de la manière dont les gens écrivent réellement (« comment je partage ça »), et non comme des questions d'examen.
  4. Des réponses issues uniquement de la section. Le générateur ne peut utiliser aucun fait qui ne figure pas dans le texte qu'il a sous les yeux. Une section sans matière à questionner, comme une liste de références, ne donne aucune question.
  5. Votre ton. Si le jeu de données contient déjà des conversations, quelques réponses réelles sont montrées au générateur afin que les réponses reflètent le ton de votre produit.
  6. Des exemples ordinaires. Les paires atterrissent dans le jeu de données, où vous pouvez les réviser, les modifier ou les supprimer avant la préparation.
ARTICLE D'AIDE · 2 500 MOTSsection 1section 2section 3chevauchementchevauchement
de la section 1comment puis-je partager un rapport avec un client ?Ouvrez le rapport → Partager → choisissez le client.
de la section 2le client a-t-il besoin d'un compte pour l'ouvrir ?Non. Le lien s'ouvre sans compte et expire après 7 jours.
de la section 3puis-je arrêter le partage plus tardOui. Partager → Gérer les liens → Révoquer.
Un article devient un ensemble d'exemples d'entraînement. Le texte est découpé en sections d'environ 900 mots ; les sections adjacentes partagent un peu de texte (grisé), afin qu'un fait situé à la limite soit vu dans son intégralité. Un modèle lit chaque section et rédige des questions telles que les utilisateurs les saisissent, avec des réponses tirées uniquement de cette section. L'article et les paires sont donnés à titre d'exemple.
Une paire générée, comme exemple d'entraînement
{"messages": [
  {"role": "user",      "content": "does the client need an account to open a shared report?"},
  {"role": "assistant", "content": "No. The link opens without an account and expires after 7 days. You can revoke it any time under Share → Manage links."}
]}
Un article d'aide, de bout en bout (à titre d'illustration)
  1. Un article de 2 500 mots sur le partage de rapports est ajouté au jeu de données. L'aperçu du texte affiche des paragraphes propres, il est donc prêt.
  2. Il est découpé en trois sections : mots 1 à 900, 800 à 1 700 et 1 600 à 2 500. La phrase concernant l'expiration des liens après 7 jours se trouve au mot 850, elle apparaît donc en entier dans la section 1 et la section 2.
  3. Le générateur rédige trois paires par section : neuf exemples. L'une des questions est « le client a-t-il besoin d'un compte pour l'ouvrir ? », avec une réponse tirée uniquement de la section 2.
  4. Vous vérifiez les neuf exemples et corrigez une réponse qui confondait deux paramètres. Vérifiez un échantillon à chaque exécution : une réponse générée ne vaut que par la section dont elle est issue.
  5. Les neuf exemples s'entraînent avec vos conversations. Les scores d'exactitude de l'évaluation sur les questions de partage vous indiquent que cela a fonctionné.

Obtenir des paires de qualité

  • N'utilisez que des documents à jour. Les paires issues d'un manuel obsolète enseignent des faits obsolètes, avec assurance.
  • Privilégiez un texte propre. Les articles d'aide et les pages de produits fonctionnent le mieux ; les pages de tableaux, de références ou de navigation n'apportent pas grand-chose.
  • Mélangez avec de vraies conversations. Les paires générées apportent les faits ; les vraies conversations apportent le comportement à tours multiples et les cas particuliers que les utilisateurs rencontrent réellement.
  • Ne surchargez pas le modèle avec de nouveaux faits. Gekhman et al. (2024) ont découvert que les exemples de fine-tuning contenant des connaissances nouvelles pour le modèle sont assimilés plus lentement et, une fois appris, le rendent plus enclin aux hallucinations. Maintenez les réponses ancrées dans la réalité et envisagez la recherche d'informations pour les faits qui changent souvent.

Génération de questions-réponses ou pré-entraînement continu ?

ComparerQ&R généréesPré-entraînement continu
FournisseursTous les fournisseursHugging Face ; modèles ouverts Vertex AI
Texte requisFonctionne à partir de quelques pagesDes dizaines de milliers de mots ou plus
EnseigneDes faits, sous forme de réponsesConnaissances uniquement ; répondre nécessite un entraînement supervisé par la suite
Pouvez-vous le vérifier ?Oui, chaque paireUniquement le texte source

Choisissez les Q&R générées lorsque vous souhaitez de meilleures réponses rapidement et sur n'importe quel fournisseur. Choisissez le pré-entraînement continu lorsque vous disposez d'un vaste ensemble de documentation et que vous entraînez des modèles ouverts, idéalement suivi de Q&R générées ou d'un entraînement conversationnel qui s'inscrit dans sa continuité.

Paramètres

Taille de la sectionTypique Environ 900 mots, avec un léger chevauchement#

La quantité de texte que le générateur lit en une seule fois. Environ 900 mots, avec un léger chevauchement entre les sections voisines afin qu'un fait situé à la limite soit vu dans son intégralité. Des sections plus grandes donnent au générateur plus de contexte mais ont tendance à produire des questions uniquement sur les faits les plus marquants ; des sections plus petites couvrent les détails de manière plus uniforme mais perdent le contexte environnant.

Modèle générateurTypique Un modèle rapide et abordable qui suit bien les instructions#

Le modèle qui lit chaque section et rédige les paires. Un modèle performant suit la règle « répondre uniquement à partir de la section » de manière plus fiable et rédige des questions plus naturelles. La génération est un coût unique par document et est généralement faible par rapport à l'entraînement ; l'estimation est affichée avant de commencer.

Erreurs courantes

  • Ignorer la révision. Une réponse générée n'est aussi précise que sa section, et le générateur peut toujours confondre deux faits.
  • Fournir des documents obsolètes ou des brouillons. Le modèle apprend tout ce que dit le texte.
  • S'entraîner uniquement sur des paires générées. Sans véritables conversations, le modèle peut bien restituer les faits mais mal gérer les échanges réels.
  • Ne pas vérifier avec Voir le texte sur des fichiers numérisés ou fortement formatés, où le texte extrait peut être altéré.
  • Juger le résultat sur le ton. La génération de questions-réponses vise l'exactitude, lisez donc les scores d'exactitude de l'évaluation.

Références et lectures complémentaires

Les sources externes s'ouvrent dans un nouvel onglet.

  1. 01Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMsOvadia et al., 2023 · arXiv · arxiv.orgLes modèles apprennent mal les nouveaux faits à partir de texte brut ; de nombreuses variations d'un fait sont utiles.
  2. 02Synthetic continued pretrainingYang et al., 2024 · arXiv · arxiv.orgRéécrire un petit corpus en un texte synthétique beaucoup plus varié pour qu'un modèle puisse en apprendre.
  3. 03Physics of Language Models: Part 3.1, Knowledge Storage and ExtractionAllen-Zhu & Li, 2023 · arXiv · arxiv.orgExpériences contrôlées montrant que les connaissances doivent être vues sous des formes variées pour pouvoir être retrouvées par des questions.
  4. 04Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations?Gekhman et al., 2024 · arXiv · arxiv.orgPourquoi l'enseignement de nombreux faits nouveaux par le biais du fine-tuning peut augmenter les hallucinations.
  5. 05Instruction Pre-Training: Language Models are Supervised Multitask LearnersCheng et al., 2024 · arXiv · arxiv.orgEnrichir le texte brut avec des paires instruction-réponse générées pendant le pré-entraînement continu.
MéthodePré-entraînement continuLe pré-entraînement continu entraîne un modèle sur vos textes bruts de la même manière qu'il a été initialement formé : en prédisant le mot suivant. Il apporte des connaissances spécifiques à votre domaine, et non de nouveaux comportements, c'est pourquoi il est généralement suivi d'un cycle supervisé.MéthodeDonnées synthétiques et Générateur de jeux de donnéesComment un modèle performant peut rédiger les exemples de conversations que vous n'avez pas encore, et comment le brief, la planification, les vérifications et la révision du Générateur de jeux de données permettent de garder ces échanges variés, ancrés dans la réalité et sous votre contrôle.ConceptCe qu'est un jeu de donnéesUne collection nommée et figée d'exemples d'entraînement — copiés à partir de conversations, rédigés par un modèle ou importés — accompagnée de tout document servant à l'apprentissage : pourquoi il s'agit d'un instantané plutôt que d'un lien, et ce que cela implique pour les corrections, les importations et la reproductibilité.Bonne pratiqueCe qui fait un bon jeu de donnéesLes propriétés qui déterminent si le fine-tuning améliore un modèle — exact, cohérent, varié, ciblé et représentatif — et comment vérifier chacune d'elles avant l'entraînement.MéthodeAjustement fin supervisé (SFT)Le réglage fin supervisé enseigne à un modèle par l'exemple : on lui montre une conversation et la réponse que vous souhaitez, et ses poids sont ajustés pour que cette réponse devienne plus probable, jeton par jeton.ConceptPrompting, recherche ou affinageTrois façons d'adapter un modèle à votre cas d'usage : ce que chacune modifie, ce qu'elle coûte, et comment choisir entre elles ou les combiner.

Transformez des semaines de travail d'expert en quelques minutes

Découvrez comment Scalata s'adapte à votre équipe, à vos données et à vos contrôles.

Contacter le service commercial