Vidéos complémentaires

Choisir entre le prompting, le RAG et le fine-tuning (et quand les combiner) — vidéos complémentaires

Les équipes continuent de se tromper dans cette décision — appliquer un fine-tuning alors que le véritable problème vient de la récupération, ou ajouter des couches de RAG lorsqu’un meilleur prompt suffirait. L’article fournit un cadre de décision ; ces deux présentations d’IBM Technology montrent le même cadre sur un tableau blanc, avec les comparaisons côte à côte. C’est utile pour exposer le même raisonnement à un collègue sceptique.

Choix principal

13:10

RAG, fine-tuning ou ingénierie des prompts : optimiser les modèles d’IA

IBM Technology

Cette présentation claire au tableau blanc compare les trois techniques et leurs coûts respectifs — latence de récupération, calcul nécessaire à l’entraînement, oubli catastrophique et limites des solutions fondées uniquement sur les prompts — ainsi que les combinaisons réellement pertinentes en production. L’exemple final d’un système d’IA juridique utilisant les trois correspond presque exactement à l’argument « quand les combiner » de l’article.

Ce que vous en retirerez: Choisir entre l’ingénierie des prompts, le RAG, le fine-tuning ou leur combinaison en fonction du véritable mode de défaillance.

À voir ou à connaître au préalable: Connaître les trois techniques à un niveau général.

Note d’AI Expert: C’est un cadre de décision stable. Utilisez-le avant d’acheter une infrastructure ou de lancer un projet de fine-tuning ; la plupart des mauvais choix proviennent d’un diagnostic erroné des problèmes de fraîcheur, d’attribution, de style ou de comportement.

Ouvrir la page vidéo

À voir également

8:57

RAG ou fine-tuning

IBM Technology

Cette vidéo se concentre sur les deux techniques que les équipes confondent le plus souvent. Elle approfondit la fraîcheur des données, l’attribution des sources et l’avantage de vitesse à l’inférence que peut apporter le fine-tuning. Elle mérite d’être regardée si vous cherchez précisément à déconseiller un projet de fine-tuning inutile.

Ce que vous en retirerez: Expliquer quand la récupération est la bonne solution et quand le fine-tuning pourrait effectivement aider.

À voir ou à connaître au préalable: Connaître le vocabulaire de base du RAG et du fine-tuning.

Note d’AI Expert: Utile pour les conversations avec les parties prenantes car il sépare la fraîcheur des connaissances du comportement du modèle. Vérifiez toujours les coûts actuels de fine-tuning, les modèles pris en charge et les contraintes de gouvernance des données avant de vous engager.

Ouvrir la page vidéo