Construire un produit d’IA fiable : L’exemple de Vedder, la plateforme Text-to-Insights de Spotify

Chez Spotify, nous avons lancé Vedder, un outil interne qui transforme les questions en langage naturel en requêtes SQL fiables (text-to-SQL), utilisées chaque jour par les équipes data. Ce projet est né d’un besoin simple : rendre la donnée accessible à tous, de manière fiable et avec une réelle garantie de qualité des réponses.Le text-to-SQL est un sujet bien connu, mais le maîtriser à l’échelle de toutes les données d’une entreprise est un défi considérable. Expliquer comment nous avons construit Vedder, c’est raconter comment on construit un produit d’IA fondé sur des modèles de langage (LLMs).Dans ce talk, je partagerai l’expérience d’un PM sur un produit IA et quelques messages clés :• Commencer petit, apprendre, puis scaler : comment nous avons transformé une expérimentation en produit adopté à grande échelle.• Ajouter de la certitude dans les LLMs : la mise en place d’évaluations continues pour fiabiliser les résultats.• Impliquer les utilisateurs dans l’apprentissage : la curation collaborative de données par les experts métier.• Mesurer le ROI d’un produit IA : gains de productivité, nouveaux types d’utilisateurs et adoption organisationnelle.Enfin, j’aborderai les évolutions possibles et comment s’y projeter :• Les perspectives du context retrieval et la connexion avec le savoir collectif de l’entreprise pour passer du text-to-SQL au text-to-insights.• Et la question stratégique : comment ces produits d’IA internes peuvent se différencier durablement face aux grands fournisseurs de LLMs comme OpenAI ou Anthropic.