Image
Rochers et clarté - Équilibre naturel 2021

COHERE, MISTRAL et l'IA multi-modèles

Sous-titre
Souveraineté des données, spécialisation des agents et économie d'énergie

La souveraineté numérique ne repose pas sur un modèle unique, mais sur une orchestration intelligente. En combinant plusieurs intelligences spécialisées, nous divisons la consommation d'énergie et les coûts par dix, tout en éliminant les risques de panne grâce à des systèmes de secours automatiques (fallbacks).

Pour les tâches lourdes d'analyse et de recherche, nous utilisons Google Gemini sur des serveurs canadiens sécurisés, sous contrat strict de respect de nos lois. L'information y transite de manière éphémère sans jamais y être stockée. Son immense avantage réside dans son système de cache partagé, qui réduit drastiquement les coûts de consultation des règlements municipaux.

Les modèles canadiens et français utilisés intelligemment

Les tâches de rédaction ne tirent pas avantage de la mise en mémoire cache ou ne nécessitent pas de grosses mise en contexte ou d'appels d'outils complexes. C'est pourquoi on a déjà un concept de micro-agents qui divisent encore les coûts. Ce n'est que le début!

L'avenir de Solutions Zen passe par l'intégration native de modèles francophones et canadiens de premier plan. L'arrivée de MISTRAL AI (France) et de COHERE (Canada) permettra d'élever encore la qualité rédactionnelle tout en réduisant notre dépendance technologique. De plus, des études sont en cours pour intégrer l'indexation vectorielle (embedding) de Cohere, reconnue mondialement comme la plus performante pour la recherche sémantique (RAG) dans les documents administratifs.

Texte supplémentaire

Plus fort ensemble que séparément

Dans un modèle multi-agent, ce serait impensable voir ridicule d'utiliser un modèle à plein prix comme chef d'orchestre, à chaque question. C'est pourquoi Gemini offre des avantages uniques non discutables. Zénon peut même basculer sur un modèle moins dispendieux si il détecte que la tâche demandée ne demande rien de compliqué. 

Cependant sa rédaction est plus dispendieuse que d'autres modèles et utilisent des expressions francophones moins adaptées à la réalité québécoise, c'est pourquoi nous avons très hâte de concevoir la suite! 

Zénon : Assistant virtuel
Je vous écoute... Posez votre question!
Zénon est une IA et peut se tromper.