GDG #33 : Réduire la latence des Agents et des LLMs en production : Architecture AIOps & LLMOps

Name: GDG #33 : Réduire la latence des Agents et des LLMs en production : Architecture AIOps & LLMOps
Start: 2026-04-23T18:30:00+02:00
End: 2026-04-23T20:30:00+02:00
Location: Le Village By CA Le Mans

Le Village By CA Le Mans, 19 Boulevard Marie et Alexandre Oyon, Le Mans, 72100

GDG Le Mans

💡 Vous déployez des LLMs ou des agents en production… et la latence explose sous charge ?🎯 Au programme : les patterns d...

Apr 23, 4:30 – 6:30 PM (UTC)

17 RSVP'd

Key Themes

About this event

💡 Vous déployez des LLMs ou des agents en production… et la latence explose sous charge ?
🎯 Au programme : les patterns d’architecture AIOps et LLMOps pour reprendre le contrôle sur la latence :
→ caching sémantique
→ routing multi-modèles
→ streaming (SSE)
→ observabilité
→ redimensionnement du serveur
→ gestion des workers
→ évaluation continue