IA - RAG & génération
ChatGPT, Llama, Azure AI Search | TIBCO
On indexe vos contenus (PDF, SharePoint, Confluence) dans Azure AI Search avec un index hybride (vecteurs + BM25) et reranking ; on génère via Azure OpenAI (ChatGPT) ou Meta Llama (serving vLLM/ONNX, quantisation INT8/INT4).
DSI : cache, quotas, observabilité ; RSSI : politiques d’accès, citations et gardes-fous ; Décideur : réponses fiables et traçables. Livrables : pipeline d’ingest, schéma d’index, prompts, evals. KPI : EM/p@k, latence p95, coût/requête, taux de refus sûreté.
- DSI : intégration/quotas
- RSSI : accès & preuves
- Décideur : fiabilité/latence
Nous mettons en place
- Index AI Search
- Hybrid
- ChatGPT/Llama
Mise en œuvre & livrables
- Ingest
- Prompt
- Evals
- Dashboards
KPI
- EM/p@k
- P95
- Coût
- Sûreté
Domaines Data, Automation & IA