A
Amazon Comprehend
Service NLP natif AWS entièrement géré, spécialisé dans l'analyse de sentiments, l'extraction d'entités nommées et la classification de texte sans expertise ML requise.
Une entreprise utilise Amazon Comprehend pour analyser automatiquement les avis clients et détecter les sentiments positifs ou négatifs.
Amazon Textract
Service AWS d'extraction de texte, tableaux et formulaires à partir de documents scannés ou de PDFs, produisant un contenu structuré exploitable pour des pipelines RAG.
Avant d'indexer des manuels PDF dans une Knowledge Base Bedrock, on utilise Amazon Textract pour convertir les pages scannées en texte structuré.
Amazon Titan Multimodal Embeddings
Modèle disponible via Amazon Bedrock qui génère des vecteurs numériques unifiés à partir de texte et d'images simultanément, permettant la recherche vectorielle cross-modale.
Une application de recherche de produits utilise Amazon Titan Multimodal Embeddings pour retrouver des articles correspondant à une requête mixte texte et photo.
Amazon Transcribe
Service AWS de conversion parole-texte (Speech-to-Text) utilisé comme étape préalable obligatoire avant tout traitement NLP sur des enregistrements audio.
Les appels audio de clients sont d'abord traités par Amazon Transcribe avant d'être analysés par Amazon Comprehend pour en extraire les sentiments.
Asynchronous Inference
Mode d'inférence SageMaker conçu pour les requêtes longues (jusqu'à 1 heure) et les payloads volumineux (jusqu'à 1 Go), où le client soumet la demande et récupère le résultat via une URL S3.
Un pipeline de traitement vidéo soumet des fichiers de 500 Mo à SageMaker en mode Asynchronous Inference et récupère les prédictions dans S3 sans timeout.
Average Response Time
Métrique mesurant le délai moyen entre l'envoi d'une requête et la réception de la réponse d'un modèle en production, indicateur clé de la performance opérationnelle runtime.
L'équipe MLOps surveille l'Average Response Time de l'endpoint Bedrock pour s'assurer que la latence reste sous 2 secondes en production.
B
Batch Transform
Mode SageMaker optimisé pour traiter de grands volumes de données en inférence offline asynchrone sur des fichiers stockés dans S3, sans infrastructure endpoint persistante.
Pour générer des prédictions sur des millions de transactions historiques stockées sur S3, on utilise SageMaker Batch Transform plutôt qu'un endpoint temps réel.
Bedrock Invocation Logging
Fonctionnalité Amazon Bedrock qui capture automatiquement le contenu détaillé des prompts (inputs) et des réponses (outputs) des appels API aux modèles, à activer explicitement pour l'audit et la conformité.
Pour auditer les interactions d'un chatbot médical, l'équipe active le Bedrock Invocation Logging afin d'enregistrer chaque prompt et réponse générée.
BLEU Score
Métrique standard d'évaluation automatique de la traduction automatique mesurant la similarité entre la traduction générée et des références humaines via la comparaison de n-grammes.
L'équipe NLP mesure le BLEU Score de leur modèle de traduction français-anglais en le comparant à des traductions humaines de référence.
C
Containment Rate
KPI mesurant le pourcentage d'interactions résolues entièrement par un chatbot sans escalade vers un agent humain, indicateur direct du taux d'automatisation.
Après le déploiement d'un chatbot LLM dans un centre d'appels, le Containment Rate passe de 40 % à 75 %, réduisant significativement les interventions humaines.
D
Data Drift
Phénomène de décalage statistique entre la distribution des données d'entraînement et celles observées en production, principale cause de dégradation des performances d'un modèle ML déployé.
SageMaker Model Monitor détecte un Data Drift sur les features d'un modèle de scoring crédit, déclenchant automatiquement un pipeline de réentraînement.
F
Fenêtre de contexte
Limite maximale de tokens qu'un modèle de fondation peut traiter en entrée et sortie combinées, déterminant directement la longueur maximale d'un prompt accepté.
Pour interroger un manuel de 500 pages, l'équipe utilise RAG plutôt que d'inclure tout le document dans le prompt, car la fenêtre de contexte du FM est insuffisante.
G
Guardrails for Amazon Bedrock
Service de sécurité Bedrock permettant d'implémenter des politiques de filtrage personnalisables sur les entrées et sorties des modèles IA, incluant la détection de toxicité, la protection des PII et les listes de blocage thématiques.
Une application éducative pour enfants configure des Guardrails for Amazon Bedrock pour bloquer tout contenu violent ou adulte généré par le LLM.
K
Knowledge Base (Amazon Bedrock)
Fonctionnalité managée d'Amazon Bedrock implémentant le pattern RAG, qui indexe des documents externes et injecte automatiquement dans le prompt uniquement les passages pertinents lors de l'inférence, réduisant les coûts de tokens.
Une entreprise charge ses 200 manuels techniques PDF dans une Knowledge Base Bedrock pour permettre à ses techniciens de poser des questions précises sans dépasser la fenêtre de contexte.
L
Least Privilege (Principe du moindre privilège)
Principe de sécurité IAM consistant à accorder à chaque entité uniquement les permissions minimales nécessaires à l'exécution de ses tâches, limitant l'impact d'une compromission.
Chaque équipe métier reçoit un rôle IAM dédié avec uniquement les permissions bedrock:InvokeModel nécessaires, sans accès admin partagé.
P
Partial Dependence Plots (PDPs)
Visualisations d'explicabilité montrant l'effet marginal moyen d'une feature sur les prédictions d'un modèle en maintenant les autres variables constantes, améliorant la transparence des modèles.
L'équipe Data Science utilise des PDPs pour expliquer à des médecins comment l'âge du patient influence les prédictions de risque cardiaque du modèle.
Prompt Engineering
Technique de formulation précise des instructions données à un LLM pour contrôler directement le style, la langue, la longueur et le ton des réponses, sans modifier le modèle ni engager de coûts d'infrastructure.
Pour obtenir des réponses en français en moins de deux phrases, l'équipe applique du Prompt Engineering en ajoutant l'instruction explicite dans le système prompt du chatbot.
Provisioned Throughput
Mode de facturation Amazon Bedrock qui alloue une capacité de traitement dédiée et garantie, obligatoire pour accéder à des modèles de fondation personnalisés (fine-tuned) via l'API Bedrock.
Après avoir fine-tuné un modèle Bedrock sur des données médicales propriétaires, l'équipe configure un Provisioned Throughput pour garantir une latence stable en production.
R
RAG (Retrieval-Augmented Generation)
Architecture combinant une étape de récupération de documents pertinents depuis une base vectorielle avec la génération d'un LLM, permettant d'enrichir le prompt avec du contexte externe sans fine-tuning.
Un chatbot juridique utilise RAG pour récupérer dynamiquement les articles de loi pertinents avant de générer une réponse précise et contextualisée.
S
SageMaker Clarify
Outil SageMaker spécialisé dans la détection des biais dans les datasets et l'explicabilité des modèles ML via des métriques SHAP, LIME et des rapports d'équité par démographie.
Avant de déployer un modèle de scoring de crédit, l'équipe utilise SageMaker Clarify pour vérifier l'absence de biais discriminatoire selon l'origine ethnique des demandeurs.
SageMaker Feature Store
Référentiel centralisé SageMaker permettant de stocker, versionner et partager des features engineered entre équipes et pipelines ML, garantissant la cohérence entre entraînement et inférence.
Plusieurs équipes data science partagent les mêmes features de comportement client via le SageMaker Feature Store pour assurer la reproductibilité de leurs modèles.
SageMaker Ground Truth Plus
Service managé AWS combinant l'annotation humaine experte avec une révision qualité intégrée via une boucle humain-machine itérative, réduisant les erreurs d'annotation en production.
Pour annoter 100 000 images de défauts industriels, l'équipe utilise SageMaker Ground Truth Plus afin d'assurer la qualité des labels via une validation humaine systématique.
SageMaker JumpStart
Hub de modèles de fondation et de solutions sectorielles pré-entraînés d'AWS, déployables instantanément dans un VPC avec code d'exemple intégré, accélérant la mise en production.
Une startup déploie en quelques clics un modèle de génération de texte via SageMaker JumpStart directement dans son VPC sécurisé sans repartir de zéro.
T
Transfer Learning
Technique ML réutilisant les poids pré-entraînés d'un modèle sur de larges données pour l'affiner (fine-tuning) sur un domaine spécifique, accélérant la convergence et réduisant les données nécessaires.
Une entreprise pharmaceutique applique le Transfer Learning sur un FM médical pré-entraîné pour l'adapter à la classification de comptes-rendus d'hospitalisation avec seulement 5 000 exemples.
V
VPC Endpoint / AWS PrivateLink
Mécanisme réseau AWS créant une interface réseau privée (ENI) dans un VPC pour accéder à des services AWS comme Bedrock sans transiter par Internet, répondant aux contraintes réglementaires de trafic privé.
Une banque configure un VPC Endpoint via AWS PrivateLink pour que son application Bedrock communique sans jamais exposer le trafic sur Internet public.