Infra & Cloud, faire tourner l’IA, une infra prête et opérée

Tout est infrastructure-as-code (Terraform), modularisé et versionné, avec un état distant verrouillé et une détection de dérive systématique : la console n'est jamais la source de vérité. Les environnements sont reproductibles par construction (modules paramétrés, landing zones, politiques de comptes), ce qui rend le provisioning d'un nouvel environnement déterministe et auditable. Pour les images, nous privilégions l'immuabilité (Packer) : on remplace, on ne patche pas en place.

Sur Kubernetes (ou OpenShift), la topologie est pensée pour la résilience et le coût : répartition multi-AZ, node pools différenciés (dont GPU pour les charges IA), requests/limits calibrés sur la consommation réelle, et autoscaling à plusieurs niveaux, HPA/VPA pour les pods, autoscaler de nœuds, et KEDA pour le scaling événementiel des charges asynchrones. Le réseau (CNI, NetworkPolicies), les secrets (Vault, jamais en clair dans les manifests) et la gestion d'identité des workloads sont traités dès la conception, pas ajoutés après coup.

La livraison suit le modèle GitOps : l'état désiré vit dans Git, ArgoCD (ou Flux) réconcilie le cluster en continu, ce qui donne traçabilité, rollback et cohérence multi-cluster. Les pipelines CI/CD intègrent les contrôles qualité et sécurité comme des portes bloquantes (lint, tests, scan d'images, policy-as-code via OPA / Kyverno), pour que la conformité soit vérifiée à chaque changement plutôt qu'auditée trop tard.

Côté AIOps, l'objectif n'est pas « mettre de l'IA pour faire moderne », mais traiter trois problèmes concrets. La détection d'anomalies (Elastic ML) repère les dérives que des seuils statiques manquent. La corrélation et le regroupement d'événements réduisent la fatigue d'alerte : on transforme une tempête de centaines d'alertes en quelques incidents exploitables, reliés à une cause probable. Enfin, l'automatisation des réponses récurrentes (remédiation guidée par runbook, intégrée au SOAR / à l'ordonnanceur, voir notre offre [API & MFT / Orchestration](/offres/orchestration-mft)) raccourcit le MTTR sur les cas connus, en gardant l'humain dans la boucle pour les décisions à risque. Le préalable, c'est une observabilité saine : sans données propres et corrélées, l'AIOps amplifie le bruit au lieu de le réduire.

Côté FinOps, nous installons la boucle inform → optimize → operate. *Inform* : allocation et showback/chargeback des coûts (Kubecost pour Kubernetes, tags et comptes pour le cloud), pour que chaque équipe voie sa consommation. *Optimize* : rightsizing fondé sur l'usage réel, recours aux instances spot et aux plans d'engagement (savings plans / reserved), arrêt des ressources dormantes, et surtout pilotage de l'utilisation GPU, le poste le plus coûteux et le plus gaspillé des charges IA. *Operate* : suivi d'unit economics (coût par inférence, par job, par utilisateur actif), budgets et alertes de dépassement, intégrés à la gouvernance.

Le SRE commence par des SLI/SLO formulés du point de vue de l'utilisateur (disponibilité, latence p99, fraîcheur) et des budgets d'erreur qui arbitrent réellement : tant qu'il reste du budget, on accélère ; quand il est consommé, on stabilise. Cette mécanique, pour fonctionner, doit avoir des conséquences réelles sur le delivery, sinon c'est de la décoration. Nous réduisons le toil par l'automatisation, gérons les incidents avec une vraie chaîne (PagerDuty, astreinte, postmortems sans blâme), et industrialisons les runbooks (Rundeck, StackStorm, Ansible) pour que la réponse aux cas connus soit rapide et reproductible.

La résilience se vérifie : ingénierie du chaos (Litmus, Gremlin) pour valider les hypothèses de panne avant qu'elles ne se réalisent, tests de reprise et de réversibilité, et observabilité bas niveau (eBPF) pour comprendre le comportement réel du système. La livraison passe par du progressive delivery (Argo Rollouts, Flagger) : canary et déploiements progressifs avec analyse automatique et rollback sur dégradation des SLI.

Le Platform Engineering, lui, traite la productivité comme un produit. Nous construisons un IDP (Internal Developer Platform, souvent autour de Backstage) qui expose des golden paths : des parcours self-service, sûrs par défaut, où provisionner un service, une base ou un pipeline conforme prend des minutes, pas des tickets. Crossplane et Cluster API industrialisent le provisioning d'infrastructure et de clusters ; le service mesh (Istio, Linkerd) gère mTLS, routage et résilience au niveau réseau sans alourdir le code applicatif. L'objectif : réduire la charge cognitive des équipes produit tout en gardant la conformité intégrée à la plateforme.