Rendre l'IA accessible au grand public en toute sécurité avec HAProxy

La situation

En tant que fournisseur de plate-forme pour le déploiement de l'intelligence artificielle, Modzy permet à ses clients de mettre en production des services d'IA développés en laboratoire, puis de faire évoluer, surveiller et améliorer leurs opérations. Cela répondait à un besoin dans le secteur des services d'apprentissage automatique d'une structure de déploiement qui allégeait l'ingénierie côté client, permettant aux clients de profiter des avantages de l'intelligence artificielle à grande échelle sans se soucier de son déploiement et de sa maintenance.

Après une ronde de financement de démarrage et plusieurs années de création de la structure de leur plateforme, l'équipe de Modzy cherchait à créer un système de test gratuit pour les clients potentiels pour accompagner le dévoilement de leur suite de produits. Cependant, comme le savait bien le responsable de l’ingénierie chez Modzy Nathan Mellis, exposer toute infrastructure à Internet comporte des risques inhérents. L’équipe a donc décidé de créer une infrastructure hautement disponible avec la sécurité comme priorité absolue pour commencer à exposer sa plateforme au monde entier.

Les objectifs

Nathan et l'équipe de Modzy avaient un ensemble détaillé d'exigences qui répondraient à leurs besoins en matière de sécurité. Celles-ci comprenaient la protection du trafic utilisateur avec HTTPS, la mise en œuvre d'un pare-feu d'application Web, la restriction de l'accès à certaines régions géographiques et l'activation de la limitation du débit.

Nathan a finalement opté pour un cluster d'équilibreurs de charge HAProxy Enterprise pour les options de sécurité les plus sophistiquées disponibles. Il s'agit notamment du WAF avancé et de sa capacité à prendre en charge des ensembles de règles plus complexes, ainsi que d'autres fonctionnalités telles que des listes noires en temps réel pour les adresses IP des botnets et une granularité accrue du filtrage GeoIP. En combinaison avec la mise en œuvre de tables stick pour la limitation du débit et un SSL amélioré avec indication du nom du serveur, l'équipe d'ingénierie a bien dormi en sachant qu'elle disposait d'un visage sécurisé pour sa nouvelle plate-forme.

Nathan a également profité de l'observabilité inégalée de HAProxy Enterprise en utilisant un processeur de journalisation et de métriques Fluent Bit. Cela a converti et exporté les journaux de l'équilibreur vers l'outil SIEM de son choix, offrant à l'équipe une fenêtre claire sur les opérations et les alertes du système d'équilibrage de charge.

La solution

Afin de déployer ce système, les ingénieurs de Modzy ont décidé d'utiliser une approche d'infrastructure en tant que code pour provisionner et gérer leurs différentes parties du réseau. La mise en œuvre de HashiCorp Packer pour créer une image de machine virtuelle HAProxy Enterprise – avec Fluent Bit, des plugins de configuration de journalisation et de sécurité préchargés – aux côtés de HashiCorp Terraform pour générer de nouveaux fichiers de configuration en cas de besoin, signifiait que les mises à jour du système étaient transparentes.

HashiCorp Terraform auto-generates these new files as new custom domain names are created for each customer, writing and saving them to an S3 bucket. The new settings are subsequently added to the load balancer by a cron sync, and by taking advantage of HAProxy Enterprise’s hitless reloads the load balancer restarts itself without losing any connections, resulting in a fully self-sustaining and highly available network.

HashiCorp Terraform génère automatiquement ces nouveaux fichiers à mesure que de nouveaux noms de domaine personnalisés sont créés pour chaque client, en les écrivant et en les enregistrant dans un compartiment S3. Les nouveaux paramètres sont ensuite ajoutés à l'équilibreur de charge par une synchronisation cron, et en tirant parti des rechargements sans coup sûr de HAProxy Enterprise, l'équilibreur de charge redémarre tout seul sans perdre aucune connexion, ce qui donne lieu à un réseau entièrement autonome et hautement disponible.

Les résultats

L'équipe Modzy a également profité de la documentation complète et des didacticiels Web fournis avec la suite de produits HAProxy Enterprise pour concevoir la structure de leurs instances HAProxy Enterprise dans un sous-réseau privé hébergé par AWS, directement basée sur une conception recommandée par les ingénieurs de support de HAProxy Technology. Nathan a également trouvé son dialogue avec l'équipe d'assistance extrêmement utile dans la configuration de leur système, ce qui signifie une plate-forme d'essai gratuite très réussie pour leurs services d'IA. Le résultat a été un système qui a utilisé la puissance de HAProxy Enterprise pour assurer la sécurité et l’observabilité du niveau gratuit de leur service, finalement utilisé pour convertir les clients vers leurs offres d’entreprise.

Ce que HAProxy Entreprise vous apporte

Que vous ayez besoin d'une observabilité supérieure, d'une protection contre les menaces basées sur le web ou simplement d'un équilibreur de charge pouvant s'intégrer à une plateforme personnalisée, HAProxy Enterprise est le meilleur dans son domaine. Ayant récemment dépassé la barre des 2 millions de requêtes HTTP par seconde, vous pouvez fournir vos propres applications à des vitesses inégalées avec HAProxy Enterprise. Contactez-nous pour en savoir plus.

Pour en savoir plus sur les cas d'utilisation de HAProxy, consultez la page Exemples de réussite.