Amazon ES a été un service populaire pour l'analyse des journaux en raison de sa capacité à ingérer des volumes élevés de données de journaux. Les développeurs adoptent les logiciels open source pour de nombreuses raisons. L'une des raisons les plus importantes est la liberté d'utiliser ce logiciel où et comme ils le souhaitent. De plus, avec UltraWarm et les niveaux de stockage à froid, vous pouvez réduire les coûts à un dixième du stockage à chaud traditionnel sur Amazon ES. Comme Amazon ES s'intègre à Logstash, Amazon Kinesis Data Firehose, Amazon CloudWatch Logs et AWS IoT, il est possible de choisir l'outil d'ingestion de données sécurisé qui répond aux exigences de des cas d'utilisation.
Rappelons que, le lancement en 2015 d’une version cloud du logiciel de recherche, d'analyse et de surveillance a été perçu comme une concurrence déloyale pour Elasticsearch Inc, la société créée pour commercialiser le projet. Elasticsearch BV est entrée en bourse en 2018, mais ses relations avec AWS ne se sont pas améliorées. En mars 2019, AWS a effectivement bifurqué le projet Elasticsearch lorsqu'elle a publié sa propre version du logiciel sous le nom de Open Distro for Elasticsearch. Six mois plus tard, Elasticsearch Inc a déposé une plainte de marque contre AWS pour avoir utilisé son nom. Cette plainte fait toujours l'objet d'un litige.
En 2019, l'inquiétude qu'AWS ou une autre grande entreprise de services de cloud puisse lancer un service qui exploite le code open source sans partager la richesse était devenue généralisée parmi les startups qui tentent de créer des entreprises. Redis Labs et MongoDB ont tous deux essayé des licences logicielles alternatives pour se défendre contre la prédation des fournisseurs de cloud, mais la communauté open source n'a pas vraiment résolu le problème.
En janvier 2021, Shay Banon, PDG et cofondateur d'Elasticsearch BV, a annoncé que les projets ElasticSearch et Kibana abandonneraient la licence open source Apache 2.0 pour adopter de nouvelles licences, la licence Elastic et la Server Side Public License (SSPL) non open source. Elasticsearch est distribué ce qui signifie que les données stockées sont divisées en éclats (« shard » en anglais) sur un ou plusieurs nœuds. Afin de garantir la résilience, chaque éclat peut avoir zéro ou plusieurs répliques. Chaque nœud du cluster héberge un ou plusieurs éclats et agit en coordinateur pour déléguer les opérations au nœud qui contient le bon éclat. L'équilibrage et le routage sont réalisés automatiquement.
« Nous transférons notre code source sous licence Apache 2.0 dans Elasticsearch et Kibana vers une double licence sous Server Side Public License (SSPL) et sous Elastic License, donnant aux utilisateurs le choix de la licence à appliquer. Ce changement de licence garantit à notre communauté et à nos clients un accès libre et ouvert pour utiliser, modifier, redistribuer et collaborer sur le code. Cela protège également notre investissement continu dans le développement de produits que nous distribuons librement et en open source en empêchant les fournisseurs de services cloud d'offrir Elasticsearch et Kibana en tant que service sans contribuer en retour. Cela s'appliquera à toutes les branches maintenues de ces deux produits et aura lieu avant notre prochaine version 7.11. Nos versions continueront d'être sous la licence Elastic comme elles le sont depuis trois ans », expliquait alors Banon.
« Ce changement de licence du code source n'a aucun impact sur l'écrasante majorité de notre communauté d'utilisateurs qui utilise librement notre distribution par défaut. Cela n'a pas non plus d'impact sur nos clients cloud ou nos clients logiciels autogérés. Notre changement de licence vise à empêcher les entreprises de prendre nos produits Elasticsearch et Kibana et de les fournir directement en tant que service sans collaborer avec nous », avait-il ajouté. Voici, ci-dessous, un extrait de la plainte de ELASTICSEARCH contre Amazon.com et Amazon Web Services :
- Elasticsearch, Inc. et elasticsearch B.V. (collectivement "Elastic" intentent cette action pour remédier à la violation de la marque incontestable Elasticsearch d'Elastic par Amazon.com et Amazon Web Services, ainsi que des publicités mensongères ;
- Elastic est le créateur de la suite de produits Elastic Stack. Il est centré sur le populaire et puissant moteur de recherche et d'analyse. Au fil des années, Elastic a fait de son produit Elasticsearch le cœur d'une ligne de produits que des entreprises de premier plan comme Ebay, Adobe, Walmart, Optum, Cisco Systems et Facebook utilisent et dépendent. Comme l'indique le propre marketing du défendeur Amazon pour l'une de ses offres contrefaites, « Elasticsearch est devenu une technologie essentielle pour l'analyse des journaux et la recherche... » ;
- Amazon commercialise deux offres qui portent atteinte à la marque Elasticsearch : Amazon Elasticsearch Service ("AESS" et Open Distro for Elasticsearch ("Open Distro". AESS est un logiciel en tant que service ("SAAS" qu'Amazon commercialise en tant que « Fully managed, service Elasticsearch entièrement géré, évolutif et sécurisé ». Amazon commercialise Open Distro en tant que « distribution sous licence Apache 2.0 distribution sous licence Apache 2.0 d'Elasticsearch enrichie d'une sécurité d'entreprise, d'alertes, de SQL, etc. plus encore » ;
- Les marques d'Amazon pour AESS et Open Distro violent la marque Elasticsearch d'Elastic. Elasticsearch d'Elastic. En raison de l'utilisation trompeuse de la marque Elasticsearch par Amazon, les consommateurs de logiciels de recherche et d'analyse sont, au moins, susceptibles d'être confus quant à savoir si Elastic sponsorise ou approuve AESS et Open Distro ;
- L'utilisation trompeuse d'Elasticsearch par Amazon représente également de manière erronée la nature, les caractéristiques ou les qualités de l'AESS parce que, sur la base d'informations et de croyances, l'AESS (1) désactive certaines fonctionnalités disponibles à partir du site d'Elastic. En avril 2021, AWS a donné à son fork open source d'Elasticsearch et Kibana un nouveau nom, OpenSearch, et avait promis d'appliquer le changement de marque à Amazon Elasticsearch Service à un moment donné. L’entreprise a mis en exécution sa promesse le 8 de ce mois.
OpenSearch fournit un système hautement évolutif pour offrir un accès et une réponse rapides à de grands volumes de données avec un outil de visualisation intégré, OpenSearch Dashboards, qui permet aux utilisateurs d'explorer facilement leurs données. OpenSearch et OpenSearch Dashboards ont été initialement dérivés d'Elasticsearch 7.10.2 et de Kibana 7.10.2. Comme Elasticsearch et Apache Solr, OpenSearch est alimenté par la bibliothèque de recherche Apache Lucene.
« Aujourd'hui, nous renommons Amazon Elasticsearch Service en Amazon OpenSearch Service, car le service prend désormais en charge OpenSearch 1.0. Bien que le nom ait changé, nous continuerons à offrir les mêmes expériences sans aucun impact négatif sur les opérations en cours, la méthodologie de développement ou l'utilisation commerciale », a annoncé Amazon dans un billet de blog. « Nous avons décidé de créer et de maintenir OpenSearch, un fork communautaire et open source à partir de la dernière version ALv2 d'Elasticsearch et Kibana. Nous investissons à long terme dans le projet OpenSearch et avons récemment publié la version 1.0. », ajoute Amazon. OpenSearch offre les fonctionnalités suivantes qui n'étaient pas disponibles dans la version open-source d'Elasticsearch :
- sécurité avancée : offre des fonctions de cryptage, d'authentification, d'autorisation et d'audit. Elles incluent des intégrations avec Active Directory, LDAP, SAML, Kerberos, les jetons web JSON, et plus encore. OpenSearch offre également un contrôle d'accès aux index, aux documents et aux champs, basé sur les rôles et à granularité fine ;
- syntaxe des requêtes SQL : fournit la syntaxe familière des requêtes SQL Utilisez les agrégations, le regroupement et les clauses where pour étudier vos données. Lisez les données sous forme de documents JSON ou de tableaux CSV pour avoir la possibilité d'utiliser le format qui vous convient le mieux.
- rapports : programmez, exportez et partagez des rapports à partir de tableaux de bord, de recherches enregistrées, d'alertes et de visualisations.
- détection d'anomalies : utilisez la détection d'anomalies par apprentissage automatique basée sur l'algorithme Random Cut Forest (RCF) pour détecter automatiquement les anomalies au fur et à mesure de l'ingestion de vos données. Combinez-la avec des alertes pour surveiller les données en temps quasi réel et envoyer automatiquement des notifications d'alerte.
- gestion des index : définissez des politiques personnalisées pour automatiser les tâches courantes de gestion des index, telles que le renouvellement et la suppression, et appliquez-les aux index et aux modèles d'index, ainsi qu'aux transformations ;
- analyseur de performance et cadre RCA : interrogez de nombreuses métriques et agrégations de performance de cluster. Utilisez PerfTop, l'interface de ligne de commande (CLI) pour afficher et analyser rapidement ces métriques. Utilisez le cadre d'analyse des causes profondes (RCA) pour étudier les problèmes de performance et de fiabilité des clusters ;
- recherche asynchrone : exécutez des requêtes complexes sans vous soucier du délai d'exécution de la requête grâce aux requêtes de recherche asynchrone exécutées en arrière-plan. Suivez la progression des requêtes et récupérez les résultats partiels dès qu'ils sont disponibles ;
- trace Analytics : ingérer et visualiser les données OpenTelemetry pour les applications distribuées. Visualisez le flux d'événements entre ces applications pour identifier les problèmes de performance ;
- alertes : surveillez automatiquement les données et envoyez des notifications d'alerte aux parties prenantes. Grâce à une interface intuitive et une API puissante, vous pouvez facilement configurer, gérer et surveiller les alertes. Créez des conditions d'alerte très spécifiques à l'aide du langage de requête complet et des capacités de script d'OpenSearch ;
- recherche k-NN : grâce à l'apprentissage automatique, exécutez l'algorithme de recherche du plus proche voisin sur des milliards de documents dans des milliers de dimensions avec la même facilité qu'une requête OpenSearch classique. Utilisez des agrégations et des clauses de filtrage pour affiner les opérations de recherche par similarité. La recherche par similarité k-NN permet de réaliser des cas d'utilisation tels que les recommandations de produits, la détection des fraudes, la recherche d'images et de vidéos, la recherche de documents connexes, etc. ;
- langage de traitement : fournit une syntaxe de requête familière avec un ensemble complet de commandes délimitées par des tuyaux (|) pour interroger les données ;
- dashboard Notebooks : combine des tableaux de bord, des visualisations, du texte et d'autres éléments pour fournir un contexte et des explications détaillées lors de l'analyse des données.
Sources : Amazon, Court Listener
Et vous ?
Quels commentaires vous inspire la démarche d'Amazon dans sa collaboration avec Elastic ?
Que pensez-vous des améliorations apportées par OpenSearch ?
Voir aussi :
Amazon annonce Open Distro for Elasticsearch, une distribution à valeur ajoutée d'Elasticsearch, qui est 100 % open source
OpenSearch : un fork d'Elasticsearch et de Kibana développé par AWS pour ses propres besoins, le projet est la réponse d'AWS à la décision d'Elastic de basculer vers un système double licence
Elasticsearch va basculer vers un système de double licence dans les semaines à venir, suscitant la confusion de la communauté, un contributeur estimant même qu'Elastic n'est plus open source
AWS annonce la disponibilité générale d'OpenSearch 1.0, la première version majeure du fork d'Elasticsearch et de Kibana, qui est sous licence Apache 2.0
La recherche simplifiée : intégration native d'Elastic Search avec le Cloud Microsoft Azure, en avant-première