Bonjour,
si j'ai bien compris, tu n'as en fait pas besoin d'un ordonnanceur mais plutôt d'un gestionnaire de grille de calcul. Son rôle est justement de gérer les ressources du parc de nœuds de calcul en fonction de paramètres variés et qui peuvent dépendre de l'architecture de ceux-ci : nombre de CPUs, taille de la RAM, bande passante réseau, softs installés, ... On pense souvent qu'une grille de calcul est un outil dédié à du traitement intensif (HPC par exemple), alors que c'est en réalité un gestionnaire de ressource : il doit trouver un nœud capable d'exécuter la tâche soumise en fonction des contraintes de ladite tâche. Il peut également être couplé à un ordonnanceur pour la planification. Ce qui nous donne : - une tâche est planifiée : elle doit démarrer à telle heure, ou après telle autre. Il faut un scheduler. - comme par hasard, la tâche est en réalité une soumission à la grille de calcul. - le master de la grille analyse les contraintes de la tâche, les résoud et choisit parmi ses nœuds celui qui va exécuter réellement. - le nœud choisi exécute la tâche. Le mode d'exécution peut être synchrone (la commande de soumission ne rend la main qu'après la fin d'exécution de la tâche) ou asynchrone (la main est rendu dès que la soumission est acceptée, l'exécution se déroulant plus tard).
J'ai une bonne expérience de Open Grid Scheduler (http://gridscheduler.sourceforge.net/), fork de Sun Grid Engine (SGE). Pas d'évolution depuis 2011, mais pour l'instant ça ne me pose aucun problème. Un autre fork de SGE est Son of Grid Engine (https://arc.liv.ac.uk/trac/SGE) qui connaît plus d'activité mais sur lequel je n'ai pas d'expérience.
Et n'importe quel scheduler peut convenir, par exemple JobScheduler pour rester dans du libre, puisqu'on lui demande d'exécuter une commande à une heure donnée sans qu'il sache ce qu'il exécute. Peu lui importe que ce soit un "ls", une commande de compilation ou de soumission à une grille...
Patrice
-----Original Message----- From: FRsAG [mailto:frsag-bounces@frsag.org] On Behalf Of Alexandre Sent: Monday, June 19, 2017 2:59 PM To: Luc Didry luc@didry.org Cc: frsag@frsag.org Subject: Re: [FRsAG] Recherche ordonnanceur libre
Merci à tous pour vos réponses,
Si j'ai bien tout noté, voici la liste des différents outils que vous m'avez proposé :
chronos : https://mesos.github.io/chronos/ rundeck : http://rundeck.org/plugins/index.html metronome : https://github.com/dcos/metronome JobScheduler : http://www.sos-berlin.com/jobscheduler airflow : http://airflow.incubator.apache.org/ + outils : puppets, ansible
Je vous avouerai, je suis un peu perdu. Pour vous donner plus d'info, je souhaiterai quelque choses de centralisé qui puisse aiguiller les traitements. Je vais vous donner un peu plus de contexte.
Toutes nos machines sont en Linux basées sur des procédures d'installation pour respecter les versions des packages gérés par le système mais aussi des binaires développés et compilés maison. Toutes les machines sont génériques, avec des montages centralisés et peuvent effectuer les mm tâches (ou presque en fonctions des ressources physiques). Ces tâches seraient à dispatcher en fonction des ressources disponibles.
Pour faire très très simple :
->si tache 1 sur machine 1 OK |-> passe à la tache 2 sur machine 2 |-> et exécute la tâche 3 sur machine 3 en parralèle si l'ancien traitement de la machine 3 est fini sinon machine 4.
C'est très très simplifié mais c'est le besoin. Du coup il me faut une machine qui sache l'état des différents traitements et sous traitement pour pouvoir organiser / planifier / aiguiller notre chaine applicative.
Pensez-vous que JobScheduler / rundeck / chronos / metronome ... sont fait pour ca ? avez vous d'autres outils que je pourrais testés ? D'ailleurs je pourrais vous faire un retour si cela vous intéresse.
Par avance merci pour vos retours.
Alexandre.
On Wed, 07 Jun 2017 21:12:42 +0200 Luc Didry luc@didry.org wrote:
mercredi 7 juin 2017, 21:03:18 CEST Guillaume Tournat wrote:
Je n'ai pas du tout accroche Salt. Les packages Debian sont nuls (ils ne se mettent pas à jour par apt-cron), il faut 50 dépendances, qui changent à chaque version.
Et on ne sait jamais trop ce qu'il fait ou pas. Alors soit je m'y suis pris comme un pied, ce qui n'est pas à exclure, soit vraiment c'est nase.
Alors Ansible : il fonctionne sans agent, il se connecte en SSH aux serveurs.
_______________________________________________ Liste de diffusion du FRsAG http://www.frsag.org/ [http://corporate.airfrance.com/sites/default/images/af_logo_france-is-in-the...]http://www.airfrance.com --
Accédez aux meilleurs tarifs Air France, gérez vos réservations et enregistrez-vous en ligne sur http://www.airfrance.com Find best Air France fares, manage your reservations and check in online at http://www.airfrance.com ________________________________ Les données et renseignements contenus dans ce message peuvent être de nature confidentielle et soumis au secret professionnel et sont destinés à l'usage exclusif du destinataire dont les coordonnées figurent ci-dessus. Si vous recevez cette communication par erreur, nous vous demandons de ne pas la copier, l'utiliser ou la divulguer. Nous vous prions de notifier cette erreur à l'expéditeur et d'effacer immédiatement cette communication de votre système. Société Air France - Société anonyme au capital de 126 748 775 euros - RCS Bobigny (France) 420 495 178 - 45, rue de Paris, Tremblay-en-France, 95747 Roissy Charles de Gaulle CEDEX The data and information contained in this message may be confidential and subject to professional secrecy and are intended for the exclusive use of the recipient at the address shown above. If you receive this message by mistake, we ask you not to copy, use or disclose it. Please notify this error to the sender immediately and delete this message from your system. Société Air France - Limited company with capital of 126,748,775 euros - Bobigny register of companies (France) 420 495 178 - 45, rue de Paris, Tremblay-en-France, 95747 Roissy Charles de Gaulle CEDEX ________________________________ Pensez à l'environnement avant d'imprimer ce message. Think of the environment before printing this mail.