Dans les coulisses de Migale #12

(message in english below)

Chers utilisatrices et utilisateurs,

Comme annoncé dans notre précédente newsletter, en ce printemps, nous faisons évoluer notre infrastructure informatique.

Pour les plus pressés d’entre vous, voici les éléments essentiels :

Interruption des accès en ligne de commande et de Rstudio entre le mardi 22 avril 15h et le mercredi 23 avril 12h.

• Le cluster de calcul est renouvelé de moitié avec des noeuds de calcul plus récents à tous les jobs du cluster seront interrompus le 22 avril à 15h au plus tard.
• Le serveur Rstudio est remplacé par un serveur plus puissant et plus récent.
• Le noeud de connexion frontal (front.migale.inrae.fr) est remplacé par un serveur plus récent.
• Tous les serveurs passent sous Ubuntu 24.04

Les accès aux autres ressources (Galaxy, site web de Migale, …) seront maintenus.

Plus de détails :

Changements matériels

La plateforme Migale fait évoluer son infrastructure pour répondre au mieux aux besoins de ses utilisateurs. Le cluster de calcul de la plateforme est actuellement composé de 50 noeuds de calcul, représentant 3292 coeurs, de 4 générations différentes.

Les noeuds de calcul les plus anciens vont donc être remplacés par 20 noeuds de calcul HPe 64 coeurs, 128 threads, 1 To de RAM. Ces serveurs sont équipés de processeurs AMD EPYC 7543 à 2,8 Ghz.

Avec la mise en service de ces machines, et en prenant en compte les deux machines « highmem » à 4 To récemment mises en service, nous allons ainsi passer à 4608 coeurs de calcul associés à près de 35 To de RAM.

Nous profitons de la mise à jour du cluster pour remplacer également le serveur Rstudio et le serveur frontal.

Les évolutions de notre infrastructure représentent un investissement d’environ 300 k€ financé à hauteur de 100 k€ par l’appel d’offre équipement lourd INRAE. Le reste de l’investissement est supporté par la plateforme (recettes propres et projets de recherche) et l’unité MaIAGE.

Changements systèmes

L’ensemble de notre infrastructure est actuellement sous Ubuntu 20.04 LTS. Nous profitons de l’installation des nouvelles machines pour mettre à jour l’ensemble de notre infrastructure sous Ubuntu 24.04. Ce changement de version de l’OS sera transparent pour vous.

En parallèle de la réinstallation du système, nous avons cependant dû réinstaller l’ensemble des outils disponibles (conda, paquets R) sur un nouveau serveur frontal connecté au nouveau cluster.

Ce frontal restera accessible par ssh à partir de l’adresse front.migale.inrae.fr ; les adresses des accès web (sites web, Galaxy, Rstudio) restent inchangées.

Concrètement, pour vous, utilisateurs et utilisatrices, cette bascule devrait être transparente en dehors des points suivants :

Du 14 au 18 avril :

• Certains noeuds de calcul seront progressivement retirés du cluster en vue de leur réinstallation et la bascule vers le nouveau cluster.

À partir de mardi 22 avril 15h :

• L’accès ssh au frontal font.migale.inrae.fr sera coupé.
• L’accès à Rstudio sera coupé.
• Les jobs en cours sur le cluster seront arrêtés.

Au plus tard le mercredi 23 avril 12h :

• Accès ssh au frontal rétabli par front.migale.inrae.fr
• Accès Rstudio mis à jour par l’URL habituelle https://rstudio.migale.inrae.fr
• Accès et soumission des jobs au nouveau cluster depuis le serveur front.

Les noeuds les plus récents de l’ancien cluster seront progressivement réinstallés sous Ubuntu et ajoutés au nouveau cluster de calcul au cours du mois d’avril.

Vos scripts de soumission devront éventuellement être mis à jour pour refléter la mise à jour des outils sous Conda.

N’hésitez pas à nous contacter (help-migale@inrae.fr) si vous avez des questions.

Migalement vôtre,

L’équipe

---

Dear users,

As announced in our previous newsletter, this spring we are upgrading our IT infrastructure.

For those in a hurry, here are the key points:

Online command-line and Rstudio access will be unavailable from Tuesday, April 22 at 3 PM until Wednesday, April 23 at 12 PM.

• Half of the computing cluster is being replaced with newer computing nodes à All cluster jobs will be shut down by 3pm on 22 April at the latest.
• The Rstudio server is being replaced with a more powerful and modern server.
• The front-end connection node (front.migale.inrae.fr) is being upgraded to a newer server.
• All servers will transition to Ubuntu 24.04.

Access to other resources (Galaxy, Migale website, etc.) will remain available.

More Details:

Hardware Changes

The Migale platform is upgrading its infrastructure to better meet user needs. The platform’s computing cluster currently consists of 50 computing nodes with a total of 3,292 cores across four generations.

The oldest nodes will be replaced by 20 HPe computing nodes with 64 cores, 128 threads, and 1 TB of RAM each. These servers are equipped with AMD EPYC 7543 processors running at 2.8 GHz.

With these new machines and the recent addition of two “high-memory” machines with 4 TB each, the cluster will now offer 4,608 cores and nearly 35 TB of RAM.

This upgrade also includes replacing the Rstudio server and the front-end server.

The infrastructure improvements represent an investment of approximately €300,000, funded by €100,000 from the INRAE heavy equipment call for proposals, with the remainder covered by the MIGALE platform (own revenues and research projects) and the MaIAGE unit.

System Changes

Currently, our infrastructure runs on Ubuntu 20.04 LTS. With the installation of new machines, we are upgrading all systems to Ubuntu 24.04. This OS update will be seamless for users.

However, during the system reinstallation process, all tools (Conda packages, R packages) had to be reinstalled on a new front-end server connected to the updated cluster. This front-end server will remain accessible via SSH at front.migale.inrae.fr; web access addresses (websites, Galaxy, Rstudio) remain unchanged.

Impact on Users:

This transition should be transparent for you except for the following:

From April 14 to April 18:

• Some computing nodes will be gradually removed from the cluster for reinstallation and integration into the new cluster.

Starting Tuesday, April 22 at 3:00 PM:

• SSH access to front.migale.inrae.fr will be disabled.
• Rstudio access will be disabled.
• Ongoing jobs on the cluster will be terminated.

By Wednesday, April 23 at 12:00 PM:

• SSH access to the front-end server will be restored via front.migale.inrae.fr.
• Updated Rstudio access will be available at the usual URL: https://rstudio.migale.inrae.fr.
• Access and job submission to the new cluster will resume from the front-end server.

The newest nodes from the old cluster will be progressively reinstalled under Ubuntu and added to the new computing cluster throughout April. Your submission scripts may need updates to reflect changes in Conda tools.

Feel free to contact us at help-migale@inrae.fr if you have any questions.

Best regards,

Team