Eulogia está completa. Con 32 nodos operativos, se terminó de armar este rompecabezas de muchas piezas armado por muchas personas.
La puesta en funcionamiento del nodo número 7 de Eulogia (knl07
) por parte del CPA-CONICET Marcos Mazzini, pone fin a un proceso de construcción de un cluster que marcó una época en el CCAD. Gestado a mediados de 2017 como el inicio del cluster que iba a reemplazar a Cristina por una fracción del costo y consumo, se fueron sumando partes y piezas.
En noviembre de 2017 ya estaba levantada una versión inicial donde también se incorporaron 8 nodos más con aportes del SNCAD. Un poco después, ya en 2018, se utilizaron fondos de PAMEG+PROMINF adjudicados a FaMAF para la compra de 4 nodos más a la firma Exxact de EEUU. En paralelo llegaron 4 nodos más que empezaron a comprarse en 2017, pero diferentes problemas hicieron que SIASA entregara en 2018, y que en realidad fueran los mismos 4 nodos que los anteriores.
Cuando Intel discontinuó el proyecto Larrabee, quedaron saldos de estos valiosos e interesantes equipos, tal como lo describe Matt Pharr en su «Elegy for Larrabee«, o Tom Forsyth en su «Why didn’t Larrabee failed?«. Carlos Bederían encontró una oferta y entre 2019 y 2020, pandemia mediante, llegaron 12 nodos más para completar Eulogia.
Todo 2020 y parte del 2021 se siguió completando la computadora. Los últimos nodos de oferta venían sin memoria, discos ni placas de red. La mayoría de las cosas se solucionó a través de compras comunitarias, una en 2020 y otra en 2021. Aun así faltaban módulos de memoria y lo más importante las placas Infiniband FDR para tener comunicación rápida y poder hacer capability computing como nos decía Tron Thomas Sterling en su CSC 7600. Los módulos de memoria restantes salieron de Proyectos Institucionales IDTyA de interés regional 2020, de la FCQ (Patricia Paredes) y FaMAF (Nicolás Wolovick).
Las placas FDR fueron otra jugada de Bederián. Compramos 11 MCX354A-FCBT reacondicionadas en MET Servers, por una fracción del costo en el mercado local.
Modelo terminado
Foto sacada en el UNC Data Center en agosto de 2021.
De arriba hacia abajo chasis con 4 nodos cada uno: cantidad, año(s) de compra, origen y modelo de procesador KNL.
- 1* 2018: PAMEG/PROMINF FaMAF, Exxact USA, 7250.
- 1* 2017-2018: PMT 2017, SIASA comprado a Exxact USA, 7250.
- 3 * 2019-2020: fondos propios CCAD, oferta de Lambda Labs, 7210.
- 2 * 2017: SNCAD, SIASA, 7210.
- 1 * 2017: Rectorado UNC, SIASA, 7210.
El total son 32 procesadores KNL divididos en 8*7250 + 24*7210.
La potencia pico total (Rpeak) de 8*3.04 + 24*2.66 = 88.16 TFLOPS.
La potencia máxima estimada (Rmax) de 8*1.21 + 24*1.05 = 34.88 TFLOPS.
Esta foto de SLURM tomada a mediados de diciembre 2021 muestra los 32 nodos a pleno uso.
Estimamos que Eulogia estará transformando energía en cómputo hasta el 2023/24, cuando ya probablemente no tenga sentido tenerla prendida y sea reemplazada por un chasis de cuatro nodos densos dual Graviton5 de 256 núcleos cada uno.
Eulogia está terminada y marca una época, donde la única manera de crecer era de a poco, nodo a nodo, RAM a RAM, avanzando, para que la Ley de Moore no nos lleve puestos y tengamos que hacer downsizing de nuestra ciencia.