La revolución de la IA está aquí, pero está creando un nuevo tipo de dependencia. A medida que las organizaciones se apresuran a crear aplicaciones impulsadas por IA, muchas están optando por la nube pública, cediendo el control sobre sus datos, su computación y sus costos. Pero hay otra manera. Puede construir un Stack de IA Soberano, una infraestructura de código abierto y local que le brinda propiedad y control total.
No se trata solo de ahorrar dinero; se trata de ser dueño de sus datos y su computación en la era de la IA. Se trata de soberanía de datos.
La base: OpenStack para cargas de trabajo pesadas de GPU
En el corazón del Stack de IA Soberano se encuentra OpenStack. Proporciona la “plomería” esencial para gestionar las potentes cargas de trabajo pesadas de GPU que exige la IA.
- Gestión de GPU con Nova: El servicio de computación de OpenStack, Nova, está diseñado para gestionar y programar hardware de aceleración como las GPU. Le permite crear “sabores” de máquinas virtuales que incluyen recursos de GPU, para que sus científicos de datos puedan autoservirse y solicitar una “VM con 4 NVIDIA H100s” con la misma facilidad que lo harían con una VM estándar.
- Rendimiento de Bare-Metal con Ironic: Para los trabajos de entrenamiento más exigentes, necesita el rendimiento bruto del bare metal. El proyecto Ironic de OpenStack le permite aprovisionar servidores de bare-metal completos con la misma automatización similar a la nube que obtiene con las VM. Esto le brinda lo mejor de ambos mundos: la potencia del hardware dedicado y la flexibilidad de la nube.
IA en el borde con StarlingX
La IA no solo ocurre en el centro de datos. Se está moviendo hacia el borde, donde los datos se recopilan y procesan en tiempo real. Aquí es donde entra StarlingX.
StarlingX es una plataforma de infraestructura de código abierto completa, basada en contenedores, que está optimizada para casos de uso de borde e IoT. Combina OpenStack, Kubernetes y otros proyectos de código abierto en una única solución implementable que se puede utilizar para construir y gestionar una red distribuida de dispositivos de borde impulsados por IA.
Entornos seguros y aislados con Kata Containers
Cuando ejecuta modelos de IA, especialmente aquellos de fuentes no confiables, la seguridad es primordial. Kata Containers proporciona una solución al brindarle una forma de ejecutar modelos de IA en contenedores en sus propias máquinas virtuales ligeras y aisladas por hardware.
Kata Containers combina la velocidad y la agilidad de los contenedores con la seguridad de las máquinas virtuales tradicionales. Esto significa que puede ejecutar de forma segura modelos de IA no confiables sin poner en riesgo el resto de su infraestructura.
Conclusión: sea dueño de su futuro de IA
La nube pública es una herramienta poderosa, pero no es la única opción para construir y ejecutar IA. Al combinar OpenStack, StarlingX y Kata Containers, puede construir un Stack de IA Soberano que le brinde el rendimiento, la seguridad y el control que necesita para ser dueño de su futuro de IA.
Es hora de recuperar el control de sus datos y su computación. Es hora de construir un Stack de IA Soberano.
