(Información remitida por la empresa firmante)
La IA sin servidor utiliza una capa de programación de recursos flexible que se basa en un sistema operativo virtualizado. Esta capa encapsula funciones esenciales de los marcos de aplicaciones en la capa de mediación de recursos de aplicaciones. Dennis Gu presentó la arquitectura de referencia para la IA sin servidor. Él cree que este diseño de arquitectura permite que la IA sin servidor impulse automáticamente recursos de IA a gran escala. Esto incluye analizar con precisión los patrones de uso de recursos, compartir recursos de grupos de hardware heterogéneos y garantizar la tolerancia a fallos durante las tareas de entrenamiento de IA a través de la virtualización de GPU/NPU y la migración de carga en vivo. Además, la programación multidimensional y el escalamiento elástico adaptativo mejoran la utilización de recursos. En el subforo, los expertos técnicos de Huawei Cloud señalaron que las cargas de trabajo de inteligencia artificial o aprendizaje automático que se ejecutan en Kubernetes han aumentado constantemente. Como resultado, numerosas empresas están construyendo plataformas de IA nativas de la nube en múltiples clústeres de Kubernetes que se extienden por centros de datos y una amplia gama de tipos de GPU. Karmada y Volcano pueden programar de manera inteligente cargas de trabajo de GPU en múltiples clústeres, respaldando la transferencia de fallos y garantizando coherencia y eficiencia dentro y entre clústeres. También pueden equilibrar la utilización de recursos en todo el sistema y la QoS de cargas de trabajo con diferentes prioridades para abordar los desafíos de administrar entornos de GPU heterogéneos y a gran escala.
Karmada ofrece gestión automática de aplicaciones inmediata y confiable en escenarios de nube híbrida y multinube. Un número cada vez mayor de usuarios utiliza Karmada para crear soluciones adaptables y eficaces en entornos de producción. Karmada se actualizó oficialmente al proyecto de incubación CNCF en 2023 y la comunidad espera que se unan más socios y desarrolladores.
Volcano Gang Scheduling es una solución para escenarios de big data y formación distribuida de IA y aborda los problemas de espera interminable y estancamiento en las tareas de formación distribuida. Con la topología de tareas y la programación consciente de E/S, se minimiza el retraso de transmisión de las tareas de formación distribuida, lo que mejora el rendimiento de la formación en un 31 %. Además, minResources resuelve la contención de recursos entre el controlador Spark y el ejecutor en escenarios de alta concurrencia, optimiza el grado de paralelismo y mejora el rendimiento en un 39,9 %.
Dennis Gu cree que la clave para mejorar la productividad de la IA radica en la agilidad de las tecnologías nativas de la nube y la innovación de plataformas informáticas de IA heterogéneas. Huawei Cloud se dedica a la innovación de código abierto y tiene como objetivo trabajar con homólogos de la industria para marcar el comienzo de una nueva era de inteligencia.
Foto – https://mma.prnewswire.com/media/2370741/Dennis_Gu_Chief_Architect_Huawei_Cloud.jpg
View original content:https://www.prnewswire.com/news-releases/huawei-cloud-en-kubecon-eu-2024-liberando-la-era-inteligente-con-innovacion-continua-de-codigo-abierto-302098607.html
