Ha encontrado una manera de disparar la competitividad de China frente a los Estados Unidos. – El diario andino
Hace dos días le dijimos algo muy interesante: los Times de valores medios estatales chinos habían revelado que Huawei estaba a punto de presentar un avance tecnológico que persiguió Reducir la dependencia de China de chips de memoria HBM (Memoria de alto ancho de banda) del extranjero. Según esta fuente Huawei iba a anunciar oficialmente su hito tecnológico unas horas más tarde, durante la celebración en Shanghai (China) del Foro de Aplicaciones y el desarrollo del razonamiento financiero 2025.
Huawei ha cumplido lo que fue prometido, aunque no como habíamos planeado. En cualquier caso, antes de entrar en harina, es importante que recordemos que los fabricantes de chips chinos no están produciendo soluciones capaces de competir con los recuerdos más avanzados que las compañías surcoreanas fabrican Samsung y SK Hynix, o la tecnología American Micron. Las GPU para IA funcionan al lado de los chips de memoria HBM. De hecho, su rendimiento está en gran medida condicionado por estos recuerdos.
Como los editores de SemianálisisEl ancho de banda total de los chips de memoria HBM3 que viven con algunas de las GPU para los NVIDIA o AMD más avanzados excede 819 GB/s, mientras que las memorias DDR5 y GDDR6X alcanzan mucho más 70.4 GB/SY 96 GB/s. Los recuerdos de HBM3E y el futuro HBM4 son aún mejores. Los fabricantes chinos de este tipo de chips aún no producen este tipo de recuerdos, pero parece que Huawei alterará profundamente este escenario.
Un algoritmo expresamente diseñado para acelerar la inferencia en AI
La filtración que ocurrió apenas 48 horas sugirió que probablemente lo que Huawei iba a presentar era una tecnología de envasado de vanguardia que, tal vez, rivalizaría con los utilizados por SK Hynix, Samsung o Micron para producir sus memorias HBM3 y 3E. Y es que la fabricación de estos circuitos integrados es compleja porque requieren apilar varios chips DRAM e implementar una interfaz entre la XPU (Unidad de procesamiento extendida) o unidad de procesamiento extendida y chips HBM extraordinariamente densos. Como muestra un botón: en una pila HBM3E, la memoria XPU y la memoria HBM están vinculadas a través de más de 1,000 controladores.
Según Huawei, el algoritmo UCM es capaz de acelerar drásticamente la inferencia en los grandes modelos de IA
Sin embargo, finalmente Huawei ha presentado una tecnología diferente: un algoritmo avanzado llamado UCM (Administrador de caché unificado) que, según esta compañía, es capaz de acelerar drásticamente la inferencia En los grandes modelos de inteligencia artificial (IA). Una nota relevante: la inferencia es en general el proceso computacional llevado a cabo por modelos de lenguaje con el propósito de generar las respuestas que corresponden a las solicitudes que reciben.
Para lograr su propósito, el algoritmo UCM muestra una estrategia muy ingeniosa: decida en qué tipo de memoria es necesario almacenar cada toma de datos como un indicador fundamental los requisitos de latencia. En la práctica, este algoritmo se comporta como un caché gigantesco que garantiza que cada datos irá a la memoria correcta, incluido HBM3, con el propósito de minimizar la latencia durante la inferencia. Si se trata de datos muy utilizados, se almacenará en una memoria muy rápida, como HBM3. Según HuaweiEsta tecnología puede reducir la latencia de la inferencia en un 90%. Curiosamente, esta compañía planea hacer el algoritmo abierto de la fuente UCM en septiembre.
Más información | SCMP
En | Nvidia tiene que lidiar con la desconfianza absoluta de varios legisladores estadounidenses. Su plan en China está en peligro
En | Estados Unidos quiere terminar con los chips para los chinos que se venden en el extranjero. Y China sabe cómo defenderse
