Liberando el poder de la nube híbrida y la IA | Red Hat Summit 2024
El dia de hoy 07 de Mayo en Denver, Colorado en los Estados Unidos de America se dio inicio a la Key Note Inagural del Red Hat Summit y aca te dejo mis comentarios:
Avances en Inteligencia Artificial
La IA ha avanzado significativamente desde el último Summit, con una explosión de opciones y capacidades que ahora se encuentran en modelos mucho más pequeños y accesibles.
Entrenamientos que antes requerían costosos equipos, ahora pueden ejecutarse en computadoras portátiles.
La tasa de innovación en IA se ha acelerado, gracias a avances académicos y al código abierto.
«La tasa de innovación en IA se ha acelerado, es cada mes, cada semana, cada hora en este momento.»
Intersección entre Código Abierto y AI
El Summit se centra en cómo la combinación del código abierto y la IA impacta de manera significativa.
La colaboración entre la academia y el código abierto ha acelerado el desarrollo de modelos de IA y su implementación en la práctica.
La disponibilidad de modelos y datos ha aumentado drásticamente, permitiendo a más personas contribuir y beneficiarse de la tecnología.
«Innovación, código abierto y Academia, ahora.»
Potenciación del modelo de código y lenguaje
Red Hat busca expandir el ecosistema de código abierto en torno a la inteligencia artificial para incluir a quienes deseen contribuir con sus conocimientos y habilidades.
Se buscan cerrar las brechas para las empresas que necesitan entrenar modelos de código abierto más pequeños según sus necesidades.
«Nuestro objetivo es expandir el ecosistema de código abierto en torno a la inteligencia artificial para incluir a aquellos dispuestos a contribuir con sus conocimientos y habilidades.»
Modelo de tecnología abierto
La tecnología de inteligencia artificial, respaldada por el modelo de código abierto, es una tendencia que llegó para quedarse y se convertirá en un multiplicador de fuerzas para las organizaciones.
«Esta tecnología no desaparecerá, y a medida que el elemento de código abierto se expanda, será un multiplicador de fuerzas.»
Potenciando los Modelos con Datos y Conocimientos
Se plantea la posibilidad de aprovechar la experiencia de los mejores contadores de impuestos de la empresa para crear un modelo útil para todo el equipo financiero.
La estrategia de IA permite usar modelos de la comunidad abierta, como Granite, Llama, y miles más de Hugging Face.
«La estrategia de IA permite aprovechar los mejores modelos de la comunidad abierta, ofreciendo elección, apertura y control para la inteligencia artificial.»
Potenciando el poder de la Nube Híbrida y la IA
Las empresas pueden escalar desde modelos de un solo servidor en REI hasta implementaciones empresariales multimodelo utilizando Red Hat OpenShift AI.
OpenShift AI proporciona la base de la plataforma empresarial, permitiendo la gestión eficiente de múltiples modelos y simplificando la adopción de la inteligencia artificial.
Se añadió funcionalidad expandida a OpenShift AI, incluyendo capacidades de gestionar múltiples servidores de modelos y control total sobre el rendimiento de cada uno.
La incorporación de cargas de trabajo distribuidas con Ray, utilizando CodeFlare y KU para un ajuste y entrenamiento de modelos más eficiente y rápido.
«OpenShift AI proporciona la base de la plataforma empresarial, permitiendo la gestión eficiente de múltiples modelos y simplificando la adopción de la inteligencia artificial.»
Despliegue de la tecnología Intel Gaudi 3 AI
Red Hat e Intel están emocionados por el lanzamiento de la aceleradora de IA Intel Gaudi 3.
Gaudi 3 amplía las ofertas del Mercado de Centros de Datos de IA para Empresas.
Ofrece un gran avance para las empresas globales que desean implementar IA generativa a gran escala.
«En Intel Vision presentamos el acelerador de IA Intel Gaudi 3, que amplía las ofertas de mercado de centros de datos de IA para empresas, brindando un gran avance para las empresas globales que buscan implementar IA generativa a gran escala.»
Desarrollo de un Chatbot con Podman Desktop
El equipo de desarrollo muestra el primer prototipo del chatbot creado para ayudar a los agentes de reclamaciones, utilizando Podman Desktop, una herramienta que les permite crear aplicaciones basadas en contenedores y ejecutar clústeres de Kubernetes localmente en sus computadoras portátiles.
Podman Desktop es una potente herramienta multiplataforma que facilita el desarrollo de aplicaciones al permitir la ejecución de clústeres de Kubernetes desde las computadoras locales, agilizando el proceso de desarrollo y pruebas.
Utilizamos una herramienta llamada Podman Desktop, es una herramienta cruzada para Mac, Linux y Windows. Mi equipo completo de desarrollo la utiliza para construir aplicaciones basadas en contenedores. Podemos ejecutar clústeres de Kubernetes de forma local en nuestra laptop. Es una herramienta increíble y estoy muy emocionado al respecto.
Uso de AI Lab para Templates y Modelos
Se utiliza AI Lab para acceder a plantillas que sirven como punto de partida para integrar elementos de inteligencia artificial en las aplicaciones existentes.
Se muestra cómo se implementa el modelo inicial desarrollado a partir de una plantilla preexistente y se demuestra cómo se localiza y despliega un nuevo modelo en la computadora local para experimentar sin depender de recursos en la nube.
Tenemos una serie de recetas en AI Lab que básicamente nos dan plantillas y un punto de partida que podemos tomar. Es emocionante ver cómo estoy desplegando este modelo en mi laptop local. No tengo que esperar por recursos de hardware, simplemente está aquí en mi laptop.
Generación de Datos Sintéticos y Entrenamiento del Modelo
Se explora la generación de datos sintéticos utilizando un endpoint de IA y se detalla el proceso de entrenamiento del modelo con los datos generados, demostrando la funcionalidad del «modelo maestro» para ampliar un conjunto limitado de datos iniciales.
Se destaca la simplicidad de utilizar texto plano en lugar de complejas herramientas como los cuadernos Jupyter, resaltando la accesibilidad y eficacia de las herramientas utilizadas en el proceso.
We fomulated questions and answers in plain text rather than using complex tools like Jupyter notebooks. This ends up simplifying the process and making it more efficient for the developers.
Integración de Datos de María para el Entrenamiento
Se muestra cómo se incorpora la información histórica de reclamaciones proporcionada por el equipo de María para entrenar el modelo, resaltando la importancia de codificar el conocimiento en un formato accesible para mejorar la eficiencia del entrenamiento y optimizar los resultados.
El proceso de integrar los datos de María se detalla, destacando la colaboración entre equipos técnicos y no técnicos para potenciar los modelos de inteligencia artificial con información especializada del dominio.
Ahora que tenemos nuestros datos sintéticos generados, el siguiente paso es utilizar el sistema REI para comenzar el proceso de entrenamiento. Estamos incorporando la valiosa información de María para mejorar nuestros modelos y optimizar su rendimiento.
Maria evalúa un modelo crítico
Maria, como crítica, examina la herramienta de reparación de asistente de IA para aligerar la carga cognitiva de los ajustadores de reclamos en la validación de datos y la eficacia del sistema.
El uso de la herramienta mejora la validación de datos, proporcionando eficiencia en la tarea de evaluación y más tiempo para generar nuevas ideas.
La capacidad de validar y verificar la funcionalidad del sistema aporta confianza a Maria en su potencial y en futuras innovaciones.
Ampliando la funcionalidad de administración de modelos
La relación entre Red Hat Ai y OpenShift AI se asemeja a la necesidad de escalar en la administración de múltiples máquinas Linux.
OpenShift AI brinda la escalabilidad empresarial necesaria para orquestar diferentes infraestructuras y modelos.
«Es una analogía perfecta y OpenShift AI te brinda esa escalabilidad empresarial que realmente te ayuda a orquestar muchos de tus diferentes infraestructuras y modelos.»
Personalizando modelos y creando pipelines
OpenShift AI ofrece una variedad de herramientas para personalizar y ajustar modelos, como conexiones de datos, servidores de modelos y pipelines.
Los pipelines permiten la creación repetitiva y continua de ajustes en los modelos.
La generación de datos sintéticos es una etapa fundamental en el proceso.
«Quiero mostrarte todas las diferentes herramientas que tienes a tu disposición para sumergirte realmente y personalizar ese modelo.»
Implementación y escalabilidad del modelo
Utilizando OpenShift AI, es posible implementar y escalar modelos personalizados de forma eficiente, lo que permite gestionar la inferencia de datos entrantes de manera efectiva.
La plataforma ofrece capacidades para supercargar la implementación del modelo en producción.
«Estoy desplegando este modelo exacto que ha sido personalizado con los datos de Maria y estoy utilizando OpenShift AI para realmente escalarlo y permitirme todas esas capacidades.»
Soporte de múltiples runtimes
OpenShift AI no solo brinda soporte para VM, sino que también es compatible con otros runtimes, como Nvidia Nim, optimizados para llms.
«Tenemos soporte para VM y OpenShift AI y también para otros runtimes, verás Nvidia Nim, hay un gran soporte allí y también si solo tengo modelos predictivos, tenemos diferentes runtimes que podemos utilizar.»
Potenciando la Hibridación de la Nube y la IA
Las ofertas de Red Hat para la IA abierta, Shift AI y Real AI, están diseñadas para potenciar el ecosistema.
Red Hat se enorgullece de ser una empresa de plataforma y todos los anuncios se han diseñado para potenciar la flexibilidad del ecosistema.
La potencia de la IA se extiende desde el silicio hasta la aplicación, y el ecosistema brinda flexibilidad y opciones para incorporar socios preferidos en cada capa de la pila.
Colaboración con Partners en IA y Nube híbrida
Trabajar con Intel, Nvidia, y AMD asegura la maximización de la capacidad de cálculo para las cargas de trabajo de IA.
Partners como Dell, Lenovo, Cisco y HP garantizan que haya formas sencillas de adquirir servidores potentes y desplegar en múltiples entornos.
«Los aceleradores GPU son el corazón de las arquitecturas de sistemas más recientes; juntos, nos aseguramos de optimizar la capacidad de cómputo que aportan a la IA.»
Despliegue Eficiente de Cargas de Trabajo de IA
Las cargas de trabajo de IA se despliegan mejor donde está la data: en la nube pública, on-premise o en el borde.
IBM Cloud se asocia con entusiasmo para ampliar el acceso al público a la nube.
«Las cargas de trabajo de IA se optimizan allí donde se encuentran los datos, ya sea en la nube pública, en el borde o en on-premise.»
Innovación Colaborativa en IA
El modelo de enseñanza de AI de Rel permite que los socios agreguen su experiencia para brindar nuevas innovaciones.
Rel AI y OpenShift AI brindan una plataforma que desbloquea la fuerza de múltiples arquitecturas de procesadores en diversos diseños de servidores.
«AI Rel y OpenShift AI están haciendo por la IA lo que Rel y Openshift hicieron por Linux y los contenedores: ofrecerte una plataforma que desbloquea la fuerza de múltiples arquitecturas de procesadores.»
Potencial de la Plataforma de Experiencia de Adobe en Escala
La Plataforma de Experiencia de Adobe permite la personalización a gran escala al unificar datos digitales y transaccionales en un perfil unificado del cliente en tiempo real.
Los clientes de la Plataforma de Experiencia pueden activar segmentos, orquestar recorridos de clientes y analizar datos para mejorar el rendimiento.
Con alrededor de 500 clientes en la plataforma, se manejan aproximadamente 40 petabytes de datos y se realizan 5 mil millones de transacciones diariamente.
La Plataforma de Experiencia de Adobe permite activar segmentos, orquestar recorridos de clientes y analizar datos para mejorar el rendimiento.
Colaboración con Red Hat en el Desarrollo
La colaboración con Red Hat agiliza la expansión global de la plataforma de experiencia, al contar con una infraestructura multicloud y soporte para servicios como Foundation DB y Kafka.
Red Hat brinda consistencia en la infraestructura de la nube cruzada, lo que permite a Adobe enfocarse en su competencia central de personalización a escala y servicios de datos.
La asociación con Red Hat se destaca por la confiabilidad y transparencia en infraestructura y AI de código abierto.
La colaboración con Red Hat agiliza la expansión global de la plataforma de experiencia y garantiza confiabilidad en infraestructura y AI de código abierto.
Potencia de Gem Modelo de Experiencia Generativo
La asistente de IA hace que las analíticas avanzadas sean accesibles al instante, mostrando cómo se llegó a las respuestas, incluyendo los modelos estadísticos utilizados.
Es emocionante compartir con el científico de datos cómo identificar a quién dirigirse en una campaña de email personalizado.
La asistente de IA facilita la generación de contenido específico de marca y da confianza en la entrega del mejor contenido para la audiencia.
La asistente de IA puede responder a millones de preguntas, revolucionando la forma en que trabajamos y redefiniendo nuestras capacidades.
Potenciando el uso de la Nube Híbrida y la IA
Podemos mejorar los resultados de esos motores de forma inmediata.
Se está trabajando en un clúster local en OpenShift para compartir algoritmos con facilidad.
La colaboración con Massachusetts Open Cloud permitirá el acceso a una variedad de dispositivos.
Abrir la disponibilidad de la computación compleja a cualquier persona con un dispositivo para adquirir imágenes.
La importancia de combinar conjuntos de datos en un entorno seguro para el desarrollo de herramientas de IA.
«No se trata solo de la resonancia magnética fetal, sino de crear una infraestructura para democratizar el análisis de imágenes para cualquier persona que tenga un dispositivo de adquisición de imágenes.»
Aprovechando el Poder del Cloud Híbrido y la IA
Optimizarlo para la era de la IA y esperamos que las sesiones en Summit esta semana te inspiren verdaderamente a abrazar la IA para aprovecharla en tu organización y seguir cambiando vidas en todo el mundo.
No olvides visitar la Zona de Experiencia en Red Hat Central para hablar con nuestros expertos en investigación que realmente desean escuchar tu opinión y así poder ayudar a mejorar tu experiencia con Red Hat.
No olvides visitar la Zona de Experiencia en Red Hat Central para hablar con nuestros expertos en investigación y mejorar tu experiencia con Red Hat.
Aqui tienes acceso a la key note completa:
Mas enlaces de interes en:
Entradas relacionadas
Sobre el Autor
Jose Luis Bugarin
Pragmático, soy de leer y hacer y no esta demás mencionar que las opiniones son mías :) #telodijoelbuga