Digital Bank Lima 2025 – Red Hat

La importancia de la inteligencia artificial en la banca

«El 78% de las implementaciones de inteligencia artificial carecen de protocolos de seguridad.»

• La charla se centra en el impacto de la inteligencia artificial (IA) en el sector bancario, destacando que la llegada de herramientas como Chat GPT ha cambiado fundamentalmente el ecosistema financiero.
• Se resalta los retos que enfrentan los bancos en cuanto a seguridad, regulación y auditoría, pues un notable porcentaje de implementaciones de IA no cuenta con medidas de seguridad adecuadas.
• Es vital que las organizaciones tengan claridad sobre cómo toman decisiones los modelos de IA que emplean.

Modelos de lenguaje y su aplicación en organizaciones

«Menos del 1% de todos los datos empresariales están representados en modelos de base.»

• La discusión sobre los modelos de lenguaje, como Chat GPT y Gemini, revela que aunque son útiles, no cuentan con la información específica de muchas organizaciones.
• Hay un creciente interés por la creación de tecnologías que permitan a las empresas generar sus propios modelos de lenguaje utilizando sus datos. Esto es crucial para evitar lo que se denomina «alucinaciones» por parte de chatbots, que pueden dar respuestas incorrectas cuando carecen de datos específicos.
• Red Hat ha desarrollado herramientas para ayudar a las organizaciones a construir y optimizar sus propios modelos de lenguaje adaptados a sus necesidades.

Tecnología de optimización en el uso de LLMs

«Red Hat ha desarrollado tecnología que hace posible la optimización de modelos de lenguaje masivo.»

• Se enfatiza en la optimización de LLMs para hacerlos más eficientes en términos de costo y rendimiento. Esto se logra a través de una infraestructura que maximiza el uso de recursos disponibles como GPUs y TPUs.
• Tecnología como BLLM (un servidor de modelos) permite a las empresas utilizar diversos modelos de manera eficiente sin importar la ubicación, ya sea en un data center local o en la nube.
• Este enfoque no solo busca hacer más accesible la IA, sino también adaptarla para su integración en los ecosistemas de banco y servicios financieros.

Integración con Aplicaciones Móviles

«Necesitas una plataforma que te ayude a integrar tu aplicación móvil con el ecosistema actual de aplicaciones.»

• La integración de nuevas tecnologías en aplicaciones móviles es crucial para optimizar el funcionamiento con ecosistemas existentes. Es importante contar con una plataforma adecuada que facilite esta conexión y permita que diferentes sistemas trabajen de manera conjunta.
• Un ejemplo de esta tecnología es OpenShift de Red Hat, que destaca en la estandarización de procesos, así como en la optimización del uso de GPU, lo cual es esencial para el procesamiento de datos en inteligencia artificial.

Importancia de las GPU en Inteligencia Artificial

«Las GPU son fundamentales para procesar los datos de la inteligencia artificial.»

• Para desarrollar buenos modelos de inteligencia artificial que sean eficientes en su entrenamiento, es indispensable contar con recursos como las GPU. Estas permiten reducir los tiempos de entrenamiento y prueba de modelos, lo que se traduce en una mejor calidad de los resultados.
• Las GPU pueden ser habilitadas tanto en ambientes de nube como en servidores locales, lo que brinda flexibilidad en su implementación según las necesidades del negocio.

Colaboración como Clave para la Innovación

«No gana el que más innova, sino el que mejor colabora.»

• La colaboración entre empresas y organizaciones es esencial para impulsar innovaciones efectivas. En lugar de enfocarse únicamente en la innovación, las empresas deben centrarse en cómo se pueden integrar sus tecnologías y mejorar los procesos existentes.
• La integración de Red Hat con aliados como Meta y Google es un ejemplo de cómo la colaboración puede llevar a una mejor optimización de servicios y soluciones, especialmente en el contexto de las tecnologías en la nube.

Desafíos en la Regulación y Auditoría

«Las regulaciones globales están cambiando rápidamente y debemos estar preparados.»

• A medida que avanza la inteligencia artificial y se implementan nuevos sistemas, es fundamental tener en cuenta los desafíos regulatorios, incluida la auditoría de modelos de inteligencia artificial. Esto es cada vez más relevante en el contexto actual donde la globalización exige que las empresas se adapten rápidamente a nuevas normativas.
• La experiencia y las lecciones aprendidas de países como Estados Unidos proporcionan una guía valiosa para cómo enfrentar estos desafíos en otros mercados, como el caso de Perú.