¿Priorizando la IA? No descuides los fundamentos de TI

La inteligencia artificial (IA) generativa sigue dominando los proyectos de TI en muchas organizaciones, dos tercios de los líderes empresariales dicen a una encuesta de Harris que ya han desplegado este tipo de herramientas internamente e IDC predice que el gasto en IA generativa se duplicará con creces en 2024.

Pero la habitual lista de prioridades de TI no ha desaparecido. Aspectos fundamentales como la seguridad, el control de costes, la gestión de identidades, la proliferación de contenedores, la gestión de datos y la renovación del hardware siguen siendo áreas estratégicas clave de las que deben ocuparse los CIO.

Es fácil verlas como prioridades que compiten por la atención y el presupuesto de los CIO y que se ven injustamente eclipsadas por el interés de la junta directiva en las brillantes oportunidades que promete la IA generativa. Pero cuando se trata de implementar estos proyectos con éxito, resulta que dependen de lo bien que la organización de TI haya implementado aspectos básicos como la conectividad, los permisos y la gestión de la configuración.

"Lograr tener adecuadamente unos cimientos de TI -una base ágil multicloud, una ciberseguridad fuerte, privacidad de datos efectiva y control de IP, y quizás lo más importante para liberar eventualmente la promesa de la IA, la construcción de una base de datos sólida y abierta a través de silos de aplicaciones- son los tablones y clavos que mantienen el barco a flote", dice Dion Hinchcliffe, vicepresidente y analista principal de Constellation Research.

Estos básicos de las TI pueden compararse con "comer verduras", algo no siempre glamuroso, pero absolutamente esencial para la salud y fortaleza a largo plazo de las TI", afirma. "Al igual que una dieta equilibrada fortifica el cuerpo, una infraestructura de TI robusta y moderna sienta las bases para que florezcan la IA y otras tecnologías avanzadas". 

El analista de investigación independiente Andi Mann, fundador de Sageable, está de acuerdo y señala cómo muchas operaciones internas y funciones básicas de la infraestructura de TI resultan ser los "picos y palas" para impulsar una fiebre del oro de la IA. "Los CIO tienen que hacer todo lo necesario para que las cargas de trabajo de IA funcionen bien y de forma disciplinada e higiénica", afirma. "Cuando se piensa en todo el bloqueo y placaje que un CIO necesita hacer para las aplicaciones tradicionales, eso se aplica especialmente a la IA". 

 

Diligencia debida sobre los datos 

La IA generativa tiene implicaciones particulares para la seguridad de los datos, dice Mann. "¿Cómo logras la prevención de pérdida de datos cuando le estás diciendo a tu IA que vaya a succionar todos estos datos y los reutilice?" 

De hecho, por razones de seguridad, cumplimiento y eficiencia, los CIO querrán gestionar cuidadosamente a qué datos tiene acceso la IA generativa. Por ejemplo, la generación aumentada por recuperación (RAG) está emergiendo como una técnica clave para hacer que los LLM sean útiles para trabajar con sus propios datos, pero no querrán introducir todos sus datos. Esto no sólo tiene que ver con el coste de preparar un conjunto de datos más grande del que necesitas, lo que requiere una experiencia que todavía es poco común y conlleva un alto salario, sino también con lo que le estás enseñando al modelo. Si introduces todo tu historial de Slack o Teams, es posible que acabes recibiendo respuestas como "trabajaré en eso mañana", que serían perfectamente apropiadas para los empleados humanos, pero que no son lo que esperas de un sistema de IA generativa.

Las herramientas de IA como Copilot expondrán los defectos en el enfoque de una organización para la gestión de la información, advierte el MVP de Microsoft y director de gestión de socios de Rencore, Christian Buckley, como la estructuración de los datos y metadatos, la arquitectura de la información, la limpieza y la comprensión de lo que hay, y lo laxas que son muchas organizaciones tanto con la gestión de privilegios como con la limpieza de datos. 

A medida que el coste del almacenamiento de datos ha disminuido, muchas organizaciones están manteniendo datos innecesarios, o limpiando datos que están desactualizados o que ya no son útiles después de una migración o reorganización. "La gente no está volviendo atrás y ordenando porque eso no tiene ningún coste, excepto en su perfil de riesgo y su menor rendimiento de búsqueda", dice Buckley. Si se introducen capacidades de IA generativa sin pensar en la higiene de los datos, advierte, la gente se desilusionará, cuando no ha hecho el trabajo previo para que funcione de forma óptima.

Los mismos problemas se pusieron de manifiesto cuando Microsoft lanzó Delve, y antes de eso, cuando la integración FAST trajo una potente búsqueda a SharePoint en 2010. "Cuando empezamos a ver que la búsqueda funcionaba realmente dentro de SharePoint, la gente se quejaba de que no funcionaba correctamente", afirma. "Pero funcionaba. Lo que hace es sacar a la luz la falta de gobernanza de los datos. He oído a gente decir: 'Está rompiendo todos mis permisos'. No, está sacando a la luz tus lagunas. ¿Quieres tener una capacidad de búsqueda aún más potente con IA en tus datos, y no estar seguro de cómo has organizado esos datos?". 

El otro problema es que las herramientas de IA generativa y los usuarios no ven información que debería incluirse porque el etiquetado de metadatos y las etiquetas de sensibilidad no se han aplicado correctamente a los datos.

En cualquier caso, los datos mal gestionados pueden plantear problemas de cumplimiento y confidencialidad, como que un socio externo tenga acceso a una herramienta de IA generativa que exponga información que sólo debería estar disponible internamente. Al fin y al cabo, los proyectos que implican a más usuarios externos necesitan un escrutinio cuidadoso de a qué información se está accediendo y si ese acceso externo sigue siendo apropiado. Incluso el uso interno puede causar confusión si eres una multinacional y los empleados en Francia, por ejemplo, obtienen información de un bot de recursos humanos basado en la política de pensiones o permisos parentales en Australia.

"¿Cómo puedes decir que estás listo con la gobernanza para la IA si no sabes qué contenido tienes, dónde está, quién tiene acceso a él interna o externamente, qué se está compartiendo y cómo está etiquetado?", dice Buckley. "Desde el punto de vista de la gobernanza, hay que hacer un seguimiento de lo que hace la gente, dónde lo hace y cómo lo hace. Y eso va a cambiar constantemente".

 

Contenedores y certificados 

La gestión de privilegios depende de la gestión de identidades, otra área que exige una atención continua. El aumento de la adopción de Kubernetes necesita nuevas habilidades a medida que se desarrolla el ecosistema de contenedores, y muchos CIO todavía se están poniendo al día en la gestión de entornos para aplicaciones en contenedores, que tienen diferencias significativas con la virtualización, una transición que puede acelerarse este año a medida que las organizaciones deciden cómo responder a los grandes cambios que Broadcom ha hecho en la forma en que se licencia VMware. 

También significa muchas más identidades de máquinas que gestionar, dice Murali Palanisamy, director de soluciones del proveedor de plataformas IAM AppViewX. "La transformación digital en su conjunto ha impulsado un aumento significativo en el uso de dispositivos conectados, servicios en la nube y aplicaciones nativas en la nube y en contenedores", dice. "Todas estas máquinas, cargas de trabajo y servicios adicionales requieren identidades de confianza, lo que está amplificando la necesidad de gestión de identidades de máquinas". 

IoT, la seguridad de la cadena de suministro de software -especialmente la necesidad de mitigar eso con la firma de código- y el uso de sus datos para la IA generativa están aumentando el uso de los certificados TLS y las claves privadas en las que se basa el acceso seguro. "Siempre que las aplicaciones o máquinas se comunican entre sí, la gran mayoría de ellas utilizan certificados TLS para establecer la confianza, identificarse mutuamente ante los sistemas, así como autenticar y cifrar las comunicaciones de forma segura", añade Palanisamy. 

Proteger las identidades de estas máquinas es fundamental, y su gestión no puede seguir siendo un proceso ad hoc y manual, afirma, especialmente con la propuesta de Google de reducir la validez de los certificados TLS de 398 a 90 días, lo que exige una renovación mucho más rápida. También hay que tener en cuenta otros cambios normativos: las nuevas normas de ciberseguridad de la SEC para Estados Unidos a partir de diciembre de 2023, la ampliación de la Directiva sobre Redes y Sistemas de Información (NIS2) en la UE, y un cambio general para que las normas de seguridad se basen en el riesgo en lugar de ser prescriptivas, como la actualización de la Norma de Seguridad de Datos del Sector de Tarjetas de Pago (PCI-DSS) a PCI 4.0. 

Palanisamy añade que la gestión de las identidades de las máquinas también debe ser un área central de seguridad que se base en la automatización, la inscripción automática y el desaprovisionamiento para controlar el acceso a datos privados y sensibles. "Cuando es necesario proteger los datos en tránsito, la identidad de las máquinas desempeña un papel fundamental", afirma. "A medida que aumentan los proyectos de IA, la gestión de las identidades de las máquinas es esencial para garantizar la confianza, así como la autenticación y el cifrado seguros para que solo se pueda gestionar y controlar el acceso correcto a los datos correctos, manteniendo seguros los datos confidenciales y privados". Puede resultar tentador considerar los proyectos en la nube menos prioritarios que las nuevas y brillantes iniciativas de IA, pero afirma que en realidad son fundamentales. "La velocidad y la agilidad son necesarias para que los proyectos de IA tengan éxito, por lo que la seguridad debe incorporarse a la infraestructura de nube subyacente de los proyectos de IA desde el principio", añade. 

 

Control de costes

Finops y el control de costes para los servicios en la nube siguen siendo una prioridad, y con tanto uso de la IA generativa que depende de los servicios de IA en la nube y las API, los CIO querrán pensar en el presupuesto y la automatización, especialmente para el desarrollo y la experimentación de la IA.

"Si tienes a cien personas haciendo experimentos con IA y una sola se olvida de desprovisionar su instancia, te llegará una factura", afirma Mann. Las cargas de trabajo de producción también deben supervisarse para ver si es posible reducirlas a una instancia más pequeña, un LLM más barato o un nivel inferior de licencia, utilizando las mismas políticas y herramientas que se emplean para gestionar el coste de otras cargas de trabajo. "La gestión de Copilot no se limita a la gestión de permisos", añade. "La gente quiere saber si se están utilizando las licencias por las que están pagando". 

Al igual que otras cargas de trabajo en la nube deben justificar los costes de las licencias y las llamadas a las API por el valor que aportan a la organización, los proyectos de IA generativa también deben evaluarse en función de si realmente aportan las mejoras de productividad y la innovación que prometen.

"Estoy esperando al primer CIO que sea despedido por dejar que la IA funcione demasiado rápido y durante demasiado tiempo", afirma Mann. "Se trata de una disciplina básica de bloqueo y abordaje para un CIO: cuál es mi cartera, qué es valioso, qué estoy gastando, qué estoy recuperando, así como la gestión de la utilización y la calidad de esas cargas de trabajo". Este estilo ITSM, ITIL de disciplina y gestión de carteras va a volver porque definitivamente se necesita ese nivel de disciplina para esta nueva carga de trabajo". 

Pero en otras áreas, los equipos de TI buscarán aumentar los presupuestos y el gasto. 

 

Acelerar la renovación del hardware 

Con Windows 10 llegando al final de su vida útil en 2025, los CIO planificarán la migración a Windows 11 en los próximos 18 meses, y obtener las mejoras de seguridad prometidas por defecto significa invertir en nuevos PC con CPU de última generación que tengan las instrucciones adecuadas para soportar las funciones de seguridad sin comprometer el rendimiento.

Un número cada vez mayor de estos dispositivos incluirá una unidad de procesamiento neuronal (NPU) o hardware dedicado similar para acelerar las cargas de trabajo de IA en el dispositivo, ya sea editando videollamadas en directo o ejecutando Copilot en Windows 11. Pero los rápidos avances del hardware pueden significar que los CIO tengan que presupuestar ciclos de actualización de hardware mucho más cortos en el futuro para mantenerse al día. Una gestión de activos que controle qué empleados disponen del hardware de PC adecuado puede ser clave para obtener las mejoras de productividad prometidas por la IA.

Preparar los centros de datos puede suponer una inversión aún mayor, y no se trata sólo de cuánto cuestan las GPU, si es que se pueden encontrar. Aunque la mayoría de los LLM se ejecutarán en la nube y se accederá a ellos a través de API, para que las herramientas de IA generativa sean útiles para las empresas es necesario conectarlas a sus propias fuentes de datos. 

La evolución de su arquitectura de red para reducir la latencia y ofrecer de forma segura una mejor conectividad -ya sea con 5G, Wi-Fi 6 y 7, o conectividad por satélite- es clave para apoyar el trabajo híbrido y remoto, pero la IA impulsará aún más la computación edge segura y los requisitos de red.

Además, la caída de los precios está impulsando la transición a los sistemas de almacenamiento de objetos all-flash, que ofrecen rendimiento de base de datos, lo que será beneficioso para manejar los grandes conjuntos de datos integrales de las cargas de trabajo de IA que necesitan un rendimiento y escalabilidad rápidos, y también atenderá a los insaciables apetitos de datos y las demandas de acceso rápido de las operaciones impulsadas por la IA, dice Steve Leeper, vicepresidente de marketing de producto de la empresa de software de gestión de datos, Datadobi.

En general, añade, los CIO tienen que pensar en la infraestructura de hardware para el proceso de IA, empezando por la cantidad y clase de almacenamiento, las redes de interconexión y las granjas de GPU para el procesamiento de IA. Y también en la gestión de datos: identificar los conjuntos de datos adecuados, reubicar los datos de forma rápida y precisa entre los distintos puntos del procesamiento -lo que implica que no se produzca una corrupción silenciosa de los datos- y garantizar que los resultados del procesamiento de la IA también se reubiquen en las locaciones y clases de almacenamiento adecuadas.

Los conjuntos de datos para la IA generativa no siempre serán enormes, afirma Leeper. "Habrá una mezcla de conjuntos de datos grandes y pequeños", afirma. "Algunos de estos conjuntos de datos contienen datos críticos que, de acuerdo con las políticas de gobernanza de una organización, necesitarán ser procesados utilizando recursos locales". La gestión del acceso de la IA a esos conjuntos de datos depende del tipo de gestión tradicional de la infraestructura de TI con la que los CIO están muy familiarizados, por lo que hacer de la inversión en ellos una prioridad este año dará sus frutos para ambos. 

"Estos problemas se resuelven solo si aplicamos la disciplina que tenemos", añade Mann. "Pero con demasiada frecuencia no se resuelven porque nadie ha pensado en las implicaciones a largo plazo, así que no hay responsabilidad". Pero eso podría estar cambiando. A principios de 2023, Gartner informó de que sólo el 15% de las organizaciones ya disponen de soluciones de gestión de almacenamiento de datos que clasifican y optimizan los datos. Pero para 2027, la firma de análisis espera que esa cifra aumente al menos hasta el 40%.