Los CIO evalúan la apuesta por la IA y cómo eliminar riesgos

En medio de la turbulencia de la inteligencia artificial (IA), las tecnologías están surgiendo rápidamente, las nuevas empresas claman por atención y los hiperescalares luchan por acaparar participación de mercado. Es un entorno que pone a prueba las habilidades de toma de decisiones incluso de los CIO más inteligentes. Pero estén listos o no, se deben tomar decisiones con repercusiones de largo alcance. Y quedarse quieto no es una opción.

“La IA se mueve rápido, por eso no queremos demorarnos. Necesitamos estar preparados para responder a nuestro CEO para resolver los problemas”, dice Srini Gudipati, CIO de Covanta, una empresa que se especializa en la gestión de materiales sostenibles, incluido el reciclaje a gran escala.

Brian Hopkins, vicepresidente de tecnología emergente de Forrester Research, está de acuerdo. “No hay manera de que podamos analizar todo esto lo suficientemente rápido, pero no podemos sentarnos y esperar. La oportunidad es demasiado grande. Hay muchos riesgos y muchas minas terrestres que sortear”, afirma el analista.

Una cosa es segura: en los próximos años se apostarán grandes sumas de dinero en tecnologías de inteligencia artificial. Según IDC, el gasto básico en TI para IA crecerá de 235.600 millones de dólares en 2024 a 521.000 millones de dólares en 2027.

 

Afrontar el riesgo

El primer paso para realizar cualquier apuesta o inversión es comprender su capacidad para resistir el riesgo. "Mantenemos un enfoque prudente y calculado para la adopción de tecnologías de IA, alineándonos con nuestro moderado apetito por el riesgo como institución financiera tradicional", expresa Vikram Nafde, CIO de Webster Bank, un banco comercial con más de 75.000 millones de dólares en activos que ofrecen servicios digitales y tradicionales. servicios a través de banca comercial, banca de consumo y HSA Bank, un proveedor de servicios financieros centrados en la atención médica.

Cuando se trata de IA, Nafde ve riesgos en los proveedores seleccionados y en el valor comercial del uso así como en el coste de las iniciativas. Para los proveedores, Nafde está empezando a establecerse con los hiperescalares. "Queremos un ecosistema de actores grandes y establecidos", afirma. Dadas las relaciones existentes con Webster Bank, eso incluye AWS y Microsoft. A pesar de su preferencia por trabajar con grandes actores, Nafde también está mirando a empresas más pequeñas que han creado herramientas de inteligencia artificial generativa que se ejecutan en hiperescaladores. Una de esas empresas ha creado una herramienta que predice la intención y el comportamiento del cliente basándose en interacciones previas y otros datos del mercado.

Para encontrar casos de uso prometedores, Webster Bank ha analizado varias docenas de propuestas y ha decidido comenzar con tres que pudieran ofrecer beneficios tangibles. El banco ahora está trabajando en estas iniciativas de prueba de concepto (POC): búsqueda inteligente de productividad interna, automatización con capacidades de inteligencia artificial generada para ayudar en los flujos de trabajo de préstamos comerciales sindicados y predicción de desgaste de clientes.

Para hacer frente a la tercera área de riesgo, el coste, Nafde está encabezando esfuerzos para dotar al personal interno de las habilidades, capacidades y herramientas necesarias para emprender iniciativas de IA internamente. "Al invertir en el desarrollo de nuestros FTE (empleados de tiempo completo) y equipar a nuestros tecnólogos con la experiencia necesaria, pretendemos minimizar la dependencia de consultores externos y maximizar nuestra capacidad para impulsar la innovación desde dentro", afirma.

En Covanta, Gudipati está implementando IA caso por caso, centrándose en resolver un problema a la vez con implementaciones que están dentro de las capacidades de tecnologías probadas. "Estamos procediendo con cautela porque el aumento de los LLM (grandes modelos lingüísticos) presenta un nuevo nivel de riesgo para la seguridad de los datos", indica. “Hemos estado desarrollando nuestra propia capacidad interna de IA durante los últimos años utilizando modelos de código abierto. Esto garantiza que ninguno de nuestros datos confidenciales y propiedad intelectual se ponga a disposición de un proveedor externo”.

Un POC en Covanta busca mitigar el riesgo de introducir materiales peligrosos en las instalaciones de Covanta mediante la identificación de artículos como tanques de propano que han ingresado a las instalaciones de Covanta junto con materiales reciclables inofensivos. "La tecnología que estamos explorando utiliza inteligencia artificial y tecnología de rayos X para analizar los camiones entrantes para detectar el perfil revelador de un tanque de propano antes de que pueda explotar al impactar con las enormes trituradoras de Covanta", dice Gudipati. Es un peligro importante con costes importantes. Según Gudipati, eliminar el peligro de incendios, que cuesta alrededor de 10.000 dólares por hora, debería permitir que la implementación se amortice con creces.

En otra implementación, Covanta está utilizando IA para examinar los sitios web de clientes potenciales para medir la huella de carbono de una empresa y si una empresa podría ser elegible para créditos energéticos federales. “Nuestro equipo de datos utiliza IA generada en la nube de Amazon para explorar métricas de sostenibilidad. Por lo tanto, esto tiene un aspecto de generación de ingresos”, afirma.

 

Precaución en el sector público

Tradicionalmente entre las organizaciones más reacias al riesgo, los organismos gubernamentales deben operar bajo el escrutinio de un público que tiene poca tolerancia hacia proyectos que no dan resultados o ponen en riesgo los datos de los ciudadanos.

"En el condado de Harris, mantenemos la confidencialidad, integridad y disponibilidad de los datos a la vanguardia de nuestro diseño y arquitectura de soluciones", dice Sindhu Menon, director ejecutivo de Servicios Universales del Condado de Harris y CIO del condado de Harris, el condado más grande de Texas y El tercer condado más grande del país según su población, una agencia que atiende a 4,7 millones de ciudadanos en el área de Houston. Al igual que Gudipati y Nafde, Menon y su equipo planean utilizar hiperescaladores como una opción de riesgo relativamente bajo. Aunque es un entorno multinube, la agencia tiene la mayoría de sus implementaciones en la nube alojadas en Microsoft Azure, algunas en AWS y otras en la plataforma de información ciudadana 311 de ServiceNow. El condado de Harris tiene alrededor de media docena de POC basados ??en IA en la etapa de planificación, incluido uno que moderniza el procesamiento de permisos y otro que moderniza los procesos judiciales, según Menon.

 

Sentando las bases

Para desarrollar implementaciones de POC, Menon y su equipo están estableciendo un laboratorio que se espera que debute en marzo de 2024 para probar herramientas de inteligencia artificial antes de su implementación. El laboratorio, ubicado en un edificio de oficinas del condado, atraerá a miembros de varios departamentos, incluido el equipo de datos y el equipo de arquitectura del condado.

“Hay mucho interés en participar en las pruebas y participación en todo el condado. Nuestro objetivo es reunir a los equipos y proporcionar un entorno seguro para aprender y probar soluciones”, explica. Para un proyecto típico que probablemente involucrará un lago de datos Snowflake alojado actualmente en Azure, Menon enfatiza que la calidad de los datos es crítica. “Las herramientas de inteligencia artificial dependen de los datos que se utilizan en estas soluciones. Se necesitarán buenas prácticas de gestión de datos para obtener los resultados deseados y las soluciones de IA”.

De manera similar, Nafde formó un equipo de gobernanza de IA de unas dos docenas de personas lideradas por el arquitecto empresarial jefe y el director de datos de Webster Bank, que incluye tecnólogos, personal de riesgo y cumplimiento, y abogados. Un aspecto clave del equipo de IA del banco es también la calidad de los datos. Para ello, el grupo ha implementado herramientas de gobernanza y calidad de datos para el entorno Snowflake del banco.

Para Gudipati, de Covanta, el primer paso fue preparar la empresa para la IA mediante la construcción de una base de datos sólida y completa sobre la cual se pudieran implementar tecnologías y servicios de IA.

"La IA se nutre de datos de alta calidad, por lo que creamos un tejido de gestión de datos integral utilizando Talend, aprovechando Snowflake para nuestro almacén y almacén de datos operativos", explica Gutipati. “Luego implementamos un conjunto integral de herramientas de inteligencia artificial en AWS que funcionan bien juntas de forma nativa para brindarnos verdaderas AIOps. Estábamos utilizando Amazon ampliamente para nuestra infraestructura y almacenamiento de datos, por lo que tenía sentido optar por ellos”, continúa Gudipati, quien agrega: “Terminamos la base y la infraestructura sobre las cuales la IA realmente podría desarrollarse en todo su potencial”.

 

Riesgo de bloqueo

Dado que ejecutar algoritmos de IA no es barato, sobre cada proyecto se cierne el riesgo de un costo mayor al esperado.

"El funcionamiento de los motores de IA es caro porque consumen muchos más procesadores que la IA convencional, por lo que tenemos que estar atentos a los costes", afirma Gudipati.

Nafde está de acuerdo. “La gente no se da cuenta de que los modelos de IA tienen que generar tantos recursos informáticos. No comprenden cuánto puede costar esto”, afirma Nafde. “Tenemos factores desencadenantes de costos para los servicios informáticos. Creemos que podemos gestionar el coste de ejecución porque los evaluaremos continuamente”.

Comprometerse con un proveedor de servicios en la nube, incluido un hiperescalador, no está exento del riesgo de quedar atrapado. Aunque es posible cambiar de un proveedor de nube para obtener una mejor oferta con otro, la mano de obra y los gastos que implica realizar el cambio son enormes y podrían compensar cualquier ahorro potencial. Snowflake, por ejemplo, se ejecuta tanto en Microsoft Azure como en AWS, por lo que sería posible pasar de uno a otro. “No creo que sea imposible, pero sería necesario hacer un poco de trabajo preliminar. Es bueno pensarlo con antelación”, asegura Gudipati.

 

No te quedes ahí parado, haz algo

Para los CIO, ha habido pocas tecnologías anteriores que conllevaran el imperativo de actuar que viene con la IA generativa. Las estrategias de mitigación de riesgos se enfrentan al impulso de los ejecutivos de alto nivel que no quieren que sus empresas se queden atrás.

“Esta podría ser la primera vez en la historia que los ejecutivos que no son técnicos pueden ver algo y entusiasmarse porque pueden involucrarse con ello. Ese ha sido un punto de inflexión para el interés a nivel de la junta directiva”, dice Hopkins de Forrester.

En servicios financieros, Nafde ve nuevas empresas como Stripe, una empresa de pagos, y MX, una aplicación móvil, que podrían utilizar la IA para hacerse cargo de las relaciones con los clientes. "El comportamiento de los usuarios podría cambiar tanto que la gente no piense en los bancos, sino en la aplicación de pago que utilizan", afirma Nafde. "Las fintechs y las startups van a aprovechar la IA para superar a los jugadores establecidos o agotarse".

Sin embargo, a diferencia de las nuevas empresas, las empresas establecidas no pueden arriesgarse a las pérdidas que podrían derivarse de apostar todo por la IA. Su desafío es tomar un camino intermedio que produzca resultados finales. Gudipati dice: "No le decimos a todo el mundo que somos una empresa basada en IA, pero la utilizamos como herramienta de resolución de problemas del día a día".