Los 20 desafíos que dan forma a las estrategias generativas de IA en la actualidad

Las organizaciones se apresuran a descubrir cómo extraer valor comercial de la IA generativa, sin caer presa de las innumerables trampas que surgen.

La curva de adopción aquí no es de ninguna manera gradual, ya que la mayoría de los líderes empresariales trabajan rápidamente para aprovechar el potencial de la tecnología solo unos meses después del lanzamiento en noviembre de 2022 de la herramienta ChatGPT que desató una ola de entusiasmo (y preocupación).

Basta con mirar las cifras: alrededor del 45% de los 2.500 ejecutivos encuestados para un informe de mayo de 2023 de la firma de investigación Gartner dijeron que la publicidad en torno a ChatGPT los impulsó a aumentar sus inversiones en IA, el 70% dijo que su organización ya está explorando la IA gen y el 19% está en modo piloto o de producción real. Esos resultados se alinean con la encuesta CIO Tech Talk más reciente de julio de 2023 de Foundry que encontró que el 60% de los líderes de TI están utilizando activamente gen AI en su empresa, con un 28% más en la fase exploratoria.

La mayoría de los líderes de TI están capacitando a los empleados en IA generativa (54%) y poniendo herramientas de IA generativa en manos de los usuarios (52%), mientras que el 42% está estableciendo políticas y pautas de IA generativa, según la encuesta de Foundry. Aún así, los líderes tecnológicos, asesores ejecutivos, consultores de gestión y entusiastas de la IA están de acuerdo en que el C-suite enfrenta múltiples problemas a medida que prueban y adoptan la IA generativa. También señalan que los CIO, que son los mejores tecnólogos dentro de sus organizaciones, abordarán esas preocupaciones a medida que las empresas establezcan sus estrategias de IA de generación.

Aquí hay un resumen de los 20 problemas principales que dan forma a las estrategias de IA de generación en la actualidad.

 

1. Permitir o no

Según varios informes de noticias, algunas empresas de renombre bloquearon inicialmente las herramientas de IA generativa como ChatGPT por varios motivos, incluida la preocupación por proteger los datos de propiedad. Algunas empresas han levantado sus prohibiciones y permiten un uso limitado de la tecnología; otros no.

A medida que los proveedores agregan IA generativa a sus ofertas de software empresarial y los empleados prueban la tecnología, los CIO deben asesorar a sus colegas sobre los pros y los contras del uso de la IA generativa, así como las posibles consecuencias de prohibirla o limitarla.

“La pregunta número 1 ahora es permitir o no permitir”, dice Mir Kashifuddin, líder de privacidad y riesgo de datos de la firma de servicios profesionales PwC US. “Muchas empresas están sentadas en medio de la discusión de si lo bloqueamos o lo permitimos”.

Y esto incluye los puestos de los principales oficiales de tecnología, ya que los propios CIO debaten si impulsar o detener la exploración de IA .

 

2. Riesgos en rápida evolución

Las empresas que han bloqueado su uso están descubriendo que algunos trabajadores todavía lo están probando. También se están dando cuenta de que tendrán que aprender a aprovechar el potencial de la tecnología o quedarse atrás.

Eso deja a las empresas luchando por identificar los riesgos más inmediatos de seguir adelante con los pilotos de gen AI.

“El trabajo del CIO es hacer preguntas sobre escenarios potenciales. El CIO debe hablar sobre los riesgos y cuáles son los riesgos”, dice Mary Carmichael, directora general de asesoramiento sobre riesgos de Momentum Technology y miembro del Grupo de Trabajo de Tendencias Emergentes y del Comité Asesor de Riesgos de la asociación de gobierno ISACA.

 

3. Políticas de uso aceptable

Carmichael dice que los ejecutivos tienen otra gran pregunta frente a ellos cuando se trata de herramientas como ChatGPT. La pregunta: "¿Qué dirección le da a su personal en este momento sobre tecnología que es gratuita y accesible?"

Carmichael dice que recientemente preguntó a una reunión de ejecutivos si tenían una política de uso aceptable, y solo unos pocos dijeron que habían creado una para guiar a sus empleados sobre lo que la empresa consideraba aceptable.

“El personal ya está preguntando: '¿Debería usar esta herramienta? ¿Cuándo debo usarlo? ¿Qué debo tener en cuenta? Pero en este momento TI parece estar tratando de ponerse al día”, dice Carmichael. “Entonces, los CIO tienen que pensar en una IA de generación empresarial con controles; necesitan pensar en establecer algunas políticas”.

 

4. Interrupción del negocio

La IA generativa es una tecnología disruptiva, por lo que los CIO y sus colegas de C-suite deben considerar si su empresa será víctima de esa fuerza o cómo.

“¿Cómo se ve afectada su empresa por la IA generativa? ¿Cómo ha impactado, digamos, ChatGPT en su modelo de negocio? Carmichael pregunta, señalando que algunas empresas ya han perdido un valor de mercado significativo al enfrentarse a la competencia repentina de la gen AI.

“Este es un problema para los CIO. Algunos esperan ahorros de costes usando esta tecnología, pero también existe la expectativa de que encontrarán formas de incorporar esta tecnología [en los productos de su empresa] para fortalecer sus ofertas”, agrega Carmichael. “Aquí es donde los CIO tienen que adquirir conocimientos sobre la tecnología y brindar orientación y asesoramiento”.

 

5. Construyendo un motor en vuelo

Como si esos no fueran desafíos lo suficientemente grandes como para enfrentarlos, los ejecutivos deben moverse rápido y enfrentarlos mientras todo está en marcha.

Douglas Merrill, socio de la firma de consultoría de gestión McKinsey & Co., dice que los CIO deben aplicar procesos ágiles a su estrategia de IA de generación. “Tienes que aprender a medida que avanzan las cosas, pero hacer [iteraciones] que sean seguras y controladas y que se centren en la gestión de riesgos”, explica.

 

6. Aún no hay una buena orientación

A medida que los CIO buscan llevar el control y la gestión de riesgos a la tecnología que está generando un interés generalizado y mucha experimentación, lo hacen sin una guía y un apoyo preexistentes.

“Uno de los problemas particulares que todos enfrentamos es que la IA generativa es realmente nueva y se está moviendo muy rápido, por lo que no hay muchas herramientas”, dice Merrill. “Las pautas de riesgo para la IA de generación son frágiles y nuevas, y no hay un 'Aquí le mostramos cómo pensar en las medidas de seguridad de riesgo' comúnmente aceptado. Eventualmente habrá, pero aún no existen”.

 

7. Innovando a toda velocidad

Otra área que deben abordar los CIO: cómo utilizar la IA generativa para diferenciar sus organizaciones.

Los CIO deben centrarse en “dónde pueden usar la IA generativa de manera efectiva. No es un martillo. Están buscando el arte de lo posible. Y hay tantas posibilidades que hay que alinearlas directamente con la estrategia comercial”, dice Frances Karamouzis, distinguida vicepresidenta analista de la firma de investigación Gartner.

Ella reconoce que la innovación impulsada por la tecnología no es nueva para los CIO, pero la IA de generación sí presenta nuevos desafíos debido a la velocidad de su evolución, así como a su poder y complejidad.

“Los CIO tendrán que idear, educar y ejecutar de una manera muy diferente en términos de velocidad y viscosidad de las soluciones”, agrega Karamouzis.

 

8. Identificar, priorizar casos de uso

La firma de investigación IDC descubrió en su Encuesta sobre los resultados de inteligencia artificial generativa de mayo de 2023 que casi el 70% de los compradores de servicios de inteligencia empresarial están considerando o trabajando activamente en casos de uso de inteligencia artificial generativa.

Las empresas necesitan una forma de recopilar, examinar y priorizar ideas sobre cómo utilizar la tecnología en beneficio de la empresa.

“Los CIO deben, ante todo, establecer una hoja de ruta clara para implementar la IA generativa. Ya sea que los objetivos sean ganancias de productividad u otras ganancias comerciales, deben estar alineados con [todo el C-suite] en la hoja de ruta antes de realizar cualquier selección de tecnologías para habilitar la hoja de ruta”, dice Goh Ser Yoong, jefe de cumplimiento en Advance.AI y miembro del Grupo de Trabajo de Tendencias Emergentes de ISACA.

Karamouzis dice que los CIO deben aprovechar su experiencia previa en la priorización de iniciativas impulsadas por la tecnología y aplicar la misma disciplina para generar ideas de IA para garantizar que sus organizaciones inviertan sabiamente.

En su encuesta, IDC descubrió que los casos de uso de mayor prioridad se encuentran en las categorías de gestión del conocimiento, generación de código y diseño e ingeniería de productos o servicios. Los compradores estuvieron más de acuerdo con el sentimiento de que la IA generativa permitirá a sus empleados concentrarse en tareas de mayor valor. Y los compradores a menudo no estaban de acuerdo con que la IA generativa los exponga a mayores riesgos.

La encuesta Gen AI de Foundry encontró que los CIO minoristas lideran el camino en la identificación de casos de uso (49%), seguidos por los líderes de TI en los sectores de fabricación (42%), tecnología (42%) y servicios financieros (32%).

 

9. Comprar vs. modificar vs. construir

Las empresas pueden llevar la IA generativa a sus organizaciones de tres maneras diferentes, y los CIO guiarán a sus empresas para decidir cuál funciona mejor para ellos.

McKinsey ha desarrollado un marco de propiedad que describe los diferentes tipos de uso como "tomador", "moldeador" y "fabricante".

Un tomador usa lo que alguien más construyó, aprovechando las capacidades directamente desde el primer momento. El modelador esencialmente personalizará dichas capacidades para que funcionen según sus propias necesidades o con sus propios datos de propiedad. El fabricante, el menos común de los tres tipos, dice Merrill de McKinsey, tiene la mayor necesidad de estructura y control, por lo que construirá sus propios modelos para cumplir con sus requisitos altamente especializados.

 

10. Preparación empresarial

Independientemente de si una empresa es un tomador, moldeador o creador, necesitará un infraestructura de tecnología y un programa de datos lo suficientemente modernos para hacer un uso efectivo de la IA generativa. 

“Los datos, las estructuras en la nube, la red de cómputo y el almacenamiento, ese es sin duda el ámbito del CIO”, dice Karamouzis, y agrega que los CIO también tienen la responsabilidad de identificar y abordar cualquier cuello de botella o barrera dentro de la tecnología o la pila de datos que podría evitar que sus organizaciones alcancen los objetivos de gen AI que establecieron.

"Los CIO son los que construirán la tecnología para permitir esto", añade.

 

11. Privacidad y seguridad de los datos

A mediados de la primavera de 2023, la empresa de electrónica de Corea del Sur, Samsung, prohibió el uso de herramientas de inteligencia artificial generativa por parte de los empleados después de descubrir que parte de su código fuente interno se había cargado en ChatGPT.

A otras empresas les preocupa que sus trabajadores estén haciendo lo mismo, dice Kashifuddin.

“A medida que la fuerza de trabajo interactúa con estas herramientas, las empresas deben asegurarse de que no ingresan datos patentados que se envían de regreso a los modelos básicos”, agrega.

Los ejecutivos buscan a sus CIO, así como a sus líderes de datos y ejecutivos de privacidad, para tomar medidas, desarrollar políticas de gobierno, implementar controles e implementar herramientas de monitorización para asegurarse de que los empleados sigan políticas de uso aceptables y no expongan datos patentados y propiedad intelectual.

 

12. Adhesión a la ley de datos y privacidad

Otro problema que enfrentan los CIO, así como los líderes de datos, cumplimiento, riesgo y seguridad, es este: cómo monitorizar y garantizar que los trabajadores no violen las leyes de privacidad de datos y las mejores prácticas de protección de datos si están usando IA generativa.

“Cuando pones tus datos en un motor de IA controlado por otra persona, pierdes el control de esos datos”, advierte Carl Froggett, CIO de Deep Instinct, fabricante de una plataforma de ciberseguridad.

 

13. La necesidad de un registro de auditoría

También se les pide a los CIO que ideen formas de discernir y auditar los resultados producidos por la IA generativa para garantizar que los resultados sean precisos, imparciales y libres de infracciones de la propiedad intelectual protegida, según los expertos.

Como explica Carmichael: “La IA responsable y explicable son otros desafíos con los que los CIO tendrán que lidiar”.

 

14. Nuevas regulaciones

Los gobiernos de todo el mundo están debatiendo si y cómo regular el uso de la IA . Y si bien los departamentos legales corporativos y los asesores externos ayudarán a los ejecutivos a discernir qué significan las nuevas leyes para ellos, los CIO tendrán un papel que desempeñar para hacer que la tecnología de IA dentro de la empresa se adhiera a las nuevas leyes.

“Los CIO deben mantenerse al tanto de las regulaciones y los marcos legales en evolución relacionados con el uso de IA, como la reciente Ley de IA de la Unión Europea”, dijo Goh. “El cumplimiento de las leyes de protección de datos, las normas de propiedad intelectual, las pautas específicas de la industria y los estándares éticos es crucial. Los CIO deben trabajar en estrecha colaboración con los equipos legales para comprender y abordar las implicaciones legales asociadas con la IA generativa”.

 

15. Problemas de precisión

De manera similar, Kashifuddin y otros señalan la necesidad de que los CIO ayuden a sus organizaciones y a los propios trabajadores a adoptar procedimientos de garantía de calidad que verifiquen cualquier conocimiento producido por IA que reciban. Eso incluye implementar QA dentro de TI para cualquier código que los desarrolladores quieran usar, agrega Kashifuddin.

Las consecuencias de no dar este paso pueden ser significativas, como muestran algunos ejemplos muy publicitados. Un ejemplo notable es el caso de un abogado de Nueva York que enfrenta su propia audiencia en la corte después de un documento legal redactado usando ChatGPT, que incluía citas de casos legales inventados por la tecnología.

 

16. Requisitos de mejora de las cualificaciones

La IA está remodelando rápidamente la demanda de habilidades y talento de TI, y los trabajadores de toda la organización deberán aprender a trabajar con herramientas de IA generativa.

Mientras tanto, los trabajadores de TI deben volver a capacitarse para trabajar con herramientas de IA generativa para hacer su trabajo y adquirir las habilidades necesarias para respaldar la tecnología a medida que se usa en toda la organización.

Como dice Goh: "Los CIO deben evaluar las brechas de habilidades dentro de sus departamentos de TI y proporcionar la capacitación y los recursos adecuados para comprender y trabajar con IA generativa de manera efectiva".

 

17. Amenazas de ciberseguridad mejoradas por IA

Otra área de preocupación para los CIO: cómo los piratas informáticos utilizan la IA generativa.

“Estás hablando de un nuevo nivel de sofisticación en la elaboración de correos electrónicos y mensajes y eludiendo la biometría porque la IA generativa adopta la personalidad, los gestos y las frases que usaría una persona real”, dice Froggett, y agrega que la IA generativa puede generar videos y audio falsos que parecen auténticos.

Tales ataques sofisticados pueden hacer que los controles de seguridad existentes, como la autenticación de voz, queden obsoletos, lo que obliga a los CIO y CISO a encontrar alternativas rápidamente.

“Es posible que los controles que teníamos implementados no funcionen debido a lo que ya está haciendo la IA generativa”, agrega Froggett.

 

18. Trabajadores nerviosos

En un informe de marzo de 2023, Goldman Sachs calculó que alrededor de dos tercios de los trabajos actuales “están expuestos a algún grado de automatización de IA, y que la IA generativa podría sustituir hasta una cuarta parte del trabajo actual”. En otras palabras, dijo la firma, el equivalente a 300 millones de empleos de tiempo completo podría perderse debido a la automatización.

“Hay mucha incertidumbre. La gente piensa: '¿Cómo va a afectar esto a mi carrera? ¿Necesito volver a capacitarme?'”, dice Carmichael.

Como parte del equipo ejecutivo, los CIO deberían trabajar para involucrar a sus empleados y abordar sus preocupaciones, dice, y agrega que cree que la IA generacional generará empleos, y tal vez más de lo que se perderá. Ese es un mensaje que los CIO también podrían compartir, a medida que abordan el espinoso desafío de gestión del cambio de IA de generación.

 

19. Liderar el cambio a través de esta nueva tecnología

Los CIO estarán entre los ejecutivos responsables de liderar sus organizaciones a través de toda la disrupción que se espera que genere la IA.

Los CIO encajan naturalmente en este trabajo, dicen Carmichael y otros; han estado desarrollando sus habilidades en este espacio durante la última década mientras lideraban sus organizaciones a través de transformaciones digitales.

Sin embargo, algunos dicen que liderar el próximo cambio será diferente a los escenarios de gestión de cambios anteriores, ya que el ritmo de adopción y la disrupción que genera la IA podrían empequeñecer las revoluciones tecnológicas anteriores.

“El ritmo ha sorprendido a todos, y ahora tenemos que mantener el ritmo”, dice Carmichael. “Entonces, la pregunta es cómo de bien manejas todo eso y avanzas con confianza”.

 

20. Reunir los equipos

El CIO, por supuesto, no puede abordar todos estos problemas solo, ni debe intentarlo. Pero como tecnólogo principal en muchas organizaciones, el CIO probablemente será un asesor clave para el equipo ejecutivo sobre los riesgos y oportunidades que presenta la IA de generación.

“El CIO está habilitando o equipando, actúa como facilitador, asesor y repartidor”, dice Karamouzis. “Así que ahora el rol del CIO es uno de los roles integrales en el C-suite para ayudar a otros a comprender la lista completa de cosas que se deben hacer”.