Así pueden los profesionales de TI beneficiarse de la IA generativa de forma segura
Los chatbots de lenguaje natural pueden transformar las tecnologías de la información empresarial a mejor, siempre y cuando mantengan al ser humano en el propio proceso.
El panorama empresarial de TI está plagado de tecnologías que aspiraban a cambiar paradigmas y que no estuvieron a la altura de las expectativas; y hasta ahora se podía decir que la inteligencia artificial (IA) entraba en dicha categoría. Sin embargo, la IA generativa que ha arrasado en el mundo con el chatbot ChatGPT de OpenAI, podría ser la verdadera solución.
Chris Bedi, director de Información Digital de ServiceNow, dice que el lanzamiento de ChatGPT en noviembre pasado fue como "el momento iPhone", un evento que capturó la atención del público de una manera que "cambió todo para siempre". Predice que la IA generativa se integrará en la estructura de cada empresa y recomienda que los CIO y otros líderes de TI comiencen ahora a desarrollar sus estrategias de IA generativa.
Gartner no es menos efusivo y vaticina que la IA generativa se convertirá en “una tecnología de propósito general con un impacto similar al de la máquina de vapor, la electricidad e Internet”. Aunque la IA generativa todavía está en pañales y hay muchos obstáculos que superar, Gartner dice: “La IA generativa ofrece oportunidades nuevas y disruptivas para aumentar los ingresos, reducir costes, mejorar la productividad y gestionar mejor el riesgo. En un futuro próximo, se convertirá en una ventaja competitiva y un diferenciador”.
La IA existe desde hace mucho tiempo, pero la IA generativa lleva el aprendizaje automático al siguiente nivel con una arquitectura de red neuronal llamada transformador (la T en GPT), descrita por primera vez por investigadores de Google en 2017. He aquí la novedad. Los sistemas de IA generativa se basan en conjuntos de datos previamente entrenados (la P en GPT) (45 terabytes para ChatGPT) y pueden responder consultas en lenguaje conversacional. La IA generativa puede producir texto, imágenes y videos, incluidos códigos de software y scripts de redes.
Fuimos directamente a la fuente y le preguntamos al propio ChatGPT cómo puede hacer la vida más fácil para la TI empresarial. Después de una pausa de no más de un par de segundos, obtuvimos una lista numerada: 1) solución de problemas y resolución de problemas, 2) documentación y gestión del conocimiento, 3) automatización y secuencias de comandos, 4) capacitación e incorporación, 5) seguridad y cumplimiento, 6) gestión y planificación de proyectos, 7) mantenerse actualizado sobre las tendencias tecnológicas.
Sin ninguna indicación, el chatbot agregó: “Es importante tener en cuenta que, si bien ChatGPT puede brindar orientación y soporte valiosos, no se debe confiar únicamente en él para la toma de decisiones críticas. La experiencia y el juicio humanos siempre deben considerarse junto con las sugerencias generadas por la IA”.
Después de conocer la perspectiva del chatbot, pasamos a los humanos inteligentes para conocer su opinión sobre varias preguntas clave sobre la IA generativa: ¿Qué es exactamente? ¿Qué puede hacer por la TI empresarial? ¿Qué no puede hacer? ¿Cómo lo consigue? ¿Cuáles son los posibles peligros a tener en cuenta?
¿Qué es la IA generativa y en qué se diferencia de la IA tradicional?
En su mayor parte, la tecnología tradicional de IA/ML permanece en un segundo plano, buscando identificar patrones en grandes conjuntos de datos. Hace predicciones y proporciona recomendaciones basadas en esas predicciones.
La IA generativa es diferente. Se trata de un gran modelo de lenguaje (LLM) entrenado con grandes cantidades de datos, incluidas muestras de conversación humana. Es capaz de digerir y resumir datos y puede interactuar con un humano utilizando el lenguaje natural. ChatGPT es un súper Siri que sorprendió incluso a sus creadores cuando acumuló un millón de usuarios en su primera semana después de su lanzamiento y 100 millones después de dos meses. Actualmente genera 1.800 millones de visitantes al mes.
En general, cuando los sistemas escalan rápidamente, se vuelven más complejos, más difíciles de gestionar, menos confiables y menos eficientes. Con modelos de lenguaje grandes, cuantos más datos, más consultas, más interacciones, más inteligente se vuelve el sistema y más comienza a parecerse a la inteligencia humana.
Pero, al menos en esta etapa, estos modelos no son lo mismo que la inteligencia humana. El analista de Forrester, Rowan Curran, dice: “Lo que no están haciendo es crear información nueva y neta que tenga una comprensión contextual de sí misma. Estos modelos predicen la siguiente palabra de una secuencia basándose en las palabras anteriores. Es importante no tratarlos como una fuente de autoridad, un oráculo o cualquier cosa que tenga una mente detrás”.
¿Qué puede hacer la IA generativa por la TI empresarial?
En la capa de red, los grandes modelos de lenguaje pueden realizar funciones como generar configuraciones de red, escribir scripts para herramientas de automatización de TI y crear mapas de red, afirma Shamus McGillicuddy, vicepresidente de Investigación de Enterprise Management Associates.
“Es muy bueno para la inspiración, la imaginación y la lucha contra la procrastinación. Se puede utilizar para comenzar con una tarea o proyecto. Pídale que le proporcione algo, como un contenido o un código. Luego uno puede utilizar sus conocimientos y habilidades para convertirlo en algo bueno, ya sea un documento de política o un archivo de configuración de red”, dice McGillicuddy.
En el desarrollo de software, la IA generativa puede generar fragmentos de código y tiene la capacidad de depurarlo. Los modelos de lenguajes grandes utilizan el término token de la misma manera que los profesionales de TI hablan de bytes. Con ChatGPT, un token representa cuatro caracteres, o aproximadamente tres cuartos de una palabra. Esto es importante porque cada consulta/respuesta de ChatGPT tiene un límite de alrededor de 4000 tokens, y el texto de la consulta en sí cuenta para ese límite. Entonces, los sistemas de IA generativa pueden escribir fragmentos de código en una variedad de lenguajes de programación, pero no les pida que creen nuevas versiones de un sistema operativo, porque cuando alcanza ese límite, se detiene y se reinicia.
A nivel estratégico, a medida que los líderes de TI se familiaricen y se sientan más cómodos con la IA generativa, podrán implementarla en toda la empresa para hacer que los empleados sean más productivos, optimizar los procesos comerciales, mejorar el servicio al cliente e impulsar la transformación digital.
Bedi dice que la capacidad de la IA generativa para tomar grandes cantidades de información compleja y dispar y resumirlas para el consumo humano tiene aplicaciones para ITOps, análisis de seguridad y registros de eventos, atención al cliente, centro de llamadas, mesa de ayuda, finanzas, recursos humanos, ventas y marketing. “Todo el mundo está inundado de toneladas de contenido; la IA generativa tiene la capacidad de destilarlo en algo útil y consumible. Puede acelerar todas las operaciones de la empresa”, añade.
Errores de la IA generativa
Si todo esto suena demasiado bueno para ser verdad, es porque probablemente lo sea, al menos por ahora. Un informe de McKinsey advierte: "Los resultados que producen los modelos de IA generativa pueden parecer a menudo muy convincentes. Pero a veces la información que generan es simplemente errónea. Peor aún, a veces está sesgada (porque se basa en los prejuicios de género, raciales y de otro tipo de Internet y de la sociedad en general) y puede manipularse para permitir actividades poco éticas o delictivas". Curran, de Forrester, utiliza el término "sinsentido coherente" para describir este fenómeno. Pero el término que está ganando más adeptos en el ecosistema de la IA generativa es "alucinación".
El futurista Bernard Marr dice: “La alucinación en la IA se refiere a la generación de resultados que pueden parecer plausibles pero que son objetivamente incorrectos o no están relacionados con el contexto dado. Estos resultados a menudo surgen de los sesgos inherentes del modelo de IA, la falta de comprensión del mundo real o las limitaciones de los datos de entrenamiento. En otras palabras, el sistema de IA 'alucina' información sobre la que no ha sido entrenado explícitamente, lo que genera respuestas poco confiables o engañosas”.
Esto significa que la TI empresarial no debe poner en producción código de software de IA generativo o scripts de red sin que una persona los verifique dos veces primero un enfoque denominado "humano en el circuito". Y las organizaciones deben contar con sistemas para detectar casos en los que el chatbot pueda interactuar con los clientes de una manera que pueda considerarse argumentativa, ofensiva o inapropiada.
La explosión de interés en ChatGPT también ha generado preocupaciones sobre la privacidad de los datos y la IA generativa de sombras, ya que se debe suponer que los empleados de todos los niveles están haciendo preguntas sobre ChatGPT.
"Estoy muy preocupado por los datos que la gente ingresa en ChatGPT cuando realizan consultas", dice McGillicuddy. "Me preocupa cómo se utilizan y almacenan esos datos y qué derechos ejerce Open AI sobre ellos".
Keatron Evans, asesor principal de Ciberseguridad del InfoSec Institute, advierte: “No utilice ningún dato protegido o información personal cuando utilice o experimente con IA. Por ejemplo, supongamos que tiene un informe de ventas confidencial y desea generar un resumen utilizando IA. Usted carga el informe, pero ahora los datos que ingresó se almacenan en los servidores de ChatGPT y utilizará esos datos para responder consultas de otras personas, posiblemente exponiendo la información confidencial de su empresa”.
Agrega que los piratas informáticos podrían aprovechar las vulnerabilidades del código ChatGPT para robar información del usuario o encontrar una manera de robar esos datos directamente desde la aplicación. "De todos modos, cargar datos o información confidencial podría violar las leyes de privacidad, lo que podría resultar en que su empresa posiblemente enfrente grandes multas", señala Evans.
Otra cuestión más confusa se refiere a la propiedad de la propiedad intelectual. Digamos que un empleado carga un código de software propietario en ChatGPT y le pide que depure el código o agregue una funcionalidad. Ese código ingresa a la base de datos ChatGPT. ¿Qué sucede cuando alguien de otra empresa consulta ChatGPT y el resultado incluye fragmentos de ese código original?
Samsung prohibió recientemente el uso de ChatGTP por parte de los empleados después de que un ingeniero "filtró accidentalmente el código fuente interno al subirlo a ChatGPT", según un memorando interno.
¿Cómo deberían las organizaciones adquirir IA generativa?
La comunidad de proveedores está compitiendo para proporcionar IA generativa a las empresas. Los habituales están liderando el camino (Google, AWS, Microsoft, IBM) ya que tienen los recursos para desarrollar estos grandes modelos de lenguaje. Pero casi todos los proveedores están encontrando una manera de incorporar IA generativa en sus plataformas.
La analista de IDC Nancy Gohring dice: “Los proveedores de ITSM e ITOps ya están aplicando IA generativa a una variedad de casos de uso, predominantemente con el objetivo de mejorar la usabilidad de las herramientas, acelerar los tiempos de respuesta y ampliar los casos de uso. Si bien garantizar la supervisión humana es fundamental, especialmente dada la inmadurez de la tecnología, las empresas deberían considerar seriamente adoptar nuevas ofertas como una forma de mejorar la eficiencia”.
Para los líderes de TI, un enfoque sensato sería trabajar con socios de plataformas existentes para determinar cómo se alinea la hoja de ruta del proveedor con el estilo de adquisición de tecnología de sus empresas. ¿Tiene la empresa la voluntad y la disposición (ya sea desde una perspectiva de habilidades, financiación o infraestructura de procesamiento de datos) para poner en marcha sus propias capacidades generativas de IA? Este enfoque podría ofrecer una ventaja competitiva, pero también requiere tiempo y esfuerzo.
¿O tendría más sentido aprovechar los proveedores de tecnología existentes que están incorporando IA generativa en sus plataformas? Por ejemplo, Salesforce lanzó Einstein GPT, que brinda capacidades de inteligencia artificial generativa a la plataforma Salesforce CRM, así como a la aplicación Slack.
Por supuesto, de manera similar a la forma en que las organizaciones han adoptado arquitecturas de nube híbrida, es probable que las empresas adopten un modelo mixto que abarque implementaciones tanto en la nube como locales. Una opción sería crear nuevas aplicaciones de IA generativa en la nube de AWS, utilizando la infraestructura de AWS, grandes modelos de lenguaje y conjuntos de herramientas. Otra sería crear una funcionalidad de IA generativa personalizada sobre las plataformas CRM o ERP del proveedor.
Lo que ofrecen algunos de los principales proveedores
A continuación se muestran algunos ejemplos de cómo los proveedores clave están aumentando sus capacidades de IA generativa:
Microsoft
Microsoft, el principal inversor en OpenAI y su socio tecnológico, está incorporando la tecnología ChatGPT en toda su cartera. Microsoft ha presentado Microsoft 365 Copilot, que integra IA generativa en aplicaciones de productividad de Office como Word, Excel, Outlook y Teams. Una función llamada Business Chat combina el calendario, los correos electrónicos, los chats, los documentos, los contactos, etc. de un usuario, en una base de conocimientos que se puede consultar en lenguaje natural. Microsoft ha anunciado Dynamics 365 Copilot, que lleva la IA generativa a CRM y ERP. Y Microsoft ha incorporado la funcionalidad ChatGPT en su motor de búsqueda Bing.
En un desarrollo relacionado, OpenAI se ha asociado con GitHub para ofrecer un producto comercial llamado GitHub Copilot, un chatbot de escritura de códigos que puede hablar más de una docena de lenguajes de programación.
Google ha anunciado Duet AI para Google Workspace, que integra su IA generativa (el modelo de lenguaje grande de Google se llama PaLM) en la suite de productividad de Google (Gmail, Google Docs, Sheets, Slides y Meet). Google está incorporando la funcionalidad de IA generativa en su navegador Chrome. Tiene una plataforma llamada Vertex AI que permite a las empresas y proveedores de SaaS crear sus propias aplicaciones; un servicio para ayudar a las empresas a crear aplicaciones de búsqueda y chat basadas en inteligencia artificial basadas en los modelos básicos de Google; y una respuesta al Copilot de GitHub llamada Duet, diseñada para ayudar a los desarrolladores a escribir código.
Cisco
Cisco ha construido su propia IA generativa y recientemente anunció planes para comprar la startup de IA Armorblox. Cisco dice que incorporará capacidades de IA generativa en todo su portafolio, comenzando con su servicio Security Cloud y su herramienta de colaboración Webex.
