Seis buenas prácticas para desarrollar una política corporativa sobre el uso de la IA generativa

Aunque existe una carta pública que reclama a todos los laboratorios de inteligencia artificial (IA) que suspendan inmediatamente durante seis meses el entrenamiento de todos aquellos sistemas de IA más potentes que GPT-4, la realidad es que el genio ya ha salido de la lámpara. He aquí algunas formas de comprender mejor de qué son capaces estos sistemas y cómo utilizarlos para elaborar una política de uso corporativo eficaz para su organización.

La IA generativa es la forma de IA que acapara titulares y que utiliza algoritmos no supervisados y semisupervisados para crear nuevos contenidos a partir de materiales existentes, como texto, audio, vídeo, imágenes y código. Los casos de uso de esta rama de la IA son cada vez más numerosos y las organizaciones la utilizan para atender mejor a los clientes, sacar más partido de los datos empresariales existentes y mejorar la eficiencia operativa, entre otra retahíla de casos de uso.

Sin embargo, al igual que otras tecnologías emergentes, no llega sin riesgos ni retos que desafiar. Según una encuesta reciente de Salesforce a líderes de TI de alto nivel, el 79% de los encuestados cree que la tecnología tiene el potencial de ser un riesgo para la seguridad, al 73% le preocupa que pueda ser sesgada y el 59% cree que sus resultados son inexactos. Además, hay que tener en cuenta las preocupaciones legales, especialmente si el contenido creado por la IA generativa de uso externo es objetivo y preciso, el contenido está protegido por derechos de autor o procede de un competidor.

A modo de ejemplo, y para testar la realidad, cabe destacar que el propio ChatGPT nos dice que "mis respuestas se generan basándose en patrones y asociaciones aprendidas de un gran conjunto de datos de texto, y no tengo la capacidad de verificar la exactitud o credibilidad de cada fuente referenciada en el conjunto de datos".

Los riesgos legales por sí solos son amplios, y según la organización sin ánimo de lucro Tech Policy Press, incluyen peligros que giran en torno a los contratos, la ciberseguridad, la privacidad de los datos, las prácticas comerciales engañosas, la discriminación, la desinformación, la ética, la propiedad intelectual y la validación. De hecho, es probable que su organización tenga un gran número de empleados experimentando actualmente con IA generativa, y a medida que esta actividad pasa de la experimentación al despliegue en la vida real, es importante ser proactivo antes de que se produzcan consecuencias no deseadas. "Cuando el código generado por IA funciona, es sublime", afirma Cassie Kozyrkov, científica jefe de decisiones de Google. "Pero no siempre funciona, así que no olvides comprobar el resultado de ChatGPT antes de pegarlo en algún lugar importante".

Una política de uso corporativa y la formación asociada pueden ayudar a educar a los empleados sobre algunos de los riesgos y trampas de la tecnología, y proporcionar normas y recomendaciones sobre cómo sacar el máximo partido de la tecnología y, por lo tanto, el mayor valor empresarial sin poner en riesgo a la organización. Teniendo esto en cuenta desciframos seis buenas prácticas para desarrollar una política satisfactoria del uso corporativo de la IA generativa.

Determine el ámbito de aplicación de su política

El primer paso para elaborar su política de uso corporativo es considerar el ámbito de aplicación. Por ejemplo, ¿cubrirá todas las formas de IA o sólo la IA generativa? Centrarse en la IA generativa puede ser un enfoque útil, ya que aborda los grandes modelos de lenguaje (LLM), incluido ChatGPT, sin tener que revolver en todo el universo de la IA. Cómo establecer la gobernanza de la IA para el tema más amplio es otra cuestión, y hay cientos de recursos disponibles en línea.

Implique a todas las partes interesadas

Implicar a todas las partes involucradas puede incluir a los departamentos de RR.HH, jurídico, de ventas, de marketing, de desarrollo empresarial, de operaciones y de TI. Cada grupo puede ver diferentes casos de uso y diferentes ramificaciones de cómo el contenido puede ser utilizado o mal utilizado. Involucrar a los grupos de TI e innovación puede ayudar a demostrar que la política no es sólo una restricción desde la perspectiva de la gestión de riesgos, sino un conjunto equilibrado de recomendaciones que buscan maximizar el uso productivo y el beneficio empresarial, al tiempo que se gestionan los riesgos empresariales.

Actualidad vs. Futuro

Considere cómo se utiliza la IA generativa en la actualidad y cómo podría utilizarse en el futuro. En colaboración con todas las partes interesadas, detalle todos los casos de uso internos y externos que se están aplicando en la actualidad y los previstos para el futuro. Cada uno de ellos puede ayudar a informar sobre el desarrollo de políticas y garantizar que se está cubriendo el frente. Por ejemplo, si ya hay equipos de propuestas, incluidos contratistas, que experimentan con la redacción de contenidos, o equipos de productos que experimentan con textos creativos de marketing, sabrá que podría haber un riesgo de propiedad intelectual debido a que los productos podrían infringir los derechos de propiedad intelectual de otros.

Desarrollo constante

Al desarrollar la política de uso corporativa, es importante pensar de forma holística y cubrir la información que entra en el sistema, cómo se utiliza el sistema de IA generativa y cómo se utiliza posteriormente la información que sale del sistema. Céntrese en los casos de uso interno y externo y en todo lo que hay en medio. Al exigir que todo el contenido generado por IA se etiquete como tal para garantizar la transparencia y evitar la confusión con el contenido generado por humanos, incluso para uso interno, puede ayudar a evitar la reutilización accidental de ese contenido para uso externo, o actuar sobre la información pensando que es factual y precisa sin verificación.

Compartir abiertamente con toda la organización

Dado que las políticas a menudo se olvidan rápidamente o ni siquiera se leen, es importante acompañarlas de la formación y educación adecuadas. Esto puede incluir la elaboración de vídeos de formación y la organización de sesiones en directo. Por ejemplo, una sesión de preguntas y respuestas en directo con representantes de los equipos de TI, innovación, jurídico, marketing y propuestas, u otros grupos adecuados, puede ayudar a educar a los empleados sobre las oportunidades y los retos futuros. Asegúrese de dar muchos ejemplos para ayudar a que sea real para la audiencia, como cuando surgen casos legales importantes y se pueden citar como ejemplos.

Un documento vivo

Como con todos los documentos de política, querrás que sea un documento vivo y actualizarlo a una cadencia adecuada según lo dicten los casos de uso emergentes, las condiciones del mercado externo y los desarrollos. Hacer que todas las partes interesadas firmen la política o incorporarla a un manual de políticas ya existente firmado por el director general demostrará que cuenta con su aprobación y que es importante para la organización. Su política debe ser sólo una de las muchas partes de su enfoque de gobernanza más amplio, ya sea para la IA generativa, o incluso para la gobernanza de la IA o la tecnología en general.

Esto no pretende ser un asesoramiento jurídico, y sus departamentos jurídico y de RR.HH deben desempeñar un papel principal en la aprobación y difusión de la política. Sin embargo, esperamos que proporcione algunas pistas para su consideración. Al igual que las políticas corporativas de medios sociales de hace una década o más, dedicar tiempo a esto ahora ayudará a mitigar las sorpresas y los riesgos cambiantes en los próximos años.