El alcalde de Nueva York respalda al ‘chatbot’ que aconsejaba a empresarios violar la ley
El chatbot MyCity fue promocionado durante su lanzamiento como una herramienta capaz de brindar a los empresarios y comerciantes “información confiable”.
A estas alturas, de sobra son conocidos los riesgos y alucinaciones derivados de la inteligencia artificial (IA) generativa; sin embargo, en esta ocasión, sorprende que un humano respalde las respuestas perniciosas de la tecnología. El alcalde de la ciudad de Nueva York, Eric Adams, estaría defendiendo el nuevo chatbot de IA de la ciudad que ha sido descubierto en los últimos días dando a dueños de negocios respuestas o consejos incorrectos que, de seguirse, implicarían violar la ley.
Cuando se lanzó como prueba piloto en octubre del ya caduco 2023, el chatbot MyCity fue promocionado como el primero en toda la ciudad en emplear la citada tecnología. Entonces se ensalzó la herramienta asegurando que brindaría a los propietarios de negocios "información procesable y confiable" en respuesta a las consultas ingresadas en un portal web.
Sin embargo, recientemente, periodistas del medio de comunicación The Markup descubrieron que el chatbot no actuaba como debería. Y es que el chatbot afirmaba erróneamente que los empleadores podían recibir una parte de las propinas de sus trabajadores y que no había regulaciones que exigieran que los jefes avisaran de los cambios de horario de los empleados.
"Está mal en algunas áreas y tenemos que arreglarlo", dijo el martes Adams, enfatizando que se trataba de un programa piloto. "Cada vez que se utiliza tecnología, es necesario ponerla en el entorno real para solucionar los problemas". Adams ha sido un ferviente defensor del despliegue de tecnología no probada en la ciudad con un optimismo que no siempre se ve justificado. El año pasado colocó un robot de 400 libras en la estación de metro de Times Square que esperaba ayudaría a la policía a disuadir el crimen, algo que no logró.
En este sentido cabe destacar que días más tarde el chatbot seguía disponible dando respuestas incorrectas a los usuarios. Insistía en que los propietarios de tiendas eran libres de no usar efectivo, aparentemente ajenos a la ley del ayuntamiento de 2020 que prohíbe a las tiendas negarse a aceptar efectivo; además, todavía cree que el salario mínimo de la ciudad se sitúa en 15 dólares por hora, aunque se elevó a 16 dólares a comienzos de 2024.
Dada la polémica suscitada, la ciudad ha actualizado las exenciones de responsabilidad en el sitio web del chatbot MyCity, señalando que "sus respuestas a veces pueden ser inexactas o incompletas" y pidiendo a las empresas que "no utilicen sus respuestas como asesoramiento legal o profesional".
