MareNostrum se prepara para generar un modelo del lenguaje en español
Se trata de una iniciativa vital para integrar el conocimiento lingüístico y del mundo a la inteligencia artificial.
El supercomputador MareNostrum tiene un nuevo cometido: generar un modelo del lenguaje del español y de otras lenguas del estado. Para ello, ya ha empezado a recibir la ingente cantidad de datos provenientes del Archivo Web de la Biblioteca Nacional de España, cuya colección está formada por los sitios web con dominio .es (incluidos blogs, foros, documentos, imágenes, vídeos, etc.) más todos aquellos considerados patrimonio documental incluidos en otros dominios que se recolectan con el fin de preservar el patrimonio documental español en Internet y asegurar el acceso al mismo.
El Barcelona Supercomputing Center-Centro Nacional de Supercomputación (BSC) tiene por delante una doble labor con este encargo de la Secretaría de Estado para el Avance Digital (SEAD), en el marco del Plan de Impulso de las Tecnologías del Lenguaje. Por un lado, transportar los datos al supercomputador, así como su procesado para generar el modelo del lenguaje.
En este sentido, MareNostrum ha iniciado hace unos meses el almacenaje de los contenidos tras el desarrollo de un proceso de extracción de los datos textuales del archivo web de la biblioteca, lo que ha permitido transferir los contenidos rápidamente al BSC. No en vano, el transporte de esta ingente cantidad de datos suponía uno de los principales retos de la iniciativa. Más si tenemos en cuenta que, en la actualidad, el supercomputador almacena 45 terabytes.
El siguiente paso consistirá en el procesamiento de estos datos para generar modelos del lenguaje a través de las tecnologías del procesamiento del lenguaje natural. Este recurso ya existe para el inglés —el más conocido es Google Bert—, lo que ha supuesto un antes y un después en el procesamiento del lenguaje natural. El modelo en el que trabaja el BSC destaca de otras iniciativas de modelos del español por la cantidad, calidad y variedad de los datos, lo que hace que sea más preciso y de uso más transversal.
Los modelos del lenguaje y la inteligencia artificial
Los modelos del lenguaje reproducen el uso de la lengua y permiten conocer el significado real de las palabras, incluso de las frases enteras, ya que los datos están contextualizados y tienen más información, más sentido. Esto permite desambiguar el sentido de las palabras, y también interpretar el sesgo ideológico, además de abrir la puerta a abordar la ironía, el sentido figurado y enriquecer los sistemas de inteligencia artificial con sentido común.
Quim Moré, investigador del departamento de CASE del BSC, asegura que “la generación de modelos de lenguaje es vital para la inteligencia artificial. La aplicación computacional de un modelo del lenguaje desambiguado y con un contexto fundamentado en nuestro conocimiento del mundo supone un gran avance en la generación de sistemas cada vez más inteligentes y, a la vez, más cercanos”.
Las aplicaciones de este modelo son múltiples: desde la traducción automática, a la ciberseguridad, hasta la descripción del contenido de un cuadro del siglo XV hecha por un robot. Ahora bien, modelos capaces de generar esta revolución requieren de unos recursos computacionales y de datos que sólo unas pocos centros y compañías, como Google o Facebook, tienen. Por eso Moré destaca que “tenemos la gran suerte de tener en el MareNostrum la capacidad computacional necesaria y, por otro lado, tenemos la ingente cantidad de datos lingüísticos revisados y de calidad aportados por la Biblioteca Nacional. Tenemos una oportunidad importantísima de estar al nivel de los grandes centros de inteligencia artificial y de aportar una aplicación computacional del conocimiento lingüístico a la cultura”.
