Hay un problema con las transcripciones del ‘caso Ábalos’: el mal uso de la IA las ha convertido en un guirigay
Con el ‘caso Ábalos’ estamos asistiendo a uno de los casos de corrupción más relevantes de los últimos años, pero en el Tribunal Supremo se ha producido una situación rocambolesca. Las transcripciones de las declaraciones del juez Leopoldo Puente o del exministro José Luis Ábalos, entre otros, se han convertido en diveras partes de la declaración en un galimatías.
Declaraciones incomprensibles. El Diari de Tarragona o el Diario de Navarra han tenido acceso a los documentos con las transcripciones de las declaraciones de los implicados en el ‘caso Ábalos’. Dichas transcripciones parecen demostrar un uso «descontrolado y sin supervisión», afirman en el Diario de Navarra, de las herramientas de IA para transcribir esos textos. La letrada de la Administración de Justicia del Supremo ha enviado esas copias escritas, pero en ellos hay párrafos incomprensibles.
Transcripciones de IA terribles. En esos documentos se muestran varios ejemplos de transcripciones de IA desastrosas. Al responder Ábalos sobre su supuesta presencia en pisos relacionados con prostitución, parece decir «Realmente es que en Madrid no fuera de Madrid». En otra pregunta del juez, responde según la transcripción «Yo ahora mismo no recuerdo, porque en esa fecha ya a ministra sí pero con independencia de esto usted no recuerde que es compresible que no pueda recordar las fechas». A la pregunta sobre el uso ilícito de un chalet en La Línea de la Concepción, la transcripción indica que la respuesta fue «ocasionalmente pues un chalé del tiempo que no estábamos, pero fue ocasionado, se fijó si eso 2 con eso he completado mis ingresos no tenía ningún otro ingreso».
La IA ni identifica correctamente a los testigos. Este desastre se extiende a la propia identificación de los testigos. En el diario de Navarras comentan lo que pasó con Claudio Rivas, «el mayor socio de Víctor de Aldama en el macrofraude de los hidrocarburos». Los documentos de las transcripciones muestran que la IA llamó a este testigo «Claudia Arribas», «Claudia Arriba» o «Claudio Arribas». Además en una de sus respuestas sobre su actividad es igualmente absurda según la transcripción de IA: «un grupo de empresas que se dedica a la sidra a hidrocarburos de los hidrocarburos, a la venta de hidrocarburos».
Pero el remedio que la enfermedad. Según indican en el Diari de Tarragona, se decidió usar IA para las transcripciones cuando para evitar filtraciones se limitó el acceso a los vídeos originales de esos interrogatorios. El mal uso de la IA ha provocado que la única forma en que las partes puedan ahora analizar las declaraciones es solicitar al juzgado visionar esas grabaciones originales.
Mal uso de la IA. Aquí tenemos un preocupante ejemplo de lo que puede pasar ante un mal uso de la IA en organismos oficiales. No se conoce el problema, y puede que el sistema de IA no estuviera pensado para transcripciones en español, por ejemplo, pero lo que está claro es que nadie revisó la transcripción realizada por la IA, algo que debe ser parte esencial del manejo de estos sistemas. Es ya conocida la propensión de los chatbots a inventar datos y alucinar, y aquí esas limitaciones quedaron claras.
A la IA no se la puede dejar sola. Un artículo de El País de noviembre nos recuerda cómo este tipo de situaciones son comunes al usar herramientas de traducción que a menudo aplican traducciones literales que no tienen sentido. Ocurrió con la bochornosa traducción de la web oficial de turismo de Santander, que en 2018 tradujo el nombre del Centro Botín como «Loot Center» (Centro del saqueo» o el casco histórico como «historic helmet» (helmet es casco en inglés, pero refiriéndose al casco protector de los motoristas, por ejemplo).
Cuidado con Whisper y las transcripciones por IA. Investigadores de la Universidad de Michigan analizaron las transcripciones de Whisper, una popular y destacable aplicación de OpenAI para transcripciones de audio. Se detectaron alucinaciones (erores y frases inventadas) en entre el 38% y el 80% de los casos analizados. Según señalan en El País, ya entonces un portavoz de OpenAI reconoció las limitaciones y destacó que «la herramienta no debe usarse en entornos de alto riesgo».
Querellas escritas con ChatGPT. Hace unos meses asistimos a otro caso singular de un mal uso de la IA. Un abogado presentó una querella, pero para ahorrar tiempo y recursos recurrió al uso de ChatGPT para su escrito inicial. El problema es que la IA había incluido referencias erróneas a la legislación colombiana en lugar de a la normativa española aplicable. El abogado se dio cuenta del error y rápidamente presentó un escrito asumiendo la responsabilidad y excusándose por ese uso indebido. El Tribunal Superior de Justicia de Navarra decidió no imponerle una sanción, pero nuevamente quedó patente ese riesgo de usar estas herramientas de formas inapropiadas y sin revisar los textos o contenidos que generan.
España tiene a la AESIA precisamente para esto. El año pasado hablábamos de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA). Este organismo tiene precisamente como misión investigar y multar a aquellos que hagan un mal uso de la IA a partir de 2025. Las investigaciones comenzaron teóricamente el pasado 2 de febrero, y el 2 de agosto esta agencia asumirá la plena potestad sancionadora. Veremos si toman cartas en esta mala utilización de la IA en el ‘caso Ábalos’, pero desde luego sería un ejemplo claro de un uso inadecuado y hasta peligroso de la IA.
Imagen | Ministerio de Transportes
–
La noticia
Hay un problema con las transcripciones del ‘caso Ábalos’: el mal uso de la IA las ha convertido en un guirigay
fue publicada originalmente en
Xataka
por
Javier Pastor
.
– ¡Hola! Soy Nicolás Jiménez Silva, un apasionado por el mundo digital, el cine, el streaming, la tecnología y la ciencia. En este blog, exploro mis intereses, comparto mis opiniones y descubrimientos, y me sumerjo en las últimas tendencias. ¡Espero que disfrutes de la lectura!
Publicar comentario