Inteligencia Artificial y Derechos Humanos I: ¿el robot sabrá que sabe?

La pasada semana pude asistir al Congreso sobre Inteligencia Artificial y Derechos Humanos organizado por la Facultad de Derecho de la UNED, donde se abordaron cuestiones de diversa naturaleza en relación con esta realidad. Puede parecer que para una estudiante de Derecho que ha nacido ya en la Era Digital, prácticamente desde los 13 años con móvil en mano, la Inteligencia Artificial resulta un tema algo obvio y sin grandes misterios. He de decir que, por el contrario, cuando acudí al evento me di cuenta de que el hecho de tener tan interiorizada la convivencia con las tecnologías había provocado que las normalizara, que no me preocupara por identificar qué era una herramienta basada en Inteligencia Artificial o dónde se encontraba presente en mi día a día. La tecnología había aparecido en mi vida como si de una creación divina se tratase, sin abocarme a la reflexión de en qué medida estaba modificando la vida en sociedad, tal y como se conocía hasta el momento, y las consecuencias de estos cambios. Es por ello por lo que pretendo compartir con ustedes las preguntas a las que se pudo llegar en el Congreso. Y sí, hablo de preguntas, porque se trata de una disciplina aún en fase de crecimiento y sólo a través del cuestionamiento es posible el progreso.

En primer lugar, subrayar algo que ya no es ningún secreto para nadie: vivimos en una Era donde el nuevo petróleo es la información, los DATOS. Se trata del combustible del que se nutre cualquier tecnología de Inteligencia Artificial para su desarrollo, lo cual plantea escepticismos y recelos en torno a su extracción, manejo y aplicación. Por este motivo surgen debates en relación con los Derechos Humanos y la Ética, cuestiones que han sido objeto del presente foro.

Es en este punto donde se hace necesario destacar la intervención del Catedrático de Filosofía del Derecho, Rafael de Asís Roig, que hacía hincapié en la importancia superlativa de los Derechos Humanos como enfoque desde el cual se debía avanzar en el desarrollo de las tecnologías y, concretamente, de la Inteligencia Artificial, lo que supone no sólo una orientación moral en la fase de aplicación de las mismas, sino desde el primer momento en que se comienza el diseño y la programación. De ahí su siguiente planteamiento: es muy relevante que la formación sobre robótica e inteligencia artificial esté acompañada de una visión ética y de Derechos Humanos para que las generaciones próximas que se formen lo hagan interiorizando una serie de valores o principios que, inconscientemente, reflejarán en su carrera profesional y en el producto de su trabajo.

Ahora bien, ¿qué sucede con la Inteligencia Artificial en el sector legal?

Pues podemos afirmar que está removiendo a algunos de sus asientos por las múltiples e innovadoras aplicaciones que plantea:  por ejemplo, la predicción de los fallos de los Tribunales o el análisis de perfiles criminales para la valoración de la peligrosidad o de la posibilidad de reincidencia del condenado en el proceso penal para intervenir, así,  en la determinación de su pena. Esto constituye una gran revolución del sector. No obstante, nos surgen unas cuantas preguntas al respecto: ¿implica esto una deshumanización de los procesos? ¿El sistema de inteligencia artificial que decide es imparcial o ha sido diseñado con sesgos inconscientes o no tan inconscientes (algoritmos que discriminan)? ¿Se ve afectado el derecho a un juicio justo? ¿Cómo impugnar decisiones judiciales acordadas por inteligencia artificial en caso de que no se conozcan los criterios utilizados por el software? (Véase el Caso Loomis). Son preguntas que tenemos que hacernos necesariamente para poder abordar la Revolución que se nos viene encima, puesto que la Inteligencia Artificial será seguramente, en un futuro no muy lejano, una realidad más presente en nuestras vidas de lo que podemos llegar a pensar. Esto implica que habrá de regularse de forma estricta, minuciosa y tomando como punto de partida los Derechos Humanos, y para ello necesitaremos a juristas bien formados e inmersos en esta parcela de la realidad. Lo que parece consenso en la comunidad es que, sea cual fuere el desarrollo de esta tecnología y su regulación, en última instancia siempre tendrá que haber una última intervención humana que supervise la ejecución de determinadas decisiones.

Para cerrar este bloque, me remito a algunas de las cuestiones que planteaba la profesora Ana María Marcos del Cano, también Catedrática de Filosofía del Derecho, tal vez de naturaleza más trascendental y que invitan a la reflexión: ¿El robot sabrá que sabe? ¿Tendrá conciencia de sí mismo? ¿No está construyendo la Inteligencia Artificial un mundo distinto al humano, más perfecto? ¿Cómo sería el enfrentamiento entre dos ordenadores o softwares inteligentes?

Etiquetas: , , , , , , , ,

Isabel Moral Zamorano

Community Builder en AbogaZía y Legaltech Trainee en Guía Legaltech

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *