Experto: “La inteligencia artificial puede intervenir en decisiones humanas críticas”
Bakú, 19 de abril, AZERTAC
La inteligencia artificial (IA) puede dejar de ser mera ciencia ficción para intervenir en asuntos vitales para el ser humano. Incluso en un campo tan crítico como el derecho, ha empezado a utilizarse en programas piloto en algunos lugares del mundo.
Se debate si es ético que algoritmos que imitan el comportamiento humano tengan voz incluso en las decisiones de los tribunales.
En el campo del Derecho, la inteligencia artificial, que se cree que puede ayudar a acelerar los litigios y automatizar el trabajo rutinario, está dando lugar a varias aplicaciones piloto en distintas partes del mundo, por ejemplo en China, Estonia y Malasia.
Con "jueces robot" que evalúan pequeños casos en Estonia, mediadores robot en Canadá, jueces con inteligencia artificial en China y un sistema judicial con inteligencia artificial en Malasia, ya es posible ver algoritmos en el sistema judicial.
Transparencia
Existen ciertos principios relativos al control moral de la IA, según declaró a Anadolu el profesor Ahmet Ulvi Türkbağ, catedrático de la Facultad de Derecho de la Universidad Medipol de Estambul.
"El más importante de ellos es que la IA debe ser transparente. Debe ser absolutamente controlable. Porque si no sabemos por qué se toma una decisión, no podemos hacer un juicio sobre la corrección de esa decisión. Esto puede tener consecuencias muy peligrosas", destacó Türkbağ.
Türkbağ afirmó que la IA tiene el poder de tomar decisiones sorprendentes y que, por tanto, las decisiones tomadas por los algoritmos deben ser accesibles a los humanos, y argumentó que esto puede lograrse con pequeños programas llamados "subrutinas".
Resaltó que las resoluciones judiciales importantes tomadas por algoritmos también deberían poder ser auditadas por la inteligencia humana.
Manipulación y privacidad
A algunos expertos les preocupa que los algoritmos sean "engañosos y supongan un riesgo para la privacidad y la seguridad pública".
La organización estadounidense sin ánimo de lucro Center for Artificial Intelligence and Digital Policy (CAIDP) ha solicitado a la Comisión Federal de Comercio que detenga el uso de GPT-4, la nueva versión del robot de inteligencia artificial ChatGPT de la empresa OpenAI.
A algunos expertos del sector les preocupa la manipulación humana de la tecnología informática.
"La IA no debe ser manipulada, esto es muy importante. Le has pedido a la IA que salve a un humano, y esta persona también tiene una mascota, y la IA no debería matar a un animal mientras salva a un hombre", señaló Türkbağ.
Las decisiones de la IA se enfrentan a una autoridad superior
Türkbağ enfatizó que, hipotéticamente, si una decisión tomada por la IA es recurrida y llevada a un tribunal superior, el caso debería ser asumido por la inteligencia humana.
"Incluso si aceptamos la inteligencia artificial en una primera fase, en caso de objeción debería pasar a manos humanas, la lógica del derecho así lo exige", subrayó Türkbağ, añadiendo que la IA debería realizar un análisis a gran escala de la base de datos en función de la importancia del caso.
