Aunque los desarrolladores siguen trabajando para que los vehículos autónomos sean más seguros y se disminuyan los accidentes mortales, es inevitable que los siniestros viales sigan ocurriendo en las vías. Por ejemplo, qué sucede si la inteligencia artificial (IA) debe escoger entre salvar la vida de un anciano o un niño, ¿de qué depende esta decisión?, son preguntas que un humano resolvería desde su criterio ético, por lo tanto, ¿cómo condicionar los actos de las máquinas inteligentes?
Por Paula Andrea Molano Rodríguez
p.molanor@uniandes.edu.co
No se pueden desconocer los beneficios que genera y las soluciones innovadoras que ofrece la IA, pero es clave aclarar que este desarrollo trae consigo retos y plantea problemas éticos que se han convertido en uno de los ejes de discusión filosófica en los últimos años.
El profesor de filosofía Andrés Páez, miembro del Centro de Investigación y Formación en Inteligencia Artificial (CinfonIA), de la Universidad de los Andes, resalta que unos de los problemas que requiere atención es la discriminación algorítmica producto de los estereotipos y prejuicios que hay en la sociedad. Es decir, cuando un sistema automatizado da un trato diferente y perjudica a un grupo de personas por su raza, sexo o religión, por ejemplo.
“Si el mundo tiene comportamientos discriminatorios o actitudes negativas hacia ciertas poblaciones, las máquinas aprenden de esa realidad y la replican. En algunos casos se convierten en una herramienta de reproducción de ese tipo de desigualdades”, comenta Páez.
El filósofo asegura que el reto seguirá siendo diseñar sistemas capaces de neutralizar los sesgos y estereotipos presentes en los datos que actualmente se usan para el funcionamiento de las innovaciones e insiste en que debe generarse un cambio estructural para combatir la desigualdad y exigirles a las compañías un desarrollo responsable.
Cuando innovar conlleva al dilema ético
En los estudios en torno a la filosofía del profesor Páez se ha identificado que, dependiendo de la aplicación de la inteligencia artificial, se puede juzgar los beneficios o perjuicios que genera. Para la medicina este desarrollo es un aliado en procesos de análisis de imágenes y pruebas, tratamientos, entre otros campos, sin embargo, desde la mirada ética se presentan discusiones alrededor de la confianza que producen los diagnósticos realizados por una máquina o por un especialista, puesto que las tasas de error aparentemente varían.
En otras situaciones, las voces de alerta también se encienden dado a que hay un potencial uso antiético, como en el uso de armas autónomas:
Una de las preocupaciones sobre estas armas son los accidentes a gran escala que pueden ocasionar, al no estar sujetas al control humano, ya que al actuar de manera inadecuada amenazan el derecho fundamental a la vida y el principio de la dignidad humana.
En Estados Unidos, Israel, Rusia y China se promueve este tipo de armamentismo para que sus ejércitos sean más eficientes y capaces de superar a sus adversarios en el campo de batalla. También, según el experto, buscan salvar la vida de sus soldados y disminuir costos, pero los riesgos pueden ser mayores.
“Hay una campaña muy fuerte para prohibirlas, así como se prohibieron las minas antipersonales, porque son armas que no son fiables y no se sabe a quién pueden matar […] definitivamente hay razones de tipo moral para pensar que hay ciertos tipos de tecnologías que nunca deben ser desarrolladas”.
Colombia cuenta con un marco ético para la inteligencia artificial que acoge las recomendaciones de la Organización de las Naciones Unidas para la Educación (Unesco) sobre el uso responsable de estos desarrollos en el sector público y privado. Dichos principios se basan en transparencia, explicación, privacidad, control humano de las decisiones, seguridad, responsabilidad, no discriminación e inclusión.
Además de esta normativa ética, en la Constitución Política ya hay artículos que impactan el uso de la IA, “la Constitución colombiana envía mensajes de libertad de empresa que tiene que ver con los emprendedores que desarrollan productos de inteligencia artificial, pero también envía mensajes de responsabilidad, de protección de la vida humana, de los derechos del consumidor”, señala Nelson Remolina, doctor en Ciencias Jurídicas de la Pontificia Universidad Javeriana, director del Grupo de Estudios en Internet, Comercio electrónico, Telecomunicaciones e Informática (GECTI), de la Facultad de Derecho de la Universidad de los Andes.
Otro tipo de regulaciones como el Estatuto del Consumidor, que protege, promueve y garantiza la efectividad y el libre ejercicio de los derechos de los consumidores o la ley que protege a la propiedad intelectual, también aplican para la inteligencia artificial, según Remolina.
Sin embargo, una de las políticas que ampara a todos los actores que interactúan con esta tecnología es la Ley de protección de datos personales, la cual indica que las personas tienen derecho a conocer, actualizar y rectificar la información que se haya recogido sobre ellas en bases de datos o archivos de entidades públicas o privadas, esto teniendo en cuenta que los datos recolectados son la materia prima que alimentan los algoritmos.
Para ello, las compañías que capturan la información deben regirse bajo parámetros que eviten efectos adversos en el funcionamiento de los sistemas, “Primero, la calidad de la información que va a procesar el algoritmo, segundo, el diseño del algoritmo para que no quede con sesgos y genere discriminación; y tercero, la transparencia y explicación del algoritmo, que el ser humano conozca claramente por qué se dio ese resultado, cuál fue la lógica que se usó en el tratamiento de esos datos”, explica el especialista en Derecho.
Pese a las normativas que regulan esta tecnología, parte de la opinión pública apoya la idea de crear una legislación diseñada específicamente para el uso de la IA, con el fin de enfrentar posibles riesgos inexistentes o engrandecer aquellos que ya están identificados.
Para el profesor Remolina, los temas tecnológicos no deben generar fascinación ni fobia, por el contrario, hay que seguir trabajando en estos desarrollos de manera responsable para potenciar sus beneficios a favor de la humanidad. Además señala que una regulación específica tiende a quedarse obsoleta debido a que la tecnología está en constante evolución: “Creo más en las regulaciones de principios que aplican a cualquier actividad al margen de tecnologías que conocemos ahora o en el futuro”.
Los expertos resaltan la importancia de educar a las personas a que sean responsables con la información que comparten y la forma como interactúan en el ciberespacio para evitar que sus derechos y los de la humanidad sean vulnerados. Incluso hacen un llamado a ser críticos con los sistemas de automatización, ya que esto permitirá crear una imagen equilibrada de sus beneficios y las zonas de riesgo a las que la sociedad civil debe poner resistencia.
Libro: Derecho de las tecnologías y las tecnologías para el derecho
Autora: María Lorena Flórez Rojas
El libro se destaca por tratar temas relacionados a los desarrollos tecnológicos y su aplicación y visión en Colombia. Por un lado, se abordan la cibercompetencias con las que deben contar los profesionales del derecho, jueces y legisladores. Por otro, también se tratan temas imprescindibles como la inteligencia artificial, esta vez enfocada en los mercados, el régimen de competencia, protección de datos y derecho del consumo. Finalmente, se discute sobre la tecnología aplicada a servicios financieros y modelos de negocio
