The code is the new law? Sobre algoritmos, normas, equidad y justicia

Artículo publicado en bez.es

El próximo jueves 16 de marzo participo en una interesante Mesa Redonda sobre “El factor humano de la sabiduría digital. El reto ético”, en la sesión de clausura del Programa de Desarrollo Profesional (PDP) en Inteligencia Artificial de la UNIR 


Para prepararla, me reuní la pasada semana con los otros dos ponentes: José Luis Calvo (@joselcs) y Alejandro Arroyo (@A_Arroyo_Mir), bajo la dirección de Begoña Fernández Palma (@begofdezpalma) y la verdad es que lo pasamos bien.

Da gusto hablar de inteligencias artificiales con inteligencias naturales. Y da gusto también ver cómo las conversaciones en internet se trasladan al mundo físico, y al revés. Porque las redes sociales no son redes de ordenadores, sino de personas.

¿Moral o Derecho?

Surgieron temas muy interesantes y hoy quiero, como un aperitivo, para abrir boca (o como cebo, que dicen en televisión, para ver si pican), aclarar algunos conceptos que, creo, se confunden, al hablar de #BigData #InteligenciaArtificial y #Robótica.

El título de la Mesa Redonda, como de algunos cursos y conferencias que me han invitado a impartir últimamente, se refiere a los retos o aspectos éticos, y está bien. Pero hay que ir más allá, porque tienen indudables consecuencias jurídicas.

Es más, el gran debate que subyace no es de quién es la responsabilidad jurídica de los actos y decisiones de las máquinas, sino si el código informático va a sustituir al código jurídico, o si los algoritmos, en muchos ámbitos, sustituirán a las normas.

Algoritmos y Normas

Como dice Pere Brunet, “un algoritmo no es más que un conjunto ordenado, finito y no ambiguo de reglas y operaciones, con el fin de resolver un problema o realizar una cierta actividad”. Y, en cierta forma, se parecen a las normas jurídicas.

La “norma” era una escuadra de albañilería que se usaba en la antigua Roma para levantar paredes (planos verticales) “rectos”, en el sentido de “erectos”, “erguidos”, “derechos”. Y de ahí se tomó prestado el término por el derecho.

Y en el símbolo por excelencia de la Justicia, que es la balanza, la norma (jurídica) se representa por el fiel (vertical) y por la espada, que suele estar superpuesta o, en su caso, en la mano de la diosa.

Equidad y justicia

Pero en dicho símbolo hay otro elemento, los platillos de la balanza, en “equilibrio”, que forman un plano horizontal y que representan el juicio de “equidad” que el juez debe hacer para aplicar la norma las circunstancias del caso concreto.

Equidad (aequitas) viene de igual (aequalis) que, a su vez, viene de agua (acqua), porque la primera referencia que tuvo el hombre primitivo de una línea horizontal fue la línea del horizonte en el mar (en tierra había pocas líneas rectas).

“Igual” no significa “parecido” (que viene de “par”), sino “llano”. En el mismo sentido que todavía se usa en el sector de la construcción de “igualar” o allanar un terreno. Y en el sentido que defendemos la igualdad de derechos (al mismo nivel).

Pero la interpretación moderna de la igualdad (y de la justicia) no es tratar igual a todo el mundo, sino tratar igual lo igual y desigual lo desigual. Por eso se acepta la “discriminación positiva”, como una forma de igualar a todos.

La pregunta es: ¿será capaz la Inteligencia artificial de, además de aplicar normas (es decir, algoritmos), hacer un juicio de equidad, al considerar las circunstancias de cada caso concreto, y por tanto, de tomar decisiones justas?


Comentarios

Entradas populares