domingo, 31 de marzo de 2019

Ética para máquinas


Estimad@s amig@s

Sinopsis
Vivimos ya en otra realidad. Cualquier concepto de ética tiene que pasar por este nuevo escenario: nuestra relación con las máquinas inteligentes. La aparición de la inteligencia artificial avanzada pone en cuestión la superioridad intelectual de los humanos, nuestra esencia, nuestro lugar en la vida. Este extraordinario libro propone una reflexión sobre una ética para esas nuevas máquinas inteligentes que nos superaran. Ellas tomaran decisiones por nosotros, nos gobernaran. Nuestra responsabilidad ahora es dejarles un buen legado: lo humano.
Gracias al desarrollo tecnológico hemos aprendido a convivir con máquinas que nos superan en fuerza física y en poder de cálculo. Sin embargo, la aparición de la inteligencia artificial supone un nuevo desafío, una ética para nuevos tiempos. Muchas personas prefieren no pensar en este devenir incierto. Cuando su universo cambie, intentaran adaptarse. Ni ahora ni después procuraran entender lo que está sucediendo. Es una pena. Comprender es quizá́ el mayor reto que un humano puede experimentar.

«Si la unión de un alma con una maquina es imposible,
que alguien me lo demuestre.
Si es posible,
que alguien me diga qué efectos tendría esa unión»
Denis Diderot[i]

Prólogo
No somos dioses, pero sí humanos capaces de crear máquinas que otorgan fuerzas, poder, la capacidad de hacer el bien y también de destruir (…)

«Me infundieron voz divina
 para celebrar el futuro
 y el pasado
 y me encargaron alabar con himnos
 la estirpe de los felices Sempiternos»
Hesíodo[ii]

El legado de los humanos
Si creamos máquinas que nos superan intelectualmente ¿cuál es el lugar de los humanos?

(…) somos esclavos del confort que nos aporta el progreso (…)

(…) los humanos nunca descartaron por su fuerza o por su velocidad, fue su inteligencia lo que les permitió sobrevivir y dominar para bien y para mal a las demás especies (…)

(…) ¿Es el ser humano un elemento prescindible que tarde o temprano se transformará en algo irreconocible o, incluso, desaparecerá?

(…) ¿Qué legado dejaremos los humanos a los siguientes eslabones evolutivos?

(…) Hay demasiado en juego para que los humanos no reflexionemos en profundidad sobre el siguiente salto evolutivo que vamos a propiciar.

(…) valorar cada opción detenidamente requiere tiempo, profundidad, toma de distancia, equilibrio. Nuestro mundo veloz, inmediato, ávido de juicios tajantes no se siente cómodo ante la reflexión sosegada.

Maquinas interconectadas, inteligencia artificial, ética, decisión, juicio, responsabilidad, nunca tantos conceptos han estado tan entrelazados de forma tan confusa (…)


«La máquina ha ganado al hombre»
Mahatma Gandhi[iii]

Coincido con la afirmación del autor «hay demasiado en juego para que los humanos no reflexionemos en profundidad sobre el siguiente salto evolutivo que vamos a propiciar». Quizás y digo quizás, solo con esa tesis me sobraría para recomendar este libro.

Quiero ir más lejos con el alcance de mi recomendación, es una obra para leer reposadamente intentando dar respuestas a la ingente cantidad de preguntas que formula, al descubrimiento de los nuevos escenarios que se nos abren gracias a la inteligencia de las máquinas.

(i)                ¿Qué legado queremos dejar a las próximas generaciones?
(ii)              ¿Seremos capaces de cohabitar en una sociedad dónde las decisiones las tomen las maquinas?
(iii)             ¿Quién decide lo ético que la decisión que toma una máquina? ¿Podrán las maquinas anular nuestra capacidad de decidir?

Reflexionemos sobre el futuro de las maquinas en nuestra sociedad, pero no olvidemos el papel crucial que debe jugar la ética evolutiva. Todas las decisiones que tomemos sobre el futuro deben ser éticas a la vez que muy meditadas, y con un amplio margen de mejora a medida que se vaya avanzando en este disruptivo ambiente en el que vivimos inmersos.

«Nunca una máquina
podrá ganar a quién la programa»

El conocimiento es imparable, los humanos siempre seguirán aprendiendo. La pregunta crucial es cómo debemos gestionar el nuevo saber que vamos acumulando.

(…) somos seres ávidos de información inmediata, correcta o incorrecta, profunda o superficial, pero siempre insuficiente

Las armas son las maquinas sin ética por excelencia.

¿Estamos también cediendo nuestro espacio intelectual a las máquinas?

«El cerebro humano en el fondo
no es más que una máquina.
Una máquina compleja,
producto de una larga evolución»
Marvin Minsky

Una inteligencia artificial avanzada se aburriría profundamente soportando nuestros egos.

¿Quién decide lo que decide un algoritmo?

Quién controle la red de coches autónomos también controla nuestra intimidad (…)

(…) cabe preguntarse si la inteligencia artificial será capaz de tomar decisiones de alto nivel empresarial ¿Tendremos una silla para la inteligencia artificial en los consejos de administración?

(…) la inteligencia artificial ya ha participado en proceso de adquisiciones y venta de empresas (…) base de datos (…) productos, competencia, legislación, turbulencias políticas e historiales de corrupción (…)

(…) tendremos instituciones asesoradas con inteligencia artificial (…)

¿Tiene una máquina la opción de decidir qué es el bien y qué es el mal?

(…) lucharemos por mantener puestos de trabajo, tanto de empleados como de ejecutivos. Tendremos que garantizar el empleo de humanos para ciertas tareas, aunque sean menos cualificados que inteligencias artificiales. El transito hacia la tecnificación masiva no estará exento de dolor.

La idea de promover ética evolutiva encierra humildad, dado que presupone que no estamos en condiciones de implementar criterios firmes inamovibles.

«Haz el mismo bien hacia los demás
que el que tú deseas para ti mismo»
Kant

¿Cómo programaremos una inteligencia artificial si los propios humanos no tenemos respuestas válidas ante muchos dilemas?

Debemos evitar dos peligros obvios
(i)                La ética programada en la práctica debe ser supervisable.
(ii)              Los responsables de un programa real deben ser identificables.

«Hay que tener mucha libertad de espíritu
para salirse de la norma»

(…) cada inteligencia artificial diseñará a la siguiente que será aún mejor que ella misma. Ese proceso iterativo seguirá avanzando de forma imparable hacia una inteligencia brutal. Habremos alcanzado la singularidad.

«La debilidad del hombre
es lo que lo hace sociable»
Jean-Jacques Rousseau

(…) su trafico de datos, sus decisiones, sus acciones se darián primordialmente en el ámbito de máquina-entorno y máquina-maquina (…)

(…) ¿Cómo evolucionará la autoprogramación de una inteligencia artificial muy avanzada? ¿Contemplará criterios tan próximos a nosotros como mantener la paz o ser tolerante?

«Sobre lo que no podemos hablar,
 hemos de pasar por encima en silencio»
Ludwig Wittgenstein


Link de interés

«Creo que da tanto miedo
 el descontrol de la inteligencia artificial
como dejar de tenerla»

Recibid un cordial saludo


[i] Éléments de physiologie
[ii] Teogonía
[iii] All Men are Brothers

No hay comentarios: