Estimad@s amig@s
Sinopsis
Vivimos ya en otra realidad.
Cualquier concepto de ética
tiene que pasar por este nuevo escenario: nuestra relación con las máquinas inteligentes. La aparición de
la inteligencia artificial avanzada
pone en cuestión la superioridad
intelectual de los humanos,
nuestra esencia, nuestro lugar en la vida. Este extraordinario libro
propone una reflexión sobre una ética
para esas nuevas máquinas inteligentes
que nos superaran. Ellas tomaran
decisiones por nosotros, nos gobernaran.
Nuestra responsabilidad ahora es dejarles un buen legado: lo humano.
Gracias al desarrollo tecnológico hemos aprendido
a convivir con máquinas que nos superan en fuerza física y en poder de cálculo.
Sin embargo, la aparición de la inteligencia
artificial supone un nuevo desafío, una ética
para nuevos tiempos. Muchas personas prefieren no pensar en este devenir incierto. Cuando su universo
cambie, intentaran adaptarse. Ni ahora ni después procuraran entender lo que
está sucediendo. Es una pena. Comprender
es quizá́ el mayor reto que un humano puede experimentar.
«Si
la unión de un alma con una maquina es imposible,
que alguien me lo
demuestre.
Si es posible,
que alguien me
diga qué efectos tendría esa unión»
Denis
Diderot[i]
Prólogo
No somos dioses, pero sí humanos capaces de crear
máquinas que otorgan fuerzas, poder, la capacidad de hacer el bien y también de
destruir (…)
«Me infundieron voz divina
para celebrar el futuro
y el pasado
y me encargaron alabar con himnos
la estirpe de los felices Sempiternos»
Hesíodo[ii]
El
legado de los humanos
Si creamos máquinas que nos
superan intelectualmente ¿cuál es el
lugar de los humanos?
(…) somos esclavos del
confort que nos aporta el progreso (…)
(…) los humanos nunca
descartaron por su fuerza o por su velocidad, fue su inteligencia lo que les permitió
sobrevivir y dominar para bien y para mal a las demás especies (…)
(…) ¿Es el ser humano un elemento prescindible que tarde o temprano se
transformará en algo irreconocible o, incluso,
desaparecerá?
(…) ¿Qué legado dejaremos los humanos a los siguientes eslabones
evolutivos?
(…) Hay demasiado en juego
para que los humanos no reflexionemos en profundidad sobre el siguiente salto evolutivo que vamos a propiciar.
(…) valorar cada opción
detenidamente requiere tiempo, profundidad, toma de distancia, equilibrio.
Nuestro mundo veloz, inmediato, ávido de juicios tajantes no se siente cómodo
ante la reflexión sosegada.
Maquinas
interconectadas, inteligencia
artificial, ética, decisión, juicio, responsabilidad,
nunca tantos conceptos han estado tan entrelazados de forma tan confusa (…)
«La máquina ha ganado al hombre»
Mahatma
Gandhi[iii]
Coincido con la afirmación
del autor «hay demasiado en juego para
que los humanos no reflexionemos en profundidad sobre el siguiente salto
evolutivo que vamos a propiciar». Quizás y digo quizás, solo con esa tesis me
sobraría para recomendar este libro.
Quiero ir más lejos con
el alcance de mi recomendación, es una obra
para leer reposadamente intentando dar respuestas a la ingente cantidad de
preguntas que formula, al descubrimiento de los nuevos escenarios que se nos abren
gracias a la inteligencia de las máquinas.
(i)
¿Qué
legado queremos dejar a las próximas generaciones?
(ii)
¿Seremos
capaces de cohabitar en una sociedad dónde las decisiones las tomen las maquinas?
(iii)
¿Quién
decide lo ético que la decisión que toma una máquina? ¿Podrán las maquinas
anular nuestra capacidad de decidir?
Reflexionemos sobre el futuro de las maquinas en nuestra
sociedad, pero no olvidemos el papel crucial que debe jugar la ética evolutiva. Todas las decisiones
que tomemos sobre el futuro deben ser éticas a la vez que muy meditadas, y con
un amplio margen de mejora a medida que se vaya avanzando en este disruptivo
ambiente en el que vivimos inmersos.
«Nunca una máquina
podrá
ganar a quién la programa»
El
conocimiento es imparable, los humanos siempre seguirán
aprendiendo. La pregunta crucial es cómo
debemos gestionar el nuevo saber que vamos acumulando.
(…) somos seres ávidos de información inmediata, correcta o incorrecta,
profunda o superficial, pero siempre insuficiente
Las armas son las maquinas
sin ética por excelencia.
¿Estamos
también cediendo nuestro espacio intelectual a las máquinas?
«El cerebro humano en el fondo
no
es más que una máquina.
Una
máquina compleja,
producto
de una larga evolución»
Marvin
Minsky
Una inteligencia artificial
avanzada se aburriría profundamente soportando nuestros egos.
¿Quién
decide lo que decide un algoritmo?
Quién controle la red de
coches autónomos también controla nuestra intimidad (…)
(…) cabe preguntarse si la
inteligencia artificial será capaz de tomar decisiones de alto nivel
empresarial ¿Tendremos una silla para la
inteligencia artificial en los consejos de administración?
(…) la inteligencia
artificial ya ha participado en proceso de adquisiciones y venta de empresas
(…) base de datos (…) productos, competencia, legislación, turbulencias
políticas e historiales de corrupción (…)
(…) tendremos instituciones
asesoradas con inteligencia artificial (…)
¿Tiene
una máquina la opción de decidir qué es el bien y qué es el mal?
(…) lucharemos por mantener
puestos de trabajo, tanto de empleados como de ejecutivos. Tendremos que
garantizar el empleo de humanos para ciertas tareas, aunque sean menos
cualificados que inteligencias artificiales. El transito hacia la tecnificación
masiva no estará exento de dolor.
La idea de promover ética evolutiva encierra humildad, dado que presupone que no
estamos en condiciones de implementar criterios firmes inamovibles.
«Haz el mismo bien hacia los demás
que
el que tú deseas para ti mismo»
Kant
¿Cómo
programaremos una inteligencia artificial si los propios humanos no tenemos
respuestas válidas ante muchos dilemas?
Debemos evitar dos peligros
obvios
(i)
La ética programada en la práctica debe ser supervisable.
(ii)
Los responsables de un programa real deben
ser identificables.
«Hay que tener mucha libertad de espíritu
para
salirse de la norma»
(…) cada inteligencia
artificial diseñará a la siguiente que será aún mejor que ella misma. Ese proceso iterativo seguirá avanzando de
forma imparable hacia una inteligencia
brutal. Habremos alcanzado la singularidad.
«La debilidad del hombre
es
lo que lo hace sociable»
Jean-Jacques
Rousseau
(…) su trafico de datos, sus decisiones,
sus acciones se darián
primordialmente en el ámbito de máquina-entorno y máquina-maquina (…)
(…) ¿Cómo evolucionará la autoprogramación de una inteligencia artificial
muy avanzada? ¿Contemplará criterios tan próximos a nosotros como mantener la
paz o ser tolerante?
«Sobre lo que no podemos hablar,
hemos
de pasar por encima en silencio»
Ludwig
Wittgenstein
Link
de interés
«Creo
que da tanto miedo
el descontrol de la inteligencia artificial
como dejar de
tenerla»
Recibid
un cordial saludo
[i] Éléments de physiologie
[ii] Teogonía
[iii] All
Men are Brothers
