Sinopsis
La era de la robótica
cambiará la sociedad del siglo XXI y también sus guerras, que no desaparecerán:
serán diferentes. Las armas autónomas son capaces de matar y destruir
sin necesidad de control humano. Esta facultad de una máquina
inteligente para decidir sobre la vida de una persona ha movilizado a
científicos y académicos, pero no tanto a las personas anónimas, más
preocupadas por los problemas cotidianos y cercanos. Sin embargo, no estamos
frente a un debate académico, sino ante una realidad que nos afecta -y
afectará- a todos. En un intento de despertar el interés del público general
sobre ello, el Coronel Francisco Rubio nos ofrece en este libro
-con prólogo del periodista de RTVE David Corral Hernández- la oportunidad de
conocer y entender un escenario inédito en el que las tecnologías
son empleadas en contra de lo que se supone su esencia, aportar beneficio a la
humanidad. El lector encontrará bastantes preguntas, muchas respuestas
y la información o argumentos con los que formar su propia
opinión sobre un mundo, completamente nuevo, que está surgiendo a nuestro
alrededor.
«Nos fascinan los
robots porque
son
reflejos de nosotros mismos»
Ken
Goldberg
Introducción
(...) una de las opciones
que se barajan para garantizar el control humano y la gobernanza de todos los
robots, no solo los militares, es la incorporación de un código ético en su
programa.
(…) el derecho internacional
humanitario prohíbe los métodos y medios de guerra que causen daño excesivo y
sufrimiento innecesario (…)
«Podemos hacer
robots que aprendan de los errores,
pero el hombre todavía hace los mismos
una y otra vez»
Anthony
T. Hincks
La
guerra de los robots, los robots guerreros, autónomos… ¿es
ese el debate?, ¿tenemos suficientes elementos de juicio para poder emitir
un veredicto?, ¿debemos ser capaces de formarnos una opinión?, ¿qué
papel debe ocupar la ética en el desarrollo de algoritmos, inteligencia artificial,
vehículos autónomos…?
Compre el libro
con dos objetivos que creo he cumplido, primero era ser capaz de aumentar mi
capacidad juiciosa y poder formular una mejor opinión, y segundo fortalecer mi
obcecación con la necesidad de que todo algoritmo o similar necesita detrás un código
ético.
No cierro la puerta a los
robots, más bien todo lo contrario, solo pido de manera insistente que haya una
reglas del juego claras, transparentes y en continua evolución. Estamos aprendiendo
a la vez que haciendo, por tanto los argumentos que hoy demos por validos tendremos
que ser capaces de cambiarlos a medida que los desarrollos vayan madurando.
Además de todo lo anterior creo
necesario que todo robots debiera tener un botón de apagado, el ser humano debe tener siempre la ultima palabra y en caso de duda poderlo apagar, no quiero
robots que sean soberanos para tomar decisiones que afectan a personas.
«Los robots son la
nueva clase media.
Y todos los demás serán empresarios o
temporales»
James
Altucher
(…) la robotización militar es
una tendencia que, lejos de desacelerarse, experimentará un fuerte impulso a
corto, medio y largo plazo (…) en la década de 2030, el ejército británico podría
estar formado por noventa mil soldados y treinta mil robots (…)
Los ejércitos de masas ya no
son determinantes en el campo de batalla porque la capacidad de movilizar
grandes contingentes de fuerza ha dejado de aportar una superioridad militar
efectiva (…)
El equipo del soldado del
futuro se hará con materiales especiales como la fibra de carbono, proporcionará
protección antibala, equipará un exoesqueleto activo que aliviará la carga física
y dispondrá de sensores, navegadores y sistemas óptico-electrónicos de disminuirán
su carga cognitiva, todo ello alimentado con fuentes de energía más eficientes (…)
El uso generalizado de los
sistemas de armas autónomos modificará la naturaleza de la guerra de forma
sustancial (…) una de las cuestiones que se plantean es si las maquinas
convertirán los conflictos armados en versiones actualizadas de las guerras por
delegación (…)
Los robot militares tampoco
son mercenarios tecnológicos (…) los sistemas de armas autónomos, con toda su
inteligencia artificial, carecen de voluntad para actuar con animo de lucro y
tampoco tienen motivación ideológica o espíritu de servicio (…) no pueden elegir
a quien sirven (…)
¿Es moralmente exigible
arriesgar la vida en combate?
La guerra tecnológica se
combatirá con frecuencia a distancia y el manejo de los sistemas de armas
estará a cargo, en buena medida, de personal civil, militarizando o no (…)
(…) «no se trata de limitar
la inteligencia artificial, sino de introducir límites éticos en los robots, lograr
que sean capaces de vivir en sociedad y, eso sí, rechazar de forma clara autónomos
sin control humanos» (…)
(…) el ser humano debe ser
siempre el último responsable de la actualización de una máquina, no solo en la
identificación del objetivo sino en la selección y operación final. En términos
generales, la inteligencia artificial no debería ser utilizada para reemplazar la
toma de decisiones de los humanos en asuntos delicados que se basan en juicios
o de moral.
(…) si un robot militar
realiza una acción contraria al derecho internacional (…) ¿sobre quién debería
actuar la justicia?
(…) el sentido común es más
o menos homogéneo (común) en situaciones poco complejas, sin presión y en
ausencia de emociones, todo lo contrario de lo que ocurre en la guerra. Durante
el combate, la forma de actuar dejar de ser común. Cada soldado reacciona de
forma personal y distinta ante el miedo, la tensión, el dolor y el agotamiento
(…) uno de los objetivos de la instrucción militar es conseguir que el
combatiente responsa de manera resolutiva, rápida y poco menos que automatizada
ante situaciones en las que, para sobrevivir, tiene que actuar casi sin pensar.
(…) la introducción de un código
ético en la programación de los robots inteligentes militares o civiles, es una
de las acciones que se plantean con más insistencia para asegurar que en todo
momento se mantienen al servicio de las personas (…)
(…) las tres leyes de la robótica formuladas por Isaac Asimov han quedado desfasadas y no pueden ser el referente para desarrollar las cartas éticas de los robots (…)
1. Un robot no hará daño a un ser humano ni, por inacción, permitirá que el ser humano sufra daño.
2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de las que entren en conflicto con la primera ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o segunda ley.
(…) nos encontramos en un
acelerado proceso de automatización de la guerra, algo normal, por otra parte. Lo
mismo que la industrialización tuvo enormes consecuencias en todas las
actividades sociales del siglo XX, incluidas las guerras, la robotización también
cambiara la sociedad del siglo XXI y sus guerras. Los conflictos armados no desaparecerán;
serán diferentes.
La cuestión ética no se
solventa con tecnología (…) la conciencia pública, aún en formación (…) será
contraria a delegar acciones críticas del combate en los robots militares.
(…) la regulación tendría
que garantizar que la maquina no decida la muerte de una persona, para lo que
es imprescindible retener el control humano significativo sobre las funciones críticas
del combate (…)
La regulación del control
humano se debería complementar (…) con la incorporación de filtros éticos en la
programación de los robots militares (…)
Insistir en la prohibición total
de las armas autónomas letales puede ser un ejercicio de adoctrinamiento o de
ingenuidad, pero, en todo caso, es una pérdida de tiempo.
«(…) simplemente
no se puede diferenciar entre un robot
y el mejor de los seres humanos»
Isaac
Asimov
Cómo
la tecnología está cambiando los conflictos armados
Link de interés
• La
singularidad está cerca: cuando los humanos trascienden a la biología
• Ghost Robotics
expone las capacidades de su perro robot armado
• Liderar
personas con inteligencia artificial; Cambio y
digitalización
«La robótica está empezando a
cruzar esa línea
desde el
movimiento absolutamente primitivo
hasta el movimiento que se asemeja al
comportamiento
animal o humano»
J. J. Abrams
Recibid un cordial saludo
