En qué piensan los robots Bienvenidos a la era de la inteligencia artificial: todo lo que cambiará y todo lo que permanecerá

Estimad@s amig@s

Sinopsis

Conseguir una IA ética también es responsabilidad tuya

La inteligencia artificial ha dejado de ser un argumento inquietante de las películas de ciencia ficción para convertirse en una cuestión tan real como urgente. Su evolución y los inevitables debates éticos que acarrea nos incumben a todos, pero suele delegarse esta responsabilidad en los propios directivos de las empresas tecnológicas, a menudo coaligados con quienes tienen intereses económicos.

Abrumados por un mundo que no terminamos de entender y que intuimos atractivo y peligroso, miramos hacia otro lado. Vivir al margen de la IA es una opción que parece menos viable cada día que pasa. Lo queramos o no, nos hemos acostumbrado a contar con ella y su presencia ha pasado a ser algo cotidiano

¿Estamos dispuestos a dejar un asunto tan delicado como el futuro de la humanidad en manos de una minoría?

¿Cómo garantizamos que los algoritmos no perpetúen sesgos y discriminación?

¿Cómo deberíamos gestionar un fallo médico cometido por un robot? 

Convivimos con algoritmos, amables robots de aspecto poco amenazante que nos sugieren qué comprar o qué ver, que nos piden un taxi o nos encargan comida ―sin olvidar a los serviciales (y algo inquietantes) asistentes virtuales como ChatGPT―. Son herramientas que hacen nuestra vida más fácil, pero no podemos obviar los interrogantes que nos plantea su uso.

Miguel Serrano e Ignacio Peletier, especialistas en IA, están convencidos de que éste es un asunto en el que debemos participar todos. Alejándose de los dogmas, con En qué piensan los robots nos proporcionan las herramientas necesarias para entender el funcionamiento y las aplicaciones de la inteligencia artificial, y nos animan a participar en el debate de su evolución y su futuro para que, con la ayuda de este libro, cada lector logre formarse su propia opinión sobre ella.

 

«Hubo un tiempo en que los hombres dedicaban su pensamiento

 a las máquinas, con la esperanza de que ellas los harían libres.

Pero esto sólo permitió que otros hombres

con máquinas los esclavizan»[i]

 

Introducción

Con este libro queremos acercar al lector a los fundamentos del diseño, el funcionamiento y la aplicación de la inteligencia artificial, y explorar los intentos de la humanidad por crear sistemas que puedan ayudarnos a realizar tareas (…) resolver estos problemas y expondremos sus aplicaciones reales, las inmensas posibilidades que ofrece (…) los riesgos que entraña.

(…) la creciente complejidad de las tareas que queremos que desempeñen las máquinas exige que éstas estén cada vez más humanizadas (…) si buscamos que una herramienta nos ayude a la hora de tomar decisiones críticas que evalúen el riesgo-beneficio en diagnósticos médicos, entonces necesitamos que estos sistemas sean algo humanos, que su criterio se parezca al nuestro, que nos imiten de forma eficiente y que lo hagan sin limitación por cansancio, estado de ánimo, error evitable o falta de información.

 

(…) libro ambicioso. La inteligencia artificial toca muchísimos ámbitos, y en un afán de introducir los que consideramos más relevantes, el texto navega entre cuestiones técnicas, corporativas, organizativas, especulativas e incluso filosóficas.

Trataremos de establecer los fundamentos de la inteligencia y el cerebro humanos, pues nos servirán de referencia para explicar la síntesis artificial que se ha desarrollado a su semejanza en los últimos años.

 

«El aspecto más triste de la vida en este preciso momento es

 que la ciencia gana en conocimiento más rápido

de lo que la sociedad gana en sabiduría»[ii]

 

¿Cuántas preguntas tenemos sin responder sobre el impacto de la IA? Cuando hablo de impacto me refiero al global; personas, economía, ética, salud, humanística… tenemos que hacer un ejercicio de comprender de que estamos hablando, o nos quedaremos sin argumentos en los debates que se están produciendo y que quedan por venir. No dejamos de oír hablar de la IA pero realmente ¿sabemos qué es?, ¿Cómo nos ayuda?, ¿destruye o construye valor?, ¿humaniza o deshumaniza nuestra relación?

 

¿Qué responder ante una tecnología desconocida?

-     ¿Quién se hará responsable de las decisiones que tomen las máquinas cuando lo hagan de forma autónoma?

-      ¿Nos pueden manipular?

 

Que autores como Miguel Serrano y Ignacio Peletier nos hablen de En qué piensan los robots nos ayuda en nuestro proceso de discernimiento, me cuesta trabajo tomar una decisión sobre si algo es útil o lo contrario, si no dedico tiempo a entenderlo.

 

¿La Inteligencia Artificial es amiga o enemiga? Muchas preguntas, pocas respuestas, toca seguir leyendo, comprendiendo, construyendo en futuro.

 

«Con mucha diferencia,

el mayor peligro de la Inteligencia Artificial es que las personas

concluyen demasiado pronto que la entienden»[iii]

 

En el corazón de cualquier sistema de inteligencia artificial se encuentra un elemento fundamental sin el cual la IA no podría siquiera comenzar a entender el mundo que busca modelar: el dato. Los datos son la esencia que alimenta las maquinas del aprendizaje automático[iv] (…) les permiten aprender de ejemplos pasados para hacer predicciones o tomar decisiones informadas sobre situaciones futuras (…)

 

Tipos de aprendizaje

• Modelos supervisados

• Modelos no supervisados

• Aprendizaje por refuerzo

 

¿Podemos comprender la IA?

 

«Lo que todos tenemos que hacer es asegurarnos

de que estamos usando la IA de una manera

 que sea en beneficio de la humanidad,

no en detrimento de la humanidad»[v]

 

En qué piensan los robots

Bienvenidos a la era de la inteligencia artificial: todo lo que cambiará y todo lo que permanecerá

Miguel Serrano

Ignacio Peletier

DEUSTO

 

Link de interés

• Moneyball: Rompiendo las reglas

• Un nuevo marco para la IA inspirado en las leyes de la robótica

• Manual práctico de inteligencia artificial en entornos sanitarios

• La Inteligencia Artificial en el ámbito sanitario: Protección de los derechos fundamentales de los pacientes

 

«Los humanos agregarán valor donde las máquinas no pueden.

A medida que avance más y más la Inteligencia Artificial,

la inteligencia real, la empatía real

y el sentido común real serán escasos.

Los nuevos trabajos se basarán en saber

 cómo trabajar con máquinas,

 pero también en cómo impulsar estos atributos humanos únicos»[vi]

 

ABRAZOTES

---

[i] Frank Herbert, Dune

[ii] Isaac Asimov

[iii] Eliezer Yudkowsky

[iv] Machine learning

[v] Tim Cook

[vi] Satya Nadella 

¿Qué hacemos con los humanos? Por qué los robots, la inteligencia artificial y los algoritmos representan una amenaza para la supervivencia del ser humano

Estimad@s amig@s

Sinopsis

Una reivindicación humanista de la libertad frente al totalitarismo tecnológico.

¿Estamos a las puertas de un apocalipsis digital? ¿Perderá sentido o será sustituida o abolida definitivamente nuestra herencia espiritual acumulada a lo largo de milenios? ¿Estamos al final de nuestra civilización y desconocemos cómo será la que venga, así como el papel que tendremos en ella? ¿Nos conducen las nuevas tecnologías, los algoritmos y la inteligencia artificial a una especie de estado policial donde todos formaremos parte de una gran mente colectiva? ¿Dejaremos de actuar como individuos responsables y libres, esclavizados y vigilados por aparatos sin los cuales ya no podremos vivir?

Para el escritor, profesor y humanista César Antonio Molina, los mayores desafíos contemporáneos no provienen únicamente de las graves crisis ambientales, las amenazas de las guerras nucleares o las olas de renovados autoritarismos. Hay otro añadido que pone en grave riesgo existencial a la humanidad: la soberbia científica y el, hasta ahora, incontrolable desarrollo tecnológico en manos privadas desaprensivas.

¿Estamos preparados para sobrevivir a la mayor revolución tecnológica de la historia? ¿Qué hacemos con los humanos? es un intento de dar respuesta a este gran interrogante y una llamada de atención para preservar nuestra civilización, nuestra cultura, nuestras democracias, nuestras libertades y nuestro espíritu crítico.

 

«Las batallas que se están dando son como las antiguas:

ganar terreno sólo que ahora dentro de un terreno invisible»[i]

 

Introducción

¿Qué será de nuestra secular herencia espiritual? ¿Perderán sentido todos nuestros principios y valores éticos, morales, creadores, emocionales, sociales o económicos? ¿Acaso alguien se acordará de que hubieran existido? ¿Nos encontramos frente aquello que Kant denominó como “eutanasia de la razón”? ¿Estamos en una tremenda aceleración de la historia que acabará llevándonos por delante sin conmiseración? (…)

(…) las máquinas ya toman muchas decisiones por nosotros. Confundimos una supuesta seguridad con la libertad (…)

A la inteligencia artificial, los robots o los algoritmos, ¿los controlamos aún los seres humanos, o ya hay firmes indicios de que ellos han aprendido lo suficiente como para empezar a confundirse con nosotros tanto en nuestros sentimientos y emociones como en raciocinio? (…)

 

La libertad, como derecho y palabra, no existe en la Singularidad y, menos aún, el espíritu crítico (…) todo se nos daría gratuitamente a cambio de ceder nuestra individualidad (…) ¿Quién puede pagar todo esto y a todos los humanos? ¿Qué sucederá con la mayoría de los seres sobrantes? (…)

 

(…) estamos en peligro por el desarrollo de la robótica, los algoritmos y la inteligencia artificial (…) ¿Todo es tan malo y pernicioso? (…) la diferencia entre la inteligencia humana y la artificial se va reduciendo a pasos agigantados. ¿Podrá la inteligencia humana seguir gobernando a la otra? ¿Vamos camino de esa unión de los humanos con los ordenadores y los robots? ¿Estamos al borde de convertir al ser humano en lo que denomino “centauro tecnológico”? ¿Cuándo esto se produzca habrá que cambiar la propia noción de humanidad? ¿Las máquinas controlarán nuestros pensamientos o viceversa? ¿Podrán estar interconectados varios cerebros con un sinfín de instrumentos especializados? (…) ¿Estamos poniendo en practica una idea nietzcheana[ii] del Superhombre? ¿Las grandes corporaciones que se enfrentan a los Estados, los amenazan y no tributan a sus haciendas públicas son ya más poderosas que la propia política? ¿Bajo la idea del progreso y el paraíso terrestre generalizado nos están preparando en Estado policiaco?

 

(…) ¿Habría o habrá una nueva especie humana híbrida que desplazaría al Homo sapiens por el (…) Homo Deus, una unión de Homo sapiens con la inteligencia artificial? La ciencia y las tecnologías son hoy en día ¿aliadas o enemigas del ser humano? (…)

¿Es este ya nuestro mundo? (…) el cambio tecnológico es más rápido que la realidad del ser humano para adaptarse a éste. Ningún estado totalitario llegó a semejante control de sus ciudadanos (…) ¿Qué será del ser humano que tenga cada vez menos funciones, sobrante, inútil, sin trabajo, sin ingresos, sin dignidad? (…)

 

Y el mundo de Internet, ¿será ya un territorio inconmensurable y sin ley? ¿Será Internet un lugar para el activismo político transgresor o para la desobediencia civil? ¿Habrá sido abolido o censurado o tomado por esos mismos poderes transgresores? ¿Y el mundo de la nube a quién pertenecerá? ¿Será a lo mejor uno de los pocos lugares que, todavía, permanezcan liberados?

 

(…) hasta ahora el ser humano ha construido su existencia pensando en la muerte. Éramos seres para la muerte, la vida era un entrenamiento para no tenerla y enfrentarnos a ella con dignidad (…) y ese vivir indefinido, ¿a qué nos conduciría? ¿Vivir entonces para qué? ¿Ser infelices eternamente? ¿Estar solos eternamente sin esperar nada? (…) ¿Nos entregamos únicamente al placer que una máquina nos pueda dar a nuestro requerimiento? ¿Y el alma? ¿Y la alegría, el miedo extirpado y las emociones? ¿Vivir conectados a un placer que nos procuren las máquinas sin afectos personales o familiares? (…)

(…) ¿Podría tener conciencia una máquina? ¿Los humanos son algo más que máquinas bilógicas? (…)

 

(…) ¿Qué es el ser humano hoy? ¿Cuál es el papel en el mundo del ser humano? ¿Qué es el amor? ¿Pervivirá en el tiempo nuevo? (…) ¿Quién cuida de la soledad del cuidador? (…) ¿Quién cuida de la soledad del robot? (…) ¿Cuál es el futuro de quienes quedan marginados y la tienda ya no los quiere? (…)

 

(…) “no se llame libre al que nace con libertad, sino al que muere con ella”[iii] (…) “sólo merece la libertad, lo mismo que la vida, el que tiene que conquistarla día a día”[iv] (…) ¿Estamos luchando denodadamente por mantenerla?

(…) ¿Qué cosas nuevas sustituirán a estas ancestrales por las que nos hemos regido durante tantos siglos? ¿Valdrá la pena seguir viviendo? ¿Habrá todavía humanos o estarán en un zoológico? ¿Qué otros motivos se inventarán para dar sentido a la vida? ¿Quién definitivamente controlará y promoverá todo esto? (…)

 

«Mire vuestra merced -respondió Sancho-

 que aquellos que allí se parecen no son gigantes,

 sino molinos de viento,

 y lo que en ellos parecen brazos son las aspas, que,

 volteadas del viento,

 hacen andar la piedra del molino»[v]

 

El título del libro de César Antonio Molina ¿Qué hacemos con los humanos?, nos debería de incomodar y provocarnos preguntas:

― ¿El ser humano estorba a la inteligencia artificial?

- ¿Por qué?

― ¿A la inteligencia artificial le estorba el ser humano?

- ¿Por qué?

― ¿Qué papel están llamadas a jugar las próximas generaciones, cuando todas las decisiones y lo trabajos los realicen los algoritmos?

 

― ¿Qué está haciendo lo digital con nuestras mentes, además de volvernos cada día más prescindibles?

― ¿Somos congruentes en nuestra manera de actuar? Llevamos desde tiempos inmemoriales defendiendo el pensamiento crítico de la persona, pero ahora cada vez que tenemos que preparar una conferencia, clase, sesión, abrimos la computadora y le pedimos a ChatGPT o similar que nos haga el trabajo.

 

“La idea del progreso no puede existir sin la de la humanidad”[vi], no me considero un negacionista de las tecnologías emergentes, más bien todo lo contrario, lo que si niego de manera categórica es que la tecnología destruya la creatividad del ser humano. Hemos tardado siglos en construir una sociedad del conocimiento para permitir que lo artificial puede relegar a la persona. El progreso tecnológico no destruye puestos de trabajo. El aprendizaje automático, la robótica y la automatización sí (…)  

 

El director ejecutivo de OpenAI, Samuel Altman, confesó ante el Senado de los Estados Unidos de América que su mayor preocupación era “causar un daño significativo a la humanidad”. ¿Estamos nosotros preocupados como directivos, profesores, mentores, padres de familia…?

 

César Antonio Molina ha conseguido escribir un libro lleno de preguntas pero con pocas respuestas. Deberíamos ser capaces por nosotros mismos de encontrarlas. 

Una obra para todo aquel que tenga curiosidad por explorar el papel que estamos llamados a ocupar los humanos en la era de la inteligencia artificial. No tenga miedo a hacerse preguntas y encontrar contradicciones entre el ser y actuar.

 

«Toda escritura es collage y glosa, cita[vii] y comentario.

Escribir siempre es reescribir,

 pero jamás copiar»[viii]

 

(…) ¿Podrán crearse otros oficios que el ser humano aún pueda llevar a cabo? ¿Cuáles? Programadores, expertos en seguridad, reparaciones, ingenieros, diseñadores, consultores, expertos publicitarios. Todo absolutamente todo, está en peligro.

 

(…) Descualificación[ix] pérdida de competencias y capacidades (…) ¿Quién necesita escribir a mano? El ordenador ya lo hace. ¿Quién necesita conocer la ortografía? El ordenador ya lo hace. ¿Para qué tener el carnet de conducir? Los coches ya serán automáticos[x] (…) ¿Para qué necesitamos saber idiomas si las máquinas traducen simultáneamente? Cuanta más tecnología exista más dependeremos de ella y más desconocimiento de nosotros mismos tendremos.

 

El embrutecimiento digital erosiona la democracia con gran eficiencia y vuelve obsoleto todo debate. El empobrecimiento del lenguaje en los medios oficiales es tremendo y, muchas veces, no es un lenguaje de la conciliación sino de la confrontación (…)

 

(…) ¿Qué será del ser humano sin trabajo? ¿De qué manera podrá definirse si ya no se tiene una profesión, una dedicación, una utilidad? (…) estamos en manos de los algoritmos y los robots (…) traerá una grave crisis existencial de dimensiones desconocidas (…)

(…) ¿Qué pasará con la explosión demográfica en continentes como África y Asia? (…) Herfried Münkler se refiere a la democracia como una maquinaria lenta, para ralentizar la toma de decisiones. ¿Es necesario un dictador, un tirano, entonces, para acelerar las decisiones?

 

«Nosotros,

las civilizaciones,

 sabemos ahora que somos mortales»[xi]

 

¿Qué hacemos con los humanos?

Por qué los robots, la inteligencia artificial y los algoritmos representan una amenaza para la supervivencia del ser humano

César Antonio Molina

DEUSTO

 

Link de interés

• El transhumanismo: Un desafío para nuestro tiempo

• La Singularidad está cerca: Cuando los humanos transcendamos la biología

• Después de Internet

• Superinteligencia: Caminos, peligros, estrategias

• Superficiales, ¿Qué está haciendo Internet con nuestras mentes?

• Manual de uso de los NFT: Cómo crear, vender y comprar Non Fungible Tokens, los activos digitales del futuro

• NFT: Qué son, para qué sirven y cómo van a cambiarlo todo

• Ética para máquinas

• Inteligencia Artificial: Cómo cambiará el mundo (y tu vida)

• Manual práctico de inteligencia artificial en entornos sanitarios

• Liderar personas con inteligencia artificial: Cambio y Digitalización

• El Metaverso: Y cómo lo revolucionará todo

 

«La voz del paciente deviene la vocación del médico.

 Y, entonces, en el encuentro de dos personas interviene el mito.

 El médico y el paciente empiezan a soñar el mismo sueño milenario.

Juntos aprenden el camino en busca del elixir de la vida»[xii]

 

ABRAZOTES

---

[i] Max Weber

[ii] Friedrich Nietzsche

[iii] Petrarca

[iv] Goethe, en el Acto V de Fausto II

[v] Frases célebres de 'El Quijote'

[vi] Adorno en su Dialéctica de la humanidad

[vii] “Citar a alguien es hacer su elogio”, Aulo Gelio (Noches áticas)

[viii] César Antonio Molina

[ix] Deskilling

[x] Sería más apropiado hablar de vehículos autónomos

[xi] Paul Valéry

[xii] Dr. Szczeklik en Catarsis

La guerra de los robots; Cómo la tecnología está cambiando los conflictos armados

Estimad@s amig@s

Sinopsis

La era de la robótica cambiará la sociedad del siglo XXI y también sus guerras, que no desaparecerán: serán diferentes. Las armas autónomas son capaces de matar y destruir sin necesidad de control humano. Esta facultad de una máquina inteligente para decidir sobre la vida de una persona ha movilizado a científicos y académicos, pero no tanto a las personas anónimas, más preocupadas por los problemas cotidianos y cercanos. Sin embargo, no estamos frente a un debate académico, sino ante una realidad que nos afecta -y afectará- a todos. En un intento de despertar el interés del público general sobre ello, el Coronel Francisco Rubio nos ofrece en este libro -con prólogo del periodista de RTVE David Corral Hernández- la oportunidad de conocer y entender un escenario inédito en el que las tecnologías son empleadas en contra de lo que se supone su esencia, aportar beneficio a la humanidad. El lector encontrará bastantes preguntas, muchas respuestas y la información o argumentos con los que formar su propia opinión sobre un mundo, completamente nuevo, que está surgiendo a nuestro alrededor.

 

«Nos fascinan los robots porque

son reflejos de nosotros mismos»

Ken Goldberg

 

Introducción

(...) una de las opciones que se barajan para garantizar el control humano y la gobernanza de todos los robots, no solo los militares, es la incorporación de un código ético en su programa.

 

(…) el derecho internacional humanitario prohíbe los métodos y medios de guerra que causen daño excesivo y sufrimiento innecesario (…)

 

«Podemos hacer robots que aprendan de los errores,

 pero el hombre todavía hace los mismos

 una y otra vez»

Anthony T. Hincks

 

La guerra de los robots, los robots guerreros, autónomos… ¿es ese el debate?, ¿tenemos suficientes elementos de juicio para poder emitir un veredicto?, ¿debemos ser capaces de formarnos una opinión?, ¿qué papel debe ocupar la ética en el desarrollo de algoritmos, inteligencia artificial, vehículos autónomos…?

 

Compre el libro con dos objetivos que creo he cumplido, primero era ser capaz de aumentar mi capacidad juiciosa y poder formular una mejor opinión, y segundo fortalecer mi obcecación con la necesidad de que todo algoritmo o similar necesita detrás un código ético.

 

No cierro la puerta a los robots, más bien todo lo contrario, solo pido de manera insistente que haya una reglas del juego claras, transparentes y en continua evolución. Estamos aprendiendo a la vez que haciendo, por tanto los argumentos que hoy demos por validos tendremos que ser capaces de cambiarlos a medida que los desarrollos vayan madurando.

 

Además de todo lo anterior creo necesario que todo robots debiera tener un botón de apagado, el ser humano debe tener siempre la ultima palabra y en caso de duda poderlo apagar, no quiero robots que sean soberanos para tomar decisiones que afectan a personas.

 

«Los robots son la nueva clase media.

 Y todos los demás serán empresarios o temporales»

James Altucher

 

(…) la robotización militar es una tendencia que, lejos de desacelerarse, experimentará un fuerte impulso a corto, medio y largo plazo (…) en la década de 2030, el ejército británico podría estar formado por noventa mil soldados y treinta mil robots (…)

 

Los ejércitos de masas ya no son determinantes en el campo de batalla porque la capacidad de movilizar grandes contingentes de fuerza ha dejado de aportar una superioridad militar efectiva (…)

 

El equipo del soldado del futuro se hará con materiales especiales como la fibra de carbono, proporcionará protección antibala, equipará un exoesqueleto activo que aliviará la carga física y dispondrá de sensores, navegadores y sistemas óptico-electrónicos de disminuirán su carga cognitiva, todo ello alimentado con fuentes de energía más eficientes (…)

 

El uso generalizado de los sistemas de armas autónomos modificará la naturaleza de la guerra de forma sustancial (…) una de las cuestiones que se plantean es si las maquinas convertirán los conflictos armados en versiones actualizadas de las guerras por delegación (…)

 

Los robot militares tampoco son mercenarios tecnológicos (…) los sistemas de armas autónomos, con toda su inteligencia artificial, carecen de voluntad para actuar con animo de lucro y tampoco tienen motivación ideológica o espíritu de servicio (…) no pueden elegir a quien sirven (…)   

 

¿Es moralmente exigible arriesgar la vida en combate?

 

La guerra tecnológica se combatirá con frecuencia a distancia y el manejo de los sistemas de armas estará a cargo, en buena medida, de personal civil, militarizando o no (…)

 

(…) «no se trata de limitar la inteligencia artificial, sino de introducir límites éticos en los robots, lograr que sean capaces de vivir en sociedad y, eso sí, rechazar de forma clara autónomos sin control humanos» (…)

 

(…) el ser humano debe ser siempre el último responsable de la actualización de una máquina, no solo en la identificación del objetivo sino en la selección y operación final. En términos generales, la inteligencia artificial no debería ser utilizada para reemplazar la toma de decisiones de los humanos en asuntos delicados que se basan en juicios o de moral.

 

(…) si un robot militar realiza una acción contraria al derecho internacional (…) ¿sobre quién debería actuar la justicia?

 

(…) el sentido común es más o menos homogéneo (común) en situaciones poco complejas, sin presión y en ausencia de emociones, todo lo contrario de lo que ocurre en la guerra. Durante el combate, la forma de actuar dejar de ser común. Cada soldado reacciona de forma personal y distinta ante el miedo, la tensión, el dolor y el agotamiento (…) uno de los objetivos de la instrucción militar es conseguir que el combatiente responsa de manera resolutiva, rápida y poco menos que automatizada ante situaciones en las que, para sobrevivir, tiene que actuar casi sin pensar.

 

(…) la introducción de un código ético en la programación de los robots inteligentes militares o civiles, es una de las acciones que se plantean con más insistencia para asegurar que en todo momento se mantienen al servicio de las personas (…)

 

(…) las tres leyes de la robótica formuladas por Isaac Asimov han quedado desfasadas y no pueden ser el referente para desarrollar las cartas éticas de los robots (…)

1.   Un robot no hará daño a un ser humano ni, por inacción, permitirá que el ser humano sufra daño.

2.   Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de las que entren en conflicto con la primera ley.

3.   Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o segunda ley.

 

(…) nos encontramos en un acelerado proceso de automatización de la guerra, algo normal, por otra parte. Lo mismo que la industrialización tuvo enormes consecuencias en todas las actividades sociales del siglo XX, incluidas las guerras, la robotización también cambiara la sociedad del siglo XXI y sus guerras. Los conflictos armados no desaparecerán; serán diferentes.

 

La cuestión ética no se solventa con tecnología (…) la conciencia pública, aún en formación (…) será contraria a delegar acciones críticas del combate en los robots militares.

 

(…) la regulación tendría que garantizar que la maquina no decida la muerte de una persona, para lo que es imprescindible retener el control humano significativo sobre las funciones críticas del combate (…)

 

La regulación del control humano se debería complementar (…) con la incorporación de filtros éticos en la programación de los robots militares (…)

 

Insistir en la prohibición total de las armas autónomas letales puede ser un ejercicio de adoctrinamiento o de ingenuidad, pero, en todo caso, es una pérdida de tiempo.

 

«(…) simplemente no se puede diferenciar entre un robot

 y el mejor de los seres humanos»

Isaac Asimov

 

La guerra de los robots

Cómo la tecnología está cambiando los conflictos armados

Francisco Rubio Damián

PREGUNTA

 

Link de interés

• The utility of force

• La singularidad está cerca: cuando los humanos trascienden a la biología

• Ghost Robotics expone las capacidades de su perro robot armado

• Liderar personas con inteligencia artificial; Cambio y digitalización

 

«La robótica está empezando a cruzar esa línea

desde el movimiento absolutamente primitivo

 hasta el movimiento que se asemeja al comportamiento

 animal o humano»

J. J. Abrams

 

Recibid un cordial saludo