Buscando el mejor algoritmo para crímenes de guerra éticos

OSAKA, JAPÓN – 26 DE SEPTIEMBRE DE 2016: Modelo de endoesqueleto T-800 de tamaño humano de Terminator 3D en Universal Studios Japón © Sarunyu L / Shutterstock.com

En tiempos de guerra, todo ciudadano preocupado debería preguntarse cuáles son los propios políticos y militares que consideran limitaciones aceptables a sus acciones. Estas son las personas que toman las decisiones gracias, presumiblemente, a su comprensión seria de lo que está en juego y a su compromiso con el bien común.

La IA aporta una nueva dimensión. Debido a que la mayoría de la gente cree que la IA ha sido diseñada para tomar decisiones racionales siguiendo una comprensión algorítmica de las prioridades, cuando esas decisiones se parecen a un crimen de guerra, no se puede culpar a ningún ser humano por el resultado. La noción misma de responsabilidad, que es el núcleo de todo sistema ético, desaparece. No se puede culpar a la persona que creó el algoritmo porque su intención no era criminal. Sólo se puede culpar al agente que creó las condiciones que produjeron el crimen de guerra. Pero el agente en el caso de la IA es una abstracción.

Entonces, ¿cómo reconciliamos tres fuerzas dispares y potencialmente conflictivas: la noción extremadamente pragmática de eficacia militar, la idea mucho más abstracta de estándares éticos y la supuesta racionalidad de la IA?

Según el Washington Post, un funcionario de alto rango cree que no hay mucho que debatir en Estados Unidos porque se trata de una "sociedad judeocristiana".

Cuando se le preguntó acerca de las opiniones del Pentágono sobre la guerra autónoma, el general de tres estrellas Richard G. Moore Jr., subjefe de personal de planes y programas de la Fuerza Aérea, ofreció esta explicación en un evento del Instituto Hudson en julio. “Independientemente de cuáles sean sus creencias, nuestra sociedad es una sociedad judeocristiana y tenemos una brújula moral. No todo el mundo lo hace. Y hay quienes están dispuestos a perseguir el fin independientemente de los medios que haya que emplear”.

de hoyDiccionario semanal del diablodefinición:

La retórica de Moore es reveladora. Comienza su afirmación con lo que se ha convertido en un guiño obligatorio a la inclusión, "independientemente de cuáles sean sus creencias". Esto le permite reconocer toda la gama de pensamientos religiosos o incluso antirreligiosos permitidos por la Declaración de Derechos de Estados Unidos antes de afirmar lo que considera una verdad fundamental: “nuestra sociedad es una sociedad judeocristiana y tenemos una brújula moral”.

Así como la Corte Suprema ha declarado que las corporaciones son personas basándose en la idea del siglo XIX de que las empresas comerciales deben ser consideradas “personas morales”, Moore cree que incluso una sociedad multicultural y democrática tiene una identidad moral. Presumiblemente, eso significa que es responsable de sus acciones, como debe serlo cualquier ser moral.

Pero el pensamiento de Moore va un paso más allá. Estados Unidos no sólo tiene una identidad moral y puede considerarse como una unidad moral en la que todos comparten la responsabilidad de sus acciones. También posee una “brújula moral”. Dictionary.com define esto como "un conjunto internalizado de valores y objetivos que guían a una persona con respecto al comportamiento ético y la toma de decisiones": Varios comentaristas lo comparan con la idea agustiniana de "conciencia". Pero la conciencia, al igual que la conciencia, es un concepto que desafía una definición filosófica clara incluso cuando se centra en la toma de decisiones personales. Ambos se refieren al sistema de percepción de un individuo e implican subjetividad. Tampoco se puede aplicar a entidades colectivas. Por esa razón, nadie ha teorizado con éxito la idea de que una corporación, una nación o cualquier otra entidad colectiva tenga una brújula moral más allá de la idea de un código de conducta o una declaración de misión.

Al describir el intercambio colectivo o la armonización de cualquier cosa que incida en la percepción, los antropólogos y sociólogos prefieren describir lo que llaman “valores fundamentales” de las culturas. Pero esos valores no deben confundirse con principios morales o éticos. La idea bastante discutible de una cultura “judeocristiana” tiene poco que ver con un marco ético y más con supuestos políticos y económicos vagamente formulados.

La referencia judeocristiana evoca implícitamente los dos “Testamentos” de la Biblia: el primero, en hebreo, que describe acontecimientos políticos con un fuerte énfasis en la guerra; el segundo, en griego, que propone una visión que niega la política de poder en favor de la espiritualidad universal. principios. El razonamiento de Moore está claramente más cerca del Antiguo Testamento que del Evangelio cristiano. Su brújula moral es claramente un conjunto de reglas o leyes explícitas en lugar de principios éticos internalizados que definen y estructuran los vínculos humanos.

Moore traza una distinción entre su nación, Estados Unidos, “que sigue las reglas de la guerra” y cualquier otra nación que no lo hace. Sin duda, aquí está pensando en China, cuya cultura es tan obviamente diferente. “Hay sociedades que tienen una base muy diferente a la nuestra”, nos recuerda, por si no prestamos atención.

Todos los antropólogos estarían de acuerdo con esa afirmación, pero llegarían a una conclusión completamente diferente. Moore implica claramente que debido a que su nación supuestamente posee una brújula moral, aquellos que son “diferentes” no la tienen. Eso significa que no son sólo el enemigo, sino que, al carecer de nuestra brújula, son moralmente deficientes. En última instancia, esto significa –como cualquier oficial militar debe suponer– que los problemas relacionados con la moralidad sólo pueden resolverse mediante la fuerza.

Cualquiera que esté familiarizado con la historia militar de Estados Unidos podría preguntarse cómo funcionó una brújula moral judeocristiana en el pasado. Siempre actuando oficialmente en nombre de garantizar la “defensa”, la historia ha producido una larga serie de guerras injustificadas, incluso en partes remotas del mundo. Ha provocado la muerte y el desplazamiento de millones de personas, así como la desestabilización y el empobrecimiento de regiones enteras. ¿En qué dirección apuntaba la brújula cuando ocurrían esos acontecimientos?

Todas estas decisiones en el pasado remoto o reciente fueron tomadas por seres humanos moralmente responsables (pero, por desgracia, rara vez responsables). Tenían nombres identificables, como McNamara, Johnson, Cheney, Rumsfeld, Bush, Clinton y muchos otros. Algunos de ellos, como McNamara, acabaron admitiendo su falta de orientación moral. La mayoría prefirió, en el mejor de los casos, confesar su evaluación errónea de la realidad sobre el terreno. Sus críticos y muchos historiadores serios tienen al menos la satisfacción de poder consultar los archivos, examinar sus discursos y acciones y relatar hechos de la historia atribuibles a personas identificables. Incluso pueden ir más allá en su análisis e identificar agrupaciones ideológicas –como la actual raza de neoconservadores– que apuntan a responsabilidades compartidas tanto por errores como por crímenes.

En la mayoría de los casos, identificar la responsabilidad no conduce a la rendición de cuentas. Esto se debe a que la clase de quienes toman las decisiones se ha aislado de los mecanismos de rendición de cuentas. Cuando se le preguntó al presidente Barack Obama sobre la persecución de los culpables de crímenes de guerra o incluso de espionaje interno durante la administración anterior, afirmó que era hora de mirar hacia adelante y no hacia atrás. Ninguna administración posterior habría considerado jamás responsabilizar a Obama por el desastre aún continuo al que condujo su política en Libia o Siria.

Esta triste situación es frustrante para quienes se interesan por la justicia. Pero el conocimiento de que la responsabilidad puede atribuirse a personas específicas es, en algunos aspectos, mínimamente reconfortante. De hecho, nos ayuda a definir colectivamente no tanto una brújula moral como un horizonte moral.

Con la IA las reglas del juego han cambiado. Existe el riesgo de que, cuando se cometan crímenes de guerra nuevos y aún más extremos gracias a una mayor “eficiencia” de la inteligencia artificial, periodistas e historiadores no tengan a quién responsabilizar por errores políticos y crímenes de guerra que podrían tener lugar a una escala mucho mayor. . Los algoritmos nunca serán responsables. Pero tampoco serán siquiera identificables como la fuente de males devastadores.

Moore explicó lo que llamó el “fundamento” de sus comentarios cuando afirmó que la Fuerza Aérea no “permitirá que la IA tome medidas, ni vamos a tomar acciones sobre la información proporcionada por la IA a menos que podamos garantizar que la información esté de acuerdo con nuestros valores”. Luego afirmó que “no se prevé que ésta sea la posición de ningún adversario potencial”.

Moore hizo su declaración inicial en respuesta a una pregunta sobre la “guerra autónoma”. Las armas autónomas son aquellas que toman decisiones por sí mismas gracias a la sofisticada tecnología y algoritmos que definen su “inteligencia”. Moore parece creer que a “nuestra IA” se le enseñará a someter todas sus decisiones a los especialistas en ética judeocristianos antes de tomar cualquier medida. Dados los errores y pecados de las personalidades históricas que, por tener un nombre y una posición, teóricamente podrían haber sido considerados responsables, ¿qué tipo de errores y pecados podemos esperar de propuestas potencialmente más extremas y catastróficas por parte de los algoritmos anónimos de la IA?

¿Deberíamos simplemente culpar a la cultura colectiva judeocristiana por los crímenes?

*[En la época de Oscar Wilde y Mark Twain, otro ingenio estadounidense, el periodista Ambrose Bierce produjo una serie de definiciones satíricas de términos de uso común, arrojando luz sobre sus significados ocultos en el discurso real. Bierce finalmente los recopiló y publicó como un libro, The Devil's Dictionary, en 1911. Nos hemos apropiado descaradamente de su título con el fin de continuar su saludable esfuerzo pedagógico para iluminar a generaciones de lectores de las noticias. Lea más del Diccionario del Diablo de Fair Observer.]

Las opiniones expresadas en este artículo son propias del autor y no reflejan necesariamente la política editorial de Fair Observer.

Durante más de 10 años, Fair Observer ha sido libre, justo e independiente. Ningún multimillonario nos posee, ningún anunciante nos controla. Somos una organización sin fines de lucro apoyada por lectores. A diferencia de muchas otras publicaciones, mantenemos nuestro contenido gratuito para los lectores, independientemente de dónde vivan o si pueden pagar. No tenemos muros de pago ni anuncios.

En la era de la posverdad, de noticias falsas, cámaras de eco y burbujas de filtro, publicamos una pluralidad de perspectivas de todo el mundo. Cualquiera puede publicar con nosotros, pero todos pasan por un riguroso proceso editorial. Por lo tanto, obtiene contenido bien razonado y verificado en lugar de ruido.

Publicamos más de 2500 voces de más de 90 países. También llevamos a cabo programas de educación y capacitación sobre temas que van desde medios digitales y periodismo hasta escritura y pensamiento crítico. Esto no es barato. Los servidores, editores, formadores y desarrolladores web cuestan dinero. Considere apoyarnos de forma regular como donante recurrente o miembro sustentador.

Contamos con su apoyo para nuestra independencia, diversidad y calidad.

Contamos con su apoyo para nuestra independencia, diversidad y calidad.

Por mes

La conversación de hoy con Chad fue densa mientras intentábamos lidiar con la lógica de un sistema que establece la obtención de ganancias...

Tras un debate reciente en el que evocamos la importancia de las humanidades para el futuro de la economía global...

Las herramientas de inteligencia artificial ahora permiten a los usuarios generar rápidamente imágenes y contenido escrito, revolucionando el proceso creativo. Sin embargo, el rápido ritmo...

Información única de más de 2500 colaboradores en más de 90 países