El Pentágono estrena centro de inteligencia artificial

 

En octubre de 2016, la recientemente creada Defense Innovation Board lanzó su primer conjunto de recomendaciones . (La junta, un cuerpo asesor del liderazgo superior en el Departamento de Defensa de EEUU contiene representantes del sector privado, la academia y organizaciones sin ánimo de lucro.) Una recomendación que destacó fue el establecimiento de “una organización centralizada, enfocada y con recursos suficientes” el Departamento de Defensa “para impulsar la investigación aplicada en inteligencia artificial (IA) y el aprendizaje automático”.

 

Menos de dos años después, el Pentágono ya está transformando esa idea en una realidad. El 27 de junio, el subsecretario de Defensa Patrick Shanahan emitió un memorando que estableció formalmente el nuevo Centro Conjunto de Inteligencia Artificial (JAIC) del Departamento de Defensa. De acuerdo con la nota, el objetivo de JAIC es acelerar las capacidades habilitadas para IA, aumentar el impacto de las herramientas de inteligencia artificial y sincronizar los esfuerzos de inteligencia artificial del departamento. Con este fin, JAIC liderará la ejecución de las llamadas Iniciativas de Misión Nacional. La adopción de la nube por parte del Departamento de Defensa. JAIC también servirá como una plataforma para mejorar la colaboración en proyectos relacionados con IA a nivel interno y externo, incluyendo empresas privadas y proyectos académicos.

 

Es notable que el enfoque de JAIC también incluye la ética, las consideraciones humanitarias y la seguridad de la IA tanto a corto como a largo plazo. Estos problemas, según Brendan McCord , jefe de aprendizaje automático en la entidad del Pentágono conocida como Unidad de Innovación de Defensa Experimental, se reflejarán en el establecimiento de principios de defensa de la IA que se desarrollarán con la participación de múltiples partes interesadas. Esta dimensión específica de JAIC, aunque sus parámetros siguen siendo abstractos por el momento, podría desempeñar un papel importante en la realización de las ambiciones de IA del Pentágono.

 

Desarrollar, institucionalizar y comunicar los principios de defensa de la IA de manera transparente no solo podría reducir los riesgos operacionales de los sistemas habilitados para IA sino también aumentar la seguridad nacional de los EEUU al permitir que el Pentágono acceda e integre mejor los recursos de IA en los Estados Unidos. Los investigadores y compañías de inteligencia artificial podrían estar más dispuestos a colaborar con el Pentágono si establecieran directrices transparentes y articularan líneas rojas para el desarrollo y despliegue de sistemas de inteligencia artificial. A nivel mundial, JAIC podría servir como un modelo importante para otras potencias que persiguen tecnologías similares si demuestra que un enfoque ético y consciente de la seguridad operacional de la IA no compromete la seguridad nacional, sino que puede fomentarla.

 

El Departamento de Defensa, para preservar y expandir su ventaja militar en el futuro, ha apostado por la inteligencia artificial. La estrategia Third Offset del departamento presenta un enfoque que apunta a “explotar todos los avances en inteligencia artificial y autonomía e insertarlos en las redes de batalla del Departamento de Defensa”. Las posibles aplicaciones en el ámbito militar son muy diversas, desde mejorar la eficiencia de los sistemas logísticos a tareas más delicadas, como comando y control automatizado en sistemas avanzados de armas. La Estrategia de Defensa Nacional 2018 prevé que IA probablemente cambie el carácter de la guerra; por lo tanto, en palabras de Shanahan , Estados Unidos “debe buscar aplicaciones de inteligencia artificial con valentía y prontitud”.

 

Un desafío importante para la realización de las ambiciones de IA del Departamento de Defensa es que las capacidades para desarrollar y desplegar las tecnologías de inteligencia de vanguardia actualmente se encuentran casi exclusivamente dentro del dominio de las empresas privadas de tecnología. Por el momento, la industria comercial de IA en los Estados Unidos es la principal a nivel mundial, medida por indicadores que incluyen el diseño de hardware y la concentración de los investigadores de IA más talentosos. A su vez, el Pentágono ha tenido dificultades para desarrollar capacidades internas de investigación y desarrollo que se acercan a competir con los esfuerzos del sector privado.

Post relacionado  Alibaba acerca la inteligencia artificial al corral.

Para el Departamento de Defensa, el acceso a los recursos de IA del sector privado se ve complicado por un “choque de culturas” percibido entre Silicon Valley y Washington. Un elemento de esta relación depende de la noción de que los “valores de Silicon Valley” estarían contaminados por el compromiso con los militares como clientes, financiadores o incluso como partidarios. La fuerza de este antagonismo es sorprendente, dado que, en los primeros días de Silicon Valley, el Departamento de Defensa era un importante inversor y cliente de firmas de alta tecnología. De hecho, las relaciones con el Departamento de Defensa fueron un impulso necesario para las empresas de tecnología que compiten por ganar tracción. A pesar de estas formas tempranas de colaboración, hoy existe una división entre las dos partes.

 

El abismo ha sido subrayado por los esfuerzos recientes del Departamento de Defensa para involucrar a Google en el despliegue de inteligencia artificial. Cuando la participación de Google en Project Maven, una iniciativa de la Fuerza Aérea con el objetivo de automatizar el análisis de imágenes de video recopiladas por drones, se hizo pública a principios de este año, la revelación desató una gran controversia dentro y fuera de la compañía. Miles de empleados de Google protestaron contra la participación de la empresa en “el negocio de la guerra” con una carta abierta y pidieron a la compañía que se retirara del Proyecto Maven. Varios empleados renunciaron. Google finalmente decidió no renovar el contrato, y rápidamente lanzó un conjunto de principios de IA para mitigar la reacción pública. Esta debacle presagia lo que probablemente sea un conflicto consistente, en el que empresas privadas como Google se ven atrapadas entre sus valores públicos, que son inconsistentes con la militarización de IA, y sus incentivos para buscar cada vez más oportunidades comerciales con los gustos del Departamento de Defensa.

 

Una segunda dimensión del choque de culturas involucra las diferentes velocidades a las que Silicon Valley y el Departamento de Defensa innovan y operan. Claramente, el ritmo acelerado de los ciclos de I + D en el sector privado contrasta marcadamente con los procesos tradicionales de adquisición militar, que a menudo abarcan años. Más concretamente, la gran cantidad de tiempo y recursos necesarios para los procedimientos burocráticos del Departamento de Defensa es un coste en el que muchas empresas no están dispuestas a incurrir. Dicho esto, el departamento ha hecho varios intentos para agilizar y mejorar las oportunidades de colaboración con entidades privadas. Estos esfuerzos han arrojado resultados mixtos hasta el momento.

 

Una iniciativa reciente fue la base en 2015 de la ya mencionada Unidad de Innovación de Defensa Experimental, una creación del exsecretario de Defensa Ashton Carter, con oficinas ubicadas en los principales centros de innovación de EE. UU. Los objetivos de la unidad son reconstruir las relaciones entre el Departamento de Defensa y las empresas de tecnología comercial y satisfacer rápidamente las necesidades que surgen en el departamento con las soluciones tecnológicas apropiadas. Con este fin, la unidad ha introducido el llamado mecanismo de adjudicación de apertura de soluciones comerciales, un proceso de contratación rápido y flexible que permite al Departamento de Defensa trabajar a la velocidad del sector privado. Mientras que algunos han cuestionado la efectividad y la necesidad de la unidad, otros han elogiado la iniciativa, argumentando que está cambiando las prácticas comerciales del departamento y mejorando la colaboración con el sector privado.

 

El desafío de China. Estados Unidos no es el único país que pretende superar a los competidores llevando la Inteligencia Artificial al campo de batalla. China, por ejemplo, se ha fijado el objetivo llamativo de liderar la industria mundial de IA para el año 2030. Las ambiciones de la IA de China, por supuesto, no se limitan a la industria comercial de inteligencia artificial, sino que también están vinculadas a los esfuerzos de modernización militar de Beijing.

Post relacionado  Inteligencia artificial puede diagnosticar el Alzheimer

 

Aunque el Ejército Popular de Liberación de China aún no ha adoptado públicamente una estrategia oficial de Inteligencia Artificial, parece ver la IA como una oportunidad para superar a los Estados Unidos. Tal plan se observa con particular preocupación en Washington debido al tratamiento ostensiblemente de China y los recursos civiles y militares de I + D para la inteligencia artificial, según se conceptualiza en el modelo de fusión militar-civil de Beijing. A diferencia de Estados Unidos, las empresas gubernamentales y privadas están estrechamente vinculadas a China, lo que garantiza una cooperación más fluida. Por lo que China parece estar en una posición más favorable que los Estados Unidos para explotar el potencial de innovación del sector privado para mejorar las ventajas económicas y militares. Esta percepción sólo ha aumentado la presión sobre el ejército de los EEUU. Para encontrar formas efectivas y eficientes de aprovechar la inteligencia artificial para mantenerse al compás de los competidores.

 

¿Puede JAIC ayudar a superar estos desafíos?

 

Si bien el Pentágono ha proporcionado detalles limitados sobre los planes y operaciones específicos de JAIC, de los mandatos de alto nivel del programa se desprende que podría sentar las bases de una estrategia de defensa de la IA que resolvería los desafíos estructurales y culturales que actualmente obstaculizan al Departamento de Defensa.

 

Una parte sustancial de la misión declarada de JAIC parece estar enfocada en organizar y racionalizar la infraestructura subyacente para que el ejército de los EEUU. Pueda movilizar la IA de manera más eficiente y efectiva. JAIC liderará la ejecución de las Iniciativas de Misión Nacionales, coordinando entre departamentos y servicios militares, el Estado Mayor Conjunto, comandos de combatientes y varios otros componentes del Departamento de Defensa. El memorando de establecimiento de JAIC enfatiza la necesidad de desarrollar herramientas, tecnologías y procesos en todo el departamento para construir una base común para ejecutar las ambiciones de IA del país, y el departamento está señalando que JAIC será la entidad institucional que liderará dichos esfuerzos.

 

En este sentido, parece probable que JAIC contribuirá, al menos en parte, a establecer un esfuerzo coordinado y más coherente entre las numerosas agencias federales que invierten en la integración de IA. Al centralizar y estandarizar las entradas principales a las aplicaciones de inteligencia artificial, como los datos y protocolos compartidos, JAIC podría disminuir sustancialmente los costos de desarrollo y despliegue de IA. Además, si tales mejoras se extienden a una mayor reforma del proceso de adquisición de tecnología, JAIC podría, en teoría, reducir los costes de transacción para que las empresas privadas de inteligencia artificial se relacionen con el gobierno, haciendo que tales propuestas comerciales sean más atractivas.

 

Sin embargo, las mejoras en la eficiencia son insuficientes para abordar por completo las barreras a las ambiciones de IA del gobierno de EEUU. Para alentar el surgimiento de relaciones productivas entre las agencias federales y las principales compañías e investigadores de inteligencia artificial, JAIC y otros elementos de la estrategia de IA más amplia del Departamento de Defensa deberán comprometerse de manera creíble a abordar el desarrollo y despliegue de inteligencia artificial con ética y seguridad. Esto es fundamental para garantizar la cooperación del sector privado y la academia, y para que el ejército de los EEUU. Mantenga la credibilidad y la integridad en el escenario internacional.

 

En lo que respecta a la cooperación con el sector privado, las recientes controversias ponen de relieve el hecho de que los investigadores de IA y los líderes del sector privado consideran la ética y la seguridad como compromisos no negociables. El Proyecto Maven es solo una de varias indicaciones de que las tensiones sobre el compromiso del sector privado con las agencias gubernamentales están lejos de resolverse. Amazon y Microsoft han sido duramente criticados por vender software de reconocimiento facial compatible con inteligencia artificial a las agencias de inmigración y de aplicación de la ley. Recientemente, el Future of Life Institute obtuvo el apoyo de varias compañías líderes de inteligencia artificial, incluidas Element AI y Google’s DeepMind, en una carta en la que se pedía a los gobiernos que prohibieran las armas letales autónomas. La carta también fue firmada por numerosos investigadores de AI.

Post relacionado  Mi estilista personal es un BOT

 

Las empresas e investigadores de IA se enfrentan al desafío de: cuándo y cómo comprometerse con la comunidad de seguridad nacional. Algunos sostienen que un boicot general es la única ruta hacia adelante. Otros consideran que la integración de IA en el ejército es inevitable y, por lo tanto, la tarea es dar forma a la integración de IA para que se logre de forma ética. Si el gobierno de EEUU no logra articular una postura de principios con respecto a las preocupaciones éticas y de seguridad, alejará a ambos bandos. Sin embargo, si JAIC se convierte en pionera en señalizar el compromiso con la ética y la seguridad, podría invitar a una nueva ola de colaboración con el sector privado basada en una comprensión común y matizada de cómo IA debería y no debería ser desplegada por los Estados Unidos.

 

En el escenario internacional, JAIC también ofrece una oportunidad importante para que los Estados Unidos señalen a otros países su compromiso con la seguridad de los sistemas de inteligencia artificial a medida que se desarrollan y despliegan. Existe un precedente de normas de seguridad sólidas dentro de las instituciones militares de EEUU. Especialmente entre los submarinistas de la Armada, los operadores de plataformas de portaaviones y los operadores de sistemas de armas Aegis. Un enfoque orientado hacia la seguridad para la integración de IA es, por lo tanto, una extensión natural de la conducta militar de EEUU. Y será necesario, aunque desafiante. Los principales investigadores de IA ya han identificado una serie de formas en que los sistemas modernos de aprendizaje automático aún carecen de robustez y, por lo tanto, son vulnerables a causar accidentes imprevistos por sus diseñadores humanos. Tales riesgos pueden ser aumentados por errores institucionales y operacionales que, en el contexto del ejército de los Estados Unidos, a veces han tenido graves consecuencias. Es probable que tales errores sean más frecuentes con la creciente complejidad de los sistemas tecnológicos desplegados.

 

El ejército de EEUU debería, por lo tanto, dar prioridad a la mitigación de los riesgos asociados con las consecuencias involuntarias de los sistemas habilitados para la IA, y establecer un estándar para otros ejércitos que persiguen tecnologías similares. Es muy probable que se reciba un mandato consciente de la seguridad en el extranjero, y ayudaría a forjar alianzas productivas con países como Canadá y la Unión Europea, los cuales han resaltado la importancia de la ética y la seguridad en sus respectivas estrategias de IA. Tal enfoque también podría reducir el riesgo de que las dinámicas de rivalidad entre los Estados Unidos y China se conviertan en una “carrera hacia abajo”, donde cada país toma atajos para aplicar la seguridad y solidez de sus sistemas de inteligencia artificial para obtener una ventaja sobre los demás -Que ocasiona un riesgo sustancial de daño accidental.

 

Tal como ha sido creada, JAIC está bien posicionada como un vehículo para señalar el compromiso creíble de los EEUU con un enfoque ético y seguro para la búsqueda de IA. De hecho, uno de los mandatos principales de JAIC es trabajar con la Oficina del Secretario de Defensa para desarrollar estándares y un marco de gobernanza para el desarrollo y la entrega de inteligencia artificial. Al establecer JAIC, el Departamento de Defensa ha señalado su intención de garantizar un “fuerte compromiso con la ética militar y la seguridad de la IA”. Así, JAIC se convierte en un punto focal para impulsar a la IA como un elemento crucial de la defensa nacional de EE. UU. oportunidad para los Estados Unidos de articular un enfoque robusto a la inteligencia artificial ética y segura.

 

fuente de la noticia original: Bulletin of the Atomic Scientist

 

 

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Ir arriba
Leer entrada anterior
Innovación, diseño y tecnología para dar el salto a la nueva era BOT

Un encuentro excepcional para descubrir todas las posibilidades de los bots conversacionales. ¡Gran estreno mundial en Madrid el 25 de...

Cerrar