El dilema del doble uso de la inteligencia artificial

Introducción

El rápido progreso y desarrollo en inteligencia artificial (IA) está generando  especulaciones radicales sobre sus aplicaciones de doble uso y los posibles riesgos en seguridad. Desde los sistemas de armas autónomas hasta la tecnología de reconocimiento facial y los algoritmos de toma de decisiones, cada aplicación emergente de inteligencia artificial trae consigo pros y contras. Es esta naturaleza dual de la tecnología de IA la que está generando enormes riesgos de seguridad no solo para individuos y entidades en todo el mundo: gobiernos, industrias e organizaciones sino también para el futuro de la humanidad.

La realidad es que cualquier nueva innovación de IA puede utilizarse para fines tanto beneficiosos como perjudiciales: cualquier algoritmo único que pueda proporcionar importantes aplicaciones económicas también podría conducir a la producción de armas de destrucción masiva sin precedentes en una escala que es difícil de comprender. Como resultado, las preocupaciones sobre la automatización basada en inteligencia artificial están creciendo.

Con los avances en machine learning, poder de cómputo, inversión sin fronteras y disponibilidad de datos, IA tiene aplicaciones potencialmente universales, un hecho que complica exponencialmente los riesgos de seguridad involucrados. Además, dado que la integración de la IA es invisible para el ojo humano, la capacidad de conocer cualquier cosa cambia fundamentalmente el panorama de seguridad. La automatización y la inteligencia de IA son prometedoras, así como el potencial de destrucción.

Post relacionado  Inteligencia Artificial, muy presente en el Mobile World Congress 2019

La democratización del poder informático.

La evolución de las tecnologías informáticas ha democratizado el desarrollo tecnológico, el conocimiento, la información y la inteligencia. El rápido crecimiento de la tecnología de procesamiento y análisis de datos posiciona a las armas cibernéticas, electrónicas, cuánticas y autónomas junto con las armas nucleares, biológicas y de nano-armas en el club de armas de élite capaz de desatar un daño catastrófico para la humanidad.

Esto se debe a que las computadoras, las redes y el ciberespacio conectados se han convertido en una parte integral de todos los procesos digitales. Dado que el código de los ordenadores conectados han conectado el ciberespacio al espacio geoespacial y al espacio, ahora todo está controlado o pasa por el ciberespacio.

La IA tiene el potencial de integrarse en prácticamente todos los productos y servicios a través del ciberespacio, el geoespacio y el espacio para hacerlos inteligentes, esta capacidad cognitiva en evolución cambia fundamentalmente el panorama de seguridad para la humanidad.

Artificial Intelligence

Los desarrollos recientes en inteligencia artificial, robótica, drones y más tienen un enorme potencial para el beneficio para la humanidad, pero gran parte de los mismos avances conllevan los peligros de la inteligencia sin control, la vigilancia, el reconocimiento a través de algoritmos sesgados o letales para los cuales nadie está preparado.

Post relacionado  Policia 2.0 la inteligencia artificial para detectar denuncias falsas

Como se ve en la actualidad:

  • Cualquiera puede crear algoritmos que pueden tener doble uso.

  • Cualquiera puede comprar datos, herramientas y tecnologías necesarias para crear algoritmos.

  • Desarrolladores remotos desarrollan algoritmos en nombre de terceros.

  • Los algoritmos se pueden comprar por separado e integrarse para cualquier propósito.

  • Los vehículos aéreos no tripulados automatizados están en aumento.

  • Los sistemas de armas autónomas son una realidad.

  • Los sistemas de inteligencia artificial con autonomía son una realidad.

  • El reconocimiento facial autónomo es una realidad.

  • Los algoritmos de IA son vulnerables a la amenaza y la manipulación.

El desarrollo y el paisaje actuales de la IA introducen incertidumbre en muchos frentes. Debido a que la inteligencia artificial es un software y no solo está integrado en los sistemas de armas utilizados por los militares, sino en todas y cada una de las aplicaciones inteligentes utilizadas.

Dilema de seguridad

Los desafíos y las complejidades de las amenazas y la seguridad de la IA en evolución han cruzado las barreras del espacio, la ideología y la política, exigiendo un esfuerzo de colaboración constructivo de todas las partes interesadas en todas las naciones. La lluvia de ideas colectivas es una necesidad, para tener una evaluación objetiva de lo que está en peligro y cómo puede asegurarse.

Risk Group analiza el “Dilema de la tecnología de uso dual y la seguridad nacional” con el Prof. Dr. Ashok Vaseashta, Director Ejecutivo y Presidente de la Junta de Revisión de Instituciones en NJCU, EE. UU .; Profesor de Estudios de Seguridad Profesional; Profesor presidido de nanotecnología en el Instituto Ghitu de Ingeniería Electrónica y Nanotecnologías, Academia de Ciencias, Moldavia y Asesor Estratégico para muchas organizaciones gubernamentales y no gubernamentales con sede en Estados Unidos.

Post relacionado  Mark Cuban sobre los peligros de la Inteligencia Artificial

Fuente original de la noticia FORBES

Publicado por Marco López

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Ir arriba
Leer entrada anterior
El robot “Da Vinci” tiene tal precisión como para coser la piel de una uva.

"Da Vinci" es un robot que se utiliza para cirugía no invasiva de precisión, y que está controlado a distancia...

Cerrar