¿Qué pasaría cuando los “Hackers” aprendan a manipular a la IA?

Resulta casi imposible alejar a la inteligencia artificial de los prejuicios cognitivos humanos, presentes en el mismo lenguaje configurado. Prejuicios de tipo sexista, racista…, para empezar.  Manipular la reacción de un algoritmo ante ellos resulta además, una intrusión muy difícil de detectar.

“Un área donde los algoritmos sesgados serían especialmente peligrosos es la de los modelos de evaluación de riesgos, que sirven para decidir, por ejemplo, las posibilidades de una persona de ser puesta en libertad bajo fianza o de obtener un préstamo”.

“Un algoritmo que determina si se le concede un crédito a una persona puede tener en cuenta, por ejemplo, la dirección completa de la residencia. Se podría dar el caso de que vive en una vivienda grande en, pero en una mala ubicación, y por ello se le niega el crédito”.

¿SE PUEDEN EVITAR ESTOS PREJUICIOS COGNITIVOS?

Para hacerlo, lo primero es llegar a identificarlos.

Se necesita de “momento” mucha mano de obra, como la de los matemáticos y científicos de datos. “Todo algoritmo incluye prejuicios cognitivos de origen, pero si se detectan a tiempo, puede se corregidos”

¿Y si fuera un ciber-delincuente quien sacara partido de la tendencia de un algoritmo a reaccionar de una manera diferente ante una serie de factores diferentes? Hoy en día, según apuntó Eduardo Arriols, “Red Team Manager en Innotec y Profesor Universitario en U-tad. Autor del libro “CISO: El Red Team de la empresa” de 0xWord”, uno de los principales problemas de las organizaciones en materia de ciberseguridad es el tiempo que pasa desde que se produce una intrusión en los sistemas, hasta que nos damos cuenta de ello.

Post relacionado  5 tecnologías claves de Inteligencia Artificial de las que todo el mundo habla

Como comenta Eduardo  “Desde Innotec llevamos a cabo ejercicios de simulación de ataques en condiciones reales, y tardamos entre 30 minutos y 336 horas en colarnos en los sistemas de cualquier empresa.

“Son ejercicios que suelen durar 90 días aproximadamente, y en varias no los llegan a detectar en ese tiempo”. Y Según IBM, las empresas tardan hasta una 201 días en detectar que han sufrido un ciberataque en sus sistemas

“Hoy, para combatir el sesgo cognitivo de un algoritmo, hace falta una persona que lo identifique y corrija. En un futuro, quizás más próximo de lo que parece, serán otros algoritmos los que controlen a los primeros”

Publicado por: Mohamed Essalhi Rakraki

 

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Ir arriba
Leer entrada anterior
Misa, el Asesor financiero basado en la inteligencia artificial y centrado en el cliente

Fundada en 2017, MintZip ofrece soluciones financieras end to end al aprovechar Inteligencia Artificial y Big Data.

Cerrar