¿Cómo es ver una IA de IBM debatir con éxito a los humanos?

Parece un gran salto más allá de la otra demostración que todos recordamos de IBM cuando Watson limpió el piso con su competencia en Jeopardy. La demostración de IA de IBM hoy se construyó sobre esa base. Tenía muchos corpus de datos de los que podía extraer, tal como lo hizo Watson en su día. Y al igual que Watson, pudo analizar el contenido de todos esos datos para obtener la respuesta relevante. Pero esta vez, la “respuesta” fueron puntos contundentes relacionados con el subsidio de espacio y la telemedicina presentados en un discurso de cuatro minutos defendiendo cada uno.

Project Debater citó las fuentes, complació a la afinidad de la audiencia por los niños y los veteranos, e hizo un trabajo aceptable de descifrar uno o dos chistes relevantes en el proceso.

Eso es bastante impresionante. Básicamente creó un tipo de argumento de papel de primer año en solo un par de minutos cuando se le presentó un tema de debate para el que no tenía una preparación específica. El sistema tiene “varios cientos de millones de artículos” que asume son precisos en sus bancos de datos, que son aproximadamente 100 áreas de conocimiento. Cuando se trata de un tema de debate, lleva un par de minutos adentrarse en ellos, decide cuáles serían los mejores argumentos a favor del tema y luego crea un pequeño discurso describiendo esos puntos.

Algunos de los puntos que hizo fueron bastante fáciles; algunas fuentes citadas, y algunas fueron copiadas claramente de los artículos. Aún así, fue capaz de pasar del modo de “información presente” en el que solemos pensar cuando escuchamos que AI tiene un modo de “hacer una discusión”. Pero lo que más me impresionó fue que intentó discutir directamente con los puntos que sus oponentes humanos hicieron, casi en tiempo real. (El sistema necesitó un par de minutos para analizar el discurso de cuatro minutos del humano antes de que pudiera responder).

Post relacionado  Cirujano remoto 5G La primera intervención quirúrgica teleasistida con 5G

Francamente, me hizo sentir un poco inquieto, pero no debido a las preocupaciones habituales como “los robots van a ser conscientes de sí mismos y tomar el control” o “AI viene por nuestro trabajo”. Era algo más sutil y más difícil de poner mi dedo en. Quizás la primera vez, sentí que una IA intentaba disimular. No lo vi mentir, ni tampoco creo que haya intentado engañarnos, pero se enzarzó en una táctica de debate que, si vieras a un humano intentarlo, te haría confiar un poquito menos a ese humano.

Aquí estaba la escena: un debate humano estaba argumentando en contra de la noción de que el gobierno debería subsidiar la exploración espacial. Ella estableció un marco para entender el mundo, que es una táctica de debate bastante común. Los subsidios, argumentó, deberían ajustarse a uno de los dos criterios específicos: satisfacer las necesidades humanas básicas y crear cosas que solo podría hacer el gobierno. La exploración espacial no se ajustaba a la ley. Lo suficientemente justo.

Project Debater, cuyo trabajo consistía en responder directamente a esos puntos, no los refutó directamente. Ciertamente habló en la misma zona. Afirmó que “subsidiar la exploración espacial generalmente devuelve la inversión” en forma de aumentos económicos del descubrimiento científico, y dijo que para una nación como Estados Unidos, “tener un programa de exploración espacial es una parte crítica de ser una gran potencia”.

Lo que el Proyecto Debater no hizo fue involucrar directamente los criterios establecidos por su oponente humano. Y esta es la cuestión: si yo estuviera en ese debate, tampoco lo habría hecho. Es una fuerte táctica de debate para establecer el marco de debate, y aceptar que ese marco es a menudo una receta para perder.

Entonces la pregunta es: ¿Project Debater simplemente no entendió los criterios o entendió y decidió no participar en esos términos? Viendo el debate, pensé que la respuesta era que no lo entendía del todo, pero no era positivo. No podría decir la diferencia entre una IA que no sea tan inteligente como podría ser y una IA que sea mucho más inteligente de lo que he visto antes. Fue un momento bastante cognitivo y disonante. Como dije, inquietante.

Post relacionado  Elon Musk insiste en que los países más avanzados en IA podrían comenzar el conflicto en cualquier momento

Jeff Welser, vicepresidente y director de laboratorio de investigación de IBM en Almaden, me tranquilizó. Project Debater no lo entendió. Pero no lo entendió de una manera realmente interesante e importante. “No ha habido ningún esfuerzo para que realmente juegue juegos complicados o de disimulo”, me dice (phew). “Pero en realidad sí … es exactamente lo que hace un humano, pero lo hace dentro de sus limitaciones”.

Esencialmente, Project Debater asigna un puntaje de confianza a cada información que entiende. ¿Qué tan seguro es el sistema que realmente entiende el contenido de lo que se está discutiendo? “Si está seguro de que entendió bien ese punto, si realmente cree que entiende lo que dicho oponente estaba diciendo, va a tratar de hacer un argumento muy fuerte contra ese punto específicamente”, explica Welser.

“Si es menos seguro”, dice, “hará todo lo posible para hacer una discusión que sea convincente como argumento, incluso si no responde exactamente ese punto, que es exactamente lo que hace un humano, también, a veces.”

Entonces, el humano dice que el gobierno debe tener criterios específicos que rodeen las necesidades humanas básicas para justificar el subsidio. Project Debater responde que el espacio es asombroso y bueno para la economía. Un humano puede elegir esa táctica como una manera furtiva para evitar el debate en los términos equivocados. Project Debater tenía motivaciones diferentes en sus algoritmos, pero no tan diferentes.

El objetivo de este experimento no fue hacerme pensar que no podía confiar en que una computadora esté discutiendo de buena fe, aunque eso fue muy cierto. El punto es que IBM estaba mostrando que puede entrenar a la IA en nuevas áreas de investigación que eventualmente podrían ser útiles en contextos reales y prácticos.

Post relacionado  Usos de la inteligencia artificial en las redes sociales

El primero es analizar mucha información en un contexto de toma de decisiones. La misma tecnología que puede leer un corpus de datos y proponer varios pros y contras para un debate podría (y ha sido) utilizado para decidir si vale la pena invertir en una acción. El sistema de IBM no hizo el juicio de valor, pero proporcionó un montón de información al banco que muestra ambos lados de un debate sobre el stock.

En cuanto a la parte de debate, Welser dice que “nos ayuda a entender cómo se usa el lenguaje”, enseñando a un sistema a trabajar en un contexto retórico que es más matizado que el habitual “Hey Google, dame esta información y apaga mi “Tal vez algún día podría ayudar a un abogado a estructurar sus argumentos”, no es que Project Debater fuera un buen abogado “, bromeó Welser. Otro investigador de IBM sugirió que esta tecnología podría ayudar a juzgar las noticias falsas.

¿Qué tan cerca está esto de ser algo que IBM convierte en un producto? “Este es todavía un proyecto de nivel de investigación”, dice Welser, aunque “las tecnologías subyacentes en este momento” ya están comenzando a utilizarse en proyectos de IBM.

En el segundo debate, sobre telemedicina, Project Debater una vez más tuvo dificultades para analizar el matiz exacto que su oponente humano estaba haciendo sobre la importancia del toque humano en el diagnóstico. En lugar de discutir eso, se volvió a un argumento más amplio, sugiriendo que quizás el humano temía a las nuevas innovaciones.

“Soy un verdadero creyente en el poder de la tecnología”, bromeó la IA, “como debería ser”.

 

fuente: 

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Ir arriba
Leer entrada anterior
Inteligencia artificial predice que Alemania ganará el Mundial de Rusia 2018

Ingenieros alemanes crearon un modelo probabilístico de aprendizaje y predicen que Alemania ganará el Mundial, Argentina será eliminado en cuartos...

Cerrar