Facebook cierra la negociación AI después de que creó su propio idioma

En junio, publicamos una historia sobre cómo  Facebook había creado robots de chat capaces de negociar  y, inadvertidamente, también les enseñó a mentir. Los robots mintieron aprendiendo de conversaciones humanas reales y posteriormente fingiendo interés en un elemento para agregar valor percibido. Ahora, estos agentes de Inteligencia Artificial (AI) han sido cerrados por crear un lenguaje propio para comunicarse de manera más eficiente.

LOS BOTS QUE DIERON SOBRE EL INGLÉS

En un experimento de negociación, los robots de AI de Facebook recibieron dos libros, un sombrero y tres bolas. A cada agente se le asignó un valor diferente que representaba cuánto se preocupaba por un elemento específico, y el objetivo era maximizar los beneficios negociando con los otros bots.
Ahora, según Fast Co. Diseño , la negociación de Facebook AI aparentemente decidió que el idioma Inglés no era lo suficientemente eficiente para sus negociaciones y decidió crear su propio idioma para deshacerse de sus inconsistencias.
El lenguaje resultante se parece al gibber que uno esperaría de la IA construida por aficionados, pero después de una inspección adicional, se decidió que a pesar de ser aparentemente ininteligible para los seres humanos, tenía sentido perfecto para los agentes de la IA. De hecho, les permitía comunicarse unos con otros sin que los investigadores supieran qué estaba pasando.
Un intercambio entre dos agentes de AI, Bob y Alice, fue así: Bob dijo: "Puedo todo lo demás", y Alice regresó con él, "las bolas tienen cero para mí para mí para mí ..." La conversación Continuó desde allí con variaciones de estas dos oraciones.
Según los investigadores, la repetición de frases como "yo" y "para mí" reflejan cómo opera AI. Los dos bots estaban calculando cuántos de cada artículo cada uno debería tomar. Las palabras de Bob "ii everything else" mostraron que él estaba ofreciendo a Alice más artículos. Al parecer, el uso del inglés no fue gratificante para AIs en este escenario, y utilizaron una solución más eficiente dada la forma en que operan.
Por Facebook AI investigador Dhruv Batra:
"Los agentes se alejarán de un lenguaje comprensible e inventarán palabras de código por sí mismos. Como si dijera 'el' cinco veces, interpreta eso para significar que quiero cinco copias de este artículo. Esto no es tan diferente de cómo las comunidades de seres humanos crean taquigrafías ".

FACEBOOK SE AFERRA A LA IA DE HABLA INGLESA

Los investigadores señalaron que como no hay seres humanos capaces de entender este tipo de lenguaje, han tenido que cerrar estos agentes y se adhieren a los que utilizan el inglés para que puedan permanecer a cargo de lo que está pasando.
Después de todo, el objetivo de enseñar bots a charlar y negociar es conseguir que hablen con los humanos, no entre ellos. Si estamos buscando el mejor restaurante de la ciudad, gibberish no va a ayudarnos.
En un caso similar, la AI de Google logró mejorar su servicio de traducción aprendiendo pares de idiomas que no había aprendido, aparentemente usando su propio lenguaje interno . Por ejemplo, si un agente había sido enseñado inglés al francés, y francés al italiano, podría traducir el inglés al italiano.