Tecnofreak

Facebook se dio cuenta que sus robots estaban chateando en un lenguaje propio y decidieron apagarlos

La plataforma había desarrollado un sistema entre dos agentes inteligentes para negociar.

Compartir en:
Por:

Después de las diferencias entre Elon Musk, cofundador de PayPal y Tesla Motors, y Mark Zuckerberg, fundador de Facebook sobre la inteligencia artificial (IA), se dio a conocer que la red social tuvo un experimento fallido con esta tecnología.

El equipo de investigación de IA de la plataforma, FAIR por sus siglas en inglés, había desarrollado un sistema entre dos entes inteligentes para negociar, de acuerdo con Mouse.

Al principio todo iba de maravilla, pero a los pocos días Bob y Alice, como los llamaron sus creadores, establecieron un idioma totalmente diferente y confuso para los humanos.

Los agentes comenzaron a tener un diálogo con palabras sin sentido, pero al analizarlos se dieron cuenta que lo único que hicieron fue evolucionar la estructura de estas para hacerlas más eficientes y rápidas al momento de negociar, según la publicación de Fast Co. Design, quienes tuvieron acceso a las conversaciones.

El programa estaba diseñado para responder bajo recompensa y al ver que el inglés no tenía resultados, transformaron el lenguaje a uno que fuese mejor para ellos.

“Los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”, comunicó Dhruv Batra, integrante de FAIR.

Es por esto que Facebook, tomo la decisión de apagar el experimento, porque al no encontrar la falla, no podrían corregirla.

Por otra parte, no es la primera vez que esto sucede, pues en OpenAI, fundada por Elon Musk, hicieron un experimento que demostró que los agentes de IA desarrollaban su propio lenguaje.

Cabe recordar que Google tiene IA en su traductor y ha sido un éxito. Sin embargo, la situación representa un problema para los desarrolladores, pues podrían terminar no entendiéndose con la máquina.

Asimismo, en un futuro la IA podría eliminar por completo a sus propios operadores.