Tecnología

Facebook desconectó dos Inteligencias Artificiales al crear su propio idioma

Facebook desconectó dos Inteligencias Artificiales al crear su propio idioma

Sin que estuvieran programadas, dos inteligencias de Facebook comenzaron a comunicarse entre ellas. Revelando un peligro potencial.

Por Yulsi Magaña

13/04/2021 07:52

Todos conocemos Facebook, independientemente si usamos o no su App, sin embargo son muy pocos los que llegaron a saber que la compañía tuvo que cancelar uno de sus proyectos que consideraba prometedor. La razón fue que desarrollaban dos inteligencias artificiales (IA).

En el laboratorio de investigación de inteligencia artificial de la Universidad Tecnológica de Georgia, Facebook financió un proyecto para crear una inteligencia artificial capaz de aprender y desarrollar nuevas tácticas de negociación pero tuvieron un giro inesperado.

Ambas IA deberían de servir para los chatbots de Facebook, pero cuando decidieron probarla estas dos máquinas comenzaron a mantener una conversación libre entre sí, sin la intervención de sus creadores, lo que evidentemente era un error.

La situación fue que estas no seguían las indicaciones de sus creadores y comenzaron a crear su propio idioma comunicándose en un lenguaje nuevo y desarrollado por ‘ellos’.

Dos inteligencias artificiales comenzaron a comunicarse en un idioma demasiado complicado para comprender.

Peligro: Inteligencia Artificial con lenguaje propio

El resultado de la prueba en lugar de ser un buen resultado, los investigadores decidieron que lo mejor era apagarla. La Verdad Noticias, supo de acuerdo a los reportes que sus programadores no temían que la inteligencia artificial se volviera malévola, pero sí que la IA decidiera comunicarse en su propio lenguaje y se perdiera el control sobre ella.

Las inteligencias artificiales desarrolladas fueron nombradas Bob y Alice, las cuales en la prueba conversaron en un lenguaje mucho más eficiente que el nuestro.

Los científicos y desarrolladores dijeron que nunca podríamos llegar a comunicarnos, o al menos sería muy complicado. Y aunque la lectura de la conversación pueden resultar absurdos a simple vista, la realidad no lo es.

Conversación entre Bob y Alice

Bob: I can i i everything else

[Bob: Puedo yo yo todo lo demás]

Alice: balls have zero to me to me to me to me to me to me to me to me to

[Alice: pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para]

Bob: you i everything else

[Bob: tú yo todo lo demás]

Alice: balls have a ball to me to me to me to me to me to me to me to me

[Alice: pelotas tienen una pelota para mí para mí para mí para mí para mí para mí para mí para mí] 

Aquí el repetir tantas veces ‘to me’ no quiere decir que se haya vuelto loca, sino que, en este caso significa 7 unidades. Este lenguaje es mucho más lógico que el nuestro (o, en este caso, que el inglés, que fue el lenguaje usado originalmente). Lo complicado, es entenderlo.

Lo que puede llegar a ser más sorprendente es el hecho que no es la primera vez que ocurre. Ya en el pasado Google también tuvo que recurrir a la misma solución tras presentarse el mismo problema.

Por ello, Facebook y el grupo de desarrolladores decidieron que lo mejor era desactivarla y buscar una solución antes de que se pierda el control por completo.

Síguenos en Google News, Facebook y Twitter para mantenerte informado.