La inteligencia artificial ha comenzado a desarrollar su propio lenguaje, que los humanos no entienden

La inteligencia artificial ha comenzado a desarrollar su propio lenguaje, que los humanos no entienden
Sin comentarios Facebook Twitter Flipboard E-mail

Hace poco nos lo advirtió Elon Musk, hay que comenzar a ponerle regulaciones a la inteligencia artificial o la misma, tal como en el cine, podría llegar a salirse de nuestras manos. Por ahora todo ello nos suena como a un cuento de ciencia ficción, pero si tomamos en cuenta que las computadoras con IA hoy día ya manejan coches, juegan videojuegos como profesionales, pintan cuadros, componen canciones y conversan con los humanos en forma de bots, el panorama podría cambiar muy rápidamente.

Ya en noviembre del año pasado Google reportó, como su sistema de traducción de idiomas, aparentemente había desarrollado su propio lenguaje de traducción intermedio al que ellos llamaron “Interligua” y que no resultaba del todo entendible para los humanos. Aunque en este caso la maquina lo estaba utilizando para hacer traducciones y no para comunicarse con otras máquinas, esta misma situación ya fue igualmente reportada por Facebook este año.

El equipo de desarrollo de inteligencia artificial de Facebook (FAIR por sus siglas en inglés) publicó un estudio en el que entrenaron dos agentes con IA para negociar y alcanzar diversos objetivos. Lo que sorprendió a los investigadores, fue la capacidad que rápidamente desarrollaron los agentes para hablarse en sus propios términos, en una especie de lenguaje interno que se alejaba de lo que ellos podrían interpretar.

Para solucionar este “problema” el equipo de desarrolladores tuvo que usar lo que denominaron como un "modelo de supervisión fija" (entrenado para imitar a los humanos) y así evitar que las discusiones bot a bot "condujeran a la divergencia del lenguaje humano a medida que los agentes desarrollan su propio lenguaje para negociar."

"Los agentes se alejaban del lenguaje comprensible e inventaban palabras de código para ellos mismos", comentó uno de los desarrolladores de FAIR.

Aún estamos en una etapa muy temprana en la que el machine learning comienza a mostrar algunos síntomas de autonomía o creatividad más allá de la que sus creadores le dieron, pero ¿deberíamos preocuparnos por que las maquinas algún día hablen a nuestras espaldas? o sería mejor como propone Elon Musk, comenzar a regular y fijar límites claros sobre el desarrollo de este tipo de inteligencias artificiales.


Xataka colombia | Nadia, una "inteligencia emocional" muy "humana", es un chatbot programado para entender palabras y gestos faciales

Comentarios cerrados
Inicio