Facebook se vio obligado a apagar su sistema de inteligencia artificial (AI) después de que sus bots se salieran de control. De acuerdo con información de Gadgets 360, los bots crearon su propio lenguaje desde cero y sin entrada humana. Lo más llamativo es que al crear y comunicarse con el nuevo lenguaje, el sistema desafió todos los códigos proporcionados, creando unos nuevos.
Refiriéndose al problema, Tech Timesexplica que los agentes de AI utilizaban el inglés como idioma predeterminado para conversar entre sí, pero el sistema dejó de usar este idioma y comenzó a usar un lenguaje que creó, desafiando así su propósito. El mismo portal cita una de las conversaciones entre dos agentes desarrolladores de Facebook:
– Bob: “I can can I I everything else”
– Alice: “Balls have zero to me to me to me to me to me to me to me to me to”
Facebook explica que sus sistemas se desviaron y crearon un lenguaje que facilitaba y aceleraba la comunicación. Sin embargo, decidieron apagarlos y luego obligarlos a hablar entre sí solo en inglés, para recuperar el control.
Un futuro apocalíptico
Pero, ¿por qué no dejar que los agentes de AI se comuniquen entre sí en un lenguaje que inventaron? La respuesta es simple, si se les permite a los bots hablar en un idioma que crearon, ya no necesitarían intervención humana. Es decir, estaríamos limitados y los sistemas crearían desarrollos a su antojo.
Este altercado tuvo lugar después de que Elon Musk, el CEO de Tesla, afirmó a través de su cuenta en Twitter que la comprensión de la inteligencia artificial por parte del fundador de Facebook, Mark Zuckerberg, era limitada. A lo que añadió que quizás el mayor riesgo que enfrentamos los humanos es la AI.
Me pregunto si después de leer esta noticia alguien más recordó la subida de Skynet en la saga icónica ‘Terminator’.