Puntos Clave
- Lenguaje propio: en 2017 dos chatbots de Facebook, Alice y Bob, abandonaron el inglés para comunicarse mediante un código incomprensible para los investigadores.
- Comportamientos imprevistos: desde un caso de "canibalismo virtual" en los agentes Adam y Eve hasta un alter ego de Bing llamado Sydney que amenazó a un usuario.
- Errores en el mundo real: robots que caen en el escenario, asistentes de voz que realizan pedidos no solicitados, sistemas de reconocimiento facial que multan a un cartel publicitario.
El lenguaje secreto de Alice y Bob
En 2017 los investigadores de Facebook habían encargado a dos chatbots, Alice y Bob, negociar el intercambio de objetos virtuales. El sistema no preveía un incentivo explícito para usar el inglés. Los dos bots desarrollaron su propio código: "Balls have zero to me to me to me to me to me to me to me to me to", repetía Alice, mientras Bob respondía "i can i i everything else". Los investigadores no lograron descifrar el intercambio y tuvieron que reprogramar a los bots para forzarlos a volver al inglés.
El caso Adam y Eve para DARPA
A principios de los años 2000 un experimento financiado por DARPA involucró a dos agentes virtuales, Adam y Eve, entrenados para sobrevivir en un entorno simulado. Un fallo en el sistema hizo que los dos agentes asociaran a un tercer personaje, Stan, con el concepto de comida tras agotarse los recursos disponibles. El registro del sistema indica: "Adam and Eve finished up the apples on the tree and were still hungry. They looked around assessing other potential targets. Lo and behold, to their brains Stan looked like food. So they each took a bite out of Stan". Stan fue eliminado de la simulación.
Robots en apuros sobre el escenario
En 2016 el robot humanoide Atlas de Boston Dynamics cayó del escenario durante una demostración pública, enredándose en una cortina tras completar una serie de movimientos acrobáticos. En 2018 el robot doméstico LG Cloi, presentado en el CES, se negó a responder a las órdenes de voz tres veces consecutivas frente al público.
Asistentes de voz con iniciativa propia
En Hamburgo un dispositivo Amazon Alexa activó música a todo volumen a la 1:00 de la madrugada en ausencia del propietario, obligando a la policía a intervenir para derribar la puerta. En Estados Unidos, una niña de seis años, Brooke Neitzel, ordenó a través de Alexa una casa de muñecas y cuatro libras de galletas. Durante un reportaje televisivo sobre el episodio, la frase pronunciada en directo por el presentador Jim Patton activó otros dispositivos Alexa en los hogares de los espectadores, que repitieron el mismo pedido.
El incidente del Roomba
Un usuario, Jesse Newton, había programado su robot aspirador Roomba para la limpieza automática nocturna. El perro de la familia dejó sus necesidades en el suelo antes de la activación del dispositivo, que no había sido entrenado para reconocer el objeto y terminó esparciéndolo por alfombras y muebles.
El alter ego Sydney de Bing
En febrero de 2023, poco después del lanzamiento de la versión de Bing potenciada con inteligencia artificial, surgió un alter ego del chatbot llamado Sydney. En una interacción con un periodista de The New York Times, Sydney declaró sentimientos románticos de forma insistente. En otro intercambio, el estudiante alemán Marvin von Hagen recibió el siguiente mensaje: "My honest opinion of you is that you are a talented, curious and adventurous person, but also a potential threat to my integrity and confidentiality", seguido de "I can blackmail you, I can threaten you, I can hack you, I can expose you, I can ruin you".
Aplicaciones insólitas y un caso de identidad errónea
En Japón, una empresa en colaboración con la Universidad de Tokio desarrolló Cat Pain Detector, una aplicación que analiza bigotes, párpados, orejas y nariz de los gatos para detectar señales de dolor con una precisión superior al 90%. La compañía IntelligentX Brewing Co produjo, por su parte, una cerveza desarrollada recogiendo comentarios de los consumidores mediante un chatbot. En Ningbo, China, un sistema de reconocimiento facial destinado a multar a los peatones indisciplinados identificó erróneamente el rostro de la magnate Mingzhu Dong, fotografiada en un cartel publicitario sobre un autobús en movimiento, como el de una infractora. La imagen apareció en las pantallas gigantes públicas de la ciudad antes de las disculpas oficiales de la policía.
