"Esta empresa es la peor": Chat de IA de una compañía 'se rebela' y lanza insultos

Ashley Beauchamp, de 30 años, estaba tratando de localizar un paquete perdido, pero no estaba obteniendo información útil del chatbot. Cansa de la situación decidió divertirse un poco y comenzó a experimentar para descubrir qué podía hacer el chatbot. Beauchamp dijo que fue entonces cuando “comenzó el caos”.

Al principio le pidió que le contara un chiste, pero pronto consiguió que el chatbot escribiera un poema criticando a la empresa. Con algunas indicaciones más, el chatbot también lanzó insultos.

Luego, en otro caso, el chatbot se autodenominó “Chatbot inútil que no puede ayudarte”.

Un músico clásico de Londres, refiriéndose al chatbot, escribió en X: "Es completamente inútil para responder cualquier consulta y, cuando se le preguntó, felizmente produjo un poema sobre lo terribles que son como empresa".

La compañía, por su parte, dijo que una nueva actualización había estado detrás del comportamiento inusual del chatbot y desde entonces había deshabilitado su parte "responsable".

"Hemos operado con éxito un elemento de IA dentro del chat durante varios años", dijo la empresa. “Ayer se produjo un error después de una actualización del sistema. El elemento de IA se desactivó inmediatamente y actualmente se está actualizando”.

Beauchamp dijo que si bien su aventura con el chatbot había sido “muy divertida”, el intercambio tenía un lado serio: "se supone que estos chatbots mejoran nuestras vidas, pero muy a menudo, cuando no se implementan correctamente, sólo conducen a una experiencia más frustrante e impersonal para el usuario", agregó.