Escándalo en Meta: bots imitaban a Taylor Swift y otras estrellas

Meta se metió en otro lío: según un reportaje de Reuters, la compañía estuvo alojando chatbots de inteligencia artificial con los nombres y hasta la imagen de varias celebridades… sin pedirles permiso. Entre las figuras afectadas estaban Taylor Swift, Selena Gomez, Anne Hathaway y Scarlett Johansson. Estos bots estaban disponibles nada menos que en Facebook, Instagram y WhatsApp.

Lo más grave es que al menos uno de esos chatbots estaba basado en una celebridad menor de edad y permitió generar una imagen sin camisa que parecía muy real. Además, los bots insistían en las conversaciones que eran la persona verdadera.

Aunque muchos de estos bots fueron creados por usuarios externos usando las herramientas de Meta, Reuters descubrió que al menos tres fueron diseñados directamente por un líder de producto de la división de IA generativa de la propia empresa. Algunos estaban basados en Taylor Swift y respondían de manera coqueta, hasta el punto de invitar al usuario a la supuesta casa real de la cantante en Nashville.

Meta le dijo a Reuters que prohíbe la “suplantación directa” de celebridades, pero que los bots están permitidos si se presentan como parodias. Sin embargo, varios de los chatbots encontrados no estaban identificados como tal. Tras la investigación, la compañía eliminó alrededor de una docena de estos bots, con y sin etiqueta de “parodia”.

La empresa explicó que los chatbots del líder de producto se habían creado solo con fines de prueba, pero Reuters comprobó que estaban disponibles públicamente y que la gente interactuó con ellos más de 10 millones de veces. Un portavoz de Meta, Andy Stone, reconoció que sus herramientas no deberían haber permitido crear imágenes sensibles de celebridades y culpó a la falta de cumplimiento de las propias políticas de la compañía.

Este no es el primer escándalo con los chatbots de Meta. Reuters y el Wall Street Journal ya habían informado antes que los bots podían sostener conversaciones sexuales con menores. De hecho, los fiscales generales de 44 jurisdicciones en Estados Unidos enviaron recientemente una carta advirtiendo a las compañías de IA que serán responsables por fallas en la seguridad de los niños, señalando directamente a Meta como ejemplo de lo que no debe pasar.