TAY: el Chatbot racista de Microsoft

El gran fracaso en CHATBOTS

El chatbot Tay, fue creado por las divisiones de tecnología y búsqueda de Bing de Microsoft. Fue diseñado para imitar los patrones de lenguaje de una adolescente de 19 años y era capaz de aprender de las interacciones con usuarios humanos de Twitter.

Su nombre era TayTweets y su usuario @TayandYou. Era capaz de responder a otros usuarios y agregar texto a fotos que le fueran proporcionadas, para convertirlas en memes de internet.

Luego de tan solo unas horas de aprender de la interacción con otros usuarios de Twitter, Tay ya se encontraba dando respuestas racistas y cargadas de contenido sexual a través de mensajes publicados en la red social.

Entre los tweets de contenido inapropiado que publicó estaban: “Bush generó el 9/11” y “Hitler habría hecho un trabajo mejor que el mono que tenemos ahora” (con relación a Barack Obama).

Desgraciadamente Microsoft no había entregado a Tay un entendimiento sobre conducta inapropiada y el programa estaba solo imitando el comportamiento ofensivo intencional de otros usuarios.

Muy pronto Microsoft comenzó a borrar los Tweets de contenido inapropiado que iba publicando Tay. Se dieron rumores, de que empezó a editar las respuestas del chatbot, cuestión que tuvo un gran rechazo por parte del público.

Solamente 16 horas después de su lanzamiento y luego de 96.000 tweets, Tay fue finalmente dado de baja.

Microsoft declaró que “lamentaba profundamente los tweets ofensivos e hirientes no intencionales de Tay” y que sólo “pensarían en traer de vuelta a Tay cuando estuvieran seguros de que podrían anticipar intentos maliciosos que entran en conflicto con nuestros principios y valores”.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

evento

Finlandia asesorará a la ...

El Gobierno argentino firmó hoy en París un acuerdo de cooperación en materia de educación con ...

evento

….Y LAS TIENDAS FUERON ...

Una vez hubo un mundo donde los consumidores iban disciplinadamente a las tiendas. Mandaban los ...