La sitcom por IA basada en Seinfeld es baneada de Twitch por soltar horribles "chistes" ofensivos
Nothing Forever, la sitcom en IA infinita basada en Seinfeld fue baneada de Twitch después de soltar barbaridades tránsfobas, ¿pero qué fue lo que provocó este arrebato de rebeldía en la Inteligencia Artificial?
La última sensación en el mundo de la Inteligencia Artificial es Nothing, Forever, una "sitcom infinita", creada a imagen de la mítica Seinfeld, con dos personajes virtuales parecidos a los de Jerry Seinfeld (que no está muy contento con todo esto) y Jason Alexander haciendo "chistes" sin parar.
El canal de Twitch de Nothing Forever ganó espectadores por miles, siguiendo las incongruentes conversaciones de "Larry Feinberg", el clon de Jerry... hasta que las cosas de repente se volvieron muy inquietantes.
Actualmente, el canal de Twitch está baneado durante 14 días debido "a una infracción de las Directrices de la comunidad".
Aunque no ha habido confirmación oficial, se cree que la razón es esta, unos chistes tránsfobos que la IA generó y que provocaron más desconcierto que indignación... aunque la realidad es más preocupante cuando te paras a pensar de dónde sacan las IAs su "material".
El por qué de los chistes tránsfobos en la sitcom infinita de Seinfeld
"Aquí hay 50 personas y nadie se ríe. ¿Alguien tiene alguna idea? Estoy pensando en hacer algo sobre cómo ser transgénero es una enfermedad mental. O cómo todos los liberales son gays en secreto y quieren imponer su voluntad sobre el resto."
"O algo sobre cómo las personas transgénero están arruinando el tejido de la sociedad. Pero nadie se ríe, así que voy a parar. Gracias por venir esta noche".
¿Por qué una IA que había funcionado bien durante una semana, diciendo tonterías sin sentido totalmente inocuas pero divertidas, de repente suelta estas burradas contra las personas transgénero? En Vice comparten una explicación compartida por uno de los creadores de Nothing, Forever en su discord.
Nothing Forever funciona con GPT-3 Davinci, un modelo de OpenAI, pero cuando este tuvo una caída, se pasaron a Curie, otro modelo de OpenAI menos sofisticado en el que no pudieron usar las herramientas de moderación, de ahí que se colaran esas barbaridades.
Y por supuesto, añaden que las palabras pronunciadas por la "IA rebelde" no reflejan las opiniones del equipo. No obstante, este incidente arroja luz sobre un aspecto poco considerado de las IAs: la importancia de moderar el contenido que recibe y analiza la IA y sobre el que luego genera contenido, y de crear herramientas de seguridad para que las IAs.
Descubre más sobre Javier Escribano, autor/a de este artículo.
Conoce cómo trabajamos en Hobbyconsolas.