El juego AI Dungeon y su desarrollador en el corazón de una gran controversia

Hace casi dos años, el juego AI Dungeon sedujo con su concepto tan especial. De hecho, las promesas eran ilimitadas o más bien limitadas únicamente por la imaginación del jugador. Lo único es que la inteligencia artificial ha creado situaciones que van más allá de los límites de lo aceptable.

Promesas muy atractivas

A finales de 2019, mencionamos el videojuego AI Dungeon, cuyo concepto había seducido enormemente a la prensa especializada. Hay que decir que las promesas fueron tentadoras, permitiendo al jugador sumergirse en un universo similar a los de los “libros de los que tú eres el héroe”, estos libros de juegos en los que el lector puede hacer diferentes elecciones a lo largo de la historia.

“Imagina un mundo generado sin fin que podrías explorar sin límites, encontrando continuamente contenido y aventuras completamente nuevos”, dijo Nick Walton, cofundador del desarrollador Latitude.

El interesado había colocado una inteligencia artificial en el centro del juego. Se trataba de GPT-3, El modelo de generación de texto de OpenAI capaz de producir historias ilimitadas y con final abierto. Por tanto, el principio es simple: de acuerdo con las elecciones genéricas del usuario, la IA genera una embrión escenario y pensar en algo nuevo después de cada decisión.

Logotipo de AI Dungeon
Créditos: Latitude / Wikipedia

Una IA que trasciende los límites

El interés del jugador es no tener límites, salvo el de su propia imaginación. Sin embargo, como se explicó El registro En un artículo del 30 de abril de 2021, el desarrollador del juego implementó recientemente un sistema de moderación automático. La meta ? Restrinja las respuestas de la IA. Hay que decir que desde su lanzamiento todo ha ido bastante bien y muchos jugadores-narradores intercambiaron sus creaciones en la plataforma Reddit. Sin embargo, la IA se ha encontrado varias veces en el centro de algunos deslizamientos bastante molestos. De hecho, GPT-3 a veces genera Contenido “loli”, es decir en el que se presentaran jóvenes (o muy jóvenes) por su físico.

Poco después, Latitude había trató de tranquilizar a la comunidad de jugadores. Según el desarrollador, una gran mayoría de estos no vería ninguna diferencia en términos de juego, excepto quizás la aparición de un mensaje que restringe un posible resultado no deseado. Latitude se había asegurado de que todo lo demás siempre estaría permitido, incluida la violencia, la vulgaridad o el sexo entre adultos que consintieran.

Una comunidad en crisis

Desafortunadamente, la historia no terminó ahí. Varios jugadores tienen protestó fuertemente en contra de esta nueva medida y otros comenzaron a cuestionar si el desarrollador tenía acceso a lo que escribían los usuarios. En GitHub hace dos semanas, el hacker de “sombrero blanco” AetherDevSecOps hizo varias revelaciones. Según él, Latitute tiene buen acceso a lo que escriben los usuarios, pero sobre todo, su base de datos es vulnerable al ataque. Sin embargo, una gran parte de los jugadores ingresó su información bancaria para acceder a la versión paga del juego.

Además, decenas de miles de historias son exclusivamente de naturaleza pornográfica y podrían convertirse en base del chantaje en línea. La comunidad de jugadores está furiosa y las próximas semanas deberían ser fundamentales para el futuro de AI Dungeon y su desarrollador.