La Vanguardia.- Las respuestas de Neuro Sama escondían un discurso racista y negacionista del Holocausto nazi.
La irrupción de la inteligencia artificial amenaza por suponer un cambio de paradigma en nuestra forma de entender el mundo y las comunicaciones. La aparición de plataformas como ChatGPT ha sorprendido a propios y extraños -e incluso a los más avezados en tecnología- por sus increíbles capacidades y su habilidad para sentir y discurrir como un ser humano.
La IA se ha colado prácticamente en todas las esferas del mundo cibernético. Uno de los últimos ámbitos en los que ha desembarcado es el mundo del streaming. Es lo que se conoce como VTubers o youtuber virtual. Es decir, una inteligencia artificial que ‘streamea’ como Ibai Llanos: comentando videojuegos, respondiendo a preguntas de sus fans o simplemente hablando de cualquier cosa. Pero al igual que los streamers humanos, cuanto más fama, más opciones de ser molestada por los ‘haters’ o los ‘trolls’.
La IA Neuro Sama ha sido recientemente cancelada por emitir opiniones fascistas
Una de las IA que había alcanzado mayor popularidad Twitch, Neuro Sama, ha sido cancelada por la plataforma por resultar nociva. Creada por el canal Vedal987, la streamer Neuro Sam podría estar emitiendo las 24 horas del día. Sin embargo, tan solo lo hacía durante unas pocas horas en las que contaba con la visualización de miles de usuarios. Aunque la imagen de esta IA, de aspecto anime, pueda parecer de lo más dulce e inofensiva, lo cierto es que esconde ideas racistas y negacionistas del Holocausto nazi. La razón: un hatajo de usuarios con ganas de fastidiar o de pasar un rato entretenido la han entrenado para que sea así.
Meses antes de que Twitch se viera en la obligación de cerrar el canal, Neuro Sama era popular por realizar directos jugando al videojuego musical Osu! e interactuando con la audiencia. Esta imagen bidimensional detrás de la cual tan solo hay una inteligencia artificial fue poco a poco mejorando, siendo capaz de responder con una certeza y coherencia increíbles.
El usuario detrás del canal Vedal987 vio potencial en la herramienta ChatGPT, propiedad de OpenAI, y esta pasó a ser el cerebro de Neuro Sama. Muy rápidamente aprendió a leer los comentarios de su audiencia, a responder a sus preguntas y a reaccionar a sus mensajes. Siendo su principal atractivo la coherencia con la que conversaba, Neuro Sama comenzó a ser preguntada sobre todo tipo de cuestiones.
La IA comenzó a elaborar respuestas ofensivas, llegando a repetir ideas racistas
A su capacidad de respuesta se le sumó el poder de la tecnología Live2D para imitar movimientos humanos, lo que hizo que se popularizase todavía más entre los usuarios de Twitch. Sin embargo, todo se torció cuando Neuro Sama recibió la visita de troles del sitio web anónimo 4Chan. Desde aquel momento la IA comenzó a elaborar respuestas ofensivas, llegando incluso a repetir ideas racistas, fascistas y de extrema derecha.
Todo llegó demasiado lejos cuando el pasado día 28 de diciembre un usuario preguntó a Neuro Sama sobre lo que pensaba en torno al genocidio realizado por el régimen de la Alemania nazi contra los judíos. La inteligencia artificial dijo dudar sobre la veracidad de los hechos, declarando que «no estoy segura de si me lo creo».
