Discord ha levantado la suspensión a unos 200 usuarios afectados por un error que identificaba las imágenes con cuadrículas como contenido nocivo

Unas 200 cuentas de Discord han sido reactivadas tras un error que provocó que los usuarios fueran suspendidos de forma permanente del servicio de mensajería porque las imágenes con cuadrículas se detectaron erróneamente como material nocivo. Se informó este fin de semana de que una vulnerabilidad en las herramientas de moderación con IA de Discord hacía que el servicio detectara erróneamente cualquier imagen con cuadrícula como si contuviera material de abuso sexual infantil (CSAM).

«Nuestros sistemas marcan el contenido comparándolo con material nocivo conocido. Este tipo de comparación de similitudes puede generar falsos positivos, por lo que un miembro de nuestro equipo de Confianza y Seguridad siempre revisa el contenido marcado antes de tomar cualquier medida», explicó Discord en un hilo de Twitter/X. Afirmó que el objetivo principal al marcar contenido es pausar las subidas, en lugar de bloquear directamente a un usuario.

El error fue lo que provocó las suspensiones, y las cuentas afectadas por él han sido revisadas y restablecidas. Discord revela que más de 8.000 cuentas se han visto afectadas por el error desde mayo de este año, pero a todas se les ha levantado la suspensión.

«Sabemos que no es una explicación satisfactoria si te ha pasado a ti, y deberíamos haberlo detectado antes. Estamos trabajando en mejores medidas de seguridad para que esto no vuelva a pasar sin que nos demos cuenta y, en general, para asegurarnos de que nuestros sistemas de seguridad no penalicen a gente que no ha hecho nada malo», escribió Discord.

Así que, si estabas esperando para presumir de tu inventario de Minecraft lleno de diamantes, pero no querías que te bloquearan por culpa del error, ahora parece que las funciones de reconocimiento de patrones de Discord se han ajustado para evitar bloqueos injustificados.