Roblox está desplegando nuevas funciones destinadas a hacer la plataforma más segura para los menores. Entre ellas se encuentran un sistema de 'Amigos' renovado, nuevas herramientas de privacidad y servicios de verificación de edad, que requieren que los usuarios envíen un video selfie.
En el sistema anterior, los jugadores no distinguían entre personas que conocían casualmente o por internet y aquellas a las que consideraban amigos íntimos. El nuevo sistema introduce niveles de relación, con categorías como "Conexiones" (Connections) y "Conexiones de confianza" (Trusted Connections), pensadas específicamente para personas en las que los jugadores confían en la vida real. Para acceder a las "Conexiones de confianza" y sus beneficios, los usuarios deben completar una verificación de edad mediante un video selfie. Una vez enviado el clip, la empresa lo compara con un "conjunto de datos diverso" basado en inteligencia artificial para estimar la edad. Si el sistema detecta que el usuario es menor de 13 años, perderá automáticamente el acceso a cualquier función no apropiada para su edad.
Roblox lleva un tiempo siendo un lugar peligro
En los casos en que la edad no pueda determinarse con "un alto grado de fiabilidad", según un blog de la empresa, el usuario deberá utilizar un sistema de verificación de identidad alternativo. Roblox afirma que en el futuro permitirá el consentimiento parental. Además, asegura que los datos biométricos se eliminan a los 30 días, salvo que exista una orden judicial o citación.
WIRED planteó a Matt Kaufman, director de seguridad de Roblox, la dificultad que tienen muchos niños de 13 años en EE UU para acceder a documentos de identidad oficiales. Kaufman respondió: "En Estados Unidos no es habitual. En otras partes del mundo, es más común tener una identificación con foto". Si un menor no puede completar la verificación, puede hacerlo a través de sus padres. Pero si los padres tampoco pueden verificar, el menor no podrá acceder a las "Conexiones de confianza".
Los adolescentes que pasen la verificación podrán añadir como "Conexión de confianza" a otros usuarios de entre 13 y 17 años. Los mayores de 18 deberán conectarse mediante un código QR escaneado en persona o por número de teléfono. Esta función elimina los filtros automáticos (como los que bloquean lenguaje inapropiado o información personal) en los chats de voz y texto entre usuarios de 13 años en adelante. Estas comunicaciones siguen estando sujetas a las normas de comunidad y a la moderación, pero Roblox espera que al eliminar los filtros mantendrá a los usuarios dentro de su plataforma, en lugar de migrar a otras como Discord.
Un portavoz declaró a The Verge que eso incluye la detección de "cualquier comportamiento depredador dirigido a manipular o dañar a menores, la sexualización de menores, participación en conversaciones sexuales inapropiadas o solicitudes de contenido sexual, y cualquier implicación con material de abuso sexual infantil".
Kaufman explicó que la empresa quiere que Roblox sea "seguro por defecto". Por eso, incluso los adolescentes que no hayan verificado su edad siguen sujetos a filtros en sus comunicaciones. Agregó que, si los padres no se sienten cómodos con esa medida, pueden desactivar las comunicaciones mediante los controles parentales.
Roblox es una de las plataformas de videojuegos más grandes del mundo, especialmente entre niños. Según Kaufman, aproximadamente 98 millones de personas de 180 países la utilizan, y más del 60 % de los usuarios son mayores de 13 años. Sin embargo, la empresa ha enfrentado problemas relacionados con depredadores sexuales y la seguridad infantil. Según un informe de Bloomberg en 2024, al menos dos docenas de personas han sido arrestadas por usar Roblox como plataforma para el acoso, abuso o secuestro de menores.
Además, la empresa ha sido objeto de varias demandas, incluida una demanda colectiva que alega la recopilación de datos de menores, y una demanda federal por un caso en el que una niña de 13 años fue explotada sexualmente a través de Roblox y Discord. En la sesión informativa, Kaufman calificó a Roblox como "uno de los lugares más seguros en línea para que la gente se reúna y pase tiempo con sus amigos y su familia".
Proteger a los menores en línea
Kirra Pendergast, fundadora y directora ejecutiva de Safe on Social, una organización global de seguridad en línea, advirtió que muchas de las medidas de seguridad de Roblox son opcionales, lo que "traslada la responsabilidad a los menores para identificar y gestionar riesgos, algo que contradice todo lo que sabemos sobre la dinámica del grooming (acoso sexual en línea)". Explica que herramientas como la estimación de edad mediante aprendizaje automático pueden clasificar incorrectamente a los usuarios como mayores o menores. "Se asume que el escaneo de códigos QR en persona es inherentemente seguro", señala.
“Los depredadores utilizan con frecuencia tácticas de acicalamiento en el mundo real. Un escaneo QR no verifica una relación de confianza. Un depredador podría generar confianza en línea y luego manipular al niño para que escanee un código QR fuera de línea, validando así una ”Conexión de confianza" en el sistema de Roblox. Una verdadera protección requeriría la verificación cruzada de cualquier conexión por parte de un tutor, no permisos iniciados por el menor", advierte Pendergast.
¡Sigue a WIRED en español desde tu WhatsApp!
También señala que la función de "Conexión de confianza" solo aplica al chat, dejando expuestas otras áreas de la plataforma: "Se trata de una barrera frágil, en el mejor de los casos".
Cuando se le preguntó cómo un código QR en persona protege contra tácticas de captación en el mundo real, Kaufman respondió que no existe una solución absoluta. Añadió que la protección se basa en una combinación de políticas, normas comunitarias, tecnología, moderación automatizada y trabajo humano: "No se trata solo de un código QR o una estimación de edad, sino de todo un sistema funcionando en conjunto".
Kaufman aseguró que Roblox está yendo más allá que otras plataformas al no permitir comunicaciones sin filtros entre adolescentes sin pasar por el sistema de "Conexiones de confianza". "Creemos que estamos estableciendo el estándar mundial de lo que significa una comunicación segura y abierta para el público adolescente".
Según la empresa, estas actualizaciones son parte de su desarrollo continuo y "no han sido influenciadas por ningún evento en particular" ni por comentarios externos. "No es una reacción a algo. Esto forma parte de nuestro plan a largo plazo para hacer que Roblox sea lo más seguro posible", comentó Kaufman.
También declaró a WIRED que la discusión pública sobre seguridad infantil en la plataforma no ha afectado significativamente sus planes: "Con este anuncio, intentamos establecer lo que creemos que es apropiado para los niños".
Sobre la inteligencia artificial generativa, Kaufman afirmó: "La tecnología puede haber cambiado, pero los principios siguen siendo los mismos. También vemos la IA como una gran oportunidad para escalar nuestras tareas de moderación. Es fundamental para nuestra estrategia de seguridad".
Los padres también son parte de la estrategia
Roblox considera fundamental que los padres y tutores "construyan un diálogo" con sus hijos sobre la seguridad en línea. "Se trata de tener conversaciones sobre dónde pasan el tiempo en internet, quiénes son sus amigos y qué están haciendo. Ese diálogo es probablemente lo más importante para mantenerlos seguros, y estamos invirtiendo en herramientas que lo faciliten", indica Kaufman.
Reconoce que las familias tienen diferentes expectativas sobre el comportamiento apropiado en línea: "Lo que un padre considera adecuado para su hijo puede no coincidir con lo que yo elegiría para mi propia familia, y está bien. Respetamos esa diferencia".
Dina Lamdany, responsable del área de configuración de usuario y controles parentales, explicó que, a medida que los adolescentes desarrollan su independencia, es fundamental que adquieran habilidades para protegerse en línea. Los usuarios adolescentes pueden dar acceso a sus padres al panel de control, lo que les permite ver quiénes son sus conexiones de confianza. Sin embargo, por ahora, Roblox no notificará de forma proactiva a los padres.
La seguridad en línea es un desafío constante en los entornos de videojuegos. Por ejemplo, Nintendo introdujo recientemente GameChat con la Switch 2, una función social que permite a los jugadores comunicarse sin salir de la plataforma. Para los más jóvenes, depende en gran parte del control parental, mientras que se espera que los adultos gestionen sus propias conexiones. Sin embargo, algunos usuarios critican el nivel de vigilancia de la función, que podría grabar interacciones de audio y video, lo que la hace menos atractiva que Discord.
Kaufman aseguró que Roblox se toma la privacidad muy en serio: "Somos la única gran plataforma del mundo con un alto volumen de niños y adolescentes, y por eso la privacidad está integrada desde los cimientos de nuestra plataforma". Pendergast concluye que, si Roblox quiere liderar en materia de seguridad, debe asumir una postura más firme: "Debe dejar de pedir a los niños y a los padres que gestionen su propia protección, y empezar a construir entornos donde la confianza no sea opcional, sino parte del diseño. La estimación de edad, los paneles parentales y la supervisión basada en IA deben ser configuraciones predeterminadas, no decisiones del usuario".
De lo contrario, concluye Pendergast, "los padres y los niños se quedan para hacer el trabajo pesado a menudo sin la alfabetización digital y de seguridad en línea requerida".
Artículo originalmente publicado en WIRED. Adaptado por Alondra Flores.
