Roblox lanza IA de seguridad en chats de código abierto
Roblox, la plataforma de juegos en línea con más de 111 millones de usuarios mensuales —en su mayoría niños y adolescentes—, anunció el lanzamiento de una versión de código abierto de su sistema de inteligencia artificial Sentinel. La herramienta está diseñada para detectar de forma preventiva lenguaje que pueda indicar riesgo de abuso o explotación infantil en los chats del juego.
La medida llega en un contexto de fuerte presión pública. La empresa enfrenta demandas que la acusan de no hacer lo suficiente para proteger a los menores. Entre ellas, un caso en Iowa en el que se alega que una niña de 13 años fue contactada por un depredador adulto en Roblox.
Cómo funciona Sentinel
El sistema Sentinel analiza conversaciones en tiempo real y busca señales tempranas de posible peligro, como lenguaje sexualmente explícito o preguntas que, en un primer momento, podrían parecer inocentes, pero que adquieren un significado diferente dentro de un contexto más amplio.
Ejemplos incluyen frases como “¿cuántos años tienes?” o “¿de dónde eres?”, que por sí solas no levantarían sospechas, pero que en una conversación prolongada pueden ser indicativas de riesgo.
En el primer semestre de 2025, Roblox afirma que Sentinel permitió enviar 1.200 reportes de posibles intentos de explotación infantil al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) en Estados Unidos.
Una apuesta por el código abierto
Roblox planea poner Sentinel a disposición de otras plataformas para que puedan implementar medidas similares. La compañía reconoce que ningún sistema es perfecto, pero afirma que la colaboración entre empresas puede mejorar la detección de casos críticos y reducir el riesgo para los menores.
Limitaciones y retos
Aunque Roblox no permite el envío de imágenes o videos en sus chats y bloquea el intercambio de información personal como números de teléfono, la compañía admite que los usuarios siempre encuentran formas de evadir las medidas. Por ello, consideran que el monitoreo preventivo con IA es una herramienta clave, aunque no definitiva, para la seguridad en línea.
La iniciativa de Roblox con Sentinel muestra un paso importante hacia una internet más segura para menores, pero también deja claro que la tecnología por sí sola no es suficiente. La colaboración entre plataformas, la educación digital y la supervisión activa seguirán siendo esenciales para cerrar el cerco a quienes buscan aprovecharse de los más vulnerables.
