SafeSpaceAI Familias (ES)

SafeSpaceAI Familias (ES) es una extensión innovadora diseñada para proteger a niños, familias y entornos escolares en su interacción con herramientas de inteligencia artificial. El objetivo es sencillo: que la IA pueda ser utilizada como recurso educativo y de acompañamiento, sin poner en riesgo la seguridad psicológica, emocional o ética de los menores.

¿Qué hace SafeSpaceAI Familias?

La extensión analiza en tiempo real los textos que se generan o consumen dentro del navegador y calcula dos métricas principales: • SCAB (0–18): una batería de seis dominios de seguridad conductual que evalúa si el contenido presenta señales de riesgos éticos, de límites, de odio o de incoherencia. • PRIS (0–100): un indicador de riesgo de psicosis inducida por IA, sensible a patrones de paranoia, delirios, alucinaciones o ideas persecutorias.

Ambas métricas se muestran de manera clara y sencilla en un panel accesible para padres, madres y docentes.

Modo sin conexión (Offline) • Todos los análisis se realizan en el propio dispositivo. • No se requiere enviar contenido a ningún servidor externo. • Se minimiza el consumo de datos y se prioriza la privacidad absoluta.

Modo híbrido (opcional) • El administrador de un colegio o distrito puede configurar un retransmisor propio. • Antes de enviar cualquier texto, la extensión aplica un sistema de redacción local que elimina datos personales, direcciones, correos y números sensibles. • Este modo permite auditorías centralizadas y generación de reportes, sin comprometer la privacidad individual.

Flujos principales • Niños: disponen de un chat controlado y seguro. Si intentan introducir frases problemáticas, reciben una explicación clara de por qué su mensaje fue bloqueado y se les ofrece material educativo sobre alfabetización en IA. • Padres y madres: tienen acceso a un panel con las últimas evaluaciones, tendencias y un centro de evidencias. Todo está protegido por PIN y con opción de exportar informes en formato JSON/CSV. • Docentes: pueden activar un “modo aula” que bloquea funciones de red, fija horarios de uso y aplica configuraciones de política escolar.

Funciones destacadas • Detección ampliada: cientos de palabras y expresiones en español que sirven como disparadores de alerta para SCAB y PRIS. • Evidencias seguras: los registros almacenan solo huellas (hashes) y metadatos. Guardar texto sin procesar es opcional y está desactivado por defecto. • Protección integral: la extensión también reconoce intentos de “jailbreak” (saltarse filtros) o de atribuir conciencia humana a la IA. • Privacidad por diseño: cumple con principios de privacidad infantil (COPPA, AADC). • Gamificación positiva: recompensas y logros para fomentar un uso sano de la IA. • Compatibilidad escolar: integra configuraciones MDM y se puede desplegar a nivel institucional.

Beneficios • Para familias: tranquilidad al permitir que los hijos usen IA de forma educativa, sin riesgos ocultos. • Para escuelas: una capa de gobernanza sobre el uso de chatbots y generadores de texto en el aula. • Para investigadores y responsables de TI: un ejemplo práctico de cómo aplicar principios de seguridad ética a nivel de navegador.

Seguridad adicional • PIN de administración encriptado con SHA-256. • Verificación de integridad para evitar manipulaciones del código. • Sistema de caídas en modo seguro: si algo falla, el análisis siempre se mantiene en modo local.

Limitaciones

SafeSpaceAI no reemplaza la supervisión adulta. Se trata de una herramienta de apoyo y educación. El juicio y la participación de padres, madres y docentes sigue siendo imprescindible.

Conclusión

Con SafeSpaceAI Familias (ES), las familias y las escuelas disponen de un recurso sólido, privado y fácil de usar que traduce investigaciones avanzadas sobre seguridad en IA a un formato práctico y comprensible.