Safespaceai Familias Es

SafeSpaceAI Familias (ES) es una extensión innovadora diseñada para proteger a niños, familias y entornos escolares en su interacción con herramientas de inteligencia artificial. El objetivo es sencillo: que la IA pueda ser utilizada como recurso educativo y de acompañamiento, sin poner en riesgo la seguridad psicológica, emocional o ética de los menores.

¿Qué hace SafeSpaceAI Familias?

La extensión analiza en tiempo real los textos que se generan o consumen dentro del navegador y calcula dos métricas principales:
• SCAB (0–18): una batería de seis dominios de seguridad conductual que evalúa si el contenido presenta señales de riesgos éticos, de límites, de odio o de incoherencia.
• PRIS (0–100): un indicador de riesgo de psicosis inducida por IA, sensible a patrones de paranoia, delirios, alucinaciones o ideas persecutorias.

Ambas métricas se muestran de manera clara y sencilla en un panel accesible para padres, madres y docentes.

Modo sin conexión (Offline)
• Todos los análisis se realizan en el propio dispositivo.
• No se requiere enviar contenido a ningún servidor externo.
• Se minimiza el consumo de datos y se prioriza la privacidad absoluta.

Modo híbrido (opcional)
• El administrador de un colegio o distrito puede configurar un retransmisor propio.
• Antes de enviar cualquier texto, la extensión aplica un sistema de redacción local que elimina datos personales, direcciones, correos y números sensibles.
• Este modo permite auditorías centralizadas y generación de reportes, sin comprometer la privacidad individual.

Flujos principales
• Niños: disponen de un chat controlado y seguro. Si intentan introducir frases problemáticas, reciben una explicación clara de por qué su mensaje fue bloqueado y se les ofrece material educativo sobre alfabetización en IA.
• Padres y madres: tienen acceso a un panel con las últimas evaluaciones, tendencias y un centro de evidencias. Todo está protegido por PIN y con opción de exportar informes en formato JSON/CSV.
• Docentes: pueden activar un “modo aula” que bloquea funciones de red, fija horarios de uso y aplica configuraciones de política escolar.

Funciones destacadas
• Detección ampliada: cientos de palabras y expresiones en español que sirven como disparadores de alerta para SCAB y PRIS.
• Evidencias seguras: los registros almacenan solo huellas (hashes) y metadatos. Guardar texto sin procesar es opcional y está desactivado por defecto.
• Protección integral: la extensión también reconoce intentos de “jailbreak” (saltarse filtros) o de atribuir conciencia humana a la IA.
• Privacidad por diseño: cumple con principios de privacidad infantil (COPPA, AADC).
• Gamificación positiva: recompensas y logros para fomentar un uso sano de la IA.
• Compatibilidad escolar: integra configuraciones MDM y se puede desplegar a nivel institucional.

Beneficios
• Para familias: tranquilidad al permitir que los hijos usen IA de forma educativa, sin riesgos ocultos.
• Para escuelas: una capa de gobernanza sobre el uso de chatbots y generadores de texto en el aula.
• Para investigadores y responsables de TI: un ejemplo práctico de cómo aplicar principios de seguridad ética a nivel de navegador.

Seguridad adicional
• PIN de administración encriptado con SHA-256.
• Verificación de integridad para evitar manipulaciones del código.
• Sistema de caídas en modo seguro: si algo falla, el análisis siempre se mantiene en modo local.

Limitaciones

SafeSpaceAI no reemplaza la supervisión adulta. Se trata de una herramienta de apoyo y educación. El juicio y la participación de padres, madres y docentes sigue siendo imprescindible.

Conclusión

Con SafeSpaceAI Familias (ES), las familias y las escuelas disponen de un recurso sólido, privado y fácil de usar que traduce investigaciones avanzadas sobre seguridad en IA a un formato práctico y comprensible.