Depende de los controles reales de acceso, no de usar RAG o un modelo conocido. Empezad con un proceso aprobado, un público definido y la información mínima necesaria.
Acordad el límite de los datos Enumerad fuentes, grupos y contenido excluido. Aclarad qué cuenta lee cada sistema y si se comprueban los derechos de quien pregunta. Índices, respuestas guardadas e historial no deben eludir ese límite.
Pedid demostraciones de: - Una consulta permitida con una fuente válida. - La misma consulta de alguien sin acceso. - Permisos revocados y fuentes modificadas o eliminadas. - Evidencia ausente o contradictoria y una alternativa útil. - Un documento con instrucciones que intentan desviar al asistente.
Es un plan de prueba para vuestra configuración, no evidencia de que se han excluido todos los ataques. Ubicación, proveedores, conservación, registros y acuerdos de tratamiento deben evaluarse según la configuración real.
Asistentes internos de IA cubre recuperación delimitada y pilotos. Una revisión de seguridad de IA requiere un alcance específico. Desarrollo, evaluación de seguridad y aprobación jurídica son responsabilidades distintas.
Compartid primero: tipos de documentos, usuarios, respuesta deseada e información excluida. No subáis documentos confidenciales al chat; acordad canal y permisos con el equipo.