Hacer visibles los límites
Queremos investigar cómo se evalúan los sistemas, qué señales permiten detectar errores y qué opciones tienen las personas cuando algo no funciona. La seguridad nos interesa como parte del diseño y del trabajo cotidiano.
Seguridad de sistemas e inteligencia artificial
La confianza necesita
algo más que una promesa.
Nos interesan los controles y las responsabilidades que permiten evaluar una tecnología antes y durante su uso.
Saber qué puede fallar también forma parte de construir.
Una mirada al tema
1 / 3
Preguntar quién puede intervenir
Una línea de investigación propuesta es observar cómo se toman las decisiones y quién puede revisarlas. Qué queda registrado, qué se puede explicar y cómo se corrige un resultado son preguntas que queremos llevar a situaciones concretas, sin anticipar conclusiones.
Agenda de seguridad
Del riesgo al control.
Del control a la evidencia.
Queremos investigar cómo se protegen los datos, se limitan las acciones de los sistemas y se responde cuando algo falla. Nuestro foco inicial es la seguridad de aplicaciones y sistemas de IA en contextos reales de Latinoamérica.
Los marcos nos ayudan a ordenar preguntas y criterios. Citarlos no equivale a una certificación ni demuestra que un sistema sea seguro.
- NIST CSF 2.0
- Organizar responsabilidades, identificar riesgos y pensar la protección, detección, respuesta y recuperación.
- NIST AI RMF
- Examinar riesgos de IA según el contexto de uso, los actores involucrados y la evaluación del sistema.
- Google SAIF
- Relacionar componentes de un sistema de IA con riesgos y controles de seguridad.
- OWASP Top 10 para LLM
- Explorar riesgos como inyección de instrucciones, exposición de información y exceso de autonomía.
- OWASP Top 10 para aplicaciones web · ASVS
- Usar el Top 10 para orientar la atención y ASVS para definir requisitos verificables de seguridad de aplicaciones.
Referencias consultadas el 29 de octubre de 2026. Se indica la versión utilizada en cada futura evaluación.
Pruebas, personas y sistemas.
AI red teaming
Proponemos pruebas adversarias con autorización y alcance acordados: activos de prueba, límites, criterios de interrupción, registro de resultados y verificación de mitigaciones. Una prueba revela fallos bajo ciertas condiciones; no demuestra ausencia de otros riesgos.
Ingeniería social
Nos interesa cómo se reconoce una solicitud engañosa, se verifica una identidad y se reporta una sospecha. Podemos explorar materiales de concientización y ejercicios consentidos, con foco en mejorar procesos y evitar culpabilizar a las personas.
Blockchain cuando el problema lo requiere
Custodia, permisos, claves, contratos inteligentes y gobernanza pueden estudiarse dentro de seguridad y confianza. Su inclusión depende de un caso concreto, no de sumar una tecnología al catálogo.
Lo que queremos entender
Preguntas para empezar
- 01
¿Cómo se reconoce un error antes de que se propague?
- 02
¿Quién puede revisar o detener una decisión?
- 03
¿Qué evidencia permite evaluar un sistema?
Estas preguntas orientan nuestra investigación. Tu experiencia puede ayudarnos a formularlas mejor.
Tu experiencia suma otra perspectiva
Conocer el problema
es el primer paso.
Estamos preparando conversaciones con personas de negocios y organizaciones. Queremos escuchar cómo viven estas preguntas en su trabajo.
