La necesidad
Una organización preparaba una aplicación que permitiría a los usuarios subir imágenes personalizadas. Antes de aceptarlas necesitaba detectar contenido ofensivo, político, publicitario, asociado a terceros o contrario a sus reglas.
Casos de uso / Validación automática de imágenes con IA multimodal
IA multimodal para filtrar imágenes antes de que el riesgo llegue al proceso de publicación.
Instintia diseñó un servicio web de prevalidación que analiza imágenes enviadas por usuarios, detecta incumplimientos evidentes y decide si pueden aceptarse, rechazarse o pasar a revisión.
Qué está pasando hoy
Por qué ocurre
La revisión exclusivamente manual no escala y retrasa la experiencia del usuario. Sin embargo, la IA tampoco debe tomar decisiones legales absolutas cuando existe ambigüedad, por lo que era necesario diseñar un filtro con niveles de confianza y revisión humana.
Enfoque recomendado por Instintia
La solución diseñada
Instintia definió un servicio web en dos fases: un modelo multimodal genera una descripción estructurada de personas, objetos, textos, símbolos y posibles riesgos; después, un agente aplica las reglas corporativas y devuelve una respuesta estructurada: válida, no válida o revisión.
Qué resultados deberías perseguir
Beneficios del proyecto
- Filtrado inicial automático antes de la revisión humana.
- Aplicación consistente de reglas sobre cada imagen.
- Identificación estructurada de los motivos de rechazo o duda.
- Menor carga de revisión en los casos evidentes.
- Escalado responsable de situaciones ambiguas a una persona.
El alcance se planteó como una primera versión acotada y evolucionable, no como sustituto de una validación legal o de identidad.
«La automatización responsable no oculta la incertidumbre: filtra lo evidente y deriva lo dudoso con contexto.»
— Equipo fundador de Instintia
Preguntas frecuentes
¿Qué puede detectar la IA en una imagen?
Puede describir personas, objetos, texto, símbolos, marcas y otras señales visuales definidas como relevantes para el proceso.
¿La IA sustituye una revisión legal?
No. El servicio actúa como prefiltrado y deriva los casos inciertos o sensibles a revisión humana.
¿Qué respuesta devuelve el servicio?
Devuelve un resultado estructurado de válida, no válida o revisión, junto con los motivos detectados.
¿Puede integrarse con una aplicación existente?
Sí. Se diseñó como un servicio web para recibir imágenes y devolver el resultado a la aplicación que gestiona la subida.