Al integrar modelos de IA en entornos en los que los estándares de compliance son importantes, Mosaic Factor ayuda a las empresas a gestionar la gobernanza de datos mediante la aplicación de soluciones Trustworthy AI.
Esto significa garantizar que los modelos de IA que utilizamos sean explicables y éticos para que podamos asegurarnos de que sean sólidos y fiables, pero también seguros, transparentes, justos, inclusivos y que produzcan resultados responsables.
CUADROS DE MANDO XAI: VISUALIZACIONES NO TÉCNICAS PARA LOS RESPONSABLES DE LA TOMA DE DECISIONES
Creemos que los modelos de IA deben ser explicables (o XAI -en inglés, explainable AI-) para que sean claros y entendibles para los responsables de la toma de decisiones de las empresas, no solo para los científicos de datos o los ingenieros que los desarrollan.
Los cuadros de mando XAI de Mosaic Factor son visualizaciones que producimos para ayudar a diferentes stakeholders a entender y comprender cómo funcionan los modelos de IA para que se puedan tomar las decisiones adecuadas, especialmente para los responsables de la toma de decisiones que no son necesariamente perfiles especialistas en datos o tecnología.
TRADUCE VISUALIZACIONES DE IA EN CUADROS DE MANDO
QUE FACILITAN DECISIONES DE NEGOCIO
WORKFLOW MODELOS TRUSTWORTHY AI
En Mosaic Factor, nos centramos en modelos «explicables por diseño» en lugar de crear modelos de IA que se convierten en cajas negras y, por lo tanto, no pueden ser totalmente confiables o responsables:
- Primero, creamos una Explainable AI pipeline (XAI Pipeline) para los modelos de IA. Esto incluye:
- Fases: Pre-model, in-model y post-model..
- O solamente post-model en casos en que tengamos que explicar un modelo pre-existente.
- Ejecutamos un rastreador de sesgo y equidad de datos para el Pipeline XAI.
- Trabajamos con datos sintéticos para los datos recopilados que no pasan la prueba de espectro y para elementos relacionados con la privacidad (datos confidenciales o sensibles) cuando es necesario.
- Llevamos a cabo una evaluación del rendimiento del modelo (principalmente en cuanto a fiabilidad, confiabilidad, equidad y solidez) a través de técnicas de supervisión y auditoría impulsadas por XAI.
- De esta manera, desbloqueamos el razonamiento detrás de la decisión del modelo y los resultados considerando todo el proceso de modelado.
- Por último, generamos un cuadro de mando XAI (una visualización basada en XAI) adaptado a stakeholders específicos para facilitar la toma de decisiones y definir las herramientas necesarias para procesos de homologación, cuando sea necesario.
