Comprender la propuesta
Examine las combinaciones de características, sus frecuencias observadas y su asociación con los resultados. Contraste estos elementos con el conocimiento de sus expertos.
EXPLICABILIDAD AL SERVICIO DE LAS PERSONAS
Ofrezca a sus expertos los elementos para comprender una propuesta, cuestionarla y tomar la decisión final. Enriquezca el modelo con resultados validados, en su infraestructura o en la nube que elija.
Examine las combinaciones de características, sus frecuencias observadas y su asociación con los resultados. Contraste estos elementos con el conocimiento de sus expertos.
Diseñe un proceso en el que los expertos puedan aportar contexto, discrepar y explicar su elección. Nuestro acompañamiento convierte la supervisión humana en una revisión efectiva.
ERC permite el aprendizaje incremental: nuevas observaciones etiquetadas actualizan sus contadores sin repetir todo el entrenamiento. Defina quién valida los resultados y cuándo se aplican las actualizaciones.
Utilice evidencia examinable para preparar explicaciones destinadas a los revisores y a las personas afectadas. Defina con su equipo información comprensible y procedimientos de corrección y reconsideración.
Despliegue el software localmente o en la nube que elija. Acuerde la selección de datos, los accesos, la conservación y las responsabilidades de actualización durante la implementación.
Su informe de 2024 destaca la intervención humana sustantiva y la transparencia efectiva en los servicios públicos. Estas preguntas orientan el piloto: ¿puede el revisor comprender, cuestionar y reconsiderar una propuesta?
Consultar la fuente ↗El artículo de acceso abierto en Neurocomputing describe el aprendizaje mediante actualización de contadores, la evidencia examinable y la reproducibilidad. Las secciones 7.2, 10.3 y 10.4 fundamentan el aprendizaje incremental y las posibilidades de auditoría.
Consultar la fuente ↗Un estudio presentado en CHI 2020 observó a profesionales apartarse de recomendaciones algorítmicas erróneas en un contexto concreto. Invita a evaluar el trabajo humano–IA además del modelo.
Consultar la fuente ↗Los debates sobre controles sociales, empleo y fiscalidad plantean cuestiones sobre los datos elegidos, los efectos desiguales y la posibilidad de impugnar una decisión. La Quadrature du Net cuestiona tanto la transparencia como las finalidades de estos sistemas. Sus investigaciones ayudan a definir las preguntas previas al despliegue.
La explicabilidad ofrece una base para examinar la equidad. Nuestra consultoría ayuda a definir objetivos adecuados, revisar datos y errores y organizar una revisión humana efectiva.
UN CICLO DE APRENDIZAJE CONTROLADO
Revise la evidencia que sustenta la propuesta.
Añada contexto, corrija datos y examine alternativas.
El experto registra su elección y sus motivos.
Un resultado validado por separado puede actualizar el modelo. Una discrepancia inicia una revisión; los resultados se incorporan mediante un proceso de validación acordado.
Definimos juntos cómo evaluar la calidad predictiva, la utilidad de las explicaciones, la revisión experta, los patrones de error y las actualizaciones validadas. El piloto también concreta los accesos, las versiones del modelo y la información necesaria para revisar una decisión anterior.
Hablemos de su piloto de IA responsable →