Distribución de beneficios, costos y responsabilidades

478.1. La mejora agregada no describe a todos

Una implementación puede aumentar el número de seguimientos completados y reducir, al mismo tiempo, las oportunidades de atención de un grupo determinado. Puede ahorrar tiempo a quienes generan recomendaciones mientras añade verificaciones al servicio que las recibe. También puede elevar el beneficio promedio y dejar sin una vía efectiva de reclamación a quienes reciben decisiones incorrectas. Para evaluar consecuencias de este tipo hay que identificar personas, tareas y recursos concretos, porque una cifra única de rendimiento no informa quién mejora, quién soporta las cargas ni quién está en condiciones de pedir una revisión.

La comparación distributiva comienza por definir qué se considera un beneficio. Una respuesta automatizada, una oferta de contacto y un contacto útil completado son resultados distintos. La primera es fácil de producir, mientras que el último depende del acceso de la persona, de la disponibilidad del servicio y de la coordinación entre ambos. Si cada mensaje enviado se contabiliza como atención realizada, la medida favorecerá a cualquier tecnología que incremente la actividad registrada, aunque no haya demostrado que las personas reciben una ayuda pertinente. La definición del resultado debe corresponder al propósito institucional y dejar visibles sus límites.

Obermeyer y colaboradores (2019) estudiaron un algoritmo comercial que varios sistemas de salud de Estados Unidos utilizaban para identificar pacientes candidatos a programas de gestión de cuidados de alto riesgo. El algoritmo predecía el gasto sanitario futuro, no la carga de enfermedad. Para un mismo puntaje de riesgo, los pacientes negros presentaban más enfermedades crónicas no controladas que los pacientes blancos, porque un acceso desigual a la atención hacía que se gastara menos en ellos a igual nivel de necesidad. En una simulación contrafactual que corregía esa diferencia en el umbral de inclusión automática, la proporción de pacientes negros entre los seleccionados pasaba de 17,7 a 46,5 por ciento. El modelo podía predecir bien el costo y, aun así, representar de forma sesgada la necesidad, porque el problema residía en la elección de la variable objetivo y no en la exactitud predictiva. El trabajo no demuestra que cualquier algoritmo reproduzca ese patrón. Su utilidad para este capítulo consiste en exigir que se justifique la variable objetivo y su relación con aquello que se pretende distribuir.

Jacobs y Wallach (2021) desarrollan esta preocupación desde la teoría de la medición. Distinguen entre un constructo teórico no observable, como la necesidad de atención, y su operacionalización en una variable concreta, y sostienen que el vínculo entre ambos descansa en supuestos que deben explicitarse y ponerse a prueba mediante criterios de validez y confiabilidad del constructo. El ejemplo del gasto como aproximación a la necesidad aparece en su propio análisis como amenaza a la validez de contenido, ya que el costo refleja tanto el estado de salud como el acceso a la atención. Los autores agregan que la equidad misma es un constructo esencialmente disputado, de modo que muchos desacuerdos presentados como disputas entre métricas expresan en realidad desacuerdos sobre valores. El modelo numérico que sigue mantiene explícitas sus definiciones para separar las consecuencias calculadas de los criterios normativos. Todos sus parámetros son sintéticos y no estiman el desempeño de ninguna población clínica real.

478.2. Un problema de asignación con barreras diferentes

Consideremos dos grupos de doscientas personas que cumplen el mismo criterio de necesidad de seguimiento. Los grupos representan condiciones distintas de acceso al canal propuesto y no corresponden a categorías biológicas ni a diferencias intrínsecas de capacidad. En el grupo A, una oferta llega efectivamente a la persona con una probabilidad de noventa por ciento; en el grupo B, esa probabilidad es de sesenta por ciento. Una vez establecido el contacto, la probabilidad de completar la tarea de seguimiento definida es de ochenta por ciento en ambos grupos.

El resultado elegido es un contacto que alcanza a la persona y completa esa tarea. No equivale a recuperación clínica ni a una reducción demostrada de síntomas. La probabilidad de obtenerlo por cada oferta es el producto de ambas probabilidades, es decir, 0,72 en A y 0,48 en B. Cada oferta consume en promedio un cuarto de hora en A y media hora en B, cifras que incluyen los intentos y las tareas asociadas según la contabilidad del ejemplo. El servicio dispone de cien horas para el período. Estos costos representan trabajo institucional y, por ahora, no valoran el tiempo que invierten los pacientes.

La institución puede ofrecer como máximo un seguimiento por persona durante el período, y sus decisiones consisten en cuántas ofertas asignar a cada grupo. Para simplificar se usan cantidades continuas, que se interpretan como planificación promedio sobre períodos repetidos. Una operación real necesita conteos enteros y reglas para repartirlos entre personas. La simplificación permite comparar principios de asignación sin confundir un resultado esperado con un conjunto de decisiones individuales ya justificadas. Con $x_A$ y $x_B$ como número de ofertas, los resultados esperados y las restricciones son los siguientes.

Dividiendo la probabilidad de éxito por el costo de cada oferta se obtiene la productividad por hora, que es de 2,88 resultados esperados en A y de 0,96 en B. Esa diferencia no establece qué asignación es éticamente aceptable, porque se limita a reflejar las condiciones de acceso y de costo introducidas en el ejemplo. Si se decide maximizar exclusivamente el total, la solución aprovechará la diferencia. Si en cambio se exige garantizar cierto acceso al grupo con mayores barreras, el problema matemático cambia, porque se le ha añadido un criterio normativo explícito.

478.3. Maximizar el total de resultados

Bajo estos supuestos, la política que maximiza el total ofrece seguimiento a las doscientas personas de A. Eso consume cincuenta horas y produce ciento cuarenta y cuatro contactos completados esperados. Las cincuenta horas restantes alcanzan para cien ofertas en B, que producen cuarenta y ocho contactos completados. El total asciende a ciento noventa y dos. Respecto de las doscientas personas con necesidad en cada grupo, la cobertura efectiva esperada es de setenta y dos por ciento en A y de veinticuatro por ciento en B.

La solución es óptima para la función definida porque cada hora asignada a A rinde tres veces más que una hora asignada a B. Una vez alcanzado el límite de doscientas ofertas en A, el presupuesto sobrante solo puede usarse en B. El argumento depende de que costos y probabilidades sean constantes. Si el costo por oferta aumentara a medida que se incorporan personas más difíciles de contactar, o si la productividad marginal cambiara por otra razón, la regla podría dejar de ser óptima incluso para el mismo objetivo agregado.

El resultado distributivo debe describirse sin suavizarlo bajo la palabra eficiencia. Esta política produce en A el triple de contactos completados que en B, aunque ambos grupos tienen el mismo tamaño y cumplen el mismo criterio de necesidad. Puede considerarse problemática por razones de acceso o por la prioridad que merecerían quienes enfrentan más barreras. También es posible defender que el total reciba un peso elevado, siempre que esa justificación quede expuesta a evaluación pública dentro de la institución. El cálculo, por sí mismo, no decide cuál de esos argumentos debe prevalecer.

Una herramienta de IA puede reforzar esta política si ordena a las personas según su facilidad de contacto o su probabilidad de completar el proceso. Una ordenación así mejora una métrica operativa mientras concentra recursos en quienes ya tienen mejores condiciones de acceso. Para advertirlo hay que examinar qué predice el modelo y cómo se usa esa predicción. Una probabilidad baja de contacto puede justificar apoyo adicional para esa persona y no conduce necesariamente a rebajar su prioridad. Lo que decide el efecto distributivo es la política que transforma la predicción en asignación.

478.4. Igualar ofertas no iguala resultados

Una segunda política ofrece la misma cantidad de seguimientos a ambos grupos. Con el presupuesto disponible, cada grupo recibe alrededor de 133,33 ofertas, de las que se esperan noventa y seis contactos completados en A y sesenta y cuatro en B, con un total de ciento sesenta. La igualdad formal en la oportunidad de recibir una oferta reduce la brecha respecto de la primera política, aunque no la elimina, porque las barreras que operan después de la oferta siguen produciendo una cobertura efectiva distinta.

Una tercera política se propone igualar los contactos completados esperados. Para lograrlo asigna cien ofertas a A y ciento cincuenta a B. El costo total se mantiene en cien horas y cada grupo alcanza setenta y dos resultados esperados, de modo que el total desciende a ciento cuarenta y cuatro. Esta política expresa una prioridad distributiva diferente, que compensa parte de la dificultad de acceso mediante un número mayor de ofertas. En este problema concreto, igualar resultados cuesta cuarenta y ocho resultados esperados respecto del máximo total, cifra que nada dice sobre la conveniencia de esa igualdad en otros contextos.

Ninguna de estas políticas puede preferirse invocando de manera general la equidad, porque cada una iguala o prioriza algo distinto. La primera atiende al total, la segunda reparte ofertas por igual y la tercera compensa diferencias en la producción del resultado elegido. Una discusión responsable identifica qué razones respaldan cada criterio y qué consecuencias acepta quien lo adopta. Conviene además preguntar si el presupuesto y las barreras son realmente fijos o si existen alternativas capaces de ampliar el conjunto de posibilidades.

La definición de los grupos tampoco debe ocultar la variación interna. Algunas personas de B pueden tener un acceso fácil y algunas de A pueden enfrentar barreras importantes, de manera que una regla uniforme por grupo podría pasar por alto necesidades individuales. El modelo sirve para examinar la distribución agregada; su aplicación exige información pertinente y criterios revisables. Las categorías deben utilizarse con un propósito explicado, sin convertir un promedio de grupo en un atributo inevitable de cada persona que lo integra.

478.5. Cambiar condiciones en lugar de aceptar barreras

Supongamos ahora que el servicio puede ofrecer a B un apoyo adicional, mediante otro canal de contacto y ayuda para completar la gestión. En un escenario favorable, la probabilidad de alcanzar a la persona sube de 0,60 a 0,90, y el costo por oferta pasa de 0,50 a 0,60 horas. La probabilidad de completar la tarea una vez establecido el contacto sigue siendo 0,80, por lo que cada oferta apoyada produce 0,72 resultados esperados y su productividad por hora es de 1,20. Estos valores son hipótesis sobre una intervención organizacional y necesitarían una evaluación propia antes de usarse para decidir.

Si se vuelve a maximizar el total, la política mantiene las doscientas ofertas en A y dedica las cincuenta horas restantes a unas 83,33 ofertas apoyadas en B. Se esperan ciento cuarenta y cuatro resultados en A y sesenta en B, con un total de doscientos cuatro. Respecto de la maximización sin apoyo mejoran tanto el total como el resultado de B, pese a que disminuye el número de ofertas dirigidas a ese grupo. Contar ofertas y contar resultados lleva, por tanto, a lecturas diferentes de una misma política.

Si se busca igualar resultados con el apoyo disponible, las probabilidades de éxito por oferta ya son iguales en ambos grupos y basta con repartir el mismo número de ofertas. Se asignan unas 117,65 a cada grupo, lo que agota las cien horas, y cada uno obtiene alrededor de 84,71 resultados esperados, con un total de 169,41. Esta alternativa mejora a ambos grupos respecto de la política que igualaba resultados sin apoyo. Constituye una mejora distributiva según el resultado definido, aunque no domina a la política de máximo total con apoyo, que ofrece más resultados a A y menos a B. La comparación deja en pie un desacuerdo normativo genuino.

Otra regla establece un mínimo de ochenta resultados esperados para B y, una vez asegurado, maximiza el total con el presupuesto restante. Para cumplir el mínimo se necesitan unas 111,11 ofertas apoyadas en B, que consumen 66,67 horas; las 33,33 horas sobrantes permiten 133,33 ofertas en A. Se esperan ochenta resultados en B y noventa y seis en A, con un total de ciento setenta y seis. El valor del mínimo no proviene de la matemática, ya que es una condición elegida para el ejemplo. Su justificación tendría que apoyarse en la necesidad de las personas, en los compromisos de acceso asumidos y en la deliberación institucional, además de la factibilidad.

478.6. Código y comprobación de las alternativas

El programa siguiente calcula horas y resultados esperados para cada política y verifica que se respeten el presupuesto y el límite de una oferta por persona. Las fórmulas de asignación quedan a la vista, de modo que ninguna rutina de optimización oculte el criterio elegido. Se añade una búsqueda en malla que confirma, por una vía distinta del razonamiento marginal, que los máximos totales con y sin apoyo son 204 y 192. Los valores fraccionarios son esperanzas de planificación. Para convertirlos en decisiones enteras habría que definir un procedimiento de redondeo o de asignación entre períodos y volver a comprobar recursos, cobertura y criterios distributivos.

from math import isclose

N = 200            # personas por grupo
COST_A = 0.25      # horas por oferta en A
P_A = 0.9 * 0.8    # alcance x completar en A

def evaluate(a, b, reach_b=0.6, cost_b=0.5, budget=100.0):
    """Horas usadas y resultados esperados (A, B, total) de una asignación."""
    assert 0 <= a <= N and 0 <= b <= N, "se excede una oferta por persona"
    hours = COST_A * a + cost_b * b
    assert hours <= budget + 1e-9, "se excede el presupuesto"
    res_a, res_b = P_A * a, reach_b * 0.8 * b
    return hours, res_a, res_b, res_a + res_b

def floor_then_max(floor_b, reach_b, cost_b, budget):
    """Garantiza un piso esperado para B y asigna el resto a A."""
    b = floor_b / (reach_b * 0.8)
    a = min(N, (budget - cost_b * b) / COST_A)
    return a, b

SIN, CON = (0.6, 0.5), (0.9, 0.6)   # (alcance de B, horas por oferta en B)
policies = {
    "max_sin_apoyo":         ((200, 100), SIN, 192),
    "igual_ofertas":         ((100 / 0.75, 100 / 0.75), SIN, 160),
    "igual_resultados":      ((100, 150), SIN, 144),
    "max_con_apoyo":         ((200, 50 / 0.6), CON, 204),
    "igual_res_con_apoyo":   ((100 / 0.85, 100 / 0.85), CON, 1440 / 8.5),
    "piso_B80_con_apoyo":    (floor_then_max(80, *CON, 100), CON, 176),
}
for name, (alloc, params, target) in policies.items():
    hours, ra, rb, total = evaluate(*alloc, *params)
    assert isclose(hours, 100, abs_tol=1e-9) and isclose(total, target, abs_tol=1e-9)
    print(f"{name:22s} horas={hours:6.2f} A={ra:7.2f} B={rb:7.2f} total={total:7.2f}")

# Comprobación de optimalidad del máximo total por búsqueda en malla
def best_total(params, step=0.5):
    reach_b, cost_b = params
    best = 0.0
    a = 0.0
    while a <= N:
        b = min(N, (100 - COST_A * a) / cost_b)
        if b >= 0:
            best = max(best, evaluate(a, b, reach_b, cost_b)[3])
        a += step
    return best
assert isclose(best_total(SIN), 192, abs_tol=1e-9)
assert isclose(best_total(CON), 204, abs_tol=1e-9)

# Sensibilidad: el apoyo eleva el alcance de B solo a 0,65
_, ra, rb, _ = evaluate(100 / 0.85, 100 / 0.85, 0.65, 0.6)
print(f"alcance 0,65: A={ra:.2f} B={rb:.2f}")
assert isclose(rb, 61.1764705882353, abs_tol=1e-9)

# Sección 478.12: se reservan 10 horas para revisión
a, b = floor_then_max(80, *CON, budget=90)
hours, ra, rb, total = evaluate(a, b, *CON, budget=90)
print(f"90 h: ofertas A={a:.2f} A={ra:.2f} B={rb:.2f} total={total:.2f} horas B={0.6*b:.2f}")
assert isclose(total, 147.2) and isclose(0.6 * b, 200 / 3)

# Sección 478.11: peso normativo que invierte la prioridad marginal con apoyo
threshold = (P_A / COST_A) / (0.72 / 0.6)
print(f"umbral de peso = {threshold:.2f}")
assert isclose(threshold, 2.4)

La ejecución comprueba la coherencia aritmética del ejemplo y no la validez de sus parámetros. Si el apoyo solo elevara la probabilidad de contacto de B a 0,65, la asignación diseñada para igualar resultados produciría unos 61,18 resultados en B y mantendría 84,71 en A. La igualdad calculada desaparecería porque dependía de una hipótesis empírica que resultó falsa. Un compromiso distributivo exige vigilar los resultados observados y adaptar las condiciones de acceso, en vez de dar por cumplido el objetivo por el solo hecho de haber aplicado una fórmula formalmente igualitaria.

478.7. Cargas para pacientes y servicios

Las horas institucionales no agotan los costos de una política. Una oferta puede exigir a la persona desplazamiento, tiempo de espera, conexión a internet o la ayuda de un tercero. Si la estrategia mejora la cobertura aumentando el número de intentos, parte del costo se traslada a quienes reciben los mensajes. La evaluación debería medir esa carga y distinguir los intentos necesarios de las repeticiones causadas por fallas de coordinación. Una política con más contactos completados puede seguir siendo inadecuada si los obtiene mediante exigencias desproporcionadas o difíciles de rechazar.

Los costos también se reparten entre servicios. El equipo que utiliza una clasificación automatizada puede ahorrar tiempo mientras otra unidad recibe más llamadas, revisiones o reclamos. La contabilidad debe seguir esas tareas hasta su destino y evitar que un ahorro local se presente como ahorro del sistema. Si la institución financia únicamente el componente automatizado, el servicio receptor puede verse obligado a absorber trabajo sin recursos adicionales, con demoras, postergación de otras actividades o una selección informal de casos como consecuencia. Esas adaptaciones forman parte del sistema y deben observarse.

La carga adicional tiene además efectos distributivos indirectos. Un equipo con capacidad suficiente puede ejecutar las recomendaciones que recibe, mientras otro con menos recursos acumula pendientes. Si después el modelo se evalúa por los resultados efectivamente obtenidos, parecerá menos útil para la población atendida por el segundo equipo. Sin reconstruir la coordinación entre servicios, la institución puede atribuir a los pacientes o al algoritmo una diferencia que en realidad se origina en la dotación de recursos. Por eso los análisis deben separar la calidad de la recomendación, su aceptación, su ejecución y el resultado posterior.

478.8. Impugnar una decisión también requiere recursos

Una vía de revisión permite cuestionar errores y aportar información que no estaba disponible al decidir. Su sola existencia, sin embargo, no garantiza un acceso comparable. Supongamos que cien personas de cada grupo reciben una decisión que podrían impugnar. Si cuarenta personas de A y diez de B logran presentar una solicitud, y la mitad de las solicitudes de cada grupo se resuelve favorablemente, se corrigen veinte decisiones en A y cinco en B. Como la tasa de resolución favorable es la misma en ambos grupos, toda la diferencia proviene del acceso al procedimiento.

El ejemplo no informa una tasa real de errores ni autoriza a concluir que las decisiones no impugnadas eran correctas. Muestra por qué el número de reclamos atendidos puede ocultar barreras previas a la presentación del reclamo. La evidencia cualitativa apunta en la misma dirección. Karusala y colaboradores (2024) entrevistaron a 44 personas vinculadas a la tramitación de beneficios habitacionales en la India rural y en el área metropolitana de Boston, entre solicitantes, coordinadores, abogados y funcionarios. Los procesos estudiados no utilizaban algoritmos, y los autores los examinaron para orientar el diseño de sistemas algorítmicos futuros. Encontraron que impugnar una decisión exigía documentos, desplazamientos, tiempo, conocimiento de los procedimientos y, con frecuencia, el acompañamiento sostenido de intermediarios. Concluyeron que la posibilidad de impugnar no debería descansar solo en la iniciativa de la persona afectada. Una institución debería saber cómo informa la existencia de la revisión, cuánto esfuerzo exige y cuánto tarda en resolverse. Conviene también disponer de auditorías que no dependan de la iniciativa individual.

La revisión necesita además autoridad suficiente. Un equipo que solo explica cómo se obtuvo una puntuación, sin poder modificar la decisión ni elevarla a quien corresponde, entrega información pero no un remedio. Deben definirse de antemano los resultados posibles de una revisión, como corregir datos, reconsiderar una asignación, ofrecer otra vía de acceso o explicar por qué se mantiene la decisión. En un estudio con encuestas a cien residentes de Estados Unidos sobre el rechazo hipotético de un crédito hipotecario decidido por un algoritmo, Lyons y colaboradores (2022) observaron que los participantes preferían una revisión hecha por una persona, rápida y que considerara información nueva aportada por el solicitante. En sus respuestas abiertas, la justicia del procedimiento aparecía ligada a la posibilidad de aportar antecedentes y obtener un resultado distinto. Son percepciones ante un escenario ficticio y no resultados de apelaciones reales. El registro institucional debería distinguir las solicitudes resueltas de las cerradas administrativamente, porque solo así se puede evaluar si el procedimiento modifica consecuencias o se limita a contabilizar intercambios.

478.9. Responsabilidades que no caben en una función objetivo

La institución decide qué resultado prioriza, qué barreras intentará reducir y qué costos está dispuesta a financiar. El proveedor responde por las propiedades y limitaciones de su componente en los términos acordados, pero no puede resolver por sí solo la distribución de recursos asistenciales. Los profesionales necesitan capacidad para revisar casos, aunque no deberían cargar con decisiones presupuestarias que no controlan. Elish (2019) describió como zona de deformación moral (moral crumple zone) la situación en que la responsabilidad por la falla de un sistema automatizado complejo se atribuye al operador humano más cercano al episodio, aunque su control sobre el comportamiento del sistema fuera limitado. Sus casos provienen del accidente de la central nuclear de Three Mile Island, del vuelo 447 de Air France y de pruebas de vehículos autónomos, y el concepto describe un riesgo de atribución errónea antes que una regla que se cumpla siempre. Smith, Birchley e Ives (2024) trasladaron esa idea a la decisión clínica asistida por IA y sostuvieron que la responsabilidad moral por sus consecuencias debería compartirse entre los profesionales usuarios y las empresas que desarrollan los sistemas. En un servicio que asigna seguimientos, especificar responsabilidades exige identificar facultades concretas y mecanismos de rendición de cuentas, sin confundir la cercanía a una operación con el control sobre el proceso completo.

Una función objetivo puede incluir pesos distintos para grupos o para consecuencias. Eso vuelve calculables algunas comparaciones, pero no elimina la necesidad de justificar los pesos. Dos conjuntos de valores pueden conducir a políticas diferentes con idéntica corrección matemática. Hay también condiciones que una institución puede preferir tratar como restricciones en lugar de incorporarlas a la función, como mantener una vía de revisión accesible. Expresarlas explícitamente ayuda a reconocer qué compromisos se consideran negociables y cuáles deben preservarse aunque reduzcan una medida agregada.

La responsabilidad incluye revisar las consecuencias imprevistas. Si el apoyo adicional no mejora el acceso como se esperaba, alguien debe decidir si se rediseña, si se le asignan más recursos o si se suspende la política. Mantener la asignación original por fidelidad al modelo sería confundir una herramienta de análisis con una obligación institucional. Los parámetros se contrastan con datos, mientras que los criterios normativos se revisan mediante razones y procedimientos apropiados. Ambas revisiones se influyen mutuamente, aunque no constituyen la misma operación.

478.10. Elegibilidad, necesidad y consecuencias no deseadas

El ejemplo partió de personas que cumplen un mismo criterio de necesidad, condición que en un servicio real también requiere examen. Si la elegibilidad se determina a partir de registros históricos, quienes tuvieron menos acceso pueden aportar menos información y quedar excluidos antes de llegar a la etapa de asignación. Evaluar solo a las personas admitidas daría entonces una imagen incompleta de la distribución. Conviene reconstruir el recorrido desde la población potencialmente atendida hasta la clasificación de elegibilidad e identificar las pérdidas debidas a la documentación, al canal de ingreso y al criterio de decisión.

La necesidad tampoco tiene por qué ser homogénea entre las personas elegibles. Algunas pueden requerir una respuesta más rápida o un tipo de seguimiento distinto. Incorporar esas diferencias exige variables pertinentes y una justificación de cómo modifican la prioridad. Si se introduce una puntuación de gravedad, hay que examinar su validez y sus condiciones de medición. Una cifra disponible no constituye una escala cardinal del valor de las personas ni autoriza a sumar sin más consecuencias heterogéneas. Cuando convertir varios resultados a una única unidad destruiría información importante para decidir, el análisis puede mantenerlos por separado.

Junto al resultado favorable elegido deben registrarse las consecuencias no deseadas. Una oferta puede generar un contacto completado y, a la vez, causar confusión, una exposición innecesaria de información personal o una carga excesiva. El modelo simplificado no incluye esos efectos. Una evaluación real debería recogerlos y comprobar si se concentran en grupos particulares. No sería adecuado descontarlos mediante un peso improvisado con el único fin de conservar una cifra agregada favorable. Primero hay que describirlos, estudiar su relación con la implementación y decidir qué medidas de prevención o qué restricciones corresponden a su naturaleza.

La ausencia de un dato de grupo puede ser informativa en sí misma. Si las personas con más dificultades de acceso tienen también registros menos completos, un análisis restringido a las categorías conocidas puede subestimar la desigualdad. Conviene informar cuántas personas quedan sin clasificar y, cuando sea posible, comparar sus recorridos con los del resto. Imputar una categoría no genera conocimiento directo sobre la experiencia de esas personas. Los análisis de sensibilidad pueden explorar escenarios alternativos, siempre que mantengan la distinción entre lo observado y lo imputado.

478.11. Incertidumbre y prioridades explícitas

En la práctica, las probabilidades del modelo podrían estimarse con muestras pequeñas, y las diferencias observadas podrían reflejar variabilidad aleatoria además de mecanismos persistentes. Un análisis de sensibilidad no debería limitarse a variar cada parámetro por separado cuando existen relaciones entre ellos. Un apoyo más intenso, por ejemplo, puede mejorar el contacto y alargar a la vez la duración de cada interacción. Evaluar ambos cambios en conjunto permite reconocer combinaciones plausibles y separar las decisiones que siguen siendo razonables bajo distintas condiciones de aquellas que requieren información adicional.

La política de máximo total con apoyo presupone que el costo adicional del apoyo queda compensado por la mejora en el acceso. Si el costo crece o el efecto disminuye, la comparación puede invertirse, lo que justifica medir ambos componentes desde una evaluación inicial. También conviene observar si el apoyo conserva su utilidad cuando aumenta el volumen atendido, ya que la dotación de personal puede limitar su extensión. La decisión de escalar debería vincularse a las condiciones de capacidad y no solo a una tasa de contacto obtenida en circunstancias especiales.

Los pesos distributivos son otra fuente de sensibilidad. Con apoyo, una hora dedicada a A produce 2,88 resultados esperados y una hora dedicada a B produce 1,20. Si un resultado en B recibe un peso normativo superior a 2,4 veces el de un resultado en A, la prioridad marginal del optimizador se invierte y el presupuesto se dirige primero a B. El umbral surge del cociente entre ambas productividades. Ninguna medición científica fija ese peso. El cálculo muestra que una decisión presentada como maximización técnica puede depender de una valoración normativa capaz de cambiar por completo la asignación.

La deliberación institucional puede preferir restricciones comprensibles a pesos difíciles de interpretar. Un compromiso de cobertura mínima permite preguntar quién lo aprobó, cómo se verificará y qué ocurrirá si no se alcanza. Su sencillez no basta, sin embargo, para justificarlo. Un mínimo demasiado bajo puede legitimar una desigualdad que la institución estaba en condiciones de reducir, y uno inalcanzable puede generar un incumplimiento permanente. La discusión necesita información sobre factibilidad y razones sobre prioridad, además de la participación de quienes recibirán las consecuencias. El modelo ayuda a precisar esas decisiones, pero la responsabilidad de tomarlas sigue siendo institucional.

478.12. Financiar la posibilidad de revisión

La comparación anterior destinó las cien horas íntegramente a ofertas y contactos. Si la institución reserva diez horas para revisar decisiones, quedan noventa para esa actividad. Con apoyo a B y un mínimo garantizado de ochenta resultados esperados en ese grupo, la asignación a B sigue consumiendo unas 66,67 horas. Las 23,33 horas restantes permiten unas 93,33 ofertas en A, con 67,20 resultados esperados, y el total baja a 147,20. Esa disminución respecto del escenario de cien horas no demuestra que revisar sea ineficiente. Refleja el financiamiento de una función cuyo valor no aparece en el conteo de contactos.

Una alternativa sería financiar la revisión con recursos adicionales; otra, reducir ciertas tareas o mejorar la coordinación para liberar tiempo. La decisión presupuestaria determina qué costos soportan otros servicios y qué actividades dejan de realizarse. Por eso conviene presentar el presupuesto completo y explicar qué elementos se consideran fijos. Un análisis que mantiene constante el presupuesto de atención pero supone que la revisión y el soporte no cuestan nada compara las alternativas en condiciones desiguales. La transparencia exige incluir los recursos necesarios para sostener los mismos compromisos que se invocan al justificar la implementación.

La revisión puede generar información útil para corregir el sistema, pero su funcionamiento no debe depender de que los reclamos sirvan al desarrollo del modelo. Una persona puede necesitar que se rectifique una decisión aunque su caso no mejore estadísticamente nada. El procedimiento debe responder a esa necesidad y mantener separadas la resolución del episodio individual y el aprendizaje a partir de patrones agregados. También debe registrar si la corrección llegó hasta el punto en que la decisión produjo efectos. Cambiar un dato en una base no garantiza que se revise una decisión anterior ni que se restituya una oportunidad perdida.

478.13. Del reparto agregado a las decisiones individuales

Las cantidades continuas describen expectativas de planificación. Para distribuir ofertas concretas entre personas con igual prioridad, la institución necesita una regla adicional, que puede ser el orden temporal, una rotación o un sorteo en condiciones definidas. El orden de llegada puede favorecer a quienes acceden antes al canal, y una rotación requiere registros fiables de la participación previa. El modelo agregado no selecciona por sí mismo una regla justa para los individuos. Esa elección debe explicarse y admitir revisión cuando existan circunstancias relevantes que la representación simplificada no recoge.

La evaluación debe distinguir también las diferencias transitorias de las exclusiones persistentes. Una persona que no recibe oferta este mes podría recibirla el siguiente, mientras que otra puede quedar fuera reiteradamente por el mismo obstáculo. Un total anual de contactos puede ocultar esa concentración. Conviene reconstruir recorridos individuales y medir cuánto tiempo permanece cada persona sin una alternativa adecuada. La distribución a lo largo del tiempo puede requerir ajustes de prioridad distintos de los que sugiere una fotografía mensual, y esos ajustes evitan que una política equilibrada entre grupos excluya repetidamente a las mismas personas dentro de cada uno.

Las personas pueden valorar de manera diferente un mismo contacto completado. Para algunas resulta útil; otras lo viven como una obligación que no responde a sus necesidades. Esa variación no invalida el indicador operativo, pero limita su interpretación como beneficio. Una evaluación puede recoger la utilidad percibida y los motivos de rechazo junto con el cumplimiento de la tarea. Importa incluir a quienes abandonaron el proceso, porque entrevistar solo a quienes lo completaron produce una lectura sesgada. Cuando las medidas captan aspectos distintos de la experiencia, sus resultados deben informarse por separado.

Los incentivos contractuales también orientan la distribución. Un proveedor remunerado por mensajes enviados tiene incentivos distintos de los de un servicio evaluado por contactos pertinentes completados. Si se premia exclusivamente un promedio, puede resultar atractivo concentrar la actividad en los casos fáciles. La institución debería examinar la relación entre medida, incentivo y conducta sin suponer que toda respuesta oportunista es deliberada, ya que un diseño puede producir selección aun cuando cada actor intente cumplir bien su tarea. Revisar los incentivos permite corregir mecanismos que el reentrenamiento del algoritmo no puede resolver.

La rendición de cuentas requiere, por último, un espacio donde resultados y decisiones se discutan en conjunto. Un informe técnico de exactitud y un informe administrativo de costos pueden ser ambos correctos y dejar igualmente invisible una exclusión. La revisión institucional debe conectar esos registros con las experiencias y los reclamos pertinentes. Cada decisión de mantener o modificar la política debería dejar constancia de las razones consideradas y de los desacuerdos relevantes. Esa documentación facilita la evaluación de cambios posteriores.

478.14. Una decisión distributiva explícita

En el ejemplo, la política de máximo total con apoyo a B produce la mayor suma entre las alternativas descritas, y elegirla implica aceptar una diferencia importante de cobertura efectiva entre los grupos, de 72 frente a 30 por ciento. La igualdad de resultados con apoyo sacrifica parte del total esperado y mejora la posición de B, mientras que el mínimo garantizado ofrece una combinación intermedia. Cualquiera sea la opción adoptada, la decisión debe exponer sus consecuencias y las razones de la preferencia, sin presentar ninguna alternativa como técnicamente inevitable.

Un proceso institucional defendible podría comenzar con una evaluación acotada del apoyo, mantener un compromiso explícito de acceso y revisar la asignación a medida que se disponga de estimaciones más precisas. La incertidumbre sobre las probabilidades no impide decidir, pero obliga a precisar qué resultados harían cambiar la política. Deben financiarse también la revisión de decisiones y la observación de las cargas, porque sin esos medios los criterios distributivos quedarían formulados sin forma de comprobar si se cumplen.

La resolución institucional debe explicar tanto las consecuencias esperadas como las razones para aceptarlas. Debe indicar quién revisará parámetros y decisiones cuando la realidad se aparte del plan, y cómo podrán cuestionar la asignación quienes reciben sus beneficios o soportan sus costos.

Referencias

Elish, M. C. (2019). Moral crumple zones: Cautionary tales in human-robot interaction. Engaging Science, Technology, and Society, 5, 40–60. https://doi.org/10.17351/ests2019.260

Jacobs, A. Z., y Wallach, H. (2021). Measurement and fairness. En Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 375–385). ACM. https://doi.org/10.1145/3442188.3445901

Karusala, N., Upadhyay, S., Veeraraghavan, R., y Gajos, K. Z. (2024). Understanding contestability on the margins: Implications for the design of algorithmic decision-making in public services. En Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems (pp. 1–16). ACM. https://doi.org/10.1145/3613904.3641898

Lyons, H., Wijenayake, S., Miller, T., y Velloso, E. (2022). What's the appeal? Perceptions of review processes for algorithmic decisions. En Proceedings of the 2022 CHI Conference on Human Factors in Computing Systems (pp. 1–15). ACM. https://doi.org/10.1145/3491102.3517606

Obermeyer, Z., Powers, B., Vogeli, C., y Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447–453. https://doi.org/10.1126/science.aax2342

Smith, H., Birchley, G., e Ives, J. (2024). Artificial intelligence in clinical decision-making: Rethinking personal moral responsibility. Bioethics, 38(1), 78–86. https://doi.org/10.1111/bioe.13222