En estados Unidos y en Australia se implementaron programas que delegaron en los algoritmos de la Inteligencia Artificial decisiones que terminaron por ser erróneas y que afectaron a decenas de miles de personas. Las lecciones aprendidas de ambos casos son significativas, puesto que apuntan hacia temas que deberán ser regulados.
Por Mariano Garza-Cantú
Septiembre 2026
En Estados Unidos, el Departamento de Salud y Servicios Humanos (HHS, por sus siglas en inglés) eligió los estados de Washington, Arizona, Nueva Jersey, Ohio, Oklahoma y Texas para un programa piloto de seis años que usa inteligencia artificial para detectar procedimientos médicos innecesarios que provocan fuga de dinero del programa Medicare, el seguro para personas mayores de 65 años.
En 2025, Medicare tuvo un presupuesto de 1.21 billones de dólares, equivalente al 14 % del gasto total del gobierno federal estadounidense. Un estudio citado por la Comisión de Asesoramiento de Pagos de Medicare estimó que en 2022 el sistema gastó 5,800 millones de dólares en tratamientos médicos cuyos beneficios fueron marginales.
Para reducir ese gasto, en 2026 arrancó el piloto del programa Wasteful and Inappropriate Service Reduction (WISeR): para 15 tratamientos específicos, los médicos deben subir a un portal una solicitud de autorización junto con el fundamento clínico. Un modelo de inteligencia artificial —provisto por un proveedor tecnológico contratado por el gobierno— evalúa la petición.
La inteligencia artificial puede aprobar la petición de inmediato, pero si la niega, un médico contratado por el proveedor revisa la decisión y la confirma o revierte en un lapso de hasta 72 horas.
El gobierno eligió estos 15 tratamientos porque han sido, históricamente, los más propensos a fraudes, abusos o desperdicios: van desde inyecciones epidurales de esteroides para el dolor, hasta sustitutos de piel y artroscopias de rodilla. Si el procedimiento no se autoriza, el gobierno no lo cubre y el paciente debe pagarlo de su bolsillo.
Los Centros de Servicios de Medicare y Medicaid (CMS, por sus siglas en inglés) operan el programa; cada estado tiene asignada una empresa distinta que provee los modelos de inteligencia artificial.
Inicio complicado
De acuerdo con el artículo «AI is now deciding who gets Healthcare in 6 US states—and it’s already harming patients», publicado por BBC Science Focus, el programa WISeR tuvo un inicio complicado, con problemas técnicos y rechazos inesperados.
Antes se resolvían estos casos en un día, mientras que ahora, cuando la inteligencia artificial rechaza una solicitud, la resolución puede tardar semanas, muy por encima de las 72 horas prometidas. Un informe de la senadora María Cantwell, elaborado con información de 16 hospitales de Washington, encontró que el sistema médico de la Universidad de Washington tardaba en promedio entre 15 y 20 días en responder.
El artículo advierte que, como consecuencia, hospitales y consultorios enfrentan mayor carga administrativa para dar seguimiento al trámite, y los pacientes deben regresar a más citas de las necesarias.
Otro problema recurrente es que, en muchos casos, las empresas proveedoras de la tecnología no han podido explicar por qué rechazaron un tratamiento.
Esto ilustra el problema de que la IA funciona como una caja negra y ni siquiera sus propios desarrolladores pueden explicar con qué información o sesgos se entrenaron los modelos, ni cómo procesan la información nueva. Otro argumento importante es que la inteligencia artificial decide en base a información sintetizada que no entrega contexto para el médico que prescribe el tratamiento: valoraciones y exámenes físicos, historial médico o conversaciones con el paciente.
Por si esto fuera poco, la remuneración de los proveedores está asociada en parte a los ahorros generados por las solicitudes denegadas, lo que convierte esos incentivos económicos en parte inevitable de la arquitectura de decisión.
Australia: el algoritmo decidió…mal
Un caso previo enciende las alarmas para gobiernos y ciudadanos. Entre 2015 y 2019, Centrelink —la agencia del gobierno federal australiano encargada de las prestaciones sociales— puso en marcha un programa automatizado para recuperar pagos que, supuestamente, excedían lo que correspondía a los beneficiarios.
En Australia, el monto de las prestaciones sociales —por desempleo, estudios u otras situaciones— se calcula según el ingreso que la persona recibe por otras fuentes: a mayor ingreso, menor ayuda. El gobierno reemplazó a los funcionarios con un algoritmo que cruzaba los registros de ayuda entregada por Centrelink con los ingresos anuales reportados a la oficina de impuestos (ATO, por sus siglas en inglés).
El algoritmo fue mal diseñado porque sumaba el ingreso anual y asumía que se repartía de forma uniforme entre las quincenas del año. De este modo cualquier persona con ingresos variables era señalada falsamente como deudora del programa porque recibió beneficios sin merecerlos. En total, el gobierno persiguió a más de 500 mil personas —en un país de 27 millones de habitantes— por deudas falsas o infladas, por un monto total de 1,760 millones de dólares australianos.
La Comisión Real sobre el Esquema Robodebt investigó el caso; en 2019, un tribunal federal declaró ilegal que se promediara el ingresos, el gobierno canceló el modelo en 2020 y, en 2021 resolvió una demanda colectiva por 1,800 millones de dólares australianos.
Si bien el problema no fue solo el algoritmo, Robodebt se convirtió en un caso emblemático de advertencia para el gobierno algorítmico.
Hubo aprendizajes: la Comisión Real emitió 57 recomendaciones, entre las que destacan establecer una vía clara de revisión de las decisiones, ofrecer explicaciones públicas en lenguaje sencillo, poner a disposición pública las reglas y los algoritmos para escrutinio independiente, y crear un organismo con capacidad para auditar la automatización.