UnitedHealthcare est accusé d'avoir abusé d'un algorithme d'IA
UnitedHealthcare est accusé d’avoir abusé d’un algorithme d’IA
UnitedHealthcare, le plus grand fournisseur d’assurance maladie aux États-Unis, fait face à des problèmes juridiques suite à des allégations selon lesquelles il aurait utilisé un algorithme d’IA défectueux pour refuser une couverture de santé à des patients gravement malades. L’algorithme, appelé nH Predict, ferait des prédictions très imprécises concernant les besoins en soins de santé des patients, conduisant à un refus de soins prolongés et de services de réadaptation. La plainte, déposée devant le tribunal de district américain du Minnesota, allègue que UnitedHealth a violé son contrat en utilisant cet algorithme d’IA et aurait dû être conscient de ses inexactitudes.
Une enquête appuie les allégations
Les allégations contre UnitedHealth sont soutenues par une enquête sur les pratiques internes de l’entreprise au sein de sa filiale, NaviHealth. L’enquête a révélé que l’entreprise obligeait ses employés à se conformer strictement aux projections de l’algorithme d’IA concernant la durée des soins prolongés pour les patients. L’utilisation de cet algorithme d’IA aurait permis à l’entreprise d’économiser des centaines de millions de dollars en réduisant la durée des soins prolongés pour les patients.
La précision de l’algorithme d’IA est mise en doute
Cependant, la précision de l’algorithme d’IA est fortement contestée. Lorsque les demandes de soins de santé font l’objet d’un appel, environ 90 % d’entre elles sont annulées, ce qui suggère que l’algorithme est considérablement inexact. Les critiques affirment qu’en s’appuyant sur l’algorithme plutôt que sur la prise de décision clinique, UnitedHealth exploite les patients vulnérables et leur refuse les soins de santé dont ils ont besoin.
Les prédictions erronées et leur impact
Les erreurs commises par nH Predict peuvent être attribuées au fait que l’algorithme s’appuie sur les données des patients précédents contenues dans la base de données de l’entreprise. L’algorithme ne prend pas en compte divers facteurs, à la fois cliniques et pratiques, qui peuvent influencer la durée du séjour d’un patient en soins prolongés. Cela inclut des facteurs financiers, tels que la capacité d’un patient à payer pour les soins, qui peuvent contraindre les patients à quitter prématurément les maisons de soins infirmiers.
Déni de l’entreprise et témoignage d’un employé
UnitedHealth a rejeté les allégations, affirmant que les décisions de couverture défavorables sont prises par les directeurs médicaux sur la base des critères de couverture de Medicare, et non de l’algorithme d’IA. Cependant, des documents et des témoignages d’employés semblent confirmer le caractère douteux de la prise de décision basée sur l’algorithme. Dans un cas, l’algorithme n’a attribué que 20 jours de réadaptation à un patient paralysé ayant subi un AVC, soit la moitié de la moyenne pour les patients ayant subi un AVC avec des facultés affaiblies.
Inexactitudes intentionnelles et leurs conséquences
L’utilisation d’algorithmes d’IA défectueux dans le secteur de la santé n’est pas un phénomène nouveau. Cependant, ce qui distingue cette situation, c’est que les inexactitudes de l’algorithme semblent être intentionnelles, permettant à UnitedHealth de réduire les coûts au détriment des soins aux patients. L’accent mis par l’entreprise sur les mesures de performance et la réduction des coûts a déplacé ses priorités de la défense des intérêts des patients.
Potentielles implications de la poursuite
L’action en justice vise à empêcher UnitedHealth d’utiliser l’algorithme d’IA et à accorder des dommages et intérêts aux patients concernés. Si la plainte aboutit, elle pourrait avoir des implications significatives pour l’utilisation des algorithmes d’IA dans la prise de décision en matière de soins de santé. Elle souligne la nécessité d’une plus grande responsabilité et d’une plus grande transparence dans l’utilisation de l’IA dans le secteur de la santé afin de garantir que les patients reçoivent les soins dont ils ont besoin et qu’ils méritent.
