Senatoren drängen Gesundheits-Organisationen zur Bekämpfung von racial bias in KI-algorithmen

USA-Senatoren Cory Booker, D-New Jersey, und Ron Wyden, D-Oregon, drängen die Trump Regierung und einige der landesweit größten Krankenversicherer – Humana und Blue Cross unter Ihnen – sich bewusst sein, potenzielle racial bias in den Daten algorithmen.

Die Briefe wurden geschickt, um die Führer zu den Zentren für Medicare und Medicaid Services und der Federal Trade Commission sowie der executive vice president von CVS Gesundheit, Karen Lynch, der auch Präsident des Unternehmens Aetna business unit, sowie der Präsident und CEO der Blue Cross Blue Shield, Scott Serota, und David Cordani, president und CEO von Cigna, unter anderem.

„Im Gesundheitswesen gibt es großen Versprechen, die mit algorithmen zum Sortieren von Patienten-und Ziel-Pflege zu den am meisten Bedürftigen. Diese Systeme sind jedoch nicht immun gegen das problem der Befangenheit“, sagte die Senatoren Booker und Wyden in Ihrem schreiben an Lynch erklärte. „Als algorithmen spielen eine zunehmend vorherrschende Rolle in der Gesundheitsversorgung fordern wir Aetna zu berücksichtigen, das Risiko für die Algorithmische bias und Ihre möglichen Auswirkungen auf die Gesundheit Disparitäten Ergebnisse.“

Die Briefe zeigen Sie auf eine Studie, veröffentlicht in der Oktober-25-Ausgabe von Science-Magazin, das untersucht die racial bias in einem Algorithmus verwendet, um die Verwaltung der Gesundheit der Bevölkerung.

Für die Studie fanden die Macher der Algorithmus nicht berücksichtigen, dass andere Faktoren außer müssen dazu beitragen, die individuelle Allgemeine Kosten im Gesundheitswesen.

Faktoren wie Hindernisse beim Zugang zu Pflege und geringes Vertrauen in das Gesundheitssystem – die schwarzen unverhältnismäßig stark betroffen Patienten – bedeuten, dass die Patienten waren weniger wahrscheinlich zu erhalten, zusätzliche Dienstleistungen.

„Weniger Geld für Schwarze Patienten, die mit dem gleichen Grad der Notwendigkeit und der Algorithmus somit fälschlicherweise dem Schluss, dass Schwarze Patienten sind gesünder als ebenso krank Weißen Patienten,“ die Studie abgeschlossen. „Die Neuformulierung des Algorithmus, so dass es verwendet nicht mehr Kosten als proxy für den Bedarf beseitigt, die rassistische Voreingenommenheit bei der Vorhersage, wer braucht extra-Pflege.“

Die beiden Senatoren legten eine Liste von Fragen, die an die Empfänger des Briefes, um Einzelheiten über die Art, die Anzahl und die Methodik, die hinter den algorithmen, die diese Organisationen verwenden.

Die Fragen decken auch Themen, die mit der Verwendung von machine learning-und advanced-analytics – Technologien, die voraussichtlich viel spielen größere Rollen in die zukünftige Entwicklung der healthcare-Analyse-tools und Metriken.

Der Brief fordert Antworten auf die sechs Fragen, von denen einige enthalten zahlreiche follow-ups – nicht später als 31. Dezember 2019.

Nathan Eddy ist ein healthcare-und Technologie-freelancer mit Sitz in Berlin.
E-Mail der Autorin: [email protected]
Twitter: @dropdeaded209