Können wir Vertrauen, dass AI nicht weiter einbetten rassischen Ungleichheiten?

Eingeläutet, als eine einfache Lösung für Gesundheits-Dienstleistungen unter dem Druck, Daten-Technologie marschiert, ist vor deaktiviert. Aber es ist ein Risiko, es könnte zusammengesetzte Ungleichheit, fragt journalist Mohn Noor in Der BMJ –heute?

Die künstliche Intelligenz (KI) Systeme simulieren der menschlichen Intelligenz durch lernen, denken, und selbst-Korrektur. Die Technologie ist vielversprechend: es könnte für den Patienten zu verkürzen Wartezeiten, bessere Diagnose-und entlasten einer überlasteten NHS—Leistungen, welche über das Feld, unabhängig von der Rasse.

Aber es gibt wachsende Besorgnis, dass, wenn die verwendeten Daten zu trainieren, AI sind nicht ethnisch Vertreter der Technik vielleicht nicht so gut für einige Gruppen.

Zum Beispiel, Bilder zu trainieren, algorithmen zur Erkennung von Melanomen sind überwiegend, wenn nicht alle Bilder der kaukasischen Haut. In Wirklichkeit, könnte der Unterschied zwischen KI, die so gut funktioniert wie die best-geschulten Klinikern für eine weiße person ist, aber nicht erkennen krebsartigen Maulwürfe auf eine schwarze person.

Was mehr ist, wenn Unternehmen nicht verpflichtet sind, zeigen diese Daten, können die Menschen, weiter zu denken, die KI ist für jeden relevant, wenn es nicht ist.

Professor Adewole Adamson an der Universität von Texas sagt: es ist von grundlegender Bedeutung, um AI ‚ s Erfolg, dass die Produkte arbeiten alle unabhängig von der Hautfarbe, und dass dort, wo Sie dies nicht tun, wird eine Warnung zur Verfügung gestellt.

Eleonora Harwich aus dem think tank der Reform warnt davor, dass Vorurteile und Diskriminierung sind schwer, die Dinge zu Regeln, und schlägt vor, dass die marktwirtschaftlichen Anreize bieten könnte, repräsentativer Daten.

Aber andere argumentieren, dass die marktwirtschaftlichen Anreize nicht überwinden kann die Tatsache, dass es Hunderte von Jahren der medizinischen Forschung fehlen für Menschen aus ethnischen Minderheiten.

Laut Adamson, die Kosten für nicht in Ordnung das könnte enorm werden. AI konnte misdiagnose Menschen, die unter diagnose Menschen, und potenziell erhöhen die Gesundheits-Ungleichheiten, warnt er.