Dieser Artikel ist eine Fortsetzung der Typen. Vor sechs Monaten brachten wir die Nachricht, dass Microsoft daran arbeite, Gesichtserkennungssoftware zu reparieren, die als rassistisch voreingenommen galt. Nun fordert das Unternehmen selbst, die Gesichtserkennung zu regulieren, um Voreingenommenheit zu verhindern. Sie wurden also mit voreingenommener Software erwischt und wollen nun, dass die gesamte Branche reguliert wird, um zu verhindern, dass jemand anderes rassistisch voreingenommene Software erhält.
Schnelle Links
Anfängliches Problem
Wie wir im Juni berichteten, wurde in einem Forschungspapier Kritik an der auf Azure basierenden UI-API von Microsoft geäußert. Das Programm hatte Schwierigkeiten, Menschen dunkler Hautfarbe oder Frauen zu erkennen. Die Fehlerquote lag bei bis zu 20.8 %, bei „helleren männlichen Gesichtern“ lag die Fehlerquote jedoch bei null Prozent.
Der Grund für diesen Unterschied in der Anerkennung liegt darin, dass KI von Menschen programmiert werden muss. Die Ergebnisse werden nur so gut sein wie die Leute, die die Programmierung durchgeführt haben. Die Programmierer von Microsoft beschäftigten nicht genügend Leute mit dunkler Hautfarbe oder genügend Frauen.
Microsoft arbeitete daran, dieses Problem zu beheben, indem es seine Trainingsdaten diversifizierte und begann, seine Systeme vor der Bereitstellung intern zu testen. Sie konnten die Fehlerquote bei dunkelhäutigen Menschen um das bis zu Zwanzigfache und die Fehlerquote bei Frauen um das Neunfache senken.
Drängen Sie auf eine Gesetzgebung
Sechs Monate später fragte ich Microsoft fordert die Regierungen auf, Gesetze zu verabschieden, die das Testen der Gesichtserkennungstechnologie vorschreiben Unabhängig, um sicherzustellen, dass sie korrekt sind, um Vorurteilen vorzubeugen und die Rechte der Benutzer zu schützen.
„Der Geist der Gesichtserkennung ist sozusagen gerade aus der Flasche“, sagte Brad Smith, ein leitender Berater bei Microsoft, in einem Blogbeitrag.
„Wenn wir nicht handeln, laufen wir Gefahr, in fünf Jahren aufzuwachen und festzustellen, dass sich Gesichtserkennungsdienste in einer Weise ausgebreitet haben, die soziale Probleme verschärft. Bis dahin werden diese Herausforderungen viel schwieriger sein.
Das Unternehmen fordert, dass die Ergebnisse der Gesichtserkennung von Menschen überprüft werden, anstatt diese Aufgabe Computern zu überlassen.
„Dazu gehört auch, dass Entscheidungen das Risiko einer körperlichen oder seelischen Schädigung des Verbrauchers mit sich bringen könnten, wo es Auswirkungen auf Menschen- oder Grundrechte geben könnte und wo die persönliche Freiheit oder Privatsphäre des Verbrauchers verletzt werden könnte.“
Darüber hinaus schlug Smith vor, dass diejenigen, die Gesichtserkennung nutzen, „erkennen müssen, dass sie nicht von ihrer Verpflichtung entbunden werden, Gesetze einzuhalten, die die Diskriminierung einzelner Verbraucher oder Verbrauchergruppen verbieten.“
Er wollte auch sicherstellen, dass der Einsatz der Gesichtserkennung durch die Regierung nicht die demokratischen Freiheiten und Menschenrechte der Menschen verletzt.
„Wir müssen sicherstellen, dass das Jahr 2024 nicht wie eine Seite aus dem Roman 1984 aussieht“, schloss er.
Darüber hinaus
Microsoft hat natürlich Recht. Es ist interessant, dass sie vor sechs Monaten nicht erkannt haben, dass sie darauf achten müssen, dass ihre Software nicht diskriminiert, und jetzt ist ihnen das nicht nur klar, sondern sie wollen auch sicherstellen, dass niemand sonst die gleichen Fehler machen kann. Sie taten.
Hat Microsoft unabhängig von ihrer früheren Position Recht, eine Gesetzgebung und eine Prüfung der Gesichtserkennungsoptionen zu fordern? Teilen Sie uns Ihre Meinung zur Anfrage von Microsoft im Kommentarbereich unten mit.
