KI Start-up misst die Diversität in Unternehmen und Medien

Künstliche Intelligenz (KI) kann nur so gut sein, wie die Menschen, die sie programmieren. Daher hatte sie in der Vergangenheit mit Vorwürfen der Ungenauigkeit und rassistischer Vorurteile zu kämpfen. Die Voreingenommenheit ihrer Programmierenden, bei denen es sich häufig um junge, weiße Männer aus dem Silicon Valley handelt, scheint vorprogrammiert. So nimmt sie schwarze Menschen auf Fotografien schlechter wahr, weil sie nur mit weißen Gesichtern trainiert wurde, oder zieht aus der mangelnden Diversity am Arbeitsplatz den für sie logischen Schluss, dass Menschen mit anderen ethnischen wurzeln, oder Frauen, dafür wohl schlechter geeignet sein müssen.

Ein von Frauen gegründetes Start-up aus Toronto, das in der Mode- und Beauty-Branche tätig ist, setzt jedoch auf KI, um eine gerechtere Zukunft zu gestalten. Die Mitbegründerinnen von Halt AI, Amanda Cosco und Roya Sedigh, die über umfangreiche Erfahrungen in den Bereichen Technologie und Mode verfügen, hatten eine Gemeinsamkeit: Nämlich, dass sie regelmäßig Algorithmen auf Vorurteile überprüften. Und so wurde Halt AI zu ihrem gemeinsamen Projekt. FashionUnited sprach mit Cosco über Halt AI und ihr Diversity Analytics Dashboard, das detaillierte Analysen zur Vielfalt von über 500 Modemarken, Medien und Einzelhandelsunternehmen bietet.

„Die meisten Geschichten, die man über KI hört, sind von Cyborg-Untergangsstimmung geprägt und irgendwie beängstigend, besonders wenn es um Gesichtserkennung geht“, sagt Cosco. „Aber wenn wir KI für einen guten Zweck nutzen können, um die Vielfalt zu verbessern, dann ist das eine Gegenbewegung zu diesem düsteren Narrativ.“

Sie stellten fest, dass die meisten Marken ihre Vielfalt aus der Perspektive der Neueinstellungen messen, aber ihr Marketing und Inhalte vernachlässigen. Also beschlossen sie, ihre Technologie zu nutzen, um Marken eine Momentaufnahme davon zu bieten, wie ihre sozialen Medien und ihr Marketing von außen aussehen. Das weckte das Interesse der Marken. „Die Marken fragten nach kontextbezogenen Informationen, beispielsweise wie ihre Bemühungen im Vergleich zu anderen Marken aussehen“, erklärt Cosco. „Wenn sie beim Thema Ethnie 7 von 10 Punkten erreichen, ist das dann wirklich gut?“

Dies motivierte das Schaffen von Benchmarks für Unternehmen, die ihre Performance nicht nur im Vergleich zu anderen Unternehmen, sondern auch innerhalb der Branche im Allgemeinen bewerten sollen. Neben anderen Kriterien werden sechs Diversitätsdimensionen – Ethnie, Alter, Geschlecht, Körpertyp, Hautfarbe und Behinderung – für jede Marke über ihren visuellen Inhalt hinweg gemessen.

Nach einer Vorfinanzierung und einer Reihe von Zuschüssen der kanadischen Regierung sowie Angel-Investitionen gehören zur Kundschaft von Halt AI derzeit auch Fortune 500-Unternehmen. Die Gründerinnen begannen mit der Mode- und Beautybranche, weil beides Branchen sind, die vor allem für Frauen von großer Bedeutung sind. Cosco sagt: „Die Technologie ist bereit, in andere Branchen zu skalieren, es geht jetzt nur darum, den Ruf der Marke aufzubauen.“

Eine Handvoll Dienste zur Überprüfung von Inhalten gibt es bereits, wie das Geena Davis Institute, das die Darstellung der Geschlechter in Medien und Unterhaltung verfolgt. Aber Cosco sagt, dass sie teuer, nicht skalierbar und mit menschlichen Fehlern behaftet sind. „Was Halt AI einzigartig macht, ist die Tatsache, dass wir eine Genauigkeitsrate von über 90 Prozent haben und dass wir schnell sein können, indem wir ganze Branchen innerhalb von Wochen bearbeiten.“

Luxusmode hat immer noch zu wenig Diversity

Die Daten von Halt AI bestätigten schnell, dass die Luxusmodebranche zum Beispiel immer noch sehr weiß und sehr jung ist, mit wenig Repräsentation in Bezug auf Behinderungen, und dass es zwar Vielfalt in Bezug auf die Ethnie gibt, die Hautfarbe aber dennoch eher hell bleibt. „Nach BLM und dem Mord an George Floyd haben die Unternehmen viele Versprechungen gemacht und der [POC-]Gemeinschaft viel Aufmerksamkeit geschenkt, aber die Gemeinschaft der Menschen mit Behinderungen steht als nächstes im Rampenlicht“, sagt Cosco. „Sportmarken wie Nike schneiden in Bezug auf die Vielfalt sehr gut ab, während die üblichen Verdächtigen wie Chanel keine große Vielfalt aufweisen.“

Aber Halt AI geht es nicht darum, mit dem Finger auf jemanden zu zeigen. Die quantitativen Analysen, die sie durchführen, liefern den Unternehmen Rohdaten, anhand derer sie Entscheidungen für ihr Marketing treffen können. Cosco ist der Meinung, dass es derzeit an Einblicken mangelt, was den Marken einen großen blinden Fleck beschert.

Aufgrund der NDAs kann Cosco nur begrenzt etwas über bestimmte Marken sagen, aber es gibt einige allgemeine Muster, die sie beobachtet hat. „Marken sind in der Regel überrascht über ihre mangelnde Repräsentanz, insbesondere im Bereich der Menschen mit Behinderungen. Wir versuchen, für sie Analysen zu erstellen, damit sie Verbesserungen im Laufe der Zeit verfolgen können, um das besser zu verstehen. Aber es hat sich als nützlich erwiesen, ihnen zu helfen, zu verstehen, wo sie innerhalb der Branche stehen, ihnen zu sagen, dass sie im zehnten oder neunzigsten Perzentil liegen.“

Ein Pilotprogramm für eine Untermarke eines großen Kosmetikunternehmens erwies sich als so erfolgreich, dass es nun intern für alle Marken eingeführt wird, damit alle Marketingteams bei ihrer Entscheidungsfindung darauf zugreifen können. Während die Technologie im Moment noch ein B2B-Tool ist, glaubt Cosco, dass sie sich zu einem B2B/B2C-Tool entwickeln wird, da die Konsument:innen von den Vorteilen profitieren werden.

„Wir wollen der globale Standard für die Messung der Vielfalt in jeder Branche werden, damit wir ein Gütesiegel für den Anteil Vielfalt, anbieten können“, sagt Cosco. „Im Moment gibt es so etwas nicht.“

Dieser Artikel wurde zuvor auf FashionUnited.uk veröffentlicht. Übersetzung und Bearbeitung: Barbara Russ