Zamina Ahmad: So bringen wir Ethik in unsere Datenanalysen

Zamina Ahmad ist Datenexpertin und Gründerin des Beratungsunternehmens "Shades & Contrast" mit dem Ziel, Diskriminierung in Ki-Anwendung zu verringern und sich für Diversität in Daten stark zu machen. Im Podcast "Ethik Digital" spricht sie darüber, warum es wichtig ist, für die Datenanalyse diverse Teams zu bilden. Denn Diversität und Vielfalt haben einen großen Einfluss auf die Sicherheit und die Qualität von Daten.

Wie kommen Sie zu ihrem Fokus auf Diskriminierung und Diversität in Daten?

Ahmad: Ich habe Betriebswirtschaftslehre, Volkswirtschaftslehre, Soziologie studiert und habe dann ein Praktikum bei einer Softwarefirma in Indien gemacht und kam in Kontakt mit Software, was mir viel Freude bereitet hat. Ich rutschte in die Datenanalyse, das war 2010 sehr gefragt, weil die ganzen E-Commerce-Shops wissen wollten, wie sind die Klicks, wie können wir die User Experience verbessern und mehr Umsatz erzeugen. Ich war sieben Jahre in der Datenanalyse, unter anderem bei Otto. Ich habe gelernt, sicher mit Daten zu agieren, persönliche Daten auszuwerten und daraus Empfehlungen abzugeben.

Bei der Auswertung geht man vom Groben ins Kleine, segmentiert nach Geschlecht, Alter, Herkunft, und wenn man lange damit arbeitet, bekommt man ein gutes Gefühl dafür, dass Daten niemals gleich verteilt sind, sondern es Unterschiede gibt – und dann versucht man, diese Unterschiede zu finden und Erfolge zu optimieren. Diversität und ein diverser Blick auf Daten führen dazu, dass man sehr unterschiedliche Ergebnisse bekommt.

Nehmen wir das Beispiel Kreditvolumenvergabe. So ein Parameter wie die Postleitzahl kann dazu führen, dass unterschiedliche Kreditvolumen vergeben werden, was unfair sein kann.

Wer Wert darauf legt, faire Entscheidungen treffen zu wollen, wird einen vielfältigen Blick suchen. Brauche ich Diversität, um Erfolg herzustellen, oder brauche ich eine Gleichheit in den Daten, um mein Ziel zu erreichen? Vorurteile können zu sehr unfairen Entscheidungen führen und im schlimmsten Fall Menschenleben stark negativ beeinflussen.

Haben denn Unternehmen überhaupt ein Interesse an Diversität und Vielfalt? Zielen sie nicht nur auf Umsatz?

Ahmad: Es kommt auf die Branche an und auch auf die Qualität der Ergebnisse, die da rauskommen sollen. Wenn wir von Diversität sprechen, dann sprechen wir nicht nur über demografische Daten.

Wenn ein autonomes Fahrzeug nur mit Sonnenwetter als Daten gefüllt wird, wird bei Nebel vielleicht weiterhin schnell fahren, obwohl es angebracht wäre, die Geschwindigkeit zu reduzieren. Die Diversität der Wetterdaten ist wichtig, damit das Auto sicher fahren kann. Wenn ein Verkehrsschild nicht erkannt wird, dann kann das Auto nicht angemessen reagieren. Das weiß die Autobranche natürlich. Je höher das Sicherheitsbedürfnis, desto relevanter wird das Thema.

Die Sicherheit ist also das entscheidende Kriterium für den Umgang mit Datendiversität?

Ahmad: Sicherheit und Qualität. Wenn in einem Produktionsprozess ein Kamerasystem, dass Pakete überwacht, immer nur den perfekten Zustand erkennt, aber nicht die Fehler, dann ist das auch ein Fehler in der Datenqualität und Diversität. Ein Unternehmen wird also ein hohes Interesse daran haben, die Qualität hoch zu halten.

Könnten Diversität und Vielfalt in den Daten künftig auch Teil des Bewertung eines Unternehmens werden?

Ahmad: Ich glaube schon, dass das Kommen könnte, vielleicht nicht in der Richtung Datendiversität und Qualität, aber es könnte schon passieren, dass eine Aufsichtsbehörde so etwas kontrolliert. Vielleicht wird es mal eine Checkliste geben, die eine Note für ein KI-System gibt.

Wie bewerten Sie den AI-Act der EU? Fördert das neue System nur die großen Unternehmen und die kleinen werden behindert? Wie schätzen Sie das ein?

Ahmad: Der AI-Act wird sehr kritisiert, ich sehe den eher positiv, weil er uns dazu befähigt, überhaupt in Risiko-Kategorien zu denken und zu benennen, wie sensibel meine Daten sind. Die EU gibt ein Checksystem heraus, mit dem ich ganz schnell und einfach beantworten kann, welche Daten sensibel sind und in welcher Risiko-Kategorie ich mich befinde.

Problematisch ist derzeit noch der Umgang mit der Dokumentations- und Transparenzpflicht. Denn derzeit kann niemand sagen, wie das denn genau gehen soll. Ich bin bereit, das besser zu dokumentieren und eine Transparenz herzuleiten – aber ich muss wissen, wie das gehen soll.

Der zweite Punkt ist der Umgang mit Transparenz in KI-Systemen. Da gibt es ja tiefe neuronale Netze und sogenannte Blackboxes, also Netze, bei denen man gar nicht weiß, wie das mit Input- und Output der Daten läuft. Und selbst in der Branche ist man sich nicht im Klaren, wie man hier Transparenz schaffen kann.

Zamina Ahmad über Regulierung in der EU

Ich glaube aber, dass sich alle selbst ein bisschen belügen, wenn sie sagen, dass Amerika uns davonläuft. Denn wenn wir den ganzen Fehlern hinterherrennen müssen, weil die Systeme illegal sind oder Menschenleben negativ beeinflusst werden, dann bedeutet das am Ende mehr Arbeit. Fehlerhafte und diskriminierende KI-Systeme kommen oft aus den USA.

Also ist die Regulierung in der EU als auch eine Chance für die KI?

Ahmad: Ich sehe es als Chance, zu beweisen, wofür wir eigentlich in Europa stehen, nämlich Innovation und Verantwortungsbewusstsein in einer Demokratie. Wir nehmen die Innovation und die Technologie und sagen, da funktioniert es für uns und da nicht, und dann regulieren wir. Klar kann man das Negative sehen und sagen, das ist alles Bürokratie. Aber ich sehe das eher als Verbindung von Verantwortungsbewusstsein und Innovation.

Kommt die staatliche Regulierung überhaupt noch hinterher?

Ahmad: Die Regulierung hinkt hinterher. Ich würde mir da mehr Iteration wünschen. Es könnte ein Entwurf geben und dann werden Leute aus der IT-Branche eingebunden, die auch beraten und sagen, was realistisch ist. Vor 25 Jahren kam das Smartphone raus, heute haben wir die innigste Beziehung mit unserem Smartphone. Wie wird das mit KI?

Diese Entwicklung geht sehr viel schneller und ist sehr viel intensiver. Was werden wir in zwei Jahren alles schon gemacht haben, wenn der KI-Act der EU überhaupt in Kraft tritt. Da hinkt die Regulierung deutlich hinterher. Ich würde mir da ein ineinandergreifen wünschen.