Zamina Ahmad ist Datenexpertin und Gründerin des Beratungsunternehmens "Shades & Contrast" mit dem Ziel, Diskriminierung in Ki-Anwendung zu verringern und sich für Diversität in Daten stark zu machen. Im Podcast "Ethik Digital" spricht sie darüber, warum es wichtig ist, für die Datenanalyse diverse Teams zu bilden. Denn Diversität und Vielfalt haben einen großen Einfluss auf die Sicherheit und die Qualität von Daten.
Wie kommen Sie zu ihrem Fokus auf Diskriminierung und Diversität in Daten?
Ahmad: Ich habe Betriebswirtschaftslehre, Volkswirtschaftslehre, Soziologie studiert und habe dann ein Praktikum bei einer Softwarefirma in Indien gemacht und kam in Kontakt mit Software, was mir viel Freude bereitet hat. Ich rutschte in die Datenanalyse, das war 2010 sehr gefragt, weil die ganzen E-Commerce-Shops wissen wollten, wie sind die Klicks, wie können wir die User Experience verbessern und mehr Umsatz erzeugen. Ich war sieben Jahre in der Datenanalyse, unter anderem bei Otto. Ich habe gelernt, sicher mit Daten zu agieren, persönliche Daten auszuwerten und daraus Empfehlungen abzugeben.
Bei der Auswertung geht man vom Groben ins Kleine, segmentiert nach Geschlecht, Alter, Herkunft, und wenn man lange damit arbeitet, bekommt man ein gutes Gefühl dafür, dass Daten niemals gleich verteilt sind, sondern es Unterschiede gibt – und dann versucht man, diese Unterschiede zu finden und Erfolge zu optimieren. Diversität und ein diverser Blick auf Daten führen dazu, dass man sehr unterschiedliche Ergebnisse bekommt.
Nehmen wir das Beispiel Kreditvolumenvergabe. So ein Parameter wie die Postleitzahl kann dazu führen, dass unterschiedliche Kreditvolumen vergeben werden, was unfair sein kann.
Wer Wert darauf legt, faire Entscheidungen treffen zu wollen, wird einen vielfältigen Blick suchen. Brauche ich Diversität, um Erfolg herzustellen, oder brauche ich eine Gleichheit in den Daten, um mein Ziel zu erreichen? Vorurteile können zu sehr unfairen Entscheidungen führen und im schlimmsten Fall Menschenleben stark negativ beeinflussen.
Haben denn Unternehmen überhaupt ein Interesse an Diversität und Vielfalt? Zielen sie nicht nur auf Umsatz?
Ahmad: Es kommt auf die Branche an und auch auf die Qualität der Ergebnisse, die da rauskommen sollen. Wenn wir von Diversität sprechen, dann sprechen wir nicht nur über demografische Daten.
Wenn ein autonomes Fahrzeug nur mit Sonnenwetter als Daten gefüllt wird, wird bei Nebel vielleicht weiterhin schnell fahren, obwohl es angebracht wäre, die Geschwindigkeit zu reduzieren. Die Diversität der Wetterdaten ist wichtig, damit das Auto sicher fahren kann. Wenn ein Verkehrsschild nicht erkannt wird, dann kann das Auto nicht angemessen reagieren. Das weiß die Autobranche natürlich. Je höher das Sicherheitsbedürfnis, desto relevanter wird das Thema.
Die Sicherheit ist also das entscheidende Kriterium für den Umgang mit Datendiversität?
Ahmad: Sicherheit und Qualität. Wenn in einem Produktionsprozess ein Kamerasystem, dass Pakete überwacht, immer nur den perfekten Zustand erkennt, aber nicht die Fehler, dann ist das auch ein Fehler in der Datenqualität und Diversität. Ein Unternehmen wird also ein hohes Interesse daran haben, die Qualität hoch zu halten.
Könnten Diversität und Vielfalt in den Daten künftig auch Teil des Bewertung eines Unternehmens werden?
Ahmad: Ich glaube schon, dass das Kommen könnte, vielleicht nicht in der Richtung Datendiversität und Qualität, aber es könnte schon passieren, dass eine Aufsichtsbehörde so etwas kontrolliert. Vielleicht wird es mal eine Checkliste geben, die eine Note für ein KI-System gibt.
Wie bewerten Sie den AI-Act der EU? Fördert das neue System nur die großen Unternehmen und die kleinen werden behindert? Wie schätzen Sie das ein?
Ahmad: Der AI-Act wird sehr kritisiert, ich sehe den eher positiv, weil er uns dazu befähigt, überhaupt in Risiko-Kategorien zu denken und zu benennen, wie sensibel meine Daten sind. Die EU gibt ein Checksystem heraus, mit dem ich ganz schnell und einfach beantworten kann, welche Daten sensibel sind und in welcher Risiko-Kategorie ich mich befinde.
Problematisch ist derzeit noch der Umgang mit der Dokumentations- und Transparenzpflicht. Denn derzeit kann niemand sagen, wie das denn genau gehen soll. Ich bin bereit, das besser zu dokumentieren und eine Transparenz herzuleiten – aber ich muss wissen, wie das gehen soll.
Der zweite Punkt ist der Umgang mit Transparenz in KI-Systemen. Da gibt es ja tiefe neuronale Netze und sogenannte Blackboxes, also Netze, bei denen man gar nicht weiß, wie das mit Input- und Output der Daten läuft. Und selbst in der Branche ist man sich nicht im Klaren, wie man hier Transparenz schaffen kann.
Zamina Ahmad über Regulierung in der EU
Ich glaube aber, dass sich alle selbst ein bisschen belügen, wenn sie sagen, dass Amerika uns davonläuft. Denn wenn wir den ganzen Fehlern hinterherrennen müssen, weil die Systeme illegal sind oder Menschenleben negativ beeinflusst werden, dann bedeutet das am Ende mehr Arbeit. Fehlerhafte und diskriminierende KI-Systeme kommen oft aus den USA.
Also ist die Regulierung in der EU als auch eine Chance für die KI?
Ahmad: Ich sehe es als Chance, zu beweisen, wofür wir eigentlich in Europa stehen, nämlich Innovation und Verantwortungsbewusstsein in einer Demokratie. Wir nehmen die Innovation und die Technologie und sagen, da funktioniert es für uns und da nicht, und dann regulieren wir. Klar kann man das Negative sehen und sagen, das ist alles Bürokratie. Aber ich sehe das eher als Verbindung von Verantwortungsbewusstsein und Innovation.
Kommt die staatliche Regulierung überhaupt noch hinterher?
Ahmad: Die Regulierung hinkt hinterher. Ich würde mir da mehr Iteration wünschen. Es könnte ein Entwurf geben und dann werden Leute aus der IT-Branche eingebunden, die auch beraten und sagen, was realistisch ist. Vor 25 Jahren kam das Smartphone raus, heute haben wir die innigste Beziehung mit unserem Smartphone. Wie wird das mit KI?
Diese Entwicklung geht sehr viel schneller und ist sehr viel intensiver. Was werden wir in zwei Jahren alles schon gemacht haben, wenn der KI-Act der EU überhaupt in Kraft tritt. Da hinkt die Regulierung deutlich hinterher. Ich würde mir da ein ineinandergreifen wünschen.
Zamina Ahmad über Diversität in der IT-Branche
Sie haben sich am Anfang in ihrer Karriere für Diversität in der Branche stark gemacht: Wie wichtig ist es, Frauen in die IT-Branche zu bringen?
Ahmad: Ja, ich habe mit Diversität im Recruiting begonnen. Und diese Idee hängt auch immer noch mit meiner Arbeit zusammen. Frauen oder überhaupt mehr diverse Perspektiven in Teams zu haben gehört immer noch zu meinem Thema. Ich habe mich nur jetzt darauf fokussiert, das in Daten abzubilden, weil das meine Expertise und mein beruflicher Hintergrund ist. Daten bilden ab, wie wir die Welt wahrnehmen, und wenn die Teams, die die Welt gerade wahrnehmen, sehr einseitig sind, dann werden in den Daten auch sehr einseitige Perspektiven vertreten. Ich muss also eine diverse Teamperspektive schaffen, also bei den Menschen, die die Daten sammeln, die Modelle testen und die Testcases schreiben.
In den Niederlanden gab es bei der Sozialhilfe-Vergabe ein Scoring-System, das mithilfe von KI Sozialbetrügerinnen identifizieren sollte. Das System bewertete alleinerziehende Mütter als Sozialhilfebetrügerinnen, weil es die Bearbeitung als zu aufwändig betrachtete. Es kam also zu einer massiven negativen Auswirkung auf Menschenleben. Vermutlich hatte das Datenteam die Alleinerziehenden nicht angemessen berücksichtigt oder es wurde das System nicht darauf geprüft.
Genau deshalb braucht es Diversität – im Team, in den Systemen, in den Daten, beim Testen und auch beim Monitoring.
Wie können sich Unternehmen diverser aufstellen?
Ahmad: Sie sollten überprüfen wie die eigene Teamaufstellung aussieht und die Stellenausschreibungen verändern. Oft sind Stellenausschreibungen sehr männlich und nicht inklusiv geschrieben. Man sagt ja "representation matters", und das stimnt sicherlich, für ein Stelle bei mir bewerben sich viele Menschen mit Migrationshintergrund, denn das ist, was ich repräsentiere.
Und dann gilt es, im Unternehmen Diversität und inklusive Führungsstile zu etablieren. In einem Meeting muss ich also auch introvertierte Menschen einbinden, etwa, in dem ich die Fragen schon vorher schicke oder die Möglichkeit gebe, schriftlich Feedback zu geben. Und ich kann als Moderator auch gezielt auf die Sprechanteile achten und Menschen fragen, die sich nicht von selbst melden. Viele Dinge können sehr leicht umgesetzt werden.
Wo sehen Sie bei Ethik und KI im unternehmerischen Bereich die größten Herausforderungen?
Ahmad: Das ist eine schöne Frage. Ich empfehle das Buch "Scary Smart". Wir Menschen haben die Tendenz, Verantwortung und Ethik erst mal nicht so hoch zu priorisieren. Die Geschichte hat gezeigt, dass meistens etwas Schlimmes passieren muss, damit es dann zum Positiven gewendet wird. Aber wir haben es immer zum Positiven geschafft.
Die Ethik in digitalen Produkten wird immer ein wenig belächelt. Aber ich denke, die Wende wird kommen, und dann wird die Ethik sehr wichtig sein.
(Dies ist die stark gekürzte und redigierte Fassung des Podcasts "Ethik Digital" mit Zamina Ahmad.)
Zamina Ahmad – Buchtipp
Wer sich mit Ethik in der Technologie beschäftigen will, dem sei das "Responsible Tech Playbook" der United Nations empfohlen. Das Buch hilft dabei, zu überlegen, wie ich ethische Fragestellungen in die Produktentwicklung einbinden kann. Da gibt es schöne Techniken, mit denen ich prüfen kann, was alles passieren kann mit einem Produkt. Das ist ein guter Tipp für alle, die ethische Fragestellungen in ihre Arbeit mit Technologie einbinden wollen.
Podcast "Ethik Digital" abonnieren
Der Podcast Ethik Digital erscheint einmal monatlich und wird von Rieke C. Harmsen und Christine Ulrich gehostet. Der Podcast erscheint als Audio, Video und Text. Alle Folgen des Podcasts Ethik Digital gibt es unter diesem Link. Fragen und Anregungen mailen Sie bitte an: rharmsen@epv.de
Audio-Podcast
Der Audio-Podcast kann bei diesen Kanälen abonniert werden:
Youtube-Playliste mit allen Videos von #EthikDigital
Hier geht's zu den Videos des Podcasts Ethik Digital.
Kommentare
Diskutiere jetzt mit und verfasse einen Kommentar.
Teile Deine Meinung mit anderen Mitgliedern aus der Sonntagsblatt-Community.
Anmelden