„DAS DESIGN DIGITALER PRODUKTE IST NICHT NEUTRAL“

Alfred Herrhausen Gesellschaft: Alexandra, du leitest das Projekt Digital Europe 2030: Democracy by Design. Es ist die dritte Runde des Digital Europe 2030-Projekts. Warum rückt ihr von der Policy-Ebene ab und richtet nun den Fokus auf Unternehmen und die Entwicklung neuer digitaler Technologien?

Alexandra Hunger: Das Projekt Digitales Europa 2030 hat sich zu Beginn zum Ziel gesetzt, Lösungen zu erarbeiten, die uns zu einer wünschenswerten digitalen Zukunft im Jahr 2030 in Europa führen. Damit soll auch zu einem eigenen europäischen Ansatz in der Digitalisierung beigetragen werden, neben den großen anderen Technosphären wie den USA und China. Neben wichtigen europäischen Verordnungen wie dem Digital Services Act, Digital Markets Act oder auch der Artificial Intelligence Act, deren allerdings noch viele Jahre dauert, spielen unternehmerische Entscheidungen für eine demokratische Digitalisierung eine wichtige Rolle. Unternehmen beeinflussen unseren digitalen Alltag durch ihre Produkte und Dienstleistungen. Hier steckt viel Potential.

Wo genau liegen da die Anknüpfungspunkte? Wie können Unternehmen befähigt werden die digitale Zukunft demokratisch mitzugestalten?

Alexandra: Es kommt stark auf das Design der digitalen Anwendungen an. Nehmen wir Facebook als Beispiel: Facebook definiert, wie der Algorithmus ausgestaltet ist. Dadurch werden uns unterschiedliche Inhalte je nach Nutzerprofilen individuell aufgezeigt, nicht chronologisch wie bei Mastodon und dadurch kommt es natürlich auch zu Filterblasen. Wie wir auf Facebook kommunizieren, welche Inhalte uns angezeigt werden, ist im Endeffekt eine Entscheidung des Produktdesigns. Wir sind der Ansicht, dass diese Ebene nicht neutral ist, sondern Gesellschaft gestaltet. Dabei beobachten wir aber, dass einige Unternehmen noch gar nicht so stark in den Blick nehmen, welche Effekte ein Produkt oder eine Dienstleistung auf die Gesellschaft haben bzw. haben könnten.

Das heißt, es geht auch darum, Tech-Unternehmen dafür zu sensibilisieren, ihrer gesellschaftlichen Verantwortung gerecht zu werden in einer demokratischen Gesellschaft.

Alexandra: Wir haben festgestellt, dass sich Unternehmen der grundlegenden Auswirkungen von Technologie auf Gesellschaft nicht immer bewusst sind oder das Bewusstsein und Wissen ungleich zwischen den Mitarbeiter:innen verteilt ist. Hier setzen wir mit einem Online-Toolkit an, das in dem Projekt entwickelt wird, um Unternehmen und ihren Mitarbeiter:innen das notwendige Wissen zu vermitteln und sie in ihrer Selbstwirksamkeit zu stärken.

Du hast das Toolkit angesprochen. Darin schlagt ihr das Prinzip „Democracy by Design“ vor. Was genau bedeutet das?

Alexandra: Es gibt bei der Ausgestaltung von Software ein Prinzip, das nennt sich „Security by Design“ oder auch „Privacy by Design“. Und daran angelehnt beziehen wir uns im Endeffekt auf die Annahme, dass Vorausschau für ein wünschenswertes digitales Europa im Jahr 2030 schon während der Produktentwicklung erfolgen muss. Also „Democracy by Design“ bezieht sich entsprechend darauf, dass die Demokratie oder das Gemeinwohl mitgedacht werden bei der Produktentwicklung.

Eine Software, die so ausgestaltet ist, dass sie die Demokratie nicht untergräbt, muss fortlaufend dahingehend überprüft werden, ob sich auch zu einem gegebenen späteren Zeitpunkt Risiken für die Demokratie auftun.

Allerdings endet es nicht bei der Produktentwicklung: Eine Software, die so ausgestaltet ist, dass sie die Demokratie nicht untergräbt, muss fortlaufend dahingehend überprüft werden, ob sich auch zu einem gegebenen späteren Zeitpunkt Risiken für die Demokratie auftun. Man spricht auch häufig von der Problematik des "dual use“. Das bedeutet im Grunde, dass es nicht nur eine Nutzungsmöglichkeit von Technologien gibt, sondern unterschiedliche. Und häufig sind diese unterschiedlichen Nutzungsmöglichkeiten in der Gegenwart noch nicht absehbar und zeigen sich erst in der Zukunft – samt ihrer Risiken für unsere Demokratie. „Democracy by Design“ ist also eine Praxis, die nie vollständig abgeschlossen ist, sondern fortwährend und prozessübergreifend erfolgen muss.

Und wer ist dann in einem Tech-Unternehmen für die Durch- und Umsetzung von „Democracy by Design“ verantwortlich? An wen richtet sich das Toolkit?

Alexandra: Das Toolkit, das wir entwickeln, zielt auf alle Bereiche eines Unternehmens ab, statt sich nur auf eine Ebene zu konzentrieren. Denn letztlich sind viele Personen in einem Unternehmen überhaupt dafür zuständig, bestimmte Regeln um- und durchzusetzen. Eine Softwareentwicklerin kann diesem Ansatz Folge leisten, wenn sie denn möchte. Aber es ist auch strategieseitig strategieseitig Aufgabe der Führungsebene, Prinzipien einzuführen und auf ihre Umsetzung zu achten.

Worauf müssen Unternehmen dann achten, wenn sie „Democracy by Design“ etablieren wollen? Woran lässt sich messen, ob ein digitales Produkt demokratischen Werten entspricht?

Alexandra: Wir haben unterschiedliche Kategorien beziehungsweise Leitlinien identifiziert: Erstens gilt der Fairness-Ansatz, also dass eine Diskriminierung möglichst ausgeschlossen sein sollte. Das Thema bias spielt immer wieder in den Medien eine Rolle, wenn wir beispielsweise an automatische Seifenspender denken, die leider aber nur bestimmte Hautfarben erkennen, weil sie mit einem nicht-diversen Datensatz trainiert wurden. Zweitens das Prinzip der Selbstbestimmung: Dabei geht es darum, dass Personen die Kontrolle über die Verwendung ihrer Daten haben müssen und auch nicht unwissentlich der erweiterten Nutzung oder Weitergabe ihrer Daten an Dritte zustimmen. Zur Durchsetzung demokratischer Werte in neuen Technologien gehört aber auch die technische Ebene dazu, wie die Gewährleistung der Datensicherheit. Also zum Beispiel, dass Nutzer:innendaten – beispielsweise in der Verwaltung – vor Hackerangriffen geschützt sind oder dass persönliche Daten nur anonymisiert verfügbar gemacht werden und somit auch nicht zurückverfolgt werden können. Das ist natürlich nur eine unvollständige Liste und unser Toolkit zeigt viel mehr verschiedene Handlungsfelder auf.

Warum sollten sich Unternehmen für das Toolkit interessieren und „Democracy by Design“ als Prinzip umsetzen?

Alexandra: Es gibt Unternehmen, die in der Hinsicht theoretisch schon sensibilisiert sind, einfach weil sie auch im öffentlichen Fokus stehen. Die Medienplattformen wie Twitter, Facebook und Instagram lassen sich hier als Beispiel nennen, aber auch Dienstleister, die an der Schnittstelle zum öffentlichen Sektor operieren wie beispielsweise Palantir Technology. Diese sind sich der öffentlichen Kritik bewusst, müssen sich dieser stellen und sind demnach interessiert daran, Wege zu finden, die Kritik aufzugreifen. Aber auch der First-Mover-Advantage könnte ein Anreiz sein, sich mit diesem Konzept auch schon vor möglichen Regulierungen auseinanderzusetzen.

Unternehmen profitieren davon in offenen und demokratischen Gesellschaften zu agieren und sollten somit ein intrinsisches Interesse haben, zum Erhalt der Demokratie beizutragen.

Unternehmen, die zum Beispiel in der Vergangenheit auf Klimaschutz gesetzt haben, wurden nicht so stark von neuen Regulierungen überrascht oder konnten sich im Wettbewerb im Zuge der Veränderung des öffentlichen Bewusstseins aufgrund ihrer Ausrichtung auf den Klimaschutz durchsetzen. Ähnlich ist es auch im Bereich Digitalisierung. Unternehmen profitieren davon in offenen und demokratischen Gesellschaften zu agieren und sollten somit ein intrinsisches Interesse haben, zum Erhalt der Demokratie beizutragen. Ein Hinweis an der Stelle darf aber nicht fehlen: um genau diesen Vorreitern auch für ihr besonderes Design mit einem wachsenden Marktanteil zu belohnen, braucht es faire Wettbewerbsbedingungen, sonst werden diese Bemühungen durch die Marktführer verdrängt.

Dankeschön! Mehr Informationen zum Toolkit und dem Projekt gibt es auf der Website der Alfred Herrhausen Gesellschaft.