Podiumsdiskussion zu Desinformation und Deepfakes

Im globalen „Superwahljahr“ 2024 dürfen rund 3,6 Milliarden Menschen – ca. 45 Prozent der Weltbevölkerung – in Wahlen ihre Stimme abgeben. Sogenannte Deepfakes, durch KI generierte und teils täuschend echt wirkende Videos, werden global vermehrt zur Beeinflussung von Wählerinnen und Wähler genutzt. Auch in Deutschland und Partnerländern der Internationalen Digitaldialoge rückt die digitale Manipulation und ihre Auswirkung verstärkt in den Fokus.

"That’s not Taylor Swift"

Die Podiumsdiskussion „That’s Not Taylor Swift – Governance in an Era of Deepfakes“ auf dem ATxSummit brachte Expertinnen und Experten zusammen, um aktuelle Ansätze und Herausforderungen zu beleuchten. Hiroaki Kitano, Chief Technology Officer der Sony Group, bezeichnete das Thema Deepfakes etwa als eines der signifikantesten Probleme, das in Bezug auf den Umgang mit Technologie angegangen werden müsse. Natasha Crampton, Chief Responsible AI Officer bei Microsoft, erklärte, dass ihr Unternehmen bereits sogenannte Content Credentials einsetzt, ein von der Coalition for Content Provenance and Authenticity entwickeltes Tool. Es ermöglicht Nutzerinnen und Nutzern, ihre Inhalte mittels digitaler Wasserzeichen zu signieren und zu authentifizieren.

Als Ansatz zur Förderung des weltweiten Austauschs schlug Professor Yi Zeng vom International Research Centre for AI Ethics and Governance an der Chinesischen Akademie der Wissenschaften vor, ein globales Deepfake-Observatorium zu schaffen. Ieva Martinkenaite, Senior Vice President für Forschung und Innovation bei der norwegischen Telekommunikationsgesellschaft Telenor Group, betonte indes die Notwendigkeit der Zusammenarbeit auf höchster Ebene. Staats- und Regierungschefs, die für kritische Infrastrukturen verantwortlich sind, sollten den Dialog über die Auswirkungen von Deepfakes führen.

Daran anknüpfend stellte Staatssekretär Schnorr fest, dass die globale Diskussion zwingend auch unter Beteiligung relevanter Stakeholder aus Zivilgesellschaft, Wirtschaft und Forschung geführt werden müsse. Für die erfolgreiche Entwicklung von Standards müsse man sich gemeinsam auf eine klare Definition von Deepfakes einigen. Anliegen sei es vor allem die technische Innovation zu fördern, gleichzeitig aber ethische Standards und Menschenrechte zu wahren. Deepfakes stellen dabei eine Gefahr für das Vertrauen in genau jene demokratische Institutionen dar, die notwendig sind, um den technologischen Fortschritt und gesellschaftliche Bedarfe in Einklang zu bringen.

Globale Bemühungen gegen Desinformation

Um KI-generierter Desinformation zu begegnen, haben Regierungen unter Beteiligung von Zivilgesellschaft, Wirtschaft und Forschung weltweit Ansätze und Initiativen hervorgebracht. Auf EU-Ebene ist das Gesetz über digitale Dienste (Digital Services Act, DSA) bereits seit Februar 2024 vollumfänglich anwendbar. Der DSA gibt Unternehmen Leitlinien an die Hand, um Risiken zu minimieren und gleichzeitig Grundrechte wie das Recht auf freie Meinungsäußerung zu schützen.

Auch die USA brachten dieses Jahr als eines der ersten Länder einen spezifischen Gesetzesentwurf zur Regulierung von künstlich erstellten oder veränderten Foto-, Video- oder Sprachaufzeichnungen auf den Weg, den Deepfake Accountability Act.

Analog zum europäischen DSA hat auch der Stadtstaat Singapur Maßnahmen ergriffen, um die Risiken von Desinformation zu mindern. Anfang dieses Jahres kündigte Josephine Teo, Singapurs Ministerin für Kommunikation und Information, eine neue 20-Millionen-Dollar-Initiative an, die das Vertrauen und die Sicherheit im Internet stärken soll. Singapurs Ansatz zur Bekämpfung von Desinformation ist mehrgleisig und kombiniert regulatorische Maßnahmen, technologische Innovationen und öffentliche Aufklärung. Ein Gesetz zum Schutz vor Online-Falschmeldungen und Manipulation (Protection from Online Falsehoods and Manipulation Act, POFMA) ist bereits 2019 in Kraft getreten. POFMA ermächtigt Behörden, die Entfernung falscher Informationen von Plattformen anzuordnen. Zusätzlich setzt die singapurische Regierung Kampagnen zur Aufklärung der Öffentlichkeit um. Diese zielen darauf ab, die digitale Kompetenz und das kritische Denken der Bürgerinnen und Bürger zu verbessern. Dies soll die Bevölkerung in die Lage versetzen, Desinformationen zu erkennen und wirksam darauf zu reagieren. Ein Beispiel dafür ist der von der Cyber Security Agency (CSA) veröffentlichte „3A-Ansatz“.

Zusammenarbeit im Deutsch-Singapurischen Digitaldialog

Singapur und Deutschland setzen auf einen breiten Multi-Stakeholder-Ansatz, um Regierungen, Unternehmen, Wissenschaft und Zivilgesellschaft in den bilateralen Digitaldialog einzubeziehen und gemeinsam effektive Strategien zur Bekämpfung von Desinformation zu entwickeln.

Das BMDV lädt seine Partnerländer am 21. und 22. November zur International Digital Dialogues Conference in Berlin ein Wenn Sie Interesse haben, sich zu beteiligen, können Sie sich in Kürze auf dieser Website für die Konferenz anmelden.