Workshop zu internationalen Standards in der brasilianischen KI-Regulierung

Die Entwicklung von KI und ihre Anwendung in diversen Feldern hat Regierungen weltweit dazu veranlasst, neue Wege der Regulierung zu bestreiten. Der Workshop bot den idealen Raum, um den neuen brasilianischen Gesetzesentwurf zu KI zu diskutieren und über die Rolle internationaler Standards darin zu sprechen. Unter der Moderation von Julia Rosa, technische Beraterin im EU-Brasilien Digitaldialog, fand der Workshop im Stil einer Talk-Show statt.

Einsatz von KI-Systemen in Brasilien

Caroline Tauk, Bundesrichterin am Zweiten Regionalen Gericht (TRF2) erklärte, dass es momentan keine Gefahr von Diskriminierung durch KI-Systeme, die in Entscheidungsprozessen eingesetzt werden, gibt. Die Systeme würden aktuell lediglich Verfahrensaufgaben unterstützen. Damit könne man leichter sich wiederholende Muster in unterschiedlichen Fällen erkennen. Eine ähnliche Aufgabe hat das "VICTOR-System", das vom Obersten Bundesgericht (STF) Brasiliens eingesetzt wird.

Ana Gabriela Ferreira, Professorin und Forscherin für KI-Sicherheit an der Päpstlichen Katholischen Universität von Rio Grande do Sul (PUCRS), betonte, dass Diversität unter Entwickelnden der beste Weg ist, um Vorurteile und Risiken zu verringern. Derzeit sind bei den Entwickelnden von KI-Systemen mehrere Gruppen, insbesondere die schwarze Gemeinschaft, nicht vertreten. Der Expertin zufolge könnte eine größere Vielfalt die Entwicklung wirksamerer Mechanismen für die Risikobewertung fördern.

Kelem Jordão, Mitglied des Technischen Ausschusses für Informationstechnologien und digitale Transformation beim brasilianischen Verband für technische Normen (ABNT), hob hervor, dass technische Standards wichtig sind, um Algorithmen transparenter zu machen. Jordão erläuterte, dass Normen und Standards eine starke Orientierungshilfe für den Einsatz und die Verwaltung von KI-Systemen bieten können, was die Sicherheit dieser Systeme verbessere.

Diskussion über den neuen Gesetzesentwurf

Die letzte Version des Entwurfs der brasilianischen KI-Verordnung ist seit ihrer Veröffentlichung im April 2024 eines der Hauptdiskussionsthemen in der brasilianischen Digitalpolitik. Die Teilnehmenden des Workshops waren eingeladen, ihre Sichtweise auf den neuen Gesetzesentwurf darzulegen. Zunächst betonte Kelem Jordão, dass der Gesetzentwurf nicht ausreichend auf technische Standards eingeht, die einen Rahmen für die Sicherheits- und Risikobewertung im Einklang mit internationalen Best Practices bieten.

Clarissa Mendes, Projektleiterin und Forscherin am Forschungsinstitut für Recht und Technologie in Recife (IP.rec), lenkte ein, dass auch Regulierungen ihre Grenzen haben. Sie argumentierte, dass der neue Gesetzesentwurf bei bisher wenig beachteten Feldern, wie generative KI und Nachhaltigkeit, Fortschritte macht. Bei nicht verhandelbaren Themen stelle er jedoch einen Rückschritt dar.

Eines dieser Themen ist die öffentliche Sicherheit. Mendes und Ferreira waren sich einig, dass vor dem Einsatz von KI-Systemen im Bereich der öffentlichen Sicherheit hochwirksame Risikobewertungssysteme vorhanden sein müssen, um zum Beispiel rassistische Vorurteile zu vermeiden. Beide Rednerinnen wiesen darauf hin, dass KI-Systeme für z. B. biometrische Erkennung und autonome Waffensysteme als ein sehr hohes oder sogar inakzeptables Risiko eingestuft werden müssten.