Datenschutz-Grundverordnung greift für Algorithmen und künstliche Intelligenz zu kurz

Gütersloh. Algorithmen bewerten Menschen und entscheiden über sie. Solche automatisierte Entscheidungsfindung bleibt aber bislang fast unkontrolliert, obwohl sie sich auf das Leben der Menschen und ihre Teilhabechancen auswirkt.

Quelle: Fotolia - sdecoret


Die ab Mai wirksame Datenschutz-Grundverordnung (DSGVO) soll laut Experten der Bertelsmann Stiftung nur wenig ändern.Notwendig sei ein neues Verständnis von Datenschutz und eine größere Aufmerksamkeit der Datenschutzaufsicht für teilhaberelevante Risiken automatisierter Entscheidungsfindung.

So wird die DSGVO nur für einen kleinen Teil der bereits heute eingesetzten ADM-Systeme (algorithmic decision making, kurz: ADM) wirksam. Zudem lassen sich durch die individuellen Auskunftsrechte der DSGVO keine systematischen Mängel oder Diskriminierungen ganzer Personengruppen aufdecken. Das zeigt eine Analyse, die die Rechtswissenschaftler Wolfgang Schulz und Stephan Dreyer vom Hans-Bredow-Institut für Medienforschung an der Universität Hamburg im Auftrag der Bertelsmann Stiftung verfasst haben.

Die Datenschutz-Grundverordnung wird demzufolge nur für vollautomatisierte ADM-Systeme gelten, bei denen es keine menschliche Beteiligung an der Entscheidungsfindung gibt. Ein Beispiel hierfür ist die Vorauswahl bei Job-Bewerbungen: Bei einigen Unternehmen sichten Softwareprogramme die Lebensläufe und sortieren viele Bewerber aus, ohne dass sich ein Personaler überhaupt deren Unterlagen angesehen hätte. Die DSGVO stellt hier sicher, dass ein erfolgloser Bewerber erfahren kann, welche seiner Daten ausschlaggebend für die negative Entscheidung waren. Für die meisten ADM-Systeme, bei denen Menschen in den Entscheidungsprozess einbezogen sind, gelten die ADM-spezifischen Informations- und Erläuterungspflichten der DSGVO dagegen nicht.

Quelle: http://www.bertelsmann-stiftung.de/