Im Vorlauf zur ATÖR 2019 haben wir mit Dr. Sebastian J. Golla, Referent im Panel “DigitalisierungsVerfassung”, über seinen heutigen Vortrag zum Thema “In Würde vor Ampel und Algorithmus – Verfassungsrecht im technologischen Wandel” gesprochen. Er ist wissenschaftlicher Mitarbeiter von Prof. Dr. Matthias Bäcker an der Johannes Gutenberg-Universität Mainz.
JuWiss: Welche Rolle spielt die verfassungsrechtlich geschützte Menschenwürde im Bereich der automatisierten Entscheidungen?
Golla: Der Schutz der Menschenwürde ist zukunftsgerichtet. Er soll gerade auch neuen technologischen Entwicklungen begegnen. Solche Entwicklungen prägten schon Günter Dürigs Betrachtung der Menschenwürde und die Entwicklung der Objektformel. Standen früher unter anderem die ersten automatisierten Datenverarbeitungen, Gentechnik und Biotechnologie im Fokus, sind heute komplexe Algorithmen und Künstliche Intelligenz von hoher Relevanz. Die bekannten Wertungen der Menschenwürde lassen sich hier anwenden. Wenn wichtige Entscheidungen durch automatisierte Systeme oder in einem Umfeld, das durch solche Systeme geprägt ist, getroffen werden, kann dies die Subjektqualität des Betroffenen in Frage stellen. Daraus, dass der Mensch nicht zum rechtlosen Objekt eines Verfahrens herabgewürdigt werden darf, lässt sich ein Recht ableiten, nicht ungeprüft automatisierten Entscheidungen von einer gewissen Tragweite unterworfen zu werden.
JuWiss: Automatisierte Entscheidungsprozesse und technologischer Wandel fordern Mensch und Recht gleichermaßen heraus – besteht deshalb auch ein (Neu-)Regelungsbedarf, insbesondere auf verfassungsrechtlicher und europarechtlicher Ebene?
Golla: Verfassungsrechtliche Wertungen bedürfen angesichts technologischer und gesellschaftlicher Entwicklungen zumindest einer fortlaufenden Konkretisierung. Es kann auch so weit gehen, dass der technologische Wandel diese Wertungen grundsätzlich in Frage stellt. Dies gilt bezüglich der Menschenwürde etwa, wenn davon die Rede ist, dass „Produkte“ der Künstlichen Intelligenz sie gefährden, die aber selbst Eigenschaften aufweisen, die zur Begründung des besonderen Wertes des Menschen angeführt werden – also etwa eigenständig denken und empfinden können. Neue Regelungen im Verfassungsrecht und im einfachen Recht sind dabei nur eine Möglichkeit der Konkretisierung. Was automatisierte Entscheidungen betrifft, existieren im Datenschutzrecht sowie für spezifische Bereiche (wie den Wertpapierhandel) bereits konkrete gesetzliche Vorgaben. Ich gehe davon aus, dass die spezifischen Regelungen zunehmen werden. Es besteht auch Potential, grundrechtliche Gewährleistungen angesichts des technologischen Wandels zu schärfen – etwa durch die Rechtsprechung. Bedarf zur Konkretisierung sehe ich unter anderem bei der Frage, inwiefern Ansprüche darauf bestehen, Alternativen zu automatisierten Verfahren zu erhalten.
JuWiss: Wie ist der Entwurf einer Charta der Digitalen Grundrechte der Europäischen Union vor diesem Hintergrund zu bewerten?
Golla: Die Entwürfe sind in dieser Hinsicht missraten. Das Ziel der Digitalcharta, Würde und Freiheit angesichts neuer Herausforderungen und Bedrohungen im digitalen Zeitalter zu schützen, ist ehrenwert. Den Entwürfen gelingt es aber nicht, die Garantie der Menschenwürde überzeugend zu konkretisieren. Artikel 1 des aktuellen Entwurfes, wonach die Würde des Menschen „auch im digitalen Zeitalter“ unantastbar ist, ist neben den bestehenden Regelungen überflüssig. Die spezielle Regelung für automatisierte Systeme und Entscheidungen in Artikel 5 halte ich für nicht sachgerecht und teilweise gefährlich. Danach sollen Entscheidungen, die in Grundrechte eingreifen, nur von Menschen getroffen werden dürfen. Diese Regelung hat ihr ursprüngliches Vorbild in einer Norm des französischen Datenschutzrechts aus den 1970er-Jahren. Die Digitalcharta will aber weiter gehen als das Datenschutzrecht: Sie beschränkt ihr Verbot nicht auf Entscheidungen, die auf der Verarbeitung personenbezogener Daten beruhen und erhebliche Folgen haben. Sie beträfe ihrem Wortlaut nach zahllose alltägliche Vorgänge – bis hin zum Betrieb von Verkehrsampeln und Warenautomaten. Dieser Ansatz ist nicht nur deshalb problematisch, weil er sich negativ auf Innovationsprozesse auswirken könnte und den Einsatz automatisierter Systeme auch in Bereichen verbietet, in denen er grundrechtlich geboten ist. Er könnte ebenfalls dazu führen, dass automatisierte Prozesse so kleinteilig betrachtet und geregelt werden müssten, dass keine sinnvolle Differenzierung nach dem tatsächlich bestehenden Risiko der Anwendungen mehr erfolgt. Im Datenschutzrecht können wir die Probleme eines solch atomistischen Ansatzes beobachten, wenn selbst Expertinnen ausführlich die Zulässigkeit von Klingelschildern diskutieren, aber viel weitreichendere und gefährlichere Datenverarbeitungen internationaler Konzerne schulterzuckend hinnehmen.
Interview von Matthias K. Klatt für die JuWiss-Redaktion.
Zitiervorschlag: Interview mit Sebastian J. Golla im Rahmen der 59. Assistententagung Öffentliches Recht, JuWissBlog Nr. 26/2019 v. 21.2.2019, https://www.juwiss.de/26-2019/
Dieses Werk ist lizenziert unter einer Creative Commons Namensnennung – Nicht kommerziell – Keine Bearbeitungen 4.0 International Lizenz.
