Konferenz Net.Law.S

Wer haftet, wenn ein selbstfahrendes Auto lernt, Menschen zu überfahren?

Ein Sprachassistent, der sich verselbstständigt und mitten in der Nacht – in der Abwesenheit seines Besitzers – Party macht, so dass Nachbarn die Polizei rufen, um für Ruhe zu sorgen. Ein lernfähiger Chat-Roboter, der mit Teenagern via Twitter kommunizieren soll und stattdessen binnen 24 Stunden zum frauenfeindlichen Rassisten avanciert. Wer haftet in Fällen wie diesen? An wen sich wenden, um einen Schaden geltend zu machen? Ist das deutsche Recht darauf überhaupt vorbereitet? Antworten auf Fragen wie diese suchten Experten verschiedener Branchen auf der Konferenz Net.Law.S, die am 20. und 21. Februar in Nürnberg stattfand.

Die Welt wird immer digitaler. Zeitungen werden online gelesen, Nachrichten und Musik auf Befehl von Sprachassistenten abgerufen. Dabei hat ihr Siegeszug erst begonnen. Doch rechtlich ist die Digitalisierung in vielen Belangen noch immer eine Grauzone. Nicht nur für die Verbraucher stellt dies oft eine Herausforderung dar, auch für Juristen.

Amazon Echo

„Wer ist haftbar, wenn selbstlernende Systeme von außen manipuliert werden?“, fragt Eric Hilgendorf. Der Professor für Strafrecht sowie Leiter der Forschungsstelle RobotRecht an der Universität Würzburg sieht „großen Diskussionsbedarf“, wie er auf der Net.Law.S sagt. Zum zweiten Mal fand die Konferenz für Recht, Gesellschaft und Industrie in der digitalen Welt in Nürnberg statt – mit zahlreichen Vorträgen und Diskussionen vor allem zu den Themen Industrie 4.0, E-Health sowie Smart Mobility. Die Nachfrage nach Wissen zu den Themen ist groß. Denn noch ist das deutsche Recht nur ungenügend für die neuen Zeiten gewappnet. An wen etwa wendet man sich, wenn ein Chat-Roboter beleidigend wird?

Der Experte sieht zahlreiche Gesetzbücher von den Veränderungen betroffen: Straf-, Zivil-, Urheber-, Verfassungs-, Versicherungsrecht und natürlich das Datenschutzrecht. So seien noch Haftungs- und Schadenersatzfragen ungeklärt. „Aber auch die Grundrechte sind involviert – etwa wenn es um die Würde des Menschen geht, die allgemeine Handlungsfreiheit, die unternehmerische Freiheit oder den Schutz von Eigentum“, so Hilgendorf.

Auch ethische Fragen müssen geklärt werden

Einen großen Stellenwert räumt er dabei ethischen Fragen ein. „Die Weichen dafür werden jetzt gestellt.“ Deswegen plädiert der Rechtsexperte dafür, erst einmal in alle Richtungen zu denken – ohne sich gleich wieder durch Gedanken an wirtschaftliche Konsequenzen zu beschränken.

Allein das Thema Datenschutz ist ein weites Feld. „Und hochkomplex“, wie Hilgendorf weiß. „Sprachassistenzen wie Amazons Alexa sprechen unsere Neugier an.“ Doch dieses Interesse ist kein einseitiges. Noch weiß man nicht, welche Daten gleichzeitig über den Nutzer gesammelt werden. „Was wird das mit den Menschen machen, wenn man sich permanent beobachtet fühlt wie in einer Truman-Show“, will der Experte wissen. Er fürchtet, dass die persönliche Entwicklung dabei Schaden nehmen könnte.

Prof. Dr. Dr. Eric Hilgendorf, Julius-Maximilians-Universitaet-Wuerzburg

Denn die Nutzer der modernen Technik werden immer jünger. Selbst in Spielzeug verbauten Firmen mitunter Möglichkeiten, kleine Anwender zu überwachen. Wie also wehrt man sich dagegen? Zwar gebe es die Option, solche Spielzeuge oder fehlgeleitete Sprachassistenten zurückzugeben. Davon machten aber die wenigsten Kunden Gebrauch. „Und es sind nur kleine Rechte, die an einem großen Problem nichts ändern werden“, so Hilgendorf.

Denn was, wenn ein selbstlernendes Kinderspielzeug – wie der zum Frauenhasser und Rassisten mutierte Sprachavatar von Microsoft namens Tay – anfängt, dem Nachwuchs krude Ideen in den Kopf zu setzen? Dabei hatte das System perfekt funktioniert: Es hatte seinen Auftrag erfüllt und gelernt – jedoch von Nutzern, die es missbrauchten. Da sie im World Wide Web nicht identifiziert werden konnten, war auch niemand haftbar zu machen. Hier plädiert Hilgendorf für eine Beschränkung des erlernbaren Wissens. „Was ist, wenn ein selbstfahrendes Auto lernt, Menschen zu überfahren?“

Wem gehören die gesammelten Daten?

Bei der Nutzung von gesammelten Daten sieht er ebenfalls noch vieles ungeklärt. Wer hat das Recht an Daten? Wie dürfen sie genutzt werden? „Hier müssten die großen Spieler im Markt beschränkt werden – auch zugunsten der Verbraucher“, sagt der Rechtswissenschaftler. Schließlich sind die Daten das Gold des neuen, digitalen Zeitalters. „Jeder sollte die Chance haben, das, was über ihn gesammelt und berichtet wird, einzusehen.“ Noch viel zu leichtfertig oder einfach unbedarft gäben die Menschen ihre Daten preis. „Andere Leute sind damit sehr reich geworden.“ Zwar gebe es einen starken Datenschutz auf dem Papier, dessen Umsetzung sei allerdings zweifelhaft – zumal die Regeln oft nicht verstanden würden.

Dass die Welt bei der Anpassung der Gesetze an die Digitalisierung durchaus auf Deutschland schaue, habe das Straßenverkehrsrecht deutlich gemacht. Die Regelungen zum Fahren von Autos mit hoch- und vollautomatisierter Fahrfunktion, die der Bundestag vor knapp einem Jahr verabschiedete, seien von Japan und China in Teilen „eins zu eins“ übernommen worden. „Selbst in den USA wird die Debatte hierzulande aufmerksam verfolgt.“

Eine ähnlich breite Diskussion wünscht sich Hilgendorf nun auch für die anderen Bereiche. „Hier werden in den kommenden fünf, sechs Jahren die Weichen für die rechtliche Basis gestellt.“ Aber auch eine Anpassung der Lehrinhalte an den Universitäten hält er für erforderlich. Für Juristen mit Hintergrundwissen zu Digitalisierung und Datenschutz sieht er goldene Zeiten anbrechen.