Der rechtliche Tech-Check

Der rechtliche Tech-Check (oder auch Legal Tech-Check) ist für Sie interessant, wenn Sie mit Technologien arbeiten oder arbeiten wollen, die Sie in ihren Chancen und Risiken wenig bis gar nicht einschätzen können. Vor allem dann, wenn Ihnen erklärt wird, Vertrauen würde nicht mehr benötigt.

Der technologische Fortschritt ist wesentlich schneller als der Prozess der Fortentwicklung des Rechts. Da ist es nur verständlich, dass die Vereinbarung von Recht und Technologie als große, bisweilen größte Herausforderung des 21. Jahrhunderts wahrgenommen wird. Dabei ist es schwierig zu sagen, wo und wie sich diese Herausforderung am meisten bemerkbar macht; letztendlich trifft die Digitalisierung jeden und ist ein langwieriger Prozess. Grundsätzlich.

Digitalisierung: Schnell ist nicht immer gut.

Die Corona-Pandemie hat gezeigt, dass Digitalisierung zuvor weniger an den praktischen Umsetzungsmöglichkeiten, sondern vielmehr an der Motivation und dem fehlenden Erkennen der innewohnenden Möglichkeiten gescheitert ist. Die große Herausforderung war hier also nicht, binnen kurzer Zeit auf digitales Arbeiten aus dem heimischen Mitarbeiterbüro umzustellen. Die große Herausforderung kommt erst jetzt: Die Nachteile und Risiken der schnellen Implementierung von Prozessen, mit denen weder die Leitung noch Mitarbeiter Erfahrung hatten, aufzuarbeiten und langfristig auszuräumen. Denn die Corona-Krise hat zahlreiche Vulnerabilitäten und damit auch Angriffe auf Unternehmen(smitarbeiter) mit sich gebracht, die den Betroffenen unter Umständen nur noch nicht aufgefallen sind.

Auch gilt es, unter anderem, eingehend zu prüfen, ob die Datenschutzbestimmungen eingehalten wurden und Fehler umfassend zu korrigieren. Sollte es zu einem sog. Daten-Leak gekommen sein, gilt eine unverzügliche Meldepflicht, möglichst binnen 72 Stunden, gegenüber der zuständigen Aufsichtsbehörde. Unter Umständen kommen noch andere gesetzliche Meldepflichten in Betracht. Nicht zu vergessen sind die Gefahren, die ein infolge der übereilten Pandemie-Digitalisierung von Prozessen lascher Geheimnisschutz mit sich bringt.

Neue digitale Geschäftsmodelle

Doch auch schon vor der Pandemie werbewirksam eingesetzte Technologien wie Blockchain oder Künstliche Intelligenz haben ein wenig das Recht aus Augen und Sinn geraten lassen. Auch verständlich, denn diese Technologien sind in unseren Gesetzen nicht erwähnt. Die Auslegung der Gesetze im Kontext der neuen Technologien ist nicht einfach – schließlich bedarf es zumindest fundierter Grundkenntnisse von Technologie und Recht, um sie richtig anzuwenden.

Blockchain

Sog. Decentralized Finance (DeFi) Systeme haben gezeigt, dass es möglich ist, das Banken- und Finanzdienstleistungsgeschäft weitgehend in die digitale Sphäre zu verlegen und sie vom menschlichen Mitwirken in einem hohen Grad loszulösen. Dabei wirken finanzielle Anreize, die es für Verbraucher und professionelle Investoren besonders schwer machen, die realen Risiken des (Total-)Verlusts noch zu erkennen. Die Entwickler nehmen nicht selten an, dass sie keinerlei rechtliche Pflichten treffen – nach ihrem Dafürhalten stellen sie lediglich Software bereit. Doch auch eine Börse als virtueller Handelsplatz legt ihre erlaubnispflichtige Rolle nicht ab, indem sie schlichtweg erklärt, sie würde lediglich Software bereitstellen. Hier fehlt es oft an grundlegenden rechtlichen Kenntnissen.

Daneben vergessen viele Anbieter von Blockchain-Produkten, dass die Blockchain-Technologie endlich ist. Die Ethereum-Blockchain, die wohl wichtigste Plattform im Bereich Blockchain-basierten FinTechs, ist mittlerweile derart „überfüllt“, dass schnell Wege gefunden werden müssen, um das Kapazitätsproblem zu lösen und das nahende Ende zu verhindern. Als eine Möglichkeit bietet sich hier das sog. Blockchain Space Trading an, welches noch recht unbekannt, aber vielversprechend ist. Dabei werden weitere Blockchains erschaffen, deren Kapazitäten auf der Ethereum-Plattform in Token-Form angeboten werden. Hier könnte, je nach Ausgestaltung, ein erlaubnispflichtiger Tatbestand vorliegen. Der reine „Utility Token“ ist auch hier nicht gegeben.

KI

Im Hinblick auf den Einsatz sog. künstlich intelligenter Systeme ist die wohl am meisten aufgeworfene Frage die der Haftung, wenn doch etwas schief geht. Wenn etwa der Hersteller seine Produktion von „KI“ steuern lässt, diese jedoch Prozesse durcheinander oder zum Stillstand bringt. Mit der Folge, dass sämtliche Nachfolger in der Lieferkette nicht mehr beliefert werden können. Wenn das autonome Fahrzeug Sach- oder Personenschaden verursacht durch eine Fehlfunktion, eine mögliche Fernsteuerung oder auch eine sog. Data-Poisoning-Attack vonseiten Dritter. Wenn der Betreiber einer kritischen Infrastruktur sich auf von ihm (mit-)entwickelte „KI“ verlässt und “von ihr” verlassen wird. Ist er dann vertrauensunwürdig? Welche Folgen hat ein nicht vorhergesehener Fehler für ein Unternehmen und die Menschen, die von ihm abhängig sind?

Vorsorge ist die beste Sorge. Das Europäische Parlament hat noch im April 2020 einen Entwurf einer (in den Mitgliedstaaten unmittelbare Geltung findenden) Verordnung auf den Weg gebracht, die eine Gefährdungshaftung für Betreiber hochriskanter KI-Systeme und eine Beweislastumkehr für Betreiber sonstiger KI-Systeme vorsieht. Es steht zu erwarten, dass die Implementierung dieses Vorschlags folgt. Denn mehr Freiheiten bei der Entwicklung von neuen und bisweilen riskanten Technologien bedürfen zugleich mehr Verantwortlichkeit. Im eigenen Interesse sollten daher dafür Sorge getragen werden, dass die Bedingungen, die man mit KI setzt oder auch setzen kann, bestmöglich beherrscht werden können.

Hören Sie hierzu meinen Vortrag zum Thema “Unvorhersehbare (Fehl-)entscheidungen von KI-Systemen”.

V

Was kann ich für Sie tun?

  • Benötigen Sie eine rechtliche Begutachtung Ihres Projekts vor dem Launch bzw. Ihrer Idee vor dem Projektstart, z.B. zwecks Erörterung des Bedarfs einer behördlichen Erlaubnis?
  • Benötigen Sie eine gutachterliche Bewertung der rechtlichen Haftungsrisiken z.B. im Zusammenhang mit der Herstellung oder des Einsatzes vorgenannter Technologie-Produkte? Und die Erarbeitung von Ansätzen zur Reduzierung bzw. Beseitigung dieser Risiken?
  • Benötigen Sie eine begleitende Unterstützung, z.B. zugunsten regelmäßiger Rückfragemöglichkeiten im Rahmen des agilen Entwicklungsprozesses?
  • Benötigen Sie Unterstützung bei der Beschreibung von komplexen technischen und rechtlichen Zusammenhängen im Rahmen der Beantragung einer Erlaubnis, im Rahmen der Erstellung von Wertpapierprospekten, Pitches oder ähnliches?

Sprechen Sie mich gerne an! Bitte übermitteln Sie jedoch keine Informationen, die für die Augen (und Ohren) Dritter nicht bestimmt sind. Wie die zu prüfenden Informationen bereitgestellt werden können, besprechen wir zunächst im Detail.