Lasar Künstliche Intelligenz in der GmbH

1. Auflage 2023
ISBN: 978-3-8005-9630-0
Verlag: Fachmedien Recht und Wirtschaft
Format: EPUB
Kopierschutz: 6 - ePub Watermark

E-Book, Deutsch, 240 Seiten, Format (B × H): 148 mm x 210 mm

Reihe: Betriebs-Berater Schriftenreihe/ Wirtschaftsrecht

Technologische Entwicklungen wie der Einsatz von künstlicher Intelligenz (KI) lassen auch die Gesellschaft mit beschränkter Haftung (GmbH) nicht unberührt. Besonders der Einsatz von KI unmittelbar im Bereich der Unternehmensleitung und im Unternehmen bzw. im Geschäftsbetrieb selbst drängen sich auf. Überlegungen reichen bis zur KI-geführten Kapitalgesellschaft und praktische Schritte in diese Richtung sind bereits unternommen. Zeigen sich weitreichende Einsatzmöglichkeiten und wirtschaftliche Potentiale, gehen mit neuen Entwicklungen rechtliche Unsicherheiten und Herausforderungen einher.

Besonders aus dem Organ- und Kompetenzgefüge der GmbH, mithin dem Zusammenwirken von Geschäftsführer und Gesellschafterversammlung, folgen rechtliche Fragestellungen wie bspw. wer innerhalb der GmbH überhaupt über den Einsatz von KI zu entscheiden hat, welche Sorgfaltspflichten beim Einsatz von KI bestehen und damit letztlich, wer im Innen- und Außenverhältnis wofür einzustehen hat und womöglich haftet. Zur Beantwortung u. a. dieser Fragen leistet dieses Werk einen Beitrag. Es hat zum Gegenstand, Zuständigkeiten und allgemeine sowie gesellschaftsrechtliche Pflichten beim Einsatz von KI auszumachen. Entscheidungs- und Haftungsmaßstäbe werden dargelegt. Darüber hinaus werden organspezifische Einsatzmöglichkeiten aufgezeigt und die jeweiligen Pflichten herausgearbeitet.

Zielgruppe

Unternehmen, Geschäftsführer, Geschäftsleitung

Autoren/Hrsg.

Lasar, Tom

Fachgebiete

• Rechtswissenschaften Wirtschaftsrecht Handels- und Gesellschaftsrecht GmbH und GmbH-Geschäftsführer, Limited, UG

Leseproben

A. Begriffsbestimmung
Zunächst einmal bedarf es der Definition einschließlich der Unterscheidung und Abgrenzung der Begriffe „Digitalisierung“ und „künstliche Intelligenz“. I. Digitalisierung Der Begriff der Digitalisierung dient in gewisser Weise als Überbegriff für verschiedene Entwicklungen und Technologien wie insb. das Internet der Dinge, KI und die Blockchain-Technologie.5 Die Digitalisierung ermöglicht u.a. die intelligente Automatisierung von Vorgängen mit teils hoher Komplexität.6 Angesichts ihrer Potentiale und besonders im produktionsbezogenen Bereich wird sie mitunter auch als Industrie 4.0 im Sinne einer vierten industriellen Revolution bezeichnet.7 Umfangreiche digitale Nutzungs- und Geschäftsmodelle werden oder sind bereits möglich, die praktisch sämtliche Bereiche des Lebens erfassen, denkt man bspw. an Mobilitätsdienstleister wie FREE NOW und UBER, Unterkunftsmöglichkeiten wie AirBnB oder auch Partnervermittlungen und sonstige zwischenmenschliche Beziehungen betreffende digitale Plattformen.8 Die praktische Relevanz der Digitalisierung drängt sich angesichts dessen und des ökonomischen Potentials auf.9 Annahmen gehen bspw. von bis zu 70–90 % Ressourcenersparnis durch den Einsatz digitaler Systeme in der Logistik aus.10 Digitalisierte Verfahren sind in bestimmten Bereichen bereits Alltag für die GmbH11, betrachtet man Werkzeuge zur Kommunikation und Erleichterung bestehender Prozesse wie bestehende Online-Register12 oder auch den Bereich Legal Tech mit bspw. digitalen Datenräumen.13 Ebenso zu beachten sind Entwicklungen wie die Online-Gründung von Gesellschaften.14 Im Hinblick auf die GmbH reicht die Diskussion betreffend ihre weitere Digitalisierung mithin bis zur Digitalisierung von Strukturmaßnahmen und zur sich selbst steuernden Gesellschaft.15 II. Künstliche Intelligenz als Teilbereich Auch wenn KI als Teilbereich der Informatik16 aufzufassen und der fortschreitenden Digitalisierung zuzuordnen17 ist, stellen sich hinsichtlich der konkreten Begriffsbestimmung gewisse Schwierigkeiten18. So herrscht diesbezüglich jedenfalls keine vollkommene Einigkeit oder Allgemeingültigkeit.19 Entsprechend zeigt sich KI mitunter als „mythenumrankte Technik“.20 Unklare Begriffsgrenzen folgen aus der Tatsache, dass im Bereich der KI verschiedene wissenschaftliche Bereiche aufeinandertreffen: Neben der Informatik nimmt bspw. die Neurowissenschaft einen gewichtigen Platz ein.21 Eine begriffliche und damit inhaltliche Konkretisierung ist gleichwohl möglich. Es können technische Merkmale herausgearbeitet werden. Ausgangspunkt kann dabei mit Herberger sowie Kreutzer/Sirrenberg eine an der Wortbedeutung und Begriffskombination ausgerichtete Annäherung sein, welche die Begriffe „Intelligenz“ und „künstlich(e)“ einzeln und im Zusammenhang untersuchen.22 Abgesehen von dieser begrifflichen Untersuchung wird insgesamt und übereinstimmend gleichwohl deutlich gemacht, dass KI als algorithmenbasierte Software zur Nachbildung menschlicher Handlungsweisen beim auf Erfahrungen beruhenden Lernen zu verstehen ist.23 Beispielsweise heißt es vom Deutschen Institut für Normung e.V.: „Künstliche Intelligenz (KI) basiert auf neuronalen Netzen beziehungsweise IT-Architekturen, die dem menschlichen Gehirn nachempfunden sind und Informationen nicht wie bei klassischen Speicherelementen bedingungslos speichern, sondern eigenständig verarbeiten und darauf reagieren“.24 Mit KI versehene Maschinen können autonom handeln und Entscheidungen treffen.25 KI zeichnet eine gewisse selbstständige und fortschreitende Verbesserung und eigene Fortschreibung (sog. machine/deep learning) aus, die auf der Auswertung von Daten basiert.26 Auf diese Weise können Muster erkannt und zukunftsgerichtet Unsicherheiten statistisch genauer abgebildet werden.27 Der Algorithmus zieht aus den bereitgestellten Daten und Mustern Schlüsse und leitet hieraus Vorhersagen ab.28 Insgesamt ist KI in der Lage, Muster z.B. in Sprache und Bildern zu erkennen und zu verarbeiten, maschinell zu lernen, als Expertensystem zu agieren sowie maschinell zu planen und zu handeln.29 Anhand dieser technischen Fähigkeiten30 orientiert sich auch die gesetzgeberisch angedachte Begriffbestimmung des Art. 3 Nr. 3 des KI-VO-E, wonach ein „System der künstlichen Intelligenz“ (KI-System) eine Software [ist], die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren31. Als Techniken und Konzepte listet Anhang I wiederum (i) Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning), (ii) Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Wissensgrundlagen, Inferenz- und Deduktionsmaschinen, (symbolischer) Schlussfolgerungs- und Expertensysteme sowie (iii) statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden. Das maschinelle Lernen hat letztlich zum Ziel, dem menschlichen Verhalten inkl. dessen Fehlbarkeit gleichzukommen32 oder dieses gar (insb. hinsichtlich Schnelligkeit, Effektivität und Effizienz) zu übertreffen33. Dabei reichen die Anwendungsbereiche und Vorstellungen von der Übernahme einzelner Aufgaben (sog. schwache KI) bis hin zur umfangreichen Wahrnehmung menschlicher Fähigkeiten (sog. starke KI oder sogar sog. Superintelligenz).34 In gewisser Hinsicht führt der Einsatz von KI damit dazu, dass der Mensch in den jeweiligen Einsatzbereichen ersetzt wird.35 Der Einsatz von KI kann es gleichwohl mit sich bringen, dass KI-generierte Entscheidungen und insb. ihr Zustandekommen mitunter nicht erklärt werden können (sog. „Black Box“-Problem).36 Die Prozesse zwischen der Dateneingabe und den von einer KI generierten Ergebnissen bzw. der Datenausgabe können i.d.R. nicht und jedenfalls nicht im Detail nachvollzogen werden.37 Scheinen die generierten Ergebnisse auch korrekt, ist ihr Zustandekommen insb. bei autonomen Systemen nicht zwingend nachvollziehbar und transparent.38 Schon gar nicht besteht die Möglichkeit einer argumentativen Nachvollziehbarkeit.39 Eine KI ist schlichtweg nicht vergleichbar zu natürlichen Personen ansprechbar. Aufgrunddessen und der Tatsache, dass KI-basierte Entscheidungen im Unterschied zu schlichten Algorithmen nicht nach zwingend vorgegebenen Parametern im Sinne eines „Wenn-A-dann-B“-Schemas bzw. einer „Ja/Nein“-Fragestellung getroffen werden40, kann sich der Einsatz von KI als problematisch erweisen. 5 Sassenberg/Faber-Unger, Industrie 4.0-Hdb., § 1 Rn. 87; Bartuschka, CB 2019, 340f.; Herberger, NJW 2018, 2825, 2828; Paal, ZGR 2017, 590, 599; Stiemerling, CR 2015, 762; vgl. zu den Entwicklungen in Gesetzgebung und Rechtsprechung Mitterer/Wiedemann/Thress, BB 2021, 2 mit Verweis auf entsprechende Enwicklungen in den Jahren seit 2016.
6 Beck, DÖV 2019, 648.
7 Sassenberg/Faber-Henseler/Unger, Industrie 4.0-Hdb., § 1 Rn. 21; Käde/von Maltzan, CR 2020, 66; Fischer, BOARD 2019, 68; Heuer-James/Chibanguza/Stücker, BB 2018, 2818; Mitterer/Wiedemann/Zwissler, BB 2017, 3; Bormann, ZGR 2017, 621, 622; Bräutigam/Klindt, NJW 2015, 1137.
8 Sassenberg/Faber-Henseler/Unger, Industrie 4.0-Hdb., § 1 Rn. 1, 21; Fischer, BOARD 2019, 68; Möslein, ZIP 2018, 204 m.w.N.; Sattler, BB 2018, 2243, 2248; Paal, ZGR 2017, 590, 599f.; Conrad, DuD 2017, 740, 741f.; Stiemerling, CR 2015, 762.
9 Thiel/Nazari-Khanachayi, RDi 2021, 134.
10 „Die Zukunft der Logistik – Die Zukunftsforscher Karl-Heinz Land und Prof. Dr. Peter Holm im Interview“, abrufbar unter https://www.dbcargo.com/rail-de-de/logistiknews/die-zukunft-der-logistik-interview-karl-heinz-land-peter-holm-6160646 (Zugriff am 02.06.2021).
11 Bormann, ZGR 2017, 621, 624ff.
12 Bormann, ZGR 2017, 621, 624.
13 Wagner, notar 2021, 89; Noack, ZHR 183 (2019), 105, 142.
14 Vgl. dazu ausführlich Stelmaszczyk, EuZW 2021, 513f.; Zetzsche, AG 2019, 1, 5; Möslein, ZIP 2018, 204.
15 Vgl. dazu Armour/Eidenmüller, ZHR 183 (2019), 169, 170; Sattler, BB 2018, 2243; Bormann, ZGR 2017, 621, 633ff.
16 Weber-Groh, „Künstliche Intelligenz“; Linardatos, ZIP 2019, 504; Stiemerling, CR 2015, 762.
17 Sassenberg/Faber-Unger, Industrie 4.0-Hdb., § 1 Rn. 87; Bartuschka, CB 2019, 340f.; Paal, ZGR 2017, 590, 599; Stiemerling, CR 2015, 762.
18 Kaulartz/Braegelmann-Kaulartz/Braegelmann, Rechtshandbuch AI, Kapitel 1, Rn. 1; Zech, ZfPW 2019, 198, 199; Herberger, NJW 2018, 2825f.
19 Kreutzer/Sirrenberg, KI verstehen, S. 3; Geminn, ZD 2021, 354; Stechern, IPRB 2020, 23; Klar, BB 2019, 2243; Bartuschka, CB 2019, 340; Herberger, NJW 2018, 2825f.; Klaas, MMR 2019,...

Über Autor(innen)

Tom Lasar studierte Rechtswissenschaften an der Universität Hamburg sowie der China-EU School of Law in Peking. Parallel dazu und während der Anfertigung seiner Dissertation arbeitete er u.a. als wissenschaftlicher Mitarbeiter im Bereich Corporate/M&A in einer internationalen Großkanzlei. Gegenwärtig absolviert er das Referendariat im Gerichtsbezirk des Oberlandesgerichts Celle mit Stationen u.a. in Berlin, Paris und New York.