KI-Recht/ AI: KI-Haftung, KI-Compliance, KI-Risiken, KI-Verträge und -Forschung

Künstliche Intelligenz (KI) ist ein Bereich der Informatik, der darauf abzielt, Maschinen zu entwickeln, die in der Lage sind, Aufgaben zu übernehmen, die typischerweise menschliche Intelligenz erfordern. Dazu gehören das Erkennen von Mustern, das Verstehen und Verarbeiten von Sprache, das Lernen aus Erfahrungen sowie Problemlösungs- und Entscheidungsfähigkeiten. KI wird durch Algorithmen und große Datenmengen ermöglicht und kann in vielen Bereichen des täglichen Lebens angewendet werden, von Sprachassistenten und Chatbots bis hin zu automatisierten Diagnosewerkzeugen in der Medizin.

Welche KI-Formen gibt es?

Natürlich gibt es unterschiedliche Einteilungen der KI. Hier wird eine herausgegriffen.

Schwache KI (Narrow AI)

Schwache KI ist auf spezifische Aufgaben beschränkt und wird so programmiert, dass sie diese sehr gut ausführen kann, ohne ein allgemeines Verständnis oder Bewusstsein zu besitzen. Beispiele sind Sprachassistenten wie Siri und Alexa, Gesichtserkennungssysteme und Empfehlungsalgorithmen. Schwache KI ist die aktuell verbreitetste Form und deckt die meisten KI-Anwendungen ab, die wir heute erleben.

Starke KI (Strong AI)

Starke KI beschreibt hypothetische Maschinen, die ein menschenähnliches Bewusstsein und allgemeines Verständnis besitzen und in der Lage sind, sich an neue Situationen anzupassen und eine breite Palette kognitiver Aufgaben auf menschlichem Niveau zu erfüllen.

Superintelligenz

Superintelligenz bezieht sich auf eine KI, die die menschlichen Fähigkeiten in allen Aspekten übertreffen würde, von Kreativität bis hin zur Problemlösung und emotionalem Verständnis. Sie könnte Entscheidungen treffen und Probleme lösen, die Menschen nicht in der Lage wären zu durchdenken. Superintelligenz ist zurzeit nur theoretisch und wird sowohl als potenzieller Segen als auch als Risiko für die Menschheit gesehen.

Maschinelles Lernen (ML) und Deep Learning (DL)

Diese Formen der KI verwenden Algorithmen, die aus Daten lernen, anstatt explizit programmiert zu werden. Maschinelles Lernen umfasst Algorithmen, die Muster erkennen und Vorhersagen treffen, während Deep Learning neuronale Netzwerke nutzt, die komplexe Aufgaben wie Spracherkennung oder Bildverarbeitung ermöglichen. Dies ist die Technologie hinter den meisten aktuellen KI-Anwendungen.

Zukünftige KI-Formen: Autonome KI und Quanten-KI

Die Entwicklung in Richtung autonome KI-Systeme (wie selbstfahrende Autos oder autonome Roboter) und die Integration von Quantencomputing in KI versprechen eine neue Generation von KI-Systemen mit noch größerer Rechenleistung und Problemlösungsfähigkeit. Quanten-KI könnte in Bereichen wie Wettervorhersage, Medikamentenentwicklung und Finanzanalysen große Fortschritte ermöglichen.

Insgesamt durchläuft die KI-Entwicklung eine Evolution von spezialisierten, eng begrenzten Anwendungen hin zu allgemeineren, flexibel einsetzbaren Systemen mit dem Ziel, eine KI zu erschaffen, die in immer komplexeren und vielfältigeren Bereichen menschliche Intelligenz simulieren oder ergänzen kann.

Haftung für den Einsatz von KI (KI-Haftung)

Die Haftung für den Einsatz von Künstlicher Intelligenz (KI) in Europa ist komplex und umfasst eine Vielzahl rechtlicher Aspekte. Die Europäische Union (EU) arbeitet aktiv an der Regulierung von KI, um Risiken für die Gesellschaft zu minimieren und sicherzustellen, dass KI-Systeme sicher und ethisch vertretbar eingesetzt werden. Der aktuelle Rechtsrahmen basiert auf bestehenden Gesetzen zur Produkthaftung, jedoch sind neue Regulierungen in Arbeit, die speziell auf KI-Systeme zugeschnitten sind. Hier sind einige der wichtigsten Ansätze und Akteure, die für die Haftung von KI verantwortlich sind:

1. KI-Produkthaftung und KI-Produzentenhaftung

Produkthaftung, vertragliche Haftung und deliktische Produzentenhaftung sind getrennt zu prüfen. Entscheidend sind insbesondere Produkt, Fehler, Schaden, Kausalität, Rolle des Beteiligten und das zeitlich anwendbare Recht. Entwickler oder Trainingsdatenanbieter haften nicht allein wegen ihrer Beteiligung automatisch. Das bisherige deutsche Produkthaftungsgesetz tritt am 9. Dezember 2026 außer Kraft; bei der Umstellung sind die Übergangsregeln und der Zeitpunkt des Inverkehrbringens beziehungsweise der Inbetriebnahme zu beachten.

2. KI-Anwenderhaftung und KI-Betreiberhaftung

Für den Betrieb von KI-Systemen haften oft auch die Anwender bzw. Betreiber. Dies gilt insbesondere für Unternehmen, die KI-Systeme in sensiblen Bereichen wie der Medizin, im Verkehr oder in der Finanzbranche einsetzen. In solchen Fällen müssen die Betreiber sicherstellen, dass die Systeme regelmäßig überprüft, gewartet und im Einklang mit den gesetzlichen Bestimmungen verwendet werden.

Bei automatisierten Fahrzeugen kann die Halterhaftung nach § 7 StVG unabhängig vom Nachweis eines Wartungsverschuldens eingreifen. Daneben sind insbesondere Fahrer-, Hersteller- und gegebenenfalls weitere Verantwortlichkeiten anhand des konkreten Geschehens zu prüfen.

3. Haftung bei hoher Risikokategorie – der "EU AI Act"

Die KI-Verordnung (EU) 2024/1689 gilt mit gestaffelten Anwendungsdaten. Nach der im Juli 2026 in Kraft getretenen Omnibus-Änderung gelten die maßgeblichen Hochrisikoregeln für Systeme nach Anhang III ab 2. Dezember 2027 und für produktbezogene Hochrisikosysteme nach Anhang I ab 2. August 2028. Zahlreiche andere Vorschriften gelten bereits, insbesondere die Transparenzpflichten grundsätzlich seit 2. August 2026. Übergangs- und Sonderregeln sind für jedes System gesondert zu prüfen.

4. Sorgfaltspflichten und Dokumentationspflichten

Die konkreten Sorgfalts- und Dokumentationspflichten hängen vom anwendbaren Recht, der Rolle des Beteiligten und dem Verwendungszweck ab. Erforderlich sind angemessene Risikobewertung, Schutzmaßnahmen und Überwachung. Eine allgemeine gesetzliche Garantie, dass KI niemals unvorhersehbare Schäden verursacht, besteht nicht.

5. Zivilrechtliche KI-Haftungsrichtlinie

Der Vorschlag COM(2022) 496 für eine KI-Haftungsrichtlinie wurde am 6. Oktober 2025 zurückgezogen. Er ist kein geltendes Haftungsrecht. Die KI-Verordnung, das Produkthaftungsrecht und allgemeine vertragliche sowie deliktische Haftungsregeln sind getrennt zu prüfen.

6. KI-Datenschutz und ethische Standards für KI

Der Datenschutz (DSGVO) spielt ebenfalls eine Rolle in der Haftung von KI-Systemen. Unternehmen müssen sicherstellen, dass KI-Systeme die Daten der Nutzer sicher verarbeiten und keinen Schaden verursachen. Verstöße gegen die DSGVO, die durch den Einsatz von KI verursacht werden, können zu hohen Bußgeldern und Haftungsansprüchen führen.

Zusammenfassung: Wer haftet wofür?

• Hersteller und Entwickler können nach den Voraussetzungen des jeweils anwendbaren Haftungstatbestands verantwortlich sein; ein fehlerhaftes Ergebnis allein beantwortet die Haftungsfrage nicht.
• Betreiber und Nutzer können bei zurechenbarer Pflichtverletzung oder aufgrund besonderer gesetzlicher Haftungstatbestände verantwortlich sein.
• Die KI-Verordnung enthält regulatorische Pflichten. Sie ist von zivilrechtlichen Schadensersatzansprüchen zu unterscheiden; eine KI-Haftungsrichtlinie auf Grundlage des zurückgezogenen Vorschlags ist nicht in Kraft.

Ziel der KI-Gesetzgebung ist es, Innovationen zu fördern, ohne dabei die Sicherheit und Rechte der Menschen zu vernachlässigen.

KI-Compliance

Die rechtliche Beurteilung von KI-Compliance in Europa ist eine vielschichtige Herausforderung. Sie wird von einer Kombination aus neuen EU-Verordnungen, wie dem  AI Act, sowie bestehenden Gesetzen und Richtlinien beeinflusst, die verschiedene Aspekte der Compliance betreffen, darunter Datenschutz, Produkthaftung und ethische Prinzipien.

1. EU AI Act: Der zentrale Rahmen für KI-Compliance

Der AI Act der EU  ist die erste umfassende Regulierung für KI-Systeme und legt einen einheitlichen Rechtsrahmen für die gesamte EU fest. Der AI Act verfolgt einen risikobasierten Ansatz und stuft KI-Systeme in vier Risikokategorien ein:

• Unannehmbares Risiko: Bestimmte KI-Anwendungen, die die Rechte und Freiheiten von Menschen verletzen, sind komplett verboten (z. B. „Social Scoring“).
• Hohes Risiko: Die Einordnung richtet sich nach Art. 6 und den Anhängen der KI-Verordnung, nicht allein nach der Branche. Pflichten für Anbieter und Betreiber sowie Konformitätsbewertung und Aufsicht sind zu unterscheiden. Für die Hochrisikoregeln gelten die gestaffelten Termine und Übergangsbestimmungen.
• Begrenztes Risiko: Für Systeme mit begrenztem Risiko, wie etwa Chatbots, sind bestimmte Transparenzpflichten vorgesehen, z. B. müssen Nutzer darüber informiert werden, dass sie mit einer KI interagieren.
• Minimales Risiko: Für KI-Systeme mit minimalem Risiko, wie einfache Softwareanwendungen, bestehen keine spezifischen regulatorischen Anforderungen.

Der AI Act legt damit den Grundstein für KI-Compliance und schreibt spezifische Anforderungen an Transparenz, Dokumentation, Sicherheit und Risikomanagement vor.

2. Datenschutz-Grundverordnung (DSGVO)

Die DSGVO spielt eine zentrale Rolle bei der KI-Compliance, da KI-Systeme häufig große Mengen an personenbezogenen Daten verarbeiten. Die DSGVO setzt dabei strenge Anforderungen an Datenschutz und Transparenz:

• Einwilligung und Transparenz: Nutzer müssen über die Verwendung ihrer Daten informiert werden und gegebenenfalls ihre Einwilligung geben. Die Datenverarbeitung muss fair und transparent erfolgen.
• Recht auf Auskunft und Löschung: Personen haben das Recht zu erfahren, wie ihre Daten verarbeitet werden, und können die Löschung ihrer Daten verlangen.
• Automatisierte Entscheidungen: Art. 22 DSGVO betrifft insbesondere ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung. Ausnahmen und Schutzmaßnahmen sind gesondert zu prüfen; die Regel erfasst nicht unterschiedslos jede KI-gestützte Entscheidung.

Compliance mit der DSGVO ist für alle KI-Anwendungen, die personenbezogene Daten verarbeiten, zwingend erforderlich und stellt eine wesentliche Grundlage für die rechtskonforme Implementierung von KI dar.

3. Produktsicherheits- und Produkthaftungsrichtlinie

Produktsicherheit und Produkthaftung haben unterschiedliche Funktionen. Die Richtlinie (EU) 2024/2853 modernisiert die Produkthaftung insbesondere für Software und digitale Produkte; die konkrete Haftung richtet sich nach dem anwendbaren nationalen Recht und seinen Übergangsregeln. Es ist unzutreffend, sämtliche KI-Systeme ohne zeitliche und sachliche Prüfung schon nach jedem bestehenden Haftungsregime gleichzusetzen.

4. Zivilrechtliche KI-Haftungsrichtlinie

Der zurückgezogene Vorschlag für eine KI-Haftungsrichtlinie begründet keine Beweiserleichterungen. Ob und unter welchen Voraussetzungen bei einem KI-Schaden Beweiserleichterungen bestehen, richtet sich nach den jeweils anwendbaren geltenden Vorschriften.

5. Ethische Grundsätze und KI-Compliance

Die EU verfolgt eine ethische Leitlinie für den Einsatz von KI, die auf den Grundsätzen der Transparenz, Fairness und Nicht-Diskriminierung basiert. Diese ethischen Grundsätze sind vor allem für Hochrisiko-KI von Bedeutung. Unternehmen, die KI-Compliance anstreben, sollten die folgenden ethischen Richtlinien berücksichtigen:

Transparenz: Die Funktionsweise und Entscheidungsprozesse der KI müssen verständlich und nachvollziehbar sein, um Vertrauen zu fördern.

Vermeidung von Diskriminierung: KI-Systeme dürfen keine diskriminierenden Ergebnisse liefern. Sie sollten regelmäßig geprüft werden, um sicherzustellen, dass keine Vorurteile eingebaut sind.

Datensicherheit und Robustheit: KI-Systeme sollten so entwickelt werden, dass sie sicher, robust und vor externen Angriffen geschützt sind.

6. Technische KI-Compliance-Maßnahmen

Zur Einhaltung der rechtlichen Anforderungen müssen Unternehmen technische Maßnahmen umsetzen, darunter:

•     Risikomanagement und Tests: Unternehmen sollten vor dem Einsatz von KI-Systemen Risiken analysieren und Maßnahmen zur Risikominderung treffen.
•     Dokumentation und Audits: Eine lückenlose Dokumentation des Entwicklungsprozesses sowie regelmäßige Audits der Systeme sind für die Einhaltung von KI-Standards unerlässlich.
•     Erklärbarkeit der Algorithmen: Gerade bei Hochrisiko-KI-Anwendungen wird zunehmend eine Erklärbarkeit der Algorithmen gefordert, damit Entscheidungen überprüfbar und transparent sind.

Die rechtliche Beurteilung von KI-Compliance in Europa umfasst eine Mischung aus neuen und bestehenden Gesetzen, wobei der AI Act neben nationalen Gesetzen die zentrale Rolle spielt. Für Unternehmen ist es entscheidend, sich über diese Regelungen umfassend zu informieren und die Einhaltung durch technische und organisatorische Maßnahmen zu gewährleisten.

KI-Verträge

KI-Verträge sind rechtliche Vereinbarungen, die den Einsatz, die Entwicklung, die Lizenzierung und die Implementierung von Künstlicher Intelligenz (KI) regeln. Da KI-Technologien oft komplex und dynamisch sind, erfordern KI-Verträge besondere Regelungen, die auf spezifische rechtliche und technische Aspekte der KI zugeschnitten sind. Im Folgenden sind einige Arten von KI-Verträgen und die zentralen rechtlichen Regelungen aufgeführt, die in diesen Verträgen berücksichtigt werden sollten:

1. KI-Entwicklungs- und Forschungsverträge

Diese Verträge regeln die Entwicklung und Forschung von KI-Systemen. Sie werden oft zwischen KI-Entwicklern und Unternehmen oder Forschungsinstitutionen abgeschlossen und legen fest, wie eine KI-Lösung gestaltet und entwickelt werden soll.

Besondere Regelungen:

• Geistiges Eigentum: Wer ist Eigentümer des Codes, der Algorithmen und der Daten, die während der Entwicklung generiert werden? Es ist wichtig, festzulegen, ob der Entwickler, der Auftraggeber oder beide die Rechte besitzen.
• Vertraulichkeit: Schutz vertraulicher Informationen ist essenziell, da häufig sensible Daten und Geschäftsgeheimnisse in die Entwicklung einfließen.
• Leistungsanforderungen und Spezifikationen: Klar definierte technische Anforderungen und Leistungsindikatoren (KPIs) sind notwendig, um sicherzustellen, dass das KI-System den Erwartungen entspricht.
• Haftung und Risikoübernahme: Regelungen zur Haftung bei Fehlern, Verzögerungen oder Verstößen gegen ethische Grundsätze, die während der Entwicklung auftreten können, sind entscheidend.

2. KI-Lizenzverträge und KI-Nutzungsverträge

In diesen Verträgen wird die Nutzung einer bereits entwickelten KI-Lösung geregelt. Unternehmen erwerben eine Lizenz, um die KI-Software zu nutzen, und die Nutzungsbedingungen werden klar definiert.

Besondere Regelungen:

• Lizenzumfang und -dauer: Der Vertrag sollte den Nutzungsumfang, die Lizenzdauer und mögliche Einschränkungen der Nutzung (z. B. geografisch oder branchenbezogen) festlegen.
• Haftung für Schäden: Da KI-Systeme Fehlentscheidungen treffen können, ist eine Haftungsklausel für Schäden durch fehlerhafte Ergebnisse oder unvorhergesehene Konsequenzen der KI wichtig.
• Updates und Wartung: Regelungen zu regelmäßigen Updates, Wartung und technischen Support sind wichtig, um die Sicherheit und Funktionalität der KI langfristig zu gewährleisten.
• Rechtskonformität: Der Lizenzgeber sollte zusichern, dass das System mit allen geltenden Gesetzen, wie Datenschutz (DSGVO), Produktsicherheit und der jeweils anwendbaren KI-Verordnung, übereinstimmt.

3. KI-Datenverarbeitungsverträge

Da KI-Systeme oft auf umfangreiche Daten angewiesen sind, werden häufig Datenverarbeitungsverträge benötigt, um die Rechte und Pflichten beider Parteien bezüglich der Erhebung, Verarbeitung und Speicherung der Daten zu klären.

Besondere Regelungen:

• Datenschutz und DSGVO-Konformität: Die Datenverarbeitung muss vollständig mit der DSGVO konform sein, einschließlich der Vereinbarung über den Schutz personenbezogener Daten, Einwilligungen und der Rechte betroffener Personen.
• Verantwortlichkeiten: Die Verantwortlichkeit zwischen dem Datenverantwortlichen (z. B. der KI-Nutzer) und dem Datenverarbeiter (z. B. der Entwickler oder Anbieter) muss eindeutig geklärt sein.
• Datenqualität und -sicherheit: Anforderungen an die Datenqualität und Maßnahmen zur Sicherung der Datenintegrität und Vertraulichkeit sind wichtig, um KI-Systeme zu schützen und deren Leistung sicherzustellen.
• Datenzugang und Löschpflicht: Der Vertrag sollte festlegen, wer Zugang zu den Daten hat und wie lange die Daten aufbewahrt werden dürfen, sowie Regelungen zur Löschung der Daten nach Vertragsende.

4. KI-Wartungs- und Supportverträge

Solche Verträge regeln die Wartung, den Support und die regelmäßige Aktualisierung von KI-Systemen. Sie sind häufig bei komplexen KI-Lösungen erforderlich, die kontinuierliche Betreuung und Optimierung benötigen.

Besondere Regelungen:

• Service-Level-Agreements (SLAs): Definierte Leistungsstandards und Verfügbarkeiten für den Support, einschließlich Reaktionszeiten und Problemlösungsstandards.
• Sicherheitsaktualisierungen: Regelungen, die sicherstellen, dass sicherheitsrelevante Updates zeitnah zur Verfügung gestellt und implementiert werden.
• Fehlerbehebung und Notfallpläne: Prozesse für den Umgang mit kritischen Fehlern und Notfallmaßnahmen, die bei Fehlfunktionen der KI greifen.
• Auditierung und Compliance: Regelungen zur regelmäßigen Überprüfung und Einhaltung der rechtlichen und ethischen Anforderungen an das System.

5. KI-Verträge über ethische und rechtliche Standards (Compliance-Verträge)

Diese Verträge regeln die Einhaltung ethischer und rechtlicher Standards im Einsatz von KI, insbesondere bei Hochrisiko-Anwendungen.

Besondere Regelungen:

• Ethische Leitlinien: Festlegung ethischer Prinzipien, wie Fairness, Transparenz und Nichtdiskriminierung, die im Betrieb der KI eingehalten werden müssen.
• Transparenzpflichten: Verpflichtung zur Offenlegung bestimmter KI-Funktionen, wie z. B. der Entscheidungslogik oder der Datenquellen, um die Transparenz zu gewährleisten.
• Audit- und Prüfpflichten: Festlegung regelmäßiger interner und externer Audits zur Überprüfung der Einhaltung gesetzlicher und ethischer Anforderungen.
• Risikomanagement: Verpflichtung zur Risikobewertung und Implementierung von Risikominderungsmaßnahmen, um potenzielle Schäden oder Diskriminierung durch die KI zu verhindern.

6. KI-Partnerschafts- und Kooperationsverträge

Partnerschaften und Kooperationen in der Entwicklung oder Anwendung von KI sind häufig und erfordern detaillierte Kooperationsverträge.

Besondere Regelungen:

• Aufteilung der Rollen und Verantwortlichkeiten: Klar definierte Rollen, Verantwortlichkeiten und Zuständigkeiten beider Partner.
• Eigentumsrechte an Ergebnissen: Regelung, wem die Rechte an den Ergebnissen der Zusammenarbeit zustehen.
• Wettbewerbsverbote: Beschränkungen hinsichtlich des Wettbewerbs zwischen den Vertragsparteien in bestimmten Märkten oder Bereichen.
• Vertraulichkeit und geistiges Eigentum: Schutz von Geschäftsgeheimnissen und geistigem Eigentum während und nach der Kooperation.

Fazit

KI-Verträge sind aufgrund der Komplexität der Technologie und der hohen rechtlichen Anforderungen umfangreich und detailliert. Sie erfordern spezielle Regelungen für geistiges Eigentum, Haftung, ethische Standards und den Datenschutz. Die Einhaltung von EU-Vorschriften wie DSGVO und der jeweils anwendbaren KI-Verordnung ist entscheidend, um rechtliche Risiken zu minimieren und die Verantwortung für die Sicherheit und Zuverlässigkeit von KI-Systemen festzulegen.

KI-Forschung

Die rechtliche Regulierung der KI-Forschung ist ein zunehmend wichtiges Thema, da Fortschritte in der Künstlichen Intelligenz sowohl immense Chancen als auch erhebliche Risiken mit sich bringen. Die Europäische Union (EU) und andere internationale Akteure sind sich bewusst, dass KI-Forschung verantwortungsvoll und unter Berücksichtigung ethischer sowie rechtlicher Standards gefördert werden muss. Hier sind einige zentrale Aspekte der rechtlichen Regulierung von KI-Forschung und ihre zukünftigen Perspektiven:

1. Regulierung der Forschung an Hochrisiko-KI

Für Forschung ist der Anwendungsbereich des Art. 2 der KI-Verordnung gesondert zu prüfen. Ausnahmen bestehen insbesondere für ausschließlich wissenschaftlich entwickelte und eingesetzte Systeme sowie Forschung, Tests und Entwicklung vor dem Inverkehrbringen oder der Inbetriebnahme. Tests unter Realbedingungen fallen nicht unter die letztgenannte Ausnahme. Andere Vorschriften, etwa Datenschutz und sektorales Sicherheitsrecht, bleiben anwendbar.

Regulatorische Aspekte:

• Transparenzanforderungen: Ob und wem Informationen über System und Daten bereitzustellen sind, richtet sich nach den einschlägigen Vorschriften. Eine generelle Pflicht zur öffentlichen Offenlegung aller Modelle und Trainingsdaten folgt daraus nicht.
• Risikobewertungen und Sicherheitsprüfungen: Anwendbare Anforderungen und Schutzmaßnahmen sind abhängig von Forschungsstadium, System, Umfeld und betroffenen Personen festzulegen. Forschung ist nicht generell risikofrei; erforderliche Schutzstandards müssen nachweisbar eingehalten werden.
• Technische Standards und Konformitätsbewertung: Soweit das System dem Hochrisikoregime unterliegt und die betreffenden Regeln anwendbar sind, sind das passende Bewertungsverfahren und die Anforderungen an den Stand der Technik festzulegen. Nicht jede Forschungstätigkeit unterliegt einer allgemeinen Zertifizierungspflicht.

2. Datenschutz und ethische Standards in der KI-Forschung

Datenschutz ist ein zentraler Aspekt der KI-Forschung, da viele Systeme auf großen Mengen an personenbezogenen Daten trainiert werden. Die DSGVO legt strenge Anforderungen an die Nutzung solcher Daten fest und verlangt, dass KI-Entwickler die Privatsphäre und die Rechte der Personen respektieren.

Regulatorische Aspekte:

• Einhaltung der DSGVO: Die Verarbeitung personenbezogener Daten braucht eine einschlägige Rechtsgrundlage und gegebenenfalls zusätzliche Voraussetzungen für besondere Datenkategorien. Einwilligung ist eine mögliche, nicht die einzig denkbare Rechtsgrundlage. Forschungsprivilegien und Schutzmaßnahmen sind konkret zu prüfen.
• Anonymisierung und Pseudonymisierung: In der Forschung sollten Daten möglichst anonymisiert oder pseudonymisiert werden, um die Privatsphäre der Individuen zu schützen.
• Recht auf Erklärbarkeit und Transparenz: Personen haben das Recht, zu wissen, wie ihre Daten verarbeitet werden und welche Entscheidungen daraus resultieren. KI-Forschung muss daher verständliche Erklärungen für Algorithmen und Modelle bieten, insbesondere wenn sie in Bereichen eingesetzt werden, die das Leben der Menschen beeinflussen.

3. Regelungen zu ethischer und fairer Forschung

In der KI-Forschung wird zunehmend auf ethische Grundsätze geachtet, um sicherzustellen, dass KI-Systeme fair, sicher und inklusiv sind. Die EU hat ethische Richtlinien veröffentlicht, die auf die Förderung einer vertrauenswürdigen KI abzielen, insbesondere durch die Förderung von Fairness, Nicht-Diskriminierung und Transparenz.

Regulatorische Aspekte:

• Fairness und Nicht-Diskriminierung: Forscher sollten sicherstellen, dass ihre KI-Modelle keine unfaire Diskriminierung oder Vorurteile fördern, indem sie die Trainingsdaten sorgfältig auf Verzerrungen prüfen und geeignete Methoden zur Bias-Reduzierung anwenden.
• Transparenz und Nachvollziehbarkeit: Die EU fordert, dass die Prozesse und Entscheidungen, die durch KI-Systeme getroffen werden, transparent und nachvollziehbar sind. Forscher müssen Methoden entwickeln, die es ermöglichen, den Entscheidungsweg eines Modells nachzuvollziehen.
• Ethische Überprüfungsgremien: Für Forschungsprojekte, die potenziell ethische oder gesellschaftliche Risiken bergen, könnten Ethikkommissionen eingeführt werden, um sicherzustellen, dass ethische Standards eingehalten werden.

4. Geistiges Eigentum und Open Access in der KI-Forschung

Fragen des geistigen Eigentums sind in der KI-Forschung besonders relevant, da sich viele Forschungsprojekte auf gemeinschaftlich entwickelte Daten und Algorithmen stützen. Es ist wichtig, einen fairen Ausgleich zwischen den Rechten von Entwicklern und Forschern und dem öffentlichen Interesse an offenen Daten und Modellen zu schaffen.

Regulatorische Aspekte:

• Urheberrecht und Lizenzierung: Forscher müssen bei der Nutzung von Algorithmen und Modellen die Urheberrechte respektieren. Gleichzeitig sollten Anreize für Open-Source-KI geschaffen werden, um den Zugang zu wichtigen Forschungsergebnissen zu fördern.
• Open Access und Datenfreigabe: In der EU wird zunehmend auf Open Access und Datenfreigabe gesetzt, um sicherzustellen, dass Forschungsergebnisse der Allgemeinheit zugänglich gemacht werden. KI-Forscher könnten verpflichtet werden, Daten und Modelle offenzulegen, insbesondere wenn die Forschung öffentlich finanziert wurde.
• Patente und Schutzrechte: Während Algorithmen und KI-Modelle teilweise durch Patente geschützt werden können, wird der offene Zugang gefördert, um den Innovationsfluss nicht zu behindern. Hier muss ein Gleichgewicht gefunden werden, das sowohl den Schutz des geistigen Eigentums als auch die Förderung von Innovation ermöglicht.

5. Regelungen zur Zusammenarbeit und gemeinsamen Forschung

In der KI-Forschung ist die internationale und interdisziplinäre Zusammenarbeit entscheidend, da KI-Projekte oft umfassende Ressourcen, Daten und Fachwissen erfordern. Hier sind Regelungen erforderlich, die grenzüberschreitende Kooperationen fördern und die Rechte und Pflichten der beteiligten Akteure regeln.

Regulatorische Aspekte:

• Kooperationsverträge: Verträge sollten klare Vereinbarungen über geistiges Eigentum, die Nutzung von Daten, die Verteilung der Forschungsergebnisse und die Verantwortung für ethische und rechtliche Standards enthalten.
• Internationale Harmonisierung: Da KI-Forschung häufig international ist, ist eine Harmonisierung von Vorschriften und Standards erforderlich, um sicherzustellen, dass Forschungsergebnisse in verschiedenen Ländern kompatibel sind.
• Finanzierung und Förderung: Staatliche und EU-Förderprogramme könnten Anreize für ethische und nachhaltige KI-Forschung schaffen und spezifische Anforderungen für Forschungsprojekte definieren, die mit öffentlicher Finanzierung durchgeführt werden.

Zukünftige rechtliche Entwicklungen in der KI-Forschung

In Zukunft könnte die rechtliche Regulierung der KI-Forschung weiter verschärft und auf neue Technologien und Anwendungen ausgeweitet werden. Die EU und andere internationale Organisationen könnten den rechtlichen Rahmen für KI-Forschung und -Entwicklung kontinuierlich weiterentwickeln, um den Herausforderungen und Chancen gerecht zu werden. Hier sind mögliche Trends:

• Anpassung an neue Technologien: Die Regulierung könnte flexibler gestaltet werden, um mit neuen technologischen Entwicklungen Schritt zu halten, wie z. B. Quanten-KI oder autonome Systeme.
• Ethik- und Prüfinstitutionen: Die Etablierung unabhängiger Ethik- und Prüfinstitutionen könnte helfen, die Einhaltung von ethischen und rechtlichen Standards zu überwachen und die Sicherheit von KI-Systemen zu gewährleisten.
• Erweiterte Haftungsregeln: Zukünftige Gesetze könnten spezielle Haftungsregeln für KI-Fehlentscheidungen und -Schäden enthalten, um eine klare Verantwortlichkeit für die Forschung und Entwicklung zu gewährleisten.
• Förderung von „verantwortungsvoller KI“: Programme zur Förderung von KI könnten auf verantwortungsbewusste und nachhaltige Entwicklung abzielen, mit Anforderungen an Transparenz, ethische Standards und sozialen Nutzen.

Die rechtliche Entwicklung der KI-Forschung wird eine Balance zwischen der Förderung von Innovation und dem Schutz der Gesellschaft finden müssen, indem sie ethische und rechtliche Standards integriert, ohne die Forschung durch übermäßige Vorschriften zu behindern.