KI im Unternehmen: Innovation fördern, Risiken minimieren
Künstliche Intelligenz ist die treibende Kraft für Innovation und Produktivitätssteigerung in Unternehmen
Künstliche Intelligenz als Zukunftstreibstoff
Unternehmen stehen beim Einsatz von KI vor vielschichtigen datenschutzrechtlichen Herausforderungen, bei denen der Schutz der personenbezogenen Daten im Vordergrund steht, zugleich aber nicht die Nutzung von KI begrenzt oder gar ausgeschlossen werden soll. Um dies zu erreichen, helfen praxiserprobte Bausteine, bei deren Implementierung wir Unternehmen unterstützen.
Aktuelles
09. September 2025 - Rechtliche Vorgaben für den Einsatz von KI in Behörden der EU-Mitgliedstaaten
Der Fachbereich Europa des Bundestages hat einen Infobrief zu den rechtlichen Vorgaben der EU-KI-Verordnung für Behörden der Mitgliedstaaten veröffentlicht. Er erläutert, wann Behörden als Anbieter oder Betreiber von KI-Systemen gelten und welche Pflichten sich daraus ergeben. Schwerpunkte sind Registrierungs- und Kennzeichnungspflichten, der Umgang mit Trainingsdaten und Urheberrechten sowie Anforderungen an Kompetenzaufbau und KI-Governance. Am Beispiel generativer Systeme wie ChatGPT oder Gemini zeigt das Paper konkrete Umsetzungsthemen für die Verwaltung auf. Die Analyse ist auch für Unternehmen relevant, da viele Pflichten, etwa zu Transparenz, Datenqualität und Compliance-Strukturen, gleichermaßen für private Akteure gelten. Weitere Informationen finden Sie hier.
27. August 2025 – EU-Regeln für General-Purpose AI seit diesem Monat in Kraft
Seit dem 2. August 2025 gelten neue Vorschriften für General-Purpose AI (GPAI) – also KI-Modelle, die vielseitig einsetzbar sind und in ganz unterschiedlichen Bereichen genutzt werden können. Anbieter solcher Modelle müssen nun strenge Transparenz-, Sicherheits- und Urheberrechtsauflagen einhalten. Für GPAI-Modelle, die bereits vor dem 2. August 2025 auf dem Markt waren, gilt eine Übergangsfrist: Sie müssen spätestens bis zum 2. August 2027 vollständig konform sein. Die EU-Kommission stellt dazu Leitlinien und ein verbindliches Template zur Veröffentlichung einer öffentlichen Zusammenfassung der Trainingsdaten bereit. Zusätzlich können Unternehmen einen freiwilligen Code of Practice unterzeichnen, der die Umsetzung erleichtert und zusätzliche Rechtssicherheit schafft. Weitere Informationen finden Sie hier.
8. Juli 2025 – BSI veröffentlicht Leitfaden zur Qualitätssicherung von KI-Trainingsdaten
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat einen neuen Leitfaden zur Qualitätssicherung von KI-Trainingsdaten veröffentlicht. Der Leitfaden richtet sich insbesondere an Anbieter von KI-Systemen mit hohem Risiko im Sinne der EU-KI-Verordnung und bietet konkrete Maßnahmen zur Bewertung und Sicherstellung der Datenqualität. Ziel ist es, Unternehmen bei der Umsetzung regulatorischer Anforderungen zu unterstützen, etwa im Hinblick auf Relevanz, Fehlerfreiheit, Vollständigkeit und Repräsentativität der verwendeten Trainingsdaten. Weitere Informationen finden Sie hier.
25. Juni 2025 – US-Entscheidung zum Training von KI mittels digitalisierter Bücher
In einer aktuellen Entscheidung hat ein Bundesgericht in Kalifornien im Rahmen eines summarischen Urteils ("Summary Judgement") über die Zulässigkeit der Digitalisierung gekaufter Bücher und deren anschließende Nutzung zum Training von Large Language Models („LLMs“) entschieden. Das Gericht kam zu dem Schluss, dass die Nutzung der digitalisierten Bücher zum Training von LLMs unter dem Aspekt des "Fair Use" des amerikanischen Urheberrechts zulässig ist. Eine darüber hinausgehende Nutzung von mittels Raubkopien erlangten digitalen Büchern soll allerdings nicht vom Fair Use erfasst sein. Der Fall ist ein weiterer Baustein in der voranschreitenden Kasuistik im Bereich KI und Urheberrecht in den USA dar. Die Entscheidung ist von besonderem Interesse, da das Gericht bei der Betrachtung des Trainings (Input) von LLMs einen Vergleich zum menschlichen Verständnis zieht und davon ausgeht, dass kein Unterschied besteht, ob ein LLM sich einen Text einprägt oder ein Mensch. Die Entscheidung finden sie hier.
17. Juni 2025 - DSK veröffentlicht Orientierungshilfe zu technischen und organisatorischen Maßnahmen im Zusammenhang mit KI-Systemen
Die Datenschutzkonferenz (DSK) hat kürzlich eine Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen (TOM) veröffentlicht, die Hersteller und Betreiber von KI-Systemen bei der datenschutzkonformen Entwicklung und Nutzung unterstützen soll. Weitere Informationen finden Sie hier.
Unsere Beratungsschwerpunkte
Datenschutz und KI: sicherer Umgang mit sensiblen Daten
Unternehmen stehen dabei vor vielschichtige datenschutzrechtlichen Herausforderungen, bei denen der Schutz der personenbezogenen Daten im Vordergrund steht, nicht aber die Nutzung von KI begrenzt oder gar ausschließt. Um dies zu erreichen, helfen unter anderem folgende Bausteine, bei deren Implementierung wir Unternehmen unterstützen.
Mit GÖRG Datenschutz und Datensicherheit beim Einsatz von KI gewährleisten
Wir beraten Sie unter anderem bei folgenden Themen:
- Schaffung eines belastbaren Rahmens zur Einhaltung der datenschutzrechtlichen Vorgaben bei der Nutzung von KI
- Maßnahmen im Rahmen des risikobasierten Ansatzes, z. B. Datenschutzfolgenabschätzungen, Risikoregister
- Datenschutzkonforme Nutzung von Trainingsdaten in KI-Systemen
- Wahrung von Betroffenenrechten
- Awareness bei Mitarbeitenden
- Vorbereitung auf Sicherheitsvorfälle und deren Aufarbeitung
Kontakt: Dr. Andrea Kirsch
Mit GÖRG Datenrecht und KI erfolgreich managen
Um den Herausforderungen des Einsatzes Künstlicher Intelligenz im Zusammenhang mit personenbezogenen und sonstigen geschäftskritischen Daten zu begegnen, unterstützen wir Unternehmen tatkräftig, mit viel Erfahrung und unseren Best Practice Ansätzen wie folgt:
- Wir helfen, die rechtlichen Rahmenbedingungen für den Einsatz von KI grundlegend zu verstehen und einzuhalten.
- Wir unterstützen dabei, alle gesetzlichen Anforderungen zum Datenschutz zu erfüllen.
- Gemeinsam identifizieren wir potenzielle Risiken im Umgang mit Daten und entwickeln maßgeschneiderte Strategien, um diese zu minimieren.
- Wir erstellen und überprüfen Verträge, die den Umgang mit Daten und KI-Technologien regeln, um die Unternehmensinteressen bestmöglich zu schützen.
- Wir bieten Schulungen für die Mitarbeiter an, um das Bewusstsein für Datenschutz und Datensicherheit zu schärfen und rechtliche Fallstricke zu vermeiden.
Kontakt: Dr. Andrea Kirsch
Der Einsatz von KI bietet Tech Unternehmen und ihren Investoren enorme Chancen, bringt aber auch neue Herausforderungen mit sich.
Mit GÖRG Potenziale von KI als Geschäftsmodell nutzen und Risiken minimieren
Um das Potenzial von KI entsprechend auszuschöpfen, braucht es neben treffender Risikoanalysen eine durchdachte Strukturierung der Deals und eine passende Gestaltung von Verträgen - für Start-ups, etablierte Tech Unternehmen und Investoren.
Wir verfügen hier über die notwendige Expertise und bietet maßgeschneiderte Lösungen:
- Due Diligence & Risikobewertung: Prüfung und Bewertung von u.a. KI-Technologie und Produkt, Schutz von IP sowie etwaigen regulatorischen, datenschutzrechtlichen und sonstigen KI-spezifischen Risiken.
- Venture Capital & beyond: Strukturierung und Durchführung von Finanzierungsrunden und anderen Finanzierungstransaktionen „beyond VC“.
- M&A und Joint Ventures: Strategische Beratung, Strukturierung und Durchführung von Unternehmenskäufen und Kooperationen, inkl. Fusionskontrolle und außenwirtschaftsrechtliche Fragen.
- Mitarbeiterbindung & Incentives: Mitarbeiterbeteiligungsprogramme, Vertraulichkeits- & Wettbewerbsvereinbarungen zur Sicherung von Schlüsselkräften.
Kontakt: Sebastian Frech
Die rasante Entwicklung der Künstlichen Intelligenz (KI) stellt Unternehmen vor vielfältige Herausforderungen. Neue Einsatzszenarien für KI-Systeme entstehen in hoher Geschwindigkeit, bestehende Prozesse werden automatisiert, und innovative Produkte sowie Geschäftsmodelle eröffnen neue Möglichkeiten. Diese Dynamik erfordert jedoch ein frühzeitiges und gezieltes Eingreifen, um potenzielle Risiken zu minimieren und den Einsatz von KI gezielt an den Unternehmenszielen auszurichten. Eine durchdachte KI-Governance schafft dabei den Rahmen für eine verantwortungsvolle und effiziente Nutzung dieser zukunftsweisenden Technologie.
Mit GÖRG verantwortungsvoll KI nutzen: so gelingt eine effektive Governance
Wir unterstützten Unternehmen beim Aufbau einer modernen KI-Governance:
- Beratung zur Durchführung von Implementierungsprojekten zum Umsetzung der KI-Verordnung.
- Integration der KI-Governance in bestehende Prozesse und Verfahren etwa in Bezug auf den Datenschutz und das Auslagerungsmanagement.
- Einführung von KI-Richtlinien und Entwicklung von Schulungsleitlinien.
- Unterstützung beim Aufbau eines KI-Risikoregisters und der entsprechenden Risikobewertung.
- Berücksichtigung arbeitsrechtlicher Belange beim Einsatz von KI, z.B. Informations- Mitwirkungs- und Mitbestimmungsrechte des Betriebsrats.
Nähere Informationen dazu haben wir auf unserer Themenseite KI-Governance zusammengestellt.
Kontakt: Dr. Andrea Kirsch, Dr. Michael Heise
Der Einsatz Künstlicher Intelligenz (KI) gewinnt im Gesundheitswesen zunehmend an Bedeutung. Damit KI-Systeme eine sichere Unterstützung im Gesundheitswesen bieten können, müssen sie kontinuierlich weiterentwickelt und mit Daten trainiert werden.
KI-Systeme werden unter anderem im Bereich der Digitalen Gesundheitsanwendungen und Digitalen Pflegeanwendungen eingesetzt. Zusätzlich zu den bereits geltenden Anforderungen der Medizinprodukteverordnung (MDR) sowie des Medizinprodukterecht-Durchführungsgesetzes (MPDG), müssen Unternehmen nun sicherstellen, dass sie auch den Vorgaben der KI-Verordnung entsprechen.
Mit GÖRG meistern Sie die Herausforderungen des Einsatzes künstlicher Intelligenz im Gesundheitssektor:
- Zugriff von Unternehmen auf den neuen Europäischen Gesundheitsdatenraum (EHDS)
- Zugriff auf Gesundheitsdaten nach dem Gesundheitsdatennutzungsgesetz (GNDG)
- Einhaltung des rechtlichen Rahmens für die datenschutzkonforme Nutzung von Gesundheitsdaten zu Forschungszwecken
- Kooperation mit Krankenkassen bei der Entwicklung digitaler Innovationen und der Förderung von Versorgungsinnovationen, etwa über Kooperations- und Selektivverträge
- Einstufung von Medizinprodukten als Hochrisiko-KI-Systeme und die damit verbundenen Anbieter- und Betreiberpflichten
- Durchführung von Konformitätsbewertungsverfahren
- Risikobewertung beim Einsatz von KI-gestützten Medizinprodukten und Haftungsfragen
- Entwicklung von Risikomanagementsystemen
- Sicheres und rechtskonformes Inverkehrbringen von KI-gestützten Medizinprodukten
Kontakt: Dr. Marc Schüffner, Dr. Katja Kuck
IP und KI: Nutzen und Konfliktpotenzial
Der Schutz von IP wird durch die voranschreitende Entwicklung von KI erheblich beeinflusst. Ggenerative KI kann zu einer Verletzung von IP führen. KI kann aber auch dazu genutzt werden, die Arbeit von Werkschaffenden zu unterstützen. Darüber hinaus ist schon beim Training und der Gestaltung von KI-Anwendungen darauf zu achten, dass keine Verletzung von geistigem Eigentum erfolgt.
Mit GÖRG den Schutz von IP im Bereich KI sicherstellen:
- Beratung zum proaktiven Schutz von IP.
- Durchsetzung von IP-Rechtsverletzungen, z. B. bei KI-generierten Inhalten oder bei der rechtswidrigen Verwendung von IP zu Trainingszwecken.
- Beratung zur rechtskonformen Nutzung von KI generierten Inhalten.
- Gestaltung von Lizenzverträgen zur Nutzung von IP durch KI-Systeme.
- Rechtskonforme Nutzung von IP zum Training von KI, z. B. Vertragsgestaltungen im Zusammenhang mit der Generierung von KI-Trainingsdaten.
Kontakt: Dr. Oliver Spieker, Dr. Kai Tumbrägel
