Generative KI und Large Language Models (LLM) bieten immense Wertschöpfungsmöglichkeiten für Unternehmen. Wie können Sie diese Technologien im Unternehmensumfeld optimal nutzen und gleichzeitig Risiken minimieren? Besonders im Enterprise-Kontext ist eine umfassende Richtlinie unerlässlich. In diesem Artikel erläutern wir Best Practices zur Erstellung einer Richtlinie für die Nutzung von Generativer KI durch Ihre Mitarbeiter.

Verständnis für Generative KI aufbauen

Der Einsatz von Generativer KI und LLMs bietet immense Wertschöpfungspotenziale. Die Technologie hat jedoch auch klare Grenzen, die es zu verstehen gilt, um realistische Erwartungen zu pflegen. Es ist wichtig, sich darüber im Klaren zu sein, was KI leisten kann und was nicht, um Missverständnisse, Halbwissen und daraus resultierende falsche Entscheidungen zu vermeiden.

Überblick über die regulatorische Landschaft

Regulierungsbehörden arbeiten kontinuierlich an neuen Standards, die bei der Entwicklung einer GenAI-Richtlinie berücksichtigt werden sollten. Ein Beispiel hierfür ist der EU AI Act, der spezifische Anforderungen an Systeme mit hohem Risiko oder Transparenzrisiko stellt. Es ist essenziell, die aktuellen und kommenden regulatorischen Anforderungen als Ausgangspunkt für die Richtlinie zu nutzen. Mehr zum EU AI-Act können Sie hier erfahren.  

Beispiel: Ein Unternehmen, das KI zur Kreditbewertung einsetzt, muss als Betreiber eines Hochrisikosystems sicherstellen, dass die KI den Anforderungen des EU AI Act entspricht und keine diskriminierenden Entscheidungen trifft.

Einbindung einer heterogenen Stakeholdergruppe

Sammeln Sie die Meinung aller relevanten Stakeholder, um eine umfassende und ausgewogene Richtlinie zu erstellen. Die Breite und Tiefe der beteiligten Stakeholder sollten an den organisatorischen Kontext angepasst werden. Gerade hier ist es wichtig nochmal zu betonen, dass ein volles Verständnis über die Opportunitäten und Grenzen vorhanden sein soll. Somit können Sie sich gegen hinderliche Einwände (durch Halbwissen oder mangelnder Information) durchsetzen und sicherstellen, dass die Einführung von Generativer KI nicht durch die falschen Stakeholder blockiert wird.

Beispiel: In einem Unternehmen könnten IT, Recht, Marketing und HR zusammenarbeiten, um eine Richtlinie zu entwickeln, die technische Möglichkeiten, Innovationsförderung und Risikomanagement berücksichtigt. Es könnte passieren, dass die Zuständige Person für Datenschutz (Recht), die Einführung einer Chat-App blockiert, weil Ihr die Information fehlt, dass solche Systeme auch DSGVO-konform implementiert werden können.

Zukünftige Use-Cases antizipieren

Gemeinsam mit allen Stakeholdern sollten aktuelle und zukünftige interne und kundenorientierte Use-Cases erfasst werden. Diese Use-Cases helfen, die Richtlinienentwicklung zu informieren und sicherzustellen, dass ein großer Teil der relevanten Bereiche abgedeckt ist. Eine vorausschauende Planung ermöglicht es, die Richtlinie kontinuierlich an technologische und geschäftliche Entwicklungen anzupassen. Allerdings ist es schwer alle zukünftigen Use-Cases zu antizipieren, vor allem bei dem Tempo indem KI-Forschung voranschreitet. Deshalb sollte diese Richtlinie als lebendiges Dokument betrachtet werden, um zukünftige Änderungen schnell anpassen zu können.

Beispiel: Ein Unternehmen, das heute KI für die Kundenservice-Automatisierung einsetzt, könnte planen, diese Technologie zukünftig auch für personalisierte Marketingkampagnen zu nutzen und entsprechend die Richtlinien anzupassen.

Risiken identifizieren

Ausgehend von den identifizierten potenziellen Anwendungsbereichen müssen nun Risiken erkannt und bewertet werden. Dabei ist es wichtig, klare Ziele festzulegen, wie zum Beispiel den Schutz der Unternehmensdaten und die Reduzierung von Reputationsrisiken durch irreführende Informationen in veröffentlichten Materialien. Sowohl die Wahrscheinlichkeit des Eintritts als auch die Auswirkungen des Risikos sollten dabei berücksichtigt werden.

Beispiel: Wenn generierte Marketingtexte aufgrund von Halluzinationen durch LLMs falsche Empfehlungen enthalten, könnte dies ein Reputationsrisiko darstellen.  

Zusammenfassung

Verständnis für Generative KI aufbauen: Es ist wichtig, die Möglichkeiten und Grenzen von Generativer KI und LLMs zu verstehen, um realistische Erwartungen zu pflegen und falsche Entscheidungen durch Missverständnisse zu vermeiden.

Überblick über die regulatorische Landschaft: Regulierungsbehörden entwickeln kontinuierlich neue Standards, wie den EU AI Act, die bei der Erstellung von GenAI-Richtlinien berücksichtigt werden sollten, insbesondere für Hochrisikosysteme.

Einbindung einer heterogenen Stakeholdergruppe: Die Meinungen aller relevanten Stakeholder sollten gesammelt werden, um umfassende und ausgewogene Richtlinien zu erstellen, die technische Möglichkeiten, Innovationsförderung und Risikomanagement berücksichtigen.

Zukünftige Use-Cases antizipieren: Aktuelle und zukünftige Use-Cases sollten erfasst werden, um Richtlinien kontinuierlich an technologische und geschäftliche Entwicklungen anzupassen und sicherzustellen, dass alle relevanten Bereiche abgedeckt sind.

Risiken identifizieren und managen: Potenzielle Risiken der KI-Nutzung müssen erkannt und bewertet werden, um Unternehmensdaten zu schützen und Reputationsrisiken zu minimieren, wie z.B. durch irreführende Informationen in generierten Marketingtexte

Quellen

6 best practices to develop a corporate use policy for generative AI | CIO

Key Considerations for Developing Organizational Generative AI Policies (isaca.org)