Customer Experience: KI-Einsatz mit Augenmaß

Meldungen zu neuen Tools, die Künstliche Intelligenz (KI) verwenden, und deren Anwendungsmöglichkeiten dominieren weltweit geradezu die Medienlandschaft. Auch immer mehr deutsche Unternehmen arbeiten an konkreten Use Cases oder setzen bereits diverse KI-Modelle wie OpenAI ChatGPT und Google Bard ein, um personalisierte schriftliche Inhalte automatisiert zu erstellen, indem sie Muster aus vorhandenen Daten analysieren. Neben vielen weiteren Vorteilen steht die Steigerung der Produktivität im Vordergrund. Unternehmensverantwortliche, die sich mit KI bisher nur wenig auseinandergesetzt haben, müssen sich spätestens jetzt dem Thema annehmen, um wettbewerbsfähig zu bleiben.

Doch bevor Unternehmen blindlings auf den KI-Zug aufspringen, sollten Verantwortliche im Bereich Customer Experience (CX) zuvor einige entscheidende Fragen stellen. Hier fünf Aspekte, die berücksichtigt werden sollten, um sicherzustellen, dass der Einsatz von generativer KI in der Organisation effektiv, ethisch und im Einklang mit den eigenen Zielen ist.

Vor dem Einsatz eines KI-Modells ist es wichtig, den Datenschutz und die Sicherheit der Trainingsdaten zu berücksichtigen, insbesondere wenn diese personenbezogene Daten enthalten, denn Open-Source-KI-Modelle bergen besondere Datenschutzrisiken. Zurückzuführen ist dies auf den offenen Zugang zum Quellcode, die Verwendung von Bibliotheken von Drittanbietern und die fehlende Kontrolle über die gemeinsame Nutzung und Verteilung.

Um Risiken zu minimieren, sollten Unternehmen, die KI-Modelle auf Basis sensibler Daten einsetzen, sicherstellen, dass es strenge Zugriffskontrollen und Schutzmaßnahmen für den Quellcode, Bibliotheken und Datenspeicher gibt.

Generative KI-Modelle sind besonders anfällig für Vorurteile, da sie darauf ausgelegt sind, aus großen Datensätzen zu lernen und Vorhersagen oder Empfehlungen auf dieser Grundlage zu erstellen.

Daher ist es wichtig, dass genügend Daten vorhanden sind, die für die demografischen, kulturellen und anderen Segmente des Kunden- und Mitarbeiterstamms eines Unternehmens repräsentativ sind. Bei Open-Source-Bibliotheken sind datenbedingte Verzerrungen wahrscheinlicher, da es häufig keinen Validierungsprozess für die sachliche Richtigkeit oder die Ethik des Quellmaterials gibt.

Auch mögliche algorithmische Verzerrungen in Modellen müssen unbedingt erkannt und untersucht werden. Worauf ist das Modell trainiert worden, um es zu optimieren? So wurden beispielsweise einige generative KI-Modelle darauf trainiert, Ergebnisse speziell für soziale Medien zu produzieren. Dies kann zu polarisierenden oder verzerrten Inhalten führen, da diese Inhalte auf Social Media-Plattformen häufig populär sind.

Interessierte sollten sich daher vorab erkundigen, wie die KI-Modelle, die Sie in Betracht ziehen, für CX- und EX-Anwendungsfälle trainiert und optimiert wurden, und wie die Modelle geprüft und auf Datenverzerrungen überwacht werden.

Es ist eine Sache, wenn eine Privatperson Fragen an ChatGPT stellt. Es ist jedoch eine ganz andere Sache, generative KI über Dutzende oder Hunderte von Millionen von Datensätzen im gesamten Unternehmen zu skalieren.

Um im großen Maßstab erfolgreich zu sein, benötigt generative KI große Mengen an unterschiedlichen und sicheren Daten, eine Infrastruktur aus Hochleistungs-Computing-Clustern sowie Forschungs- und Entwicklungsressourcen zur Überwachung, Wartung und Weiterentwicklung der Modelle.

Die Kosten sind ein wichtiges Kriterium bei der Entscheidung für oder gegen den Kauf von KI, daher sollten den Verantwortlichen auch die nötigen Budgets zur Verfügung stehen. Außerdem sollte die Frage gestellt werden: Wie hoch ist der Aufwand für die Integration selbst entwickelter generativer KI in Geschäftsprozesse und Arbeitsabläufe? Damit sich die Kosten lohnen, muss die KI mit messbaren Ergebnissen verbunden sein. Die Rechtfertigung des Bedarfs an generativen KI-Modellen ist vielleicht die wichtigste Frage. Entscheider müssen daher die damit verbundenen Kosten bewerten und feststellen, ob es einen überzeugenden Business Case für den Einsatz von Modellen gibt.

Als sinnvollsten Startpunkt für eine generative KI-Strategie wählt man am besten Quick Wins, also Use Cases die am schnellsten und sichersten mit positiven Geschäftsergebnissen überzeugen, der Führungsebene leicht zu erklären sind und sich in bestehende Arbeitsabläufe leicht integrieren lassen. Wenn man hier überzeugt, steht der Weg offen für weitere Schritte.

Technologielösungen sind generell am wirkungsvollsten, wenn sie im großen Stil eingesetzt werden. KI ist jedoch eine Technologie, deren Einführung in großem Maßstab schwierig sein kann. Kunden und Mitarbeiter zögern möglicherweise, mit KI-gestützten Systemen oder Empfehlungen zu interagieren, wenn sie der Technologie nicht vertrauen oder das Gefühl haben, dass ihre Privatsphäre nicht respektiert wird.

Es ist wichtig, eine KI-Strategie – insbesondere eine, die sich möglicherweise auf die Leistungsmessung, die Vergütung und die täglichen Aufgaben der Mitarbeiter auswirkt – mit Transparenz und Ehrlichkeit zu kommunizieren. Verantwortliche sollten Modellierungsmethoden offenlegen, Fragen ermutigen und die Ergebnisse regelmäßiger Audits oder Bias-Tests zur Verfügung stellen. Man kann etwa mit Anwendungsfällen beginnen, die sich nicht direkt auf die Vergütung oder die Mitarbeiterbeurteilung auswirken. Später können sich Verantwortliche stattdessen auf Anwendungsfälle konzentrieren, die die Arbeitsqualität verbessern, zum Beispiel die Automatisierung von Aufgaben und die Optimierung von Abläufen.

Schließlich müssen die generativen KI-Modelle genaue und umsetzbare Ergebnisse liefern, die relevant sind, um sowohl die Akzeptanz als auch sinnvolle Geschäftsergebnisse durch Maßnahmen zu fördern.

Die Wahrscheinlichkeit ist groß, dass die Konkurrenz vieler Unternehmen, die mit der KI-Nutzung noch hadern, diese Technologie bereits in irgendeiner Form nutzt. Die Aufmerksamkeit für generative KI und ihre Vorteile für Unternehmen steigt – von der Produktion von Inhalten im Handumdrehen bis zur Rationalisierung von Prozessen für Mitarbeiter. Es liegt an Unternehmen, sich mit dieser Technologie auseinanderzusetzen und sich auf konkrete Anwendungsfälle zu konzentrieren, von denen sowohl die eigenen Mitarbeiter als auch das Unternehmen profitieren.

Gerhard Raffling, Vice President North/Central/Eastern Europe bei Medallia