„Sie haben recht,“ sagt der LLM. „Ich habe mich geirrt.“
Haben Sie diese Worte schon einmal während eines KI-Workflows gelesen? Nichts zerstört Vertrauen schneller als fehlerhafte Ergebnisse. Kein Wunder also, dass nur ein Viertel der Unternehmen heute voll und ganz auf KI vertraut, um Entscheidungsfindung und Prognosen zu unterstützen.
Und doch wissen wir, dass KI geschäftskritisch ist. Neun von zehn Unternehmen nutzen KI, 64 % geben an, dass sie Innovationen vorantreibt.
Wie also schlägt man die Brücke von der Experimentierphase hin zu einem vertrauenswürdigen Einsatz? Wie erzielt man im großen Maßstab überprüfbare und reproduzierbare Ergebnisse mit KI? In diesem Artikel stelle ich Ihnen das Framework vor, das den KI-Erfolg führender Unternehmen ermöglicht.
Warum Unternehmen der KI nach wie vor nicht vertrauen
Wir haben 1.400 IT- und Geschäftsverantwortliche gefragt, was ihre größten Hindernisse für den Erfolg mit KI-Workflows waren. Jeder Zweite (49 %) nannte ungenaue oder verzerrte Ergebnisse. 38 % gaben an, dass sie nicht bereit seien, der KI Entscheidungen ohne menschliche Aufsicht zu überlassen.
Dann war da noch das Datenproblem. Daten-Readiness ist ein integraler Bestandteil erfolgreicher KI-Workflows. Allerdings gab die Hälfte aller Unternehmen an, dass sie immer noch mit minderwertigen oder fragmentierten Daten zu kämpfen haben. Auch wenn für den Einsatz von LLMs keine perfekten Daten erforderlich sind, sind vertrauenswürdige Daten doch unerlässlich.
VURA: Das Framework für vertrauenswürdige KI
Um diese Vertrauenslücke zu schließen, sind zwei Dinge erforderlich. Erstens benötigen Unternehmen eine Logikebene, die KI-Systeme mit den Personen verbindet, die die Daten und das Geschäft am besten verstehen. Fachabteilungen und Analysten dürfen nicht außen vor bleiben. Sie müssen beim Aufbau und der Validierung von KI-Workflows helfen, damit die Logik hinter den KI-Ergebnissen widerspiegelt, wie das Unternehmen tatsächlich arbeitet.
Zweitens sollten KI-Workflows und -Prozesse sichtbar, verständlich, wiederholbar und überprüfbar sein - Visible, Understandable, Repeatable und Auditable. Zusammen bilden diese Prinzipien VURA, ein Framework, das wir entwickelt haben, um Unternehmen beim Aufbau und der Skalierung vertrauenswürdiger KI-Systeme zu unterstützen. Diese Richtlinien tragen dazu bei, Vertrauen in Ihre Daten und die Ergebnisse Ihrer KI aufzubauen. Sie benötigen beides, wenn Ihr Unternehmen Enterprise Intelligence aufbauen soll.
Sichtbar
Sichtbarkeit bedeutet Transparenz. Ihre KI-Workflows sollten keine Black Box in Bezug auf die verwendeten Daten und die angewendete Logik sein. Jede Person, die KI-Tools verwendet, sollte in der Lage sein, zwei Fragen zu beantworten: „Woher kommt diese Antwort?“ und „Wie sind wir zu dieser Schlussfolgerung gelangt?“ Andernfalls arbeiten Mitarbeiter:innen möglicherweise mit falschen Informationen. Sie könnten Ihren Kund:innen fehlerhafte Informationen liefern oder wichtige Entscheidungen treffen, die schwerwiegende Folgewirkungen nach sich ziehen.
Wenn diese Antworten noch unklar sind, müssen Sie möglicherweise Ihre Governance verschärfen oder überdenken, ob Ihre aktuellen KI- und Datenlösungen tatsächlich funktionieren. Sichtbarkeit ist besonders dann von entscheidender Bedeutung, wenn KI teamübergreifend eingesetzt wird.
Verständlich
Es kann sich fast wie Science-Fiction anfühlen, wenn Tools wie ChatGPT oder Gemini selbst äußerst komplexe oder vage formulierte Prompts aufgreifen, sie parsen und Ihnen eine intelligente, durchdachte Antwort geben.
Doch die niedrige Hürde, praktisch jede Frage in natürlicher Sprache zu stellen und beantwortet zu bekommen, entbindet nicht davon, grundlegende geschäftliche Prinzipien zu beachten. Ihre KI-Systeme müssen in der Lage sein, die Logik hinter ihren Ausgaben auch für nicht-technische Benutzer:innen zu erklären, und Ihre Geschäftsexpert:innen müssen diese Ausgaben validieren können.
Wiederholbar
Wiederholbarkeit bedeutet, dass die KI bei Verwendung derselben KI-Tools, Daten, Prompts und Geschäftslogiken jedes Mal dieselbe Antwort liefert. Zwei Personen sollten in der Lage sein, sich mit derselben Frage an KI zu wenden und zur selben Antwort zu gelangen. Wenn ein KI-System oder ein KI-Workflow eine ausgezeichnete Antwort liefert, gefolgt von einer eindeutig falschen Antwort, ist es noch nicht bereit für den operativen Einsatz. Sie können ihm nicht vertrauen.
Wiederholbarkeit setzt zudem Dokumentation voraus. Wenn Teams Prompts oder Prozesse identifizieren, die zu zuverlässigen Ergebnissen beitragen, sollten diese aufgezeichnet und geteilt werden.
Überprüfbar
Ein überprüfbarer KI-Prozess bedeutet, dass Sie sehen können, was passiert ist. Es gibt einen Prüfpfad. Wenn eine Antwort oder ein Bericht falsch erscheint, sollten Sie in der Lage sein, zu identifizieren, wer für den Workflow verantwortlich ist, welche Daten und Prompts verwendet wurden, welcher Logik das System gefolgt ist und wo menschliches Urteilsvermögen und Aufsicht beteiligt waren. Überprüfbarkeit ist ein Kontrollmechanismus sowohl für Ihre KI-Systeme als auch für die menschlichen Data Engineers, die hinter den Kulissen arbeiten.
Beginnen Sie jetzt mit dem Aufbau vertrauenswürdiger KI-Systeme
KI kann nur dann einen skalierbaren Geschäftswert liefern, wenn sie auf vertrauenswürdigen Daten und Geschäftslogik basiert. Um diese Systeme operativ nutzbar zu machen, müssen Sie sicherstellen, dass Ihre KI-Workflows sichtbar, verständlich, wiederholbar und überprüfbar sind.
Alteryx fungiert als Ebene für Transformation und Geschäftslogik, die Ihnen dabei hilft, KI experimentellen Pilotprojekten in den vertrauenswürdigen Produktivbetrieb zu überführen. Es stellt eine Verbindung zu Daten her, wo auch immer sie sich befinden, hilft Benutzer:innen im Unternehmen, ihr Fachwissen auf KI-gestützte Workflows anzuwenden, und schafft die erforderlichen Leitplanken sowohl für Ihre Daten als auch für Ihre KI-Systeme.
Mit Alteryx können diejenigen, die am nächsten am operativen Geschäft sind, die Datenaufbereitung und -nutzung mitgestalten, während die IT die für den Unternehmenseinsatz notwendige Governance und Überprüfbarkeit erhält. So werden KI-Ergebnisse vertrauenswürdig. So wird Enterprise Intelligence aufgebaut.