Einkaufstipps für KI – Teil 4

In den ersten drei Teilen dieser Reihe ging es um das Gesamtpaket, übergreifend betrachtet. In diesem Teil möchte ich Ihnen die technischen Aspekte näherbringen. Denn obwohl es vordergründig technische Dinge sind, sind diese eng mit wirtschaftlichen Faktoren verknüpft.

Der Teufel steckt im Detail – diesen Spruch kennen Sie bestimmt. Programmierer können ein Lied davon singen. Bevor Sie sich also für die eine oder andere KI-Lösung entscheiden, lohnt es sich, einen sehr genauen Blick auf die wirtschaftlichen und technischen Herausforderungen zu werfen. Was technisch ein Erfolg sein kann, kann wirtschaftlich betrachtet ein Fehlschlag sein. Umgekehrt natürlich ebenso. Das hat mehrere Gründe, die in unterschiedlichen Stufen des Ablaufprozesses einer KI-Implementierung liegen.

Doch zuerst:

Wie in den ersten drei Teilen schon erwähnt ist Künstliche Intelligenz nicht mit herkömmlicher Software zu vergleichen, die als Produkt eingekauft und sofort eingesetzt wird. Lassen Sie mich zum besseren Verständnis hier kurz ins Detail gehen: Die meisten heutigen Anwendungen von KI basieren auf Machine Learning. Dabei lernen Algorithmen, Muster zu erkennen oder komplette Aufgaben zu erledigen. Die so erstellten Modelle ersetzen eine große Menge an Code, der sonst manuell geschrieben werden müsste.

Besonders für wenig strukturierte Daten, beispielsweise Text und Bilder, wird die Verarbeitung durch Computer so erst möglich gemacht. So betrachtet ist Machine Learning also ein Code, der Code schreibt. Das passiert während des Trainings des Machine Learning-Modells. Durch das Training lernt das Modell anhand von Beispielen selbst, was sonst manuell programmiert werden müsste. Doch das Training ist nur ein Aspekt. Essentieller Bestandteil einer KI-basierten Software ist das Domänenwissen, welches in die Zielsetzung des Projekts, des KI-Modells sowie der Auswahl und Generierung von Trainingsdaten einfließt - das der Anwender, Ihres und das des KI-Anbieters. Das kann kein Algorithmus, kein Computer, keine Maschine leisten.

Die drei Phasen eines typischen KI-Projekts

Zuerst ist da eine klar abgegrenzte Pilotlösung: In dieser initialen Phase wird das Problem durchdrungen, in Annahmen gegossen und durch Algorithmen und Modelle gelöst. Trainingsdaten werden gesammelt und analysiert. Oft gehört das Antrainieren eines Machine Learning-Modells dazu. Die effiziente Generierung von Trainingsdaten, beispielsweise unterstützt durch Active Learning, kann hier entscheidende Vorteile bringen. Auch in diese Phase fällt das Beschaffen und Einbinden vieler Daten, die meist aus unterschiedlichsten Quellen kommen. Um es bildlich zu sagen: Für diese verschiedenen Pipelines braucht es einen Klempner …

Diese Phase erfordert ein Zusammenarbeiten von KI-Anbieter und Kunde, also Ihnen, um gemeinsam eine Lösung als Proof of Concept zu entwickeln. Das sind iterative Arbeitsschritte, die einen Forschungs- und Entwicklungs-Charakter aufweisen. Sobald das Modell trainiert ist, kommt es zum ersten Probeeinsatz im tatsächlichen Geschäftsbetrieb. Die dabei gesammelten Erfahrung fließen in das dann optimierte Modell ein. Diese Phase kann zwischen 3-6 Wochen dauern.

Die zweite Phase umfasst die Implementierung und Integration, sprich: die Umsetzung in Produktivsysteme. Das Modell wird für den Produktiveinsatz vorbereitet und anschließend in relevante Prozesse und Systeme integriert. Entweder in eine bestehende Software oder eigens dafür als eine Mobile- oder Desktop-App, um mit den daraus erzielten Ergebnissen auch faktisch arbeiten zu können. In dieser Phase, die zwischen 1-3 Monate dauern kann, wird das Modell weiterhin optimiert, iteriert und verbessert.

Die dritte Phase beinhaltet schließlich Evaluierung und Monitoring. Die Performance der KI-Lösung wird anschließend permanent und gezielt überwacht und entsprechend angepasst. Das KI-Modell lernt aus den neu gesammelten Daten weiter dazu und stellt sich so auf neue Gegebenheiten ein. Diese Phase ist de facto ab der Implementierung und Integration ein fortwährender Prozess.

Sie sehen, dass der Umfang der einzelnen Phasen in der Beschreibung inhaltlich graduell abnimmt, aber gleichzeitig in der Dauer zunimmt.

Schnell zu Ergebnissen und dabei gering im Risiko

Die Pilotphase eines typischen KI-Projekts erinnert oft an Forschung und Entwicklung. Das Vorgehen hat Aspekte von wissenschaftlichem Arbeiten. Es werden Hypothesen gebildet, diese werden getestet und dann validiert oder verworfen. Mit den Ergebnissen wird das Modell dann weiter verfeinert und validiert. Solange, bis es bereit ist, um- und eingesetzt zu werden.

Ein zentraler Aspekt ist die Diversität oder Varianz der Datengrundlage. Kurz gesagt: die Varianz des Inputs ist eine Herausforderung für viele Projekte, in denen große Datenmengen eingesetzt werden. Das ist besonders relevant bei Projekten in denen Sprache oder Texte verarbeitet werden. Denn diese sind ohne KI-Methoden nur sehr aufwendig zu analysieren und zu berücksichtigen. Hier ist ein Beispiel: “Ich finde das Angebot nicht besonders toll.” Diesen Satz kann man nun in wirklich vielen Varianten schreiben. Dazu dann noch mögliche Rechtschreibfehler. Wenn man dafür eine Regel, also einen Code schreibt, der solche Sätze erkennt, erzielt man schnell eine Trefferquote von vielleicht 60%. Die nächsten 10% werden dann schon mehr Aufwand. Für jede weitere Verbesserung steigt der Aufwand pro Prozent weiter an. Diese Eigenschaft ist auch als Longtail-Problem bekannt. In vielen Fällen lassen sich solche Probleme heutzutage sehr effizient durch KI-Methoden lösen. Hier den richtigen Weg einzuschlagen, ist entscheidend für den Erfolg eines Projekts.

Implementierung und Integration

Sobald der Nutzen der Pilotlösung bestätigt ist, kann diese in eine Produktivlösung umgesetzt werden. Die Phase ist zwar auch zeitintensiv, ist aus wirtschaftlicher Betrachtung bei der Entscheidung für oder gegen eine bestimmte KI-Lösung aber weniger ausschlaggebend. Das größte Risiko wurde in den Pilotphase schon ausgeräumt, indem eine Lösung für das Problem entwickelt wurde und deren Nutzen bereits belegt ist. Zudem ist dies dann die Aufgabe des KI-Lösungsanbieters und liegt in dessen Verantwortung. Hier sollten Sie lediglich darauf achten, dass diese Phase in der Kostenkalkulation entsprechend berücksichtigt ist.

Nach dem Ende ist vor dem Anfang: Model Deployment, Monitoring, Iteration

Ob und wie Ihre KI-Lösung dann eingesetzt wird, haben Sie ganz am Anfang festgelegt. Nun ist diese implementiert. Und das war’s dann? Nein. Eigentlich geht es dann erst richtig los. Nämlich wenn die KI in einer echten Umgebung zum Einsatz kommt: Sie arbeitet, verarbeitet echte Live-Daten, die es vorher nicht gab oder die sich ständig ändern, lernt dazu und verbessert sich permanent selbst. Ganz so alleine macht sie das aber nicht. Das muss genauestens beobachtet und angepasst werden. Nicht zwingend, das ist abhängig von der jeweiligen KI-Lösung, aber am besten kontinuierlich. Das ist das Model Performance Monitoring. Dieser Punkt ist extrem wichtig – wie die vorherigen auch. Ist dieser Punkt, diese Phase in dem Angebot, das Ihnen vorliegt, auch genügend berücksichtigt?

KI: Es geht um Zahlen

Das Fazit dieser Betrachtung und den daraus resultierenden Shopping Tipps: Erstellen Sie neben rein wirtschaftlichen KPIs auch strenge technische Benchmarks, beides basierend auf Ihrer Ist-Situation und Ihren Zielvorstellungen – und matchen Sie diese. Oftmals werden Entscheidungen rein wirtschaftlich begründet getroffen. Dieser Aspekt ist natürlich wichtig, doch das sind auch die Betrachtung der Expertise des KI-Anbieters hinsichtlich Softwareentwicklung und Machine Learning sowie das vorhandene Domänenwissen. Das Zusammenspiel dieser drei Faktoren mit allen einzelnen Aspekten ist essentiell für den Erfolg Ihres KI-Projektes, nicht einer alleine. Denn der Teufel steckt nunmal im Detail …