Managed AI Services
Mit dem Go-live beginnt für eine KI-Anwendung erst der Alltag. Die Anbieter bringen neue Modelle heraus, die Dokumente und Anfragen Ihrer Kunden verändern sich mit der Zeit, und die Kosten pro Vorgang steigen, wenn niemand sie im Blick behält. Damit die Anwendung trotzdem verlässlich arbeitet, muss sich jemand dauerhaft um sie kümmern.
Diese Aufgabe übernehmen wir. Wir betreiben KI-Anwendungen, die wir gemeinsam mit Ihnen gebaut haben, und nach einer Bestandsaufnahme auch Anwendungen, die bereits bestehen.

- 12 Monate, danach monatlich kündbar
- Laufzeit
- In Ihrer oder unserer Umgebung
- Betrieb
Wir übernehmen den Betrieb und die Weiterentwicklung Ihrer KI-Anwendungen.
Den genauen Umfang legen wir pro Anwendung mit Ihnen fest.
Tagesbetrieb und Support
Im Alltag fallen bei jeder KI-Anwendung Aufgaben an, um die sich jemand kümmern muss. Wir beantworten Fragen und nehmen Störungsmeldungen aus dem Fachbereich auf, richten Zugänge und Berechtigungen ein und halten Bibliotheken und Schnittstellen auf dem aktuellen Stand. Jede Änderung spielen wir über Ihre bestehenden Freigabeprozesse ein, sodass Ihre IT jederzeit weiß, was in Produktion läuft.
Die Sachbearbeitung meldet, dass ein bestimmter Dokumenttyp nicht mehr erkannt wird. Wir finden den Fehler, spielen die Korrektur nach Ihrer Freigabe ein und geben der Sachbearbeitung Bescheid.
Überwachung
Wir beobachten laufend, ob Ihre Anwendung erreichbar ist, wie schnell sie antwortet, wie oft Fehler auftreten und was ein Vorgang kostet. Für jeden dieser Werte legen wir mit Ihnen Grenzwerte fest. Wird ein Grenzwert überschritten, erhalten wir automatisch eine Meldung und kümmern uns innerhalb der vereinbarten Reaktionszeit um die Ursache.
Die Antwortzeit eines Agenten in der Schadenbearbeitung steigt in der Nacht über den vereinbarten Wert. Wir sehen es, finden die Ursache und beheben sie, bevor die Sachbearbeitung am Morgen beginnt.
Evaluationen
Eine KI-Anwendung kann schlechter werden, ohne dass sie ausfällt, zum Beispiel weil sich die eingehenden Dokumente verändern. Deshalb lassen wir sie in regelmäßigen Abständen einen festen Satz geprüfter Testfälle bearbeiten, deren richtige Ergebnisse bekannt sind, und vergleichen ihre Antworten damit. So sehen wir früh, wenn die Qualität bei einer Aufgabe sinkt, und können gegensteuern, bevor es im Fachbereich auffällt.
Nach einer Änderung am Antragsformular liest die Anwendung ein Feld schlechter aus. Die Evaluation zeigt den Rückgang, wir passen die Extraktion an und messen erneut.
KI-Modellwechsel
Die Anbieter von KI-Modellen veröffentlichen laufend neue Versionen, und ältere Modelle werden nach einiger Zeit eingestellt. Wir testen neue Modelle an denselben Testfällen wie Ihre laufende Anwendung und vergleichen Qualität, Antwortzeit und Kosten. Lohnt sich ein Wechsel oder wird er nötig, legen wir Ihnen das Ergebnis zur Entscheidung vor. Umgestellt wird erst nach Ihrer Freigabe, und der Weg zurück zum bisherigen Modell bleibt offen.
Ein neues Modell erreicht in Ihren Testfällen dieselbe Qualität zu einem Bruchteil der Kosten. Wir legen Ihnen das Ergebnis vor und stellen nach Ihrer Freigabe um, mit Rückweg auf das bisherige Modell.
Kostensteuerung
Die laufenden Kosten einer KI-Anwendung entstehen vor allem durch die Aufrufe der Modelle, und sie schwanken mit der Menge und Länge der Eingaben. Wir messen deshalb, was ein einzelner Vorgang in jeder Anwendung kostet, und vergleichen das mit Ihrem Plan. Steigen die Kosten, suchen wir die Ursache und schlagen Ihnen vor, wie sie sich wieder senken lassen.
Ein Vorgang kostet plötzlich doppelt so viel, weil die eingereichten Dokumente länger geworden sind. Wir zeigen die Ursache und schlagen vor, wie sich die Kosten wieder senken lassen.
Weiterentwicklung
Ihr Geschäft verändert sich, und Ihre KI-Anwendung muss mitziehen. Wenn neue Produkte, Vorgangsarten, Formulare oder Vorgaben hinzukommen, passen wir die Anwendung an und erweitern die Testfälle, damit auch die neuen Fälle geprüft werden. Umfang und Aufwand jeder Weiterentwicklung stimmen wir vorher mit Ihnen ab.
Ihr Haus führt einen neuen Tarif ein. Wir ergänzen die Felder, erweitern die Testfälle und bringen die Änderung über Ihre Freigabeprozesse in Betrieb.
Jeden Monat sehen Sie, wie Ihre Anwendung läuft.
Sie müssen nicht nachfragen, ob Ihre KI-Anwendungen gut laufen. Jeden Monat erhalten Sie einen Bericht, der Qualität, Kosten und Störungen nachvollziehbar darstellt und die Entscheidungen vorbereitet, die bei Ihnen liegen.
- 01
Ein Monatsbericht pro Anwendung
Für jede Anwendung, die wir betreiben, erhalten Sie zu Beginn des Monats einen Bericht über den Vormonat. Er zeigt, wie zuverlässig die Anwendung ihre Aufgaben erledigt hat, wie gut sie erreichbar war und was ein einzelner Vorgang gekostet hat. Neben jeder KPI stehen der vereinbarte Zielwert und der Wert des Vormonats, sodass Sie sofort sehen, ob sich etwas verbessert oder verschlechtert hat. Außerdem lesen Sie, welche Störungen es gab, was wir geändert haben und was wir für den nächsten Monat planen.
- 02
Entscheidungsvorlagen
Manche Entscheidungen treffen wir nicht allein, zum Beispiel ob eine Anwendung auf ein neues KI-Modell umgestellt oder um eine neue Funktion erweitert wird. Für jede dieser Entscheidungen erhalten Sie eine kurze Vorlage. Darin steht, was wir gemessen haben, wie sich Qualität und Kosten verändern würden und was wir Ihnen empfehlen. Sie geben die Änderung frei, lehnen sie ab oder stellen eine Rückfrage, und erst danach setzen wir sie um.
- 03
Nachweise für Revision und Aufsicht
Wenn die interne Revision oder die Aufsicht wissen möchte, wie Ihre KI-Anwendung kontrolliert wird, müssen Sie nichts zusammensuchen. Wir legen jede Qualitätsmessung, jede Änderung und jede Freigabe mit Datum und der verantwortlichen Person ab. Für eine Prüfung stellen wir Ihnen die Nachweise für den angefragten Zeitraum zusammen.
- 04
Ein monatlicher Termin mit demselben Team
Einmal im Monat gehen wir den Bericht gemeinsam mit Ihnen durch, besprechen offene Entscheidungen und hören, was sich in Ihrem Fachbereich ändert. Sie sprechen dabei immer mit den Personen, die Ihre Anwendung betreiben und kennen. Bei einer Störung erreichen Sie dasselbe Team über den vereinbarten Weg und innerhalb der vereinbarten Zeit.
Monatsbericht Oktober
Anwendung: Erstmeldung Schaden
- Qualität in der Evaluation
- 96,8 %Ziel 95 %
- Verfügbarkeit
- 99,9 %Ziel 99,5 %
- Kosten pro Vorgang
- 0,040 €Vormonat 0,050 €
- Vorfälle
- 1vor Arbeitsbeginn behoben
Neues Modell für die Einordnung der Schadenart: gleiche Qualität in Ihren Testfällen, 40 % geringere Kosten pro Vorgang.
So beginnt die Zusammenarbeit mit uns.
- 01
Bestandsaufnahme
Wir sehen uns Ihre Anwendung im laufenden Betrieb an: wie sie gebaut ist, welche Testfälle es gibt, wie sie überwacht wird und was ein Vorgang kostet. Danach wissen Sie, was wir vor der Übernahme ergänzen und wie lange das dauert.
- 02
Vertrag
Wir vereinbaren, welche Anwendungen wir betreiben, wie schnell wir auf Störungen reagieren, wie viel Weiterentwicklung enthalten ist und was der Betrieb kostet.
- 03
Übernahme
Wir richten Überwachung, Evaluationen und Bericht ein und übernehmen den Betrieb zu einem festen Datum. Ihren ersten Monatsbericht erhalten Sie nach dem ersten vollen Monat.
Sprechen Sie mit uns über den Betrieb Ihrer KI-Anwendungen.
In 45 Minuten besprechen wir, welche KI-Anwendungen Sie betreiben, wie sie heute überwacht werden und welche Aufgaben wir übernehmen würden.
Häufige Fragen zu Managed AI Services.
Was sind Managed AI Services?
Bei Managed AI Services übernimmt ein Dienstleister den laufenden Betrieb von KI-Anwendungen: Überwachung, Support, regelmäßige Qualitätsmessung, Modellwechsel, Kostensteuerung und Weiterentwicklung. Ihr Unternehmen behält die Entscheidungen und erhält jeden Monat einen Bericht über Qualität, Kosten und Vorfälle.
Was kostet der Betrieb einer KI-Anwendung?
Der Preis hängt davon ab, wie viele Anwendungen wir betreiben, wie viele Vorgänge sie verarbeiten, wie schnell wir auf Störungen reagieren und wie viel Weiterentwicklung enthalten ist. Wir nennen den Preis nach der Bestandsaufnahme. Die Kosten der Modellaufrufe weisen wir je Anwendung getrennt aus, damit Sie die Kosten pro Vorgang sehen.
Betreiben Sie auch KI-Anwendungen, die Sie nicht selbst gebaut haben?
Ja. Vor der Übernahme prüfen wir, wie die Anwendung gebaut ist, welche Testfälle es gibt und wie sie überwacht wird. Was für einen verlässlichen Betrieb fehlt, ergänzen wir vor dem Übernahmetermin.
Läuft die Anwendung bei uns oder bei Ihnen?
Beides ist möglich. Wir betreiben die Anwendung in Ihrer Umgebung, etwa in Ihrer Cloud oder Ihrem Rechenzentrum, oder in unserer Umgebung in der EU. Modelle rufen wir nur in der EU-Datenregion und nur mit Ihrer Freigabe auf.
Was passiert bei einer Störung?
Wir erkennen Störungen über ein Monitoring meist, bevor sie im Fachbereich auffallen, und reagieren innerhalb der vereinbarten Zeit. Jede Störung wird mit Ursache und Maßnahme protokolliert und steht im Monatsbericht.
Wie passt der Betrieb durch Sie zu DORA und dem EU AI Act?
Unter DORA sind wir ein IKT-Drittdienstleister Ihres Hauses. Wir stellen die vertraglich geforderten Angaben, Prüf- und Zugangsrechte, Nachweise und eine Exit-Planung bereit. Für den EU AI Act dokumentieren wir die Anwendung, protokollieren ihre Entscheidungen und halten fest, wo Menschen entscheiden.
Was unterscheidet Managed AI Services von MLOps?
MLOps beschreibt Verfahren und Werkzeuge, um Modelle zu trainieren, bereitzustellen und zu überwachen. Managed AI Services gehen weiter: Wir betreiben die ganze Anwendung im Geschäftsprozess, einschließlich Support für den Fachbereich, Modellwechseln nach Ihrer Freigabe, Kosten pro Vorgang und Weiterentwicklung.
Welche Laufzeit hat der Vertrag?
Die erste Laufzeit beträgt 12 Monate, danach ist der Vertrag monatlich kündbar.