Leistung · Künstliche Intelligenz

KI-Infrastruktur in der Cloud

Eine Rechtsanwaltskanzlei in Wien möchte ihr Wissen aus zwanzig Jahren Schriftsätzen, Gutachten und Vertragsmustern durchsuchbar machen, und zwar mit Fragen in ganzen Sätzen. Ein öffentlicher Chatbot kommt wegen der Verschwiegenheitspflicht nicht infrage. Die Lösung ist eine eigene Umgebung in der Cloud: Das Modell läuft in einem Konto, das der Kanzlei gehört, die Dokumente bleiben dort, und jede Antwort nennt die Quelle. Solche Umgebungen bauen wir bei europäischen Anbietern wie Exoscale mit Standort Wien, Anexia, Hetzner, IONOS oder OVHcloud oder bei Microsoft Azure, AWS und Google Cloud in ihren EU-Regionen. Die Rechenleistung wird gemietet, nicht gekauft, und die gesamte Einrichtung erfolgt per Fernzugriff.

Eigenes Konto
Daten und Modell liegen bei Ihnen
Quellenangabe
bei jeder Antwort
Zugriffsrechte
aus SharePoint oder Dateiserver übernommen
Kostenlimit
mit Warnung und Abschaltung

Leistungsumfang

Nicht jede Aufgabe braucht eine eigene GPU. Wir wählen die kleinste Variante, die Ihre Anforderungen an Datenschutz und Qualität erfüllt.

Umfang mit unserem Technikteam abstimmen

Drei Architekturvarianten

Verwalteter Modelldienst eines Cloudanbieters in einer EU-Region, offenes Modell auf gemieteter GPU in Ihrem Konto oder eine Mischung, bei der nur heikle Anfragen intern bleiben. Wir rechnen jede Variante mit Ihren Zahlen durch.

Dokumente aufbereiten

Texterkennung für Scans, Zerlegung in sinnvolle Abschnitte, Metadaten wie Datum, Mandat oder Abteilung und eine regelmäßige Aktualisierung, wenn neue Dokumente dazukommen.

Berechtigungen mitnehmen

Wer in SharePoint oder am Dateiserver einen Ordner nicht sehen darf, bekommt auch in der KI-Suche keine Antwort daraus. Die Anmeldung läuft über Entra ID oder einen anderen Identitätsdienst.

Qualität prüfbar machen

Ein Fragenkatalog mit bekannten richtigen Antworten, gemeinsam mit Ihrem Team erstellt. Damit wird jede Änderung am Modell oder an der Aufbereitung vorher getestet.

Abgeschottetes Netz

Keine öffentlich erreichbaren Endpunkte, verschlüsselte Speicher, Schlüssel in Ihrem Tresor beim Cloudanbieter und Protokolle, die festhalten, wer wann was gefragt hat.

Kosten steuern

Budgetgrenzen, Warnungen, automatisches Herunterfahren außerhalb der Arbeitszeit und ein Monatsbericht zu Nutzung und Kosten.

Unterlagen für Datenschutz und AI Act

Beschreibung des Datenflusses für das Verzeichnis von Verarbeitungstätigkeiten und die DSFA sowie eine Übersicht, mit der Ihre Rechtsberatung beurteilen kann, was die EU-KI-Verordnung für den Einsatz bedeutet.

So gehen wir vor

Eine erste Umgebung mit einem Teil Ihrer Dokumente steht meist nach wenigen Wochen. Der Ausbau richtet sich nach Datenmenge und Ergebnissen.

01

Anforderungen und Varianten

Welche Fragen sollen beantwortet werden, welche Daten sind betroffen, welche Vorgaben gelten? Dazu zwei oder drei Varianten mit Kosten.

02

Pilot mit Teilbestand

Ein abgegrenzter Dokumentenbestand, etwa ein Fachbereich, wird indexiert und mit dem Fragenkatalog geprüft.

03

Ausbau

Weitere Bestände, Übernahme der Berechtigungen, Anbindung an Teams oder das Intranet.

04

Betrieb oder Übergabe

Laufende Betreuung durch uns oder Übergabe an Ihre IT mit Dokumentation als Code.

Bei der Indexierung gehen Zugriffsrechte gern verloren. Werden alle Dokumente in einen gemeinsamen Suchindex geladen, beantwortet die KI plötzlich Fragen aus Gehaltslisten oder Personalakten für alle, die fragen. Deshalb übernehmen wir die Berechtigungen aus den Quellsystemen und testen vor dem Start gezielt mit Konten, die bestimmte Ordner nicht sehen dürfen.

Häufige Fragen

Das hängt von Modellgröße und GPU ab. Für die Suche in internen Dokumenten sind wenige Sekunden pro Antwort üblich. Wir messen das im Pilot mit Ihren echten Fragen, bevor Sie sich für eine Variante entscheiden.

Wir testen es mit Ihrem Fragenkatalog und wechseln nur, wenn es nachweislich besser oder günstiger ist. Weil die Infrastruktur als Code beschrieben ist, bleibt ein Wechsel überschaubar.

Ja, und das empfehlen wir. Ein Fachbereich, einige tausend Dokumente, ein verwalteter Modelldienst in der EU: So sehen Sie Nutzen und Kosten, bevor größere Beträge fließen. Hardware müssen Sie nie kaufen, die Leistung wird gemietet.

Das legen Sie fest. Üblich ist ein eingeschränkter Zugriff für die IT-Verantwortlichen zur Fehlersuche und eine festgelegte Speicherdauer. Die Regelung gehört auch in die Information an die Beschäftigten.

Der Aufbau wird als Projekt oder zu 110 € pro Stunde zzgl. USt verrechnet. Für den laufenden Betrieb erhalten Sie vorab eine Monatsschätzung mit mehreren Nutzungsszenarien, die Cloudkosten zahlen Sie direkt an den Anbieter.

Ihre KI-Umgebung in Österreich oder der EU

Beschreiben Sie, welche Dokumente durchsuchbar werden sollen und welche Vorgaben zu Datenschutz und Standort gelten. Wir schlagen passende Varianten vor.

Erreichbarkeit
Montag bis Freitag, 8:00 bis 17:00 Uhr, Antwort innerhalb eines Werktags
Besprechungen
Als Videotermin über Microsoft Teams oder Google Meet

Wir setzen nur technisch notwendige Cookies ein: für den Betrieb der Website und um sich den gewählten Ort zu merken. Werbe- oder Tracking-Cookies gibt es nicht. Mehr dazu in der Datenschutzerklärung.