KI im eigenen Haus statt Firmendaten in der fremden Cloud

Für wen das gedacht ist

Viele Betriebe würden KI gern nutzen, dürfen oder wollen aber Mandantendaten, Personalakten, Angebote oder Konstruktionsdaten nicht in einen fremden Clouddienst geben. Ein eigener KI-Server ist dafür der Weg: Das Sprachmodell läuft auf Hardware in Ihrem Haus, unter Ihrer Kontrolle.

Was damit geht

• Fragen an eigene Dokumente stellen, etwa an Handbücher, Verträge oder Richtlinien
• Texte zusammenfassen, Entwürfe schreiben, E-Mails vorformulieren
• Interne Suche über Ablagen, in der Sprache des Alltags statt mit Stichworten
• Anbindung an eigene Programme und Datenbanken

Was Sie vorher wissen sollten

Offene Modelle auf eigener Hardware sind sehr brauchbar, aber nicht in jeder Aufgabe so stark wie die größten Clouddienste. Die Antwortgeschwindigkeit hängt von der Hardware ab, für flüssiges Arbeiten braucht es einen Server mit leistungsfähiger Grafikkarte. Welche Aufgaben sich lohnen und welche Hardware dafür reicht, klären wir vor jeder Anschaffung.

So läuft es ab

1. Beratung: Welche Aufgaben sollen besser werden, welche Daten sind beteiligt?
2. Hardware: Auswahl und Beschaffung eines passenden Servers.
3. Einrichtung: Offene Modelle installieren, an Dokumente und Programme anbinden.
4. Rechte und Protokoll: Festlegen, wer was abfragen darf, und nachvollziehbar protokollieren.
5. Betrieb: Überwachung, Updates und später neuere Modelle.

Datenschutz

Weil die Verarbeitung in Ihrem Netz bleibt, entfällt die Übermittlung an einen KI-Anbieter. Ihre übrigen Pflichten, etwa Zweckbindung, Betroffenenrechte und Löschfristen, bleiben bestehen. Bei der technischen Umsetzung unterstützen wir Sie. Auch Art. 4 der KI-Verordnung bleibt zu beachten: Wer KI einsetzt, ergreift Maßnahmen, die die KI-Kompetenz der Beschäftigten fördern. Dabei unterstützen wir ebenso wie bei den Lizenzbedingungen der Modelle.

Häufige Fragen