Lokale KI im Handwerksbetrieb: Was sie kann, was sie kostet und wann Cloud-KI die bessere Wahl ist
Kundendaten im Haus behalten und trotzdem schneller schreiben: Was lokale KI im Handwerk heute kann, wo sie an Grenzen stößt, was sie realistisch kostet und wann ein Cloud-Abo die vernünftigere Wahl ist.
Viele Betriebsinhaber, mit denen ich spreche, haben ChatGPT längst ausprobiert. Meist abends, wenn ein Angebot liegen geblieben ist. Und fast immer folgt derselbe Gedanke: Moment, da habe ich gerade Kundenname, Adresse und Schadensbeschreibung in ein Fenster im Internet getippt. War das in Ordnung?
Darum geht es in diesem Beitrag. Ich erkläre, was lokale KI im Handwerk bedeutet, was sie im Büro eines Bautenschutz- oder Sanierungsbetriebs heute leisten kann, wo sie an Grenzen stößt und was sie ungefähr kostet. Und ich sage auch, wann Sie sich den Aufwand sparen können. Ich betreibe lokale KI selbst, auf eigener Hardware im Büro. Deshalb schreibe ich hier aus Erfahrung und nicht aus dem Prospekt.
Was viele Betriebe schon tun, ohne es laut zu sagen
Ein Mitarbeiter lässt sich eine unfreundliche Kundenmail „höflicher“ formulieren. Jemand fasst ein langes Gutachten zusammen. Ein Angebotstext wird mit ChatGPT geglättet. Das ist nachvollziehbar, denn es spart Zeit. Das Problem: Bei der üblichen Cloud-Nutzung gehen die Texte an einen Anbieter, dessen Rechner nicht in Ihrem Büro stehen.
Bei Mails an Lieferanten ist das oft unkritisch. Bei Schadensberichten mit Adresse, Fotos und Namen der Eigentümer sieht es anders aus. Sobald solche personenbezogenen Daten an einen KI-Dienst gehen, verarbeitet dieser Dienst sie in Ihrem Auftrag. Dafür verlangt die DSGVO einen Vertrag zur Auftragsverarbeitung, kurz AVV (Art. 28 DSGVO). Verantwortlich bleiben Sie: Sie brauchen eine Rechtsgrundlage für die Verarbeitung, und sitzt der Anbieter außerhalb der EU, gelten zusätzlich die Regeln für die Datenübermittlung in Drittländer.
Für den privaten Gratis-Zugang gibt es einen solchen Vertrag nicht. OpenAI etwa schließt ihn für ChatGPT Business, Enterprise und die Programmierschnittstelle ab und sagt zu, Geschäftsdaten standardmäßig nicht zum Training zu verwenden (OpenAI, Enterprise Privacy). Die deutschen Datenschutzbehörden haben die Fragen rund um KI in einer verständlichen Orientierungshilfe der Datenschutzkonferenz zusammengefasst. Eine Rechtsberatung ersetzt dieser Abschnitt nicht, aber er zeigt, worauf es ankommt.
Was „lokal“ heißt
Lokale KI bedeutet: Das Sprachmodell, also das Programm, das Texte versteht und schreibt, läuft auf einem Rechner, den Sie kontrollieren. Das kann ein kompakter Server im Büro sein, gemietete Hardware oder ein Rechner in einem deutschen Rechenzentrum. Ihre Texte, Fotos und Dokumente werden dort verarbeitet und nicht an einen Cloud-Dienst geschickt.
Stellen Sie es sich wie einen Aktenschrank vor. Bei der Cloud-KI steht er beim Dienstleister, und Sie haben einen Vertrag, dass er ihn sorgfältig behandelt. Bei lokaler KI steht der Schrank in Ihrem Haus (oder in einem Rechenzentrum, das Sie sich ausgesucht haben), und Sie entscheiden, wer den Schlüssel hat.
Meine eigenen Modelle laufen auf einem NVIDIA DGX Spark. Das ist ein kleiner KI-Rechner, kein Cloud-Dienst. Für einen Handwerksbetrieb muss es nicht dieses Gerät sein, dazu gleich mehr bei den Kosten.
Was lokale KI im Handwerk heute gut kann
Die folgenden Beispiele sind typische Aufgaben, keine Kundenberichte.
Mails und Schreiben. Aus Stichworten wird ein Entwurf für eine Antwort an einen Eigentümer, eine Mahnung oder eine Terminbestätigung. Sie lesen, ändern, schicken ab.
Angebotsentwürfe. Sie diktieren oder tippen Stichworte vom Aufmaß: Kellerwand, Feuchteschaden, Abdichtung von außen, Länge und Höhe. Die KI formuliert daraus einen Angebotstext im Stil Ihrer bisherigen Angebote. Preise und Mengen prüfen Sie selbst, dazu gleich mehr.
Dokumente durchsuchen. Ein ausgedachtes, aber typisches Beispiel: Sie fragen „Welches Mittel haben wir 2023 bei der Holzbock-Sanierung im Dachstuhl in der Schulstraße verwendet?“ und bekommen die Fundstelle in Ihrer eigenen Ablage. Das spart das Blättern durch Ordner, vorausgesetzt, die Dokumente liegen digital vor.
Schadensdokumentation. Sprachnotizen von der Begehung werden zu Text, Fotos bekommen Beschreibungen, ein Berichtsgerüst entsteht aus Ihrer Vorlage. Messwerte und Diagnose bleiben Ihre Sache.
Ablage. Rechnungen, Lieferscheine und Gutachten werden automatisch erkannt und einsortiert. Damit habe ich selbst viel experimentiert, auch mit Fehlschlägen, zum Beispiel als paperless-ai 3.335-mal ins Leere lief.
Was sie nicht kann
Hier will ich nichts schönreden. Sprachmodelle haben eine unangenehme Eigenschaft: Sie antworten immer, auch wenn sie es nicht wissen. Eine KI, die einen Preis oder eine Norm „erfindet“, klingt dabei genauso überzeugend wie eine, die richtig liegt.
Für den Betrieb heißt das:
- Preise, Mengen und Normverweise prüft immer ein Mensch. KI liefert den ersten Entwurf, nicht die Unterschrift.
- Sie ersetzt keinen Sachverstand. Ob eine Wand wegen aufsteigender Feuchte oder wegen einer undichten Leitung nass ist, entscheidet Ihre Erfahrung.
- Sie braucht saubere Vorlagen. Wenn Ihre alten Angebote uneinheitlich sind, werden es die Entwürfe auch.
- Sie arbeitet nicht ohne Einrichtung. Gerät hinstellen und fertig, das stimmt nicht. Es braucht Anbindung an Ihre Ablage, Tests und etwas Pflege.
Wie man ein Modell dazu bringt, „Ich weiß es nicht“ zu sagen, statt etwas zu erfinden, habe ich im Laborbericht „Ich weiß es nicht“ ist ein Feature beschrieben.
Was lokale KI kostet
Pauschalpreise nenne ich bewusst nicht, denn sie hängen von Betriebsgröße, Aufgaben und vorhandener Technik ab. Damit Sie trotzdem eine Größenordnung haben, rechne ich mit Marktpreisen und üblichen Stundensätzen. Es gibt vier Kostenblöcke:
- Hardware, gekauft oder gemietet. Mehr dazu im nächsten Abschnitt.
- Einrichtung: Modell aufsetzen, Anbindung an Mail, Ablage und Vorlagen, Tests. Für einen Probebetrieb mit einer Aufgabe sind typischerweise zwei bis fünf Arbeitstage nötig. Bei den marktüblichen IT-Stundensätzen von rund 105 bis 121 € netto (IT-Servicepreisspiegel 2026) sind das grob 1.700 bis 4.800 €. Wer mehrere Abläufe einbinden will, liegt deutlich darüber.
- Schulung der Mitarbeiter, meist ein halber bis ganzer Tag. Die brauchen Sie bei Cloud-KI genauso.
- Betrieb: Updates, Überwachung, kleine Anpassungen. Rechnen Sie mit einer bis vier Stunden im Monat, je nach Umfang. Dazu kommt Strom: Ein kompakter KI-Rechner zieht im Mittel grob 30 bis 100 Watt. Bei 30 Cent pro Kilowattstunde sind das rund 80 bis 260 € im Jahr.
Welche Hardware ein Betrieb mit 5 bis 15 Leuten braucht
Das Gerät, das ich selbst nutze, ist für die meisten kleinen Betriebe mehr als nötig. Laut Preisvergleich Geizhals kostet der DGX Spark in der Founders Edition von NVIDIA ab 7.999 €, baugleiche Geräte anderer Hersteller wie die Lenovo ThinkStation PGX gibt es ab gut 5.000 € (Stand 3. November 2026).
Eine Klasse darunter liegen kompakte Rechner mit AMD Ryzen AI Max+ 395 und 128 GB gemeinsamem Speicher. Sie kosten laut Geizhals ab etwa 2.300 €, Markengeräte um 2.800 bis 3.000 €. Darauf laufen Sprachmodelle der mittleren Größe, die für Mails, Angebotsentwürfe und Dokumentensuche reichen. Fragen mehrere Leute gleichzeitig an, wird es langsamer, für gelegentliche Anfragen über den Tag verteilt genügt das meist. Warum dabei die Speicherbandbreite mehr zählt als die Modellgröße, steht im Laborbericht Drei Sprachmodelle auf einer Maschine.
Cloud zum Vergleich
ChatGPT Business kostet laut OpenAI 21 € pro Nutzer und Monat bei jährlicher Abrechnung, bei monatlicher Abrechnung etwas mehr (Stand 3. November 2026). Der Tarif ist für Teams ab zwei Personen gedacht. Wer sehr viel damit arbeitet, braucht den Premium-Platz für 105 € im Monat, ebenfalls bei jährlicher Abrechnung.
Beispielrechnung
Die Zahlen sind Annahmen, keine Angebote. So habe ich gerechnet:
- Ein Betrieb mit 8 Personen in Büro und auf der Baustelle nutzt KI.
- Cloud: 8 Lizenzen ChatGPT Business zu 21 € im Monat, also 8 × 21 € × 12 = 2.016 € im Jahr.
- Lokal: kompakter Rechner für 2.500 € und Einrichtung für 3.500 €, beides auf drei Jahre verteilt (2.000 € im Jahr). Dazu Betrieb mit zwei Stunden im Monat zu 105 € (2.520 €) und Strom (rund 200 €). Zusammen 4.720 € im Jahr.
- Schulung brauchen beide Wege, sie bleibt deshalb außen vor.
Gleichstand wäre erst bei rund 19 Nutzern (4.720 € geteilt durch 252 € pro Lizenz und Jahr). Bei acht Leuten ist das Cloud-Abo also deutlich günstiger, bei zwei oder drei sowieso. Anders sieht es aus, wenn viele Ihrer Leute so intensiv arbeiten, dass sie den Premium-Platz bräuchten: Dann liegt der Gleichstand schon bei etwa vier Nutzern. Dabei gilt: Ein lokales Modell ist nicht so stark wie die größten Cloud-Modelle, die Rechnung vergleicht also nicht ganz Gleiches.
Die ehrliche Schlussfolgerung: Lokale KI rechnet sich selten über die Monatsgebühr. Sie lohnt sich, wenn Datenschutz für Ihre Arbeit entscheidend ist, wenn viele Menschen sie nutzen oder wenn sie fest in Abläufe wie Ablage und Angebote eingebaut wird.
Wann Cloud-KI die bessere Wahl ist
- Sie nutzen KI gelegentlich für Texte, in denen keine Kundendaten vorkommen, etwa Werbetexte oder allgemeine Fragen.
- Sie wollen erst einmal ausprobieren, ob Ihnen KI überhaupt hilft.
- Sie sind ein Ein- bis Zwei-Personen-Betrieb ohne sensible Daten im Prompt.
Auch bei Cloud-KI gibt es einen vernünftigen Weg: ein Geschäftskonto mit AVV statt des privaten Gratis-Zugangs, dazu klare Regeln, was hineingehört und was nicht. Namen, Adressen und Objektfotos lassen sich oft weglassen oder durch Platzhalter ersetzen, ohne dass der Entwurf schlechter wird.
Wann lokal oder gemischt sinnvoll ist
- Sie arbeiten mit Gutachten, Objektfotos, Adressen und Eigentümerdaten.
- Mehrere Mitarbeiter sollen KI täglich nutzen.
- Sie wollen Ihre eigene Dokumentenablage durchsuchbar machen.
- Sie möchten unabhängig von Preisänderungen eines Anbieters bleiben.
Häufig ist gemischt der vernünftige Weg: Alles mit Kundenbezug läuft lokal, allgemeine Fragen ohne Daten dürfen in die Cloud.
Eine Pflicht gilt in jedem Fall: KI-Kompetenz
Wer KI im Betrieb einsetzt, ist nach der EU-KI-Verordnung „Betreiber“, auch wenn es nur ChatGPT im Büro ist. Artikel 4 verlangt seit Februar 2025, dass Betreiber sich um die KI-Kompetenz ihrer Leute kümmern (Verordnung (EU) 2024/1689). Mit dem sogenannten Digital-Omnibus, der seit dem 27. Juli 2026 in Kraft ist, wurde die Pflicht entschärft (Verordnung (EU) 2026/1744): Betreiber müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz zu unterstützen, ein bestimmtes Niveau für jede Person müssen sie aber nicht garantieren. Kommission und Mitgliedstaaten sollen gerade kleine Unternehmen dabei mit praktischen Beispielen unterstützen.
Für einen kleinen Betrieb heißt das praktisch: eine Einweisung für alle, die KI nutzen, ein paar klare Regeln, was hinein darf und was nicht, und eine kurze Notiz, dass beides stattgefunden hat. Das ist ohnehin gesunder Menschenverstand.
Häufige Fragen
Brauche ich einen eigenen IT-Mitarbeiter, um lokale KI zu betreiben?
Nein. Einrichtung und Betreuung kann ich übernehmen. Wichtig ist, dass jemand im Betrieb Ansprechpartner für das Thema ist. Ein Techniker muss das nicht sein.
Ist lokale KI automatisch DSGVO-konform?
Nein. Sie nimmt Ihnen eine große Frage ab: was ein externer Anbieter mit Ihren Daten macht, ob es dafür einen AVV gibt und ob Daten ins Ausland gehen. Alle anderen Pflichten bleiben: eine Rechtsgrundlage für die Verarbeitung, geregelte Zugriffe, Löschfristen und Auskunft an Betroffene. Und wenn ein Dienstleister den Server betreut und dabei an Daten kommen kann, braucht es auch dafür in der Regel einen AVV. Lokal heißt: Sie haben es selbst in der Hand. Es heißt nicht, dass es sich von selbst erledigt.
Ist ein lokales Modell so gut wie ChatGPT?
Nicht ganz. Die größten Cloud-Modelle sind bei schwierigen Fragen und langen Texten stärker als alles, was auf einen kompakten Bürorechner passt. Für Mails, Angebotsentwürfe, Zusammenfassungen und die Suche in eigenen Dokumenten reichen lokale Modelle aber gut aus. Entscheidend ist dort weniger die Größe des Modells als eine saubere Wissensbasis. Wie viel das ausmacht, habe ich im Laborbericht Grounding schlägt Gewichte gemessen.
Gibt es Fördermittel für KI im kleinen Betrieb?
Ja, aber kein Programm bezahlt Ihnen einfach den KI-Server. Stand November 2026:
- BAFA, Förderung von Unternehmensberatungen für KMU: Zuschuss zu einer Beratung, etwa zur Frage, ob und wie KI in Ihren Betrieb passt. Nach der aktuellen Richtlinie gibt es 50 % von höchstens 3.500 € Beratungskosten, also bis 1.750 €; in den neuen Bundesländern (ohne Berlin und die Region Leipzig) 80 %, also bis 2.800 €. Das BAFA hat das Programm mit geänderten Bedingungen bis Ende 2028 verlängert. Wichtig: Erst Antrag stellen und die Rückmeldung abwarten, dann den Beratungsvertrag schließen, sonst entfällt der Zuschuss (BAFA).
- KfW, ERP-Förderkredit Digitalisierung: zinsgünstiger Kredit über die Hausbank für Hard- und Software bis hin zu KI, je nach Vorhaben mit Zuschuss (KfW). Der frühere ERP-Digitalisierungs- und Innovationskredit (380) ist durch dieses Programm ersetzt.
- Mittelstand-Digital Zentren: kostenfreie, anbieterneutrale Information und KI-Trainer. Das bisherige Netz läuft bis Ende 2026 aus, ab 2027 startet ein neues mit Schwerpunkt KI (BMWE).
Das Investitionsprogramm „Digital Jetzt“ gibt es nicht mehr. Es lief Ende 2023 aus, auch wenn manche Ratgeber es noch nennen. Dazu kommen Programme der Länder, die ich hier nicht einzeln aufzähle.
Wie lange dauert es, bis lokale KI im Betrieb läuft?
Als Richtwert: Ein Probebetrieb mit einer Aufgabe, zum Beispiel Angebotsentwürfe oder Ablage, steht typischerweise nach zwei bis vier Wochen. Die reine Arbeitszeit liegt bei wenigen Tagen. Den Rest bestimmen Lieferzeit der Hardware, Ihre Vorlagen und die Testrunden mit Ihren Leuten. Eine Lösung, die mehrere Abläufe und die ganze Ablage einbindet, braucht eher zwei bis drei Monate, weil Nachbessern dazugehört.
Der nächste Schritt: ein Erstgespräch
Lokale KI ist kein Muss. Für Betriebe mit sensiblen Kundendaten ist sie aber oft die sauberste Lösung. Ob sie sich bei Ihnen lohnt, klärt sich am schnellsten im Gespräch. Das Erstgespräch ist kostenfrei.
Drei Fragen, die Sie mitbringen können:
- Welche Aufgaben im Büro kosten Sie die meiste Zeit?
- Welche Daten dürfen auf keinen Fall nach außen, etwa Kundenobjekte, Gutachten oder Fotos?
- Wie viele Personen sollen KI nutzen?
Schreiben Sie mir über das Kontaktformular oder an info@its-seeliger.de.
Sebastian Seeliger, IT-Service Seeliger
Quellen und Stand
Alle Angaben Stand 3. November 2026. Rechtliche Hinweise nach eigener Recherche, keine Rechtsberatung.
- DSGVO, Art. 28 Auftragsverarbeiter (EUR-Lex)
- Datenschutzkonferenz: Orientierungshilfe KI und Datenschutz (PDF)
- KI-Verordnung (EU) 2024/1689 (EUR-Lex)
- Digital-Omnibus-Verordnung zur KI (EU) 2026/1744, Neufassung von Art. 4 (EUR-Lex)
- OpenAI: Preise für ChatGPT Business und Enterprise Privacy (AVV, kein Training)
- Geizhals: DGX Spark und baugleiche Geräte, Geizhals: Rechner mit Ryzen AI Max+ 395
- IT-Business: Synaxon IT-Servicepreisspiegel 2026
- BAFA: Förderung von Unternehmensberatungen für KMU
- KfW: ERP-Förderkredit Digitalisierung (511, 512)
- BMWE: Förderschwerpunkt Mittelstand-Digital