Claude for Small Business: KI für kleine Unternehmen als Chance oder Risiko?

Künstliche Intelligenz hat den deutschen Mittelstand als tägliches Werkzeug in vielen Anwendungsbereichen erreicht. Für viele kleine Betriebe ist KI inzwischen ein Wettbewerbsfaktor, an dem sie kaum vorbeikommen.

Gleichzeitig müssen gerade kleine Unternehmen genau abwägen, wenn es um den Einsatz von KI geht. Auf der einen Seite locken Programme wie das neue Claude for Small Business vom US-Anbieter Anthropic mit dem Versprechen, lästige Büroarbeit weitgehend autonom zu erledigen. Auf der anderen Seite tauchen bei genauerem Hinsehen Fragen auf, die niemand gerne stellt: Wo liegen die Daten? Wer haftet, wenn die KI Fehler macht? Und was passiert, wenn US-Behörden via CLOUD Act auf europäische Geschäftsgeheimnisse zugreifen?

Was Claude for Small Business verspricht

Mit Claude for Small Business und Claude Cowork vollzieht Anthropic einen interessanten Wandel. Die Tools arbeiten als agentisches System zunehmend wie digitale Mitarbeiter, die Aufträge eigenständig ausführen.

Klassische generative KI braucht für jeden Schritt einen Prompt. Claude for Small Business dagegen nimmt eine größere Aufgabe entgegen, zerlegt sie in Teilaufgaben und arbeitet sie nacheinander oder parallel ab. Drei Eigenschaften prägen den Alltag damit:

Zugriff aufs lokale Dateisystem: Claude liest und schreibt direkt in den Ordnern, die der Nutzer freigibt. Eine typische Aufgabe: Einen Ordner mit unsortierten PDF-Rechnungen durchforsten, die steuerlich relevanten Daten herauslesen und am Ende eine fertige Excel-Spesenabrechnung auf der Festplatte ablegen, ohne dass jemand Dateien hin und her schiebt.

Mehrere Agenten gleichzeitig: Bei komplexeren Aufträgen orchestriert das Hauptmodell mehrere spezialisierte KI-Agenten. Während ein Agent CRM-Daten auswertet, schreibt ein anderer in einer abgeschotteten virtuellen Maschine Python-Code, der die Ergebnisse als Diagramm darstellt.

Einfach bedienbar: Anders als entwicklerorientierte Werkzeuge wie Cursor oder GitHub Copilot richtet sich Claude Cowork an Wissensarbeiter auch ohne IT-Hintergrund wie Geschäftsführer, Buchhalter, Vertriebsleute. Sie sagen, welches Ergebnis sie wollen. Den Weg dorthin plant der Computer.

Abbildung 1: Claude for Small Business

Wo das System für europäische Nutzer an Grenzen stößt

Die Bequemlichkeit hat einen Preis. Wer sich die Architektur von Claude for Small Business genauer ansieht, stößt schnell auf Eigenschaften des Systems, die beim geschäftlichen Einsatz innerhalb der EU problematisch sein können. Der wichtigste Punkt: Claude Cowork führt keine vollständigen Audit-Logs. Wenn eine KI selbständig Dateien liest, interpretiert und verändert, müsste jeder dieser Schritte revisionssicher protokolliert werden. Genau das fehlt aber.

Dazu kommt ein eher enges, proprietäres Ökosystem. Browserbasierte Versionen für den dezentralen Zugriff fehlen ebenso wie eine native Linux-Unterstützung für eigene Server. Auch das Teilen von Arbeitssitzungen im Team ist nicht vorgesehen. Für die zentrale IT-Verwaltung und das Identitätsmanagement eines Unternehmens sind das echte Hürden.

Nicht zu vergessen: Das Übertragen von sensiblen Daten an US-Server widerspricht europäischen Datenschutzvorgaben.

Chancen für den Mittelstand

Trotz dieser Schwächen sollte man die Möglichkeiten von KI für kleine Betriebe nicht grundsätzlich kleinreden. Sinkende Kosten und einfachere Schnittstellen sorgen dafür, dass Effekte, die früher nur Großkonzerne erzielen konnten, heute auch im Handwerksbetrieb oder im Onlineshop möglich sind.

Buchhaltung und Finanzprozesse

Die wohl am meisten spürbare Wirkung hat KI in der Buchhaltung, vor allem Zeitersparnisse bei Routinetätigkeiten. Hochpräzise Texterkennung (OCR) kombiniert mit dem semantischen Verständnis großer Sprachmodelle versetzt die KI in die Lage, unstrukturierte Belege zu lesen und inhaltlich zu erfassen. Rechnungssteller, Beträge, Steuersätze und Leistungszeiträume werden automatisch ausgelesen, anhand historischer Daten kontiert und direkt an DATEV, Lexoffice oder Microsoft Dynamics 365 weitergereicht.

Industrie: Anomalien erkennen, Maschinen warten

Im produzierenden Mittelstand hat KI inzwischen einen festen Platz, vor allem bei der Datenerfassung an Maschinen. Das Fraunhofer-Institut verweist in seinem Praxisleitfaden für den Mittelstand auf zwei Anwendungen: Anomalieerkennung (Anomaly Detection) und vorausschauende Wartung (Predictive Maintenance). Algorithmen werten dabei laufend Maschinen- und Sensordaten aus und erkennen kleinste Abweichungen vom Normalbetrieb. So lassen sich Defekte voraussehen, bevor sie hörbar werden oder Schaden anrichten.

Kundenkontakt und neue Märkte

Auch im Service und im Onlinehandel erweitern sich die Möglichkeiten für kleine Unternehmen durch den Einsatz von KI. Mit dem Ansatz der Retrieval-Augmented Generation (RAG) lassen sich interne Wissensdatenbanken wie Produkthandbücher, FAQs, alte Support-Tickets sicher mit Sprachmodellen verbinden. Das Ergebnis sind Kundenservice-Agenten, die nicht halluzinieren und auf die eigene Dokumentation gestützt antworten.

Wo die Risiken liegen

Beim unbedachten Einsatz generativer KI, besonders, wenn sie aus den USA kommt, kollidieren gleich mehrere strenge europäische Rechtsrahmen miteinander: DSGVO, GoBD und der neue EU AI Act.

Steuerrecht

In Deutschland gelten für die digitale Buchführung die GoBD (die “Grundsätze zur ordnungsmäßigen Führung und Aufbewahrung von Büchern, Aufzeichnungen und Unterlagen in elektronischer Form sowie zum Datenzugriff”). Sie verlangen zwei Dinge:

• Jeder Bearbeitungsschritt muss nachvollziehbar protokolliert sein
• Originalbelege dürfen nach Eingang nicht mehr verändert werden.

Setzt ein Betrieb nun Claude Cowork oder Claude for Small Business ein und lässt die KI Dateien verschieben, Metadaten in PDFs anpassen oder Belege konsolidieren, und das ohne revisionssicheres Audit-Log, verletzt er fundamentale steuerrechtliche Pflichten. Bei einer Betriebsprüfung kann das Finanzamt die Buchführung verwerfen. Die Folge: steuerliche Hinzuschätzungen, die für kleine Unternehmen schnell existenzbedrohend werden. Es braucht deshalb eine interne KI-Governance, das „Human-in-the-loop“-Prinzip und eine Technik, die unveränderliche Protokolle erzeugt.

Datenschutz

KI-Systeme arbeiten mit großen Mengen sensibler Daten. Der Einsatz von KI verstößt zwar nicht automatisch gegen die DSGVO, verlangt aber von Anwendern hohes technisches Verständnis und saubere Governance.

Wenn ein kleines Unternehmen Kundendaten, Personalprofile oder Geschäftsgeheimnisse über Browser oder API in ein US-Modell einspeist, drohen die Informationen auf US-Servern gespeichert und für das Training des Modells weiterverwendet zu werden. Ohne ausdrückliche, informierte Einwilligung der Betroffenen ist das mit europäischem Recht schwer zu vereinbaren. In der Praxis lässt sich diese Einwilligung kaum flächendeckend einholen.

Zu beachten ist insbesondere Artikel 22 DSGVO: das Recht auf Erklärbarkeit algorithmischer Entscheidungen. Filtert eine KI zum Beispiel Bewerbungen vor, bewertet sie Mitarbeiterleistungen oder berechnet sie individuelle Rabatte, muss der Anwender jederzeit nachvollziehbar darlegen können, wie die Entscheidung zustande kam. Bei proprietären Black-Box-Modellen großer US-Anbieter ist das technisch nicht möglich. Der Anwender verstößt damit gegen die DSGVO und haftet dafür.

Die folgende Tabelle fasst zusammen, wo einige der wichtigsten Risiken des Einsatzes von US-KI in Unternehmen liegen:

Tabelle 1: Risiken des KI-Einsatzes in Unternehmen (Auswahl)

EU AI Act, Haftung und BaFin

Mit dem EU AI Act (Verordnung (EU) 2024/1689) hat die EU einen weltweit einmaligen, risikobasierten Regulierungsansatz für KI in Kraft gesetzt. Die Regeln gelten auch für kleine Unternehmen.

Hochrisiko-KI im Finanz- und HR-Sektor

Der AI Act sortiert KI-Systeme in vier Risikoklassen. Für KMU ist vor allem die Kategorie der Hochrisiko-Systeme heikel. Dazu zählen unter anderem KI-gestützte Kreditwürdigkeitsprüfungen, Risikobewertungen in Versicherungen sowie Anwendungen zur Einstellung oder Entlassung von Mitarbeitern.

Für solche Systeme verlangt der AI Act ein strenges Compliance-Korsett: ständige menschliche Aufsicht, lückenlose Daten-Governance, technische Robustheit, Cybersicherheit und detailliertes Risikomanagement.

Flankiert werden diese Vorgaben in Deutschland durch die BaFin. Die Bundesanstalt für Finanzdienstleistungsaufsicht hat in ihrem Prinzipienpapier zu Big Data und KI klargestellt, dass Algorithmen keine ungerechtfertigte Diskriminierung erzeugen dürfen und die IKT-Systeme höchste Resilienz und Auditierbarkeit aufweisen müssen.

Wenn ein Online-Händler also Bonitätsprüfungen für Ratenkäufe über intransparente US-APIs abwickelt, verliert er die Kontrolle über den Entscheidungsprozess. Trainierte Modelle aus den USA können kulturelle oder demografische Verzerrungen (sogenannte Biases) enthalten, die zu ungerechtfertigten Ablehnungen führen. Das europäische KMU als Deployer haftet für diese Ergebnisse. Die Strafen können bei bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes liegen.

CLOUD Act trifft DSGVO

Der 2018 in den USA erlassene CLOUD Act (Clarifying Lawful Overseas Use of Data Act) verpflichtet US-Technologieunternehmen, Unternehmens- und Kundendaten auf Anforderung von US-Behörden herauszugeben, und das unabhängig davon, wo die Server physisch stehen.

Konkret heißt das: Selbst wenn ein deutsches Unternehmen mit Anthropic, Microsoft oder Google vertraglich vereinbart, dass seine Geschäftsdaten ausschließlich in einem Rechenzentrum in Frankfurt am Main liegen, hilft das im Ernstfall wenig. Weil die Mutterkonzerne in den USA sitzen, unterliegen sie dem US-Recht. Die Behörden können den Zugriff verlangen und gleichzeitig per “Gag Order” anordnen, dass der Cloud-Anbieter das deutsche Unternehmen nicht einmal darüber informieren darf.

Dieser Zugriff steht im direkten Widerspruch zur DSGVO. Spätestens seit dem „Schrems II“-Urteil des EuGH bewegen sich EU-Unternehmen, die US-Clouds für sensible Daten nutzen, damit in einer rechtlichen Grauzone.

Europäische Alternativen: KI-Modelle und Workflow-Tools

Unternehmen, die auf KI setzen möchten und dabei die genannten Risiken minimieren wollen, haben heute eine echte Wahl. Europa hat in den letzten Jahren ein konkurrenzfähiges KI-Ökosystem aufgebaut, das von der Öffentlichkeit kaum wahrgenommen wird (European AI Atlas).

Europäische Sprachmodelle und Open Source

Die mediale Aufmerksamkeit, wenn es um KI geht, gilt derzeit fast ausschließlich den großen US-Modellen. Kleinere, offene und lokal lauffähige Modelle (Local LLMs) sind für viele Anwendungsfälle aber die bessere Wahl; jedenfalls dann, wenn Datenschutz, Verlässlichkeit und Kostenkontrolle wichtig sind.

Das französische Unternehmen Mistral AI hat sich dabei als Vorreiter etabliert. Mit offenen Modellen wie Mistral 7B und der Architektur „Mixtral 8x7B“ senkt es die Kosten für Training und Betrieb deutlich, ohne dass man auf kognitive Leistung verzichten muss.

Einen anderen Weg geht das Heidelberger Unternehmen Aleph Alpha. Mit Investoren wie Bosch und SAP hat es das Sprachmodell „Luminous“ gezielt für den europäischen B2B-Sektor entwickelt, zum Beispiel für Anwaltskanzleien, Gesundheitsdienstleister, kritische Infrastrukturen oder den öffentlichen Sektor. Das Leitmotiv lautet „Sovereignty in The AI era“.

Für hochpräzise Fachübersetzungen und mehrsprachige Unternehmenskommunikation gilt das deutsche System DeepL als europäischer De-facto-Standard.

Die Open Source Initiative (OSI) definiert Open-Source-KI als Systeme, die ohne Erlaubnis Dritter genutzt, studiert, modifiziert und geteilt werden können. Für KMU eröffnet das die Chance, Modelle mit branchenspezifischem Fine-Tuning genau auf die eigenen Anforderungen auszurichten.

Orchestrierung, Automatisierung, Team-Arbeit

Ein gutes Sprachmodell allein bringt noch keinen Geschäftswert. Es muss in die täglichen Abläufe eingebettet sein. Auch dafür gibt es europäische Lösungen, die als Alternative zu Claude Cowork oder Zapier infrage kommen.

Für die tiefe technische Vernetzung von APIs und die Orchestrierung von Geschäftsprozessen empfiehlt sich n8n, ein deutsches Open-Source-Framework. n8n läuft als Self-Hosted-Variante direkt auf eigenen europäischen Servern. Im Gegensatz zu den Black-Box-Agenten von Anthropic erlaubt n8n eine visuelle, nachvollziehbare Orchestrierung aller Datenflüsse. Damit lassen sich E-Mail-Marketing-Automatisierungen, Lead-Scoring und mehrstufiges Order-Processing nach revisionssicheren Regeln aufbauen und KI-Knoten greifen punktuell ein, etwa zur Sentiment-Analyse von Kunden-E-Mails über eine lokale Mistral-Instanz. Das passt zu den GoBD-Anforderungen wie kaum eine andere Lösung.

Abbildung 2: n8n Ticket Classifier Evaluation

Für die tägliche Büroarbeit wie zum Beispiel den Dateiaustausch, Kollaboration, Dokumentenverwaltung bietet Nextcloud aus Deutschland eine vollständig offene, souveräne Plattform. Der eingebaute Nextcloud AI Assistant verarbeitet Texte, übersetzt Dokumente und schreibt Zusammenfassungen, ohne dass Daten das Haus verlassen. Alle Self-Hosted-Funktionen laufen lokal auf dem eigenen Server. Es werden standardmäßig keine Nutzerdaten an OpenAI, Anthropic oder andere US-Dienste geschickt.

Die folgende Tabelle stellt den Wechsel von US- zu europäischen KI-Lösungen einander gegenüber:

​​

Tabelle 2: Europäische KI-Alternativen zu US-Lösungen

Handlungsleitfaden

Wer als Unternehmen in Europa Tools wie Claude for Small Business leichtfertig mit US-Clouds und PayPal kombiniert, sieht sich verschiedenen regulatorischen Herausforderungen und Risiken gegenüber. Der Verlust digitaler Souveränität, die Gefahr von Datenzugriffen aus den USA via CLOUD Act, die mangelnde GoBD-Konformität fehlender Audit-Logs und die Abhängigkeit von intransparenten Algorithmen amerikanischer Zahlungsdienstleister erscheinen vor dem Hintergrund von DSGVO und EU AI Act schlicht nicht mehr tragbar.

Kleine Unternehmen sollten deshalb einen systematischen Wechsel vollziehen, der dem Prinzip „Compliance by Design“ folgt. Drei konkrete Schritte bilden das Fundament:

KI-Governance und Souveränitäts-Audit

Vor jeder KI-Einführung sollten alle bestehenden Datenströme und Infrastruktur-Abhängigkeiten geprüft werden. Die Frage nach der Jurisdiktion gehört ins IT-Risikomanagement der Geschäftsführung.

Zweitens: Aufbau eines souveränen KI-Stacks

Statt sich an einen US-Hyperscaler zu binden, sollten KMU modulare europäische Lösungen vorziehen: Open-Source-Modelle wie Mistral, B2B-spezialisierte Modelle wie Aleph Alpha, Orchestrierungstools wie n8n auf europäischer Server-Infrastruktur.

Menschliche Kontrolle bei administrativen Prozessen

In Buchhaltung, Personalwesen und Transaktionsverarbeitung darf KI nicht als autonomer Akteur mit alleinigem Schreibzugriff agieren. Workflows müssen regelbasiert, limitiert und lückenlos protokollierbar sein. Das Human-in-the-loop-Prinzip ist hier unverzichtbar.