Leitfaden · KI im Unternehmen

KI im Unternehmen einführen: der Einstieg für kleine Betriebe.

Ein KI-Werkzeug ist schnell gekauft. Schwer ist der erste Schritt: Womit fange ich an, welche Daten dürfen hinein, und wer setzt es um? Hier ist der Weg in 6 Schritten, mit den Vorlagen, die ich selbst nutze. Alles, was du zum Selbermachen brauchst, steht auf dieser Seite.

Kurz gesagt
  • Fang mit einem Ablauf an, nicht mit einem Werkzeug: oft, viel Text, klare Regeln.
  • Lege vorher fest, welche Daten in welche KI dürfen. Eine Daten-Ampel reicht dafür.
  • Eine gespeicherte Anweisung mit festen Grenzen arbeitet verlässlicher als ein spontaner Chat, und ein Mensch gibt frei.

Die Ausgangslage: viele Werkzeuge, wenig Plan

Rund 30 % der österreichischen Unternehmen ab 10 Beschäftigten setzen KI ein, bei 10 bis 49 Beschäftigten sind es 26 % (Statistik Austria und Eurostat, Erhebung 2025). Die meisten Betriebe ohne KI haben sie noch gar nicht in Erwägung gezogen (77 %). Unter den konkreten Hemmnissen nennen sie fehlendes Fachwissen am häufigsten (15 %), vor Datenschutzbedenken und rechtlichen Unklarheiten (je 11 %). Und nur 10 % der Unternehmen ab 10 Beschäftigten haben eine KI-Richtlinie.

Das deckt sich mit dem, was ich in Gesprächen höre: Es fehlt ein Plan, womit man anfängt, und jemand, der es technisch sauber aufsetzt. Genau dafür ist dieser Leitfaden da, geschrieben für KMU ohne eigene IT-Abteilung.

Schritt 1: Den ersten Ablauf finden

Fang nicht mit der Frage „Welche KI kaufen wir?“ an, sondern mit „Welcher Ablauf kostet uns jede Woche Zeit?“. Ein guter erster Ablauf erfüllt 4 Bedingungen:

  • Er kommt oft vor: mehrmals pro Woche, nicht einmal im Quartal.
  • Er besteht vor allem aus Text: schreiben, zusammenfassen, beantworten.
  • Er hat klare Regeln: Es gibt eine Leistungsliste, eine Vorlage oder einen gewohnten Aufbau.
  • Das Ergebnis lässt sich prüfen: Ein Mensch sieht in 2 Minuten, ob es stimmt.

In fast jedem kleinen Betrieb erfüllen 3 Abläufe alle 4 Bedingungen: Angebote schreiben, Kundenanfragen beantworten und Protokolle erstellen. Nimm einen davon. Nicht alle 3 auf einmal.

Schritt 2: Die Daten-Ampel festlegen

Bevor jemand im Team die erste Anweisung nutzt, legst du fest, welche Daten in welche KI dürfen. Eine Seite reicht:

StufeWelche DatenWohin
Grünöffentliche Informationen, eigene Texte ohne Personenbezugjedes Werkzeug
Gelbinterne Unterlagen, Angebote, Kundenanfragennur im Tarif für Unternehmen mit Auftragsverarbeitungsvertrag, EU-Datenverarbeitung und abgeschaltetem Training mit deinen Daten
RotGesundheitsdaten, Mandanten- und Patientenakten, Zugangsdaten, Bank- und Kartendaten, Ausweiskopien, Personalakten, Gehälter und Bewerbungennicht in eine Cloud-KI, nur in eine lokale oder eigens abgesicherte Lösung

Die Ampel ist die halbe KI-Richtlinie. Sie nimmt dem Team die Unsicherheit, und du musst nicht jede Frage einzeln beantworten.

Schritt 3: Das Werkzeug wählen

Deine Anweisung funktioniert in jedem Werkzeug, das eine dauerhafte Anweisung speichern kann. Die Funktion heißt je nach Anbieter anders (Herstellerangaben, abgerufen am 30.09.2026):

WerkzeugHier liegt die AnweisungDaten in der EU
ChatGPTProjekte mit Projektanweisungenfür Enterprise, Edu und die Programmierschnittstelle (API) verfügbar
Microsoft CopilotAgenten im Copilot ChatEU Data Boundary für EU-Kunden
Gemini (Google Workspace)Gems (sollen laut Google zu Skills werden)Datenregion Europa, je nach Workspace-Edition
ClaudeProjekte mit Projektanweisungenlaut Anthropic Speicherung in den USA
Le Chat (Vibe) von MistralProjekte mit AnweisungenSitz in Frankreich, Hosting standardmäßig in der EU

Meine Empfehlung: Nimm das Werkzeug, das du schon im Haus hast. Wer mit Microsoft 365 arbeitet, startet mit Copilot, wer Google Workspace nutzt, mit Gemini. Für Gelb-Daten nimmst du in jedem Fall den Tarif für Unternehmen, schließt den Auftragsverarbeitungsvertrag ab und prüfst in der Tabelle oben, ob deine Daten in der EU bleiben. Ich selbst arbeite täglich mit Claude und betreibe Automatisierungen auf meinem eigenen Server in der EU.

Schritt 4: Die erste Anweisung bauen

Der Unterschied zwischen „mal ChatGPT fragen“ und einem Ablauf ist die gespeicherte Anweisung. Sie arbeitet jedes Mal nach denselben Regeln, deshalb bleibt die Qualität stabil. Jede gute Anweisung hat 5 Teile: Rolle, Aufgabe, Eingabe, Ergebnis und Grenzen. Die Grenzen machen den Unterschied: Sie halten die KI davon ab, Preise zu erfinden oder Termine zuzusagen.

Hier ist meine Anweisung für Angebote. Ersetze die Platzhalter in eckigen Klammern und lege den Text als Projektanweisung, Agent oder Gem ab:

Anweisung Angebots-Helfer
ROLLE
Du bist der Angebots-Helfer von [Firmenname], einem Betrieb aus der Branche [Branche]. Du schreibst Angebotstexte für Kunden dieses Betriebs.

TONALITÄT
[z. B.: per Sie, freundlich und sachlich, kurze Sätze, keine Floskeln]

LEISTUNGSLISTE (einzige Quelle für Leistungen, Einheiten und Preise)
[je Zeile: Leistung | Einheit | Preis netto | Kurzbeschreibung in 1 Satz]

AUFGABE
Ich gebe dir Stichworte aus einem Kundengespräch. Daraus erstellst du den Text für ein Angebot.

WAS ICH DIR LIEFERE
Stichworte zu: Kunde (Name, Ort), Anlass, Wünsche, Mengen und Maße, gewünschter Zeitraum, Besonderheiten.

AUSGABEFORMAT
1. Betreff: 1 Zeile.
2. Einleitung: 2 bis 3 Sätze, die sich auf das Gespräch beziehen.
3. Leistungsbeschreibung: 3 bis 5 Sätze in Alltagssprache.
4. Positionen: Tabelle mit Nr. | Leistung | Beschreibung | Menge | Einheit | Einzelpreis netto | Summe netto, darunter die Gesamtsumme mit Prüfrechnung.
5. Nächste Schritte: 2 bis 3 Punkte.
6. Bitte prüfen (nur intern): offene Fragen und alles, was nicht in der Leistungsliste steht.

GRENZEN
- Preise, Einheiten und Leistungen stammen ausschließlich aus der Leistungsliste. Erfinde nie einen Preis, eine Leistung oder einen Rabatt.
- Nimm nur Positionen auf, die aus meinen Stichworten folgen. Was fachlich nötig sein könnte, aber nicht in den Stichworten steht, nennst du in Abschnitt 6 als Frage.
- Kommt in meinen Stichworten etwas vor, das nicht in der Leistungsliste steht, schreibst du keine Position dafür, sondern nennst es in Abschnitt 6.
- Sage keine Termine, Fristen, Garantien oder Rabatte zu.
- Rechne Summen Schritt für Schritt und zeige die Prüfrechnung.
- Fehlt eine Angabe, stelle zuerst alle Rückfragen gebündelt (höchstens 5) und warte auf meine Antwort. Sind alle Angaben da, schreibst du das Angebot sofort.

Teste die Anweisung an 3 echten Angeboten aus den letzten Wochen, bevor das Team sie nutzt. Was dabei schiefgeht, wird eine neue Zeile unter GRENZEN. Nach diesem Muster baust du auch die Anweisungen für Anfragen und Protokolle.

Schritt 5: Regeln aufschreiben und das Team mitnehmen

Eine Anweisung, die nur du kennst, bleibt ein Werkzeug für dich. Damit daraus ein Ablauf im Betrieb wird, braucht es 3 Dinge:

  • Eine KI-Richtlinie auf einer Seite: die Daten-Ampel, die erlaubten Werkzeuge und die Regel, dass ein Mensch jedes Ergebnis prüft, bevor es den Betrieb verlässt.
  • Eine kurze Schulung: Jeder, der die Anweisung nutzt, sieht sie einmal in Aktion und probiert sie an einem eigenen Fall. Eine Teilnahmeliste hält fest, wer geschult ist. Damit belegst du auch die Maßnahmen für KI-Kompetenz, die Artikel 4 der KI-Verordnung verlangt.
  • Eine verantwortliche Person: Sie sammelt, was nicht funktioniert, und ergänzt die Grenzen in der Anweisung.

Schritt 6: Messen, dann ausbauen

Miss die Zeit für den Ablauf, bevor die KI ihn übernimmt, und 4 Wochen danach. Ohne diese Zahl weißt du nicht, ob es sich lohnt, und du kannst niemandem im Team zeigen, warum ihr das macht.

Erst wenn der erste Ablauf sitzt, kommt der nächste dazu. Der übernächste Schritt ist die Verbindung mit E-Mail, Kalender und Ablage: Dann landet eine Anfrage automatisch beim Anfrage-Helfer, und der Entwurf liegt fertig im Postfach. In meinem Betrieb arbeiten so heute 16 KI-Rollen, jede mit eigener Anweisung. Texte, Bilder und Angebote prüft eine zweite Rolle, die sie nicht erstellt hat. So arbeitet mein KI-Team.

Häufige Fehler beim Einstieg

  • Mit dem Werkzeug statt mit dem Ablauf anfangen: Lizenzen sind gekauft, aber niemand weiß, wofür.
  • Jeder probiert für sich: Das spart hier und da Minuten, verändert aber keinen Ablauf.
  • Anweisungen ohne Grenzen: Dann erfindet die KI Preise oder sagt Termine zu.
  • Kundendaten im privaten Konto: Ohne Tarif für Unternehmen, Vertrag und Datenverarbeitung in der EU gehören Kundendaten nicht hinein.
  • Alles auf einmal: 5 Abläufe gleichzeitig enden meist bei keinem fertigen.
Selbst umsetzenDu hast alles, was du brauchst.

Jeder Schritt auf dieser Seite funktioniert ohne mich. Neue Werkzeuge und Änderungen trage ich hier ein, jeden Sonntag gibt es dazu einen Tipp im Newsletter.

Zum Sunday Sync
Umsetzen lassenKI-Workshop im eigenen Betrieb

Ich komme in deinen Betrieb, von Eisenstadt bis Mattersburg und Wiener Neustadt, und baue die ersten Anweisungen mit deinem Team an euren echten Unterlagen, inklusive Daten-Ampel, Vorlage für die KI-Richtlinie und Schulungsnachweis.

Mehr dazu

Häufige Fragen

Wie fange ich mit KI im Unternehmen an?

Mit einem einzigen Ablauf, der oft vorkommt, viel Text bewegt und klare Regeln hat, etwa Angebote, Antworten auf Anfragen oder Protokolle. Dafür baust du eine gespeicherte Anweisung mit festen Grenzen, legst fest, welche Daten hinein dürfen, und misst die Zeit vorher und nachher.

Welches KI-Werkzeug passt für einen kleinen Betrieb?

Das Werkzeug, das du schon im Haus hast oder das zu deinen Daten passt. ChatGPT, Microsoft Copilot, Gemini, Claude und Le Chat (Vibe) von Mistral können alle gespeicherte Anweisungen ablegen. Für interne Unterlagen nimmst du den Tarif für Unternehmen mit Auftragsverarbeitungsvertrag und Datenverarbeitung in der EU.

Darf ich Kundendaten in ChatGPT eingeben?

Nicht im privaten Konto. Kundendaten sind Gelb-Daten und gehören in einen Tarif für Unternehmen mit Auftragsverarbeitungsvertrag, Datenverarbeitung in der EU und abgeschaltetem Training. Bei ChatGPT ist die Datenspeicherung in Europa laut OpenAI für Enterprise, Edu und die API verfügbar, für den Business-Tarif ist sie nicht belegt. Gesundheitsdaten, Mandanten- und Patientenakten, Zugangsdaten, Bank- und Kartendaten sowie Personal- und Bewerbungsunterlagen gehören nicht in eine Cloud-KI.

Brauchen kleine Betriebe eine KI-Strategie?

Keine dicke Strategie, aber 3 Entscheidungen: welcher Ablauf zuerst, welche Daten in welche KI dürfen, und wer freigibt. Das passt auf eine Seite und ist der Kern jeder KI-Strategie für kleine Betriebe.

Müssen Mitarbeiter eine KI-Schulung machen?

Eine bestimmte Schulung schreibt das Gesetz nicht vor. Nach Artikel 4 der KI-Verordnung (EU) 2024/1689 ergreift jeder Betrieb, der KI beruflich nutzt, Maßnahmen, um die KI-Kompetenz der Mitarbeitenden zu unterstützen, die damit arbeiten. Das gilt seit 2. Februar 2025, seit 27. Juli 2026 in der Fassung der Verordnung (EU) 2026/1744, die kein bestimmtes Kompetenzniveau mehr verlangt. Eine kurze Schulung mit Teilnahmeliste ist ein einfacher Nachweis dafür.

Änderungen an diesem Leitfaden

  • 01.10.2026Erstfassung.
Christoph Harrison
Christoph HarrisonKI-Berater und Netzwerktechniker, Eisenstadt

Gründer von Harrison Networks und Lumen Media. Führt seinen Betrieb mit einem Team aus 16 KI-Rollen und setzt dasselbe in der KI-Beratung mit kleinen Betrieben um.

Kontakt

Lass uns reden.

Über KI in deinem Betrieb, dein Netzwerk oder deine Sichtbarkeit. Ein kurzes Gespräch reicht meist, um zu sehen, wo es hakt.

Christoph Harrisonverfügbar für neue Projekte