안내 · 기업 내 AI

기업에 AI 도입하기: 중소기업을 위한 첫걸음

중소기업은 6단계로 기업에 AI를 도입할 수 있습니다. 업무 절차 찾기, 데이터 정리하기, 도구 고르기, 지시문 쓰기, 규칙 정하기, 결과 측정하기입니다. AI 도구는 쉽게 살 수 있지만 어려운 것은 첫걸음이에요. 제가 직접 쓰는 템플릿과 함께 그 길을 소개합니다. 직접 해 볼 수 있는 모든 것이 이 페이지에 있습니다.

최종 수정 2026.10.02

자체 AI 활용 섹션을 업데이트했습니다.

간단히 말해
  • 도구가 아니라 업무 절차부터 시작하세요. 자주 하고, 텍스트가 많고, 규칙이 분명한 것으로요.
  • 어떤 데이터를 어떤 AI에 넣어도 되는지 미리 정해 두세요. 이를 위해서는 데이터 신호등 하나면 충분합니다.
  • 한계가 정해진 저장된 지시문은 즉흥적인 채팅보다 믿을 만하게 작동하고, 최종 승인은 사람이 합니다.

출발점: 많은 도구, 부족한 계획

10인 이상 오스트리아 기업의 약 30 %가 AI를 활용하고 있으며, 직원 10~49명 기업에서는 26 %입니다(Statistik Austria 및 Eurostat, 2025년 조사). AI를 쓰지 않는 기업 대부분은 아직 도입 자체를 고려해 본 적이 없습니다(77 %). 구체적인 걸림돌로는 전문 지식 부족을 가장 많이 꼽았고(15 %), 그다음이 데이터 보호에 대한 우려와 법적 불확실성입니다(각 11 %). 그리고 직원 10명 이상 기업 중 AI 지침을 갖춘 곳은 10 %에 불과합니다.

이는 제가 대화에서 듣는 이야기와 일치해요. 무엇부터 시작할지에 대한 계획과 기술적으로 깔끔하게 구축해 줄 사람이 없다는 것입니다. 바로 그래서 이 안내서가 있고, 자체 IT 부서가 없는 중소기업을 위해 썼습니다.

1단계: 첫 번째 업무 절차 찾기

“어떤 AI를 살까?”가 아니라 “어떤 업무 절차가 매주 우리의 시간을 쓰고 있을까?”라는 질문으로 시작하세요. 좋은 첫 업무 절차는 4가지 조건을 충족합니다.

  • 자주 발생함: 분기에 한 번이 아니라 일주일에 여러 번.
  • 주로 텍스트로 이루어짐: 쓰기, 요약하기, 답하기.
  • 규칙이 분명함: 서비스 목록, 템플릿 또는 익숙한 구성이 있습니다.
  • 결과를 검토할 수 있음: 사람이 2분이면 맞는지 확인할 수 있습니다.

거의 모든 소규모 회사에서 3가지 업무 흐름이 4가지 조건을 모두 충족합니다. 견적서 작성, 고객 문의 답변, 회의록 작성. 그중 하나를 고르세요. 3가지를 한꺼번에 하지는 마세요.

2단계: 데이터 신호등 정하기

팀에서 누군가 첫 지시문을 쓰기 전에, 어떤 데이터를 어떤 AI에 넣어도 되는지 정해 두세요. 한 페이지면 충분해요:

단계어떤 데이터어디로
초록공개 정보, 개인정보가 없는 자체 작성 텍스트모든 도구
노랑내부 자료, 견적서, 고객 문의기업용 요금제에서만, 데이터 처리 위탁 계약, EU 내 데이터 처리, 사용자 데이터로 하는 학습 비활성화가 적용됩니다
빨강건강 정보, 의뢰인 및 환자 기록, 접속 정보, 은행 및 카드 정보, 신분증 사본, 인사 기록, 급여, 입사 지원서클라우드 AI가 아니라 로컬 솔루션이나 별도로 보안을 강화한 솔루션에만

신호등은 AI 가이드라인의 절반입니다. 팀의 불확실함을 덜어 주고, 질문마다 일일이 답하지 않아도 돼요.

색은 어떤 데이터를 어떤 도구에 넣어도 되는지 알려 줍니다.

3단계: 도구 고르기

지시문은 지속적인 지시문을 저장할 수 있는 모든 도구에서 작동합니다. 기능 이름은 제공업체마다 다릅니다(제조사 정보, 2026년 9월 30일 확인):

도구지시문은 여기에 있습니다EU 내 데이터
ChatGPT프로젝트 지시문이 있는 프로젝트Enterprise, Edu, 프로그래밍 인터페이스(API)에서 이용 가능
Microsoft CopilotCopilot Chat의 에이전트EU 고객을 위한 EU Data Boundary
Gemini (Google Workspace)Gems(Google에 따르면 Skills로 바뀔 예정)유럽 데이터 리전, 워크스페이스 에디션에 따라 다름
Claude프로젝트 지시문이 있는 프로젝트Anthropic에 따르면 미국에 저장됨
Mistral의 Le Chat (Vibe)지시문이 있는 프로젝트본사는 프랑스, 호스팅은 기본적으로 EU

제 추천은 이미 갖고 있는 도구를 쓰는 것입니다. Microsoft 365를 쓴다면 Copilot으로, Google Workspace를 쓴다면 Gemini로 시작하세요. 노란색 데이터에는 어떤 경우에도 기업용 요금제를 쓰고, 위탁 처리 계약을 체결하며, 위 표에서 데이터가 EU 안에 머무는지 확인하세요. 저는 매일 Claude로 일하고, EU에 있는 제 서버에서 자동화를 운영합니다.

4단계: 첫 번째 지침 만들기

'ChatGPT에 한번 물어보기'와 업무 흐름의 차이는 저장된 지시문입니다. 매번 같은 규칙으로 작동하기 때문에 품질이 안정적이에요. 좋은 지시문에는 5가지 요소가 있습니다: 역할, 작업, 입력, 결과, 한계. 차이를 만드는 것은 한계입니다. AI가 가격을 지어내거나 일정을 약속하지 못하게 막아 줍니다.

지시문은 5가지 요소로 구성되고, 그중 한계 설정이 AI가 가격을 지어내지 못하게 막아 줍니다.

다음은 견적서를 위한 제 지시문입니다. 대괄호 안의 자리표시자를 바꾸고, 이 텍스트를 프로젝트 지시문, 에이전트 또는 Gem으로 저장하세요.

견적 도우미 지시문
역할
당신은 [Firmenname]의 견적 도우미이며, [Branche] 업종의 회사입니다. 이 회사 고객을 위한 견적서 문안을 작성합니다.

어조
[예: 경어체로, 친절하고 담백하게, 짧은 문장, 상투적인 표현 없이]

서비스 목록(서비스, 단위, 가격의 유일한 출처)
[행마다: 서비스 | 단위 | 순가격 | 1문장 요약 설명]

작업
고객과 나눈 대화의 키워드를 드릴게요. 이를 바탕으로 견적서 텍스트를 작성해 주세요.

제가 제공하는 것
다음에 관한 키워드: 고객(이름, 지역), 계기, 요청 사항, 수량과 치수, 희망 기간, 특이 사항.

출력 형식
1. 제목: 1줄.
2. 서론: 대화와 관련된 2~3문장.
3. 서비스 설명: 일상적인 말로 쓴 3~5문장.
4. 항목: 번호 | 서비스 | 설명 | 수량 | 단위 | 단가(부가세 별도) | 합계(부가세 별도)로 이루어진 표, 그 아래에 검산을 곁들인 총합계.
5. 다음 단계: 2~3가지.
6. 확인 요청(내부용): 미해결 질문과 서비스 목록에 없는 모든 것.

한계
- 가격, 단위, 서비스는 오직 서비스 목록에서만 가져옵니다. 가격, 서비스, 할인을 절대 지어내지 마세요.
- 제 키워드에서 나오는 항목만 넣으세요. 전문적으로 필요할 수 있지만 키워드에 없는 내용은 6번 항목에 질문으로 적으세요.
- 제 키워드에 서비스 목록에 없는 내용이 나오면 그 항목은 쓰지 말고 6번 항목에 언급하세요.
- 일정, 기한, 보증, 할인은 약속하지 마.
- 합계를 단계별로 계산하고 검산 과정도 보여줘.
- 정보가 빠져 있으면 먼저 모든 질문을 한데 모아서(최대 5개) 하고 내 답을 기다리세요. 정보가 모두 갖춰지면 바로 견적서를 작성합니다.

팀이 사용하기 전에 지난 몇 주간의 실제 견적서 3건으로 지침을 테스트하세요. 그 과정에서 문제가 생기면 GRENZEN 아래에 새 줄이 됩니다. 이 방식으로 문의와 회의록용 지침도 만들 수 있습니다.

5단계: 규칙을 적고 팀과 함께하기

나만 아는 지시문은 나만을 위한 도구로 남습니다. 이것이 회사의 업무 절차가 되려면 3가지가 필요해요.

  • 한 페이지짜리 AI 지침: 데이터 신호등, 허용된 도구, 그리고 어떤 결과든 회사 밖으로 나가기 전에 사람이 검토한다는 규칙.
  • 짧은 교육: 지침을 쓰는 모든 사람이 한 번 실제로 작동하는 모습을 보고 자기 사례로 시도해 봅니다. 참석자 명단에 누가 교육을 받았는지 기록합니다. 이것으로 AI 규정 제4조가 요구하는 AI 역량 조치도 입증할 수 있습니다.
  • 담당자 한 명: 작동하지 않는 부분을 모아서 지침에 한계를 보완합니다.

6단계: 측정한 뒤 확장하기

AI가 맡기 전의 업무 시간과 맡은 지 4주 뒤의 업무 시간을 재 보세요. 이 수치가 없으면 할 만한 일인지 알 수 없고, 팀원에게도 왜 이렇게 하는지 보여 줄 수 없습니다.

첫 번째 절차가 자리 잡으면 다음 절차를 추가합니다. 그다음 단계는 이메일, 캘린더, 보관함과의 연결이에요. 그러면 문의가 자동으로 문의 도우미에게 전달되고, 완성된 초안이 받은편지함에 놓입니다. 제 회사에서는 조사, 초안 작성, 분석에 AI를 매일 사용합니다. 결과는 두 번째 AI가 검토하고, 승인은 제가 직접 해요. 에이전트가 그 과정에서 어떻게 일하는지는 AI 에이전트 쉽게 이해하기에서 설명합니다.

시작할 때 흔히 하는 실수

  • 절차가 아니라 도구부터 시작하기: 라이선스는 샀지만 무엇에 쓰는지 아는 사람이 없습니다.
  • 각자 알아서 해 보기: 여기저기서 몇 분은 아끼지만 절차 자체는 바뀌지 않습니다.
  • 한계가 없는 지침: 그러면 AI가 가격을 지어내거나 일정을 약속합니다.
  • 개인 계정 속 고객 데이터: 기업용 요금제, 계약, EU 내 데이터 처리가 없다면 고객 데이터를 넣어서는 안 됩니다.
  • 한꺼번에: 5개의 절차를 동시에 진행하면 대개 어느 것도 끝나지 않습니다.
직접 구현하기필요한 모든 것이 갖춰져 있습니다.

이 페이지의 모든 내용은 저 없이도 직접 실행할 수 있어요. 새로운 도구와 변경 사항은 여기에 기록하고, 매주 일요일 뉴스레터에 관련 팁을 싣습니다.

AI Sync로 가기
맡기기우리 회사에서 하는 AI 워크숍

Eisenstadt부터 Mattersburg와 Wiener Neustadt까지 여러분의 회사로 찾아가, 여러분의 실제 자료로 팀과 함께 첫 지침을 만듭니다. 데이터 신호등, AI 지침 템플릿, 교육 이수 증빙이 포함됩니다.

자세히 보기

자주 묻는 질문

회사에서 AI를 어떻게 시작하나요?

자주 반복되고, 텍스트를 많이 다루고, 규칙이 분명한 업무 절차 하나로 시작하세요. 예를 들면 견적, 문의 답변, 회의록입니다. 이를 위해 한계가 정해진 저장된 지시문을 만들고, 어떤 데이터를 넣어도 되는지 정하고, 전후의 시간을 측정합니다.

작은 회사에는 어떤 AI 도구가 맞나요?

이미 쓰고 있거나 내 데이터에 맞는 도구면 됩니다. ChatGPT, Microsoft Copilot, Gemini, Claude, Mistral의 Le Chat(Vibe) 모두 저장된 지시문을 둘 수 있어요. 내부 자료에는 개인정보 처리 위탁 계약과 EU 내 데이터 처리가 있는 기업용 요금제를 쓰세요.

고객 데이터를 ChatGPT에 입력해도 되나요?

개인 계정에서는 안 됩니다. 고객 데이터는 노란색 데이터이므로, 위탁 처리 계약이 있고 EU 안에서 데이터를 처리하며 학습이 꺼진 기업용 요금제에서 사용해야 합니다. ChatGPT의 경우 OpenAI에 따르면 유럽 내 데이터 저장은 Enterprise, Edu, API에서 이용할 수 있고, Business 요금제에서는 확인되지 않았습니다. 건강 정보, 의뢰인 및 환자 기록, 접속 정보, 은행 및 카드 정보, 인사 및 지원 서류는 클라우드 AI에 넣어서는 안 됩니다.

소규모 기업에도 AI 전략이 필요한가요?

두꺼운 전략은 필요 없고, 3가지 결정이면 됩니다. 어떤 업무 절차를 먼저 할지, 어떤 데이터를 어떤 AI에 써도 되는지, 누가 승인하는지요. 한 페이지면 충분하고, 이것이 작은 회사를 위한 모든 AI 전략의 핵심입니다.

직원은 AI 교육을 받아야 하나요?

법은 특정 교육을 규정하지 않습니다. AI 규정(EU) 2024/1689 제4조에 따라, 업무에서 AI를 사용하는 모든 회사는 AI를 다루는 직원의 AI 역량을 뒷받침하는 조치를 취합니다. 이는 2025년 2월 2일부터 적용되며, 2026년 7월 27일부터는 특정 역량 수준을 더 이상 요구하지 않는 규정(EU) 2026/1744 개정판이 적용됩니다. 참석자 명단이 있는 짧은 교육은 이를 입증하는 간단한 방법입니다.

이 글의 변경 사항

  • 2026.10.02직접 AI를 활용하는 부분을 업데이트했습니다.
  • 2026.10.01초판.
Christoph Harrison
Christoph HarrisonAI 컨설턴트이자 네트워크 기술자, Eisenstadt

Harrison Networks와 Lumen Media의 창업자. 자기 회사에서 매일 AI를 사용하며, 이를 중소기업 대상 AI 상담에 적용합니다.

연락처

독일어 또는 영어로 연락해 주세요.

Christoph Harrison새 프로젝트 가능