AI 채팅에서 회사 시스템으로
AI를 잘 쓰는 사람은 좋은 프롬프트를 씁니다. 하지만 AI를 잘 쓰는 회사는 한 단계 더 갑니다. 매번 다시 설명하던 맥락을 운영 자산으로 바꾸고, 팀 전체가 같은 기준으로 AI를 쓰게 만듭니다. 이 차이가 똑똑한 채팅과 회사 시스템의 차이입니다.
1. 개요: 프롬프트 실력과 운영 설계는 다르다
이번 x-inbox-router 최신 수집본에서 가장 강한 신호는 "AI 잘 쓰는 사람"과 "AI를 시스템에 박는 사람"의 차이를 말한 X 포스트였습니다. 핵심은 단순합니다. 매번 채팅창에 "이런 톤으로", "이건 빼고", "우리 정책은 이렇고"를 다시 치는 것은 확장 가능한 업무 방식이 아닙니다.
공식 리서치도 같은 방향을 가리킵니다. Microsoft Work Trend Index 2026은 다음 단계의 조직을 학습 시스템으로 설명하면서, 에이전트 워크플로우, 사람 인수인계, 품질 기준, 평가 인프라가 문서화되고 반복 가능해야 한다고 봅니다. McKinsey 2025 조사도 AI 고성과 조직이 단순 도구 도입보다 워크플로우 재설계에 더 적극적이라고 말합니다.
Guildex 관점에서 AI 도입은 "무슨 챗봇을 살까?"에서 시작하면 약합니다. "반복되는 의사결정, 문서, 승인, 고객 접점 중 무엇을 반복 가능한 시스템으로 바꿀까?"에서 시작해야 합니다.
2. 일회성 채팅이 쌓이지 않는 이유
일회성 채팅은 똑똑하지만 매번 회사를 잊어버리는 임시 직원과 비슷합니다. 도움이 되기는 하지만, 운영자는 계속 같은 맥락 비용을 냅니다. 제품 설명, 고객 유형, 브랜드 톤, 환불 규칙, 파일 위치, 민감정보 경계, 최종 승인 기준을 다시 설명해야 합니다.
이번에 수집한 소셜 신호들도 같은 문제를 다른 각도에서 보여줍니다. 반복 맥락을 줄이기 위해 CLAUDE.md 같은 파일을 만들고, Obsidian이나 Notion으로 회사 기억을 연결하고, Tool Calling, MCP, Skills를 서로 다른 층위로 구분하려는 흐름이 반복됩니다.
팀원이 두 명만 되어도 이것은 개인 생산성 문제가 아니라 운영 문제가 됩니다. 한 사람만 좋은 프롬프트를 알고 다른 사람은 모른다면, 회사가 좋아진 것이 아니라 개인 지름길이 생긴 것입니다.
- 같은 수정과 설명을 채팅창에 반복해서 입력합니다.
- 좋은 프롬프트, 예시, 예외 규칙이 한 사람 머릿속에만 있습니다.
- 누군가 붙여넣지 않으면 AI가 최신 정책이나 고객 히스토리를 볼 수 없습니다.
- 검토자가 AI가 어떤 출처와 규칙을 썼는지 확인하기 어렵습니다.
- 사람이 고친 좋은 수정이 다음 워크플로우 버전으로 남지 않습니다.
3. 용어 정리: 기술 단어를 업무 언어로 바꾸면
비전문가가 이 글을 이해하기 위해 AI 엔지니어가 될 필요는 없습니다. 대부분의 용어는 이미 회사에 있던 업무 물건에 새 이름이 붙은 것에 가깝습니다.
SOP는 Standard Operating Procedure의 약자입니다. 쉽게 말하면 반복 업무의 레시피입니다. 환불 요청이 오면 어떤 항목을 보고, 어떤 정책을 적용하고, 어떤 경우 대표 승인을 받고, 어디에 기록할지를 적은 절차서입니다.
CLAUDE.md는 Claude Code가 세션을 시작할 때 읽는 마크다운 문서입니다. 쉽게 말하면 AI에게 매번 읽히는 상시 안내문입니다. 프로젝트 규칙, 빌드 명령어, 글쓰기 톤, 금지 행동, 검토 기준, 팀의 관례처럼 매번 다시 말하기 싫은 내용을 담습니다.
MCP, 즉 Model Context Protocol은 표준 플러그라고 보면 됩니다. 노트북에 USB-C 포트가 있으면 여러 기기를 같은 방식으로 꽂을 수 있듯이, MCP는 AI가 파일, 데이터베이스, 캘린더, Notion, GitHub, 검색 도구 같은 외부 시스템에 같은 방식으로 연결되게 해줍니다.
Skills는 AI 에이전트용 업무 플레이북입니다. SOP가 회사 레시피라면, Skill은 그 레시피를 AI가 언제 어떻게 써야 하는지 알 수 있게 포장한 것입니다. Anthropic은 Skills를 지시문, 스크립트, 자료가 담긴 폴더로 설명하며, 새 직원에게 주는 온보딩 가이드와 비슷하다고 봅니다.
- Tool Calling: AI가 검색, 파일 읽기, 티켓 생성, 행 업데이트 같은 정해진 버튼을 누르는 일.
- Workflow: 하나의 업무가 완료되기까지 이어지는 단계의 순서.
- Guardrail: AI가 하면 안 되는 일, 또는 사람이 반드시 검토해야 하는 경계선.
- Log: AI가 무엇을 읽고, 무엇을 실행하고, 무엇을 바꿨는지 남기는 영수증.
- Human handoff: AI가 멈추고 사람에게 판단을 넘기는 지점.
4. 적용 순서: 개인 루틴에서 회사 시스템으로
실패하는 팀은 첫날부터 모든 도구를 연결하려고 합니다. 더 좋은 순서는 팀이 이미 반복하고 있는 일을 찾고, 각 층을 조금씩 재사용 가능하게 만드는 것입니다.
첫째, 개인 루틴을 기록합니다. 같은 지시문을 두 번 입력했다면 작은 규칙이나 프롬프트 노트로 옮깁니다. 둘째, 반복 업무를 SOP로 바꿉니다. 셋째, AI가 읽어야 할 문서와 노트를 연결합니다. 넷째, 안전하고 되돌릴 수 있는 행동에만 도구 접근을 줍니다. 다섯째, 승인 게이트와 로그를 붙입니다.
OpenAI는 에이전트를 모델, 도구, 지시문으로 설명합니다. Anthropic은 예측 가능한 워크플로우와 더 유연한 에이전트를 구분합니다. 비전문가 팀이 가져갈 교훈은 분명합니다. 처음부터 자율 에이전트로 뛰지 말고, 검토 가능한 지루한 반복 업무부터 시스템화해야 합니다.
- 개인 층: 저장된 프롬프트, 톤 규칙, 예시, 금지사항.
- 팀 층: 공용 SOP, 용어집, 승인 규칙, 좋은 결과물 예시.
- 지식 층: Notion, Obsidian, Google Drive, 티켓, 회의록, 정책 문서.
- 도구 층: 검색, CRM, 시트, 이메일 초안, 티켓 라우팅, 내부 대시보드.
- 통제 층: 승인 지점, 로그, 데이터 접근 규칙, 주기적 리뷰.
5. 조사에서 보이는 회사 단위 가치
Microsoft, McKinsey, OpenAI, Anthropic 자료를 같이 보면 핵심은 "AI를 더 많이 쓰라"가 아닙니다. "AI에 맞게 일을 다시 설계하라"입니다. Microsoft는 에이전트 워크플로우, 사람 인수인계, 품질 기준, 평가 인프라를 강조합니다. McKinsey는 AI 고성과 조직이 개별 워크플로우를 재설계하고, 어떤 결과물을 사람이 검증해야 하는지 프로세스를 정의할 가능성이 더 높다고 봅니다.
NIST와 OWASP는 여기에 안전 층을 더합니다. AI가 문서를 읽고 도구를 실행할 수 있다면, 회사는 리스크 관리, 권한, 모니터링, 프롬프트 인젝션과 민감정보 유출 방어를 함께 설계해야 합니다.
그래서 "AI를 회사 시스템에 박는다"는 말은 생산성만의 이야기가 아닙니다. 거버넌스의 이야기이기도 합니다. 좋은 시스템은 사람이 더 빨리 움직이게 하면서도 AI가 무엇을 읽었는지, 누가 승인했는지, 오류가 다음 버전에 어떻게 반영되는지 보이게 합니다.
6. 피해야 할 실패 패턴
가장 흔한 실패는 용어 놀이입니다. 팀은 MCP, 에이전트, RAG, Skill 같은 말을 쓰지만, 정작 어떤 반복 업무를 개선하려는지 모릅니다. 두 번째 실패는 도구 난립입니다. 각자가 다른 AI 도우미를 설치하면서 지식, 권한, 로그가 흩어집니다.
세 번째 실패는 책임을 숨기는 것입니다. AI가 메시지를 보내고, 기록을 바꾸고, 계약서 초안을 만들더라도 결과의 책임자는 여전히 사람이나 역할이어야 합니다. Microsoft가 말하는 human agency를 실무 언어로 바꾸면, 누가 워크플로우를 고치고, 누가 검토하고, 누가 실수의 책임을 지는지가 정해져야 한다는 뜻입니다.
해결책은 느리게 가자는 것이 아닙니다. 출처, 규칙, 권한, 인수인계, 로그, 지표가 보이는 운영층을 만들자는 것입니다.
- 접근 규칙 없이 민감한 회사 데이터를 먼저 연결하지 않습니다.
- 발송, 과금, 삭제, 고객 약속은 승인 규칙을 테스트하기 전 자동화하지 않습니다.
- 긴 프롬프트 하나를 회사 시스템으로 착각하지 않습니다.
- SOP가 흐린데 도구부터 붙이지 않습니다.
- 좋은 개인 사례가 한 사람의 채팅 기록 안에 갇히게 두지 않습니다.
7. Guildex 기준: 반복 설명을 회사 자산으로 바꾼다
Guildex Fit Check는 한 질문에서 시작할 수 있습니다. AI에게, 직원에게, 외주자에게, 고객에게 계속 다시 설명하는 것은 무엇인가요? 그 반복 설명이 첫 번째 자산 후보입니다.
그 다음 업무를 네 칸으로 나눕니다. AI가 읽어도 되는 정보, AI가 초안만 만들어도 되는 일, 사람이 승인해야 하는 행동, 아직 자동화하면 안 되는 행동입니다.
목표는 회사를 기술적으로 보이게 만드는 것이 아닙니다. 좋은 일을 반복 가능하게 만드는 것입니다. SOP, 회사 기억, 도구 연결, 검토 게이트, 로그가 연결되면 AI는 똑똑한 채팅창을 넘어 운영 시스템의 일부가 됩니다.
참고자료
- X: AI를 잘 쓰는 것과 시스템에 박는 것에 대한 dino_autolog 포스트
- X: CLAUDE.md와 반복 맥락에 대한 Krong 포스트
- X: Tool Calling, MCP, Skills의 층위에 대한 Krong 포스트
- X: Markdown company OS와 MCP 도구 연결에 대한 Dan Rosenthal 포스트
- Claude Code docs: How Claude remembers your project
- Model Context Protocol docs: What is MCP?
- Anthropic: Equipping agents for the real world with Agent Skills
- Anthropic: Building effective agents
- OpenAI: A practical guide to building agents
- Microsoft Work Trend Index 2026
- McKinsey: The State of AI 2025
- NIST AI Risk Management Framework
- OWASP Top 10 for LLM Applications 2025
반복 설명을 회사 자산으로 바꾸세요
Guildex Fit Check는 반복 설명, SOP 후보, 회사 지식, 도구 연결, 승인 게이트, 측정 가능한 자동화 범위를 먼저 맵핑합니다.
