마이크로소프트의 사티아 나델라를 볼 때, 흔히 떠올리는 키워드는 클라우드와 OpenAI입니다. 하지만 지금 더 눈여겨볼 변화는 PC 쪽에서 일어나고 있습니다. 마이크로소프트는 AI를 거대한 서버에서만 돌리는 서비스가 아니라, 사용자의 노트북과 앱 안에서 즉시 실행되는 기본 기능으로 만들려 합니다.
이 관점에서 Copilot+ PC, NPU, Windows AI Foundry, Foundry Local, Phi 계열 소형 모델은 서로 따로 움직이는 제품이 아닙니다. 나델라식 플랫폼 전략이 클라우드에서 PC로 내려오는 흐름입니다. 핵심 질문은 하나입니다. 마이크로소프트는 온디바이스 AI 생태계를 어떻게 바꾸려 하는가입니다.
사티아 나델라를 이해하는 핵심은 제품보다 플랫폼이다
나델라는 2014년 마이크로소프트 CEO가 된 뒤 회사를 Windows 패키지 중심 기업에서 Azure, Microsoft 365, GitHub, Teams, Copilot을 잇는 플랫폼 기업으로 바꿨습니다. Microsoft 2024 Annual Report의 주주 서한에서도 그는 AI를 새로운 플랫폼 전환으로 설명합니다. 이는 단순히 챗봇 하나를 더 붙이는 문제가 아닙니다.
나델라의 방식은 반복적입니다. 먼저 개발자와 기업이 모이는 기반을 만들고, 그 위에 도구와 배포 경로를 얹습니다. Azure가 클라우드 개발의 기반이었다면, 온디바이스 AI 시대의 기반은 Windows PC, NPU, 로컬 모델 런타임, 앱 생태계가 됩니다.
그래서 마이크로소프트의 온디바이스 AI 전략은 “PC에도 AI 기능을 넣는다” 정도로 보면 부족합니다. 더 정확히는 Windows를 AI 앱의 실행 환경으로 다시 정의하려는 시도입니다.
Copilot+ PC는 AI 기능이 아니라 새 기준선을 만든다
Copilot+ PC에서 중요한 단어는 Copilot보다 NPU입니다. Microsoft Learn의 Copilot+ PC 개발자 가이드는 Copilot+ PC를 고성능 NPU를 갖춘 새로운 Windows 11 하드웨어로 설명합니다. 이 NPU는 실시간 번역, 이미지 생성 같은 AI 작업을 위해 설계된 칩이며, 40 TOPS 이상의 성능을 기준으로 제시합니다.
이 기준은 PC 시장에 중요한 메시지를 줍니다. 앞으로 좋은 노트북은 CPU와 GPU만 빠른 기계가 아니라, AI 작업을 배터리 소모와 지연을 줄이면서 처리할 수 있는 기계여야 한다는 뜻입니다.
마이크로소프트 입장에서는 더 큰 효과가 있습니다. Windows 앱 개발자가 “사용자 기기에 AI 가속기가 있다”고 가정할 수 있는 순간, 로컬 요약, 이미지 보정, 문서 검색, 개인화 추천, 실시간 보조 기능이 앱 기본 기능으로 내려옵니다.
Windows AI Foundry는 개발자 생태계를 묶는 장치다
온디바이스 AI가 확산되려면 하드웨어만으로는 부족합니다. 개발자가 모델을 가져오고, 압축하고, 실행하고, 여러 장치에서 성능을 맞출 수 있어야 합니다. 여기서 Windows AI Foundry와 Foundry Local이 등장합니다.
Microsoft Learn은 Windows의 로컬 AI 개발 흐름에서 DirectML, ONNX Runtime, Windows ML, Foundry Local을 함께 설명합니다. 특히 DirectML과 ONNX Runtime은 GPU나 NPU를 활용해 모델 성능을 끌어올리는 경로입니다. Foundry Local은 기기 안에서 AI 애플리케이션과 에이전트를 설계하고 관리하는 문서 체계로 제시됩니다.
이 조합은 마이크로소프트가 원하는 생태계를 보여줍니다. 개발자는 클라우드 모델만 호출하는 앱이 아니라, 로컬 모델과 클라우드 모델을 섞어 쓰는 앱을 만들게 됩니다. 사용자는 더 빠른 응답과 개인정보 보호 이점을 얻습니다. 마이크로소프트는 Windows를 다시 개발자 플랫폼의 중심에 놓습니다.
Phi 소형 모델은 클라우드 독점 구조를 흔든다
온디바이스 AI에서 소형 언어 모델은 결정적입니다. 거대한 모델을 모두 노트북에서 돌릴 수는 없습니다. 대신 특정 작업을 잘 수행하는 작은 모델이 필요합니다. Microsoft의 Phi-3 발표는 이 방향을 잘 보여줍니다.
Phi-3는 소형 언어 모델의 품질과 비용 효율을 강조합니다. Microsoft는 Phi-3가 Azure AI뿐 아니라 Ollama로 로컬 노트북에서도 실행될 수 있고, ONNX Runtime과 Windows DirectML 지원을 통해 GPU, CPU, 모바일 하드웨어까지 폭넓게 활용할 수 있다고 설명합니다.
이 전략은 클라우드 AI를 버리자는 뜻이 아닙니다. 오히려 작업을 나누자는 뜻에 가깝습니다. 민감하거나 반복적인 작업은 로컬에서 처리합니다. 복잡한 추론이나 대규모 지식 검색은 클라우드 모델을 씁니다. 이렇게 되면 AI 비용, 지연 시간, 개인정보, 배터리 사용량을 동시에 조정할 수 있습니다.
Recall 논쟁은 온디바이스 AI의 신뢰 문제를 드러냈다
마이크로소프트의 방향이 항상 순조로운 것은 아닙니다. Recall은 좋은 사례입니다. Recall은 사용자의 화면 활동을 기기에서 분석해 과거 작업을 찾게 해주는 Copilot+ PC 기능입니다. 하지만 화면 스냅샷과 민감 정보 처리 문제로 큰 개인정보 논쟁을 불러왔습니다.
Microsoft Learn의 Recall 문서는 Copilot+ PC, Windows 업데이트, 정책 설정, 사용자 동의와 제어를 전제로 설명합니다. 이 논점은 온디바이스 AI의 본질을 보여줍니다. 데이터를 클라우드로 보내지 않는다고 해서 자동으로 신뢰가 생기지는 않습니다. 사용자가 무엇이 저장되는지 알고, 끄고, 삭제하고, 통제할 수 있어야 합니다.
따라서 온디바이스 AI 생태계의 승부는 성능만으로 결정되지 않습니다. 로컬 처리, 암호화, 접근 권한, 투명한 UI, 기업 정책 제어가 함께 설계되어야 합니다. 나델라의 마이크로소프트가 이 문제를 풀지 못하면, AI PC는 편리한 플랫폼이 아니라 감시 논란의 플랫폼이 될 수 있습니다.
마이크로소프트가 바꾸려는 생태계의 구조
마이크로소프트의 전략은 네 개 층으로 볼 수 있습니다.
| 층위 | 마이크로소프트의 역할 | 생태계 변화 |
|---|---|---|
| 하드웨어 | Copilot+ PC, NPU 기준 확산 | AI 성능이 PC 구매 기준이 됨 |
| 런타임 | Windows ML, ONNX Runtime, DirectML | 앱이 로컬 모델을 더 쉽게 실행 |
| 모델 | Phi 같은 소형 모델과 Azure 모델 | 로컬·클라우드 하이브리드 AI 확산 |
| 경험 | Copilot, Recall, 앱 내 AI 기능 | AI가 별도 서비스가 아니라 OS 경험이 됨 |
이 표에서 가장 중요한 변화는 마지막 줄입니다. AI가 브라우저에서 접속하는 서비스로만 남지 않고, 운영체제와 앱의 기본 경험으로 들어갑니다. 사용자는 별도의 챗봇 창을 열지 않아도 문서, 사진, 회의, 검색, 코딩 도구 안에서 AI를 쓰게 됩니다.
애플·구글과 다른 마이크로소프트의 강점
애플은 기기와 운영체제를 강하게 통합합니다. 구글은 Android와 검색, Gemini 생태계를 갖고 있습니다. 마이크로소프트의 강점은 기업 업무 환경과 개발자 생태계입니다. Windows, Microsoft 365, Azure, GitHub, Visual Studio, Teams가 이미 업무 흐름 속에 들어가 있습니다.
따라서 마이크로소프트가 온디바이스 AI에서 노리는 시장은 단순한 개인 비서가 아닙니다. 기업 문서, 보안 정책, 회의, 개발, 고객 응대, 현장 업무까지 이어지는 생산성 플랫폼입니다. 이 지점에서 나델라의 전략은 명확합니다. 클라우드 AI와 PC AI를 경쟁시키는 것이 아니라, 하나의 Microsoft 생태계 안에서 연결하려 합니다.
사용자는 무엇을 준비해야 할까
온디바이스 AI 생태계가 본격화되면 사용자와 기업은 PC를 고르는 기준부터 바꿔야 합니다. CPU, RAM, 저장장치만 볼 것이 아니라 NPU 성능, 로컬 모델 지원, 메모리 용량, 보안 정책, 배터리 효율을 함께 봐야 합니다.
기업은 더 신중해야 합니다. 로컬 AI는 개인정보 보호에 유리할 수 있지만, 화면 캡처, 파일 접근, 앱 권한, 로그 저장 방식이 불투명하면 오히려 위험해질 수 있습니다. AI PC 도입은 장비 교체 사업이 아니라 데이터 거버넌스와 업무 설계의 문제입니다.
개인 사용자에게는 새로운 기회도 있습니다. 로컬 LLM과 소형 모델이 좋아질수록 인터넷 연결 없이도 글쓰기, 요약, 검색, 코딩 보조, 지식 관리가 가능해집니다. 이미 로컬 LLM 실사용과 AI 에이전트 학습법은 별도 글에서도 다룬 바 있습니다.
함께 읽으면 좋은 글
결론: 나델라의 목표는 AI PC가 아니라 Windows의 재플랫폼화다
사티아 나델라가 온디바이스 AI에서 노리는 것은 단순히 Copilot 버튼이 달린 PC를 많이 파는 일이 아닙니다. 더 큰 목표는 Windows를 AI 앱과 에이전트가 실행되는 기본 플랫폼으로 다시 세우는 것입니다.
이 변화가 성공하면 PC는 다시 중요한 AI 플랫폼이 됩니다. 클라우드 모델은 더 강력한 두뇌가 되고, 로컬 모델은 빠르고 개인적인 손발이 됩니다. 실패하면 AI PC는 마케팅 용어로 끝날 수 있습니다. 관전 포인트는 명확합니다. 마이크로소프트가 성능, 개발자 도구, 개인정보 신뢰를 동시에 설계할 수 있는가입니다.
FAQ
사티아 나델라는 왜 온디바이스 AI에 집중할까?
AI가 클라우드 서비스에만 머물면 Windows와 PC의 전략적 가치가 약해집니다. 반대로 AI가 PC와 앱 안에서 실행되면 Windows는 다시 핵심 플랫폼이 됩니다.
Copilot+ PC의 핵심은 무엇인가?
핵심은 NPU입니다. 40 TOPS 이상급 AI 가속 성능을 기준으로 로컬 AI 기능을 더 빠르고 전력 효율적으로 실행하려는 하드웨어 기준입니다.
Windows AI Foundry와 Foundry Local은 왜 중요한가?
개발자가 로컬 모델을 앱에 넣고, ONNX Runtime·DirectML·Windows ML 같은 실행 경로를 활용하게 해줍니다. 즉 온디바이스 AI 앱 생태계를 만드는 개발자 도구입니다.
온디바이스 AI는 클라우드 AI를 대체하나?
아닙니다. 민감하고 반복적인 작업은 로컬에서 처리하고, 복잡한 추론과 대규모 지식 처리는 클라우드가 맡는 하이브리드 구조가 유력합니다.
Recall 논쟁이 주는 교훈은 무엇인가?
로컬 처리만으로 신뢰가 생기지는 않는다는 점입니다. 사용자의 명확한 동의, 저장 범위 제어, 삭제 권한, 기업 정책 관리가 함께 있어야 합니다.
참고자료
- Microsoft, Annual Report 2024
- Microsoft Learn, Copilot+ PCs developer guide
- Microsoft Learn, Use local AI with Microsoft Foundry on Windows
- Microsoft Learn, Foundry Local architecture overview
- Microsoft Learn, Foundry Local documentation
- Microsoft Azure Blog, Introducing Phi-3
- Microsoft Learn, Recall overview
- Wikipedia, Satya Nadella