AI를 잘 쓰는 교육보다 중요한 것: AI와 함께 일하는 방식을 바꾸는 교육

Read in English: Knowledge Workers in the AI Agent Era: From Content Producers to Judgment Designers

AI가 일상적인 업무 도구가 되면서 교육의 질문도 달라지고 있습니다. 이제 중요한 질문은 “AI를 어떻게 쓸 것인가”가 아닙니다. 이미 많은 사람이 AI를 씁니다. 앞으로의 차이는 AI를 어떤 업무 맥락에 연결하고, 어떤 가치 있는 결과로 바꾸는가에서 만들어집니다.

2026년 6월 4일, 나주에서 진행한 강의의 주제는 “AI Agent 시대 효율적이고 가치 있는 교육 실현”이었습니다.

AI Agent 시대의 교육은 기능을 알려주는 시간이 아니라, 지식근로자가 일하는 방식을 다시 설계하는 과정이어야 합니다.

이 글은 강의 내용을 바탕으로 AI Agent 시대의 교육이 왜 달라져야 하는지, 지식근로자의 역할이 어떻게 바뀌는지, 조직은 어떤 방향으로 학습을 설계해야 하는지 정리합니다.

*기술 변화는 유행에서 끝나지 않고 조직 전략과 일하는 방식의 변화로 이어집니다.*

AI를 쓰는 사람과 쓰지 않는 사람의 경쟁은 이미 지나가고 있다

처음 생성형 AI가 확산되었을 때는 “AI를 쓰는 사람”과 “쓰지 않는 사람”의 차이가 크게 보였습니다. 하지만 지금은 상황이 달라졌습니다. 검색, 요약, 번역, 보고서 초안 작성, 회의 정리, 이미지 생성까지 많은 업무에서 AI 활용은 자연스러운 선택지가 되었습니다.

그래서 경쟁의 기준도 바뀝니다.

• AI를 쓰는가
• 어떤 도구를 쓰는가
• 질문을 얼마나 잘 쓰는가
• 업무 맥락을 얼마나 정확히 제공하는가
• 결과를 얼마나 잘 검토하고 판단하는가
• 조직의 일하는 방식과 어떻게 연결하는가

AI 활용 수준은 단순한 개인 생산성 문제가 아닙니다. 조직이 지식을 만들고 공유하고 실행하는 방식 전체와 연결됩니다.

프롬프트보다 중요한 것은 업무 맥락이다

AI 활용을 이야기하면 먼저 프롬프트가 떠오릅니다. 좋은 질문은 분명히 더 봐야 합니다. 원하는 산출물, 역할, 형식, 조건을 분명히 줄수록 결과가 좋아집니다.

하지만 프롬프트만으로는 충분하지 않습니다.

AI가 좋은 답을 만들려면 다음 정보가 해야 합니다.

• 이 업무의 목적
• 현재 조직의 상황
• 참고해야 할 자료
• 적용해야 할 기준
• 결과물을 사용할 사람
• 판단해야 할 제약 조건
• 최종 산출물의 형태

같은 질문이라도 맥락이 달라지면 답은 달라져야 합니다. 교육과정 설계, 정책자료 검토, 보고서 작성, 성과관리처럼 맥락이 중요한 업무에서는 더욱 그렇습니다.

프롬프트 엔지니어링은 질문을 잘 쓰는 기술입니다. 컨텍스트 엔지니어링은 AI가 일할 수 있도록 필요한 맥락과 자료를 구성하는 방식입니다. Agent 시대에는 여기에 한 단계가 더해집니다. AI가 목표를 이해하고, 필요한 절차를 수행하고, 산출물을 만들 수 있도록 업무 흐름 자체를 설계해야 합니다.

*AI Agent 시대에는 AI가 답변 도구를 넘어 업무 수행의 파트너로 이동합니다.*

지식근로자의 역할은 작성자에서 판단자로 이동한다

지식근로자는 문서를 만들고, 자료를 찾고, 분석하고, 보고하고, 의사결정을 지원하는 사람입니다. AI는 이 과정의 상당 부분을 빠르게 처리합니다.

보고서 초안을 만들 수 있습니다. 긴 문서를 요약할 수 있습니다. 자료를 비교할 수 있습니다. 회의 내용을 정리할 수 있습니다. 아이디어를 구조화할 수 있습니다.

그렇다고 지식근로자의 가치가 사라지는 것은 아닙니다. 오히려 역할이 바뀝니다.

앞으로 더 중요해지는 역할은 이렇게 볼 수 있습니다.

1. 문제를 정의하는 역할

무엇을 해결해야 하는지 분명히 잡아야 합니다.

1. 맥락을 제공하는 역할

AI가 참고할 자료와 기준을 정리해야 합니다.

1. 결과를 검토하는 역할

그럴듯한 답과 실제로 맞는 답을 구분해야 합니다.

1. 판단하고 선택하는 역할

조직의 목적, 사람의 상황, 책임의 범위를 고려해 최종 결정을 내려야 합니다.

1. 업무 흐름을 개선하는 역할

반복되는 일을 AI에 맡기고, 사람은 더 높은 수준의 문제해결에 집중해야 합니다.

AI가 일을 대신하는 만큼, 사람은 더 깊이 이해하고 더 정확히 판단해야 합니다.

지식을 소비하는 조직에서 지식을 만드는 조직으로

AI 시대의 조직은 그냥 외부 지식을 빠르게 가져오는 데서 멈추면 안 됩니다. 조직 내부의 경험, 기준, 사례, 판단 과정을 축적해야 합니다.

교육 조직도 마찬가지입니다. 교육과정을 운영하는 일은 일정 관리나 강사 섭외만으로 끝나지 않습니다. 교육이 실제 업무 성과와 연결되려면 조직 안에 지식이 남아야 합니다.

예를 들어 다음과 같은 자료가 쌓여야 합니다.

• 교육과정 설계 기준
• 과정별 학습 목표
• 실제 현장에서 반복되는 문제
• 교육생의 질문과 어려움
• 강의 후 적용 사례
• 성과를 확인할 수 있는 지표
• 다음 교육에 반영할 개선점

AI는 이런 자료를 정리하고 연결하는 데 강합니다. 하지만 어떤 자료가 중요하고, 어떤 기준으로 해석해야 하며, 어떤 방향으로 개선해야 하는지는 사람이 결정해야 합니다.

*AI는 자료 정리와 구조화를 돕지만, 가치 있는 지식은 조직의 판단과 경험에서 만들어집니다.*

교육은 기능 전달이 아니라 문제해결 역량을 키우는 과정이 된다

AI 교육을 도구 사용법 중심으로만 구성하면 금방 한계가 옵니다. 버튼 위치와 기능은 계속 바뀝니다. 모델도 바뀌고 요금제도 바뀌고 플랫폼의 강점도 달라집니다.

그래서 AI 교육의 중심은 기능 설명보다 문제해결에 가까워져야 합니다.

교육에서 다뤄야 할 질문은 이런 것들입니다.

• 내 업무에서 AI가 맡을 수 있는 일은 무엇인가
• 사람이 반드시 판단해야 하는 일은 무엇인가
• 어떤 자료를 AI에게 제공해야 결과가 좋아지는가
• AI 결과를 검증하는 기준은 무엇인가
• 반복되는 업무를 어떤 흐름으로 자동화할 수 있는가
• 조직 차원에서 어떤 지식 DB를 만들어야 하는가

이런 질문을 다루면 교육은 단순한 “AI 활용법”을 넘어섭니다. 학습자는 자신의 업무를 다시 바라보게 됩니다. 조직은 교육을 통해 일하는 방식의 변화를 시작할 수 있습니다.

AI가 대신할 일과 사람이 남겨야 할 가치를 구분해야 한다

AI는 빠릅니다. 많은 자료를 읽고, 초안을 만들고, 비교하고, 요약하는 데 강합니다.

하지만 AI가 빠르게 만든 결과가 항상 가치 있는 결과는 아닙니다. 가치는 사람의 문제의식, 목적, 해석, 선택에서 나옵니다.

AI가 잘하는 일은 AI에게 맡길 수 있습니다.

• 초안 작성
• 자료 요약
• 표 정리
• 반복 조사
• 문장 다듬기
• 아이디어 확장
• 형식 변환

사람이 집중해야 할 일은 다릅니다.

• 왜 이 일을 하는지 정하기
• 누구에게 필요한 결과인지 판단하기
• 현장 맥락을 반영하기
• 위험과 책임을 검토하기
• 최종 방향을 선택하기
• 사람에게 의미 있는 경험으로 바꾸기

AI Agent 시대의 교육은 이 경계를 분명히 도와야 합니다. 그래야 AI가 사람을 대체하는 도구가 아니라, 사람이 더 가치 있는 일을 하도록 돕는 도구가 됩니다.

*AI는 실행을 도울 수 있지만, 가치는 문제를 해석하고 판단하는 사람에게서 나옵니다.*

조직 변화 없이 AI 교육만 늘리면 효과가 제한된다

AI 교육을 많이 해도 조직의 업무 방식이 그대로라면 효과는 작아집니다. 개인이 배운 내용을 실제 업무에서 쓰기 어렵기 때문입니다.

AI 활용은 개인의 기술만으로 완성되지 않습니다. 업무, 구성원, 문화, 구조, 전략이 함께 움직여야 합니다.

조직이 함께 점검해야 할 질문은 이렇게 볼 수 있습니다.

• 어떤 업무를 AI와 함께 다시 설계할 것인가
• 어떤 자료를 조직의 공통 지식으로 관리할 것인가
• AI 사용에 필요한 권한과 보안 기준은 무엇인가
• 결과 검토 책임은 누가 가질 것인가
• 교육 성과를 현업 적용과 어떻게 연결할 것인가
• 개인 실험을 조직 프로세스로 어떻게 확장할 것인가

AI가 팀원이 되는 시대에는 조직도 팀처럼 움직여야 합니다. 한 사람의 생산성 향상에서 끝나지 않고, 조직의 학습 구조와 업무 구조가 함께 바뀌어야 합니다.

*AI 활용은 개인 역량의 문제가 아니라 조직 설계의 문제와 연결됩니다.*

효율적인 교육과 가치 있는 교육은 함께 가야 한다

AI는 교육의 효율을 높일 수 있습니다. 자료 조사 시간이 줄어들고, 교육과정 초안을 빠르게 만들 수 있으며, 학습자료도 다양하게 변환할 수 있습니다.

하지만 효율만으로는 충분하지 않습니다. 교육의 목적은 시간을 줄이는 데 있지 않습니다. 더 나은 판단, 더 깊은 이해, 더 실제적인 문제해결을 가능하게 만드는 데 있습니다.

효율적인 교육은 빠르게 운영되는 교육입니다. 가치 있는 교육은 학습자가 실제 업무에서 다르게 행동하도록 돕는 교육입니다.

AI Agent 시대에는 이 둘을 함께 설계해야 합니다.

• AI로 반복 업무를 줄인다.
• 자료를 체계적으로 모은다.
• 학습자의 업무 맥락을 반영한다.
• 문제해결형 과제를 설계한다.
• 결과를 현업 적용과 연결한다.
• 교육 후 남는 지식을 조직 자산으로 축적한다.

이렇게 접근하면 AI 교육은 도구 교육을 넘어 조직 변화의 출발점이 됩니다.

마무리: AI 시대의 교육담당자는 일하는 방식을 설계하는 사람이다

AI Agent 시대에는 교육담당자의 역할도 넓어집니다. 교육을 운영하는 사람에서, 조직의 일하는 방식을 새롭게 설계하는 사람으로 이동합니다.

앞으로의 교육은 질문을 바꿔야 합니다.

“어떤 AI 도구를 알려줄 것인가?”에서 멈추지 말아야 합니다. “이 조직은 AI와 함께 어떤 방식으로 더 좋은 결과를 만들 것인가?”까지 가야 합니다.

AI는 일을 빠르게 처리합니다. 사람은 의미를 만들고 판단합니다. 교육은 그 둘을 연결합니다.

AI Agent 시대의 효율적이고 가치 있는 교육은 바로 그 연결을 설계하는 일에서 시작됩니다.

---

함께 읽으면 좋은 글

• AI 에이전트를 학습시키는 법: Hermes Agent로 AI 네이티브 조직 만들기
• AI를 쓸수록 똑똑해지는 사람의 6가지 습관
• AI 네이티브 전환법: 디지털 두뇌와 AI 에이전트로 일하는 방식 바꾸기

---

FAQ

AI Agent 시대 교육은 기존 AI 활용 교육과 무엇이 다른가요?

기존 AI 활용 교육은 주로 도구 사용법과 프롬프트 작성에 집중합니다. AI Agent 시대 교육은 업무 목표, 자료, 권한, 검증, 조직 프로세스까지 함께 다룹니다.

지식근로자는 AI 때문에 역할이 줄어드나요?

반복적인 작성과 정리 업무는 줄어들 수 있습니다. 대신 문제 정의, 맥락 제공, 결과 검토, 책임 있는 판단의 중요성은 더 커집니다.

교육 조직은 AI를 어디부터 적용하면 좋을까요?

교육과정 기획, 자료 정리, 강의안 초안 작성, 교육생 질문 분석, 성과 피드백 정리처럼 반복되지만 판단이 필요한 업무부터 시작하는 것이 좋습니다.

프롬프트를 잘 쓰는 것만으로 충분한가요?

충분하지 않습니다. 좋은 프롬프트는 출발점입니다. 실제 업무에서는 신뢰할 수 있는 자료, 조직 맥락, 검증 기준, 결과 활용 방식이 함께 해야 합니다.

AI 교육의 최종 목표는 무엇이어야 하나요?

그냥 AI 사용법을 익히는 것이 아니라, 학습자가 자신의 업무를 더 잘 이해하고 AI와 함께 더 가치 있는 결과를 만들 수 있도록 돕는 것입니다.

---

마이크로소프트의 사티아 나델라를 볼 때, 흔히 떠올리는 키워드는 클라우드와 OpenAI입니다. 하지만 지금 더 눈여겨볼 변화는 PC 쪽에서 일어나고 있습니다. 마이크로소프트는 AI를 거대한 서버에서만 돌리는 서비스가 아니라, 사용자의 노트북과 앱 안에서 즉시 실행되는 기본 기능으로 만들려 합니다.

Read in English: Satya Nadella’s Next Bet: How Microsoft Is Rebuilding the On-Device AI Ecosystem

이 관점에서 Copilot+ PC, NPU, Windows AI Foundry, Foundry Local, Phi 계열 소형 모델은 서로 따로 움직이는 제품이 아닙니다. 나델라식 플랫폼 전략이 클라우드에서 PC로 내려오는 흐름입니다. 핵심 질문은 하나입니다. 마이크로소프트는 온디바이스 AI 생태계를 어떻게 바꾸려 하는가입니다.

사티아 나델라를 이해하는 먼저 볼 부분은 제품보다 플랫폼이다

나델라는 2014년 마이크로소프트 CEO가 된 뒤 회사를 Windows 패키지 중심 기업에서 Azure, Microsoft 365, GitHub, Teams, Copilot을 잇는 플랫폼 기업으로 바꿨습니다. Microsoft 2024 Annual Report의 주주 서한에서도 그는 AI를 새로운 플랫폼 전환으로 설명합니다. 이는 그냥 챗봇 하나를 더 붙이는 문제가 아닙니다.

나델라의 방식은 반복적입니다. 먼저 개발자와 기업이 모이는 기반을 만들고, 그 위에 도구와 배포 경로를 얹습니다. Azure가 클라우드 개발의 기반이었다면, 온디바이스 AI 시대의 기반은 Windows PC, NPU, 로컬 모델 런타임, 앱 생태계가 됩니다.

그래서 마이크로소프트의 온디바이스 AI 전략은 “PC에도 AI 기능을 넣는다” 정도로 보면 부족합니다. 더 정확히는 Windows를 AI 앱의 실행 환경으로 다시 정의하려는 시도입니다.

Copilot+ PC는 AI 기능이 아니라 새 기준선을 만든다

Copilot+ PC에서 중요한 단어는 Copilot보다 NPU입니다. Microsoft Learn의 Copilot+ PC 개발자 가이드는 Copilot+ PC를 고성능 NPU를 갖춘 새로운 Windows 11 하드웨어로 설명합니다. 이 NPU는 실시간 번역, 이미지 생성 같은 AI 작업을 위해 설계된 칩이며, 40 TOPS 이상의 성능을 기준으로 보입니다.

이 기준은 PC 시장에 중요한 메시지를 줍니다. 앞으로 좋은 노트북은 CPU와 GPU만 빠른 기계가 아니라, AI 작업을 배터리 소모와 지연을 줄이면서 처리할 수 있는 기계여야 한다는 뜻입니다.

마이크로소프트 입장에서는 더 큰 효과가 있습니다. Windows 앱 개발자가 “사용자 기기에 AI 가속기가 있다”고 가정할 수 있는 순간, 로컬 요약, 이미지 보정, 문서 검색, 개인화 추천, 실시간 보조 기능이 앱 기본 기능으로 내려옵니다.

Windows AI Foundry는 개발자 생태계를 묶는 장치다

온디바이스 AI가 확산되려면 하드웨어만으로는 부족합니다. 개발자가 모델을 가져오고, 압축하고, 실행하고, 여러 장치에서 성능을 맞출 수 있어야 합니다. 여기서 Windows AI Foundry와 Foundry Local이 등장합니다.

Microsoft Learn은 Windows의 로컬 AI 개발 흐름에서 DirectML, ONNX Runtime, Windows ML, Foundry Local을 함께 설명합니다. 특히 DirectML과 ONNX Runtime은 GPU나 NPU를 활용해 모델 성능을 끌어올리는 경로입니다. Foundry Local은 기기 안에서 AI 애플리케이션과 에이전트를 설계하고 관리하는 문서 체계로 제시됩니다.

이 조합은 마이크로소프트가 원하는 생태계를 보입니다. 개발자는 클라우드 모델만 호출하는 앱이 아니라, 로컬 모델과 클라우드 모델을 섞어 쓰는 앱을 만들게 됩니다. 사용자는 더 빠른 응답과 개인정보 보호 이점을 얻습니다. 마이크로소프트는 Windows를 다시 개발자 플랫폼의 중심에 놓습니다.

Phi 소형 모델은 클라우드 독점 구조를 흔든다

온디바이스 AI에서 소형 언어 모델은 결정적입니다. 거대한 모델을 모두 노트북에서 돌릴 수는 없습니다. 대신 특정 작업을 잘 수행하는 작은 모델이 해야 합니다. Microsoft의 Phi-3 발표는 이 방향을 잘 보입니다.

Phi-3는 소형 언어 모델의 품질과 비용 효율을 강조합니다. Microsoft는 Phi-3가 Azure AI뿐 아니라 Ollama로 로컬 노트북에서도 실행될 수 있고, ONNX Runtime과 Windows DirectML 지원을 통해 GPU, CPU, 모바일 하드웨어까지 폭넓게 활용할 수 있다고 설명합니다.

이 전략은 클라우드 AI를 버리자는 뜻이 아닙니다. 오히려 작업을 나누자는 뜻에 가깝습니다. 민감하거나 반복적인 작업은 로컬에서 처리합니다. 복잡한 추론이나 대규모 지식 검색은 클라우드 모델을 씁니다. 이렇게 되면 AI 비용, 지연 시간, 개인정보, 배터리 사용량을 동시에 조정할 수 있습니다.

Recall 논쟁은 온디바이스 AI의 신뢰 문제를 드러냈다

마이크로소프트의 방향이 항상 순조로운 것은 아닙니다. Recall은 좋은 사례입니다. Recall은 사용자의 화면 활동을 기기에서 분석해 과거 작업을 찾게 해주는 Copilot+ PC 기능입니다. 하지만 화면 스냅샷과 민감 정보 처리 문제로 큰 개인정보 논쟁을 불러왔습니다.

Microsoft Learn의 Recall 문서는 Copilot+ PC, Windows 업데이트, 정책 설정, 사용자 동의와 제어를 전제로 설명합니다. 이 논점은 온디바이스 AI의 본질을 보입니다. 데이터를 클라우드로 보내지 않는다고 해서 자동으로 신뢰가 생기지는 않습니다. 사용자가 무엇이 저장되는지 알고, 끄고, 삭제하고, 통제할 수 있어야 합니다.

그래서 온디바이스 AI 생태계의 승부는 성능만으로 결정되지 않습니다. 로컬 처리, 암호화, 접근 권한, 투명한 UI, 기업 정책 제어가 함께 설계되어야 합니다. 나델라의 마이크로소프트가 이 문제를 풀지 못하면, AI PC는 편리한 플랫폼이 아니라 감시 논란의 플랫폼이 될 수 있습니다.

마이크로소프트가 바꾸려는 생태계의 구조

마이크로소프트의 전략은 네 개 층으로 볼 수 있습니다.

이 표에서 가장 중요한 변화는 마지막 줄입니다. AI가 브라우저에서 접속하는 서비스로만 남지 않고, 운영체제와 앱의 기본 경험으로 들어갑니다. 사용자는 별도의 챗봇 창을 열지 않아도 문서, 사진, 회의, 검색, 코딩 도구 안에서 AI를 쓰게 됩니다.

애플·구글과 다른 마이크로소프트의 강점

애플은 기기와 운영체제를 강하게 통합합니다. 구글은 Android와 검색, Gemini 생태계를 갖고 있습니다. 마이크로소프트의 강점은 기업 업무 환경과 개발자 생태계입니다. Windows, Microsoft 365, Azure, GitHub, Visual Studio, Teams가 이미 업무 흐름 속에 들어가 있습니다.

그래서 마이크로소프트가 온디바이스 AI에서 노리는 시장은 단순한 개인 비서가 아닙니다. 기업 문서, 보안 정책, 회의, 개발, 고객 응대, 현장 업무까지 이어지는 생산성 플랫폼입니다. 이 지점에서 나델라의 전략은 명확합니다. 클라우드 AI와 PC AI를 경쟁시키는 것이 아니라, 하나의 Microsoft 생태계 안에서 연결하려 합니다.

사용자는 무엇을 준비해야 할까

온디바이스 AI 생태계가 본격화되면 사용자와 기업은 PC를 고르는 기준부터 바꿔야 합니다. CPU, RAM, 저장장치만 볼 것이 아니라 NPU 성능, 로컬 모델 지원, 메모리 용량, 보안 정책, 배터리 효율을 함께 봐야 합니다.

기업은 더 신중해야 합니다. 로컬 AI는 개인정보 보호에 유리할 수 있지만, 화면 캡처, 파일 접근, 앱 권한, 로그 저장 방식이 불투명하면 오히려 위험해질 수 있습니다. AI PC 도입은 장비 교체 사업이 아니라 데이터 거버넌스와 업무 설계의 문제입니다.

개인 사용자에게는 새로운 기회도 있습니다. 로컬 LLM과 소형 모델이 좋아질수록 인터넷 연결 없이도 글쓰기, 요약, 검색, 코딩 보조, 지식 관리가 가능해집니다. 이미 로컬 LLM 실사용과 AI 에이전트 학습법은 별도 글에서도 다룬 바 있습니다.

함께 읽으면 좋은 글

• M5 Pro Max 128GB 로컬 LLM 실사용
• AI 에이전트를 학습시키는 법
• 소형 언어 모델과 오픈소스 AI
• AI 취업 공포가 던진 질문
• AI 시대 인간의 가치

결론: 나델라의 목표는 AI PC가 아니라 Windows의 재플랫폼화다

사티아 나델라가 온디바이스 AI에서 노리는 것은 그냥 Copilot 버튼이 달린 PC를 많이 파는 일이 아닙니다. 더 큰 목표는 Windows를 AI 앱과 에이전트가 실행되는 기본 플랫폼으로 다시 세우는 것입니다.

이 변화가 성공하면 PC는 다시 중요한 AI 플랫폼이 됩니다. 클라우드 모델은 더 강력한 두뇌가 되고, 로컬 모델은 빠르고 개인적인 손발이 됩니다. 실패하면 AI PC는 마케팅 용어로 끝날 수 있습니다. 관전 포인트는 명확합니다. 마이크로소프트가 성능, 개발자 도구, 개인정보 신뢰를 동시에 설계할 수 있는가입니다.

FAQ

사티아 나델라는 왜 온디바이스 AI에 집중할까?

AI가 클라우드 서비스에만 머물면 Windows와 PC의 전략적 가치가 약해집니다. 반대로 AI가 PC와 앱 안에서 실행되면 Windows는 다시 핵심 플랫폼이 됩니다.

Copilot+ PC의 먼저 볼 부분은 무엇인가?

먼저 볼 부분은 NPU입니다. 40 TOPS 이상급 AI 가속 성능을 기준으로 로컬 AI 기능을 더 빠르고 전력 효율적으로 실행하려는 하드웨어 기준입니다.

Windows AI Foundry와 Foundry Local은 왜 중요한가?

개발자가 로컬 모델을 앱에 넣고, ONNX Runtime·DirectML·Windows ML 같은 실행 경로를 활용하게 해줍니다. 즉 온디바이스 AI 앱 생태계를 만드는 개발자 도구입니다.

온디바이스 AI는 클라우드 AI를 대체하나?

아닙니다. 민감하고 반복적인 작업은 로컬에서 처리하고, 복잡한 추론과 대규모 지식 처리는 클라우드가 맡는 하이브리드 구조가 유력합니다.

Recall 논쟁이 주는 교훈은 무엇인가?

로컬 처리만으로 신뢰가 생기지는 않는다는 점입니다. 사용자의 명확한 동의, 저장 범위 제어, 삭제 권한, 기업 정책 관리가 함께 있어야 합니다.

참고자료

• Microsoft, Annual Report 2024
• Microsoft Learn, Copilot+ PCs developer guide
• Microsoft Learn, Use local AI with Microsoft Foundry on Windows
• Microsoft Learn, Foundry Local architecture overview
• Microsoft Learn, Foundry Local documentation
• Microsoft Azure Blog, Introducing Phi-3
• Microsoft Learn, Recall overview
• Wikipedia, Satya Nadella

Read in English: What Should Humans Learn When AI Knows Every Answer?

AI 시대 배움의 먼저 볼 부분은 더 많이 아는 사람이 되는 것이 아닙니다. 켄 오노는 EO Korea 강연에서 지식이 가장 싼 자원이 된 시대에도 인간에게 남는 힘을 질문, 연결, 정체성에서 찾습니다.

AI 시대 배움은 왜 지식 경쟁이 아니게 되었나

켄 오노는 대형 언어모델을 처음 진지하게 마주했을 때 큰 충격을 받았다고 말합니다. 전문 수학자들이 만든 어려운 문제조차 AI가 빠르게 따라오는 장면을 보며, “AI보다 앞서야 한다”는 질문이 얼마나 불안정한지 깨달았다는 것입니다.

그는 인간과 AI의 관계를 달리 봅니다. 우사인 볼트와 오토바이를 100m 경주에 세우지 않는 것처럼, 인간은 기계와 같은 방식으로 경쟁할 필요가 없습니다. 이미 사회는 기계가 인간의 신체 능력을 압도한다는 사실을 받아들였습니다. 이제는 지식과 계산에서도 같은 전환을 받아들여야 합니다.

먼저 볼 부분은 지식의 양이 아닙니다. AI가 더 많은 사실을 알고 더 빠르게 계산하는 시대에는, 어떤 문제를 붙들 것인지가 더 더 봐야 합니다. 무엇을 외웠는가보다 왜 그 질문을 해야 하는지, 서로 다른 지식을 어떻게 연결할지가 인간의 차이를 만듭니다.

켄 오노가 말하는 딥 인텔리전스

영상에서 반복되는 메시지는 딥 인텔리전스입니다. 여기서 말하는 지능은 시험 점수나 정답률만 뜻하지 않습니다. 자기 문제를 발견하고, 오래 붙들고, 실패를 겪으면서도 다시 질문하는 힘에 가깝습니다.

오노는 자신의 성장기를 이야기합니다. 그는 수학자 아버지의 기대 속에서 자랐지만, 오히려 그 기대가 정체성의 압박으로 다가왔습니다. “나는 누가 정한 사람이 되어야 하는가”라는 질문이 그를 흔들었습니다. 이 지점에서 그는 라마누잔의 이야기를 만납니다.

라마누잔은 제도권 교육의 전형적인 성공 경로와 거리가 있었습니다. 하지만 그는 자기 방식으로 수학을 붙들었습니다. 오노에게 라마누잔은 천재의 신화가 아니라, 시스템이 놓칠 수 있는 인간의 가능성을 보여주는 사례입니다.

AI 시대에도 같은 질문이 남습니다. 표준화된 시험과 순위는 사람의 일부만 봅니다. 하지만 인간의 배움은 더 넓습니다. 관심, 고집, 불편함, 우연한 만남, 실패 후 다시 시작하는 태도까지 포함합니다.

교육은 체크박스가 아니라 호기심의 회복이다

켄 오노는 학생들이 좋은 학교, 좋은 점수, 좋은 이력이라는 체크박스에 너무 일찍 갇힌다고 지적합니다. 물론 현실의 입시와 평가를 무시할 수는 없습니다. 주의할 점은 그 시스템에 참여하고 있다는 사실을 인식해야 한다고 말합니다.

교육의 출발점은 “무엇을 맞혔는가”가 아니라 “왜 더 알고 싶은가”입니다. 어린아이가 블록을 쌓고 무너뜨리며 노는 장면은 과학의 시작입니다. 아이는 중력이라는 단어를 몰라도 세계가 어떻게 작동하는지 몸으로 탐색합니다.

AI 시대 배움도 이 방향으로 돌아가야 합니다. 지식을 빨리 찾아내는 능력은 AI가 맡을 수 있습니다. 하지만 어떤 질문이 중요한지 느끼고, 질문을 자기 삶의 방향과 연결하는 일은 여전히 인간의 몫입니다.

학생과 직장인이 지금 다시 배워야 할 것

이 강연을 블로그 독자 관점에서 정리하면, AI 시대 배움은 세 가지 훈련으로 바뀝니다.

구분	예전의 학습 관성	AI 시대에 더 중요한 학습
지식	많이 외우고 빠르게 재현하기	필요한 지식을 찾고 검증하고 연결하기
질문	정답이 있는 문제를 풀기	아직 정답이 없는 문제를 정의하기
정체성	평가 기준에 자신을 맞추기	내가 오래 붙들 문제를 선택하기
성과	점수와 스펙으로 증명하기	실제 문제 해결과 기여로 증명하기

학생에게는 “AI를 쓰면 공부가 쉬워진다”보다 더 큰 질문이 해야 합니다. AI가 설명해 주는 답을 받아 적는 것이 아니라, 그 답이 어떤 전제 위에 있는지 묻는 습관이 해야 합니다.

직장인에게도 마찬가지입니다. 보고서 초안, 코드, 요약, 검색은 AI가 빠르게 도와줄 수 있습니다. 하지만 조직의 진짜 문제를 정의하고, 고객의 불편을 읽고, 여러 정보 사이의 관계를 해석하는 일은 사람의 책임으로 남습니다.

완벽주의보다 자기 문제를 끝까지 붙잡는 힘

영상에서 가장 인상적인 문장은 “정체성은 누가 소유하는가”라는 질문입니다. 부모, 학교, 시험, 직장, 알고리즘이 사람의 선택을 대신 정해 주는 순간이 많습니다. 켄 오노는 그 정체성을 자기 자신이 소유해야 한다고 말합니다.

AI 시대에는 이 문제가 더 더 봐야 합니다. AI가 추천하는 진로, AI가 써 준 자기소개서, AI가 정리한 공부 계획은 유용합니다. 하지만 그것이 내 문제인지, 남이 만든 체크리스트인지 구분하지 못하면 배움은 얕아집니다.

좋은 배움은 자기 질문을 남깁니다. “나는 무엇을 더 알고 싶은가”, “나는 어떤 문제에 시간을 쓰고 싶은가”, “내가 배운 것을 누구에게 어떻게 기여할 것인가” 같은 질문입니다.

함께 읽으면 좋은 글

• AI를 쓸수록 똑똑해지는 사람의 6가지 습관
• AI 시대 인간의 가치
• AI 시대 필수 역량, 데미스 하사비스 인터뷰로 정리한 공부의 방향
• 최태원이 말한 AI 시대 미래 인재

정리: AI 시대 배움의 방향

켄 오노의 강연은 AI 시대에 공부를 포기하자는 이야기가 아닙니다. 오히려 배움의 기준을 더 깊게 바꾸자는 제안입니다.

정답을 더 많이 아는 능력은 점점 흔해집니다. 대신 좋은 질문을 세우는 사람, 낯선 지식을 연결하는 사람, 자기 정체성을 잃지 않는 사람이 더 더 봐야 합니다. 그래서 AI 시대 배움의 목표는 AI를 이기는 것이 아니라, AI와 함께 더 인간적인 질문을 할 수 있는 사람이 되는 것입니다.

FAQ

AI 시대에는 암기 공부가 필요 없나요?

기본 지식은 여전히 해야 합니다. 주의할 점은 암기 자체가 목표가 되면 한계가 큽니다. 먼저 볼 부분은 지식을 기억하는 데서 끝내지 않고, 그 지식으로 질문을 만들고 문제를 해석하는 데 있습니다.

켄 오노가 말한 딥 인텔리전스는 무엇인가요?

영상의 맥락에서 딥 인텔리전스는 단순한 지식량이나 계산 능력이 아닙니다. 자기 문제를 발견하고, 서로 다른 지식을 연결하고, 정체성을 걸고 오래 탐구하는 힘에 가깝습니다.

학생에게 가장 중요한 AI 시대 역량은 무엇인가요?

정답을 빨리 찾는 능력보다 질문을 세우는 능력이 더 봐야 합니다. AI가 제시한 답을 검증하고, 그 답을 자기 관심사와 실제 문제에 연결하는 훈련이 해야 합니다.

직장인은 이 강연에서 무엇을 배울 수 있나요?

AI 도구를 쓰는 기술만으로는 부족합니다. 직장인은 조직의 진짜 문제를 정의하고, 여러 정보의 관계를 해석하고, AI 결과물을 현실의 의사결정으로 바꾸는 역할을 강화해야 합니다.

참고자료

• EO Korea YouTube 영상: AI가 모든 답을 아는 시대, 우리가 진짜 배워야 할 단 한 가지
• Axiom Math

AI 경쟁을 이야기할 때 가장 먼저 떠오르는 단어는 GPU, 초거대 모델, 빅테크입니다. 하지만 스탠포드대 최예진 교수는 조금 다른 질문을 던집니다. “더 크게 만드는 것”만으로 충분한가, 그리고 AI는 정말 더 많은 사람과 조직이 만들고 통제할 수 있는 기술이 되고 있는가라는 질문입니다.

PLUS TV 인터뷰에서 최예진 교수는 대형 언어 모델 중심의 승자독식 구도, 소형 언어 모델의 가능성, 한국의 피지컬 AI 전략. 그리고 AI 시대 개인에게 필요한 역량을 폭넓게 설명했습니다. 이 글은 영상을 단순 요약하기보다, 한국 기업과 개인이 실제로 가져가야 할 판단 기준으로 묶어 봤습니다.

Read in English: Small Language Models and Open Source AI: Can They Break Big Tech Winner-Take-All?

출처 영상

• PLUS TV, “실패하더라도, 남들이 안하는 선택을 하세요”

AI 업계는 하이프에서 현실 점검으로 이동했다

최예진 교수는 지난 1년 사이 AI 업계의 분위기가 바뀌었다고 말합니다. 이전에는 “AI가 곧 모든 것을 바꿀 것”이라는 기대가 컸습니다. 지금은 산업 현장에서 실제 이익이 얼마나 빠르게 확산되는지, 현재 AI가 무엇을 잘 못하는지, 어떤 방식으로 부족한 부분을 보완해야 하는지에 대한 대화가 많아졌습니다.

먼저 볼 부분은 학습 방식입니다. 지금의 생성형 AI는 방대한 데이터를 수동적으로 읽고 패턴을 익히는 방식에 많이 의존합니다. 최 교수는 이를 “문제집을 많이 풀어 성적을 올리는 학생”에 비유합니다. 문제집을 많이 푼다고 창의력이 반드시 좋아지는 것은 아닙니다.

사람은 모르는 것을 다시 묻고, 이해가 안 되는 부분을 되짚고, 자기 방식으로 공부합니다. 반면 현재 AI는 주어진 문장과 문서를 그대로 받아들이는 경우가 많습니다. 앞으로의 중요한 연구 방향은 AI가 더 능동적으로 배우고 추론하도록 만드는 데 있습니다.

왜 ‘남들이 안 하는 선택’이 중요했나

최예진 교수의 커리어에서 흥미로운 지점은 안정적인 길보다 어려운 길을 선택했다는 점입니다. 그는 마이크로소프트에서 소프트웨어 개발자로 일하다가 AI 연구로 방향을 바꿨습니다. 당시 AI는 지금처럼 각광받는 분야가 아니었습니다. 오히려 “AI의 겨울” 이후 전망이 불확실한 비주류 분야에 가까웠습니다.

그럼에도 그는 어렵고 도전적인 분야에 먼저 뛰어드는 것이 장기적으로 의미 있다고 판단했습니다. 특히 자연어 처리 분야에서도 문법 분석보다 ‘상식’과 ‘맥락’을 이해하는 문제에 집중했습니다. 당시에는 상식 연구가 낮게 평가받기도 했지만, 언어를 진짜로 이해하려면 문법만으로는 부족합니다.

문장이 맞아도 맥락을 모르면 의미를 놓칩니다. 사람은 말을 생략하고, 암시하고, 당연한 배경지식을 전제로 대화합니다. AI가 인간 언어를 제대로 이해하려면 이런 상식과 맥락을 다룰 수 있어야 합니다.

대형 모델 경쟁만으로는 부족하다

최 교수는 스케일링 자체를 부정하지 않습니다. 모델을 크게 만들고 데이터를 많이 넣으면 성능이 좋아지는 것은 사실입니다. 문제는 모두가 같은 방향으로만 달릴 때 생깁니다. 초대형 모델 경쟁은 막대한 자본과 GPU를 가진 기업과 국가에 유리합니다.

그렇다면 자본이 상대적으로 작은 국가는 영원히 뒤처질까요? 최 교수는 그렇지 않다고 봅니다. 알고리즘, 데이터 품질, 학습 방식의 개선으로 더 작고 효율적인 모델을 만들 수 있기 때문입니다.

그 근거로 그는 인간의 두뇌를 듭니다. 인간의 뇌는 LED 전구 하나보다 적은 전력을 쓰면서도 복합적 사고를 하고, 적은 데이터로도 많은 것을 배웁니다. 자연이 이미 효율적인 지능 시스템을 보여주고 있다면, AI 연구도 언젠가는 더 작은 자원으로 강력한 성능을 내는 방향을 찾을 수 있습니다.

한국 AI 전략의 먼저 볼 부분은 GPU만이 아니다

한국이 AI 경쟁에서 살아남기 위해 GPU를 확보하는 일은 더 봐야 합니다. 하지만 그것만으로는 충분하지 않습니다. 최예진 교수는 한국이 미국·중국과 같은 자본 규모로만 경쟁하기 어렵다면, 인재와 아이디어, 협력 문화에서 승부해야 한다고 말합니다.

특히 인재 육성은 장기 전략으로 볼 수 있습니다. 중국 AI 생태계가 빠르게 성장한 배경에는 미국에서 공부하고 돌아간 연구자들이 수년간 학생을 길러낸 구조가 있습니다. 단기간의 장비 투자도 필요하지만, 더 멀리 보면 훌륭한 연구자와 엔지니어를 계속 배출하는 시스템이 더 봐야 합니다.

또 하나의 조건은 협력 문화입니다. 조직 내부 정치와 중복 경쟁은 시간과 자원의 낭비입니다. 같은 문제를 각자 따로 풀기보다, 지식과 데이터를 공유하고 서로의 성과를 연결하는 방식이 해야 합니다. AI 경쟁은 개인 천재 한 명의 승부가 아니라 생태계의 승부에 가깝습니다.

피지컬 AI는 한국이 노릴 수 있는 전략적 영역이다

최 교수는 한국의 제조 기반 피지컬 AI 전략을 긍정적으로 봅니다. 피지컬 AI는 로봇, 제조, 물류, 현실 세계의 행동과 관련된 AI를 뜻합니다. 텍스트나 이미지처럼 인터넷에 풍부하게 쌓인 데이터와 달리, 제조 현장과 로봇 행동 데이터는 쉽게 구하기 어렵습니다.

이 점이 오히려 기회입니다. 피지컬 AI는 자본만 투입한다고 빠르게 풀리는 문제가 아닙니다. 현장 지식, 숙련된 인력, 제조 데이터, 실제 문제를 이해하는 역량이 함께 해야 합니다. 한국은 제조업 기반과 현장 운영 경험이 강하기 때문에 이 영역에서 차별화할 수 있습니다.

피지컬 AI가 발전하면 기존 제품을 자동화하는 데 그치지 않습니다. 이전에는 불가능하다고 여겼던 가전, 로봇, 산업 장비, 서비스가 새로 나올 수 있습니다. 이는 새로운 브랜드와 일자리로 이어질 가능성도 있습니다.

관련 흐름은 이전에 정리한 AI 에이전트와 피지컬 AI 글과 함께 보면 더 입체적으로 이해할 수 있습니다.

AI 민주화는 ‘사용 가능’보다 ‘제작 가능’에 가깝다

많은 사람이 이미 ChatGPT 같은 AI 서비스를 쓰고 있습니다. 그래서 “AI는 이미 민주화된 것 아닌가?”라고 생각할 수 있습니다. 하지만 최예진 교수가 말하는 AI 민주화는 그냥 AI를 소비하는 상태와 다릅니다.

그는 링컨의 민주주의 정의를 AI에 빗대어 설명합니다. 생성형 AI는 인간의 지식과 가치를 반영해야 하고, 인간이 만들 수 있어야 하며, 인간 전체에게 도움이 되어야 합니다. 즉 AI 민주화는 “누구나 쓸 수 있다”를 넘어 “다양한 나라와 조직이 만들고 개선하고 통제할 수 있다”에 가깝습니다.

여기서 소형 언어 모델과 오픈소스가 더 봐야 합니다. 모든 조직이 초대형 모델을 만들 만큼의 GPU를 살 수는 없습니다. 하지만 소형 모델이 충분히 좋아지고, 학습 데이터와 훈련 방법이 공유된다면 더 많은 주체가 자기 목적에 맞는 AI를 만들 수 있습니다.

오픈소스는 단순한 무료 공개가 아닙니다. 좋은 연구를 공개하면 전 세계 개발자와 연구자가 모이고, 인재 유입이 생기며, 생태계의 신뢰도 높아집니다. 중국의 일부 AI 기업들이 오픈소스를 통해 인재와 관심을 끌어모은 사례도 이 맥락에서 이해할 수 있습니다.

소형 언어 모델은 어디서 강점을 가질까

대형 언어 모델은 큰 신경망과 막대한 데이터, 대규모 자본을 바탕으로 만들어집니다. 반면 소형 언어 모델은 크기가 작기 때문에 부족한 부분을 다른 방식으로 채워야 합니다. 최 교수는 그 핵심을 데이터 품질에서 찾습니다.

이미 인터넷 데이터는 대형 모델이 대부분 학습했습니다. 같은 데이터를 다시 많이 넣는다고 작은 모델이 큰 모델을 쉽게 따라잡기는 어렵습니다. 대신 인터넷에 없는 고품질 데이터, 특정 분야에 맞춘 데이터, 알고리즘으로 선별된 데이터가 더 봐야 합니다.

소형 모델이 모든 면에서 초대형 모델을 이길 필요는 없습니다. 특정 업무나 기관, 산업 현장에서는 충분히 잘 작동하면서 비용이 훨씬 낮은 모델이 더 현실적인 선택일 수 있습니다. 예를 들어 내부 문서 검색, 고객 응대, 공공기관의 제한된 업무, 제조 현장의 특화 작업에서는 “가장 큰 모델”보다 “충분히 좋고 통제 가능한 모델”이 더 유리할 수 있습니다.

로컬 LLM과 경량 서빙 흐름은 SGLang 로컬 LLM 서빙 엔진 글에서 다룬 흐름과도 연결됩니다.

AI 시대 리더에게 필요한 능력

AI가 많은 지식을 제공하는 시대에는 단순 암기형 전문성이 약해질 수 있습니다. 전문 지식을 많이 외우는 것만으로는 AI와 차별화되기 어렵습니다. 대신 먼저 볼 부분은 AI가 제시한 정보를 바탕으로 다음 질문을 만들고, 자기 관점으로 추론하며, 새로운 가치를 만드는 능력입니다.

최예진 교수는 AI 시대의 리더에게 독창적 사고와 창의력이 필요하다고 말합니다. AI는 거대한 라이브러리처럼 지식을 꺼내 줄 수 있지만, 그 지식을 어디에 연결하고 무엇을 만들지는 사람이 결정해야 합니다.

또 하나의 중요한 능력은 개별성입니다. 최 교수는 인간만이 가진 다양성과 고유한 특징을 AI가 쉽게 대체하기 어렵다고 봅니다. 모두가 같은 답을 빠르게 얻는 시대일수록, 각자가 가진 문제의식과 경험, 질문의 방향이 더 더 봐야 합니다.

이 관점은 AI 시대 필수 역량과 AI 시대 인간의 가치를 다룬 글과도 함께 읽을 만합니다.

개인과 조직을 위한 체크리스트

이 인터뷰를 개인과 조직의 전략으로 바꾸면 다음 다섯 가지 질문이 남습니다.

1. 우리는 AI를 그냥 사용하는가, 아니면 우리 문제에 맞게 만들고 개선할 역량을 갖추고 있는가?
2. GPU와 모델 크기 외에 데이터 품질, 알고리즘, 업무 맥락을 어떻게 축적하고 있는가?
3. 우리 산업의 현장 데이터는 무엇이며, 그것을 피지컬 AI나 특화 모델로 연결할 수 있는가?
4. 내부 경쟁과 정치보다 협력과 공유가 잘 작동하는 구조를 만들고 있는가?
5. 구성원들이 AI 답변을 소비하는 데 그치지 않고, 스스로 질문하고 추론하는 훈련을 하고 있는가?

이 질문에 답하지 못하면 AI 도입은 도구 사용에 머물 수 있습니다. 반대로 이 질문을 조직적으로 다루면 AI는 비용 절감 도구를 넘어 새로운 제품, 서비스, 학습 방식으로 확장될 수 있습니다.

결론: 한국 AI의 승부처는 ‘크기’가 아니라 ‘방향’이다

AI 경쟁에서 큰 모델과 많은 GPU는 분명 더 봐야 합니다. 하지만 그것이 전부라면 승자는 이미 정해져 있을지도 모릅니다. 최예진 교수의 메시지는 여기서 출발합니다. 모두가 같은 방향으로 달릴 때, 다른 질문을 던지는 것이 더 큰 기회가 될 수 있습니다.

한국은 제조 현장, 인재, 빠른 실행력, 협력 구조를 묶어 피지컬 AI와 특화 모델에서 강점을 만들 수 있습니다. 개인은 AI를 잘 쓰는 사람을 넘어, AI와 함께 더 좋은 질문을 만드는 사람이 되어야 합니다.

결국 AI 민주화의 먼저 볼 부분은 더 많은 사람이 버튼을 누르는 것이 아닙니다. 더 많은 사람과 조직이 AI를 이해하고, 만들고, 통제하며, 인간에게 도움이 되는 방향으로 발전시키는 것입니다.

FAQ

AI 민주화란 무엇인가요?

AI 민주화는 그냥 많은 사람이 AI 서비스를 쓰는 상태를 뜻하지 않습니다. 다양한 나라, 조직, 개인이 AI를 만들고 개선하고 통제할 수 있으며, 그 혜택이 특정 기업이나 국가에만 집중되지 않는 상태에 가깝습니다.

소형 언어 모델은 대형 언어 모델을 대체할 수 있나요?

모든 영역에서 완전히 대체하기는 어렵습니다. 주의할 점은 특정 업무, 특정 산업, 제한된 예산의 조직에서는 충분히 좋은 성능과 낮은 비용, 높은 통제 가능성을 제공할 수 있습니다.

한국이 AI 경쟁에서 노릴 수 있는 분야는 무엇인가요?

영상에서 강조된 분야는 피지컬 AI입니다. 제조, 로봇, 물류, 현실 세계의 행동 데이터가 필요한 영역은 인터넷 데이터만으로 해결하기 어렵기 때문에 한국의 제조 역량이 강점이 될 수 있습니다.

AI 시대 개인에게 가장 중요한 역량은 무엇인가요?

AI가 제공한 지식을 그대로 받아들이는 능력보다, 스스로 질문하고 추론하며 새로운 관점을 만드는 능력이 더 봐야 합니다. 최예진 교수는 독창적 사고와 창의력을 핵심 역량으로 강조합니다.

참고자료

• PLUS TV, 실패하더라도 남들이 안하는 선택을 하세요
• Stanford University, Yejin Choi profile
• TIME, TIME100 AI