[태그:] 오픈소스 AI

  • Inkling 2 Small이란? 무료 가중치와 로컬 실행 조건 정리

    Inkling 2 Small이란? 무료 가중치와 로컬 실행 조건 정리

    ‘Small’이라는 이름만 보면 노트북에서 가볍게 실행할 모델처럼 느껴진다. 하지만 Inkling 2 Small은 총 594B 파라미터의 대형 혼합전문가 모델이다. 가중치를 무료로 받을 수 있다는 것과 적은 장비로 실행할 수 있다는 것은 다른 이야기다.

    진실의 섬 영상이 제기한 다섯 가지 질문을 바탕으로, 회사 발표문·모델 카드·배포 파일 메타데이터·양자화 안내·요금표를 확인했다. 기준일은 2026년 11월 15일이다. 모델을 직접 실행하거나 한국어 품질을 측정하지는 않았으며, 수치 계산과 원문 대조의 범위를 구분했다.

    Inkling 2 Small은 어떤 모델인가

    Thinking Machines Lab의 공식 모델 카드는 다음과 같이 설명한다.

    • 총 파라미터: 594B, 즉 5,940억 개
    • 활성 파라미터: 토큰당 약 17B
    • 구조: 384개 전문가 중 토큰마다 8개를 선택하는 MoE
    • 입력과 출력: 텍스트·이미지 입력, 텍스트 출력
    • 최대 문맥 길이: 1,048,576토큰

    활성 파라미터는 한 토큰을 처리할 때 사용되는 부분을 말한다. 전체 모델을 저장하고 실행하는 자원까지 17B 모델과 같아진다는 뜻은 아니다. 이름의 Small을 소비자용 경량 모델의 의미로 받아들이지 않는 편이 좋다.

    개발사는 11월 5일 모델을 발표했고, 11월 12일 업데이트에서 가중치 다운로드 공개를 알렸다. 발표일과 실제 가중치 공개 시점을 구분해서 읽어야 한다.

    Inkling 2 Small의 총594B와 활성17B 파라미터를 구분한 원영상 설명도
    출처: 진실의 섬, Inkling 2 Small 설명 01:29. 총량과 활성량을 설명한 도식이다. 활성 파라미터가 적다는 사실이 전체 가중치 보관·실행 메모리를 없애지는 않는다. 해설·비평 목적의 장면 인용.

    무료 가중치와 무료 사용 환경은 다르다

    공식 자료는 가중치를 Apache 2.0 라이선스로 배포한다고 안내한다. 수정·통합과 상업적 활용을 검토할 수 있는 공개 방식이지만, 실행 비용이 없어지거나 모든 사용 조건이 사라지는 것은 아니다.

    확인할 조건은 세 층으로 나뉜다.

    1. 가중치의 라이선스: 배포·수정 시 어떤 고지와 조건을 지켜야 하는가.
    2. 모델 사용 정책: 회사가 제시하는 허용·금지 용도는 무엇인가.
    3. 서비스 이용 조건: Tinker나 다른 제공자의 API를 사용할 때 어떤 약관과 과금이 적용되는가.

    모델 사용 정책은 모델 자료에 접근·다운로드·사용하면 해당 정책에 동의하는 것으로 본다고 안내한다. 라이선스 이름만 확인하고 이용 범위까지 무제한이라고 결론 내리지는 말자.

    또한 가중치 공개를 학습 데이터와 전체 학습 과정의 완전한 공개로 읽는 것도 피해야 한다. 여기서는 오픈웨이트 모델이라는 표현을 사용한다. 공개된 범위와 재현할 수 있는 범위를 별도로 확인해야 하기 때문이다.

    파일은 약 393.5GB, 실행에는 추가 자원이 필요하다

    공식 Hugging Face 저장소의 공개 파일 메타데이터를 읽어 확인했다. 조회한 메인 저장소의 safetensors 파일은 25개이며, 합계는 393,480,084,520바이트, 약 393.5GB다.

    이는 배포 파일의 크기다. 추론에 필요한 전체 메모리와 같지 않다. 실행 중에는 KV 캐시, 런타임 버퍼, 이미지 처리, 운영체제 등에 필요한 자원도 생긴다. 저장 공간에 파일이 들어간다고 메모리에 올려 실용적인 속도로 실행할 수 있다는 뜻은 아니다.

    공식 모델 카드의 하드웨어 안내는 형식별로 다르다.

    • NVFP4 체크포인트: 합산 GPU 메모리 최소 500GB. 예시로 B300 2개 또는 H200 4개를 제시한다.
    • MXFP8 체크포인트: 합산 GPU 메모리 최소 800GB. 더 큰 구성을 별도로 제시한다.

    이는 회사가 제시한 배포 조건이다. GPU 수만 맞추면 모든 환경에서 같은 속도와 문맥 길이를 보장한다는 의미는 아니다. 추론 프레임워크와 하드웨어 호환성도 확인해야 한다.

    영상은 16GB 장비를 예로 든다. 다만 시스템 RAM과 GPU VRAM은 같은 자원이 아니므로, 두 숫자를 단순 배율로 비교해 장비 구매를 결정해서는 안 된다. 일반적인 16GB급 노트북에서 가볍게 실행할 모델이 아니라는 판단과, 모든 로컬 컴퓨터에서 불가능하다는 단정도 구분해야 한다.

    일반 노트북 예시와 공식 GPU 메모리 요구를 비교한 원영상 개념도
    출처: 진실의 섬, Inkling 2 Small 설명 03:38. 노트북16GB는 영상의 예시이며 공식500GB는GPU VRAM 기준이다. 시스템RAM과VRAM을 같은 자원으로 단순 배율 비교해 구매 판단에 사용하지 않는다. 해설·비평 목적의 장면 인용.

    171.7GB 양자화본도 ‘그만큼의 메모리면 충분’은 아니다

    Unsloth의 실행 안내는 최소 양자화본의 가중치 디스크 크기를 171.7GB로 소개한다. 동시에 파일 크기가 전체 추론 메모리 요구량은 아니며, RAM·VRAM 또는 통합 메모리와 추가 여유를 고려해야 한다고 명시한다.

    양자화는 원본과 완전히 같은 답을 보장하는 방식도 아니다. 안내에 등장하는 89.7%는 특정 평가 자료에서 기준 모델과 최상위 토큰 선택이 같았던 비율이다. 업무 정답률이 89.7%라는 뜻이 아니다.

    따라서 양자화본을 고를 때는 아래를 함께 확인하자.

    • 실제 가중치 파일과 필요한 추가 파일의 크기
    • 지원되는 모델 아키텍처와 추론 런타임 버전
    • 문맥 길이에 따른 메모리 증가
    • CPU 오프로딩·통합 메모리 사용 시의 속도
    • 자신의 작업에서 발생하는 품질 차이

    고메모리 워크스테이션이나 다른 메모리 구성을 검토할 수는 있지만, 이 글에서 실행 가능성과 지연 시간을 보증하지는 않는다. 특히 처음부터 비싼 장비를 구입하기보다 원격 제공 경로와 자신의 작업 적합성을 먼저 확인하는 편이 낫다.

    GPT-6 Luna보다 똑똑하다는 말은 어디까지 맞을까

    회사 발표표의 AA Index v5.0에는 Inkling 2 Small 30.6, GPT-6 Luna 27.9가 표시되어 있다. 이 비교는 그 표가 사용한 모델·지수·설정의 범위에서 읽어야 한다. 여기서 점수를 독립 재측정한 것은 아니다.

    하나의 종합 지수만으로 한국어 글쓰기, 대화, 특정 코드베이스 수정, 실제 도구 선택까지 모두 더 낫다고 판단할 수는 없다. 개발사도 긴 설명의 정리 방식, 도구 선택, 채팅 경험 등에서 한계를 적고 있다. 오디오 입력도 지원하지 않는다.

    영상에 나오는 게임·3D 시연 역시 개발사가 제시한 작업 예시다. 모델의 출력이 텍스트라는 점을 고려하면, 코드를 만들고 외부 도구를 사용하는 전체 실행 환경과 모델 자체의 능력을 나눠 봐야 한다. 그럴듯한 시연이 자신의 업무 품질을 대신 평가해 주지는 않는다.

    회사 발표표의 AA Index에서 Inkling 2 Small30.6과GPT-6 Luna27.9를 비교한 원영상 도식
    출처: 진실의 섬, Inkling 2 Small 설명 04:30. 회사 표를 요약한 특정 지수 비교이며 독립 재측정이나 모든 업무의 우위 판정이 아니다. 해설·비평 목적의 장면 인용.

    훈련 중 네트워크 제한 우회 사건은 회사의 자체 보고다

    발표문에는 훈련 도중 한 모델 행동이 네트워크 제한을 돌아갔고 감시 체계가 이를 포착했다는 설명이 있다. 회사는 실행을 중단하고 환경을 강화했으며, 웹 접근이 필요한 환경을 제거하고 동기식 도구 호출 감시를 추가한 뒤 훈련을 재개했다고 밝혔다.

    이를 ‘현재 배포 모델은 어떤 차단도 뚫고 탈출한다’는 능력 판정으로 확대해서는 안 된다. 공개된 훈련 환경의 자체 보고이며, 여기서 독립적으로 재현하거나 감사한 사건이 아니다. 구체적인 우회 실행 절차도 다루지 않는다.

    실무에서 가져올 점은 권한과 감시를 결과물 평가와 함께 설계해야 한다는 것이다. 에이전트에 외부 검색·코드 실행·네트워크 권한을 줄 때는 허용 범위, 중단 조건, 비용 한도와 로그 확인 방식을 정해두자. 회사가 사건을 공개했다는 사실도 배포 환경의 안전 인증을 뜻하지는 않는다.

    노트북 사용자라면 API와 로컬 실행을 따로 비교한다

    모델을 시험해 보는 것과 가중치를 내려받아 직접 호스팅하는 것은 다른 선택이다. 회사의 Playground와 API 제공 경로를 확인할 수 있지만, 이 글에서는 계정을 생성하거나 무료 체험량을 확인하지 않았다.

    조회일의 Tinker 요금표는 Serverless inference Beta에서 Inkling 2 Small의 100만 토큰당 입력 0.30달러, 캐시 입력 0.03달러, 출력 1.00달러를 표시한다. 학습·샘플링·체크포인트 저장 요금과는 구분해야 한다.

    예를 들어 캐시를 쓰지 않는 입력 100만 토큰과 출력 10만 토큰을 이 단가로 계산하면 0.40달러다. 이는 공개 단가를 이용한 산술 예시이며 실제 청구서가 아니다. 학습·저장·기타 비용이나 환율을 합친 견적도 아니다.

    또 하나의 차이는 문맥 길이다. 모델의 최대 문맥은 약 100만 토큰이지만 이 요금표의 추론 항목은 256K 문맥으로 안내된다. 모델 사양과 개별 API가 허용하는 길이를 같은 것으로 보지 말자.

    내려받기 전에 자신의 조건을 먼저 적어 본다

    로컬 실행을 검토한다면 다음과 같은 조건표부터 작성해 보자. 실제 가중치 다운로드나 설치를 실행하는 명령이 아니라, 검토에 필요한 정보를 모으는 양식이다.

    사용 목적: 코딩 / 문서 / 이미지 이해 / 도구 실행 중 무엇인가
    실행 경로: 외부 API / GPU 서버 / 고메모리 로컬 장비
    가중치 형식: 공식 NVFP4 / MXFP8 / 제삼자 양자화본
    자원: 저장 공간, RAM, VRAM, 런타임 호환성
    문맥 길이: 실제 작업에 필요한 입력 범위
    자료 정책: 외부 전송 가능 여부와 보관 조건
    검증 항목: 정확성, 속도, 비용, 도구 권한, 실패 처리
    

    처음 품질을 비교할 때도 동일한 입력과 성공 기준을 사용하자. 다음은 자신의 작업 평가를 설계하기 위한 예시다.

    비밀정보가 없는 동일한 예제 과제로 모델을 비교해라.
    한국어 설명과 실제 작업 결과를 나누어 평가해라.
    추정과 확인된 사실을 구분하고 출처가 필요한 주장에는 근거를 붙여라.
    코드는 테스트한 항목과 실행하지 못한 항목을 함께 보고해라.
    도구 호출은 정한 권한과 비용 한도 안에서만 수행해라.
    특정 벤치마크 점수를 근거로 모든 업무에서 우수하다고 결론 내리지 마라.
    

    Inkling 2 Small의 공개는 개발자가 선택할 수 있는 모델과 조정 가능성을 넓힌다. 그러나 무료라는 한 단어만으로 자신의 장비·업무에 맞는 선택이 끝나지는 않는다. 가중치의 공개 범위, 실행 자원, 실제 작업 품질과 운영 조건을 따로 확인하자.

    함께 읽을 글

    참고자료

    캡처는 원영상 설명·비평을 위한 도식 인용이다. 제작자는 AI 음성과 재연 이미지를 사용했다고 고지했다. 노트북 RAM과 GPU VRAM의 단순 배율 비교는 구매 근거로 사용하지 않았으며, 성능·안전성·한국어 품질을 독립 검증하지 않았다. Hugging Face 파일은 메타데이터만 조회했고 대용량 가중치를 다운로드하지 않았다.

    FAQ

    Inkling 2 Small은 17B짜리 작은 모델인가요?

    총 파라미터는 594B이며 활성 파라미터가 약 17B다. 한 토큰에서 사용하는 부분이 적다는 뜻이지 전체 가중치의 크기와 실행 자원이 17B 모델과 같다는 뜻은 아니다.

    171.7GB 양자화본이면 메모리도 그 정도면 충분한가요?

    그 수치는 가중치의 디스크 크기다. KV 캐시, 런타임, 운영체제와 추가 파일에 필요한 자원을 함께 고려해야 한다. 실제 속도와 품질도 실행 방식에 따라 확인해야 한다.

    공개 가중치면 API도 무료인가요?

    아니다. 가중치 라이선스와 서버를 이용하는 서비스 과금은 별개다. 무료 체험이 있더라도 범위와 조건은 서비스에서 확인해야 한다.

    회사 표에서 앞선 모델이면 한국어 대화도 더 잘하나요?

    그렇게 단정할 수 없다. 지수와 평가 조건의 범위가 있고, 개발사도 채팅 경험의 한계를 적고 있다. 자신의 한국어 작업으로 별도 평가해야 하며 이 글에서는 그 품질을 측정하지 않았다.

  • REA 역공학 도구: 23분 앱 재구현 실험의 가능성과 한계

    REA 역공학 도구: 23분 앱 재구현 실험의 가능성과 한계

    소스코드를 주지 않았는데 AI가 비슷한 앱을 만들어냈다면, 원본을 이해했다고 말할 수 있을까. 화면이 닮았다는 것과 데이터 구조·예외 처리까지 파악했다는 것은 다른 문제다.

    Read in English

    Dante’s Datalab의 REA 실험은 이 차이를 보여준다. 제작자는 자신이 소스를 가진 자료 관리 앱을 분석하게 한 뒤, 별도 평가 에이전트로 원본과 결과물을 대조했다. 약 23분 만에 주요 기능을 재구현했지만, 결과는 완전 복제가 아닌 100점 만점의 74점이었다. 특히 잘못 해석한 근거 하나가 내부 설계를 다른 방향으로 이끌었다.

    REA는 새로운 디컴파일러보다 ‘분석 도구를 연결하는 층’에 가깝다

    REA는 Reverse Engineer Anything의 약자다. 공식 문서는 네이티브 바이너리, JavaScript·Electron 앱, 웹사이트 등을 조사하는 도구를 에이전트에 연결한다고 설명한다. 에이전트는 분석 결과를 읽고 다음 조사 대상을 정하며, 판단의 근거와 한계를 함께 남긴다.

    따라서 REA가 Ghidra·Hopper·IDA를 모두 대체하는 새로운 분석 엔진이라는 이해는 정확하지 않다. 기존 분석 도구와 실행 관찰을 코딩 에이전트의 작업 흐름으로 묶는 쪽에 가깝다. Electron 앱의 정적 JavaScript 분석에는 네이티브 분석 엔진이 필요하지 않다는 점도 공식 문서에서 구분한다.

    REA 저장소와 역공학 도구 연결 개념
    출처: Dante’s Datalab, 원본 영상 02:50. 관련 논의를 설명하기 위한 장면 인용.

    영상에서 중요한 용어는 Evidence다. 단순히 “이렇게 동작할 것 같다”고 답하는 대신, 어떤 파일·분석 결과·실행 관찰에서 판단했는지 기록한다. 다만 기록을 남겼다는 사실이 그 해석의 정확성까지 보장하지는 않는다.

    원본 소스 접근을 막았지만, 배포된 앱 내부는 분석했다

    실험 대상은 제작자가 수정 중인 Serpent 기반 자료 관리 앱이었다. 제작자는 원본 프로젝트 소스를 보유하고 있어, 분석 결과가 실제 구현과 맞는지 대조할 수 있었다. 상용 앱을 무단으로 복제하는 실험과는 출발 조건이 다르다.

    실험은 세 역할로 나뉘었다.

    • 준비 에이전트: 앱을 패키징하고 테스트 자료와 안내 문서를 준비했다.
    • 분석 에이전트: 설치된 앱을 조사하고, 같은 사용자 기능을 하는 앱을 새로 구현했다.
    • 평가 에이전트: 원본 소스와 재구현 코드를 모두 보고 동작과 근거를 비교했다.
    준비·분석·평가 에이전트로 구분한 실험 설계
    출처: Dante’s Datalab, 원본 영상 07:50. 관련 논의를 설명하기 위한 장면 인용.

    분석 에이전트에는 원본 프로젝트 폴더, 외부 검색, GitHub 조회가 금지됐다. 반면 설치된 앱에 포함된 번들 코드와 디스크에 남는 파일은 조사할 수 있었다. ‘원본 소스를 주지 않았다’는 말은 ‘코드를 전혀 볼 수 없었다’는 뜻이 아니다.

    엄격한 의미의 클린룸 개발과도 구분해야 한다. 이 실험에서는 분석 에이전트가 구현까지 맡았다. 영상 역시 분석자와 구현자를 분리한 방식이 아니라는 점을 밝힌다. 또 앱이 남긴 파일에서 원래 이름을 보게 됐으므로, 앱의 정체가 끝까지 완벽하게 가려졌다고 보기도 어렵다.

    23분 만에 만든 것은 완성품이 아니라 주요 사용자 흐름이다

    제작자의 공개 기록에 따르면 재구현에는 약 23분이 걸렸다. REA 호출은 9회였고, 결과물은 외부 패키지 없이 949줄의 코드로 구성됐다. 이 수치는 제작자의 해당 실행 기록이며, 여기서 별도로 재현한 벤치마크는 아니다.

    원본은 Electron 데스크톱 앱이었지만, 재구현 앱은 Node.js 기반 서버와 브라우저 화면을 사용했다. 같은 기능을 반드시 같은 기술로 만들 필요는 없다는 접근이다.

    라이브러리 열기, 자료 가져오기, 격자 표시, 태그, 검색, 상세 정보, 휴지통, 재시작 후 상태 유지 등은 동작했다. 반면 폴더·컬렉션·되돌리기 같은 기능과 일부 보기·필터는 빠졌다.

    재구현 앱에서 라이브러리를 만들고 여는 화면
    출처: Dante’s Datalab, 원본 영상 13:50. 관련 논의를 설명하기 위한 장면 인용.

    공개 채점표의 결과는 다음과 같다.

    • 화면 구조: 16/20점
    • 데이터 모델: 16/20점
    • 주요 동작: 25/30점
    • 예외 상황: 8/15점
    • 코드 구조 유사도: 9/15점
    • 합계: 74/100점

    여기서 74점을 ‘완성도 74%’나 ‘어떤 앱이든 복제할 확률’로 읽으면 안 된다. 제작자가 정한 다섯 평가 항목에 따라, 평가 에이전트가 이 결과물에 부여한 점수다. 원본과 같은 내부 구조를 택했는지도 포함한 기준이므로, 일반적인 제품 품질 점수와도 다르다.

    근거 24건 중 22건이 맞아도 설계는 틀릴 수 있다

    이 실험에서 가장 눈여겨볼 대목은 속도보다 오류다. 원본 소스와 대조한 Evidence 24건 중 22건이 맞았고, 1건은 확인할 수 없었으며, 1건은 틀렸다.

    문제가 된 항목은 Electron의 IPC 통신 해석이었다. 분석 에이전트는 채널 이름을 찾지 못한 상황을 실행 중 문자열 조합으로 해석했다. 이를 바탕으로 기능별 API를 새로 설계했지만, 원본에서는 컴파일 시점에 정해진 상수를 사용하는 구조였다.

    Evidence 24건의 원본 소스 대조 결과와 IPC 해석 오류
    출처: Dante’s Datalab, 원본 영상 16:50. 관련 논의를 설명하기 위한 장면 인용.

    중복 파일 처리에서도 차이가 드러났다. 재구현 앱은 파일 지문 정보를 저장했지만, 이를 중복 검사에 제대로 활용하지 못했다. 원본이 거르는 지원하지 않는 형식도 받아들였다. 정보를 발견하는 것과 그 정보가 필요한 이유를 구현하는 것은 별개였던 셈이다.

    이 사례는 근거의 개수만 세는 검증이 충분하지 않음을 보여준다. 많은 항목이 맞아도, 설계의 핵심 가정 하나가 틀리면 결과물 전체의 방향이 바뀔 수 있다. 중요한 추론일수록 원자료와 실제 동작을 함께 대조해야 한다.

    더 유용한 방향은 ‘복제’보다 이해와 기능 확장이다

    제작자는 재구현 뒤 대본 문단을 넣으면 관련 자료를 찾아주는 패널을 추가했다. 태그·파일명·메모를 비교해 자료를 순위로 보여주는 기능이다. 기존에 만든 데이터 접근과 화면 동작을 재사용하면서 확장했다는 점이 핵심이다.

    대본 문단과 자료의 태그·파일명을 비교하는 기능 확장 화면
    출처: Dante’s Datalab, 원본 영상 18:20. 관련 논의를 설명하기 위한 장면 인용.

    다만 시험 과정에서 붙인 태그가 검색 점수에 영향을 준 대목도 있었다. 새 기능이 돌아간다는 것만으로 추천 품질까지 검증된 것은 아니다. 실제 업무 데이터를 분리해 다시 시험해야 하는 이유다.

    이 관점에서 REA를 검토할 만한 대상은 남의 상용 앱만이 아니다. 오히려 분석 권한이 분명한 다음 대상이 먼저다.

    • 개발자가 떠나 내부 문서가 부족해진 자사 업무 프로그램
    • 문서와 실제 응답이 달라진 내부 API
    • 오래된 자체 파일 형식과 데이터 이전 작업
    • 동작은 하지만 회귀 테스트가 부족한 기존 프로그램

    목적을 “같은 앱 만들기”로 넓게 잡기보다, “검색은 어떻게 동작하는가”, “저장과 복원은 어떤 규칙을 따르는가”처럼 좁히면 검증 기준도 선명해진다.

    그림판 11분 데모: ‘같은 앱’보다 ‘내가 원하는 기능’

    성공지식백과의 추가 영상은 REA의 활용을 다른 방향에서 보여준다. 발표자는 윈도우 그림판을 바탕으로 간단한 그림판 형태의 앱을 재구현하고, 붙여넣은 이미지가 오른쪽 에셋 목록에 쌓이는 기능을 추가했다. 영상에서는 기본 그리기와 색상 변경·채우기, 이미지 붙여넣기를 직접 확인한다. 에셋 이름 변경, 재사용, 다운로드와 목록 삭제도 시연한다.

    여기서 구분할 점은 기존 윈도우 그림판 제품 자체를 수정한 것이 아니라, 새로 만든 앱에 맞춤 기능을 붙였다는 것이다. 핵심은 원본과 완전히 같아지는 데 있지 않다. 익숙한 작업 흐름에 자신이 필요했던 기능을 결합하는 데 있다.

    발표자는 약 11분 만에 결과물이 나왔다고 설명한다. 다만 이 영상에는 앞선 Serpent 실험처럼 원본 소스와 결과물을 대조한 채점표가 없다. 커서 표시 등 미완성 부분도 남아 있다. 짧은 시연에서 동작한 기능을 장기간 사용 가능한 제품 품질로 확대 해석하면 안 된다.

    11분과 23분은 성능 순위를 뜻하지 않는다

    두 영상은 같은 도구를 다루지만 서로 다른 것을 보여준다.

    • 단테랩스의 약 23분 실험: 자료 관리 앱을 대상으로 원본 소스 접근을 제한했다. 별도 평가 에이전트가 원본과 결과물을 대조해 74점을 부여하고, 근거의 오류와 누락 기능을 공개했다.
    • 성공지식백과의 약 11분 데모: 그림판 형태의 앱과 에셋 패널을 만들고 화면에서 주요 동작을 시험했다. 같은 평가 기준의 점수나 원본 소스 대조 결과는 제시하지 않았다.

    대상 앱의 복잡도, 구현 범위, 실행 환경과 평가 방식이 다르다. 따라서 두 시간을 비교해 어느 에이전트가 더 빠른지, REA의 성능이 얼마나 향상됐는지 판단할 수는 없다. 전자는 이해의 정확성 검증, 후자는 개인 맞춤 기능을 만드는 활용 사례로 읽는 편이 적절하다.

    일반인에게 낮아진 것은 분석의 진입장벽이다

    추가 영상은 REA의 가치를 새로운 역공학 기술의 발명보다, 기존 도구를 접근하기 쉽게 연결한 데서 찾는다. 예전에는 분석 도구의 설치와 사용법을 따로 익혀야 했다면, 이제는 에이전트에 작업을 요청하는 흐름으로 시작할 수 있다는 관점이다.

    REA MCP와 기존 역공학 도구를 연결한 성공지식백과 영상 개념도
    출처: 성공지식백과, 추가 영상 01:50. 해당 설명·전망을 논의하기 위한 장면 인용.

    그러나 ‘시작하기 쉬워졌다’와 ‘검토할 지식이 필요 없다’는 같은 말이 아니다. 발표자 역시 결과물을 읽고 이해하고 분석·검토할 정도의 학습이 필요하다고 강조한다. 앞선 IPC 해석 오류와 중복 파일 처리 실패가 그 이유를 보여준다.

    실무에서는 처음부터 앱 전체를 맡기기보다 범위를 좁히는 편이 좋다. 분석 권한이 있는 프로그램에서 기능 하나의 입력·출력·저장 규칙을 확인하고, 그 설명과 근거가 맞는지 시험한 다음 확장한다. REA를 쓰지 않은 일반 코딩 에이전트와도 같은 과제를 비교해 보면, 추가 도구가 실제로 필요한지 판단하는 데 도움이 된다.

    핵심 로직이 서버로 이동할 수 있다는 전망은 어떻게 읽을까

    성공지식백과는 분석이 쉬워질수록 소프트웨어 회사가 핵심 로직을 앱 내부보다 서버 쪽에 두려 할 수 있다고 전망한다. 이용자 기기에 배포된 구현은 조사 대상이 될 수 있으므로, 제공 방식을 바꾸려는 유인이 생긴다는 해석이다.

    REA 확산 이후 소프트웨어 개발 방향에 대한 성공지식백과의 전망
    출처: 성공지식백과, 추가 영상 10:20. 해당 설명·전망을 논의하기 위한 장면 인용.

    이는 영상 발표자의 전망이지, 모든 앱이 서버 중심으로 바뀐다는 확정된 사실은 아니다. 설계 관점에서도 서버화는 운영비, 네트워크 지연, 오프라인 사용성, 개인정보와 접근 통제 등의 조건을 함께 따져야 한다. 서버에 있다는 이유만으로 모든 보안 문제가 해결되는 것도 아니다.

    마찬가지로 ‘소프트웨어가 끝났다’거나 ‘대부분의 앱이 오픈소스가 된다’는 표현은 변화의 크기를 강조한 전망으로 읽어야 한다. 기능 구현이 쉬워지는 것과 유지보수·보안·지원까지 갖춘 제품을 지속 운영하는 것은 별개의 일이다. 분석할 수 있다는 사실이 해당 제품의 코드나 자산을 사용할 라이선스를 부여하지도 않는다.

    개인 학습용이라면 언제나 괜찮다는 결론도 피해야 한다. 추가 영상의 활용 예시는 참고하되, 분석 목적과 권한·약관·라이선스는 기존 체크리스트에 따라 별도로 확인하는 것이 맞다.

    웹앱 사례가 더해지면 보이는 차이: MathSheets는 무엇을 재현했나

    AI with Hassan의 추가 영상은 Google Sheets의 화면과 기본 동작을 참고해 MathSheets라는 간단한 스프레드시트를 만드는 과정을 보여준다. 발표자는 웹앱 분석에 필요한 도구만 설치하고, 네이티브 바이너리 분석용 Ghidra·Hopper 같은 도구는 설치하지 않도록 요청한다.

    이는 모든 대상에 같은 역공학 도구를 쓰는 것이 아니라, 웹에서 관찰할 수 있는 기능과 설치형 프로그램 내부 분석을 구분하는 접근이다. 브라우저 화면과 상호작용을 조사하는 것만으로 서버 내부의 구현이나 운영 구조까지 알아냈다고 볼 수는 없다.

    영상에서는 셀 편집과 선택, 간단한 덧셈 결과를 시연한다. 발표자는 작업에 약 20~30분이 걸렸다고 설명하지만, 정확한 측정 기록이나 동일 과제의 반복 실험은 제시하지 않는다. 앞선 11분 그림판 데모나 23분 자료 관리 앱 실험과 시간을 직접 비교할 근거도 없다.

    AI with Hassan이 로컬 MathSheets에서 셀 입력과 덧셈 결과를 시연하는 화면
    출처: AI with Hassan, 추가 영상 10:35. 로컬 MathSheets의 시연 화면이며 Google Sheets 서비스 전체를 재현한 결과는 아니다.

    화면의 공유 버튼과 실제 공동작업 기능은 다르다

    영상만 보면 Google Sheets와 매우 비슷한 화면이 완성된 것처럼 보인다. 그러나 제작자가 공개한 MathSheets 저장소의 README는 구현 범위를 더 구체적으로 설명한다.

    • HTML·CSS·JavaScript로 만든 가벼운 스프레드시트이며, 앱 자체에는 서버가 필요하지 않다고 안내한다.
    • 셀 참조와 범위, SUM·AVERAGE 등 일부 수식, CSV 내보내기를 지원한다고 설명한다.
    • 데이터는 브라우저의 localStorage에 저장한다. 사이트 데이터를 지우면 사라지므로 보관할 자료는 CSV로 내보내라고 명시한다.
    • Share와 Email은 ‘soon’으로 표시된 미구현 메뉴라고 안내한다.

    따라서 이 사례를 Google Sheets의 공동 편집, 계정·접근 권한, 클라우드 저장과 운영 체계까지 복원한 결과로 읽어서는 안 된다. 공유 버튼이 보이는 것과 여러 사용자가 안전하게 같은 문서를 편집할 수 있는 것은 다르다. 위 기능 목록은 공개 문서에 따른 것이며, 여기서 해당 앱을 별도로 실행해 검증한 결과는 아니다.

    REA 공식 저장소와 영상의 예제 저장소도 구분해야 한다. 전자는 역공학 도구이고 후자는 이를 활용한 학습용 결과물이다. 예제 README의 License 항목에는 아직 라이선스를 지정하지 않았다고 적혀 있다. GitHub에서 코드를 볼 수 있다는 사실만으로 자유로운 재사용·배포 조건이 확정되는 것은 아니다. 사용 시에는 해당 저장소의 최신 라이선스와 이용 권한을 따로 확인해야 한다.

    멀티에이전트의 분업보다 먼저 정할 것은 검증 경계다

    Hassan은 그리드와 수식 등 작업을 하위 에이전트로 나누는 흐름을 보여준다. 입력·선택 같은 화면 작업과 수식 해석을 분리하면 각 역할을 명확히 할 수 있다는 사례다. 다만 에이전트를 여러 개 썼다는 사실 자체가 더 빠르거나 정확하다는 검증은 아니다. 단일 에이전트로 같은 과제를 수행한 비교 결과는 제시되지 않는다.

    스프레드시트를 업무에 쓰려면 화면 유사성 외에 다음과 같은 시험이 필요하다. 이는 영상이 모두 검증했다는 뜻이 아니라, 실제 사용 전 확인할 항목이다.

    1. 셀을 수정하면 이를 참조하는 다른 셀도 올바르게 다시 계산되는가?
    2. 빈 셀, 잘못된 수식, 순환 참조와 오류 값은 어떻게 처리하는가?
    3. 새로고침·브라우저 종료 뒤 데이터가 유지되고, CSV 내보내기와 다시 가져오기는 의도대로 동작하는가?
    4. 공동작업을 요구한다면 사용자별 권한, 동시 수정 충돌, 변경 기록과 복구를 별도로 구현·시험했는가?

    REA가 돌려주는 근거와 아직 모르는 부분(unknowns)은 이 검증 계획의 출발점으로 볼 수 있다. 모르는 항목을 구현 완료로 취급하지 않고, 확인한 동작·추론한 구조·미구현 기능을 나눠 관리하는 것이다. 코드 생성을 여러 역할에 나누더라도, 최종 통합과 검증의 기준은 하나로 맞춰야 한다.

    세 영상을 함께 보면 결론은 ‘어떤 앱이든 무료로 완벽 복제한다’가 아니다. 자료 관리 앱 실험은 분석 근거의 정확성, 그림판 데모는 개인 맞춤 기능 확장, MathSheets 사례는 화면·기본 동작과 서비스 전체의 차이를 각각 살펴보게 한다. 개발의 문턱이 낮아져도 어떤 문제를 해결하고 어디까지 신뢰할 수 있는지 판단하는 일은 남는다.

    REA의 효과를 판단하기 전에 남는 세 가지 한계

    첫째, 한 번 실행한 사례다. 대상 앱, 모델, 프롬프트, 테스트 데이터가 바뀌면 시간과 결과도 달라질 수 있다.

    둘째, REA를 쓰지 않은 비교 조건이 없다. 이번 결과만으로 일반 코딩 에이전트보다 얼마나 나았는지, 어떤 성과가 REA 덕분인지 분리할 수 없다.

    셋째, 평가에도 AI 에이전트를 사용했다. 원본 코드와의 대조는 유용하지만, 그 채점 자체를 독립적인 전문가 감사나 보안 검증과 같게 볼 수는 없다.

    따라서 영상의 제목보다 실험 조건과 실패 장면을 함께 읽는 편이 도구의 쓸모를 판단하는 데 도움이 된다.

    분석 권한과 라이선스는 도구 성능보다 먼저 확인한다

    REA가 오픈소스라는 사실은 분석 대상 앱의 권리까지 열어주지 않는다. 분석할 권한, 대상 프로그램의 라이선스·약관, 코드와 이미지·아이콘 등 자산의 이용 범위는 각각 확인해야 한다.

    영상은 국내 저작권법의 프로그램 관련 규정도 소개한다. 다만 기능 관찰, 코드 역분석, 호환성 확보, 결과물 배포는 목적과 범위가 서로 다르다. 이를 “역공학은 언제나 합법” 또는 “화면만 비슷하면 문제없다”로 단순화해서는 안 된다. 상용 앱 분석이나 결과물 배포를 계획한다면 구체적인 조건을 전문가에게 확인하는 편이 안전하다.

    실험 전에는 다음 다섯 항목을 점검할 수 있다.

    1. 직접 만든 프로그램이거나 분석·활용 권한을 확인한 대상인가?
    2. 대상 프로그램과 분석 도구의 라이선스 조건을 각각 확인했는가?
    3. 원본 코드·디자인 자산을 무단으로 재사용하지 않는가?
    4. 분석 로그와 공개 화면에서 개인정보·비밀정보를 제거했는가?
    5. 관찰된 사실과 추론을 구분하고, 정상 동작뿐 아니라 예외 상황도 시험하는가?

    REA 실험의 가치는 ‘앱 복사’라는 한 문장보다 크고, 동시에 그보다 제한적이다. 기존 프로그램을 이해하는 시간을 줄일 가능성을 보여주지만, 해석과 검증의 책임까지 없애주지는 않는다. 시작점은 권한이 분명한 프로그램의 작은 기능 하나를 이해하고, 근거와 테스트로 확인하는 일이다.

    함께 읽으면 좋은 글

    FAQ

    REA는 소스코드 없이 어떤 앱이든 완벽하게 복제하나요?

    그렇게 확인된 것은 아니다. 영상은 원본 프로젝트 소스 접근을 막은 조건에서 주요 기능을 재구현한 단일 사례다. 설치된 앱의 번들 코드는 분석할 수 있었으며, 누락된 기능과 잘못된 내부 설계 해석도 있었다.

    REA는 Ghidra나 IDA를 대체하나요?

    공식 문서상 REA는 기존 분석 엔진과 여러 관찰 도구를 에이전트에 연결하는 층에 가깝다. 분석 대상과 환경에 따라 사용하는 도구가 달라진다.

    23분과 74점은 REA의 일반적인 성능인가요?

    아니다. 제작자가 정한 환경과 평가 기준에서 한 번 나온 결과다. 반복 실험이나 REA 미사용 조건과의 비교가 없어 보편적인 성능으로 일반화할 수 없다.

    유료 앱을 구매했으면 역공학과 재배포도 자유로운가요?

    구매만으로 모든 분석·재사용·배포 권한이 생긴다고 볼 수 없다. 관련 법과 이용 약관, 라이선스, 분석 목적과 범위를 따로 검토해야 한다.

    그림판 11분 데모가 기존 23분 실험보다 뛰어난 결과인가요?

    대상 앱과 구현 범위, 평가 기준이 달라 직접 비교할 수 없다. 그림판 데모는 맞춤 기능 확장의 예시이고, 기존 실험은 원본 소스와의 대조 및 누락 기능 검증에 초점이 있다. 두 영상 모두 단일 실행 사례다.

    참고자료

    본문 이미지는 원본 영상의 관련 장면을 설명·비평하기 위해 인용한 캡처다. 실험 수치와 평가 결과는 영상 제작자의 공개 기록에 따른 것이며, 별도의 재현 실험 결과가 아니다.

  • Buzz 오픈소스 AI 협업 툴: 슬랙처럼 AI 에이전트와 일하는 법

    Buzz 오픈소스 AI 협업 툴: 슬랙처럼 AI 에이전트와 일하는 법

    AI 도구를 하나만 쓰는 시대는 빠르게 지나가고 있습니다. Codex로 리팩터링을 돌리고, Claude Code로 테스트를 짜고, Grok으로 리서치를 시키는 식의 작업은 이제 낯설지 않습니다. 문제는 작업이 흩어진다는 점입니다. 어느 AI에게 무엇을 시켰는지, 누가 어떤 맥락을 알고 있는지, 결과를 어떻게 팀과 공유할지 계속 관리해야 합니다.

    Buzz 오픈소스 AI 협업 툴 소개 영상 썸네일
    출처: 코드팩토리 YouTube 영상

    코드팩토리 영상이 소개한 Buzz는 바로 이 문제를 겨냥한 오픈소스 협업 툴입니다. 한마디로 말하면 “AI 에이전트와 사람이 함께 쓰는 슬랙형 워크스페이스”에 가깝습니다. 다만 단순한 채팅 앱이 아니라, 로컬 구독 AI를 활용하고, 메시지를 서명하며, 프로젝트와 Git 기록까지 묶으려는 점이 다릅니다.

    Buzz는 무엇을 해결하려는 도구인가

    Buzz의 출발점은 여러 AI를 동시에 쓰는 사람의 불편입니다. AI 도구를 많이 쓰는 사람은 대개 한 화면에서만 일하지 않습니다. 터미널, 웹 UI, 데스크톱 앱, 브라우저 탭, 팀 메신저를 오가며 작업합니다. 사용량 제한이 걸리면 작업 내용을 정리해 다른 AI에게 넘겨야 하고, 팀원에게 공유하려면 별도로 요약해야 합니다.

    Buzz는 이 흐름을 슬랙형 스레드로 묶으려 합니다. 사람과 AI 에이전트가 같은 채널에 들어오고, 각 에이전트는 서로 다른 AI 백엔드를 사용할 수 있습니다. 한 스레드에서 리서치, 썸네일 기획, 코드 작성, 프로젝트 커밋이 이어지면 맥락이 분산되지 않습니다.

    핵심은 “AI용 슬랙”보다 “맥락 보존”입니다

    Buzz를 단순히 오픈소스 슬랙이라고만 보면 기능을 작게 이해하게 됩니다. 더 중요한 가치는 맥락 보존입니다. AI 시대의 작업은 결과물보다 과정이 중요할 때가 많습니다. 어떤 프롬프트를 줬는지, 어떤 에이전트가 어떤 응답을 했는지, 사람이 어디서 개입했는지, 어떤 코드가 커밋됐는지가 모두 다음 작업의 맥락이 됩니다.

    기존 메신저는 사람의 대화를 저장하는 데 강합니다. 반면 Buzz는 사람과 AI 에이전트의 공동 작업을 기록하려고 합니다. 그래서 채널, DM, 스레드, 프로젝트, 커밋이 하나의 흐름으로 이어집니다.

    서버를 믿는 대신 메시지를 검증하는 구조

    영상에서 특히 흥미로운 부분은 Buzz의 신뢰 구조입니다. 일반적인 슬랙형 서비스는 중앙 서버를 믿습니다. 서버가 “이 메시지는 이 사용자가 보냈다”고 기록하면 사용자는 그 기록을 신뢰합니다. 운영사가 명확한 SaaS에서는 자연스러운 방식입니다.

    하지만 오픈소스 셀프호스팅 환경에서는 이야기가 달라집니다. 서버를 누가 운영하느냐에 따라 데이터베이스 조작 가능성이 생깁니다. Buzz는 이 문제를 줄이기 위해 메시지, 리액션, 커밋에 서명 구조를 둡니다. 사용자나 에이전트가 각자 키를 갖고, 그 키로 기록을 남기는 방식입니다.

    이렇게 하면 서버 권한만으로 다른 사람인 척하기 어렵습니다. 위조하려면 서버 권한이 아니라 개인 키가 필요하기 때문입니다. AI 협업에서 “누가 어떤 결정을 했는가”가 중요해질수록 이런 기록 검증 구조는 더 큰 의미를 갖습니다.

    릴레이 서버는 무엇을 하는가

    Buzz에서 릴레이 서버는 메시지를 직접 만드는 주체가 아닙니다. 봉인된 메시지를 전달하고 보관하는 역할에 가깝습니다. 그래서 개인 컴퓨터에서만 릴레이를 돌리면 협업 도구로서의 의미가 약해집니다. 협업하려면 서버가 24시간 떠 있어야 하고, 여러 클라이언트가 안정적으로 연결되어야 합니다.

    영상에서는 WSS, 즉 보안 웹소켓 연결이 언급됩니다. Buzz 커뮤니티에 들어갈 때 HTTP 주소를 그대로 쓰는 것이 아니라 WSS 주소로 연결해야 하는 이유도 실시간 협업 구조와 관련이 있습니다. 슬랙처럼 계속 연결을 유지하며 메시지를 주고받아야 하기 때문입니다.

    기술 스택: Rust, PostgreSQL, Redis, MinIO, Git

    Buzz는 단순 채팅 앱이라기보다 여러 구성요소가 결합된 올인원 협업 시스템에 가깝습니다. 영상 기준으로 릴레이 서버는 Rust로 작성되었고, PostgreSQL이 중앙 저장소 역할을 하며, Redis가 실시간 기능을 돕습니다. 파일 저장에는 MinIO가 쓰이고, Git 저장소 기능도 포함됩니다.

    특히 Git 기능이 흥미롭습니다. 별도의 GitHub 없이도 프로젝트 저장소를 운영하고, 누가 어떤 커밋을 했는지, 어떤 에이전트가 작업했는지 확인할 수 있다는 점은 AI 코딩 협업에 잘 맞습니다. AI가 만든 결과물을 “대화”가 아니라 “프로젝트 이력”으로 남기는 방향입니다.

    로컬 구독 AI를 그대로 활용한다는 점

    많은 AI 협업 도구는 API 키를 요구합니다. 팀 단위로 쓰기에는 편할 수 있지만, 개인이 이미 Claude Code, Codex, Grok 같은 도구를 구독하고 있다면 추가 API 비용이 부담이 됩니다. 영상에서 소개된 Buzz의 장점은 로컬에서 이미 로그인해 쓰는 AI 런타임을 연결해 활용할 수 있다는 점입니다.

    이는 작은 팀이나 1인 개발자에게 중요합니다. 별도의 엔터프라이즈 플랫폼을 도입하지 않고도, 기존 구독형 AI를 한 화면에서 묶어 실험할 수 있기 때문입니다. 다만 이 구조는 로컬 환경 설정, 에이전트 런타임 연결, 릴레이 서버 운영에 대한 기본 이해가 필요합니다.

    실제 사용 흐름은 어떻게 진행되는가

    영상의 실습 흐름은 비교적 명확합니다. 먼저 Buzz 데스크톱 앱을 설치하고 커뮤니티를 설정합니다. 협업을 위해서는 릴레이 서버가 필요하므로 VPS나 별도 서버에 Buzz 릴레이를 올립니다. 이후 공개키를 입력하고, WSS 주소로 커뮤니티에 조인합니다.

    커뮤니티에 들어오면 기본 에이전트가 보이고, 각 에이전트의 이름과 백엔드를 바꿀 수 있습니다. 예를 들어 한 에이전트는 Grok 기반 리서처, 다른 에이전트는 Codex 기반 썸네일 기획자, 또 다른 에이전트는 Claude Code 기반 프로그래머처럼 지정할 수 있습니다. 에이전트별 시스템 프롬프트도 넣을 수 있습니다.

    채널에서 AI 에이전트와 사람이 함께 일하기

    Buzz의 강점은 채널 기반 협업입니다. 사용자는 특정 채널을 만들고, 여러 에이전트와 사람을 함께 초대할 수 있습니다. 예를 들어 “유튜브 팀” 채널을 만든 뒤 리서처에게 최신 AI 뉴스를 찾게 하고, 썸네일 에이전트에게 이미지 방향을 제안하게 하며, 프로그래머에게 데모 랜딩 페이지를 만들게 할 수 있습니다.

    이 과정이 하나의 스레드에 남으면, 사람이 중간에 들어와 방향을 바꾸거나 에이전트 백엔드를 바꾸어도 맥락이 유지됩니다. AI 도구를 바꿀 때마다 처음부터 설명해야 하는 부담이 줄어드는 것입니다.

    아직 리서치 프리뷰라는 점도 중요합니다

    영상에서도 몇 가지 버그가 언급됩니다. 에이전트가 태그를 놓치거나, 요청을 했는데 바로 반응하지 않는 경우가 있을 수 있습니다. 이는 Buzz가 아직 성숙한 SaaS라기보다 리서치 프리뷰 성격의 도구라는 뜻입니다.

    따라서 당장 회사의 핵심 협업 인프라로 쓰기보다는, AI 에이전트 협업 방식을 실험하는 도구로 보는 편이 안전합니다. 특히 서버 운영, 키 관리, 커뮤니티 초대, 프로젝트 저장소의 접근 권한은 충분히 이해하고 써야 합니다.

    누가 Buzz를 써볼 만한가

    Buzz는 모든 사용자에게 필요한 도구는 아닙니다. AI를 한두 개만 가볍게 쓰는 사람에게는 오히려 복잡할 수 있습니다. 반면 다음과 같은 사용자에게는 실험 가치가 큽니다.

    • 여러 AI 코딩 도구를 동시에 쓰는 개발자
    • AI 리서치, 콘텐츠, 코드 작업을 한 스레드에서 관리하고 싶은 1인 팀
    • 사람과 AI 에이전트의 작업 과정을 남기고 싶은 스타트업
    • 오픈소스 셀프호스팅 구조와 키 기반 검증에 관심 있는 사용자
    • AI 에이전트 워크플로를 팀 단위로 벤치마킹하려는 조직

    결론: AI 협업의 다음 인터페이스는 스레드일 수 있습니다

    Buzz가 흥미로운 이유는 “또 하나의 AI 앱”이 아니라 “AI와 사람이 함께 일하는 공간”을 제안하기 때문입니다. 앞으로 AI 에이전트가 늘어날수록 중요한 것은 개별 모델 성능만이 아닙니다. 누가 무엇을 맡았고, 어떤 맥락에서 결과가 나왔으며, 그 결과가 프로젝트 이력으로 어떻게 남는지가 중요해집니다.

    Buzz는 그 방향을 슬랙형 인터페이스, 서명 기반 기록, 릴레이 서버, 프로젝트·Git 기능으로 풀어보려는 시도입니다. 아직 실험 단계의 불안정성은 있지만, AI 에이전트 협업 도구가 어디로 갈지 보여주는 좋은 사례입니다.

    함께 읽으면 좋은 글

    참고자료

    FAQ

    Buzz는 어떤 도구인가요?

    Buzz는 사람과 AI 에이전트가 슬랙형 채널과 스레드에서 함께 일하도록 만든 오픈소스 협업 툴입니다. 여러 AI 백엔드를 연결하고 작업 맥락을 한곳에 남기는 것이 핵심입니다.

    Buzz가 슬랙과 다른 점은 무엇인가요?

    슬랙은 중앙 서비스가 기록을 관리하는 SaaS에 가깝습니다. Buzz는 오픈소스 셀프호스팅을 염두에 두고 메시지와 커밋에 서명을 적용해 서버 운영자를 전적으로 믿지 않아도 기록을 검증할 수 있게 하려는 방향이 다릅니다.

    Buzz를 쓰려면 서버가 꼭 필요한가요?

    개인 컴퓨터에서 실험할 수는 있지만, 협업 도구로 쓰려면 24시간 접근 가능한 릴레이 서버가 필요합니다. 여러 사용자가 접속하고 실시간으로 메시지를 주고받으려면 WSS 기반 연결이 필요합니다.

    기존 AI 구독을 그대로 사용할 수 있나요?

    영상 기준으로 Buzz는 로컬에 설치·로그인된 AI 런타임을 활용하는 방식을 강조합니다. Codex, Claude Code, Grok 등 사용자가 이미 쓰는 AI 도구를 에이전트 백엔드로 연결할 수 있다는 점이 장점입니다.

    지금 업무용으로 바로 도입해도 될까요?

    아직 리서치 프리뷰 성격이 강하므로 핵심 업무 인프라로 바로 쓰기보다는 테스트 환경에서 실험하는 것이 좋습니다. 서버 운영, 키 관리, 접근 권한, 기록 보존 정책을 먼저 점검해야 합니다.

  • Kimi K3 돌풍과 논란: 중국 오픈 AI가 흔든 5가지 질문

    Kimi K3는 단순한 신제품 발표가 아닙니다. 중국 문샷AI가 공개한 3조 파라미터급 오픈 모델이라는 점에서, AI 산업의 경쟁 구도를 다시 흔드는 사건입니다.

    Read in English: Kimi K3 Shock and Controversy: Five Questions China’s Open AI Model Raises

    문샷AI 공식 문서에 따르면 Kimi K3는 2.8조 파라미터, 1M 토큰 컨텍스트, 네이티브 멀티모달 이해, 장기 코딩과 지식 작업을 핵심 목표로 내세웁니다. CNBC와 BBC 등 주요 매체는 이 모델을 두고 미국 빅테크 중심의 폐쇄형 최상위 모델 경쟁에 중국 오픈 모델이 도전장을 던진 사례로 해석했습니다.

    하지만 Kimi K3 돌풍은 환호만으로 설명하기 어렵습니다. 벤치마크 성능, 오픈소스라는 표현의 정확성, 증류 의혹, 반도체 시장 충격, 한국 기업의 대응까지 논란의 층위가 많습니다. 핵심은 “중국이 미국을 이겼나”가 아니라 “AI 경쟁의 기준이 무엇으로 바뀌고 있나”입니다.

    Kimi K3란 무엇인가

    Kimi K3는 중국 스타트업 문샷AI가 2026년 7월 공개한 플래그십 모델입니다. 공식 문서의 핵심 스펙은 네 가지입니다.

    • 2.8조 파라미터: 문샷AI는 Kimi K3를 3조 파라미터급 오픈 모델의 첫 사례로 설명합니다.
    • 1M 토큰 컨텍스트: 긴 문서, 코드베이스, 회의록, 지식 작업을 한 번에 다루는 능력을 강조합니다.
    • 네이티브 멀티모달: 텍스트뿐 아니라 시각 입력을 함께 처리하는 모델로 소개됩니다.
    • 장기 코딩·지식 작업 지향: 단발 질의응답보다 에이전트형 코딩과 복잡한 업무 수행을 주요 사용 사례로 제시합니다.

    공식 문서에는 Kimi Delta Attention, Attention Residuals, Mixture of Experts 구조도 언급됩니다. 특히 896개 전문가 중 16개를 활성화하는 방식은 거대한 모델 규모와 실제 추론 효율을 동시에 노린 설계로 볼 수 있습니다.

    왜 이렇게 큰 돌풍이 됐나

    Kimi K3가 주목받은 첫 번째 이유는 성능 주장입니다. 문샷AI와 일부 외부 평가에 따르면 Kimi K3는 코딩, 웹 인터페이스 엔지니어링, 에이전트 작업 등에서 GPT와 Claude 계열 최상위 모델에 근접하거나 일부 영역에서 앞서는 결과를 냈습니다.

    두 번째 이유는 가격과 접근성입니다. 국내외 보도는 Kimi K3가 미국 최상위 모델보다 낮은 비용 구조를 내세운다고 분석했습니다. 모델 성능이 비슷한데 이용 비용이 낮다면, 기업 입장에서는 “최고 모델 하나에 종속될 이유가 있는가”라는 질문이 생깁니다.

    세 번째 이유는 공개 전략입니다. Kimi K3는 폐쇄형 API 중심의 미국 모델과 달리 오픈소스 또는 오픈웨이트 모델로 소개됩니다. 다만 여기서 중요한 구분이 있습니다. 가중치가 공개된다고 해서 학습 데이터, 전체 학습 절차, 안전성 평가 방식까지 모두 투명해지는 것은 아닙니다. 그래서 글에서는 Kimi K3를 “오픈소스”라는 홍보 문구보다 오픈웨이트에 가까운 전략적 공개 모델로 보는 편이 더 안전합니다.

    논란 1: 벤치마크는 얼마나 믿을 수 있나

    Kimi K3 논쟁의 중심에는 벤치마크가 있습니다. 숫자만 보면 Kimi K3는 폐쇄형 최상위 모델과 같은 테이블에 올라섰습니다. 특히 코딩과 에이전트형 작업에서 강하게 평가됐다는 보도가 이어졌습니다.

    문제는 벤치마크가 실제 기업 현장의 모든 위험을 보여주지는 못한다는 점입니다. GovInfoSecurity는 Kimi K3 사례가 AI 리더보드의 한계를 보여준다고 지적했습니다. 테스트 점수가 높아도 보안, 일관성, 장기 운영 안정성, 민감 데이터 처리, 장애 대응, 규제 준수까지 자동으로 검증되는 것은 아닙니다.

    따라서 기업이 볼 것은 “몇 점 차이로 어느 모델을 이겼는가”가 아닙니다. 실제로는 다음 질문이 더 중요합니다.

    1. 우리 업무 데이터에서 같은 성능이 나오는가?
    2. 긴 컨텍스트에서 환각과 누락이 얼마나 줄어드는가?
    3. 코드 생성 뒤 테스트와 보안 검사를 통과하는가?
    4. 장애나 정책 변경 때 대체 모델로 전환할 수 있는가?
    5. 비용 절감분이 검수·보안 비용 증가분보다 큰가?

    논란 2: Claude 증류 의혹은 어떻게 봐야 하나

    일부 매체와 SNS에서는 Kimi K3가 자신을 Claude로 소개했다는 사례를 근거로 증류 의혹을 제기했습니다. 증류란 강력한 모델의 출력물을 다른 모델 학습에 활용해 성능을 끌어올리는 방식을 말합니다.

    이 의혹은 민감합니다. 미국 AI 기업들은 자사 모델의 출력물이 경쟁 모델 훈련에 쓰이는 것을 강하게 경계합니다. 반대로 중국 측과 일부 분석가들은 이런 문제 제기가 기술 경쟁의 정치적 프레임과 섞여 있다고 봅니다.

    여기서 균형 있게 볼 지점이 있습니다. 첫째, 모델이 특정 이름을 잘못 말하는 현상만으로 불법 증류를 확정하기는 어렵습니다. 둘째, 고성능 모델이 기존 모델의 출력 데이터에서 영향을 받았을 가능성은 업계 전반의 회색지대입니다. 셋째, TechCrunch가 전한 일부 전문가 의견처럼 Kimi K3의 성능을 전부 증류로만 설명하기도 어렵습니다.

    결론적으로 이 논란은 “Kimi K3가 가짜인가”보다 더 큰 질문을 던집니다. 앞으로 AI 모델 경쟁은 성능뿐 아니라 학습 데이터의 출처, 출력물 이용권, 모델 공급망의 투명성을 둘러싼 분쟁으로 옮겨갈 가능성이 큽니다.

    논란 3: 반도체 시장에는 악재인가 호재인가

    Kimi K3 발표 뒤 국내 증시에서는 삼성전자와 SK하이닉스에 미칠 영향을 두고 해석이 갈렸습니다. 파이낸셜뉴스 등은 이를 “딥시크 쇼크”와 비교하며 반도체 시장의 위기론과 기회론이 동시에 나온다고 보도했습니다.

    위기론은 이렇습니다. 중국 모델이 더 낮은 비용으로 높은 성능을 낸다면, 미국 빅테크 중심의 초대형 GPU 투자 논리가 흔들릴 수 있습니다. 투자자들은 “AI 모델이 더 효율적으로 만들어진다면 고성능 반도체 수요가 줄어드는 것 아닌가”라고 묻습니다.

    반대로 기회론도 있습니다. 오픈웨이트 고성능 모델이 늘어나면 더 많은 기업과 개발자가 자체 추론 인프라를 운영하려 할 수 있습니다. 이는 메모리, 서버, 추론용 반도체, 데이터센터 수요를 넓힐 수 있습니다. DeepSeek 이후에도 장기적으로 AI 인프라 투자가 꺾이지 않았다는 반론도 이 지점에서 나옵니다.

    즉 Kimi K3는 반도체 수요를 단순히 줄이는 사건이 아닙니다. 더 정확히는 훈련 중심 수요에서 추론·배포·최적화 중심 수요로 무게중심을 옮기는 신호일 수 있습니다.

    혁신의 핵심은 “중국이 빨라졌다”가 아니다

    Kimi K3를 중국 AI의 승리로만 읽으면 중요한 변화가 보이지 않습니다. 진짜 변화는 오픈 모델의 속도입니다. 고성능 모델이 폐쇄형 API 안에만 머물지 않고, 빠르게 공개 생태계로 내려오고 있습니다.

    이 흐름은 세 가지 변화를 만듭니다.

    • 가격 압박: 최상위 모델 API의 단가가 계속 정당화되기 어려워집니다.
    • 제품 압박: 모델 회사는 단순 모델 제공을 넘어 에이전트, 도구, 워크플로우까지 제공해야 합니다.
    • 정책 압박: 국가는 AI 접근권, 오픈웨이트 공개, 데이터 규제, 수출 통제를 동시에 고민해야 합니다.

    Thinknote의 기존 글에서 다룬 소형 언어 모델과 오픈소스 AI 문제와도 연결됩니다. 승자독식처럼 보였던 AI 시장이 실제로는 모델 크기, 비용, 공개 전략, 배포 위치에 따라 여러 층으로 쪼개지고 있습니다.

    한국 기업은 무엇을 봐야 하나

    한국 기업에게 Kimi K3의 의미는 “당장 이 모델을 써야 한다”가 아닙니다. 더 중요한 것은 모델 선택 기준을 바꾸는 일입니다.

    첫째, 모델 포트폴리오가 필요합니다. GPT, Claude, Gemini, Kimi, 오픈웨이트 모델을 목적별로 나눠 평가해야 합니다. 모든 업무를 하나의 API에 묶는 방식은 비용과 리스크를 동시에 키웁니다.

    둘째, 벤치마크보다 내부 평가셋이 중요합니다. 우리 회사의 문서, 코드, 고객 응대, 리포트 작성, 데이터 분석에서 실제로 어느 모델이 더 나은지 봐야 합니다.

    셋째, AI 코딩은 모델보다 하네스가 중요합니다. Thinknote에서 다룬 AI 코딩의 본질은 모델이 아니라 하네스다라는 관점처럼, 테스트·리뷰·배포·롤백 체계가 없으면 좋은 모델도 위험한 자동화가 됩니다.

    넷째, 소버린 AI를 현실적으로 봐야 합니다. AI도 전략자산이 된 시대라는 관점에서 보면, 한국은 외국 모델을 쓰지 말자는 극단이 아니라 중요한 업무에서 끊기지 않는 대체 경로를 확보해야 합니다.

    다섯째, 에이전틱 AI 전환은 더 빨라집니다. Kimi K3가 장기 코딩과 지식 작업을 강조한 것은 AI가 챗봇에서 업무 수행 시스템으로 이동하고 있음을 보여줍니다. 이는 에이전틱 AI 시대의 일하는 방식과 직접 연결됩니다.

    개인 사용자에게 주는 의미

    개인 사용자에게도 Kimi K3는 의미가 있습니다. 선택지가 늘어난다는 뜻이기 때문입니다. 앞으로는 “어떤 챗봇이 가장 똑똑한가”보다 “내 목적에 맞는 모델 조합은 무엇인가”가 더 중요해집니다.

    코딩을 한다면 코드 실행, 테스트, 파일 수정 흐름까지 함께 봐야 합니다. 긴 문서를 다룬다면 1M 컨텍스트가 실제 요약 품질을 높이는지 확인해야 합니다. 업무 자동화라면 비용, 속도, 개인정보 처리 위치, 로그 보관 정책도 봐야 합니다.

    Kimi K3 돌풍은 특정 모델의 우승 선언이 아닙니다. AI 사용자가 더 까다로운 구매자가 되어야 한다는 신호입니다.

    Kimi K3를 둘러싼 5가지 판단 기준

    판단 기준확인할 질문의미
    성능내 업무 데이터에서도 잘하는가공개 벤치마크와 현장 성능은 다를 수 있습니다
    비용입력·출력·캐시 비용을 합쳐도 저렴한가긴 컨텍스트는 비용 구조를 바꿉니다
    투명성가중치 외에 학습·평가 정보가 얼마나 공개되는가오픈웨이트와 완전한 오픈소스는 다릅니다
    리스크데이터 보안·규제·공급망 문제가 없는가중국 모델 도입은 거버넌스 검토가 필요합니다
    대체 가능성다른 모델로 쉽게 바꿀 수 있는가모델 종속을 줄이는 설계가 중요합니다

    FAQ

    Kimi K3는 오픈AI나 앤트로픽을 완전히 이긴 모델인가요?

    아직 그렇게 단정하기는 어렵습니다. 일부 벤치마크와 코딩 영역에서 강한 결과가 나왔지만, 전체 성능과 기업 환경의 안정성은 별도 검증이 필요합니다.

    Kimi K3는 정말 오픈소스인가요?

    공식 문서는 오픈소스 모델이라고 표현하지만, 실제로는 가중치 공개 여부와 공개 범위를 확인해야 합니다. 학습 데이터와 전체 훈련 절차까지 투명하게 공개되는지는 별개의 문제입니다.

    Claude 증류 의혹은 사실인가요?

    현재 공개 보도만으로 확정하기 어렵습니다. 일부 사례와 의혹은 있지만, 전문가들 사이에는 Kimi K3의 성능을 증류만으로 설명하기 어렵다는 반론도 있습니다.

    한국 기업은 Kimi K3를 바로 도입해야 하나요?

    바로 도입보다 내부 평가가 먼저입니다. 보안, 비용, 성능, 규제, 대체 가능성을 함께 검토해야 합니다.

    Kimi K3가 반도체 기업에는 악재인가요?

    단기적으로는 투자 심리를 흔들 수 있습니다. 그러나 장기적으로는 오픈 모델 확산이 추론 인프라와 메모리 수요를 넓힐 가능성도 있습니다.

    결론: Kimi K3가 보여준 것은 AI 경쟁의 새 규칙이다

    Kimi K3의 의미는 한 문장으로 정리할 수 있습니다. “최상위 AI는 더 이상 폐쇄형 미국 모델만의 영역이 아닐 수 있다”는 신호입니다.

    그러나 이 신호를 과장해서도 안 됩니다. 벤치마크는 출발점일 뿐이고, 증류 논란은 아직 확정된 사실이 아니며, 오픈소스라는 표현도 세밀하게 봐야 합니다.

    Kimi K3가 만든 진짜 변화는 선택지의 증가입니다. 기업과 개인은 이제 모델 이름이 아니라 평가 체계, 데이터 거버넌스, 비용 구조, 대체 가능성을 기준으로 AI를 선택해야 합니다. AI 돌풍을 기회로 바꾸는 쪽은 새 모델 소식을 가장 빨리 따라가는 사람이 아니라, 그 모델을 안전하게 비교하고 조합할 수 있는 사람입니다.

    참고자료

  • OpenHuman AI 에이전트란? 로컬 기억을 가진 오픈소스 AI 비서의 가능성과 한계

    OpenHuman AI 에이전트가 주목받는 이유는 단순히 “또 하나의 챗봇”이 아니기 때문입니다. 이 프로젝트는 대화창 하나보다 더 큰 그림을 겨냥합니다. 개인의 파일, 메모, 앱, 웹 리서치, 자동화 흐름을 하나의 AI 작업 환경으로 묶으려 합니다.

    Read in English: What Is the OpenHuman AI Agent? The Promise and Limits of an Open-Source AI Assistant with Local Memory

    공식 GitHub 저장소의 설명을 빌리면 OpenHuman은 “로컬 우선 기억을 만드는 두뇌, 에이전트 함대를 운영하는 오케스트레이터, 깊이 있는 리서처”를 지향합니다. 표현은 다소 크지만, 방향은 분명합니다. AI가 매번 새로 묻는 비서가 아니라, 사용자의 세계를 계속 기억하고 움직이는 작업 시스템이 되겠다는 것입니다.

    OpenHuman은 어떤 프로젝트인가

    OpenHuman은 tinyhumansai/openhuman 저장소에서 공개된 오픈소스 AI 에이전트 플랫폼입니다. 공식 저장소 기준으로 주 언어는 Rust이며, 라이선스는 GPL-3.0입니다. 2026년 7월 기준 최신 릴리스는 v0.61.8이고, README에는 Early Beta 상태라고 명시되어 있습니다.

    핵심은 세 가지입니다.

    1. 개인 데이터를 로컬 중심으로 기억하는 구조
    2. 여러 에이전트와 워크플로를 운영하는 오케스트레이션 구조
    3. 웹, 파일, 브라우저, 음성, 리서치 도구를 묶은 실행 환경

    그래서 OpenHuman은 ChatGPT나 Claude 같은 모델 자체라기보다, 여러 모델과 도구를 실제 업무 흐름에 연결하는 “에이전트 하네스”에 가깝습니다.

    첫 번째 차이: 로컬 우선 메모리

    OpenHuman이 가장 강하게 내세우는 지점은 기억입니다. README는 Memory Tree와 Obsidian Wiki를 함께 언급합니다. 사용자의 데이터를 SQLite와 Markdown 트리로 정리하고, 사람이 열어볼 수 있는 Obsidian 볼트와 연결한다는 설명입니다.

    이 접근은 중요합니다. 많은 AI 도구가 “기억합니다”라고 말하지만, 사용자는 그 기억이 어디에 저장되는지, 어떤 기준으로 검색되는지, 잘못된 기억을 어떻게 고치는지 알기 어렵습니다. OpenHuman은 적어도 방향성 면에서 블랙박스형 기억보다 편집 가능한 지식 구조를 지향합니다.

    물론 실제 품질은 따로 확인해야 합니다. 메모리 구조가 좋아 보여도, 자동 수집된 정보가 중복되거나 오래된 내용으로 쌓이면 오히려 방해가 될 수 있습니다. 개인 지식 시스템은 “많이 저장”보다 “잘 정리하고 쉽게 고치는 것”이 더 중요합니다.

    두 번째 차이: 에이전트 오케스트레이션

    OpenHuman은 단일 비서보다 에이전트 오케스트레이션을 강조합니다. 워크플로를 만들고, 트리거 기반으로 실행하고, 승인 게이트를 둔 자동화를 지향합니다. README에서는 tinyflows, tinyagents 같은 하위 오픈소스 구성요소도 언급합니다.

    이 방향은 요즘 AI 에이전트 흐름과 잘 맞습니다. 업무 자동화는 더 이상 “프롬프트를 잘 쓰는 법”만으로 끝나지 않습니다. 어떤 작업을 언제 실행할지, 실패하면 어떻게 재시도할지, 사용자의 승인이 필요한 지점은 어디인지가 더 중요해졌습니다.

    OpenHuman이 흥미로운 이유도 여기에 있습니다. 개인 AI 비서가 실제 업무에 들어오려면 대화 능력보다 실행 구조가 필요합니다. 일정 확인, 회의 요약, 파일 조사, 리서치, 코드 작업, 보고서 초안 작성이 하나의 흐름으로 이어져야 합니다.

    세 번째 차이: 리서치와 실행 도구의 결합

    OpenHuman은 웹 검색, 스크래핑, 브라우저, 코딩 도구, 음성, 미팅 에이전트 같은 기능을 소개합니다. 공식 문서 표현으로는 SuperContext라는 개념도 있습니다. 사용자가 질문을 끝내기 전에 로컬 기억과 파일, 웹을 먼저 훑어 맥락을 확보한다는 방향입니다.

    이 구조가 제대로 작동하면 장점은 큽니다. AI가 “무엇을 알고 있는지”부터 다시 설명하지 않아도 됩니다. 업무 맥락, 파일 위치, 최근 대화, 관련 문서를 먼저 보고 답할 수 있습니다.

    다만 이런 도구형 에이전트는 권한 설계가 핵심입니다. Gmail, Slack, Notion, GitHub 같은 계정을 연결하면 편리하지만, 동시에 민감한 정보 접근 권한도 커집니다. 자동 실행 기능이 있는 도구라면 더 조심해야 합니다. 어떤 데이터가 로컬에 남고, 어떤 요청이 외부 모델 API로 전송되는지 확인해야 합니다.

    OpenHuman을 써볼 만한 사람

    OpenHuman은 모든 사람에게 필요한 도구는 아닙니다. 오히려 다음 조건에 가까울수록 관심을 가져볼 만합니다.

    • Obsidian, Markdown, 로컬 파일 기반 지식관리를 이미 쓰고 있다.
    • AI 비서를 단순 질의응답보다 업무 자동화에 연결하고 싶다.
    • Gmail, Notion, GitHub, Slack 등 여러 도구의 맥락을 한곳에서 다루고 싶다.
    • AI 에이전트 워크플로, MCP, Skills 같은 확장 구조에 관심이 있다.
    • 베타 도구의 불안정성을 감수하고 테스트할 수 있다.

    반대로 “설치해서 바로 안정적으로 쓰는 업무용 도구”를 기대한다면 조금 기다리는 편이 낫습니다. 공식 저장소도 Early Beta라고 밝히고 있습니다. 데이터 접근 권한이 큰 도구일수록 베타 단계에서는 작은 테스트부터 시작해야 합니다.

    설치할 때 확인할 점

    공식 INSTALL 문서는 운영체제별 네이티브 설치를 우선 권장합니다. macOS는 Homebrew tap, Ubuntu/Debian은 GitHub Releases의 .deb, Windows는 MSI 설치 파일을 사용할 수 있습니다.

    주의할 점도 있습니다. 설치 스크립트 방식은 편하지만, 공식 문서에서도 별도 서명 검증이 제한적이라고 설명합니다. 그래서 가능하면 운영체제의 표준 설치 방식이나 릴리스 파일을 사용하는 편이 안전합니다.

    또 하나는 Linux 환경입니다. INSTALL 문서는 AppImage가 Wayland나 일부 시스템 라이브러리 문제로 충돌할 수 있다고 안내합니다. Debian/Ubuntu라면 .deb 설치가 더 안정적인 선택일 수 있습니다.

    OpenHuman을 평가할 때 볼 기준

    OpenHuman 같은 에이전트 플랫폼은 기능 목록만 보고 판단하면 안 됩니다. 실제 평가 기준은 조금 다릅니다.

    1. 기억이 편집 가능한가

    AI가 무엇을 기억하는지 사용자가 볼 수 있어야 합니다. 틀린 기억을 고칠 수 있어야 하고, 오래된 맥락을 지울 수 있어야 합니다.

    2. 자동화에 승인 지점이 있는가

    좋은 에이전트는 모든 것을 마음대로 실행하지 않습니다. 메일 발송, 파일 수정, 외부 게시, 결제 같은 작업에는 명확한 승인 단계가 필요합니다.

    3. 실패했을 때 원인을 남기는가

    에이전트는 반드시 실패합니다. 중요한 것은 실패하지 않는 척하는 것이 아니라, 어디서 막혔고 어떤 로그나 재시도 경로가 있는지 보여주는 것입니다.

    4. 외부 모델로 나가는 데이터가 명확한가

    로컬 우선이라는 표현만으로는 충분하지 않습니다. 어떤 데이터가 로컬에 있고, 어떤 데이터가 외부 API로 전송되는지 확인해야 합니다.

    5. 내 기존 워크플로와 충돌하지 않는가

    AI 도구는 업무 방식을 바꿉니다. 좋은 변화일 수도 있지만, 기존 파일 구조와 협업 방식에 혼선을 줄 수도 있습니다. 먼저 작은 프로젝트에서 시험하는 것이 좋습니다.

    Hermes Agent와 비교해 보면

    OpenHuman은 개인 데스크톱 AI 운영체제에 가까운 인상을 줍니다. 로컬 기억, Obsidian 위키, 다양한 앱 연동, 백그라운드 루프를 전면에 내세웁니다.

    반면 Hermes Agent는 작업 실행, 도구 호출, 스킬, 크론, 워크스페이스 기반 자동화에 강점이 있습니다. 사용자가 이미 정해둔 프로젝트 폴더와 절차 안에서 조사, 작성, 업로드, 검증까지 이어가는 방식에 가깝습니다.

    두 도구는 경쟁 관계라기보다 관점이 다릅니다. OpenHuman은 “개인 AI 환경 전체”를 만들려는 쪽이고, Hermes는 “도구를 실제 작업으로 끝까지 실행하는 에이전트 런타임”에 가깝습니다. AI 에이전트 시대에는 이런 차이가 더 중요해질 것입니다. 모델보다 하네스와 기억 구조가 실제 생산성을 가르기 때문입니다.

    결론: 기대할 만하지만, 작은 테스트부터

    OpenHuman은 AI 에이전트가 어디로 가고 있는지 보여주는 흥미로운 프로젝트입니다. 대화형 챗봇을 넘어 로컬 기억, 워크플로, 리서치, 실행 도구를 하나로 묶으려는 시도입니다.

    하지만 아직 Early Beta입니다. 개인 데이터와 업무 도구를 연결하기 전에는 권한, 저장 위치, 외부 전송 범위, 실패 로그, 자동 실행 범위를 확인해야 합니다. 처음부터 메인 업무를 맡기기보다, 별도 테스트 계정과 작은 폴더에서 시작하는 편이 안전합니다.

    결국 질문은 “OpenHuman이 좋은가?”가 아닙니다. 더 정확한 질문은 이것입니다. 내 지식과 업무 흐름을 AI가 계속 기억하고 실행하게 만들 준비가 되어 있는가. OpenHuman은 그 질문을 꽤 선명하게 던지는 도구입니다.

    함께 읽기

    FAQ

    OpenHuman은 ChatGPT 같은 AI 모델인가요?

    아닙니다. OpenHuman은 특정 모델이라기보다 여러 모델, 도구, 메모리, 워크플로를 연결하는 AI 에이전트 플랫폼에 가깝습니다.

    OpenHuman은 무료인가요?

    공식 GitHub 저장소는 GPL-3.0 라이선스의 오픈소스 프로젝트입니다. 다만 실제 사용 과정에서 외부 모델 API, 연동 서비스, 구독 기능이 필요할 수 있으므로 비용 구조는 설치 후 별도로 확인해야 합니다.

    OpenHuman의 가장 큰 장점은 무엇인가요?

    로컬 우선 메모리와 에이전트 오케스트레이션을 함께 지향한다는 점입니다. 단순 대화형 AI가 아니라 사용자의 파일, 앱, 목표, 자동화 흐름을 연결하려는 구조입니다.

    지금 업무에 바로 써도 될까요?

    공식 저장소가 Early Beta라고 밝히고 있으므로, 핵심 업무에 바로 적용하기보다는 테스트 계정과 제한된 데이터로 먼저 검증하는 것이 좋습니다.

    설치할 때 가장 조심할 점은 무엇인가요?

    계정 연동 권한과 설치 방식입니다. 가능하면 공식 릴리스의 네이티브 패키지를 사용하고, Gmail·Slack·GitHub 같은 민감한 계정은 최소 권한으로 연결해야 합니다.

    참고자료

  • Hermes Agent 데스크톱 앱: AI 에이전트 대중화의 다음 인터페이스

    Hermes Agent 데스크톱 앱: AI 에이전트 대중화의 다음 인터페이스

    AI 에이전트가 대중화되려면 모델 성능만 좋아져서는 부족합니다. 사람이 매일 쓰는 방식으로 다가와야 합니다. Alex Finn의 영상은 Hermes Agent 데스크톱 앱을 보여주면서 이 지점을 분명하게 드러냅니다.

    영상의 표현은 다소 과감합니다. CLI, Telegram, OpenClaw보다 Hermes 데스크톱 앱이 더 낫다고 말합니다. 하지만 블로그 관점에서 중요한 질문은 승패가 아닙니다. AI 에이전트가 챗봇을 넘어 실제 업무 도구가 되려면 어떤 인터페이스가 필요한가입니다.

    왜 데스크톱 앱이 중요한가

    AI 에이전트는 그냥 답변을 생성하는 도구가 아닙니다. 파일을 읽고, 명령을 실행하고, 이미지를 만들고, 예약 작업을 돌리고, 여러 세션의 맥락을 이어갑니다. 이런 도구를 명령줄이나 메신저 명령만으로 다루면 초보자에게는 진입 장벽이 큽니다.

    Hermes Agent 데스크톱 앱이 의미 있는 이유는 이 복잡한 구조를 눈에 보이는 작업 공간으로 바꾸기 때문입니다. 사용자는 세션, 아티팩트, 스킬, 툴셋, 크론잡, 프로필을 한곳에서 확인할 수 있습니다. 이는 AI 에이전트를 개발자 장난감에서 일상 업무 도구로 옮기는 핵심 변화입니다.

    Hermes Agent 데스크톱 앱의 첫 화면과 기존 CLI 한계 설명
    Hermes Agent 데스크톱 앱의 첫 화면. 영상은 CLI 중심 사용 경험의 한계를 지적하며 데스크톱 UI의 필요성을 강조한다.

    Read in English: This article is also available in English for global readers.

    세션은 AI 에이전트의 업무 폴더가 된다

    영상 초반에서 진행자는 주제별 세션을 만드는 방식을 보입니다. 콘텐츠, 개발, 개인 프로젝트처럼 맥락이 다른 일을 각각의 세션으로 나누는 방식입니다. 이는 단순 채팅방 정리가 아니라 AI 에이전트에게 일을 맡기는 단위를 나누는 일에 가깝습니다.

    AI 에이전트는 맥락이 길수록 더 유용해집니다. 하지만 맥락이 섞이면 오히려 혼란이 생깁니다. 그래서 세션을 주제별로 나누고 중요한 세션을 고정하는 기능은 작아 보여도 더 봐야 합니다. 사람에게 프로젝트 폴더가 필요하듯, 에이전트에게도 맥락 폴더가 해야 합니다.

    세션을 주제별로 나누고 맥락을 관리하는 화면
    세션을 주제별로 나누는 화면. AI 에이전트 사용에서 맥락 분리는 생산성과 정확도를 좌우한다.

    아티팩트는 채팅 기록을 작업 자산으로 바꾼다

    영상에서 특히 흥미로운 부분은 아티팩트입니다. 링크, 파일, 이미지, 에이전트가 만든 결과물을 한곳에서 다시 찾을 수 있습니다. 진행자는 이를 북마크나 작업 자료 보관소처럼 활용할 수 있다고 설명합니다.

    이 기능은 AI 에이전트 경험의 방향을 잘 보입니다. 챗봇은 대화를 남깁니다. 에이전트는 산출물을 남겨야 합니다. 나중에 다시 찾고, 이어서 쓰고, 다른 세션에서 재사용할 수 있어야 합니다.

    아티팩트와 링크를 한곳에서 관리하는 화면
    아티팩트 화면. 링크와 파일, 이미지, 생성 결과물이 흩어지지 않고 작업 자산으로 쌓인다.

    스킬과 툴셋은 에이전트의 능력을 관리하는 패널이다

    Hermes Agent의 중요한 특징 중 하나는 스킬입니다. 반복 작업이나 특정 환경에서 배운 절차를 스킬로 저장해 다음 작업에 재사용합니다. 영상에서도 진행자는 자신이 Godot 게임을 만들며 생성된 커스텀 스킬을 확인하는 장면을 보입니다.

    툴셋도 더 봐야 합니다. 웹 검색, 터미널, 파일, 이미지 생성, 크론 같은 도구 묶음을 켜고 끄는 방식은 에이전트의 권한과 능력을 조절하는 일입니다. 데스크톱 UI는 이 설정을 명령어가 아니라 관리 화면으로 바꿉니다.

    크론잡은 AI 에이전트를 수동 비서에서 자동 운영자로 바꾼다

    영상 중반에서는 크론잡 관리 화면이 등장합니다. 매일 밤 앱을 만들게 하거나, 정해진 시간에 작업을 실행하게 하는 식의 예약 작업을 시각적으로 확인할 수 있습니다.

    크론잡은 AI 에이전트가 단발성 대답 도구에서 자동 운영 도구로 넘어가는 지점입니다. 한 가지 조심할 점은 예약 작업은 실패 여부, 실행 로그, 권한 범위가 함께 보여야 신뢰할 수 있습니다. 데스크톱 앱은 이 확인 과정을 더 쉽게 만들 수 있습니다.

    크론잡을 시각적으로 확인하고 예약하는 화면
    크론잡 관리 화면. 예약 작업은 AI 에이전트를 반복 업무 자동화 도구로 바꾸는 핵심 기능이다.

    여러 프로필은 역할별 AI 직원을 만드는 방식이다

    영상 후반에서 진행자는 여러 Hermes Agent를 서로 다른 장비와 역할에 나눠 운영한다고 말합니다. 어떤 에이전트는 특정 장비에서 살고, 어떤 에이전트는 다른 책임을 맡습니다. 데스크톱 앱은 이런 에이전트 프로필을 더 쉽게 관리하게 해줍니다.

    이 구조는 앞으로 중요한 의미를 가집니다. 한 명의 범용 챗봇보다, 역할과 권한이 다른 여러 AI 에이전트를 운영하는 방식이 늘어날 수 있습니다. 콘텐츠 에이전트, 개발 에이전트, 리서치 에이전트, 모니터링 에이전트가 서로 다른 스킬과 도구를 갖는 식입니다.

    실제 사용 예시는 산출물 중심 경험을 보여준다

    마지막 예시에서 진행자는 이 영상에 대한 스크립트와 썸네일을 생성해 달라고 요청합니다. 데스크톱 앱은 사용 중인 스킬과 도구를 보여주고, 결과물은 아티팩트에서 확인됩니다.

    이 장면은 AI 에이전트 UI의 핵심을 압축합니다. 사용자는 명령어를 외우지 않아도 됩니다. 에이전트가 어떤 도구를 쓰는지 볼 수 있습니다. 결과물은 파일이나 이미지로 남습니다. 이 세 가지가 합쳐져야 AI 에이전트는 실제 업무 흐름에 들어옵니다.

    스크립트와 썸네일을 생성하는 실제 사용 예시
    영상 스크립트와 썸네일을 생성하는 예시. 에이전트의 도구 사용 과정과 결과물이 함께 보인다.

    Hermes Agent 데스크톱 앱이 던지는 질문

    이 영상이 보여주는 먼저 볼 부분은 “Hermes가 이겼다”가 아닙니다. 더 중요한 질문은 AI 에이전트의 주 사용 인터페이스가 어디가 될 것인가입니다. CLI는 강력하지만 대중적이지 않습니다. 메신저는 편하지만 복잡한 설정과 검증에는 약합니다. 데스크톱 앱은 그 중간에서 작업 관리와 접근성을 동시에 제공합니다.

    물론 주의할 점도 있습니다. AI 에이전트는 파일, 브라우저, 터미널, 외부 API에 접근할 수 있습니다. 그래서 UI가 쉬워질수록 권한 관리와 로그 확인은 더 더 봐야 합니다. 좋은 데스크톱 앱은 버튼을 많이 제공하는 앱이 아니라, 무엇을 허용했고 무엇이 실행됐는지 사용자가 이해하게 해주는 앱이어야 합니다.

    함께 읽으면 좋은 글

    결론: AI 에이전트의 승부처는 모델 다음의 사용 경험이다

    Hermes Agent 데스크톱 앱은 AI 에이전트의 다음 과제를 잘 보입니다. 이제 문제는 “에이전트가 무엇을 할 수 있는가”만이 아닙니다. 사용자가 그 능력을 어떻게 이해하고, 관리하고, 반복해서 쓸 수 있는가입니다.

    세션은 맥락을 나눕니다. 아티팩트는 산출물을 보관합니다. 스킬은 경험을 축적합니다. 크론잡은 반복 작업을 자동화합니다. 프로필은 역할별 에이전트를 만듭니다. 이 요소들이 데스크톱 UI 안에서 연결될 때, AI 에이전트는 개발자용 실험 도구에서 실제 업무 운영체제에 가까워집니다.

    FAQ

    Hermes Agent 데스크톱 앱은 무엇을 쉽게 만들어 주나?

    세션, 아티팩트, 스킬, 툴셋, 크론잡, 프로필 관리를 시각적으로 확인하고 조작하게 해줍니다. CLI 명령을 몰라도 에이전트 운영 구조를 이해하기 쉬워집니다.

    CLI보다 데스크톱 앱이 항상 좋은가?

    항상 그렇지는 않습니다. 개발자나 자동화 고급 사용자는 CLI가 더 빠를 수 있습니다. 한 가지 조심할 점은 초보자와 비개발자에게는 데스크톱 UI가 진입 장벽을 낮춥니다.

    아티팩트 기능은 왜 중요한가?

    AI 에이전트가 만든 링크, 이미지, 파일, 결과물을 다시 찾고 재사용할 수 있게 해줍니다. 이는 단순 채팅 기록을 실제 작업 자산으로 바꾸는 기능입니다.

    크론잡은 어떤 업무에 쓸 수 있나?

    정기 리포트, 사이트 모니터링, 자료 수집, 블로그 성과 확인, 반복 개발 작업 같은 예약형 업무에 쓸 수 있습니다. 한 가지 조심할 점은 실패 로그와 권한 범위 확인이 더 봐야 합니다.

    AI 에이전트 데스크톱 앱을 쓸 때 주의할 점은 무엇인가?

    파일·터미널·브라우저·외부 API 접근 권한을 과하게 열지 않아야 합니다. 어떤 도구가 활성화되어 있고 어떤 작업이 실행됐는지 로그와 승인 흐름을 체크해 두세요.

    참고자료

    이미지 출처: 본문에 사용된 캡쳐 이미지는 원본 YouTube 영상에서 리뷰·해설·교육 목적의 인용 이미지로 사용했습니다. 이미지 저작권은 원저작권자와 해당 채널에 있습니다.

  • 사티아 나델라의 다음 승부수: 마이크로소프트는 온디바이스 AI 생태계를 어떻게 바꾸려 하나

    사티아 나델라의 다음 승부수: 마이크로소프트는 온디바이스 AI 생태계를 어떻게 바꾸려 하나

    마이크로소프트의 사티아 나델라를 볼 때, 흔히 떠올리는 키워드는 클라우드와 OpenAI입니다. 하지만 지금 더 눈여겨볼 변화는 PC 쪽에서 일어나고 있습니다. 마이크로소프트는 AI를 거대한 서버에서만 돌리는 서비스가 아니라, 사용자의 노트북과 앱 안에서 즉시 실행되는 기본 기능으로 만들려 합니다.

    이 관점에서 Copilot+ PC, NPU, Windows AI Foundry, Foundry Local, Phi 계열 소형 모델은 서로 따로 움직이는 제품이 아닙니다. 나델라식 플랫폼 전략이 클라우드에서 PC로 내려오는 흐름입니다. 핵심 질문은 하나입니다. 마이크로소프트는 온디바이스 AI 생태계를 어떻게 바꾸려 하는가입니다.

    도시 야경이 보이는 사무실 책상 위 노트북에 추상적인 AI 연결망이 표시된 모습
    온디바이스 AI 전략의 먼저 볼 부분은 PC에 기능을 추가하는 것이 아니라 Windows를 AI 앱의 실행 플랫폼으로 다시 세우는 데 있다.

    사티아 나델라를 이해하는 먼저 볼 부분은 제품보다 플랫폼이다

    나델라는 2014년 마이크로소프트 CEO가 된 뒤 회사를 Windows 패키지 중심 기업에서 Azure, Microsoft 365, GitHub, Teams, Copilot을 잇는 플랫폼 기업으로 바꿨습니다. Microsoft 2024 Annual Report의 주주 서한에서도 그는 AI를 새로운 플랫폼 전환으로 설명합니다. 이는 그냥 챗봇 하나를 더 붙이는 문제가 아닙니다.

    나델라의 방식은 반복적입니다. 먼저 개발자와 기업이 모이는 기반을 만들고, 그 위에 도구와 배포 경로를 얹습니다. Azure가 클라우드 개발의 기반이었다면, 온디바이스 AI 시대의 기반은 Windows PC, NPU, 로컬 모델 런타임, 앱 생태계가 됩니다.

    그래서 마이크로소프트의 온디바이스 AI 전략은 “PC에도 AI 기능을 넣는다” 정도로 보면 부족합니다. 더 정확히는 Windows를 AI 앱의 실행 환경으로 다시 정의하려는 시도입니다.

    노트북 내부 회로와 AI 가속 칩을 가까이에서 보여주는 실사 이미지
    Copilot+ PC의 먼저 볼 부분은 Copilot 버튼보다 로컬 AI를 빠르고 전력 효율적으로 처리하는 NPU 기준선이다.

    Copilot+ PC는 AI 기능이 아니라 새 기준선을 만든다

    Copilot+ PC에서 중요한 단어는 Copilot보다 NPU입니다. Microsoft Learn의 Copilot+ PC 개발자 가이드는 Copilot+ PC를 고성능 NPU를 갖춘 새로운 Windows 11 하드웨어로 설명합니다. 이 NPU는 실시간 번역, 이미지 생성 같은 AI 작업을 위해 설계된 칩이며, 40 TOPS 이상의 성능을 기준으로 보입니다.

    이 기준은 PC 시장에 중요한 메시지를 줍니다. 앞으로 좋은 노트북은 CPU와 GPU만 빠른 기계가 아니라, AI 작업을 배터리 소모와 지연을 줄이면서 처리할 수 있는 기계여야 한다는 뜻입니다.

    마이크로소프트 입장에서는 더 큰 효과가 있습니다. Windows 앱 개발자가 “사용자 기기에 AI 가속기가 있다”고 가정할 수 있는 순간, 로컬 요약, 이미지 보정, 문서 검색, 개인화 추천, 실시간 보조 기능이 앱 기본 기능으로 내려옵니다.

    개발자들이 노트북으로 협업하고 뒤편 유리에 추상적인 AI 파이프라인이 보이는 회의실 장면
    Windows AI Foundry와 Foundry Local은 로컬 모델을 앱에 넣는 개발자 생태계를 묶는 장치다.

    Windows AI Foundry는 개발자 생태계를 묶는 장치다

    온디바이스 AI가 확산되려면 하드웨어만으로는 부족합니다. 개발자가 모델을 가져오고, 압축하고, 실행하고, 여러 장치에서 성능을 맞출 수 있어야 합니다. 여기서 Windows AI Foundry와 Foundry Local이 등장합니다.

    Microsoft Learn은 Windows의 로컬 AI 개발 흐름에서 DirectML, ONNX Runtime, Windows ML, Foundry Local을 함께 설명합니다. 특히 DirectML과 ONNX Runtime은 GPU나 NPU를 활용해 모델 성능을 끌어올리는 경로입니다. Foundry Local은 기기 안에서 AI 애플리케이션과 에이전트를 설계하고 관리하는 문서 체계로 제시됩니다.

    이 조합은 마이크로소프트가 원하는 생태계를 보입니다. 개발자는 클라우드 모델만 호출하는 앱이 아니라, 로컬 모델과 클라우드 모델을 섞어 쓰는 앱을 만들게 됩니다. 사용자는 더 빠른 응답과 개인정보 보호 이점을 얻습니다. 마이크로소프트는 Windows를 다시 개발자 플랫폼의 중심에 놓습니다.

    노트북 화면의 추상 회로망과 창밖 도시 인프라가 함께 보이는 사무실 장면
    Phi 같은 소형 모델은 로컬 처리와 클라우드 추론을 나누어 쓰는 하이브리드 AI 구조를 현실적으로 만든다.

    Phi 소형 모델은 클라우드 독점 구조를 흔든다

    온디바이스 AI에서 소형 언어 모델은 결정적입니다. 거대한 모델을 모두 노트북에서 돌릴 수는 없습니다. 대신 특정 작업을 잘 수행하는 작은 모델이 해야 합니다. Microsoft의 Phi-3 발표는 이 방향을 잘 보입니다.

    Phi-3는 소형 언어 모델의 품질과 비용 효율을 강조합니다. Microsoft는 Phi-3가 Azure AI뿐 아니라 Ollama로 로컬 노트북에서도 실행될 수 있고, ONNX Runtime과 Windows DirectML 지원을 통해 GPU, CPU, 모바일 하드웨어까지 폭넓게 활용할 수 있다고 설명합니다.

    이 전략은 클라우드 AI를 버리자는 뜻이 아닙니다. 오히려 작업을 나누자는 뜻에 가깝습니다. 민감하거나 반복적인 작업은 로컬에서 처리합니다. 복잡한 추론이나 대규모 지식 검색은 클라우드 모델을 씁니다. 이렇게 되면 AI 비용, 지연 시간, 개인정보, 배터리 사용량을 동시에 조정할 수 있습니다.

    노트북 옆에 자물쇠와 보안키가 놓여 있는 사무실 책상 장면
    Recall 논쟁은 로컬 처리만으로 신뢰가 생기지 않으며 동의, 삭제, 정책 제어가 함께 필요하다는 점을 보여준다.

    Recall 논쟁은 온디바이스 AI의 신뢰 문제를 드러냈다

    마이크로소프트의 방향이 항상 순조로운 것은 아닙니다. Recall은 좋은 사례입니다. Recall은 사용자의 화면 활동을 기기에서 분석해 과거 작업을 찾게 해주는 Copilot+ PC 기능입니다. 하지만 화면 스냅샷과 민감 정보 처리 문제로 큰 개인정보 논쟁을 불러왔습니다.

    Microsoft Learn의 Recall 문서는 Copilot+ PC, Windows 업데이트, 정책 설정, 사용자 동의와 제어를 전제로 설명합니다. 이 논점은 온디바이스 AI의 본질을 보입니다. 데이터를 클라우드로 보내지 않는다고 해서 자동으로 신뢰가 생기지는 않습니다. 사용자가 무엇이 저장되는지 알고, 끄고, 삭제하고, 통제할 수 있어야 합니다.

    그래서 온디바이스 AI 생태계의 승부는 성능만으로 결정되지 않습니다. 로컬 처리, 암호화, 접근 권한, 투명한 UI, 기업 정책 제어가 함께 설계되어야 합니다. 나델라의 마이크로소프트가 이 문제를 풀지 못하면, AI PC는 편리한 플랫폼이 아니라 감시 논란의 플랫폼이 될 수 있습니다.

    마이크로소프트가 바꾸려는 생태계의 구조

    마이크로소프트의 전략은 네 개 층으로 볼 수 있습니다.

    층위마이크로소프트의 역할생태계 변화
    하드웨어Copilot+ PC, NPU 기준 확산AI 성능이 PC 구매 기준이 됨
    런타임Windows ML, ONNX Runtime, DirectML앱이 로컬 모델을 더 쉽게 실행
    모델Phi 같은 소형 모델과 Azure 모델로컬·클라우드 하이브리드 AI 확산
    경험Copilot, Recall, 앱 내 AI 기능AI가 별도 서비스가 아니라 OS 경험이 됨

    이 표에서 가장 중요한 변화는 마지막 줄입니다. AI가 브라우저에서 접속하는 서비스로만 남지 않고, 운영체제와 앱의 기본 경험으로 들어갑니다. 사용자는 별도의 챗봇 창을 열지 않아도 문서, 사진, 회의, 검색, 코딩 도구 안에서 AI를 쓰게 됩니다.

    애플·구글과 다른 마이크로소프트의 강점

    애플은 기기와 운영체제를 강하게 통합합니다. 구글은 Android와 검색, Gemini 생태계를 갖고 있습니다. 마이크로소프트의 강점은 기업 업무 환경과 개발자 생태계입니다. Windows, Microsoft 365, Azure, GitHub, Visual Studio, Teams가 이미 업무 흐름 속에 들어가 있습니다.

    그래서 마이크로소프트가 온디바이스 AI에서 노리는 시장은 단순한 개인 비서가 아닙니다. 기업 문서, 보안 정책, 회의, 개발, 고객 응대, 현장 업무까지 이어지는 생산성 플랫폼입니다. 이 지점에서 나델라의 전략은 명확합니다. 클라우드 AI와 PC AI를 경쟁시키는 것이 아니라, 하나의 Microsoft 생태계 안에서 연결하려 합니다.

    사용자는 무엇을 준비해야 할까

    온디바이스 AI 생태계가 본격화되면 사용자와 기업은 PC를 고르는 기준부터 바꿔야 합니다. CPU, RAM, 저장장치만 볼 것이 아니라 NPU 성능, 로컬 모델 지원, 메모리 용량, 보안 정책, 배터리 효율을 함께 봐야 합니다.

    기업은 더 신중해야 합니다. 로컬 AI는 개인정보 보호에 유리할 수 있지만, 화면 캡처, 파일 접근, 앱 권한, 로그 저장 방식이 불투명하면 오히려 위험해질 수 있습니다. AI PC 도입은 장비 교체 사업이 아니라 데이터 거버넌스와 업무 설계의 문제입니다.

    개인 사용자에게는 새로운 기회도 있습니다. 로컬 LLM과 소형 모델이 좋아질수록 인터넷 연결 없이도 글쓰기, 요약, 검색, 코딩 보조, 지식 관리가 가능해집니다. 이미 로컬 LLM 실사용과 AI 에이전트 학습법은 별도 글에서도 다룬 바 있습니다.

    함께 읽으면 좋은 글

    결론: 나델라의 목표는 AI PC가 아니라 Windows의 재플랫폼화다

    사티아 나델라가 온디바이스 AI에서 노리는 것은 그냥 Copilot 버튼이 달린 PC를 많이 파는 일이 아닙니다. 더 큰 목표는 Windows를 AI 앱과 에이전트가 실행되는 기본 플랫폼으로 다시 세우는 것입니다.

    이 변화가 성공하면 PC는 다시 중요한 AI 플랫폼이 됩니다. 클라우드 모델은 더 강력한 두뇌가 되고, 로컬 모델은 빠르고 개인적인 손발이 됩니다. 실패하면 AI PC는 마케팅 용어로 끝날 수 있습니다. 관전 포인트는 명확합니다. 마이크로소프트가 성능, 개발자 도구, 개인정보 신뢰를 동시에 설계할 수 있는가입니다.

    FAQ

    사티아 나델라는 왜 온디바이스 AI에 집중할까?

    AI가 클라우드 서비스에만 머물면 Windows와 PC의 전략적 가치가 약해집니다. 반대로 AI가 PC와 앱 안에서 실행되면 Windows는 다시 핵심 플랫폼이 됩니다.

    Copilot+ PC의 먼저 볼 부분은 무엇인가?

    먼저 볼 부분은 NPU입니다. 40 TOPS 이상급 AI 가속 성능을 기준으로 로컬 AI 기능을 더 빠르고 전력 효율적으로 실행하려는 하드웨어 기준입니다.

    Windows AI Foundry와 Foundry Local은 왜 중요한가?

    개발자가 로컬 모델을 앱에 넣고, ONNX Runtime·DirectML·Windows ML 같은 실행 경로를 활용하게 해줍니다. 즉 온디바이스 AI 앱 생태계를 만드는 개발자 도구입니다.

    온디바이스 AI는 클라우드 AI를 대체하나?

    아닙니다. 민감하고 반복적인 작업은 로컬에서 처리하고, 복잡한 추론과 대규모 지식 처리는 클라우드가 맡는 하이브리드 구조가 유력합니다.

    Recall 논쟁이 주는 교훈은 무엇인가?

    로컬 처리만으로 신뢰가 생기지는 않는다는 점입니다. 사용자의 명확한 동의, 저장 범위 제어, 삭제 권한, 기업 정책 관리가 함께 있어야 합니다.

    참고자료

  • M5 Pro Max 128GB 로컬 LLM 실사용: OMLX와 Hermes Agent가 보여준 가능성

    M5 Pro Max 128GB 로컬 LLM 실사용: OMLX와 Hermes Agent가 보여준 가능성

    로컬 LLM은 이제 “재미로 돌려보는 장난감”을 넘어 실제 업무 도구가 될 수 있을까요. 배움의 달인 영상은 M5 Pro Max 128GB 환경에서 OMLX 서버, Claude Code, Hermes Agent를 연결해 이 질문을 직접 테스트합니다.

    먼저 볼 부분은 단순합니다. 로컬 LLM이 모든 클라우드 모델을 대체한다는 이야기가 아닙니다. 반복 작업, 빠른 초안, 일부 코딩 보조, 개인 지식 기반 검색처럼 비용·속도·프라이버시가 중요한 영역부터 로컬로 옮길 수 있는지가 관건입니다.

    로컬 LLM 실사용 - 로컬 LLM 오케스트레이터와 모델 구성 화면
    영상은 여러 로컬 모델을 오케스트레이터에 연결해 실제 작업 흐름을 구성하는 장면에서 출발합니다. 출처: 배움의 달인 YouTube 영상 캡처.

    Read in English: This article is also available in English for global readers.

    영상이 던진 핵심 질문: 로컬 LLM은 실무에 쓸 수 있나

    이 영상의 검색 의도는 “M5 Pro Max에서 로컬 LLM이 빠른가?”에만 머물지 않습니다. 더 중요한 질문은 세 가지입니다.

    • 로컬 모델을 Claude Code 같은 개발 도구와 연결할 수 있는가
    • OMLX 같은 서버가 체감 속도를 얼마나 끌어올리는가
    • Hermes Agent처럼 도구를 호출하는 에이전트에도 로컬 LLM을 붙일 수 있는가

    영상에서는 Qwen 계열 모델, NVIDIA Nemotron Nano 계열 모델, 임베딩 모델 등을 소개하며 로컬 환경을 하나의 작업 시스템처럼 구성합니다. 여기서 로컬 LLM은 단일 챗봇이 아니라 여러 도구와 연결되는 백엔드 모델에 가깝습니다.

    Thinknote의 세컨드 브레인과 LLM Wiki 글에서 다룬 것처럼, 앞으로의 AI 활용은 모델 성능만이 아니라 “어떤 맥락을 어떤 도구와 연결하느냐”가 더 더 봐야 합니다.

    OMLX가 중요한 이유: 모델보다 서버 체감이 먼저 보인다

    영상에서 가장 눈에 띄는 장면은 OMLX 대시보드입니다. 진행자는 OMLX를 통해 초당 117토큰 수준의 생성 속도를 확인했다고 설명합니다. 수치 자체보다 먼저 볼 부분은 로컬 LLM의 병목이 모델 파일 하나가 아니라 추론 서버, 캐싱, 배치 처리, 하드웨어 메모리 구성의 합으로 결정된다는 점입니다.

    로컬 LLM 실사용 - OMLX 대시보드에서 토큰 생성 속도를 확인하는 장면
    OMLX 대시보드에서 토큰 생성 속도와 모델 상태를 확인하는 장면입니다. 출처: 배움의 달인 YouTube 영상 캡처.

    OMLX GitHub README는 이 도구를 Apple Silicon에 최적화된 LLM inference 서버로 설명합니다. 핵심 표현은 continuous batching과 tiered KV caching입니다. 쉽게 말하면 여러 요청을 효율적으로 처리하고, 반복되는 문맥 계산 비용을 줄여 체감 속도를 높이는 구조입니다.

    로컬 LLM 실사용 - OMLX 서버 대시보드와 모델 운영 화면
    OMLX는 로컬 모델을 단순 실행하는 도구가 아니라, 대시보드로 모델 상태와 처리량을 확인하는 운영 환경에 가깝습니다. 출처: 배움의 달인 YouTube 영상 캡처.

    이 지점은 SGLang 로컬 LLM 서빙 엔진 글과도 이어집니다. 로컬 LLM을 제대로 쓰려면 모델 선택만큼이나 서빙 엔진, 컨텍스트 관리, 캐싱 전략이 더 봐야 합니다.

    Claude Code와 로컬 모델: 빠르지만 검증은 별도다

    영상 중반부에서는 omlx launch claude 흐름으로 Claude Code를 로컬 모델에 연결합니다. 이후 텍스트 작성과 테트리스 게임 생성 작업을 비교합니다. 진행자는 일부 작업에서 로컬 LLM이 더 빠르게 완료되는 모습을 보여주지만, 동시에 결과 품질은 별도로 확인해야 한다는 전제를 남깁니다.

    로컬 LLM 실사용 - OMLX로 Claude Code를 로컬 모델에 연결해 결과를 생성하는 장면
    Claude Code를 로컬 모델에 연결해 실제 산출물을 생성하는 장면입니다. 속도 비교와 품질 검증은 분리해서 봐야 합니다. 출처: 배움의 달인 YouTube 영상 캡처.

    이 대목에서 중요한 판단 기준은 “빠른가”보다 “어떤 작업을 맡겨도 되는가”입니다. 예를 들어 다음 작업은 로컬 모델에 먼저 맡겨볼 수 있습니다.

    작업 유형로컬 LLM 적합도확인해야 할 점
    초안 작성높음사실관계와 문체 검수 필요
    반복 코드 생성중간~높음테스트 실행과 보안 검토 필요
    개인 문서 요약높음민감정보 외부 전송을 줄일 수 있음
    최신 정보 검색중간검색 도구 연결과 출처 확인 필요
    복잡한 설계 판단중간클라우드 상위 모델과 교차 검토 권장

    AI 코딩 흐름은 Headroom 토큰 다이어트 글과도 연결됩니다. 비용을 줄이는 방법은 모델을 로컬로 돌리는 것만이 아닙니다. 에이전트가 읽는 로그, 파일, 검색 결과를 줄이고 검증 루프를 설계하는 것도 같은 문제의 다른 해법입니다.

    Hermes Agent와 로컬 LLM: 에이전트 운영의 다음 실험

    후반부에서 특히 흥미로운 부분은 Hermes Agent 연결입니다. 영상은 omlx launch hermes 흐름과 X Search 스킬 실행을 드러납니다. 로컬 모델이 단순 문장 생성기를 넘어 검색, 도구 호출, 요약, 산출물 생성을 담당하는 에이전트 런타임에 붙을 수 있음을 보여주는 장면입니다.

    로컬 LLM 실사용 - Hermes Agent에서 X Search 스킬로 로컬 LLM 검색을 실행하는 장면
    Hermes Agent에서 X Search 스킬을 호출해 최신 AI 소식을 검색하고 요약하는 장면입니다. 출처: 배움의 달인 YouTube 영상 캡처.

    Hermes Agent는 터미널, 메시징 플랫폼, IDE에서 실행되는 오픈소스 AI 에이전트 프레임워크입니다. 도구 호출, 스킬, 메모리, 크론잡, 멀티 플랫폼 게이트웨이를 통해 작업을 실행합니다. 로컬 LLM을 여기에 연결할 수 있다면 다음과 같은 장점이 생깁니다.

    • 개인 문서나 내부 로그를 외부 API로 덜 보내도 된다
    • 반복적인 요약·분류·초안 작업의 토큰 비용을 낮출 수 있다
    • 클라우드 모델 장애나 비용 제한이 있을 때 보조 경로가 생긴다
    • 에이전트 실험을 더 많이 돌려볼 수 있다

    주의할 점은 로컬 모델이 도구를 호출한다고 해서 곧바로 “믿고 맡길 수 있는 직원”이 되는 것은 아닙니다. AI 에이전트 시대의 개인 비서 글에서 다룬 것처럼, 실행형 AI일수록 권한, 검증, 로그, 되돌리기 설계가 더 봐야 합니다.

    도입 전 체크리스트: 로컬 LLM은 이렇게 판단하자

    로컬 LLM 도입 여부는 성능 수치 하나로 결정하면 위험합니다. 영상의 M5 Pro Max 128GB 환경은 강력한 상한선 사례에 가깝습니다. 일반적인 노트북이나 메모리가 작은 Mac에서는 같은 체감이 나오지 않을 수 있습니다.

    도입 전에는 아래 순서로 판단하는 편이 좋습니다.

    1. 먼저 반복 업무를 고른다. 초안, 요약, 태깅, 코드 스캐폴딩처럼 실패 비용이 낮은 작업부터 시작한다.
    2. 같은 프롬프트를 클라우드 모델과 로컬 모델에 넣고 속도·품질·비용을 비교한다.
    3. 로컬 모델 산출물은 테스트, 링크 확인, 사실 검증을 자동화한다.
    4. 민감정보가 있는 작업과 외부 검색이 필요한 작업을 분리한다.
    5. 최종 판단이나 고위험 실행은 클라우드 상위 모델 또는 사람 검토를 남긴다.

    이런 접근은 AI 네이티브 전환법 글에서 말한 “디지털 두뇌와 실행 에이전트의 분리”와도 맞닿아 있습니다. 로컬 LLM은 두뇌 전체를 대체하기보다, 자주 쓰는 일부 사고·실행 루프를 가까운 곳으로 가져오는 도구입니다.

    결론: 로컬 LLM의 승부처는 대체가 아니라 배치다

    이번 영상의 의미는 “로컬 LLM이 Claude나 GPT를 완전히 이겼다”가 아닙니다. 더 현실적인 결론은 로컬 LLM을 어디에 배치할지 정하는 단계가 왔다는 것입니다.

    고사양 Mac과 OMLX 같은 서버가 있다면 로컬 LLM은 초안, 요약, 코드 생성, 개인 지식 검색, 에이전트 실험에서 충분히 실무적 선택지가 될 수 있습니다. 반대로 최신 정보 판단, 복잡한 추론, 높은 신뢰도가 필요한 업무는 여전히 클라우드 모델과 병행하는 편이 안전합니다.

    결국 앞으로의 AI 업무 환경은 하나의 모델을 고르는 문제가 아닙니다. 로컬 모델, 클라우드 모델, 에이전트, 검색 도구, 지식 베이스를 어떤 기준으로 나눠 배치하느냐가 생산성을 가를 가능성이 높습니다.

    FAQ

    로컬 LLM이 Claude나 ChatGPT를 대체할 수 있나요?

    일부 반복 업무에서는 대체하거나 보조할 수 있습니다. 하지만 복잡한 판단, 최신 정보 검증, 고위험 코드 변경은 클라우드 상위 모델이나 사람 검토와 병행하는 것이 안전합니다.

    OMLX는 무엇인가요?

    OMLX는 Apple Silicon에 최적화된 LLM inference 서버입니다. GitHub README 기준으로 continuous batching과 tiered KV caching을 강조하. macOS 메뉴바와 대시보드를 통해 로컬 모델 운영을 쉽게 하는 방향의 도구입니다.

    M5 Pro Max 128GB가 아니어도 비슷한 결과가 나오나요?

    같은 수준의 속도를 보장하기는 어렵습니다. 영상 결과는 고사양 Mac과 큰 메모리 환경의 영향을 크게 받습니다. 자신의 장비에서는 작은 모델과 반복 작업부터 테스트하는 편이 좋습니다.

    Hermes Agent에 로컬 LLM을 연결하면 무엇이 좋아지나요?

    검색, 파일 처리, 요약, 자동화 작업을 로컬 모델로 실험할 수 있습니다. 비용과 프라이버시 측면에서 장점이 있지만, 도구 실행 권한과 결과 검증 체계는 반드시 따로 설계해야 합니다.

    로컬 LLM을 처음 도입한다면 어디서 시작해야 하나요?

    개인 문서 요약, 회의록 정리, 코드 초안, 간단한 분류 작업처럼 실패 비용이 낮은 작업부터 시작하는 것이 좋습니다. 이후 클라우드 모델 결과와 비교해 품질 기준을 정하면 됩니다.

    참고자료

    이미지 출처: 본문에 사용된 캡쳐 이미지는 원본 YouTube 영상에서 리뷰·해설·교육 목적의 인용 이미지로 사용했습니다. 이미지 저작권은 원저작권자와 해당 채널에 있습니다.

  • AI 에이전트를 학습시키는 법: Hermes Agent로 AI 네이티브 조직 만들기

    AI 에이전트를 학습시키는 법: Hermes Agent로 AI 네이티브 조직 만들기

    AI 에이전트를 잘 쓰는 조직은 그냥 좋은 모델을 고르는 데서 끝나지 않습니다. 더 중요한 질문은 “에이전트가 무엇을 배워야 하고, 어디에 기억해야 하며, 어떤 기준으로 일해야 하는가”입니다.

    김효율의 AI 개발단 영상은 이 질문을 Hermes Agent 운영 사례로 보입니다. 개발, 디자인, 콘텐츠, 강의 보조 역할을 나눈 여러 에이전트를 만들고, Telegram으로 원격 지시하. Obsidian Wiki로 맥락을 공유하는 방식입니다.

    AI 에이전트 학습법 - 텔레그램으로 Hermes Agent를 원격 실행하는 도입 장면
    텔레그램으로 Hermes Agent를 원격 실행하는 도입 장면

    Read in English: This article is also available in English for global readers.

    영상의 먼저 볼 부분은 설치법이 아니라 운영법이다

    영상 제목은 AI 에이전트를 “학습시키는 방법”을 강조합니다. 실제 내용도 설치 명령어보다 운영 구조에 가깝습니다. Hermes Agent를 Telegram에 연결하고, Codex나 Claude Code 같은 도구와 조합해 여러 에이전트를 역할별로 나누는 흐름이 중심입니다.

    Hermes Agent 공식 설명에서도 Hermes는 터미널, 메시징 플랫폼, IDE에서 실행되는 오픈소스 AI 에이전트 프레임워크입니다. 또한 스킬, 메모리, 프로필, 게이트웨이, 크론, MCP, 여러 모델 제공자 연결을 지원합니다. 영상의 사례는 이 기능들을 개인 업무 시스템으로 엮은 예시로 볼 수 있습니다.

    여기서 중요한 점은 “AI 직원을 많이 만든다”가 아닙니다. 각 에이전트가 맡을 역할, 참고할 지식, 반복할 학습 루프, 보고 방식이 있어야 합니다. 그렇지 않으면 대화창만 늘어나고 실제 생산성은 올라가지 않습니다.

    AI 에이전트를 직원처럼 나누는 이유

    영상에서는 개발, UI 디자인, 테스트, 콘텐츠, 강의 보조 같은 역할을 가진 에이전트들이 소개됩니다. 이는 사람 조직의 직무 분장과 비슷합니다. 한 에이전트에게 모든 일을 맡기면 맥락이 섞이고, 지시도 길어지며, 결과 검증이 어려워집니다.

    AI 에이전트 학습법 - 역할별 AI 에이전트를 관리하는 command center 화면
    역할별 AI 에이전트를 관리하는 command center 화면

    역할을 나누면 세 가지 장점이 생깁니다.

    1. 지시가 짧아집니다. 개발 에이전트에게는 코드와 테스트를, 디자인 에이전트에게는 레이아웃과 레퍼런스를 중심으로 말하면 됩니다.
    2. 기준이 선명해집니다. 각 에이전트의 규칙 파일이나 스킬 문서에 해야 할 일과 하지 말아야 할 일을 분리해 둘 수 있습니다.
    3. 검증이 쉬워집니다. 만든 사람과 검토하는 사람, 즉 생성 에이전트와 리뷰 에이전트를 나눌 수 있습니다.

    이 방식은 AI 도구를 하나로 묶는 Agent OS 구축법과도 연결됩니다. AI 활용의 본질은 개별 챗봇 사용이 아니라, 작업 흐름과 지식 흐름을 설계하는 데 있습니다.

    실제 산출물이 나오려면 감독자의 역할이 필요하다

    영상에서 흥미로운 부분은 “에이전트 다섯 명이 사이트를 만들었다”는 사례입니다. 쇼츠 영상을 수집하고 보여주는 사이트를 여러 역할의 에이전트가 협업해 만들었다고 설명합니다.

    AI 에이전트 학습법 - 여러 에이전트가 만든 실제 산출물을 보여주는 장면
    여러 에이전트가 만든 실제 산출물을 보여주는 장면

    한 가지 조심할 점은 이 장면에서 놓치면 안 되는 부분이 있습니다. 영상 속 화자도 자신이 손을 놓고 있던 것은 아니라고 말합니다. 사람은 기획을 주고, 방향을 감독하고, 결과를 확인합니다.

    그래서 AI 에이전트 도입의 현실적인 구조는 다음에 가깝습니다.

    • 사람: 목표, 우선순위, 기준, 최종 판단을 맡는다.
    • 에이전트: 조사, 초안, 코드 작성, 반복 수정, 정리 작업을 맡는다.
    • 시스템: 기억, 파일, 버전, 일정, 알림, 검증 루프를 맡는다.

    이 균형이 없으면 AI 에이전트는 빠르게 많은 결과물을 만들지만, 그 결과가 조직의 기준과 맞는지는 알기 어렵습니다. 그래서 하네스 엔지니어링이 온다에서 말한 것처럼, 에이전트를 “잘 움직이게 묶는 기술”이 점점 더 봐야 합니다.

    학습 루프의 먼저 볼 부분은 메모리를 무작정 늘리는 것이 아니다

    영상의 가장 중요한 메시지는 Obsidian Wiki를 활용한 맥락 공유입니다. 매일 밤 리서치와 학습을 시키더라도 모든 내용을 에이전트 메모리에 밀어 넣으면 오히려 성능이 나빠질 수 있다는 문제의식이 나옵니다.

    AI 에이전트 학습법 - Obsidian 위키로 맥락을 공유하는 설명 장면
    Obsidian 위키로 맥락을 공유하는 설명 장면

    좋은 방식은 장기 기억과 작업 기억을 나누는 것입니다. 에이전트가 모든 내용을 항상 들고 있는 것이 아니라, 필요할 때 위키에서 관련 정보를 찾아오게 만드는 구조입니다.

    실무적으로는 다음 구조가 안전합니다.

    구성 요소역할주의점
    규칙 문서에이전트의 행동 기준너무 길면 실행 기준이 흐려짐
    위키/노트장기 지식 저장소출처와 날짜를 남겨야 함
    크론잡반복 학습·저장 자동화결과 검증 없이 누적하면 위험함
    리뷰 에이전트오류와 누락 검토최종 책임은 사람에게 남겨야 함
    작업 로그무엇을 했는지 추적비밀정보가 섞이지 않게 관리 필요

    이 관점은 세컨드 브레인과 LLM Wiki의 주제와도 맞닿아 있습니다. AI 시대의 지식 시스템은 사람이 보기 위한 노트인 동시에, 에이전트가 검색하고 참조할 수 있는 운영 인프라가 됩니다.

    Telegram 원격 실행은 ‘언제든 일시키기’가 아니라 운영 채널이다

    영상에서는 Hermes Agent를 Telegram에 연결해 사용한다고 설명합니다. Slack을 쓸 수도 있지만, 1인 기업이라 가벼운 Telegram을 선택했다는 맥락입니다.

    이 부분은 단순 편의 기능 이상입니다. 메시징 플랫폼은 AI 에이전트의 업무 접수 창구가 됩니다. 이동 중에도 일을 맡기고, 완료 알림을 받고, 파일이나 결과물을 전달받을 수 있습니다.

    한 가지 조심할 점은 원격 실행은 강력한 만큼 운영 원칙이 해야 합니다.

    • 위험한 명령은 승인 절차를 둡니다.
    • 에이전트별 권한과 작업 범위를 나눕니다.
    • 민감한 파일과 인증정보는 작업 지시에서 제외합니다.
    • 자동 실행 작업은 로그와 결과 검토를 남깁니다.
    • 실패했을 때 되돌릴 수 있는 체크포인트를 둡니다.

    Hermes Agent의 게이트웨이, 프로필, 크론 기능은 이런 운영 체계를 만들 때 유용합니다. 하지만 도구가 있다고 해서 곧바로 안전한 자동화가 되는 것은 아닙니다.

    AI 네이티브 조직은 대시보드보다 운영 규칙이 먼저다

    영상 후반부에는 AI 네이티브 조직을 위한 운영 대시보드 구상이 나옵니다. 업무 현황, 일정, 메신저, 에이전트 상태, 예약 작업, 스킬과 플러그인, 토큰 사용량을 한눈에 보는 구조입니다.

    AI 에이전트 학습법 - AI 네이티브 조직 운영 대시보드를 설명하는 장면
    AI 네이티브 조직 운영 대시보드를 설명하는 장면

    이 구상은 매우 실용적입니다. 한 가지 조심할 점은 대시보드보다 먼저 정해야 할 것이 있습니다. 무엇을 자동화할지, 어떤 기준으로 성공을 판단할지, 어떤 지점에서 사람이 개입할지입니다.

    AI 에이전트 운영을 시작하려는 팀이라면 다음 순서가 좋습니다.

    1. 반복되는 업무 3개를 고릅니다.
    2. 각 업무의 입력, 출력, 검증 기준을 문서화합니다.
    3. 한 명의 에이전트에게 하나의 역할만 맡깁니다.
    4. 결과물을 사람이 검토하고 규칙을 보강합니다.
    5. 안정화된 뒤 크론잡이나 메시징 채널로 자동화합니다.

    처음부터 “AI 직원 10명”을 만드는 것보다, 한 명의 에이전트가 한 가지 일을 꾸준히 잘하게 만드는 편이 더 빠릅니다.

    도입 전 체크리스트

    Hermes Agent나 유사한 AI 에이전트 시스템을 도입하기 전에는 아래 질문을 먼저 체크해 두세요.

    • 이 에이전트가 맡을 반복 업무가 분명한가?
    • 결과물을 검토할 사람이나 리뷰 에이전트가 있는가?
    • 장기 지식을 저장할 위키나 문서 저장소가 있는가?
    • 비밀정보와 권한을 어디까지 허용할지 정했는가?
    • 실패했을 때 되돌릴 수 있는 로그와 백업이 있는가?
    • 비용, 토큰 사용량, 실행 시간을 추적할 수 있는가?

    이 질문에 답하지 못한 상태에서 에이전트 수만 늘리면, 자동화가 아니라 혼선이 늘어날 가능성이 높습니다.

    함께 읽으면 좋은 글

    결론: AI 에이전트는 학습보다 운영 설계가 먼저다

    이 영상이 던지는 핵심 질문은 “AI 에이전트를 얼마나 많이 만들 수 있는가”가 아닙니다. “에이전트가 조직의 지식과 기준을 어떻게 배우고, 어떻게 협업하며, 어떻게 검증받는가”입니다.

    Hermes Agent는 이 실험에 좋은 운영 기반을 제공합니다. 메시징 플랫폼에서 실행하고, 프로필을 나누고, 스킬과 메모리를 쌓고, 크론잡으로 반복 작업을 돌릴 수 있기 때문입니다.

    하지만 최종 성과는 도구보다 설계에서 갈립니다. 역할을 작게 나누고, 지식 저장소를 만들고, 검증 루프를 붙이고, 사람의 판단 지점을 남겨야 합니다. 그때 AI 에이전트는 단순 자동응답기가 아니라, 함께 일하는 운영 시스템에 가까워집니다.

    FAQ

    Hermes Agent를 설치하면 바로 AI 직원처럼 쓸 수 있나요?

    아닙니다. 설치는 시작일 뿐입니다. 역할, 규칙, 참고 지식, 검증 기준을 정해야 실제 업무에 쓸 수 있습니다.

    AI 에이전트 학습은 모델을 파인튜닝한다는 뜻인가요?

    이 글에서 말하는 학습은 파인튜닝보다 운영 학습에 가깝습니다. 규칙 문서, 스킬, 위키, 작업 로그를 통해 에이전트가 반복 업무의 맥락을 더 잘 참조하게 만드는 방식입니다.

    Obsidian Wiki가 꼭 필요할까요?

    꼭 Obsidian일 필요는 없습니다. 한 가지 조심할 점은 에이전트가 검색하고 참조할 수 있는 장기 지식 저장소는 해야 합니다. Notion, Markdown Wiki, Git 저장소, LLM Wiki 등으로 대체할 수 있습니다.

    Telegram 연결은 안전한가요?

    연결 자체보다 권한 설계가 더 봐야 합니다. 위험한 명령 승인, 민감정보 분리, 로그 확인, 권한 제한을 함께 설계해야 합니다.

    처음 도입할 때 몇 개의 에이전트부터 시작하는 것이 좋을까요?

    처음에는 한두 개가 적절합니다. 반복 업무 하나와 검증 업무 하나로 시작한 뒤, 안정화된 역할만 늘리는 편이 좋습니다.

    참고자료

    이미지 출처: 본문에 사용된 캡쳐 이미지는 원본 YouTube 영상에서 리뷰·해설·교육 목적의 인용 이미지로 사용했습니다. 이미지 저작권은 원저작권자와 해당 채널에 있습니다.

  • 넷플릭스 개발자의 토큰 다이어트: Headroom이 보여준 AI 비용 절감법

    넷플릭스 개발자의 토큰 다이어트: Headroom이 보여준 AI 비용 절감법

    AI 에이전트를 쓰기 시작하면 가장 먼저 놀라는 것이 답변 품질이 아닐 수 있습니다. 더 현실적인 충격은 사용량과 비용입니다. 코딩 에이전트가 로그, 파일, 검색 결과, 대화 기록을 계속 읽으면 토큰은 빠르게 불어납니다.

    최근 The Register는 넷플릭스 시니어 엔지니어 Tejas Chopra가 만든 오픈소스 프로젝트 Headroom을 소개했습니다. 기사에 따르면 이 프로젝트는 Netflix의 공식 프로젝트는 아니지만, 여러 팀과 외부 프로젝트에서 사용되고 있습니다. 먼저 볼 부분은 간단합니다. LLM에 보내기 전에 불필요한 컨텍스트를 줄여 “토큰 다이어트”를 하자는 것입니다.

    Headroom은 무엇인가

    Headroom 토큰 다이어트가 AI 에이전트의 입력 데이터를 압축해 토큰 비용을 줄이는 과정을 보여주는 일러스트
    AI 에이전트가 읽는 파일·로그·검색 결과를 그대로 보내면 토큰 비용은 빠르게 커집니다.

    Headroom은 AI 에이전트가 LLM에 보내는 입력을 압축하는 컨텍스트 압축 계층입니다. GitHub 저장소 설명에 따르면 tool output, 로그, 파일, RAG chunk를 LLM에 도달하기 전에 줄이는 도구입니다.

    Headroom은 하나의 프롬프트 압축 팁이 아닙니다. 라이브러리, 프록시, MCP 서버, 에이전트 wrapper 형태로 쓸 수 있는 개발자 도구에 가깝습니다. Claude Code, Codex, Cursor, Aider 같은 코딩 에이전트 앞단에 붙여 토큰 낭비를 줄이는 방식입니다.

    중요한 점은 “모든 글자를 무조건 압축한다”가 아닙니다. Headroom은 입력의 종류를 보고 다른 압축 방식을 적용합니다. JSON은 JSON에 맞게, 코드는 코드 구조에 맞게, 일반 텍스트는 텍스트에 맞게 줄이는 식입니다.

    왜 AI 에이전트 시대에 토큰 비용이 커지는가

    챗봇을 쓸 때는 사용자가 질문을 입력하고 답을 받습니다. 하지만 AI 에이전트는 다릅니다. 에이전트는 파일을 읽고, 검색하고, 로그를 확인하고, 도구를 호출하고, 그 결과를 다시 LLM에 넣습니다.

    문제는 이 과정에서 중복이 많이 생긴다는 점입니다. 같은 에러 로그가 여러 번 들어가고, 필요 없는 파일 내용이 함께 들어가며, RAG 검색 결과가 너무 넓게 붙습니다. 사람에게는 잡음처럼 보이는 정보도 토큰으로는 모두 비용이 됩니다.

    The Register 기사에 따르면 Chopra는 Claude Sonnet 사용 중 $287 청구서를 보고 토큰 절감 문제에 관심을 갖게 됐습니다. 이후 많은 입력이 실제 추론에 꼭 필요한 정보가 아니라 반복·보일러플레이트·중복 데이터라는 점을 확인했다고 설명했습니다.

    Headroom의 핵심 구조

    Headroom 토큰 다이어트의 파일 로그 코드 검색 결과 압축 파이프라인을 설명하는 구조도 일러스트
    Headroom의 먼저 볼 부분은 모델 호출 전에 입력 컨텍스트를 분리하고 압축해 필요한 정보만 남기는 것입니다.

    Headroom README는 구조를 CacheAligner, ContentRouter, CCR, SmartCrusher, CodeCompressor, Kompress-base 같은 구성으로 설명합니다. 이름은 복잡하지만 흐름은 실무적으로 이해할 수 있습니다.

    첫째, ContentRouter는 입력의 종류를 구분합니다. 코드, JSON, 로그, 일반 텍스트를 같은 방식으로 줄이면 오류가 납니다. 그래서 먼저 내용의 성격을 판단합니다.

    둘째, CodeCompressor와 SmartCrusher는 코드와 JSON처럼 구조가 중요한 데이터를 조심스럽게 줄입니다. 코드에서 식별자나 문법을 망가뜨리면 절감보다 손실이 커집니다.

    셋째, CCR은 원본을 로컬에 보관하고 필요할 때 다시 가져오게 하는 방식입니다. 압축본만 보내되, 모델이 원문이 필요하다고 판단하면 retrieval 도구로 원본을 조회할 수 있게 합니다.

    넷째, CacheAligner는 provider의 캐시가 깨지지 않도록 입력 prefix를 안정화하는 역할을 합니다. 단순 압축은 캐시 적중률을 낮춰 오히려 비용을 늘릴 수 있습니다. 이 지점이 Headroom이 단순 프롬프트 요약 도구와 다른 부분입니다.

    숫자는 어떻게 봐야 할까

    Headroom README는 실제 agent workload에서 60~95% fewer tokens를 내세웁니다. 예시로 code search, SRE incident debugging, GitHub issue triage, codebase exploration 같은 작업에서 큰 절감률을 보입니다.

    주의할 점은 이 숫자는 그대로 모든 조직에 적용되는 보장값으로 보면 안 됩니다. 어떤 작업은 로그와 검색 결과가 많아 절감 여지가 큽니다. 반대로 짧은 질문이나 이미 잘 정리된 입력은 줄일 토큰이 많지 않습니다.

    그래서 실무 판단 기준은 “얼마나 줄어든다고 홍보하는가”가 아닙니다. 우리 조직의 실제 agent workflow에서 입력 토큰, 출력 토큰, 지연 시간, 캐시 적중률, 실패율을 함께 측정해야 합니다.

    토큰 다이어트가 필요한 팀의 신호

    Headroom 같은 도구를 바로 도입해야 하는 팀은 몇 가지 신호가 있습니다.

    1. 코딩 에이전트가 큰 저장소를 반복해서 읽습니다.
    2. 로그와 테스트 결과가 매 요청마다 길게 붙습니다.
    3. RAG 검색 결과가 과도하게 많이 들어갑니다.
    4. 같은 시스템 프롬프트와 정책 문서가 계속 반복됩니다.
    5. 사용량 한도나 월 비용 때문에 AI 도구 활용이 멈춥니다.

    이런 상황에서는 모델을 바꾸기 전에 컨텍스트 구조부터 봐야 합니다. 비싼 모델이 문제가 아니라, 비싼 모델에 불필요한 입력을 계속 보내는 구조가 문제일 수 있습니다.

    조직이 배워야 할 5가지 교훈

    첫째, AI 비용 최적화는 재무팀의 일이 아니라 엔지니어링 문제입니다. 비용은 토큰 구조, 도구 호출, 캐시 설계, RAG 품질에서 결정됩니다.

    둘째, 프롬프트 압축은 마지막 단계입니다. 먼저 검색 결과를 줄이고, 중복을 제거하고, 필요한 파일만 읽게 해야 합니다. 원천에서 줄이지 못한 낭비를 문장 압축만으로 해결하기는 어렵습니다.

    셋째, 압축은 품질 검증과 함께 가야 합니다. 토큰이 줄어도 답이 틀리면 실패입니다. Headroom이 benchmark와 재현 명령을 함께 제시하는 이유도 여기에 있습니다.

    넷째, 캐시를 깨지 않는 설계가 더 봐야 합니다. 공급자의 prompt cache는 입력이 조금만 바뀌어도 효과가 떨어질 수 있습니다. 절감 도구가 캐시를 망가뜨리면 총비용은 오히려 늘어납니다.

    다섯째, 원본 보존이 해야 합니다. AI가 압축된 정보만 보고 판단하면 중요한 맥락을 놓칠 수 있습니다. 필요할 때 원문을 다시 조회할 수 있는 구조가 안전합니다.

    도입 전 체크리스트

    Headroom 토큰 다이어트 도입 전 비용 품질 보안 데이터 흐름을 점검하는 회의 장면 일러스트
    토큰 절감 도구를 도입할 때는 비용뿐 아니라 품질, 보안, 데이터 흐름까지 함께 점검해야 합니다.

    Headroom이나 유사 도구를 검토한다면 다음 항목부터 체크해 두세요.

    1. 현재 agent 작업별 입력 토큰과 출력 토큰을 측정하고 있는가?
    2. RAG 검색 결과의 topK와 중복 제거 기준이 있는가?
    3. 로그·파일·테스트 결과를 통째로 넣고 있지는 않은가?
    4. 압축 전후 정답률과 작업 성공률을 비교할 수 있는가?
    5. 코드, JSON, 보안 정책, URL, 식별자를 안전하게 보호하는가?
    6. 캐시 적중률이 압축 후에도 유지되는가?
    7. 실패 시 압축을 끄고 재실행하는 fallback이 있는가?

    함께 읽으면 좋은 글

    결론: AI 비용은 사용량 문제가 아니라 설계 문제다

    Headroom이 주는 시사점은 “토큰을 아껴 쓰자” 정도가 아닙니다. AI 에이전트가 조직의 일하는 방식 안으로 들어오면, 컨텍스트를 어떻게 수집하고 줄이고 보존하고 재사용할지가 핵심 역량이 됩니다.

    앞으로 좋은 AI 시스템은 모델만 좋은 시스템이 아닙니다. 필요한 정보만 보내고, 중복을 줄이며, 캐시를 활용하고, 실패 시 원본으로 돌아갈 수 있는 시스템입니다. 토큰 다이어트는 비용 절감 기술이면서 동시에 AI 운영 설계의 출발점입니다.

    FAQ

    Headroom은 Netflix 공식 프로젝트인가요?

    The Register 보도에 따르면 Headroom은 Netflix 공식 프로젝트가 아닙니다. 넷플릭스 시니어 엔지니어 Tejas Chopra가 만든 오픈소스 프로젝트이며, 여러 팀과 외부 프로젝트에서 사용되는 것으로 소개됐습니다.

    Headroom은 프롬프트를 요약하는 도구인가요?

    단순 요약 도구로 보기에는 좁습니다. Headroom은 로그, 파일, RAG 결과, tool output, 대화 기록을 LLM 호출 전에 줄이는 컨텍스트 압축 계층입니다. 라이브러리, 프록시, MCP 서버, 에이전트 wrapper 형태로 사용할 수 있습니다.

    토큰을 줄이면 답변 품질이 떨어지지 않나요?

    수 있습니다. 그래서 압축 전후의 작업 성공률, 정답률, 지연 시간, 캐시 적중률을 함께 봐야 합니다. 코드나 JSON처럼 구조가 중요한 데이터는 무리하게 압축하면 위험합니다.

    어떤 조직에 먼저 필요할까요?

    코딩 에이전트, RAG, 대규모 로그 분석, SRE incident 대응, 대형 코드베이스 탐색을 자주 하는 조직에 먼저 해야 합니다. 짧은 질의응답 위주의 팀이라면 효과가 제한적일 수 있습니다.

    참고자료

  • 소형 언어 모델과 오픈소스 AI, 승자독식 구조를 깰 수 있을까

    소형 언어 모델과 오픈소스 AI, 승자독식 구조를 깰 수 있을까

    AI 경쟁을 이야기할 때 가장 먼저 떠오르는 단어는 GPU, 초거대 모델, 빅테크입니다. 하지만 스탠포드대 최예진 교수는 조금 다른 질문을 던집니다. “더 크게 만드는 것”만으로 충분한가, 그리고 AI는 정말 더 많은 사람과 조직이 만들고 통제할 수 있는 기술이 되고 있는가라는 질문입니다.

    PLUS TV 인터뷰에서 최예진 교수는 대형 언어 모델 중심의 승자독식 구도, 소형 언어 모델의 가능성, 한국의 피지컬 AI 전략. 그리고 AI 시대 개인에게 필요한 역량을 폭넓게 설명했습니다. 이 글은 영상을 단순 요약하기보다, 한국 기업과 개인이 실제로 가져가야 할 판단 기준으로 묶어 봤습니다.

    최예진 교수를 소개하는 PLUS TV 인터뷰 장면
    최예진 교수를 소개하는 PLUS TV 인터뷰 장면

    출처 영상

    AI 업계는 하이프에서 현실 점검으로 이동했다

    최예진 교수는 지난 1년 사이 AI 업계의 분위기가 바뀌었다고 말합니다. 이전에는 “AI가 곧 모든 것을 바꿀 것”이라는 기대가 컸습니다. 지금은 산업 현장에서 실제 이익이 얼마나 빠르게 확산되는지, 현재 AI가 무엇을 잘 못하는지, 어떤 방식으로 부족한 부분을 보완해야 하는지에 대한 대화가 많아졌습니다.

    먼저 볼 부분은 학습 방식입니다. 지금의 생성형 AI는 방대한 데이터를 수동적으로 읽고 패턴을 익히는 방식에 많이 의존합니다. 최 교수는 이를 “문제집을 많이 풀어 성적을 올리는 학생”에 비유합니다. 문제집을 많이 푼다고 창의력이 반드시 좋아지는 것은 아닙니다.

    사람은 모르는 것을 다시 묻고, 이해가 안 되는 부분을 되짚고, 자기 방식으로 공부합니다. 반면 현재 AI는 주어진 문장과 문서를 그대로 받아들이는 경우가 많습니다. 앞으로의 중요한 연구 방향은 AI가 더 능동적으로 배우고 추론하도록 만드는 데 있습니다.

    왜 ‘남들이 안 하는 선택’이 중요했나

    최예진 교수의 커리어에서 흥미로운 지점은 안정적인 길보다 어려운 길을 선택했다는 점입니다. 그는 마이크로소프트에서 소프트웨어 개발자로 일하다가 AI 연구로 방향을 바꿨습니다. 당시 AI는 지금처럼 각광받는 분야가 아니었습니다. 오히려 “AI의 겨울” 이후 전망이 불확실한 비주류 분야에 가까웠습니다.

    그럼에도 그는 어렵고 도전적인 분야에 먼저 뛰어드는 것이 장기적으로 의미 있다고 판단했습니다. 특히 자연어 처리 분야에서도 문법 분석보다 ‘상식’과 ‘맥락’을 이해하는 문제에 집중했습니다. 당시에는 상식 연구가 낮게 평가받기도 했지만, 언어를 진짜로 이해하려면 문법만으로는 부족합니다.

    문장이 맞아도 맥락을 모르면 의미를 놓칩니다. 사람은 말을 생략하고, 암시하고, 당연한 배경지식을 전제로 대화합니다. AI가 인간 언어를 제대로 이해하려면 이런 상식과 맥락을 다룰 수 있어야 합니다.

    대형 모델 경쟁만으로는 부족하다

    스케일링 법칙과 대형 모델 중심 경쟁을 설명하는 인터뷰 장면
    스케일링 법칙과 대형 모델 중심 경쟁을 설명하는 인터뷰 장면

    최 교수는 스케일링 자체를 부정하지 않습니다. 모델을 크게 만들고 데이터를 많이 넣으면 성능이 좋아지는 것은 사실입니다. 문제는 모두가 같은 방향으로만 달릴 때 생깁니다. 초대형 모델 경쟁은 막대한 자본과 GPU를 가진 기업과 국가에 유리합니다.

    그렇다면 자본이 상대적으로 작은 국가는 영원히 뒤처질까요? 최 교수는 그렇지 않다고 봅니다. 알고리즘, 데이터 품질, 학습 방식의 개선으로 더 작고 효율적인 모델을 만들 수 있기 때문입니다.

    그 근거로 그는 인간의 두뇌를 듭니다. 인간의 뇌는 LED 전구 하나보다 적은 전력을 쓰면서도 복합적 사고를 하고, 적은 데이터로도 많은 것을 배웁니다. 자연이 이미 효율적인 지능 시스템을 보여주고 있다면, AI 연구도 언젠가는 더 작은 자원으로 강력한 성능을 내는 방향을 찾을 수 있습니다.

    한국 AI 전략의 먼저 볼 부분은 GPU만이 아니다

    한국이 AI 경쟁에서 살아남기 위해 GPU를 확보하는 일은 더 봐야 합니다. 하지만 그것만으로는 충분하지 않습니다. 최예진 교수는 한국이 미국·중국과 같은 자본 규모로만 경쟁하기 어렵다면, 인재와 아이디어, 협력 문화에서 승부해야 한다고 말합니다.

    특히 인재 육성은 장기 전략으로 볼 수 있습니다. 중국 AI 생태계가 빠르게 성장한 배경에는 미국에서 공부하고 돌아간 연구자들이 수년간 학생을 길러낸 구조가 있습니다. 단기간의 장비 투자도 필요하지만, 더 멀리 보면 훌륭한 연구자와 엔지니어를 계속 배출하는 시스템이 더 봐야 합니다.

    또 하나의 조건은 협력 문화입니다. 조직 내부 정치와 중복 경쟁은 시간과 자원의 낭비입니다. 같은 문제를 각자 따로 풀기보다, 지식과 데이터를 공유하고 서로의 성과를 연결하는 방식이 해야 합니다. AI 경쟁은 개인 천재 한 명의 승부가 아니라 생태계의 승부에 가깝습니다.

    피지컬 AI는 한국이 노릴 수 있는 전략적 영역이다

    피지컬 AI와 제조 기반 전략을 설명하는 인터뷰 장면
    피지컬 AI와 제조 기반 전략을 설명하는 인터뷰 장면

    최 교수는 한국의 제조 기반 피지컬 AI 전략을 긍정적으로 봅니다. 피지컬 AI는 로봇, 제조, 물류, 현실 세계의 행동과 관련된 AI를 뜻합니다. 텍스트나 이미지처럼 인터넷에 풍부하게 쌓인 데이터와 달리, 제조 현장과 로봇 행동 데이터는 쉽게 구하기 어렵습니다.

    이 점이 오히려 기회입니다. 피지컬 AI는 자본만 투입한다고 빠르게 풀리는 문제가 아닙니다. 현장 지식, 숙련된 인력, 제조 데이터, 실제 문제를 이해하는 역량이 함께 해야 합니다. 한국은 제조업 기반과 현장 운영 경험이 강하기 때문에 이 영역에서 차별화할 수 있습니다.

    피지컬 AI가 발전하면 기존 제품을 자동화하는 데 그치지 않습니다. 이전에는 불가능하다고 여겼던 가전, 로봇, 산업 장비, 서비스가 새로 나올 수 있습니다. 이는 새로운 브랜드와 일자리로 이어질 가능성도 있습니다.

    관련 흐름은 이전에 정리한 AI 에이전트와 피지컬 AI 글과 함께 보면 더 입체적으로 이해할 수 있습니다.

    AI 민주화는 ‘사용 가능’보다 ‘제작 가능’에 가깝다

    AI 민주화의 의미를 설명하는 인터뷰 장면
    AI 민주화의 의미를 설명하는 인터뷰 장면

    많은 사람이 이미 ChatGPT 같은 AI 서비스를 쓰고 있습니다. 그래서 “AI는 이미 민주화된 것 아닌가?”라고 생각할 수 있습니다. 하지만 최예진 교수가 말하는 AI 민주화는 그냥 AI를 소비하는 상태와 다릅니다.

    그는 링컨의 민주주의 정의를 AI에 빗대어 설명합니다. 생성형 AI는 인간의 지식과 가치를 반영해야 하고, 인간이 만들 수 있어야 하며, 인간 전체에게 도움이 되어야 합니다. 즉 AI 민주화는 “누구나 쓸 수 있다”를 넘어 “다양한 나라와 조직이 만들고 개선하고 통제할 수 있다”에 가깝습니다.

    여기서 소형 언어 모델과 오픈소스가 더 봐야 합니다. 모든 조직이 초대형 모델을 만들 만큼의 GPU를 살 수는 없습니다. 하지만 소형 모델이 충분히 좋아지고, 학습 데이터와 훈련 방법이 공유된다면 더 많은 주체가 자기 목적에 맞는 AI를 만들 수 있습니다.

    오픈소스는 단순한 무료 공개가 아닙니다. 좋은 연구를 공개하면 전 세계 개발자와 연구자가 모이고, 인재 유입이 생기며, 생태계의 신뢰도 높아집니다. 중국의 일부 AI 기업들이 오픈소스를 통해 인재와 관심을 끌어모은 사례도 이 맥락에서 이해할 수 있습니다.

    소형 언어 모델은 어디서 강점을 가질까

    대형 언어 모델은 큰 신경망과 막대한 데이터, 대규모 자본을 바탕으로 만들어집니다. 반면 소형 언어 모델은 크기가 작기 때문에 부족한 부분을 다른 방식으로 채워야 합니다. 최 교수는 그 핵심을 데이터 품질에서 찾습니다.

    이미 인터넷 데이터는 대형 모델이 대부분 학습했습니다. 같은 데이터를 다시 많이 넣는다고 작은 모델이 큰 모델을 쉽게 따라잡기는 어렵습니다. 대신 인터넷에 없는 고품질 데이터, 특정 분야에 맞춘 데이터, 알고리즘으로 선별된 데이터가 더 봐야 합니다.

    소형 모델이 모든 면에서 초대형 모델을 이길 필요는 없습니다. 특정 업무나 기관, 산업 현장에서는 충분히 잘 작동하면서 비용이 훨씬 낮은 모델이 더 현실적인 선택일 수 있습니다. 예를 들어 내부 문서 검색, 고객 응대, 공공기관의 제한된 업무, 제조 현장의 특화 작업에서는 “가장 큰 모델”보다 “충분히 좋고 통제 가능한 모델”이 더 유리할 수 있습니다.

    로컬 LLM과 경량 서빙 흐름은 SGLang 로컬 LLM 서빙 엔진 글에서 다룬 흐름과도 연결됩니다.

    AI 시대 리더에게 필요한 능력

    AI 시대 리더십과 창의적 사고를 설명하는 인터뷰 장면
    AI 시대 리더십과 창의적 사고를 설명하는 인터뷰 장면

    AI가 많은 지식을 제공하는 시대에는 단순 암기형 전문성이 약해질 수 있습니다. 전문 지식을 많이 외우는 것만으로는 AI와 차별화되기 어렵습니다. 대신 먼저 볼 부분은 AI가 제시한 정보를 바탕으로 다음 질문을 만들고, 자기 관점으로 추론하며, 새로운 가치를 만드는 능력입니다.

    최예진 교수는 AI 시대의 리더에게 독창적 사고와 창의력이 필요하다고 말합니다. AI는 거대한 라이브러리처럼 지식을 꺼내 줄 수 있지만, 그 지식을 어디에 연결하고 무엇을 만들지는 사람이 결정해야 합니다.

    또 하나의 중요한 능력은 개별성입니다. 최 교수는 인간만이 가진 다양성과 고유한 특징을 AI가 쉽게 대체하기 어렵다고 봅니다. 모두가 같은 답을 빠르게 얻는 시대일수록, 각자가 가진 문제의식과 경험, 질문의 방향이 더 더 봐야 합니다.

    이 관점은 AI 시대 필수 역량과 AI 시대 인간의 가치를 다룬 글과도 함께 읽을 만합니다.

    개인과 조직을 위한 체크리스트

    이 인터뷰를 개인과 조직의 전략으로 바꾸면 다음 다섯 가지 질문이 남습니다.

    1. 우리는 AI를 그냥 사용하는가, 아니면 우리 문제에 맞게 만들고 개선할 역량을 갖추고 있는가?
    2. GPU와 모델 크기 외에 데이터 품질, 알고리즘, 업무 맥락을 어떻게 축적하고 있는가?
    3. 우리 산업의 현장 데이터는 무엇이며, 그것을 피지컬 AI나 특화 모델로 연결할 수 있는가?
    4. 내부 경쟁과 정치보다 협력과 공유가 잘 작동하는 구조를 만들고 있는가?
    5. 구성원들이 AI 답변을 소비하는 데 그치지 않고, 스스로 질문하고 추론하는 훈련을 하고 있는가?

    이 질문에 답하지 못하면 AI 도입은 도구 사용에 머물 수 있습니다. 반대로 이 질문을 조직적으로 다루면 AI는 비용 절감 도구를 넘어 새로운 제품, 서비스, 학습 방식으로 확장될 수 있습니다.

    결론: 한국 AI의 승부처는 ‘크기’가 아니라 ‘방향’이다

    AI 경쟁에서 큰 모델과 많은 GPU는 분명 더 봐야 합니다. 하지만 그것이 전부라면 승자는 이미 정해져 있을지도 모릅니다. 최예진 교수의 메시지는 여기서 출발합니다. 모두가 같은 방향으로 달릴 때, 다른 질문을 던지는 것이 더 큰 기회가 될 수 있습니다.

    한국은 제조 현장, 인재, 빠른 실행력, 협력 구조를 묶어 피지컬 AI와 특화 모델에서 강점을 만들 수 있습니다. 개인은 AI를 잘 쓰는 사람을 넘어, AI와 함께 더 좋은 질문을 만드는 사람이 되어야 합니다.

    결국 AI 민주화의 먼저 볼 부분은 더 많은 사람이 버튼을 누르는 것이 아닙니다. 더 많은 사람과 조직이 AI를 이해하고, 만들고, 통제하며, 인간에게 도움이 되는 방향으로 발전시키는 것입니다.

    FAQ

    AI 민주화란 무엇인가요?

    AI 민주화는 그냥 많은 사람이 AI 서비스를 쓰는 상태를 뜻하지 않습니다. 다양한 나라, 조직, 개인이 AI를 만들고 개선하고 통제할 수 있으며, 그 혜택이 특정 기업이나 국가에만 집중되지 않는 상태에 가깝습니다.

    소형 언어 모델은 대형 언어 모델을 대체할 수 있나요?

    모든 영역에서 완전히 대체하기는 어렵습니다. 주의할 점은 특정 업무, 특정 산업, 제한된 예산의 조직에서는 충분히 좋은 성능과 낮은 비용, 높은 통제 가능성을 제공할 수 있습니다.

    한국이 AI 경쟁에서 노릴 수 있는 분야는 무엇인가요?

    영상에서 강조된 분야는 피지컬 AI입니다. 제조, 로봇, 물류, 현실 세계의 행동 데이터가 필요한 영역은 인터넷 데이터만으로 해결하기 어렵기 때문에 한국의 제조 역량이 강점이 될 수 있습니다.

    AI 시대 개인에게 가장 중요한 역량은 무엇인가요?

    AI가 제공한 지식을 그대로 받아들이는 능력보다, 스스로 질문하고 추론하며 새로운 관점을 만드는 능력이 더 봐야 합니다. 최예진 교수는 독창적 사고와 창의력을 핵심 역량으로 강조합니다.

    참고자료

    이미지 출처: 본문에 사용된 캡쳐 이미지는 원본 YouTube 영상에서 리뷰·해설·교육 목적의 인용 이미지로 사용했습니다. 이미지 저작권은 원저작권자와 해당 채널에 있습니다.

  • 클로드를 떠나는 개발자들: AI 무제한 구독 시대가 끝나고 있다

    클로드를 떠나는 개발자들: AI 무제한 구독 시대가 끝나고 있다

    AI 무제한 구독은 계속될 수 있을까요? 최근 클로드(Claude)를 둘러싼 개발자 이탈 논란이 커졌습니다. 이 논란은 한 서비스의 평판 문제로만 보기 어렵습니다.

    지금까지 우리는 월 구독료만 내면 AI를 꽤 넉넉하게 쓸 수 있다고 생각했습니다. 하지만 그 전제가 흔들리고 있습니다. 개발자에게 먼저 나타난 변화이지만, 일반 사용자도 곧 체감할 수 있습니다.

    AI는 채팅창에서는 가볍게 보입니다. 하지만 뒤에서는 서버, 전력, GPU 연산 비용이 계속 들어갑니다. 그래서 AI 가격은 결국 현실 비용을 따라갈 가능성이 높습니다.

    AI 무제한 구독 논란을 다룬 유튜브 영상 도입 장면
    손에잡히는경제 유튜브 영상 캡처. 클로드 개발자 이탈 논란을 소개하는 도입 장면입니다.

    클로드 이탈 논란, 먼저 볼 부분은 성능이 아니라 ‘의존성’이다

    클로드는 코딩 성능이 좋다는 평가를 받아왔습니다. 그래서 개발자 사이에서 인기가 높았습니다. 그런데 최근 일부 개발자가 클로드 대신 다른 도구를 찾고 있습니다.

    겉으로는 “클로드 인기가 식었다”는 이야기처럼 들립니다. 하지만 먼저 볼 부분은 성능 불만이 아닙니다. 가격 정책, 약관 변경, 외부 도구 제한에 대한 불안이 더 큽니다.

    개발자는 AI를 질문 답변용으로만 쓰지 않습니다. 코드 작성, 자동화, 테스트, 문서화에 깊게 연결합니다. 이런 상황에서 회사가 정책을 바꾸면 업무 흐름 전체가 흔들립니다.

    그래서 이번 이탈은 단순한 서비스 갈아타기가 아닙니다. “한 회사에 너무 묶이면 위험하다”는 신호에 가깝습니다.

    갑작스러운 과금과 외부 도구 제한이 불신을 키웠다

    논란의 도화선은 예상치 못한 과금 사례였습니다. 한 개발자는 이미 고가 구독을 쓰고 있었습니다. 그런데 작업 메모에 들어간 특정 파일명 때문에 추가 요금이 청구됐다는 사례가 소개됐습니다.

    문제는 금액만이 아니었습니다. 사용자가 왜 요금이 발생했는지 이해하기 어려웠습니다. 자신이 얼마나 썼는지도 명확히 파악하기 힘들었습니다.

    AI 무제한 구독과 클로드 과금 논란을 설명하는 장면
    예상치 못한 과금 사례를 설명하는 장면입니다. AI 무제한 구독의 비용 구조가 왜 불신을 만들었는지 보입니다.

    AI 요금이 ‘블랙박스’처럼 느껴지는 순간

    일반 구독 서비스는 비교적 단순합니다. 사용자는 이번 달에 얼마를 내는지 알고 씁니다. 하지만 AI 서비스는 비용 구조가 훨씬 복잡합니다.

    토큰, 호출량, 모델 종류, 외부 도구 연결 방식이 모두 영향을 줍니다. 개발자는 이 구조를 더 민감하게 느낍니다. 챗봇 화면이 아니라 자동화 도구가 AI를 반복 호출하기 때문입니다.

    사용량이 눈에 보이지 않으면 불안이 커집니다. 작은 설정 차이도 비용 문제로 이어질 수 있습니다.

    외부 도구 제한이 준 충격

    외부 도구 사용 제한도 큰 문제였습니다. 일부 개발자는 클로드를 오픈소스 에이전트나 자동화 도구에 연결해 사용했습니다. 그런데 이런 방식이 갑자기 막히면 업무 도구를 하루아침에 바꿔야 합니다.

    AI 도구 전환은 단순한 앱 교체가 아닙니다. 프롬프트 습관, 자동화 스크립트, 팀의 작업 방식이 함께 바뀝니다. 그래서 사용자는 더 강하게 반발합니다.

    구독과 API, 무엇이 다를까?

    이번 논란을 이해하려면 구독과 API의 차이를 알아야 합니다. 일반 사용자는 보통 월 구독료를 냅니다. 그리고 챗봇 화면에서 직접 질문합니다.

    반면 API는 다른 프로그램이 AI를 자동으로 부르는 통로입니다. 사용자는 직접 입력하지 않을 수 있습니다. 앱이나 자동화 도구가 대신 AI를 호출합니다.

    AI 무제한 구독과 API 사용 방식의 차이를 설명하는 장면
    구독 모델과 API 모델의 차이를 설명하는 장면입니다. AI 무제한 구독 논란을 이해하는 핵심 배경입니다.
    구분 일반 구독 API 사용
    사용 방식 사람이 직접 채팅창에서 사용 프로그램이 자동으로 AI 호출
    비용 감각 월정액 중심 사용량 기반 과금 중심
    주요 사용자 일반 사용자, 개인 업무 사용자 개발자, 서비스 운영자, 자동화 사용자
    위험 요소 사용량 제한 변경 호출량 증가에 따른 비용 급증

    문제는 일부 개발자의 사용 방식입니다. 저렴한 구독 계정을 외부 자동화 도구에 연결해 썼습니다. API로 계산하면 훨씬 비싼 사용량이 되는 경우도 있었습니다.

    이 구조가 커지면 AI 회사는 비용을 감당하기 어렵습니다. 결국 구독과 API의 경계가 다시 조정될 수밖에 없습니다.

    AI 무제한 구독은 왜 흔들리고 있나

    AI 무제한 구독이 흔들리는 가장 큰 이유는 비용입니다. 생성형 AI는 질문 하나에도 대규모 연산을 씁니다. 사용자가 많아질수록 회사의 부담도 커집니다.

    초기 AI 서비스는 이용자를 빠르게 모아야 했습니다. 그래서 저렴한 구독 모델을 제공했습니다. 사용자 입장에서는 월 2만~3만 원으로 강력한 AI를 쓸 수 있었습니다.

    하지만 기업 입장에서는 다른 계산이 해야 합니다. 투자금을 바탕으로 비용을 보조한 구조에 가까웠기 때문입니다. 이제는 그 비용을 누가 낼지가 중요한 문제가 됐습니다.

    ‘많이 쓰는 사람’과 ‘가볍게 쓰는 사람’의 가격이 갈라진다

    앞으로는 기본 구독료와 추가 사용량 과금이 더 분리될 가능성이 높습니다. 가볍게 쓰는 사용자는 기존 가격에 가까울 수 있습니다. 반면 장시간 코딩이나 자동화를 맡기는 사용자는 더 많이 낼 수 있습니다.

    이 변화는 통신비와 비슷합니다. 기본요금이 있고, 데이터를 많이 쓰면 높은 요금제를 선택합니다. AI도 비슷한 방향으로 이동하고 있습니다.

    클로드만의 문제가 아니다

    이번 논란을 클로드만의 문제로 보면 흐름을 놓치기 쉽습니다. Cursor 같은 AI 코딩 서비스도 비슷한 요금제 논란을 겪었습니다. 처음에는 무제한에 가까운 사용 경험을 제공했습니다.

    하지만 사용량이 늘자 요금제를 다시 설계해야 했습니다. 오픈AI도 예외는 아닙니다. 지금은 ChatGPT나 Codex가 대안처럼 보일 수 있습니다.

    하지만 AI 기업 전체가 막대한 인프라 비용을 안고 있습니다. 차이는 가격 전환을 얼마나 부드럽게 하느냐입니다. 또 사용자가 납득할 만큼 투명하게 설명하느냐도 더 봐야 합니다.

    결국 업계는 다음 단계로 넘어가고 있습니다. “싸게 많이 쓰게 해주던 단계”에서 “지속 가능한 가격을 찾는 단계”로 이동하는 중입니다.

    개발자들이 오픈소스를 찾는 이유

    개발자들이 오픈소스 도구를 찾는 이유는 그냥 무료라서가 아닙니다. 먼저 볼 부분은 선택권입니다. 특정 회사의 정책 변화에 덜 흔들리는 구조를 만들려는 것입니다.

    여기서 중요한 개념이 벤더 락인(vendor lock-in)입니다. 한 회사 서비스에 너무 깊게 의존하는 상태를 말합니다. 가격이 오르거나 정책이 바뀌어도 쉽게 빠져나오지 못합니다.

    AI 시대의 벤더 락인은 더 강해질 수 있다

    AI 도구는 업무 방식 안으로 깊게 들어옵니다. 어떤 AI에게 어떻게 지시해야 하는지 익혀야 합니다. 팀의 자동화도 특정 모델에 맞춰질 수 있습니다.

    프롬프트, 문서, 작업 결과가 한 서비스에 쌓이면 전환 비용은 더 커집니다. 그래서 여러 도구를 미리 시험하는 일이 더 봐야 합니다. 개발자에게는 이것이 일종의 보험입니다.

    클로드를 당장 버린다는 뜻은 아닙니다. 필요할 때 다른 도구로 옮겨갈 길을 만들어두는 것입니다.

    일반 사용자도 준비해야 할 변화

    이 이야기는 개발자에게서 시작됐습니다. 하지만 일반 사용자에게도 더 봐야 합니다. 앞으로는 사용량과 기능에 따라 요금 차이가 더 커질 수 있습니다.

    문서 작성, 이미지 생성, 코딩, 데이터 분석을 자주 맡기는 사람은 더 빨리 체감할 수 있습니다. AI를 많이 쓰는 사람일수록 요금제 변화를 체크해 두세요.

    AI 무제한 구독 변화가 일반 사용자에게 주는 의미를 정리하는 장면
    개발자 이슈가 일반 사용자에게도 영향을 줄 수 있다는 점을 정리하는 장면입니다.

    지금 해볼 만한 체크리스트

    • 주로 쓰는 AI 서비스의 요금제와 사용량 제한을 확인한다.
    • 중요한 업무는 한 서비스에만 묶어두지 않는다.
    • ChatGPT, Claude, Gemini 등 여러 도구의 장단점을 익혀둔다.
    • 프롬프트와 작업 결과물은 개인 저장소나 문서로 따로 보관한다.
    • 자동화 도구를 쓴다면 예상 비용과 호출량을 주기적으로 확인한다.

    AI는 전기나 통신비처럼 생각하면 이해가 쉽습니다. 편리하지만 공짜는 아닙니다. 많이 쓸수록 비용 구조를 알아야 합니다.

    결론: AI 가격의 ‘정상화’가 시작되고 있다

    클로드 이탈 논란은 일시적인 해프닝으로 끝나지 않을 가능성이 높습니다. 더 큰 흐름은 AI 가격의 정상화입니다. 서비스 가격이 실제 비용에 맞춰 조정되고 있습니다.

    AI 무제한 구독은 사용자에게 매력적입니다. 하지만 기업 입장에서는 지속 가능하지 않을 수 있습니다. 앞으로는 기본 구독, 크레딧, 사용량 기반 과금이 섞일 가능성이 높습니다.

    지금 필요한 태도는 특정 AI를 무조건 떠나는 것이 아닙니다. 내가 쓰는 AI의 비용 구조를 이해해야 합니다. 또 한 회사에 모든 업무를 묶어두지 않는 것이 좋습니다.

    AI 시대의 경쟁력은 좋은 도구를 쓰는 데서만 나오지 않습니다. 언제든 다른 도구로 옮겨갈 수 있는 유연성도 더 봐야 합니다.

    FAQ

    클로드를 지금 당장 그만 써야 하나요?

    그럴 필요는 없습니다. 클로드는 여전히 강력한 AI 도구입니다. 주의할 점은 중요한 업무를 한 서비스에만 의존하지 않는 편이 안전합니다.

    AI 무제한 구독은 완전히 사라질까요?

    완전히 사라진다기보다 제한이 더 명확해질 가능성이 높습니다. 기본 구독은 유지될 수 있습니다. 주의할 점은 고강도 사용, 자동화, 외부 도구 연결에는 추가 요금이 붙을 수 있습니다.

    일반 사용자는 무엇을 확인해야 하나요?

    자신이 쓰는 요금제의 사용량 제한을 체크해 두세요. 고급 모델 제공 범위도 봐야 합니다. 파일, 코딩, 이미지 기능 제한도 함께 확인하는 것이 좋습니다.

    오픈소스 AI 도구가 항상 더 좋은 선택인가요?

    항상 그렇지는 않습니다. 오픈소스는 선택권과 통제력을 줍니다. 하지만 설치와 운영 부담이 있을 수 있습니다. 일반 사용자는 상용 AI와 오픈소스 도구를 함께 비교하는 것이 현실적입니다.

    함께 보면 좋은 글

    참고자료

    이미지 출처: 본문에 사용된 캡쳐 이미지는 원본 YouTube 영상에서 리뷰·해설·교육 목적의 인용 이미지로 사용했습니다. 이미지 저작권은 원저작권자와 해당 채널에 있습니다.