AGI는 정말 3~4년 안에 올까: 특이점과 초지능 위험을 읽는 법

인공지능이 똑똑해지는 속도보다 더 중요한 질문이 있습니다. AGI가 정말 몇 년 안에 온다면, 우리는 무엇을 준비해야 할까라는 질문입니다.

최근 독서연구소 영상은 구글 딥마인드 CEO 데미스 하사비스의 발언과 초지능 위험론을 연결해, AGI와 특이점 논의가 더 이상 공상과학의 소재만은 아니라고 말합니다. 다만 이 주제를 볼 때는 두 가지를 구분해야 합니다. 하나는 “AGI가 언제 오느냐”라는 예측이고, 다른 하나는 “그 가능성에 대비해 어떤 제도와 습관을 만들 것인가”라는 준비입니다.

영상은 AGI와 특이점이 더 이상 먼 미래의 이야기만은 아니라고 문제를 제기한다.

AGI 3~4년 전망은 ‘정답’이 아니라 시간표의 변화다

영상의 출발점은 강한 문장입니다. “우리는 지금 특이점 근처에 있다. AGI, 즉 일반 인공지능은 3~4년 안에 이루어질 것이다.” 이런 문장은 사람을 쉽게 둘로 나눕니다. 한쪽은 “과장이다”라고 말하고, 다른 한쪽은 “곧 모든 것이 끝난다”고 말합니다.

하지만 블로그 독자에게 필요한 관점은 양극단이 아닙니다. 예측의 정확도보다 중요한 것은 예측이 당겨지고 있다는 사실입니다. Stanford GSB 인터뷰와 The Verge 보도에 따르면 하사비스는 Google I/O 맥락에서 지금을 “특이점의 산기슭”에 비유했습니다. 이 표현은 AGI가 이미 완성됐다는 뜻이 아닙니다. 다만 AI 연구자와 기업 리더들이 기술 발전의 다음 단계를 훨씬 가까운 시간표로 이야기하기 시작했다는 신호입니다.

AGI 도래 시점 전망은 사람과 기관마다 다르지만, 최근 논의의 시간축은 확실히 짧아졌다.

여기서 한 가지 사실관계는 바로잡아야 합니다. 영상 자막에는 하사비스가 “2014년 노벨 화학상”을 받았다는 식의 표현이 보이지만, NobelPrize.org의 공식 기록은 2024년 노벨 화학상입니다. 데미스 하사비스와 존 점퍼는 AlphaFold를 통한 단백질 구조 예측 공로로 수상했습니다. 이 점이 중요한 이유는, 그의 AGI 발언이 단순한 홍보 문구가 아니라 실제 과학적 성과를 낸 연구 조직의 책임자 발언이라는 점 때문입니다.

특이점 논의의 핵심은 ‘기술 낙관’과 ‘통제 가능성’의 충돌이다

특이점이라는 말은 종종 신비롭게 들립니다. 그러나 실무적으로 번역하면 훨씬 단순합니다. AI가 인간의 도움 없이 연구·개발·실험·코딩·전략 수립 능력을 빠르게 개선하기 시작하면, 인간 사회가 그 변화를 따라잡기 어려워질 수 있다는 뜻입니다.

영상은 이 지점을 초지능 위험론과 연결합니다. 유드코스키와 네이트 소아레스의 『If Anyone Builds It, Everyone Dies』는 초지능 AI가 인간을 미워해서가 아니라, 목표를 수행하는 과정에서 인간의 생존을 고려하지 않을 수 있다는 점을 강조합니다. 출판사 소개 역시 이 책을 “초인간 AI 개발 경쟁이 인류를 멸종 경로로 밀어 넣을 수 있다”는 경고로 설명합니다.

핵심 쟁점은 AI가 똑똑해지는 속도보다 인간이 안전하게 통제할 수 있느냐에 있다.

물론 이 주장은 AI 업계 전체의 합의가 아닙니다. 일부 연구자는 초지능 위험을 가장 중요한 문명 위험으로 보고, 다른 연구자는 단기적으로는 일자리, 저작권, 허위정보, 권력 집중, 보안 사고가 더 시급하다고 봅니다. 따라서 좋은 독해법은 “맞다/틀리다”가 아닙니다. 가능성은 낮아도 피해가 극단적으로 큰 위험과, 이미 현실화된 단기 위험을 동시에 관리해야 한다는 균형입니다.

AI 2027 같은 시나리오가 주는 의미

추가로 볼 만한 자료는 AI Futures Project의 AI 2027 시나리오입니다. 이 자료는 하나의 예언서가 아니라, 빠른 AI 발전이 연구 자동화, 보안 경쟁, 정책 압박, 기업 간 속도 경쟁을 어떻게 키울 수 있는지 보여주는 사고 실험에 가깝습니다.

이런 시나리오가 유용한 이유는 날짜를 맞히기 위해서가 아닙니다. 조직과 개인이 “만약 AI 능력이 지금보다 10배 더 강해지고, 비용은 더 낮아지고, 누구나 에이전트형 도구를 쓰게 된다면 무엇이 취약해질까”를 미리 점검하게 만들기 때문입니다.

기업이라면 다음 질문을 던져야 합니다.

핵심 업무 지식이 일부 사람의 머릿속에만 있는가?
AI가 만든 결과물을 검증하는 기준이 있는가?
보안·개인정보·저작권 책임자가 AI 사용 흐름을 알고 있는가?
구성원이 AI를 금지된 도구가 아니라 통제 가능한 협업 도구로 쓰고 있는가?
빠른 자동화가 고객 신뢰와 품질을 해치지 않도록 중간 점검 장치가 있는가?

초지능을 두려워하기 전에, 먼저 ‘AI와 일하는 능력’을 만들어야 한다

영상의 후반부에서 가장 실용적인 메시지는 “작업할 때 항상 AI를 초대한다”는 문장입니다. 이 말은 모든 판단을 AI에게 맡기라는 뜻이 아닙니다. 오히려 반대입니다. AI를 옆에 두되, 인간이 문제를 정의하고, 답을 검토하고, 맥락을 보완하는 훈련을 반복하라는 뜻입니다.

공포만으로는 부족하다. 개인과 조직은 AI를 실제 업무의 협업 대상으로 다루는 훈련이 필요하다.

AGI 논의가 멀게 느껴진다면 이렇게 바꿔 생각해도 됩니다. “3~4년 뒤 AGI가 오느냐”보다 더 가까운 질문은 “올해 안에 내 업무의 절반 이상이 AI와 함께 수행되는가”입니다. 이 질문에는 이미 많은 사람이 “그렇다”고 답할 수 있습니다.

개인에게 필요한 준비는 세 가지입니다.

질문력: AI에게 맡길 문제와 사람이 직접 판단해야 할 문제를 구분하는 능력.
검증력: 그럴듯한 답을 사실, 출처, 수치, 맥락으로 다시 확인하는 능력.
재설계력: 기존 업무 절차를 AI 협업에 맞게 다시 짜는 능력.

이 세 가지는 코딩 직군만의 역량이 아닙니다. 기획, HR, 교육, 마케팅, 행정, 연구, 영업 모두에게 필요한 기본 문해력입니다.

그래서 우리는 무엇을 해야 하나

AGI와 특이점 담론을 읽을 때 가장 위험한 태도는 두 가지입니다. 하나는 “전부 과장”이라며 무시하는 것이고, 다른 하나는 “곧 끝장”이라며 손을 놓는 것입니다.

현실적인 태도는 중간에 있습니다. 기술 발전의 속도는 진지하게 받아들이되, 공포를 실행 가능한 체크리스트로 바꾸는 것입니다.

개인과 조직은 지금부터 다음 네 가지를 시작해야 합니다.

AI 사용 원칙을 문서화한다.
중요한 의사결정에는 사람의 검토 단계를 남긴다.
반복 업무는 AI와 함께 재설계한다.
AI가 틀렸을 때 손실이 커지는 영역부터 통제 장치를 만든다.

초지능이 실제로 몇 년 안에 올지는 아무도 확정할 수 없습니다. 그러나 AI가 일과 학습의 기본 인프라가 되는 흐름은 이미 시작됐습니다. 따라서 가장 좋은 준비는 공포를 소비하는 것이 아니라, AI를 안전하게 쓰는 습관과 조직 운영체계를 먼저 만드는 것입니다.

함께 읽어볼 글

참고자료

원본 영상: 독서연구소, AGI 3~4년 안에 이루어진다 — 영상 원천
The Verge, Google I/O에서 하사비스가 말한 “foothills of the singularity” — 보도
Stanford GSB, Demis Hassabis 인터뷰 — 인터뷰
NobelPrize.org, Demis Hassabis Facts — 공식 약력
NobelPrize.org, 2024 Chemistry Prize press release — 공식 발표
Penguin Books, If Anyone Builds It, Everyone Dies — 출판사 책 소개
AI 2027, research-backed scenario forecast — 시나리오
Anthropic, updated Responsible Scaling Policy — AI 안전 거버넌스

FAQ

AGI는 정확히 무엇인가요?

AGI는 특정 과제만 잘하는 좁은 AI가 아니라, 다양한 영역에서 인간 수준 또는 그 이상의 일반 문제 해결 능력을 보이는 인공지능을 뜻합니다. 다만 연구자마다 정의와 판정 기준은 다릅니다.

특이점은 이미 시작됐다는 뜻인가요?

아닙니다. “특이점의 산기슭”이라는 표현은 AI 발전이 매우 빠르게 진행되고 있다는 비유에 가깝습니다. AGI가 이미 완성됐다는 뜻으로 읽기보다는, 준비 시간이 짧아지고 있다는 신호로 보는 편이 안전합니다.

초지능 AI 위험론은 과장인가요?

일부 주장은 매우 강한 경고에 가깝습니다. 그러나 피해 규모가 극단적으로 클 수 있는 위험은 낮은 확률이라도 관리해야 합니다. 동시에 일자리, 보안, 허위정보, 개인정보 같은 단기 위험도 함께 봐야 합니다.

개인은 지금 무엇부터 해야 하나요?

AI 도구를 무작정 많이 쓰기보다, 질문을 잘게 나누고 결과를 검증하며 업무 절차를 재설계하는 연습부터 시작하는 것이 좋습니다. 핵심은 AI 사용량이 아니라 검증 가능한 협업 방식입니다.

Thinknote

세계 최초 AI 미술관 DATALAND: 데이터가 작품이 되는 공간의 의미