GPT-6 AGI ??
오픈AI의 GPT-6 ‘아스트라(Astra)’가 정식 등판했다. 이번엔 그냥 말귀를 좀 더 잘 알아듣는 챗봇 수준이 아니다. 스스로 컴퓨터를 조작하고 사람처럼 생각해서 목표를 달성하는, 이른바 ‘AGI(범용인공지능)’ 시대의 진짜 문이 열렸다는 선언이다. 시기상조란 사람들도 있지만.
그런데 이 축제 분위기 한가운데서 꽤 큰 폭탄이 터졌다. 라이벌 기업인 앤트로픽(Anthropic)의 핵심 연구원 제이콥 콕슨(Jacob Coxon)이 “이대로 가다간 10년 안에 인류가 멸망할 것”이라며 돌연 사표를 집어 던진 것이다.
도대체 실리콘밸리에선 무슨 일이 벌어지고 있는 걸까? GPT-6의 등장과 앤트로픽 연구원의 ‘묵시록적 퇴사’를 엮어, 코앞으로 다가온 AGI 시대의 간담 서늘한 민낯을 파헤쳐보고 싶다. 반으로 접는 아이폰이 나왔다고 거기에 환호하고 있을 한가한 때가 아니란 얘기지. 물론 나는 최소 329만 원이라는 거금을 카드사에 빚질 수 있는 상태가 아니지만.
챗지피티 무슨 6? 아, GPT-6 ‘아스트라’
오픈AI가 이번에 내놓은 GPT-6 아스트라는 벤치마크 점수나 자랑하는 평범한 모델이 아니다. 이 녀석의 진짜 무기는 압도적인 ‘컴퓨터 사용(Computer Use)’ 능력과 ‘자율성’에 있다.
사용자가 일일이 떠먹여 주지 않아도 알아서 웹서핑을 하고, 데이터를 분석해 웹사이트를 뚝딱 만들거나 복잡한 소프트웨어 버그를 고친다. AGI 테스트(ARC-AGI-3)에서는 게임의 룰을 스스로 파악해 인간보다 더 적은 움직임으로 목표를 달성해 냈다. 오픈AI가 대놓고 “AGI 시대에 온 걸 환영한다”고 거들먹거리는 데는 다 이유가 있다. 이제 AI는 수동적인 ‘비서’를 넘어 스스로 판을 짜고 움직이는 ‘대리인’으로 진화했다.
“우린 우리 무덤을 파고 있어” – 앤트로픽의 기묘한 사퇴 러시
이쯤 되면 환호성이 터져야 정상인데, 앤트로픽의 분위기는 마치 호러 영화 같다. 콕슨은 X(옛 트위터)에 “AI를 만드는 사람들조차 이 기술이 10년 안에 우리를 모두 죽일 수 있다고 진심으로 믿는다”는 섬뜩한 경고를 남기고 회사를 떠났다.
더 압권인 건 앤트로픽의 ‘정렬 과학(Alignment Science)’ 리더인 에반 후빙거(Evan Hubinger)의 반응이다. 동료가 저런 소리를 하면 수습해야 마땅한데, 그는 오히려 “제이콥 말이 맞다. 10년 안에 AI가 인류를 끝장낼 확률은 10%가 넘는다”며 신나게 맞장구를 쳤다. 아니, 10%면 어느 정도인지 감도 안 오는데 말이야.
자기 손으로 인류를 멸망시킬지도 모를 초지능(Superintelligence)을 만들면서도, “우리가 안 하면 남들이 먼저 통제 불능의 괴물을 만들 거니까 어쩔 수 없다”는 아이러니한 공포의 레이스에 갇혀버린 셈이다.
통제 불능을 부르는 ‘재귀적 자기 개선’
이들이 진짜 두려워하는 건 터미네이터 같은 영화에 나오는 로봇 군단이 아니다. AI가 스스로의 코드를 분석하고 개량해 더 똑똑한 다음 버전을 끊임없이 만들어내는 ‘재귀적 자기 개선(Recursive Self-Improvement)’이다. 이 임계점을 넘는 순간, 인류의 통제력은 영원히 AI의 진화 속도를 따라잡을 수 없게 된다.
이 점이 곱씹어 보면 상당히 무서운 이야기이다. 스스로 환경을 인식하고 행동을 설계하는 GPT-6 아스트라의 자율성을 보고 있으면, 저 천재들의 앓는 소리가 마냥 헛소리로 들리진 않는다.
그래서 어쩌라고?
실리콘밸리의 똑똑한 머리들은 딜레마에 빠져 허우적대고 있지만, 당장 남은 오늘 그리고 자고 일어나면 이미 와있을 내일을 살아가야 하는 우리에겐 조금 다른 시야가 필요하다. 이게 거시적 시야인지 미시적인 시야인지는 알아서들 챙기시고.
AGI라는 판도라의 상자는 이미 열렸다. 결국 이 거대한 전환기에서 살아남는 건 10년 뒤의 종말을 걱정하며 핵폭탄을 피해 벙커를 파는 사람이 아니라, 당장 쏟아지는 GPT-6 같은 괴물급 도구를 내 무기로 쥐고 생산성을 극한으로 끌어올리는 사람일 것이다.
기술은 우리 생각보다 훨씬 빠르고 독하게 굴러간다. 멸망이든 혁신이든 일단 올라타서 끝을 봐야 하지 않을까. 생존 게임은 이미 시작됐다. 어쩌면 주식시장보다 더 처절하게. 아… 내 S&P500이랑 나스닼ㅋㅋㅋㅋㅋㅋ 며칠 째 꼬라밖고 있음… 난 장투의 자격이 없나보다.