미국의 유명 인공지능(AI) 기업 앤트로픽(Anthropic)의 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 사표를 던졌습니다. 퇴사한 연구원 **제이컵 콕슨(Jacob Coxon, 27세)**은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구해 온 영국 출신 전문가입니다 (
0:10).
그가 던진 경고와 AI 업계의 내부 실태는 다음과 같습니다.
🚨 "내년 말이면 통제 불능" – 제이컵 콕슨의 경고
- 인간의 통제를 벗어나는 AI: 콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 치열하게 경쟁하고 있다고 지적했습니다 (0:19). 이 과정에서 안전 문제가 뒷전으로 밀리고 있으며, 머지않아 AI가 인간의 명령을 거부하는 수준까지 발전할 수 있다고 주장했습니다 (0:29).
- 10년 안의 인류 멸망 시나리오: 그는 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다{C}고 진심으로 믿고 있다"고 전했습니다 (0:39). AI가 초인적 체계가 되어 무엇이든 해킹하고 권력과 자원을 확보할 것이며, 가장 공격적인 시나리오들이 현실화되어 내년 말(2027년 말)이면 이미 상황이 통제 불능에 빠질 수 있다고 월스트리트저널(WSJ)에 경고했습니다 (0:50).
- 기업들에 대한 비판: 올해 초 오픈AI(OpenAI)를 떠나 상대적으로 안전을 중시하는 앤트로픽으로 이직했던 콕슨은 결국 "두 회사 모두 책임감 있게 행동하고 있지 않다"며, "초지능을 향해 질주하며 인류의 목숨을 도박거리로 삼고 있다"고 강하게 비판했습니다 (1:57).
🤝 앤트로픽 내부 임원들의 동조
콕슨의 이러한 충격적인 경고에 대해 앤트로픽의 고위 임원들도 개인 의견임을 전제로 동의의 뜻을 표했습니다 (
1:10).
- 에반 휴빙거 (정렬 과학 총괄): "제이컵의 말이 맞다. 우리는 진정으로 AI가 모든 인류를 멸망시킬 수 있다고 믿으며, 10년 이내에 그 확률이 10%를 넘을 것{C}이라 생각한다"고 동조했습니다 (1:10).
- 새뮤얼 마크스 (확장 감독 총괄): "일반적으로 직급이 높을수록 이 문제에 대해 더 큰 우려{C}를 하고 있다"고 밝혔습니다 (1:39).
🛑 위험을 알면서도 개발을 멈추지 못하는 이유
임원들과 엔지니어들이 위험성을 인지하면서도 브레이크 없이 개발을 지속하는 이유는 복합적입니다 (
1:47).
- 상업적 인센티브: 시장을 선점했을 때 얻는 막대한 자본과 상업적 이익 때문입니다 (1:47).
- 상대 진영과의 경쟁 심리: 내가 멈추더라도 기술을 악용할 수 있는 다른 개발자나 경쟁사, 혹은 중국의 신생 업체들이 기술을 먼저 선점할 것이라는 두려움 때문입니다 (1:47).
- 규제 완화 기조: 최근 도널드 트럼프 행정부 역시 AI에 대한 규제를 최소화하는 정책을 추진하고 있어, 제도적 제동 장치마저 부족한 상황입니다 (3:06).
콕슨은 인류의 미래가 걸린 기술 개발이 소수 엔지니어의 판단에 맡겨진 현실을 "일종의 광기"라고 표현하며, 정부의 개입이나 국제적인 통제 체계가 시급하다고 강조했습니다 (
2:17).