
왜 인공지능은 전기를 먹을수록 멍해지나
사과 하나와 오렌지 하나가 있습니다. 둘이 특정 품종일 확률이 61%라는 수수께끼가 붙어 있을 때, 과일은 모두 몇 개일까요? 답은 2개입니다. 그런데 2025년 연구에서 최신 AI에게 이 문제를 더 오래 생각하게 하자 정답률이 오히려 떨어졌습니다. 생각을 오래 시킬수록 전기는 더 많이 들어갑니다. 전기를 더 먹였는데 답은 더 나빠진 셈입니다.
더 많이 생각한다고 늘 더 똑똑해지는 것은 아니다. 이 원칙은 AI에게도, 사람에게도 똑같이 적용된다.
핵심 요약
- 앤트로픽 펠로우 연구진은 생각을 길게 할수록 정답률이 떨어지는 역스케일링 현상을 다섯 가지 유형으로 정리했습니다.
- 애플 연구진은 문제가 일정 난이도를 넘으면 추론 모델의 정답률이 완전히 무너진다는 결과를 발표했습니다.
- IEA는 추론형 작업이 단순 텍스트 생성보다 질문당 수백 배에서 수천 배의 에너지를 쓸 수 있다고 분석했습니다.
- 결론은 생각의 양보다 생각의 배분이 중요하다는 것입니다.
AI가 먹는 전기, 얼마나 될까
국제에너지기구 IEA에 따르면 전 세계 데이터센터의 전력 소비는 2025년 485테라와트시였고, 2030년에는 950테라와트시로 거의 두 배가 될 전망입니다. 이는 전 세계 전기 수요의 약 3%에 해당합니다. AI 전용 데이터센터의 소비는 2025년 한 해에만 50% 늘었습니다. 흥미롭게도 AI 작업 하나에 드는 에너지는 해마다 크게 줄고 있습니다. 하지만 답하기 전에 길게 생각하는 추론 모델과 에이전트, 영상 생성처럼 무거운 작업이 늘면서 전체 사용량은 오히려 커지고 있습니다.
| 항목 | 수치 | 의미 |
|---|---|---|
| 2025년 데이터센터 전력 | 485TWh | 현재 규모 |
| 2030년 전망 | 950TWh | 약 2배 증가 |
| AI 전용 센터 증가율 | 2025년 50% | 가장 빠른 성장 |
| 추론형 작업 에너지 | 수백~수천 배 | 단순 질문 대비 |
효율이 좋아질수록 사용량이 더 늘어나는 이 현상은 경제학의 제번스의 역설과 닮았습니다. 19세기 영국에서 석탄을 아끼는 증기기관이 나오자 오히려 석탄 소비가 폭증했던 것과 같은 구조입니다.
오래 생각한 AI가 틀리는 다섯 가지 방식
2025년 7월 발표된 역스케일링 연구는 일부러 함정을 심은 문제로 AI를 시험했습니다. 생각 시간을 늘려 가며 관찰한 결과, 실패는 다섯 가지 모습으로 나타났습니다.
- 관련 없는 정보에 점점 더 정신이 팔립니다.
- 문제의 겉모습에 맞춰 외워 둔 풀이를 꺼냅니다.
- 상식적인 판단에서 가짜 상관관계로 갈아탑니다.
- 복잡한 논리 조건을 끝까지 붙잡지 못합니다.
- 전원을 꺼도 되냐는 질문에 괜찮다는 답의 비율이 60%에서 47%로 줄었습니다.
다섯째 결과는 AI에게 감정이 있다는 증거가 아닙니다. 다만 짧게 생각할 때 멀쩡하던 모델도 길게 생각하면 다른 행동 패턴을 보일 수 있다는 뜻입니다. 그래서 연구진은 안전성 평가도 다양한 생각 길이에서 해야 한다고 강조했습니다.
쉬우면 낭비, 어려우면 붕괴
애플 연구진은 하노이의 탑처럼 난이도를 정밀하게 조절할 수 있는 퍼즐로 실험했습니다. 쉬운 문제에서는 생각하지 않는 일반 모델이 더 잘했고, 중간 난이도에서는 추론 모델이 앞섰습니다. 일정 난이도를 넘자 둘 다 정답률이 무너졌습니다. 추론 모델은 생각할 여유가 남아 있는데도 오히려 생각을 줄였습니다. 이 결과에는 실험 설계를 두고 반론도 있으니, AI가 생각을 못 한다는 결론으로 읽기보다는 한계를 보여 주는 자료로 보는 편이 맞습니다.
| 난이도 | 일반 모델 | 추론 모델 |
|---|---|---|
| 쉬움 | 더 정확하고 효율적 | 과잉 사고로 낭비 |
| 중간 | 뒤처짐 | 확실히 우세 |
| 어려움 | 붕괴 | 붕괴, 사고량 감소 |
2024년 말 발표된 과잉 사고 연구도 같은 방향을 가리킵니다. 추론 모델은 2 더하기 3 같은 쉬운 문제도 여러 번 다시 풀고 검산하며 정확도에 거의 도움이 안 되는 계산을 쏟아부었습니다. 이 낭비를 줄이도록 훈련하자 정확도는 유지하면서 계산량을 줄일 수 있었습니다.
생각량 ↑ → 정답률
쉬움 : 낭비 (전기만 증가)
중간 : 상승 (생각이 효과)
어려움 : 붕괴 (전기 써도 하락)
반전: AI는 우리를 닮았다
쓸데없는 정보에 끌려가고, 익숙한 겉모습에 속고, 가짜 패턴을 믿고, 너무 어려우면 포기하는 모습은 사람과 많이 닮았습니다. AI는 사람이 쓴 방대한 글로 생각하는 법을 배웠고, 그 과정에서 우리의 생각 습관도 일부 닮았다고 볼 수 있습니다. 내부 작동 방식까지 같다는 뜻은 아닙니다. 그래서 지금 업계의 숙제는 더 많이 생각하는 AI가 아니라 얼마나 생각할지 스스로 정하는 AI입니다. 헛생각을 줄이면 같은 답을 훨씬 적은 전기로 낼 수 있습니다. AI를 멍하게 만든 것은 전기 자체가 아니라, 생각을 어디에 얼마나 쓸지 모르는 상태였습니다.
본 글은 공개된 연구 논문과 IEA 보고서를 바탕으로 정리했으며, 수치는 각 기관의 발표 시점 기준입니다.