AI 서비스의 신뢰성에 대한 분석에서, OpenAI와 Anthropic의 상태 페이지에 공개된 가동률 통계가 99.9% 미만으로 나타나며, 특히 ChatGPT는 98.86%로 두 자리 수 신뢰성에도 미치지 못하는 점이 지적되었습니다.

급격한 사용자 증가가 서비스 과부하의 주요 원인으로, 이는 개발 속도보다는 하이퍼성장에 따른 수요 폭증 때문임을 Anthropic 관계자가 밝혔습니다.

부하 포화 문제로 인해 예측 불가능한 트래픽 증가에 대응하는 데 어려움을 겪고 있으나, GPU 자원 한계로 무조건적인 확장은 어렵고, 대신 자원 재분배와 부하 조절, 점진적 성능 저하 대응 기술에 집중하고 있다고 평가됩니다.

이러한 현상은 LLM(대형 언어 모델) 활용의 급속한 확산에 따른 자연스러운 성장통으로, 앞으로도 예측 불가능한 부하 증가에 대비한 복원력 강화가 중요할 것으로 전망됩니다.