이 글은 프로그래밍 언어 설계의 기본 원칙과 이를 AI 시스템, 특히 자연어 기반 AI 프로그래밍 도구에 적용했을 때의 한계를 논의합니다.

Interpretation(해석능력)​, Predictability(예측가능성)​, Discoverability(발견가능성) 세 가지 설계 목표를 중심으로, AI는 사용자가 입력한 자연어를 일관되게 해석하거나 잘못된 입력을 거부하지 못하며, 사용자가 시스템 동작을 예측하기 어렵다는 점에서 전통적 프로그래밍 언어에 비해 크게 부족하다고 지적합니다.

또한, AI 시스템과 사용자 간의 상호작용에서 발생하는 ELIZA 효과를 통해 사용자가 AI에 과도한 지능이나 의도를 투사하는 문제를 설명하며, 이는 AI 도구의 신뢰성과 실용성에 부정적 영향을 미친다고 평가합니다.

결론적으로, AI 기반 프로그래밍 도구는 기술적 진보에도 불구하고 사용자 경험과 인터페이스 설계 측면에서 근본적인 문제를 안고 있어, 전통적 프로그래밍 언어의 명확한 정신 모델과 도구 설계 원칙을 재검토하고 개선할 필요가 있음을 강조합니다.