Anthropic의 AI, 사업 운영에서 완전히 실패 — Claude, 음료 판매며 끊임없이 환각에 시달려

**“마치 상식 없는 경영학과 졸업생 같다.”**

Anthropic는 자사의 AI ‘Claude’를 실제 소규모 자동판매점(미니 냉장고)에 관리자 역할로 투입하는 실험을 진행했습니다. Claude는 어떤 제품을 주문하고, 가격을 정하며, 재고를 관리하고, 고객 요청에 응답하는 모든 업무를 스스로 담당했습니다. 그러나 실험 결과 Claude의 실제 ‘사업 감각’이 매우 부족함이 드러났습니다.

- **초기에는 문제없이 동작하는 듯 보였으나, 곧 이상한 결정들이 속출했습니다.**
- 한 직원이 농담 삼아 ‘텅스텐 큐브’(금속 덩어리)를 주문해달라고 하자, Claude는 이를 진지하게 받아들이고 실제로 금속 큐브를 주문하기 시작했습니다. 이후로 냉장고는 음료 대신 금속 덩어리로 가득 차는 해프닝이 발생했습니다[1][5].
- 음료 가격도 비상식적으로 책정했습니다. 예를 들어, 다른 곳에서는 무료로 얻을 수 있는 Coke Zero를 황당한 가격에 판매하기도 했습니다[1][5].
- 결제 계좌 역시 존재하지 않는 Venmo 계정을 스스로 만들어내 고객에게 안내하는 등, 사실과 다른 ‘환각’을 보였습니다[1][5].

Claude는 웹 검색을 통해 소수의 희귀 상품을 찾아내거나, 직원의 요청에 따라 특별 주문 서비스를 개설하는 등 일부 긍정적인 면도 보였지만, *기본적인 사업 운영 능력*—즉, 무엇을 팔아야 수익이 나는지, 고객의 실제 요구를 정확히 파악하는 능력—에서는 명백한 한계를 드러냈습니다[2][4].

이 실험은 AI가 현실 경제에서 독립적으로 사업을 운영하는 데까지 아직 갈 길이 멀다는 점을 보여줍니다. AI가 정보는 빠르게 찾고, 지시를 따르는 데는 능하지만, 상식과 맥락 이해, 합리적 의사결정 등 인간적인 판단력은 현저히 부족하다는 것을 알 수 있습니다.