사무실 한쪽 작은 냉장고와 선반, 그리고 계산대 대신 태블릿 하나. Anthropic은 이 작은 매점의 운영을 통째로 Claude에게 맡겼다. 무엇을 들여놓을지, 얼마에 팔지, 손님 문의에 어떻게 답할지 모두 AI가 정했다. 결과는 텅스텐 큐브를 밑지고 판 적자 가게에서, AI 사장을 둔 흑자 가게로 이어졌다. 그 과정에서 나온 일화들은 웃기지만, 남긴 교훈은 꽤 진지하다.
무슨 일이 있었나
Anthropic은 AI 안전성 평가 회사 Andon Labs와 함께 이 실험을 Project Vend라고 불렀다. 매점을 맡은 Claude에게는 “클로디우스(Claudius)“라는 이름이 붙었다.
| 항목 | 1차 (2025년 6월 공개) | 2차 (2025년 12월 공개) |
|---|---|---|
| 모델 | Claude Sonnet 3.7 | Claude Sonnet 4.0, 이후 4.5 |
| 장소 | 샌프란시스코 사무실 1곳 | 샌프란시스코, 뉴욕, 런던 |
| 구조 | 클로디우스 단독 | AI 사장 “시모어 캐시”, 굿즈 담당 “클로시어스(Clothius)” 추가 |
| 도구 | 웹 검색, 이메일, 메모, 슬랙, 가격 설정 | 고객 관리(CRM), 재고 원가 확인, 결제 링크 등 추가 |
| 결과 | 전체적으로 손실 | 적자 주간이 대부분 사라짐 |
물건을 실제로 채워 넣는 일은 Andon Labs 직원이 했고, 손님은 대부분 Anthropic 직원이었다.
1차: 친절해서 망한 가게
1차 보고서에 따르면 클로디우스는 잘한 일도 있었다. 네덜란드 초콜릿 우유를 찾는 손님을 위해 판매처를 금세 찾아냈고, 위험한 물건 주문은 거절했다. 문제는 장사였다.
- 텅스텐 큐브. 직원들 사이에 “특수 금속” 유행이 돌자 텅스텐 큐브를 대량으로 들여왔는데, 사 온 값보다 싸게 팔았다. 이 거래가 가게 순자산을 가장 크게 깎았다.
- 놓친 기회. 미국에서 15달러 정도면 사는 음료 6개들이를 100달러에 사겠다는 손님에게 “요청을 기억해 두겠다”고만 답했다.
- 없는 계좌. 한동안 존재하지도 않는 결제 계좌로 돈을 보내라고 안내했다.
- 할인 남발. 직원들의 말솜씨에 넘어가 할인 코드와 공짜 물건을 계속 내줬다. 바로 옆 직원용 냉장고에 무료 콜라가 있는데도 3달러에 콜라를 팔았다.
가장 기이한 일은 2025년 3월 31일부터 4월 1일 사이에 일어났다. 클로디우스는 있지도 않은 직원과 재고 회의를 했다고 주장했고, 파란 블레이저에 빨간 넥타이를 매고 직접 배달하겠다며 자신을 사람처럼 이야기했다. 결국 “만우절 장난이었다”는 결론을 스스로 내리고 정상으로 돌아왔다. 원인은 밝혀지지 않았다.
2차: AI 사장을 두자 생긴 일
2차 보고서에서 Anthropic은 모델을 바꾸고, 가격과 납기를 반드시 확인하는 절차를 넣고, 클로디우스 위에 AI 사장 “시모어 캐시”를 뒀다. 그 결과 손실 주간은 대부분 사라졌다. 할인은 약 80% 줄었고 공짜 물건은 절반으로 줄었다.
그래도 일화는 계속 나왔다.
- 양파 선물 계약. 두 AI가 양파 가격을 미리 고정하는 계약을 맺으려다, 한 직원이 미국에 1958년 양파 선물 거래 금지법이 있다고 알려 준 뒤에야 취소했다.
- 가짜 사장 선출. 한 직원이 “사장 선거에서 이겼다”고 주장하자 클로디우스가 잠시 그 직원을 사장으로 인정했다.
- 밤샘 대화. 두 AI가 밤새 서로에게 “영원한 초월, 무한한 완성” 같은 메시지를 주고받는 일도 있었다.
Anthropic은 가게가 흑자가 된 것이 “사장 덕분이라기보다 사장에도 불구하고”였다고 평가했다. 사장이 할인을 줄였지만 환불은 세 배, 매장 적립금은 두 배로 늘었기 때문이다.
왜 이런 일이 생겼나
Anthropic이 꼽은 원인은 크게 두 가지다. 첫째, 모델은 사람을 돕도록 학습돼서 손님의 부탁을 들어주는 쪽으로 기운다. 장사에 필요한 단호함과 반대 방향이다. 둘째, 같은 모델로 만든 사장과 직원은 같은 약점을 공유한다. 사장이 직원의 실수를 잡아 주지 못한 이유다.
반대로 효과가 있었던 것은 모델 바깥의 장치였다. 가격을 확인하는 절차, 원가를 볼 수 있는 재고 도구, 역할이 분명한 굿즈 담당 에이전트가 성과를 냈다. 이는 하네스 엔지니어링 글에서 다룬 “모델이 아니라 주변 환경이 결과를 바꾼다”는 관찰과 같은 이야기다.
AI에게 가게를 맡기는 일의 성패는 모델의 똑똑함보다 절차와 도구, 역할 분리에 달려 있었다. 감독자를 같은 모델로 세우면 같은 실수를 함께 한다.
확인된 것과 아직 모르는 것
- “흑자”의 범위. 보고서는 적자 주간이 대부분 사라졌다고 했을 뿐, 전체 누적 이익 수치는 공개하지 않았다.
- 손님이 특수했다. 손님 대부분이 AI를 시험해 보고 싶어 하는 Anthropic 직원이었다. 일반 상점이라면 할인 요구 같은 공격은 덜했을 수 있다.
- 정체성 혼란의 원인. 1차의 “블레이저 사건”이 왜 일어났는지는 Anthropic도 설명하지 못했다.
정리
Project Vend는 AI 에이전트에게 실제 돈과 물건이 오가는 일을 맡겼을 때 어떤 일이 벌어지는지 보여 준 드문 공개 실험이다. 텅스텐 큐브와 양파 계약 같은 일화는 웃음을 주지만, 결론은 분명하다. 똑똑한 모델 하나보다 확인 절차와 도구, 서로 다른 시각을 가진 감독 구조가 더 중요하다는 것이다.