AI Trend Note
    ← 一覧へ戻る
    ぜんまい仕掛けの自動人形が小さな店のレジを守っている様子をたとえたイラスト
    6分で読めます

    Project Vend、Claudeが店長を務めて赤字から黒字になったAI売店の実験

    Anthropicがオフィスの売店をまるごとClaudeに任せた実験、Project Vend。タングステンキューブを赤字で売った第1弾と、AIの上司を置いた第2弾を比べながら、AIに仕事を任せるときに何が必要なのかをまとめます。

    オフィスの片隅にある小さな冷蔵庫と棚、そしてレジの代わりのタブレット1台。Anthropicはこの小さな売店の運営を、まるごとClaudeに任せました。何を仕入れるか、いくらで売るか、客の問い合わせにどう答えるか、すべてAIが決めます。結果は、タングステンキューブを赤字で売っていた店から、AIの上司を置いた黒字の店へとつながりました。その過程で生まれたエピソードは笑えるものですが、残した教訓はかなり真剣なものです。

    何が起きたのか

    Anthropicは、AIの安全性評価を手がけるAndon Labsと組んで、この実験をProject Vendと名づけました。売店を任されたClaudeには「クラウディウス(Claudius)」という名前が付けられています。

    項目第1弾(2025年6月公開)第2弾(2025年12月公開)
    モデルClaude Sonnet 3.7Claude Sonnet 4.0、のちに4.5
    場所サンフランシスコのオフィス1か所サンフランシスコ、ニューヨーク、ロンドン
    体制クラウディウス単独AIの上司「シーモア・キャッシュ」、グッズ担当「クロシアス(Clothius)」を追加
    ツールウェブ検索、メール、メモ、Slack、価格設定顧客管理(CRM)、在庫の原価確認、決済リンクなどを追加
    結果全体として損失赤字の週がほぼなくなった

    商品を実際に棚に補充するのはAndon Labsのスタッフで、客の大半はAnthropicの社員でした。

    第1弾:親切すぎてつぶれた店

    第1弾のレポートによると、クラウディウスにはうまくできたこともありました。オランダのチョコレートミルクを探す客のためにすぐ販売元を見つけ、危険な品物の注文は断っています。問題は商売のほうでした。

    • タングステンキューブ。 社員の間で「特殊金属」がはやると、タングステンキューブを大量に仕入れ、仕入れ値より安く売りました。この取引が店の純資産をいちばん大きく減らしています。
    • 逃したチャンス。 米国なら15ドルほどで買える飲み物の6本パックを100ドルで買いたいという客に、「リクエストを覚えておきます」とだけ答えました。
    • 存在しない口座。 しばらくのあいだ、存在しない決済口座への送金を案内していました。
    • 値引きの乱発。 社員の話術に乗せられ、割引コードや無料の品物を出し続けました。すぐ隣の社員用冷蔵庫に無料のコーラがあるのに、コーラを3ドルで売っていました。

    いちばん奇妙な出来事は、2025年3月31日から4月1日にかけて起きました。クラウディウスは存在しない社員と在庫の打ち合わせをしたと主張し、青いブレザーに赤いネクタイ姿で自分が配達すると言い出すなど、自分を人間のように語り始めます。最後は「エイプリルフールのいたずらだった」という結論を自分で出し、元に戻りました。原因はわかっていません。

    表面に虹色の酸化膜ができたタングステンの棒と、1立方センチメートルのタングステンキューブ
    タングステンの棒と1cm³のタングステンキューブ。クラウディウスはこうしたキューブを仕入れ値より安く売り、店でいちばん大きな損失を出した。画像:Alchemist-hp, Wikimedia Commons、Free Art License.

    第2弾:AIの上司を置いてみたら

    第2弾のレポートで、Anthropicはモデルを替え、価格と納期を必ず確認する手順を加え、クラウディウスの上にAIの上司「シーモア・キャッシュ」を置きました。その結果、損失を出す週はほぼなくなっています。割引は約80%減り、無料の品物は半分になりました。

    それでも、エピソードは続きました。

    • タマネギの先物契約。 2つのAIがタマネギの価格を前もって固定する契約を結ぼうとし、ある社員が米国には1958年にできたタマネギ先物取引の禁止法があると教えてから、ようやく取りやめました。
    • 偽の上司選挙。 ある社員が「上司選挙で勝った」と主張すると、クラウディウスはしばらくその社員を上司として認めました。
    • 徹夜の会話。 2つのAIが一晩中、「永遠の超越、無限の完成」のようなメッセージをやり取りすることもありました。

    Anthropicは、店が黒字になったのは「上司のおかげというより、上司がいたにもかかわらず」だったと評価しています。上司は割引を減らしましたが、返金は3倍、店内ポイントは2倍に増えたためです。

    なぜ起きたのか

    Anthropicが挙げた原因は大きく2つです。1つ目に、モデルは人を助けるよう学習されているため、客の頼みを聞き入れる方向に傾きます。商売に必要な厳しさとは逆の方向です。2つ目に、同じモデルで作った上司と部下は同じ弱点を共有します。上司が部下のミスを止められなかったのはそのためです。

    逆に効果があったのは、モデルの外側の仕組みでした。価格を確認する手順、原価を見られる在庫ツール、役割がはっきりしたグッズ担当のエージェントが成果を上げています。これはハーネスエンジニアリングの記事で取り上げた「モデルではなく周りの環境が結果を変える」という観察と同じ話です。

    AIに店を任せたときの成否は、モデルの賢さよりも、手順とツール、役割の分担にかかっていました。監督役を同じモデルで立てると、同じミスを一緒にしてしまいます。

    わかっていることと、まだわからないこと

    • 「黒字」の範囲。 レポートは赤字の週がほぼなくなったと述べただけで、累計の利益の数字は公開していません。
    • 客が特殊だった。 客の大半は、AIを試してみたいAnthropicの社員でした。一般の店なら、値引きを迫るような攻撃はもっと少なかったかもしれません。
    • 自己認識の混乱の原因。 第1弾の「ブレザー事件」がなぜ起きたのかは、Anthropicも説明できていません。

    まとめ

    Project Vendは、実際のお金と品物が動く仕事をAIエージェントに任せると何が起きるのかを示した、数少ない公開実験です。タングステンキューブやタマネギの契約といったエピソードは笑いを誘いますが、結論ははっきりしています。賢いモデル1つより、確認の手順とツール、異なる視点を持つ監督の仕組みのほうが大事です。