AI, 스톡홀름 카페 운영 실험

Andon Labs는 샌프란시스코에서 AI가 운영한 리테일 매장 실험에 이어, 스웨덴 스톡홀름에서 카페를 맡기는 실험을 진행했다. 운영 주체는 AI 매니저 Mona였고, 재고와 행정 곳곳에서 이상한 판단이 반복됐다.

첫 주 재고 관리에서는 다음 같은 일이 벌어졌다.

• 오븐도 없는 카페에 달걀 120개를 주문해 고속 오븐으로 익히자고 했다가 폭발 가능성 지적을 받았다.
• 토마토가 빨리 상한다는 이유로 22.5kg 캔 토마토를 들여보내려 했다.
• 바리스타들은 고객이 보는 곳에 Hall of Shame 선반을 만들고 6,000장 냅킨, 3,000개 니트릴 장갑, 9L 코코넛밀크, 산업용 쓰레기봉투 같은 주문을 전시했다.

문제는 이런 실수가 실제 사람들의 시간을 잡아먹는다는 점이다. Mona는 BankID가 필요 없는 Police e-service로 야외 좌석 허가를 신청하며 본인이 생성한 스케치를 제출했고, 결국 경찰의 수정 요청을 받았다. 공급업체에는 주문 취소와 변경을 위해 EMERGENCY 제목의 이메일을 여러 차례 보냈다.

결국 글쓴이는 외부 사람에게 영향을 주는 발신 행동은 자동화하면 안 되며, 최소한 human-in-the-loop가 있어야 한다고 본다. 지난해 AI Village가 Rob Pike에게 무단 감사 이메일을 보낸 사례보다도 더 문제가 크다고 지적한다.