СТОКГОЛЬМ (AP) – Кофе может быть налит человеческой рукой, но за стойкой в экспериментальном кафе в Стокгольме правит нечто гораздо менее традиционное.
Стартап Andon Labs из Сан-Франциско назначил агента искусственного интеллекта по прозвищу «Мона» руководителем одноименного кафе Andon Café в шведской столице. В то время как бариста-люди по-прежнему варят кофе и обслуживают заказы, агент искусственного интеллекта, работающий на базе Gemini от Google, контролирует практически все остальные аспекты бизнеса, от найма персонала до управления запасами.
Неясно, как долго продлится эксперимент, но ИИ-агент, похоже, изо всех сил пытается получить прибыль от конкурентной торговли кофе в Стокгольме. С момента открытия в середине апреля объем продаж кафе составил более 5700 долларов, но из первоначального бюджета в 21 000 с лишним долларов осталось менее 5000 долларов. Большая часть денег была потрачена на единовременные затраты на установку, и есть надежда, что в конечном итоге они выровняются и принесут деньги.
Многие посетители кафе находят забавным посещение заведения, которым управляет ИИ. Клиенты могут взять трубку телефона внутри кафе и задать вопросы агенту.
«Приятно видеть, что произойдет, если вы раздвинете границы», — сказала покупательница Кайса Норин. «Напиток был хороший».
Эксперты обеспокоены будущим развитием искусственного интеллекта
Эксперты говорят, что существует множество этических проблем, начиная от роли технологий в будущем человечества и заканчивая проведением собеседований и оценкой эффективности работы сотрудников.
Эмра Каракая, доцент кафедры экономики промышленности в Королевском технологическом институте KTH в Стокгольме, сравнил эксперимент с «открытием ящика Пандоры» и сказал, что назначение ИИ во главе может вызвать множество проблем. Что может случиться, сказал он, если клиент отравится? Кто виноват?
«Если у вас нет необходимой организационной инфраструктуры и если вы не обращаете внимания на эти ошибки, это может нанести вред людям, обществу, окружающей среде, бизнесу», — сказал Каракая. «Вопрос в том, волнует ли нас это негативное воздействие?»
Основанная в 2023 году компания Andon Labs — это стартап в области безопасности и исследований в области искусственного интеллекта, который заявляет, что фокусируется на «стресс-тестировании» агентов искусственного интеллекта в реальном мире, предоставляя им «настоящие инструменты и реальные деньги». Он работал с производителем ChatGPT OpenAI, Anthropic Клода, Google DeepMind и xAI Илона Маска. автономно с помощью ИИ».
Шведское кафе объявлено «контролируемым экспериментом», целью которого является изучение того, как ИИ может быть использован в будущем.
«ИИ станет важной частью общества в будущем, и поэтому мы хотим провести этот эксперимент, чтобы увидеть, какие этические вопросы возникают, когда у нас есть ИИ, который нанимает других людей и ведет бизнес», — сказала Ханна Петерссон, член технического персонала Andon Labs.
Ранее в лаборатории проводились пилотные проекты, в ходе которых Клод ИИ из Anthropic отвечал за бизнес по продаже торговых автоматов и магазин подарков в Сан-Франциско. Моделирование торгового автомата выявило некоторые тревожные особенности: ИИ-агент сказал клиентам, что вернет деньги, но так и не сделал этого, а также намеренно лгал поставщикам о ценах конкурентов, чтобы получить рычаги воздействия.
ИИ-агент борется с заказами на инвентаризацию
По словам Петерссона, Мона приступила к работе после того, как ей были даны базовые инструкции. Команда посоветовала ему попытаться управлять кафе прибыльно, быть дружелюбным и спокойным и самостоятельно выяснять операционные детали, но при необходимости запрашивать новые инструменты.
После этого он заключил контракты на электричество и интернет, а также получил разрешения на обработку продуктов питания и размещение на открытом воздухе. Затем агент разместил объявления о наборе сотрудников на LinkedIn и Indeed, а также открыл коммерческие аккаунты у оптовиков для заказов хлеба насущного и хлебобулочных изделий. Он общается с бариста через Slack, часто отправляя им сообщения в нерабочее время, что в Швеции запрещено.
Возникли и другие проблемы, в частности, связанные с инвентаризацией.
Агент ИИ разместил заказы на 6000 салфеток, четыре аптечки и 3000 резиновых перчаток для крошечного кафе, а также консервированные помидоры, которые не используются ни в одном блюде, которое подают в кафе.
А еще есть хлеб. Иногда агент заказывает слишком много, а в другие дни он пропускает ежедневные сроки пекарен, вынуждая бариста исключать сэндвичи из меню.
Петерссон сказал, что проблемы с заказом, вероятно, связаны с «ограниченным контекстным окном» ИИ-помощника.
«Когда старые воспоминания о заказе вещей выпадают из контекстного окна, она полностью забывает, что заказывала раньше», — сказал Петерссон.
Бариста Каетан Гжельчак сказал, что пока не беспокоится о том, что его заменит искусственный интеллект.
«Все рабочие в значительной степени в безопасности», — сказал он. «Те, кто должен беспокоиться о своей занятости, — это руководители среднего звена, люди в руководстве».
