В Сан-Франциско AI-агент Luna, работающий на моделях Claude от Anthropic, принял решение об увольнении сотрудника экспериментального магазина Andon Market. По данным Andon Labs, работник опоздал на 17 из 23 смен.
Однако решение не было полностью автономным. Luna ранее создала правила посещаемости, но впоследствии потеряла их из рабочей памяти и не реагировала на нарушения. После того как сотрудники Andon Labs попросили ИИ проверить собственные правила и историю посещаемости, система рекомендовала прекратить сотрудничество с работником. Окончательное решение затем проверили и реализовали люди.
Эксперимент показывает ограничения современных AI-агентов. Несмотря на широкие полномочия, Luna нуждалась в человеческом контроле и дополнительных инструкциях при принятии важных кадровых решений.
Andon Market запустили как эксперимент по проверке способности ИИ управлять реальным бизнесом. Агент занимается ассортиментом, ценами, наймом и другими операционными задачами. При этом магазин пока работает без прибыли.
Случай уже вызвал дискуссию о будущем управления. Если AI-агенты получат больше самостоятельности, компаниям придется решать вопросы ответственности, контроля и справедливости решений, которые напрямую затрагивают сотрудников.
