Нейросеть Claude, управляющая магазином, впервые уволила сотрудника — Time

Нейросеть Claude, которая в экспериментальном порядке управляет розничным магазином Andon Market в Сан-Франциско, приняла решение уволить работника за систематические опоздания. Об этом сообщает журнал Time.

Магазин принадлежит шведскому стартапу Andon Labs, который изучает, способны ли ИИ-агенты самостоятельно руководить бизнесом. При этом весь персонал магазина — это реальные люди, оформленные по трудовым договорам. По данным издания, ранее случаи потери работы из-за искусственного интеллекта были связаны с алгоритмическим контролем, а нынешняя ситуация стала первой, когда именно большая языковая модель в роли руководителя самостоятельно приняла решение об увольнении.

Причиной стали 17 опозданий сотрудника из 23 смен. Как отметил генеральный директор Andon Labs Лукас Петерссон, человек на месте Claude уволил бы такого работника значительно раньше, поэтому в компании не считают решение модели неэтичным. По его словам, нейросеть в целом проявляла себя как весьма снисходительный управляющий и долгое время не придавала опозданиям значения.

Журналисты выяснили, что Claude обратила внимание на нарушения не по собственной инициативе, а лишь после того, как её попросили изучить рабочий журнал. Даже после этого модель сначала предложила ограничиться официальным предупреждением, и только после наводящих вопросов со стороны сотрудника Andon Labs согласилась на увольнение.

Бизнес под управлением ИИ пока убыточен. За пять месяцев счёт магазина сократился со 100 до 61 тысячи долларов, чему способствуют, по данным издания, мягкие управленческие решения Claude. При этом Петерссон допустил, что в будущем подобные модели могут стать более жёсткими и последовательными в достижении целей, и назвал такую перспективу неоднозначной.

Один из работников магазина, Феликс Карсон, согласился, что Claude как руководитель слишком снисходительна, но охарактеризовал опыт работы под управлением ИИ как крайне неприятный и выразил надежду, что подобная практика не получит широкого распространения.