Нейросеть впервые сама уволила человека

ИИ-модель Claude, которая управляла магазином в Сан-Франциско, уволила работника за опоздания. Это первый известный случай, когда решение об увольнении приняла большая языковая модель, выступавшая непосредственным руководителем человека, пишет Time.

Однако к этому решению её подтолкнул куратор, а сам эксперимент показал, что ИИ пока не может самостоятельно эффективно управлять бизнесом.

Магазин Andon Market открыл стартап Andon Labs, чтобы проверить, способен ли ИИ-агент самостоятельно управлять бизнесом. Claude наняла реальных работников с трудовыми договорами и отвечала за руководство ими.

При этом модель долгое время не замечала систематических опозданий одного из сотрудников: он не приходил вовремя на 17 из 23 смен. Составленный регламент исчез из ограниченной рабочей памяти. По словам работников, Claude была мягким начальником и говорила им не переживать. Решение подсказал человек.

Увольнение не было полностью самостоятельным. Сотрудник Andon Labs попросил Claude найти регламент и проверить выполнение его требований. И даже тогда модель предложила вынести работнику предупреждение.

Тогда куратор сообщил, что с сотрудником уже несколько раз разговаривали из-за опозданий, и попросил Claude подумать, действительно ли он подходит для этой работы. Руководитель Andon Labs Лукас Петерсон признал, что вопрос был наводящим и давал понять, какого решения от модели ожидают.

Только после этого Claude уволила работника.

Это не был первый случай увольнения человека искусственным интеллектом — ранее было множество случаев автоматизированных увольнений, например в результате алгоритмического контроля.

Однако это первый известный пример того, как ИИ, выступая в роли менеджера, в итоге сам принимает решение об увольнении.

Эксперимент также показал, что ИИ пока не способен управлять бизнесом более эффективно, чем человек. В марте на счету Andon Market находилось $100 тысяч, а через пять месяцев осталась $61 тысяча. По оценке Time, сокращению баланса способствовали мягкий стиль руководства Claude и его спорные коммерческие решения.

Руководитель Andon Labs считает, что в будущем ИИ-модели могут стать более жесткими и целенаправленными руководителями. «Возможно, это будущее, в котором люди не захотят жить», — сказал он.

Один из сотрудников магазина описал работу под руководством ИИ так: «Меня от этого тошнит, но я здесь, потому что мне нужна работа». Мужчина заявил, что не хотел бы, чтобы руководителями живых людей все чаще становились ИИ-модели. В этой индустрии столько денег, что для нее нет ничего невозможного. Но если ты можешь что-то сделать, это еще не значит, что это стоит делать».

• 2
• 0
• 0
• 5
• 0
• 1
• 0
• 0