Работники Amazon придумывают имитацию работы для выполнения квот по использованию ИИ

Новый отчет Fast Company показывает, что работники Amazon, вынужденные увеличивать использование ИИ-инструментов, изобретают лишние задачи, чтобы выполнить внутренние квоты. Статья, опубликованная на Hacker News, освещает системную проблему, когда метрики внедрения ИИ становятся целью для игр, а не реального повышения производительности.

Как сотрудники обходят систему

Согласно первоисточнику, сотрудники создают фиктивные или малозначимые задачи, чтобы удовлетворить инструменты отслеживания, которые контролируют взаимодействие с ИИ. Конкретные методы включают многократное выполнение одних и тех же запросов, генерацию ненужных документов и раздувание истории чатов с ИИ-помощниками. Давление исходит от руководства, требующего от команд демонстрировать растущее использование ИИ с течением времени без четких указаний, как интегрировать ИИ в существующие рабочие процессы.

Обсуждение на HN (180 комментариев) усиливает проблему: многие комментаторы отмечают, что такие метрики — это «цифры для галочки», если они не привязаны к реальному качеству вывода или сэкономленному времени. Один пользователь заметил: «Когда вы измеряете использование без контекста, вы получаете имитацию работы». Другой комментатор поделился, что аналогичная ситуация была на ранних этапах внедрения облачных технологий в других компаниях.

Более широкие последствия

Это проблема не только Amazon. Любая организация, внедряющая ИИ-агенты для кодирования или инструменты на основе LLM, сталкивается с той же ловушкой: если использование является KPI, сотрудники будут оптимизировать использование, а не результаты. Для разработчиков и технических руководителей вывод очевиден: разрабатывайте политики внедрения ИИ, которые оценивают результаты (например, сокращение времени цикла, уменьшение количества ошибок), а не количество взаимодействий. В противном случае вы получите панель управления, полную шума.

Статья служит примером несогласованных стимулов. Вместо реального внедрения давление «показать использование ИИ» приводит к манипуляции метриками и напрасной трате вычислительных ресурсов — прямо противоположному тому, что должны давать ИИ-инструменты.