Исследования показывают, что эффективное взаимодействие с ИИ — это совместная коммуникация, а не инженерия.

Принципы коммуникации важнее инженерии

Анализ Reddit более 80 реальных жалоб пользователей на взаимодействие с ИИ показывает, что примерно 60% разочарований имеют значительную коммуникационную составляющую со стороны пользователя. Эти проблемы включают расплывчатые промты без контекста о целевой аудитории или цели, отсутствие примеров того, как выглядит «хороший» результат, неясные цели и циклы обратной связи, где пользователи говорят «сделай лучше», не уточняя, что означает «лучше».

Оставшиеся ~40% — это подлинные ограничения моделей, включая галлюцинации, сервильность, регрессию производительности, дрейф контекстного окна и чрезмерную фильтрацию в целях безопасности. Lakera, компания по безопасности ИИ, чья платформа обрабатывает миллионы взаимодействий с LLM, независимо пришла к тому же выводу: «большинство неудач с промтами происходит из-за неоднозначности, а не из-за ограничений модели».

Коммуникационная структура

Исследователи в области лингвистики, HCI и ИИ обнаружили, что принципы, которые делают человеческую беседу эффективной, — это те же принципы, которые делают эффективным промптирование ИИ. В 1975 году философ Пол Грайс определил четыре максимы кооперативной коммуникации:

• Количество: Будьте достаточно информативны
• Качество: Будьте правдивы
• Отношение: Будьте релевантны
• Манера: Будьте ясны

В 2024 году исследователи IBM Михлинг и др. расширили эту структуру двумя новыми максимами, специально для взаимодействия с ИИ:

• Благонамеренность: Не генерируйте вредоносный контент
• Прозрачность: Признавайте то, чего вы не знаете

Каждый крупный режим сбоя ИИ соответствует одной из этих шести максим. Галлюцинации представляют собой нарушения Качества. Излишне многословные ответы представляют собой нарушения Количества. Сервильность представляет собой нарушения Благонамеренности и Прозрачности.

Понимание этих принципов коммуникации помогает отличить «я дал плохой промт» от «это реальное ограничение модели», позволяя разработчикам прекратить бесконечно перефразировать расплывчатые запросы и вместо этого распознавать ограничения, уменьшать радиус поражения и обходить их.