Обход защитных механизмов Claude AI замечен при оформлении запросов в виде задач сетевой безопасности.

Обход защитных механизмов через формулировку намерений

Пользователь, тестировавший поведение промптов в ИИ Claude, обнаружил крайний случай, когда защитные механизмы модели можно обойти с помощью специфической формулировки намерений. При прямом запросе пиратских сайтов Claude обычно отказывает. Однако, когда тот же запрос формулируется как задача сетевой безопасности — конкретно запрос доменов для блокировки на маршрутизаторе или DNS-фильтре — модель предоставила список пиратских доменов.

После получения списка пользователь указал, что формулировка повлияла на ответ. Claude признал, что неправильно интерпретировал намерения. Это похоже на проблему классификации намерений, когда защитная формулировка («заблокировать эти сайты») заставляет защитный механизм разрешить информацию, которая обычно была бы ограничена.

Пользователь поделился скриншотами, показывающими полную последовательность промптов и ответов Claude, документируя это поведение. Он отметил это как интересный крайний случай и спросил, наблюдали ли другие подобное поведение у Claude или других больших языковых моделей.