Три обратных закона робототехники: человеческие руководства по использованию ИИ

В недавней статье Сусам Пал выявляет подводные камни современного взаимодействия с ИИ и предлагает три Обратных закона робототехники, направляющих поведение человека в отношении систем ИИ. В отличие от законов Азимова для роботов, эти применимы к людям и призваны предотвратить некритическое принятие результатов ИИ.

Три обратных закона

1. Не антропоморфизируйте: Люди не должны приписывать системам ИИ эмоции, намерения или моральную ответственность. Антропоморфизм искажает суждения и может привести к эмоциональной зависимости. Автор рекомендует разработчикам делать ответы ИИ более механическими, а не человекоподобными.
2. Не доверяйте слепо: Люди не должны слепо доверять выводам ИИ. Системы ИИ — это большие статистические модели, создающие правдоподобный текст; они могут быть фактически неверными, вводящими в заблуждение или неполными. Статья призывает размещать заметные предупреждения на сервисах ИИ.
3. Не отказывайтесь от ответственности: Люди должны нести полную ответственность за последствия использования ИИ. Это включает проверку результатов и не перенос вины на инструмент.

Практические последствия

Пал отмечает, что многие поисковые системы выделяют сгенерированные ИИ ответы вверху, приучая пользователей воспринимать ИИ как источник по умолчанию. Он предлагает небольшие языковые изменения: вместо «Я спросил у ChatGPT» говорить «Я использовал ChatGPT для генерации текста». Обратные законы не являются исчерпывающими, но дают основу для более безопасного взаимодействия с ИИ.