Мое отношение к ИИ: честный взгляд разработчика на рассуждения, обреченность и открытый веб

Автор этого поста на HN (150 очков, 242 комментария) предлагает освежающе личный взгляд на современный ландшафт ИИ. Он погружается в то, как на самом деле работают LLM, реальные опасности сверхинтеллекта и социальные издержки роста ИИ. Это откровенная, противоречивая перспектива разработчика ПО, наблюдающего за изменениями в мире в реальном времени.

Ключевые моменты из источника

• Как работают LLM: Они описывают LLM как работающие по "наитию" — они генерируют по одному токену за раз без внутреннего рассуждения или алгоритма планирования. Тем не менее, удивительно, но из этого простого процесса возникают способности к планированию и рассуждению.
• Экзистенциальный риск: Автор отмечает, что аргумент Юдковского о том, что сверхинтеллектуальный ИИ уничтожит человечество, кажется "безупречным", однако никто серьезно не пытается изолировать такие системы ИИ в песочнице, потому что они слишком полезны, когда им предоставлен доступ ко всему.
• Влияние на открытый веб: ИИ-краулеры и агенты перегружают открытые вики и форумы, что затрудняет поддержание открытых сообществ.
• Художники страдают: ИИ-"контент" подрывает художников, которые и так борются с финансами, добавляя конкуренцию.
• Политические провалы: Автор злится, что политические системы не могут обуздать власть капитала, что приводит к бесконтрольному потреблению ресурсов ИИ-компаниями и наносит ущерб окружающей среде.

Восхищение и оптимизм

Несмотря на негатив, есть искреннее волнение. Автор чувствует счастье жить в эпоху открытий, когда мы можем стать свидетелями создания искусственного интеллекта. Разработка ПО была "радикально преобразована навсегда" — он признает, что ИИ генерирует код, изображения и музыку, которые он никогда бы не создал иначе.

Итоговая оценка

Автор заключает: положительно на технологическом уровне, мрачно на социальном. Он отмечает, что статья была проверена Mistral, но каждое слово было напечатано им — мета-комментарий о роли ИИ.