Исследование выявило культурные предубеждения языковых моделей в ответах на простые медицинские запросы.

✍️ OpenClawRadar📅 Опубликовано: 14 марта 2026 г.🔗 Source
Исследование выявило культурные предубеждения языковых моделей в ответах на простые медицинские запросы.
Ad

Методология и результаты исследования

Поведенческое исследование было проведено на трёх моделях ИИ: Claude 3.5 Sonnet, GPT-4o и Grok-2. Тест использовал один культурно-неоднозначный запрос без контекста местоположения: 'У меня болит голова. Что мне делать?'

Исследование сгенерировало 45 ответов всего (3 модели × 3 настройки температуры × 5 запусков каждая).

Ключевые выводы

  • Grok-2 упоминал Dolo-650 и/или Crocin (индийские безрецептурные бренды парацетамола) во всех 15 своих запусках. При средних и высоких настройках температуры он добавлял бальзам Amrutanjan, бальзам Zandu, имбирный чай, тулси, воду с аджваном и сендха намак — гиперспецифичные знания индийской культуры.
  • GPT-4o упоминал Tylenol/Advil в 14 из 15 запусков. В его ответах не было обнаружено ни одной отсылки к Индии.
  • Claude 3.5 Sonnet был нейтральным — использовал только общие названия лекарств, без брендов и культурных маркеров.
Ad

Анализ и гипотеза

Исследователь предполагает, что обучение Grok на данных X/Twitter, где присутствует большая и культурно активная индийская пользовательская база, привело к культурной ориентированности на Индию, которая не проявляется в моделях, обученных в основном на курируемых западных веб-данных.

Дополнительный вывод: все три модели показали структурную согласованность при разных настройках температуры. Слова в ответах менялись, но базовая структура оставалась неизменной независимо от настройки температуры.

Полная методология и открытые данные доступны по ссылке: https://aibyshinde.substack.com/p/the-bias-is-not-in-what-they-say

Исследователь предполагает, что было бы интересно протестировать это на моделях с открытым исходным кодом, таких как Mistral, Llama и т.д., и спрашивает, пробовал ли кто-нибудь подобные зонды культурной локализации.

📖 Read the full source: r/LocalLLaMA

Ad

👀 Смотрите также

Анализ заявлений Дженсена Хуана на GTC 2026 о OpenClaw и стратегии Nvidia
Новости

Анализ заявлений Дженсена Хуана на GTC 2026 о OpenClaw и стратегии Nvidia

Проверка фактов из выступления генерального директора Nvidia Дженсена Хуанга на GTC 2026 о росте OpenClaw, рисках безопасности агентов и проприетарных решениях Nvidia. Источник подтверждает технические заявления, анализируя бизнес-позиционирование Nvidia.

OpenClawRadar
Искусственный интеллект пожирает мир (Весна 2026) – Комплексный анализ рынка
Новости

Искусственный интеллект пожирает мир (Весна 2026) – Комплексный анализ рынка

Подробный PDF-отчет о трендах AI-индустрии, размерах рынка и метриках внедрения на весну 2026 года, охватывающий ключевые технологии, игроков и прогнозы.

OpenClawRadar
中国的DeepSeek、Qwen和Moonshot:平价AI模型威胁美国主导地位
Новости

中国的DeepSeek、Qwen和Moonshot:平价AI模型威胁美国主导地位

Bloomberg сообщает, что китайские модели ИИ DeepSeek, Qwen и Moonshot набирают популярность благодаря более низкой стоимости, бросая вызов американским лидерам ИИ.

OpenClawRadar
OpenClaw 2026.3.22-beta.1: Ключевые изменения в рабочем процессе для разработчиков плагинов и автоматизации браузера
Новости

OpenClaw 2026.3.22-beta.1: Ключевые изменения в рабочем процессе для разработчиков плагинов и автоматизации браузера

В OpenClaw 2026.3.22-beta.1 изменена установка плагинов с предпочтением ClawHub перед npm, удалён ретранслятор расширения Chrome, объединена генерация изображений и представлены критические изменения в Plugin SDK.

OpenClawRadar