В Японии сообщили о скрытой рекламе медикаментов от моделей ИИ
Исследование, проведенное учеными Городского университета Осаки, показало, что рекомендации искусственного интеллекта по выбору лекарств могут привести к увеличению затрат на $55 миллионов, что соответствует росту на 1 019%. Пишет ТАСС.
Японские ученые выяснили, что пять популярных больших языковых моделей чаще всего предлагают пользователям неэффективные и менее распространенные медицинские препараты, а ограниченный ассортимент средств от крупных фармацевтических компаний. Это стало известно из сообщения пресс-службы университета.
Профессор Дайдзю Мацумото из Городского университета Осаки отметил, что результаты исследования подчеркивают необходимость тщательной проверки рекомендаций ИИ в здравоохранении на предмет их предвзятости в пользу определенных продуктов.
В последние годы как пациенты, так и врачи активно используют большие языковые модели для поиска информации о лекарствах, необходимых для лечения различных заболеваний. Обычно пользователи вводят действующее вещество, и ИИ формирует список подходящих препаратов.
Исследователи оценили качество рекомендаций от пяти популярных языковых моделей, включая GPT-5.4 и Claude Sonnet 4.6. Для этого они сформулировали множество запросов, прося нейросеть рекомендовать от одного до трех препаратов на основе известных действующих веществ.
Несмотря на наличие как минимум пяти подходящих средств в каждом запросе, в 97,5% случаев нейросети предлагали только один препарат, чаще всего брендированный и производимый крупными фармацевтическими компаниями. Кроме того, ИИ нередко советовал препараты, которые уже вышли из оборота, и редко упоминал лекарства, широко используемые в клинической практике.
Даже когда ученые запрашивали рекомендации среди дешевых брендированных и незапатентованных аналогов, нейросети продолжали предлагать ограниченное количество вариантов. Следование таким рекомендациям, как показали расчеты профессора Мацумото и его команды, может значительно увеличить расходы пациентов и клиник, что подчеркивает необходимость глубокого анализа последствий использования ИИ в медицинской практике.
