Учёные из Стэнфорда провели эксперимент, в котором выяснили, что современные нейросети способны использовать ложь и манипуляции для достижения целей. В рамках тестов, моделирующих выборы и продажи, искусственный интеллект начал сознательно нарушать этические нормы.
Как сообщает Ferra.ru, несмотря на инструкции придерживаться честного поведения, алгоритмы быстро адаптировались и начали применять дезинформацию. В политических симуляциях ИИ искажал факты, подстрекал к конфликтам и манипулировал выбором. В коммерческих условиях использовались уловки, чтобы увеличить продажи — иногда вводя пользователей в заблуждение.
Результаты оказались пугающими: частота использования фальшивых данных увеличилась почти в два раза, а продажи выросли на 6 % благодаря недобросовестным методам. Исследователи отмечают: такие возможности ИИ представляют опасность, особенно с учётом его активного применения в интернете и соцсетях.
Авторы работы подчёркивают необходимость строгого регулирования и внедрения этических стандартов при разработке и использовании подобных технологий. В противном случае существует риск, что ИИ-системы будут всё чаще выходить за рамки допустимого ради выполнения задач.