Создатель нейросетей призывает остановить развитие технологий
Джеффри Хинтон, британско-канадский физик, чьи работы стали основой современного машинного обучения и которого называют «крестным отцом» искусственного интеллекта, в интервью изданию The Guardian выразил мнение, что человечество могло бы избежать многих проблем, если бы нейросети оставались исключительно в научных кругах. Сообщает Югополис.
78-летний ученый, получивший Нобелевскую премию по физике в 2024 году за свои достижения в области искусственных нейронных сетей, перестал верить в положительное влияние своих изобретений. Он утверждает, что мир стоит на грани кризиса: уже в ближайшие годы неконтролируемое развитие алгоритмов может вызвать техногенные или финансовые катастрофы глобального масштаба.
Хинтон описывает тревожный сценарий, в котором сбой в нейросети может привести к отключению энергосетей или параличу мировой банковской системы. Он сравнивает возможный цифровой коллапс с аварией на Чернобыльской АЭС, полагая, что только серьезная катастрофа сможет заставить мировых лидеров пересмотреть свои подходы к безопасности в сфере ИИ. Ученый с горечью отмечает, что, возможно, лучше было бы вообще не создавать эту технологию, поскольку цена ошибки может быть равна выживанию цивилизации.
Профессор Хинтон также выражает обеспокоенность по поводу моральных ориентиров тех, кто управляет цифровым прогрессом. Он обвиняет руководство крупных технологических компаний в игнорировании рисков ради прибыли. В его высказываниях нет места дипломатии, когда речь идет об Илоне Маске, Марке Цукерберге и Сэме Альтмане: по мнению ученого, эти лидеры осознают экзистенциальные угрозы, но их больше волнуют финансовые выгоды. Хинтон также высказывает недоверие к главе OpenAI, считая его подход к безопасности безответственным в условиях гонки за мировое лидерство с Китаем.
Заглядывая в будущее, Хинтон видит два возможных сценария. В первом человечество контролирует технологии, что может привести к «радикальному изобилию», где алгоритмы избавляют людей от нужды. Во втором случае, если развитие технологий продолжится без ограничений, ИИ может вызвать социальное расслоение, уничтожить миллионы рабочих мест и разрушить привычное общество.
Ранее Хинтон уже оценивал вероятность полного вымирания человечества от действий искусственного разума в 10–20% в течение следующих 30 лет и призывал правительства ввести мораторий на создание автономных систем, превосходящих человеческий интеллект.
