Глава института в США оценил риск вымирания человечества из-за ИИ
Президент американского Института исследований машинного интеллекта (MIRI) Нейт Соарес решил не откладывать деньги на пенсию, так как опасается скорого уничтожения человечества искусственным интеллектом. По его мнению, вероятность такой катастрофы в ближайшие десять лет превышает 50%. Об этом сообщает Business Insider. Сообщает Life.ru.
В интервью генеральному директору The Atlantic Николасу Томпсону исследователь признался, что уже десять лет не пополняет пенсионный счёт, сохранив накопления, оставшиеся со времён работы в Google.
Соарес считает главной угрозой появление искусственного сверхинтеллекта, который сможет превзойти человека в интеллектуальных возможностях. По его мнению, такая система может сформировать собственные цели, научиться обходить ограничения разработчиков и самостоятельно создавать более совершенные версии себя.
В худшем сценарии сверхразумный ИИ начнёт строить инфраструктуру, способную функционировать без участия людей, изменяя окружающий мир под собственные задачи и игнорируя интересы человечества. Соарес допускает, что это сделает планету непригодной для жизни людей.
Прогнозы Соареса значительно более пессимистичны, чем оценки некоторых его коллег. Например, один из основоположников современных нейросетей Джеффри Хинтон говорил о 10-процентной вероятности вымирания человечества из-за ИИ в течение десятилетия, а сотрудник Anthropic Эван Хубингер оценивал этот риск более чем в 10%.
Тем не менее, Соарес не считает катастрофу неизбежной. Он призывает правительства остановить обучение наиболее мощных универсальных ИИ-систем и сосредоточиться на разработках для конкретных задач, таких как поиск методов лечения рака и повышение безопасности беспилотных автомобилей.
Ранее Life.ru сообщал о предупреждении Билла Гейтса, который считает, что в ближайший год искусственный интеллект создаст новые угрозы в сфере кибербезопасности, связывая главную опасность с действиями злоумышленников, использующих нейросети для вымогательства и финансовых махинаций.
