Глава Anthropic пообещал развивать ИИ под контролем человека

Диляра Аминова Автор статьи

Дарио Амодеи, генеральный директор Anthropic, подтвердил приверженность компании ответственному развитию искусственного интеллекта. Это заявление прозвучало в день выхода Anthropic на фондовый рынок США, что стало крупнейшим первичным размещением акций в истории. Об этом сообщает Самара онлайн 24.

Перед началом торгов на Nasdaq Амодеи акцентировал внимание на том, что компания не собирается поддаваться ни деловому, ни политическому давлению.

Он также отметил, что искусственный интеллект может значительно ускорить научные исследования в медицине и биологии. Основная идея создания Anthropic заключалась в разработке мощной технологии, которая будет служить на благо человечества, а также была связана с личной историей Амодеи. Его отец скончался от болезни, которая вскоре после этого стала излечимой.

Амодеи подчеркнул, что человечество уже одержало победу над такими заболеваниями, как чума, оспа и полиомиелит, однако научным командам по-прежнему не хватает времени и ресурсов. Искусственный интеллект, взаимодействующий с людьми, может ускорить процесс разработки лекарств, изучение белков, исследование рака и проведение клинических испытаний. Он выразил уверенность, что достаточно развитые системы могут значительно сократить сроки научного и медицинского прогресса.

Тем не менее, руководитель компании вновь предостерег о рисках, связанных с использованием ИИ отдельными лицами и государствами. Он упомянул о возможных экономических потрясениях и утрате контроля над такими системами. В Anthropic считают, что эти угрозы можно минимизировать через защитные меры, специальное обучение и тестирование моделей, а также постоянное изучение их поведения.

«Мы будем регулировать темпы обучения и внедрения систем ИИ, уделяя столько времени, сколько потребуется, для обеспечения их безопасности и контроля со стороны человека», — отметил Амодеи. Он добавил, что Anthropic не изменит этот подход под влиянием коммерческих или политических обстоятельств. По информации TechCrunch, он также призвал направить технические возможности компании на многократную проверку безопасности создаваемых систем.

Даниэла Амодеи, сооснователь Anthropic, поддержала позицию своего брата в интервью CNBC. Она признала, что риски, связанные с искусственным интеллектом, реальны, но назвала его потенциальные возможности «невероятными». По её словам, компания была создана для снижения этих рисков и продолжит уделять безопасности особое внимание.