OpenAI начнёт проверять переписку ChatGPT и сообщать о рисках в полицию

Компания OpenAI объявила об изменениях в политике конфиденциальности: теперь переписка пользователей с ChatGPT будет анализироваться на предмет потенциально опасного или вредоносного контента. Об этом говорится в новой записи на официальном блоге компании.

Согласно заявлению, особое внимание уделяется сообщениям, содержащим угрозы себе или другим. Если такие случаи выявляются, информация передаётся команде специалистов, обученной выявлять риски и принимать соответствующие меры — вплоть до блокировки аккаунта.

Если проверка покажет, что пользователь действительно представляет угрозу для окружающих, OpenAI может передать информацию в правоохранительные органы. Речь идёт о ситуациях, связанных с подготовкой насилия, нанесением вреда, уничтожением имущества или попытками получить доступ к защищённым системам.

Компания подчёркивает, что основная цель — обеспечить безопасность пользователей и не допустить нанесения вреда. Также в публикации указано, что на текущий момент ни один случай ещё не был передан в полицию, однако такая возможность предусмотрена политикой в случае крайней необходимости.

Пользователей предупреждают: любая попытка использовать ИИ в опасных целях или с нарушением закона может привести к блокировке и возможным юридическим последствиям.

Источник: Naked-Science.