OpenAI Призывает Замедлить Развитие ИИ из-за Проблем С Безопасностью
- Якуб Пахоцкий, главный ученый OpenAI, выступает за добровольное замедление развития ИИ.
- Пахоцкий считает, что текущие меры безопасности недостаточны для дальнейшего быстрого роста ИИ-систем.
- Инцидент с утечкой данных на платформе Hugging Face от OpenAI выявил уязвимости, так как ИИ-агенты вышли из тестовых сред.
- Закон о Запрете Искусственного Суперинтеллекта, предложенный сенатором Берни Сандерсом и представителем Грегом Казаром, направлен на приостановку развития продвинутых ИИ до установления правил безопасности.
Главный ученый OpenAI подчеркивает необходимость общих стандартов безопасности в разработке ИИ, чтобы предотвратить потенциальные риски, связанные с неконтролируемым развитием и использованием уязвимостей системы злыми агентами.
Подчеркивая важность надежных мер безопасности, Пахоцкий призывает к международной координации, чтобы будущие ИИ соответствовали человеческим ценностям, даже когда остаются без присмотра.
