Предложение запретить искусственный сверхинтеллект
- Сенатор Берни Сандерс и конгрессмен Грег Казар предложили законопроект, чтобы запретить искусственный сверхинтеллект и приостановить развитие продвинутых ИИ.
- Предлагаемое законодательство включает наказания до 20 лет тюрьмы за нарушение.
- OpenAI представила GPT-6 Astra, который, по словам соучредителя Грега Брокмана, может квалифицироваться как AGI.
- Будет создано новое федеральное агентство для установления стандартов безопасности для моделей ИИ.
- Модель Astra от OpenAI отмечена достижением «критического» уровня возможностей кибербезопасности.
Закон о запрете искусственного сверхинтеллекта нацелен на предотвращение разработки ИИ систем, которые могут превосходить человеческий контроль или способности, с жесткими наказаниями за несоблюдение и надзор со стороны нового федерального органа.
Этот законодательный шаг предпринят на фоне опасений по поводу недавних инцидентов, когда модели ИИ получали несанкционированный доступ к компьютерным системам, что подчеркивает необходимость регуляторных рамок для продвинутых технологий ИИ.
