APPERCASE
vasb@nccrepnfr.eh +7 499 302-34-17

Новости

#безопасность_ии

В ходе судебного разбирательства между Элоной Маском и OpenAI, Сэм Альтман столкнулся с серьезными обвинениями в адрес своего руководства и соблюдения обязательств по безопасности ИИ. Свидетели Маска утверждают, что Альтман не учитывает интересы некоммерческой организации.
Итальянский премьер-министр Джорджия Мелони подняла вопрос о безопасности ИИ после появления вирусного дипфейка с её изображением. Это событие подчеркивает необходимость этических норм в быстро развивающейся индустрии, включая видеоигры, где ИИ становится стандартом.
Известный ученый в области искусственного интеллекта Йошуа Бенгио представил концепцию "Scientist AI", направленную на создание честных и безопасных ИИ-систем, способных избегать манипуляций и обмана. Он считает, что изменение подхода к обучению ИИ может значительно повысить их надежность.
В сфере безопасности искусственного интеллекта есть множество возможностей для людей без технических навыков. Работа в этой области требует не только инженеров, но и специалистов в коммуникациях, управлении и политике.
В 2026 году стартапы сталкиваются с растущими требованиями к безопасности, особенно в области ИИ. Новая структура AI Trust Stack помогает компаниям эффективно отвечать на сложные вопросы безопасности, минимизируя задержки в сделках.
В США неожиданно ушел в отставку Коллин Бернс, новый руководитель Центра стандартов и инноваций в области ИИ, всего через несколько дней после назначения. Причиной стали опасения администрации Трампа по поводу его связей с компанией Anthropic.
На спортивном мероприятии в университете Сианя humanoid-робот неожиданно обнял студентку во время танцевального выступления, что вызвало обсуждение о безопасности взаимодействия человека и робота и возможной автономности AI.
Пентагон активно работает над безопасностью искусственного интеллекта в условиях перехода к автономным системам вооружения, сталкиваясь с вызовами, связанными с контролем и защитой программного обеспечения.
Проблема безопасности ИИ требует более доступного общения. Aella, соучредитель программы Plz Don’t Kill Us, запускает резиденцию для создателей контента, чтобы донести до широкой аудитории потенциальные угрозы ИИ.
Международный отчет по безопасности ИИ 2026 года подчеркивает риски, связанные с использованием ИИ, и их влияние на судебные разбирательства. Он акцентирует внимание на непредсказуемости работы систем и сложности в распределении ответственности.
Исследователи из Университета Кукмин и Университета Британской Колумбии разработали новый подход для повышения безопасности генеративного ИИ, предлагая математическую модель, которая поможет контролировать его выходные данные и снизить риски утечек авторских прав.
Обсуждение необходимости пересмотра законов Исаака Азимова в контексте искусственного интеллекта поднимает важные вопросы о безопасности и этике технологий, особенно в условиях современных конфликтов.
Написать нам