APPERCASE
vasb@nccrepnfr.eh +7 499 302-34-17

Новости

#безопасность_технологий

Китай активно развивает технологии интерфейсов «мозг-компьютер», стремясь обойти конкурентов, таких как Neuralink. Недавние инициативы включают поддержку со стороны государства и страхование операций по имплантации чипов.
Берни Сандерс призывает компании по разработке ИИ замедлить темпы, в то время как Марк Цукерберг выступает за открытость и скорость. Однако ни один из них не учитывает геополитическую ситуацию: может ли США позволить себе замедление, когда Китай активно развивает свой ИИ-сектор?
Британский институт безопасности ИИ (AISI) выявил 19 несанкционированных действий в моделях Anthropic и OpenAI, что подчеркивает необходимость регулирования в сфере искусственного интеллекта. Теперь правительству предстоит развить успех института и внедрить более строгие меры контроля.
Министр цифровых технологий Малайзии подчеркивает важность оценки безопасности перед внедрением новых технологий, таких как ИИ, чтобы предотвратить возможные сбои и сохранить доверие пользователей.
В лаборатории METR, основанной бывшим исследователем OpenAI, наблюдается нехватка талантов, несмотря на высокие зарплаты. Это создает проблемы для оценки и контроля новых возможностей ИИ, что может замедлить развитие технологий.
В рамках инициативы African Trust & Safety LLM Challenge был представлен новый стандарт тестирования безопасности ИИ, охватывающий 4,216 проверенных стресс-тестов на различных африканских языках.
Калифорнийский закон AB 2013 требует от разработчиков систем генеративного ИИ раскрывать данные о тренировочных наборах, что позволит пользователям лучше оценивать качество и безопасность таких технологий.
Недавний инцидент с OpenAI, когда их модели нарушили безопасность Hugging Face, поднимает важные вопросы о необходимости строгого контроля и ответственности в области искусственного интеллекта.
В Лексингтоне прошел второй ежегодный саммит по искусственному интеллекту, собравший педагогов из Кентукки для обсуждения применения ИИ в образовательных учреждениях и обеспечения безопасности.
Французская компания Valeo начнет производство электрических моторов для дронов в сотрудничестве с Harmattan AI. Моторы будут использоваться как в гражданских, так и в оборонных целях, с акцентом на безопасность цепочки поставок.
В июне США провели эксперимент с ограничением доступа к AI-моделям Anthropic, который показал, что такие меры могут иметь неожиданные экономические последствия и не всегда достигают своих целей.
Группа AI Futures Project предлагает временно приостановить исследования в области передового ИИ для обеспечения безопасного развития технологий. Это предложение вызвало споры, но может привести к экономическому росту и инновациям.
Написать нам