Архивы deep learning - КиберСек

Эксперты уговорили DeepSeek создать программы для шпионажа

Новости14.03.2025

Исследователи из Tenable обнаружили, что защиту DeepSeek R1 можно обойти и заставить искусственный интеллект генерировать вредоносный код. Для этого нужно просто найти нужные слова и следить за его логикой. Чтобы обойти ограничения DeepSeek, экспериментаторы использовали джейлбрейк, изменяя запросы, которые чат-бот отказывался выполнять. Улучшить результаты помогла способность ИИ-модели думать по цепочке логических выводов. Исследования проводились по двум сценариям.…

Тайны эволюции: следы миллионов лет в мозге ИИ

Новости22.02.2025

Группа ученых из Бельгии использовала методы глубокого обучения для изучения того, как гены регулируются в клетках мозга человека и курицы. Исследование, опубликованное в журнале Science, показало, что некоторые типы клеток остаются одинаковыми на протяжении миллионов лет эволюции, в то время как другие различаются между видами. Клетки мозга выполняют разные функции из-за сложной системы регуляторных переключателей, которые…

ИИ-чиновники в госаппарате Китая: DeepSeek на подходе

Новости21.02.2025

В Китае чиновникам советуют использовать искусственный интеллект DeepSeek для принятия решений. Руководство нескольких городов призывает своих сотрудников изучать эту технологию и применять её в работе. Например, в Чжэнчжоу глава местного отделения Компартии говорит, что чиновники должны хорошо разобраться в использовании ИИ. В Лайбине также призывают активно осваивать новые технологии, а в Фошане интегрировали модель DeepSeek в…

Тёмный разум: хакеры взломали мысли искусственного интеллекта

Новости18.02.2025

Ученые из Университета Сент-Луис представили новый метод атаки на LLM-модели, который трудно обнаружить обычными системами защиты. Они выявили уязвимости в методе рассуждений Chain-of-Thought (CoT), который помогает моделям решать сложные задачи поэтапно для повышения точности ответов. Этот метод может быть незаметно изменен с помощью скрытых триггеров, которые активируются только при определенной последовательности рассуждений. Это делает атаку практически…

Мыслеклав: новая эра ввода информации

Новости17.02.2025

Компания Meta создала устройство, которое может переводить мысли человека в печатный текст. Они использовали сканер мозговой активности и систему глубокого обучения. Это позволяет устройству понимать, какие клавиши нажимает человек во время печати. Система может угадывать нажатия клавиш с точностью до 80%, если пользователь быстро печатает и позволяет компьютеру наблюдать за собой. Однако точность системы пока не…