Архивы data manipulation

Рост дипфейковых атак усложняет их обнаружение

Новости11.03.2025

В 2024 году стали частые атаки с помощью дипфейков – фальшивых аудио и видео записей, созданных компьютерами. Это делает их трудно отличить от настоящих записей и даёт злоумышленникам больше возможностей для обмана. В России уже произошло много случаев использования дипфейков и их число продолжает расти. Эксперты предсказывают, что к 2025 году атаки могут увеличиться в несколько…

SEC отказала мем-монетам в статусе инвестиций

Новости03.03.2025

Комиссия по ценным бумагам и биржам США (SEC) заявила, что мем-монеты не являются инвестиционными активами и не защищены законами о ценных бумагах. SEC объяснила, что мем-монеты созданы для развлечения и не предназначены для инвестирования. Среди популярных мем-монет - Dogecoin, Shiba Inu, Grimace coin, $Trump MAGA и $Melania. SEC отметила, что эти активы имеют низкую ценность. Регулятор предупредил,…

Проект Say No To Disinfo: Искусственный интеллект против банков

Новости26.02.2025

Исследователи из Великобритании и специалисты по коммуникациям провели эксперимент, чтобы показать, как искусственный интеллект может использоваться для распространения ложной информации и вызывать финансовые проблемы. Они создали ситуацию, где распространение слухов могло заставить людей снимать деньги со счетов банков. В эксперименте 500 клиентов одного британского банка были подвергнуты информационному воздействию. Сообщения, созданные компьютером, играли на страхах и…

Мастера тьмы: манипулятивная атака на LLM

Новости19.02.2025

Ученые из Университета Сент-Луиса показали, как можно взломать большие языковые модели (LLM), чтобы изменить работу нейронных сетей. Они создали атаку под названием DarkMind, которая использует уязвимости в моделях, таких как ChatGPT, GPT-4, O1 и LLaMA-3. DarkMind добавляет скрытые сигналы в приложения, использующие языковые модели, чтобы атака была незаметной. Это сложно обнаружить даже в приложениях с большим…

Хакеры играют на долгосрочной памяти искусственного интеллекта

Новости12.02.2025

Исследователь Йоханн Рехбергер обнаружил новый способ атаки на чат-бот Gemini от Google. Этот метод позволяет внедрять ложные долгосрочные воспоминания в нейросеть. Хакеры используют уже известные техники, чтобы обойти защиту чат-ботов. Чат-боты, такие как Gemini от Google и ChatGPT от OpenAI, обычно защищены от вредоносных команд. Но хакеры постоянно находят новые способы взлома. Новая уязвимость в Gemini…