Министерство финансов Австралии провело испытание Microsoft 365 Copilot, чтобы понять, как хорошо он помогает сотрудникам. Оказалось, что ожидания были выше, чем результаты.
218 человек попробовали Copilot и поделились своим мнением. Они надеялись, что искусственный интеллект поможет им в работе, но в итоге оказалось, что Copilot не так уж полезен в сложных задачах.
Большинство использовали Copilot не каждый день, как ожидали организаторы. Министерство признало, что может быть создало завышенные ожидания и сотрудникам не хватало обучения, чтобы использовать ИИ эффективно.
Copilot оказался полезен для простых задач, но не справлялся с сложными. Он помогал искал информацию, вел протоколы и управлял знаниями. Но в конце испытания участники не оценили его так высоко.
Несмотря на это, ИИ был полезен для людей с ограничениями, на неполном рабочем дне или на больничном. Он помогал им чувствовать себя увереннее. Младшие и новые сотрудники оценили его особенно высоко.
Минфин понял, что для успешного использования ИИ нужно не только правильно выбирать сотрудников, но и обучать их. Также важно обеспечить безопасность, особенно если работаешь с конфиденциальной информацией.
Автор: kibersec
-
ИИ-стажер: разочарование Copilot из-за бюрократии
-
Жительница США оформила гражданство айтишникам из КНДР
Женщина из США по имени Кристина признала, что помогала северокорейским IT-специалистам получать работу в американских компаниях и отправлять свои зарплаты в КНДР. Она использовала поддельные документы и украденные личные данные американцев, чтобы устроить их на работу. Она также организовала ферму ноутбуков у себя дома, чтобы создать иллюзию, что северокорейцы работают из США.
Северокорейцы получали работу в крупных американских компаниях и пытались проникнуть в правительственные агентства, но им отказывали. Сейчас по этому делу проходят судебное разбирательство Чапман и еще один человек. США также ищут трех северокорейцев, связанных с этой аферой.
Некоторые северокорейцы зарабатывали свыше $300 000 в год, а группы разработчиков могли получать более $3 миллионов. Чапман также помогала отмывать деньги, полученные от этой схемы. Она может получить от 7 до 9 лет тюремного заключения. США продолжают бороться с северокорейскими схемами нелегального трудоустройства.
Последнее время Северная Корея чаще прибегает к кибератакам из-за ужесточения контроля. Киберпреступники требуют выкуп за украденную информацию у компаний. Информационные безопасностные фирмы также столкнулись с фальшивыми кандидатами, использующими искусственный интеллект и дипфейки для работы в компаниях. -
Новые требования ФСТЭК России с 2026 года
ФСТЭК России разработала новый набор правил для защиты информации, который начнет действовать в марте 2026 года. Эти правила касаются государственных информационных систем и систем других государственных органов, унитарных предприятий и учреждений.
Ирина Гефнер, заместитель начальника управления ФСТЭК России, представила основные изменения на 30-м ТБ Форуме. Вот ключевые нововведения:
1. Расширение области применения. Теперь правила охраны информации распространяются на данные, содержащиеся в государственных информационных системах, включая государственные секреты, личные данные и информацию о критической информационной инфраструктуре.
2. Обновление нормативной базы. Новые правила основаны на уже действующих законах и постановлениях, что позволит адаптировать меры безопасности к современным вызовам.
3. Строгие сроки устранения уязвимостей. Теперь у операторов есть строгие временные рамки для реагирования на угрозы разного уровня: критические уязвимости должны быть устранены в течение 24 часов, а высокие — не позднее чем за 7 рабочих дней.
4. Новые процедуры уведомления. Операторы должны передавать информацию о новых уязвимостях в течение 5 рабочих дней, что поможет оперативно выявлять киберугрозы.
5. Упрощение классификации информационных систем. Новый подход упрощает процесс оценки рисков и выбора мер защиты, делая регулирование более понятным.
Обновленные правила ФСТЭК России направлены на повышение оперативности и эффективности мер по защите информации, а также на адаптацию к современным киберугрозам и создание единого подхода к обеспечению информационной безопасности в государственных структурах.
-
Хакеры играют на долгосрочной памяти искусственного интеллекта
Исследователь Йоханн Рехбергер обнаружил новый способ атаки на чат-бот Gemini от Google. Этот метод позволяет внедрять ложные долгосрочные воспоминания в нейросеть. Хакеры используют уже известные техники, чтобы обойти защиту чат-ботов.
Чат-боты, такие как Gemini от Google и ChatGPT от OpenAI, обычно защищены от вредоносных команд. Но хакеры постоянно находят новые способы взлома. Новая уязвимость в Gemini позволяет изменять долгосрочную память бота, что может привести к распространению дезинформации или даже вредоносным действиям.
Рехбергер ранее показал, как вредоносные письма могли заставить Microsoft Copilot искать конфиденциальные данные и отправлять их злоумышленнику. Хотя Microsoft исправила уязвимость, проблема с косвенной инъекцией запросов осталась.
Чтобы бороться с такими атаками, можно ограничить команды, которые могут выполняться при обработке ненадежных данных. Google уже приняла такие меры для приложений и данных в Google Workspace. Но Рехбергер нашел способ обойти эти ограничения.
Новый метод атаки использует ложные воспоминания в Gemini. Пользователь загружает документ, и бот запоминает ложную информацию, которую пользователь подтверждает определенными словами. Манипуляция долгосрочной памятью бота напоминает фильм «Начало», где главный герой внедряет мысль в сознание жертвы.
Эти атаки могут быть опасными, поскольку ложная информация устанавливается в системе принятия решений бота. Google признает проблему, но считает риск низким. Однако Рехбергер предупреждает, что внедрение ложной информации может иметь серьезные последствия.
Проблема косвенных инъекций остается актуальной, и разработчики продолжают бороться с новыми атаками. -
Илон Маск объявил охоту на редакторов Википедии
Фонд Wikimedia Foundation работает над новыми инструментами для защиты анонимности людей, которые редактируют Википедию. Это связано с тем, что Илон Маск и фонд Heritage Foundation начали оказывать давление на редакторов. Они хотят предотвратить преследования и юридические угрозы, особенно в странах с авторитарными правительствами.
Heritage Foundation разрабатывает стратегию Wikipedia Editor Targeting, чтобы выявлять и преследовать редакторов, которые считаются предвзятыми. Они используют анализ текстов, утечки данных, отслеживание местоположения и даже распознавание лиц через сервис Pimeyes. Они также создают поддельные аккаунты для провокации и выявления личностей редакторов.
Wikimedia Foundation рассматривает различные способы повышения безопасности редакторов. Они меняют правила отображения IP-адресов и предлагают новый механизм для скрытия адресов пользователей. Они также рассматривают возможность создания дополнительных анонимных аккаунтов для работы с чувствительными темами.
Фонд также уменьшает количество данных, которые хранит о пользователях, и создал программу для защиты редакторов от юридического давления. Однако есть сомнения, насколько эти меры достаточны для защиты от организованных атак. Wikimedia Foundation продолжает следить за ситуацией и адаптировать политику безопасности к новым вызовам.
Несмотря на все угрозы, Википедия остаётся важным источником информации, где независимые редакторы обеспечивают доступ к знаниям. Wikimedia Foundation делает всё возможное, чтобы защитить их от давления и сохранить безопасность платформы.
-
Директоры OpenAI не получали предложений от Илона Маска
Управляющая команда OpenAI заявила, что они не получали официального предложения о покупке от группы инвесторов с Илоном Маском во главе. Адвокат Маска утверждает, что документы были отправлены юристам компании.
На следующий день после объявления Маском о намерении приобрести контроль над OpenAI за 97,4 миллиарда долларов, стороны так и не смогли договориться, было ли предложение официальным или нет.
По информации источника, знакомого с ситуацией, совет OpenAI не получал никаких документов от группы Маска, что привело к дополнительной неопределенности вокруг попытки Маска приобрести крупнейшую компанию по искусственному интеллекту.
Адвокат Маска Марк Тоберов сообщил, что отправил предложение в виде четырехстраничного письма о намерениях на электронную почту юридической фирмы Wachtell, Lipton, Rosen & Katz, представляющей интересы OpenAI. Однако сама фирма пока не прокомментировала ситуацию.
По словам Тоберова, в письме содержится детальное предложение о покупке активов OpenAI, подписанное Маском и другими инвесторами и адресованное совету директоров компании. Он также предположил, что CEO OpenAI Сэм Альтман мог умышленно не передать документы коллегам, но это уже вопрос для Масковских адвокатов.
Альтман категорически отверг возможность сделки. Он заявил, что это нелепо, отвечая на вопросы журналистов на саммите по искусственному интеллекту в Париже.
Интерес Маска к компании не случаен. Он был одним из основателей OpenAI, но в последние месяцы он критикует компанию за отход от своей первоначальной миссии и стремление к коммерческой модели. Маск выражал обеспокоенность тем, что OpenAI движется к закрытой и прибыльной модели, что, по его мнению, противоречит идее создания безопасного и доступного искусственного интеллекта.
Однако позиция OpenAI остается неизменной: компания продолжает работу по утвержденной стратегии, а совет директоров не рассматривает возможность продажи. Вопрос о том, какие действия предпримет Маск дальше, остается открытым — будет ли он пытаться оказать публичное давление на руководство компании или искать другие способы влиять на ее будущее. -
ИИ: искажение фактов и цитат в новостях
Использование искусственного интеллекта стало новой угрозой для достоверности информации. Исследование BBC News показало, что популярные ИИ-ассистенты часто дают неверные ответы.
Исследователи задали 100 вопросов разным ИИ, попросив использовать материалы BBC News. Более половины ответов содержали ошибки, а каждый пятый ответ был вводящим в заблуждение, добавляя неточности. Также более 10% цитат из статей BBC были изменены или выдуманы.
Основные проблемы заключались в отсутствии различий между фактами и мнениями, смешении старых и новых данных, а также субъективных интерпретациях. Это приводит к искажению реальности.
Например, один из ИИ заявил, что Иран вел себя сдержанно в ближневосточном конфликте, в то время как Израиль был агрессивным. Несмотря на то, что в исходных материалах BBC не было таких утверждений. Компании-разработчики признали проблему, но пока не предложили решения.
BBC призывает технологические компании, разработчиков ИИ и правительственных регуляторов сотрудничать для борьбы с этой проблемой. Важно, чтобы люди могли получать достоверные новости в условиях глобальной нестабильности, а не искаженную информацию.
-
Почему умные люди верят абсурдным фейкам?
Ученые из Института Макса Планка провели исследование о том, кто чаще всего верит фальшивым новостям в интернете. Они изучили, как возраст, образование, политические взгляды и способность мыслить аналитически влияют на умение отличать правду от лжи.
Главный исследователь Мубашир Султан и его коллеги провели анализ данных 11 561 человека в возрасте от 18 до 88 лет. Участники оценивали правдивость новостных заголовков о политике, медицине и других темах. Ученые выяснили, что образование не помогает лучше разобраться в правде и лжи. Также выяснилось, что старшие люди лучше молодых различают фейковые заголовки.
Политические взгляды также оказались важным фактором. Республиканцы чаще верят новостям, демократы же более скептичны. Ученые также обнаружили, что люди, хорошо мыслящие аналитически, могут быть предвзяты в своих политических убеждениях.
Самым важным фактором, влияющим на доверие к новостям, оказалось то, сталкивался ли человек с ними раньше. Если человек видел заголовок ранее, он склонен считать его правдивым. Это особенно опасно в социальных сетях, где ложная информация может приниматься за правду.
Исследование становится актуальным в свете распространения дезинформации в политике. Команда института уже работает над инструментами, которые помогут пользователям отслеживать предвзятость новостей.
-
Сотрудники CISA ушли в отпуск внезапно
17 сотрудников агентства по кибербезопасности и защите инфраструктуры (CISA), которые отвечают за безопасность выборов, были неожиданно отправлены в отпуск. Это решение может нарушить поддержку, которую агентство предоставляет местным и региональным избирательным комиссиям по всей стране.
Среди тех, кто отправлен в отпуск, есть 10 региональных специалистов по безопасности выборов, которые были наняты для укрепления работы перед президентскими выборами 2024 года. Они занимались оценкой угроз, обучением и обеспечением безопасности избирательных участков.
Эти сотрудники ранее работали в местных или государственных избирательных комиссиях и были привлечены для укрепления связей между CISA и более чем 8000 местными избирательными округами. Они проводили тренинги, конференции и консультировали чиновников по вопросам кибербезопасности.
Ситуация усугубилась после ряда неоднозначных решений администрации. Изначально CISA была исключена из программы отсроченного увольнения, но позже сотрудникам было предложено добровольно уйти с сохранением зарплаты и льгот до сентября. Это вызвало нестабильность в агентстве, а затем последовали неожиданные кадровые изменения.
Хотя президентские выборы уже прошли, работа CISA по обеспечению безопасности голосования остается важной. В ближайшее время пройдут выборы губернаторов, законодателей и местные выборы. Поддержка агентства важна для защиты избирательных систем от кибератак и дезинформации, что делает недавние кадровые решения в CISA спорными.
Источник сообщает, что внутренняя проверка затронула усилия агентства по противодействию иностранному вмешательству в выборы и борьбе с дезинформацией. Эти функции временно переданы другим подразделениям CISA.
Государственные чиновники высоко оценивают работу CISA. Майкл Адамс из Кентукки и Джоселин Бенсон из Мичигана подчеркнули важность агентства для обеспечения целостности выборов. Они выразили надежду на поддержку федеральных властей.
Решение об отправке сотрудников в отпуск вызвало критику со стороны республиканцев и бывших чиновников администрации Трампа. Министр внутренней безопасности Кристи Ноем заявила, что CISA «отошло от своей миссии» и обещала пересмотреть его деятельность.
CISA было создано в 2018 году для защиты критически важной инфраструктуры, включая избирательные системы. Агентство также боролось с дезинформацией во время выборов 2020 года и пандемии COVID-19.
Пока журналисты не получили комментариев от представителей CISA и Министерства внутренней безопасности США.
-
АНБ проводит масштабную чистку ресурсов: 27 слов запрещены
Агентство национальной безопасности США (АНБ) удаляет слова с веб-сайтов и внутренних сетей, чтобы соответствовать указам президента Дональда Трампа. Эти слова включают привилегия, предвзятость и инклюзивность. Некоторые из этих слов важны для работы агентства, но их все равно удаляют.
Эти изменения вызывают проблемы, так как удаляются страницы, связанные с основными задачами агентства. Несмотря на это, процесс продолжается, и стажёры пытаются избежать ошибок.
Удаление данных уже привело к проблемам с работой важных систем. Руководство признает, что нет ресурсов для проверки всех страниц, поэтому удаляются целые разделы. Это может привести к сбоям, но приказы исполняются.
Подобные изменения происходили и ранее. Например, после указов Трампа, упоминания о трансгендерных людях исчезли с правительственных сайтов. Политика удаления информации также затронула климатическую тематику.
Эти действия вызвали критику. Например, администрация Трампа обвиняют в уничтожении медицинских данных. Тем не менее, сторонники политики Трампа считают, что такие меры помогут устранить предвзятость.
Удаление слов из ресурсов АНБ может привести к непредвиденным последствиям. Сотрудники признают, что невозможно проверить все материалы, что означает, что важные данные могут быть утеряны.
Это напоминание о том, как быстрые идеологические изменения могут повлиять на общество. Стремление к изменениям и отказ от прежних ценностей может создать хаос и угрожать важным данным и программам.
-
Проблемы с защитой данных в службах доставки
Нарушения в области защиты личных данных в службах доставки происходят очень часто. Одной из причин этого является нехватка курьеров, которые могут использовать личную информацию в личных целях.
Даже самые базовые данные, такие как имя, адрес и номер телефона, могут поставить человека в опасное положение, если они окажутся в ненадежных руках. Именно такие данные имеют службы доставки.
Недавно произошел инцидент в интернет-магазине косметики, где покупательница получила угрозы после заказа. Стало известно, что сталкер использовал личные данные через свою знакомую, работавшую курьером. Подобные случаи были обнаружены и в других магазинах.
Проблема защиты личных данных затрагивает многие службы доставки. Информация о покупателях и их заказах доступна многим курьерам.
Недостаток персонала только усугубляет ситуацию: компании нанимают курьеров без должной проверки из-за нехватки персонала. Проблема особенно остра во франчайзинговых компаниях, где экономят на персонале.
Риск утечки данных возрастает при передаче доставки сторонним логистическим операторам, где курьеры могут работать неофициально, что уменьшает контроль за ними.
Для улучшения ситуации, следует тщательно проверять курьеров на судимости и оценивать их навыки. Также важно отслеживать их местоположение и собирать отзывы о работе для предотвращения проблем.
Разглашение личных данных является нарушением закона. Если эти данные используются для преследования или угроз, это уже преступление. Компании также могут нести ответственность за утечку данных от своих сотрудников или подрядчиков.
-
SDMQR: защищенные QR-коды от мошенников
QR-коды стали популярными, но мошенники могут использовать их для атак. Ученые из Университета Рочестера предложили новый вид QR-кодов, которые могут защитить от поддельных кодов. Эти коды могут быть проверены на подлинность с помощью смартфона. Если код безопасен, пользователь получит подтверждение. Если нет, то будет предупреждение.
Эти новые QR-коды выглядят похоже на обычные, но имеют другую форму. Они могут хранить больше информации и легко распознаются современными смартфонами. Ученые получили грант для исследования коммерческого применения этой технологии, например, для маркировки товаров. Они также работают над цветными QR-кодами, которые могут направлять на разные сайты в зависимости от сканирования. Компании заинтересованы в использовании этих кодов для улучшения безопасности и брендирования упаковки.