Исследователи безопасности из компании Microsoft разработали технику атаки по сторонним каналам Whisper Leak, позволяющую на основе пассивного анализа шифрованного трафика, передаваемого через TLS-соединение, классифицировать темы запросов к сервисам на базе больших языковых моделей. Информации о размере сетевых пакетов и задержках между их передачей оказалось достаточно для определения тем запросов к AI-чатботам с точностью более 98%. На практике предложенный метод может применяться для выявления в транзитном трафике пользователя определённых тем запросов, например,  попыток получения информации о незаконных действиях, без расшифровки содержимого...

Подробнее: https://www.opennet.dev/opennews/art.shtml?num=64218

• Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 21:52 , 10-Ноя-25
  • Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 21:58 , 10-Ноя-25
• Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 22:16 , 10-Ноя-25
• Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 22:16 , 10-Ноя-25
• Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 22:54 , 10-Ноя-25
  • Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 23:06 , 10-Ноя-25
• Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 22:54 , 10-Ноя-25
  • Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 23:44 , 10-Ноя-25
• Атака Whisper Leak по определению тематики общения с AI-чатб...,Аноним, 23:17 , 10-Ноя-25

Сложно было спросить "как защититься от сабжа"?

Сейчас узнаем, что нам с этим делать:
https://www.google.com/ai

> Исследователи безопасности из компании Microsoft

... логично смотивированные своей классовой сущностью и целеполаганием дали ценный совет, отражающий их внутренний мир и стремления, тем, кто хочет поотмывать деньги:

> Для снижения эффективности пассивного анализа тематики запросов разработчикам AI-сервисов предложено прикреплять случайное добавочное заполнение

> Например, точность определения запросов на тему "отмывание денег"
> для многих AI-сервисов составила 100%, при наличии в анализируемом
> трафике 1 искомого запроса и 10000 запросов, не связанных с
> нужной темой.

Больше интересно сколько из тех 10000 оно таки тоже посчитало отмыванием  бабла... А то высокому суду нет же оснований не доверять сертифицированной балалайке по поиску запрещенных запросов в SSL мусоре.

Ну что за ИТ отрасль сегодня такая, ни дня не проходит без найденных дырений в той или иной технологии, продукте, по.

да ровно такая же как и была, просто раньше на это забивали и игнорировали, конечно факапы случались, но не каждый кто увидет торчащий из кармана телефон в метро попытается его украсть, а сейчас после множества инцидентов, корпорасты наконецто поняли что проще предотвращать чем откупаться, выделили бюджеты, и вот, есть первая линия исследователей безопасности на зарплате, есть вторая по баунти хантер, все по взрослому и это работает

> В TLS, если не используется сжатие данных

А кто-то еще отправляет несжатые данные? Трафик не жалко?

По статистике w3techs каждый десятый сайт не использует сжатие (10.5%) .

> На практике предложенный метод может применяться для выявления в транзитном трафике пользователя определённых тем запросов, например, попыток получения информации о незаконных действиях, без расшифровки содержимого.

хайли лайкли