Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"Атака Whisper Leak по определению тематики общения с AI-чатботами через анализ TLS-трафика"	+/–
Сообщение от opennews (??), 10-Ноя-25, 21:52
Исследователи безопасности из компании Microsoft разработали технику атаки по сторонним каналам Whisper Leak, позволяющую на основе пассивного анализа шифрованного трафика, передаваемого через TLS-соединение, классифицировать темы запросов к сервисам на базе больших языковых моделей. Информации о размере сетевых пакетов и задержках между их передачей оказалось достаточно для определения тем запросов к AI-чатботам с точностью более 98%. На практике предложенный метод может применяться для выявления в транзитном трафике пользователя определённых тем запросов, например,  попыток получения информации о незаконных действиях, без расшифровки содержимого... Подробнее: https://www.opennet.dev/opennews/art.shtml?num=64218
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 10-Ноя-25, 21:52	+/–
Сложно было спросить "как защититься от сабжа"?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #2

2. Сообщение от Аноним (2), 10-Ноя-25, 21:58	–1 +/–
Сейчас узнаем, что нам с этим делать: https://www.google.com/ai
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

4. Сообщение от Аноним (4), 10-Ноя-25, 22:16	+/–
> Исследователи безопасности из компании Microsoft ... логично смотивированные своей классовой сущностью и целеполаганием дали ценный совет, отражающий их внутренний мир и стремления, тем, кто хочет поотмывать деньги: > Для снижения эффективности пассивного анализа тематики запросов разработчикам AI-сервисов предложено прикреплять случайное добавочное заполнение
Ответить | Правка | Наверх | Cообщить модератору

5. Сообщение от Аноним (5), 10-Ноя-25, 22:16	+/–
> Например, точность определения запросов на тему "отмывание денег" > для многих AI-сервисов составила 100%, при наличии в анализируемом > трафике 1 искомого запроса и 10000 запросов, не связанных с > нужной темой. Больше интересно сколько из тех 10000 оно таки тоже посчитало отмыванием  бабла... А то высокому суду нет же оснований не доверять сертифицированной балалайке по поиску запрещенных запросов в SSL мусоре.
Ответить | Правка | Наверх | Cообщить модератору

6. Сообщение от Аноним (6), 10-Ноя-25, 22:54	+/–
Ну что за ИТ отрасль сегодня такая, ни дня не проходит без найденных дырений в той или иной технологии, продукте, по.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #8

7. Сообщение от Аноним (7), 10-Ноя-25, 22:54	+/–
> В TLS, если не используется сжатие данных А кто-то еще отправляет несжатые данные? Трафик не жалко?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #10

8. Сообщение от Аноним (8), 10-Ноя-25, 23:06	+/–
да ровно такая же как и была, просто раньше на это забивали и игнорировали, конечно факапы случались, но не каждый кто увидет торчащий из кармана телефон в метро попытается его украсть, а сейчас после множества инцидентов, корпорасты наконецто поняли что проще предотвращать чем откупаться, выделили бюджеты, и вот, есть первая линия исследователей безопасности на зарплате, есть вторая по баунти хантер, все по взрослому и это работает
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

9. Сообщение от Аноним (9), 10-Ноя-25, 23:17	+/–
> На практике предложенный метод может применяться для выявления в транзитном трафике пользователя определённых тем запросов, например, попыток получения информации о незаконных действиях, без расшифровки содержимого. хайли лайкли
Ответить | Правка | Наверх | Cообщить модератору

10. Сообщение от Аноним (10), 10-Ноя-25, 23:44	+/–
По статистике w3techs каждый десятый сайт не использует сжатие (10.5%) .
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема