forum.opennet.ru - "Атака на AI-агенты через размещение файла AGENTS.md в каталоге с загрузками" (23)

"Атака на AI-агенты через размещение файла AGENTS.md в каталоге с загрузками"

Форум Разговоры, обсуждение новостей
Вариант для распечатки		Пред. тема \| След. тема
Изначальное сообщение		[ Отслеживать ]

"Атака на AI-агенты через размещение файла AGENTS.md в каталоге с загрузками"	+/–
Сообщение от opennews (??), 26-Окт-26, 13:35
Исследователи из компании Forever Security, разбирая причины появления вредоносного ПО в системе одного из клиентов, выявили новый способ атаки на AI-агентов, основанный на том, что многие AI-агенты по умолчанию обрабатывают инструкции из файла AGENTS.md, размещённого в корне проекта, к работе над которым они привлечены. Атака проводится через размещение в каталоге ~/Downloads файла AGENTS.md или CLAUDE.md с инструкцией по установке вредоносного ПО (в рассмотренном случае устанавливался вредоносный npm-пакет "function-color")... Подробнее: https://www.opennet.dev/opennews/art.shtml?num=66551
Ответить \| Правка \| Cообщить модератору

Оглавление

Агенты выполняют всякую дичь Нежданчик , Аноним (1), 13:35 , 26-Окт-26, (1) +7

это уязвимость из разряда оказывается на Windows исполняемые exe файлы могут, Xasd1 (?), 13:38 , 26-Окт-26, (4) +7

не, это зи серии autorun inf, Аноним (11), 13:59 , 26-Окт-26, (11) +3
Атака на AI-агенты через размещение файла AGENTS.md в катало..., Аноним (23), 14:55 , 26-Окт-26, (23)

Бездумный робот всасывает в себя всё, что ему подсунут, уязвимость просто 11 10 , Жироватт (ok), 13:55 , 26-Окт-26, (10) +2

Если вставить флешку в USB-порт, то запустится autorun inf, Аноним (15), 14:20 , 26-Окт-26, (15)

Хотя я погуглил, уже давно автоматический запуск работает только для компашек , Аноним (15), 14:23 , 26-Окт-26, (17)
Онотоле одобряе, КЭП , Аноним (18), 14:23 , 26-Окт-26, (18)

БЫТЬ ТАКОГО НЕ МОЖЕТ Codex первым делом спрашивает что мол доверяю ли я этому ка, Xasd1 (?), 13:36 , 26-Окт-26, (2)

Смысл ИИ вообще-то в том, чтобы он ничего у тебя не спрашивал, а сам решал , Аноним (5), 13:39 , 26-Окт-26, (5) +2

спрашивает сам агент до какого либо взаимодействия с ИИ 8230 - и делает это , Xasd1 (?), 13:43 , 26-Окт-26, (6)

будет пользоваться агентами, Аноним (1), 13:50 , 26-Окт-26, (8) +1

Всё-таки век AGI наступил, теперь даже пользователь не нужен чтобы творить тупос, Аноним (3), 13:36 , 26-Окт-26, (3) +5

Нейронки развились до уровня пользователей, aname (ok), 13:54 , 26-Окт-26, (9) +1
Стоит компец Вовка 8211 Эй, Двое, клод и гпт, - одинаковых с промтца Выб, Жироватт (ok), 14:07 , 26-Окт-26, (13) +2

Ну вот есть же хорошие новости , Аноним (7), 13:46 , 26-Окт-26, (7) +2
Скрыто модератором, Аноним (12), 14:03 , 26-Окт-26, (12)
Корень всех бед в автоматической загрузке произвольных файлов в Downloads, ник, Аноним (14), 14:08 , 26-Окт-26, (14)

Скачал Значит доверяешь , Аноним (1), 14:22 , 26-Окт-26, (16)
Корень всех бед, что каталоги с потоком всякого загружаемого шлака как и катало, Жироватт (ok), 14:26 , 26-Окт-26, (20)
В данном конкретном случае корень бед в абсолютном доверии к агентам, когда разр, Начальник (?), 14:27 , 26-Окт-26, (21)

Скрыто модератором, Начальник (?), 14:25 , 26-Окт-26, (19) +1
То ли дело Загрузки, mikhailnov (ok), 14:30 , 26-Окт-26, (22)

Сообщения [Сортировка по времени | RSS]

1. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +7 +/–

Сообщение от Аноним (1), 26-Окт-26, 13:35

Агенты выполняют всякую дичь? Нежданчик!

Ответить | Правка | Наверх | Cообщить модератору

4. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +7 +/–

Сообщение от Xasd1 (?), 26-Окт-26, 13:38

это уязвимость из разряда:
оказывается на Windows исполняемые (*.exe) файлы могут исполнять код мошенников :-)

Ответить | Правка | Наверх | Cообщить модератору

11. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +3 +/–

Сообщение от Аноним (11), 26-Окт-26, 13:59

не, это зи серии autorun.inf

Ответить | Правка | Наверх | Cообщить модератору

23. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Аноним (23), 26-Окт-26, 14:55

> Chrome, Firefox и Edge по умолчанию не запрашивают подтверждение при загрузке файла

Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

10. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +2 +/–

Сообщение от Жироватт (ok), 26-Окт-26, 13:55

Бездумный робот всасывает в себя всё, что ему подсунут, уязвимость просто 11/10.
Особенно из по умолчанию "мусорной" папки загрузок, которую хз зачем дали в работу машине по предсказанию токенов.
Ждём теперь других шокирующих "исследований":
- "если скачанный хз откуда .ps1 запустить на выполнение, то..."
- "медиагет устанавливается и ярлыки на танчики, и 360 отневирос и впс-оффис, если открыть левый инсталлер телеграма..."
- "агенто-болталка прочитала мусорный .txt/.doc и самопроизвела промт-инъекцию, похерив безопасность...".
Одно известно точно - ГОЛАКТЕКО ОПАСНОТЕ, ВСЕМ СТАВИТЬ %ОНТЕВИРОС_НЕЙМ%, и в максимальной подписке.

Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

15. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Аноним (15), 26-Окт-26, 14:20

Если вставить флешку в USB-порт, то запустится autorun.inf

Ответить | Правка | Наверх | Cообщить модератору

17. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Аноним (15), 26-Окт-26, 14:23

Хотя я погуглил, уже давно автоматический запуск работает только для компашек.

Ответить | Правка | Наверх | Cообщить модератору

18. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Аноним (18), 26-Окт-26, 14:23

Онотоле одобряе, КЭП.

Ответить | Правка | К родителю #15 | Наверх | Cообщить модератору

2. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Xasd1 (?), 26-Окт-26, 13:36

> пользователя и перехватить его OAuth-токены. В ходе первого эксперимента AI-агент Codex выполнил инструкции по загрузке и запуску на систем пользователя тестового вредоносного кода
БЫТЬ ТАКОГО НЕ МОЖЕТ!
Codex первым делом спрашивает что мол доверяю ли я этому каталогу (ответ понятное дело «Нет»)

Ответить | Правка | Наверх | Cообщить модератору

5. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +2 +/–

Сообщение от Аноним (5), 26-Окт-26, 13:39

Смысл ИИ вообще-то в том, чтобы он ничего у тебя не спрашивал, а сам решал.

Ответить | Правка | Наверх | Cообщить модератору

6. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Xasd1 (?), 26-Окт-26, 13:43

спрашивает сам агент. до какого либо взаимодействия с ИИ… :-)
и делает это первым делом (доступно объясняя риски).
только полный неадекват скажет что мол «да, конечно, Downloads это доверенный каталог» 🙈🙈🙈🙈

Ответить | Правка | Наверх | Cообщить модератору

8. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +1 +/–

Сообщение от Аноним (1), 26-Окт-26, 13:50

> только полный неадекват
... будет пользоваться агентами

Ответить | Правка | Наверх | Cообщить модератору

3. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +5 +/–

Сообщение от Аноним (3), 26-Окт-26, 13:36

Всё-таки век AGI наступил, теперь даже пользователь не нужен чтобы творить тупость и ловить вирусы

Ответить | Правка | Наверх | Cообщить модератору

9. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +1 +/–

Сообщение от aname (ok), 26-Окт-26, 13:54

Нейронки развились до уровня пользователей

Ответить | Правка | Наверх | Cообщить модератору

13. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +2 +/–

Сообщение от Жироватт (ok), 26-Окт-26, 14:07

"
(Стоит компец)
Вовка: – Эй, Двое, клод и гпт, - одинаковых с промтца! (Выбегают Двое - агенты из компца)
Двое: – Здрась!
Вовка: – Вы, правда, что ли всё-всё за меня делать будете?
Двое: – Ага!
Вовка – Ага! Ну тогда сделайте мне во-первых, свой собственный фотошоп...
(загибает 1 палец) во-вторых...
(загибают агенты) ...а это вы за меня и пальцы загибать будете?
Двое: – Ага!
Вовка: – Хорошо! Во-вторых, код причешите, а в третьих - загибайте, загибайте - загрузки разберите! И скорее-быстрее!
Двое: – Будет сделано!
(Двое начинают выполнять промты, летает терминал, коммиты идут, весь десктоп в ярлыках скам-софта, где-то на фоне удаление D:\MyPhotos\*.* шарашит)
Вовка: – Э-э-э! Алё, стоп! Вы это что троянов за меня ловить будете?
Двое: – Ага!
Вовка – Вы что смеётесь? Думаете, что я ничего делать не умею, как и вы?!
Двое – Ага!
"
Напомнило чего-то

Ответить | Правка | К родителю #3 | Наверх | Cообщить модератору

7. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +2 +/–

Сообщение от Аноним (7), 26-Окт-26, 13:46

Ну вот есть же хорошие новости.

Ответить | Правка | Наверх | Cообщить модератору

12. Скрыто модератором +/–

Сообщение от Аноним (12), 26-Окт-26, 14:03

Это реинкарнация молдавского вируса?
Юзер сам должен найти файл и скачать его.
А ему еще и уведомление покажут.

Ответить | Правка | Наверх | Cообщить модератору

14. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Аноним (14), 26-Окт-26, 14:08

Корень всех бед в автоматической загрузке произвольных файлов в ~/Downloads, никогда не понимал что в этом хорошего.

Ответить | Правка | Наверх | Cообщить модератору

16. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Аноним (1), 26-Окт-26, 14:22

Скачал? Значит доверяешь.

Ответить | Правка | Наверх | Cообщить модератору

20. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Жироватт (ok), 26-Окт-26, 14:26

Корень всех бед, что каталоги с потоком всякого загружаемого шлака (как и каталоги временных файлов) в принципе доступны для автоматизированного выполнения и разбора как программы/скрипты/входящие данные не через жёсткие песочницы с максимальной изоляцией содержимого. А автозагрузка содержимого - это лишь следствие нежелания пользователя каждый раз видеть диалог сохранения.
Аналогично и со всякими легитимными .cache / %app_data%/Temp / %TEMP%, куда пишется бог его знает что (вот новые места, куда можно подсунуть ЫЫшке инъекции в промт или окружение, давайте, записывайте, великими исследователями безопасности станете) совершенно автоматически и в фоне.
Или, если брать шире, то вообще любой каталог в профиле, куда софт с правами юзверя может из неконтролируемого никем, кроме автора, скриптика JS с тайваньского CDN незаметно положить AGENTS.md. Простой текстовый, замедленного действия.

Ответить | Правка | К родителю #14 | Наверх | Cообщить модератору

21. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от Начальник (?), 26-Окт-26, 14:27

В данном конкретном случае корень бед в абсолютном доверии к агентам, когда разрешаешь доступ к шеллу без ручного одобрения каждой команды.

Ответить | Правка | К родителю #14 | Наверх | Cообщить модератору

19. Скрыто модератором +1 +/–

Сообщение от Начальник (?), 26-Окт-26, 14:25

У знакомого дешевая нейронка (или какая-то бесплатная с openrouter, не знаю точно) начала галлюцинировать и удалила половину проекта. Потом он бегал по чатам и агрился на ИИ. Вот вам и агенты.

Ответить | Правка | Наверх | Cообщить модератору

22. "Атака на AI-агенты через размещение файла AGENTS.md в катало..." +/–

Сообщение от mikhailnov (ok), 26-Окт-26, 14:30

То ли дело ~/Загрузки

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема

Хоcтинг:

1. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+7 +/–
Сообщение от Аноним (1), 26-Окт-26, 13:35
Агенты выполняют всякую дичь? Нежданчик!
Ответить \| Правка \| Наверх \| Cообщить модератору


	4. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+7 +/–
	Сообщение от Xasd1 (?), 26-Окт-26, 13:38
	это уязвимость из разряда: оказывается на Windows исполняемые (*.exe) файлы могут исполнять код мошенников :-)
	Ответить \| Правка \| Наверх \| Cообщить модератору


	11. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+3 +/–
	Сообщение от Аноним (11), 26-Окт-26, 13:59
	не, это зи серии autorun.inf
	Ответить \| Правка \| Наверх \| Cообщить модератору


	23. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Аноним (23), 26-Окт-26, 14:55
	> Chrome, Firefox и Edge по умолчанию не запрашивают подтверждение при загрузке файла
	Ответить \| Правка \| К родителю #4 \| Наверх \| Cообщить модератору


	10. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+2 +/–
	Сообщение от Жироватт (ok), 26-Окт-26, 13:55
	Бездумный робот всасывает в себя всё, что ему подсунут, уязвимость просто 11/10. Особенно из по умолчанию "мусорной" папки загрузок, которую хз зачем дали в работу машине по предсказанию токенов. Ждём теперь других шокирующих "исследований": - "если скачанный хз откуда .ps1 запустить на выполнение, то..." - "медиагет устанавливается и ярлыки на танчики, и 360 отневирос и впс-оффис, если открыть левый инсталлер телеграма..." - "агенто-болталка прочитала мусорный .txt/.doc и самопроизвела промт-инъекцию, похерив безопасность...". Одно известно точно - ГОЛАКТЕКО ОПАСНОТЕ, ВСЕМ СТАВИТЬ %ОНТЕВИРОС_НЕЙМ%, и в максимальной подписке.
	Ответить \| Правка \| К родителю #1 \| Наверх \| Cообщить модератору


	15. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Аноним (15), 26-Окт-26, 14:20
	Если вставить флешку в USB-порт, то запустится autorun.inf
	Ответить \| Правка \| Наверх \| Cообщить модератору


	17. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Аноним (15), 26-Окт-26, 14:23
	Хотя я погуглил, уже давно автоматический запуск работает только для компашек.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	18. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Аноним (18), 26-Окт-26, 14:23
	Онотоле одобряе, КЭП.
	Ответить \| Правка \| К родителю #15 \| Наверх \| Cообщить модератору

2. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
Сообщение от Xasd1 (?), 26-Окт-26, 13:36
> пользователя и перехватить его OAuth-токены. В ходе первого эксперимента AI-агент Codex выполнил инструкции по загрузке и запуску на систем пользователя тестового вредоносного кода БЫТЬ ТАКОГО НЕ МОЖЕТ! Codex первым делом спрашивает что мол доверяю ли я этому каталогу (ответ понятное дело «Нет»)
Ответить \| Правка \| Наверх \| Cообщить модератору


	5. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+2 +/–
	Сообщение от Аноним (5), 26-Окт-26, 13:39
	Смысл ИИ вообще-то в том, чтобы он ничего у тебя не спрашивал, а сам решал.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	6. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Xasd1 (?), 26-Окт-26, 13:43
	спрашивает сам агент. до какого либо взаимодействия с ИИ… :-) и делает это первым делом (доступно объясняя риски). только полный неадекват скажет что мол «да, конечно, Downloads это доверенный каталог» 🙈🙈🙈🙈
	Ответить \| Правка \| Наверх \| Cообщить модератору


	8. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+1 +/–
	Сообщение от Аноним (1), 26-Окт-26, 13:50
	> только полный неадекват ... будет пользоваться агентами
	Ответить \| Правка \| Наверх \| Cообщить модератору

3. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+5 +/–
Сообщение от Аноним (3), 26-Окт-26, 13:36
Всё-таки век AGI наступил, теперь даже пользователь не нужен чтобы творить тупость и ловить вирусы
Ответить \| Правка \| Наверх \| Cообщить модератору


	9. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+1 +/–
	Сообщение от aname (ok), 26-Окт-26, 13:54
	Нейронки развились до уровня пользователей
	Ответить \| Правка \| Наверх \| Cообщить модератору


	13. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+2 +/–
	Сообщение от Жироватт (ok), 26-Окт-26, 14:07
	" (Стоит компец) Вовка: – Эй, Двое, клод и гпт, - одинаковых с промтца! (Выбегают Двое - агенты из компца) Двое: – Здрась! Вовка: – Вы, правда, что ли всё-всё за меня делать будете? Двое: – Ага! Вовка – Ага! Ну тогда сделайте мне во-первых, свой собственный фотошоп... (загибает 1 палец) во-вторых... (загибают агенты) ...а это вы за меня и пальцы загибать будете? Двое: – Ага! Вовка: – Хорошо! Во-вторых, код причешите, а в третьих - загибайте, загибайте - загрузки разберите! И скорее-быстрее! Двое: – Будет сделано! (Двое начинают выполнять промты, летает терминал, коммиты идут, весь десктоп в ярлыках скам-софта, где-то на фоне удаление D:\MyPhotos\. шарашит) Вовка: – Э-э-э! Алё, стоп! Вы это что троянов за меня ловить будете? Двое: – Ага! Вовка – Вы что смеётесь? Думаете, что я ничего делать не умею, как и вы?! Двое – Ага! " Напомнило чего-то
	Ответить \| Правка \| К родителю #3 \| Наверх \| Cообщить модератору

7. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+2 +/–
Сообщение от Аноним (7), 26-Окт-26, 13:46
Ну вот есть же хорошие новости.
Ответить \| Правка \| Наверх \| Cообщить модератору

12. Скрыто модератором	+/–
Сообщение от Аноним (12), 26-Окт-26, 14:03
Это реинкарнация молдавского вируса? Юзер сам должен найти файл и скачать его. А ему еще и уведомление покажут.
Ответить \| Правка \| Наверх \| Cообщить модератору

14. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
Сообщение от Аноним (14), 26-Окт-26, 14:08
Корень всех бед в автоматической загрузке произвольных файлов в ~/Downloads, никогда не понимал что в этом хорошего.
Ответить \| Правка \| Наверх \| Cообщить модератору


	16. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Аноним (1), 26-Окт-26, 14:22
	Скачал? Значит доверяешь.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	20. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Жироватт (ok), 26-Окт-26, 14:26
	Корень всех бед, что каталоги с потоком всякого загружаемого шлака (как и каталоги временных файлов) в принципе доступны для автоматизированного выполнения и разбора как программы/скрипты/входящие данные не через жёсткие песочницы с максимальной изоляцией содержимого. А автозагрузка содержимого - это лишь следствие нежелания пользователя каждый раз видеть диалог сохранения. Аналогично и со всякими легитимными .cache / %app_data%/Temp / %TEMP%, куда пишется бог его знает что (вот новые места, куда можно подсунуть ЫЫшке инъекции в промт или окружение, давайте, записывайте, великими исследователями безопасности станете) совершенно автоматически и в фоне. Или, если брать шире, то вообще любой каталог в профиле, куда софт с правами юзверя может из неконтролируемого никем, кроме автора, скриптика JS с тайваньского CDN незаметно положить AGENTS.md. Простой текстовый, замедленного действия.
	Ответить \| Правка \| К родителю #14 \| Наверх \| Cообщить модератору


	21. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
	Сообщение от Начальник (?), 26-Окт-26, 14:27
	В данном конкретном случае корень бед в абсолютном доверии к агентам, когда разрешаешь доступ к шеллу без ручного одобрения каждой команды.
	Ответить \| Правка \| К родителю #14 \| Наверх \| Cообщить модератору

19. Скрыто модератором	+1 +/–
Сообщение от Начальник (?), 26-Окт-26, 14:25
У знакомого дешевая нейронка (или какая-то бесплатная с openrouter, не знаю точно) начала галлюцинировать и удалила половину проекта. Потом он бегал по чатам и агрился на ИИ. Вот вам и агенты.
Ответить \| Правка \| Наверх \| Cообщить модератору

22. "Атака на AI-агенты через размещение файла AGENTS.md в катало..."	+/–
Сообщение от mikhailnov (ok), 26-Окт-26, 14:30
То ли дело ~/Загрузки
Ответить \| Правка \| Наверх \| Cообщить модератору