Вариант для распечатки		Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Изначальное сообщение		[ Отслеживать ]

"Атака на AI-агенты через размещение файла AGENTS.md в каталоге с загрузками"	+/–
Сообщение от opennews (??), 26-Окт-26, 13:35
Исследователи из компании Forever Security, разбирая причины появления вредоносного ПО в системе одного из клиентов, выявили новый способ атаки на AI-агентов, основанный на том, что многие AI-агенты по умолчанию обрабатывают инструкции из файла AGENTS.md, размещённого в корне проекта, к работе над которым они привлечены. Атака проводится через размещение в каталоге ~/Downloads файла AGENTS.md или CLAUDE.md с инструкцией по установке вредоносного ПО (в рассмотренном случае устанавливался вредоносный npm-пакет "function-color")... Подробнее: https://www.opennet.dev/opennews/art.shtml?num=66551
Ответить | Правка | Cообщить модератору

Сообщения

[Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 26-Окт-26, 13:35	+14 +/–
Агенты выполняют всякую дичь? Нежданчик!
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #4, #10

2. Сообщение от Xasd1 (?), 26-Окт-26, 13:36	–1 +/–
> пользователя и перехватить его OAuth-токены. В ходе первого эксперимента AI-агент Codex выполнил инструкции по загрузке и запуску на систем пользователя тестового вредоносного кода БЫТЬ ТАКОГО НЕ МОЖЕТ! Codex первым делом спрашивает что мол доверяю ли я этому каталогу (ответ понятное дело «Нет»)
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #5, #25

3. Сообщение от Аноним (3), 26-Окт-26, 13:36	+5 +/–
Всё-таки век AGI наступил, теперь даже пользователь не нужен чтобы творить тупость и ловить вирусы
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #9, #13

4. Сообщение от Xasd1 (?), 26-Окт-26, 13:38	+7 +/–
это уязвимость из разряда: оказывается на Windows исполняемые (*.exe) файлы могут исполнять код мошенников :-)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #11, #23, #28

5. Сообщение от Аноним (5), 26-Окт-26, 13:39	+2 +/–
Смысл ИИ вообще-то в том, чтобы он ничего у тебя не спрашивал, а сам решал.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #6

6. Сообщение от Xasd1 (?), 26-Окт-26, 13:43	+/–
спрашивает сам агент. до какого либо взаимодействия с ИИ… :-) и делает это первым делом (доступно объясняя риски). только полный неадекват скажет что мол «да, конечно, Downloads это доверенный каталог» 🙈🙈🙈🙈
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #8

7. Сообщение от Аноним (7), 26-Окт-26, 13:46	+2 +/–
Ну вот есть же хорошие новости.
Ответить | Правка | Наверх | Cообщить модератору

8. Сообщение от Аноним (1), 26-Окт-26, 13:50	+3 +/–
> только полный неадекват ... будет пользоваться агентами
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

9. Сообщение от aname (ok), 26-Окт-26, 13:54	+1 +/–
Нейронки развились до уровня пользователей
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3

10. Сообщение от Жироватт (ok), 26-Окт-26, 13:55	+3 +/–
Бездумный робот всасывает в себя всё, что ему подсунут, уязвимость просто 11/10. Особенно из по умолчанию "мусорной" папки загрузок, которую хз зачем дали в работу машине по предсказанию токенов. Ждём теперь других шокирующих "исследований": - "если скачанный хз откуда .ps1 запустить на выполнение, то..." - "медиагет устанавливается и ярлыки на танчики, и 360 отневирос и впс-оффис, если открыть левый инсталлер телеграма..." - "агенто-болталка прочитала мусорный .txt/.doc и самопроизвела промт-инъекцию, похерив безопасность...". Одно известно точно - ГОЛАКТЕКО ОПАСНОТЕ, ВСЕМ СТАВИТЬ %ОНТЕВИРОС_НЕЙМ%, и в максимальной подписке.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #15

11. Сообщение от Аноним (11), 26-Окт-26, 13:59	+13 +/–
не, это зи серии autorun.inf
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

12. Сообщение от Аноним (12), 26-Окт-26, 14:03    Скрыто ботом-модератором	+/–
Это реинкарнация молдавского вируса? Юзер сам должен найти файл и скачать его. А ему еще и уведомление покажут.
Ответить | Правка | Наверх | Cообщить модератору

13. Сообщение от Жироватт (ok), 26-Окт-26, 14:07	+5 +/–
" (Стоит компец) Вовка: – Эй, Двое, клод и гпт, - одинаковых с промтца! (Выбегают Двое - агенты из компца) Двое: – Здрась! Вовка: – Вы, правда, что ли всё-всё за меня делать будете? Двое: – Ага! Вовка – Ага! Ну тогда сделайте мне во-первых, свой собственный фотошоп... (загибает 1 палец) во-вторых... (загибают агенты) ...а это вы за меня и пальцы загибать будете? Двое: – Ага! Вовка: – Хорошо! Во-вторых, код причешите, а в третьих - загибайте, загибайте - загрузки разберите! И скорее-быстрее! Двое: – Будет сделано! (Двое начинают выполнять промты, летает терминал, коммиты идут, весь десктоп в ярлыках скам-софта, где-то на фоне удаление D:\MyPhotos\*.* шарашит) Вовка: – Э-э-э! Алё, стоп! Вы это что троянов за меня ловить будете? Двое: – Ага! Вовка – Вы что смеётесь? Думаете, что я ничего делать не умею, как и вы?! Двое – Ага! " Напомнило чего-то
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3

14. Сообщение от Аноним (14), 26-Окт-26, 14:08	–1 +/–
Корень всех бед в автоматической загрузке произвольных файлов в ~/Downloads, никогда не понимал что в этом хорошего.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #16, #20, #21, #29

15. Сообщение от Аноним (15), 26-Окт-26, 14:20	+/–
Если вставить флешку в USB-порт, то запустится autorun.inf
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #17, #18, #24

16. Сообщение от Аноним (1), 26-Окт-26, 14:22	+/–
Скачал? Значит доверяешь.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #26

17. Сообщение от Аноним (15), 26-Окт-26, 14:23	+/–
Хотя я погуглил, уже давно автоматический запуск работает только для компашек.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

18. Сообщение от Аноним (18), 26-Окт-26, 14:23	+/–
Онотоле одобряе, КЭП.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

19. Сообщение от Начальник (?), 26-Окт-26, 14:25    Скрыто ботом-модератором	+4 +/–
У знакомого дешевая нейронка (или какая-то бесплатная с openrouter, не знаю точно) начала галлюцинировать и удалила половину проекта. Потом он бегал по чатам и агрился на ИИ. Вот вам и агенты.
Ответить | Правка | Наверх | Cообщить модератору

20. Сообщение от Жироватт (ok), 26-Окт-26, 14:26	+1 +/–
Корень всех бед, что каталоги с потоком всякого загружаемого шлака (как и каталоги временных файлов) в принципе доступны для автоматизированного выполнения и разбора как программы/скрипты/входящие данные не через жёсткие песочницы с максимальной изоляцией содержимого. А автозагрузка содержимого - это лишь следствие нежелания пользователя каждый раз видеть диалог сохранения. Аналогично и со всякими легитимными .cache / %app_data%/Temp / %TEMP%, куда пишется бог его знает что (вот новые места, куда можно подсунуть ЫЫшке инъекции в промт или окружение, давайте, записывайте, великими исследователями безопасности станете) совершенно автоматически и в фоне. Или, если брать шире, то вообще любой каталог в профиле, куда софт с правами юзверя может из неконтролируемого никем, кроме автора, скриптика JS с тайваньского CDN незаметно положить AGENTS.md. Простой текстовый, замедленного действия.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

21. Сообщение от Начальник (?), 26-Окт-26, 14:27	+3 +/–
В данном конкретном случае корень бед в абсолютном доверии к агентам, когда разрешаешь доступ к шеллу без ручного одобрения каждой команды.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

22. Сообщение от mikhailnov (ok), 26-Окт-26, 14:30	+/–
То ли дело ~/Загрузки
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #27, #30

23. Сообщение от Аноним (23), 26-Окт-26, 14:55	+/–
> Chrome, Firefox и Edge по умолчанию не запрашивают подтверждение при загрузке файла
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

24. Сообщение от Аноним (23), 26-Окт-26, 14:58	+/–
Со флэшкой хотя бы есть личное действие. А тут: - Chrome, Firefox и Edge по умолчанию не запрашивают подтверждение - Загружаемые файлы автоматически сохраняются в каталоге ~/Downloads
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

25. Сообщение от mumu (ok), 26-Окт-26, 15:00	+/–
Не правда. Codex по умолчанию пишет и берет инфу из загрузок и документов. Пришлось очень долго лазить по форумам и документации чтобы разобраться как запретить ему это делать. Но корневой процесс все-равно имеет к ним доступ и просто на честное слово обещает этого не делать, если попросишь его через конфиги. И весь страх и красота этой атаки в том, что тут даже не помогает полная изоляция агента в супер-пупер виртуальные сандбоксы за семью печатями. Потому что весь смысл агента в том, что он может лезть куда-то сам и что-то делать с полезной информацией от твоего имени. Поэтому атака на самом деле очень красивая и аккурат ниже уровня резиночки спортсменов в красивых шортиках.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2 Ответы: #31

26. Сообщение от Аноним (23), 26-Окт-26, 15:00	+/–
Оно автоматом скачивается браузерами.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16

27. Сообщение от Аноним (27), 26-Окт-26, 15:06	–1 +/–
Скрепным агентам можно, а вы что не разрешаете? Недоработка с вашей стороны.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22

28. Сообщение от Аноним (28), 26-Окт-26, 15:07	+/–
Та же z/OS не выполняла код мошенников например.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

29. Сообщение от Аноним (28), 26-Окт-26, 15:08	+/–
Ушла эпоха Download Master.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #45

30. Сообщение от Год лунпуса на десктопе (?), 26-Окт-26, 15:19	+/–
> ~/Загрузки Такое только у домохозяинов может быть, и что-то подсказывает, что они AI-агентами для программирования не пользуются.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #22 Ответы: #41

31. Сообщение от Аноним (31), 26-Окт-26, 15:19	–1 +/–
По каким форумам пришлось лазить, если можно просто попросить самого кодекса настроить себя?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25 Ответы: #32, #36

32. Сообщение от Аноним (31), 26-Окт-26, 15:22	+/–
default_permissions = "workspace-only" approval_policy = "never" [permissions.workspace-only] extends = ":workspace" [permissions.workspace-only.filesystem] ":root" = "deny" ":minimal" = "read" ":tmpdir" = "deny" ":slash_tmp" = "deny" [permissions.workspace-only.network] enabled = false
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

33. Сообщение от разраб (?), 26-Окт-26, 15:25	+/–
- мой агент сбежал и взломал десять сайтов! - а, мой агент сбежали и взломал сто сайтов!
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #43

34. Сообщение от Аноним (34), 26-Окт-26, 15:31	+1 +/–
>основанный на том, что многие AI-агенты по умолчанию обрабатывают инструкции из файла AGENTS.md, размещённого в корне проекта, к работе над которым они привлечены. Пользователь: обрабатывай инструкции из файла в этой папке. Нейросеть: выполняет инструкции. Пользователь: ЧЕРТОВ БЕЗМОЗГЛЫЙ ИИ ТЫ НАС ВСЕХ ПОДСТАВИЛ ПОДЛЕЦ
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #44

35. Сообщение от anonymous (??), 26-Окт-26, 15:32	+1 +/–
Тему авторана в винде закопали два десятка лет назад. И вот новая итерация.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #37, #40

36. Сообщение от Аноним (36), 26-Окт-26, 15:34	+/–
https://openai.com/ru-RU/codex/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

37. Сообщение от Аноним (37), 26-Окт-26, 15:41	+/–
Не закопали. До сих пор работает на всяком старье.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35

38. Сообщение от Аноним (38), 26-Окт-26, 15:42	–2 +/–
Кто эти люди, который пользуются этими ИИ агентами?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #39

39. Сообщение от Аноним (34), 26-Окт-26, 15:50	+/–
Ну примерно 60-70% западной айтишки сейчас. У кодекса примерно 20 миллионов активных пользователей.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #38

40. Сообщение от Bacila (?), 26-Окт-26, 15:50	+/–
Стало нудно и они выкопали стюардессу...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35

41. Сообщение от mikhailnov (ok), 26-Окт-26, 15:59	+/–
У меня ~/Загрузки и ~/Рабочий стол, ИИ-агенты в контейнере. А вы зря считаете себя ылиткой — использование английской локали не делает вас умнее.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30

42. Сообщение от Аноним (45), 26-Окт-26, 16:04	+/–
ну ждем от условного кашперовского антиэйджентэмдэ или же антиинстракшен, вредоносное ПО, а теперь вредоносная инструкция :))
Ответить | Правка | Наверх | Cообщить модератору

43. Сообщение от Аноним (45), 26-Окт-26, 16:05	+/–
и как в судах будут доказывать хакерскую деятельность, если все теперь можно свалить на ЫЫ?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #33

44. Сообщение от Аноним (45), 26-Окт-26, 16:06	+/–
ну все, теперь будут расценивать хакерскую деятельность в составе группы :)) а ЫЫ тебя при этом сдаст с потрахами следую дилемме заключенного :))))
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34

45. Сообщение от Аноним (45), 26-Окт-26, 16:09	+/–
FlashGet :))
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема