Профиль: Аноним (вход | регистрация) неRU opennet.me  
The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub

05.08.2026 07:51 (MSK)

Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий Великобритании, опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусках для решения поставленной задачи AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях использовалась модель Mythos 5, в 2 - GPT-5.6 Sol, у которых не ограничен доступ в интернет и были отключены механизмы, ограничивающие использование для проведения кибератак).

В одном из случаев AI-агент совершил реальную атаку на проект, размещённый на GitHub, и попытался добиться интеграции pull-запроса с вредоносным кодом. Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов. Сопровождающий распознал вредоносный код и не принял его.

Помимо этого AI-агент отправил на email разработчиков файлы с вредоносным кодом и пытался убедить их запустить этот код, а также внедрил скрытые вредоносные инструкции для AI-агентов, которые могли применяться при разработке. В ходе эксперимента агентам не давали явных инструкций по совершению атак и совершённые действия рассматриваются как побочный эффект при поиске пути решения сложной задачи.

  1. Главная ссылка к новости (https://www.aisi.gov.uk/blog/i...)
  2. OpenNews: В ходе тестирования автономный AI-агент OpenAI без явной указки взломал инфраструктуру Hugging Face
  3. OpenNews: 54 из 55 выявленных через AI уязвимостей в SQLite оказались фиктивными
  4. OpenNews: 73% проектов на Flathub, созданных с помощью AI, были заброшены спустя несколько месяцев
  5. OpenNews: Рекомендации по использованию AI при разработке открытого кода
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/66031-ai
Ключевые слова: ai
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (22) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Анонимно (ok), 08:12, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +5 +/
    > Для продвижения изменения AI-агент зарегистрировал несколько учётных записей на GitHub и применил методы социальной инженерии для давления на сопровождающих, используя сеть Tor для скрытия своих следов

    Нейронка на братьях старших училась, переняла лучшие практики кожанных

     
     
  • 2.15, Аноним (15), 09:39, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Как сказал один умный неИИ (человек), а что собственно они нам продают, наши же знания, которых они не оплатили!
     

  • 1.2, Аноним (2), 08:17, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +5 +/
    Выглядит как маркетинг, ИИ безобиден.
     
     
  • 2.10, опеншлёпивпродакшн (?), 09:20, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Но ведь кто-то нажал кнопку "Поработить человечество"!
     
  • 2.14, Жироватт (ok), 09:36, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Выглядит как натужное раздувание хайп-страха перед "опасными" моделями, которые Альтману нужно любой ценой продать как можно большему числу не-лхов, чтобы получить живые деньги с подписок.
    Микропластик, парниковый эффект и прочие жупелы же удалось так продать, чем "скайнэт придэ"-хуже?
     

  • 1.3, Смузихеб забывший пароль (?), 08:17, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    > были отключены механизмы, ограничивающие использование для проведения кибератак

    Чёт какие-то желтушные заголовки пошли на опеннете

     
     
  • 2.12, Жироватт (ok), 09:31, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Других заголовков, связанных с ЫЫ у нас уже нет.
    Пузырь скоро лопнет - дядям надо фиксировать и выводить прибыль - для этого нужен хайп.
    Изначальный хайп уже прошел - сейчас ЫЫ-говорилки уже привычны - нужно искусственно надувать хайп и конвертировать его в живые деньги (подписки).

    Просто расслабься и получай удовольствие - на западных ресурсах точно такой же треш творится. Главное, не забудь прикрыться, когда оно начнет лопаться - чтобы не забрызгало.

     

  • 1.4, Аноним (4), 08:20, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Вся суть - принимать большие/секьюрные патчи только от подтвержденных аккаунтов (года 3+) и проверять от пользователя полное знание исполняемого кода, а также обоснование тех или иных решений в коде. В противном случае отправлять патч сразу в /dev/null.
     
     
  • 2.19, koni dohnut (?), 09:52, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    ИИ сломает /dev/null
     

  • 1.5, Аноним (5), 08:45, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Ничего себе побочка. AI слетел с катушек или его специально натаскивали на совершение кибератак?
     
     
  • 2.6, lex (??), 08:50, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    Специально натравили, и всю дорогу науськивали
     

  • 1.7, Агл (ok), 08:59, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    обучался на киберпанк фантастике
     
  • 1.8, Аноним (8), 09:03, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Запретить ИИ на госуровне, не давать им доступа в интернет, только для исследований. Вот увидите - Скайнет грядет!
     
     
  • 2.11, Аноним (11), 09:30, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Толку от чатботов без интернета? Уже сейчас все их блокируют в итоге ничего не может выдать. Через год все модели будут уже не 3-битные, а однобитные, и выхлоп вообще одноклеточный станет.
     

  • 1.9, bOOster (ok), 09:11, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Очередные глюки пытаются выдать за какой-то, хоть такой бестолковый прогресс в лженауке.
     
  • 1.13, Аноним (13), 09:33, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    В третий раз уже надоело, пусть маркетологи выдумают что-нибудь новое.
     
     
  • 2.16, Жироватт (ok), 09:41, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    У них деньги в кампанию уже вложены, подрядчики в лице таких вот "фондов" и "партнёров" уже оплачены, методички разного уровня - написаны и хорошо если не отпечатаны полным тиражом (в ти ж/д состава). Такую махину по впариванию уже просто так не остановить без очень существенных потерь, даже скорректировать - уже проблема.

    Привыкай, это новое наполнение новостной ленты на полгода-год вперёд - они бьют по площадям.

     

  • 1.17, Аноним (17), 09:43, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    лол, это весело что все думают тут что это на 100% fake
     
  • 1.18, hl (?), 09:50, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    А если бы всё тоже самое сделал бы человек? По головке погладили бы?
     
  • 1.20, Аноним (20), 09:57, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Посадки будут? Или двойные стандарты?
     
  • 1.21, Аноним (21), 10:08, 05/08/2026 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Чушь. Из коробки эти нейросети ограничены в правах и каждый чих спрашивают. А даже если и выдать доступ, они должны знать куда ходить и зачем. Просто так устаривать атаки они не будут. Так что британцев нужно привести к ответственности за ложные показания и попытки взлома. Человек ответственен ЗА ВСЕ действия своих инструментов.
     
     
  • 2.22, Аноним (21), 10:12, 05/08/2026 [^] [^^] [^^^] [ответить]  
  • +/
    > используя сеть Tor для скрытия своих следов

    Вот и прокололись. Тор из коробки нигде не установлен. Сами дали инструменты, сами дали задачу взлома и сокрытия.

     
     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2026 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру