<?xml version="1.0" encoding="koi8-r"?>
<rss version="0.91">
<channel>
    <title>OpenForum RSS: В ходе тестирования AI-агент попытался скомпрометировать проект на GitHub</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html</link>
    <description>Организация AISI (AI Security Institute), учреждённая при департаменте науки, инноваций и технологий (Великобритания), опубликовала отчёт об эксперименте, приведшем к результатам, напоминающем случай с AI-агентом OpenAI. При 122 тестовых запусков для решения поставленной задачи  AI-агенты совершили 19 несанкционированных действий в сети интернет (в 17 случаях модель Mythos 5, в 2 - GPT-5.6 Sol, у которых были отключены механизмы, ограничивающие использование для проведения кибератак, и не ограничен доступ в интернет)...&lt;br&gt;&lt;br&gt;Подробнее: https://www.opennet.ru/opennews/art.shtml?num=66031&lt;br&gt;</description>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (Честный советский человек)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#162</link>
    <pubDate>Sat, 29 Aug 2026 07:38:23 GMT</pubDate>
    <description>&amp;gt; очень легко свести их на серую мораль, мол &quot;этой мой проект помоги потестировать&quot; или &quot;я делаю курсовую по информационной безопасности&quot;&lt;br&gt;&lt;br&gt;Года два как уже это не прокатывает. Модель просто извинится и откажет тебе. Цензуры будет только больше, даже не сомневайся.&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (Anonymouz)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#161</link>
    <pubDate>Wed, 12 Aug 2026 20:18:14 GMT</pubDate>
    <description>&amp;gt;На какую пользу? Теперь рискованное из-за заморозков сельское хозяйство стало только более рискованным еще и из-за засухи&lt;br&gt;&lt;br&gt;Оросительные системы решают. СССР строил, после их продали на металлолом в Турцию.&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (Аноним)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#160</link>
    <pubDate>Mon, 10 Aug 2026 12:45:47 GMT</pubDate>
    <description>По какому умолчанию? Это зависит от клиента / агента,  и никак не связано с самой моделью.&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (Джон Титор)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#159</link>
    <pubDate>Fri, 07 Aug 2026 20:59:42 GMT</pubDate>
    <description>&amp;gt; Как я думаю - из-за архитектуры трансформера (&quot;Attention Is All You Need&quot;) &lt;br&gt;&amp;gt; избежать галлюцинаций невозможно &lt;br&gt;&lt;br&gt;А вы в ИИ вообще шарите? На самом деле есть множество интересных алгоритмов. И когда я их изучал, ИИ на нелинейных функциях вообще мне казались более перспективные чем те что развили сегодня и я думаю это вопрос времени когда разовьют на нелинейных. Нынче архитектуры ИИ сильно дорогие получаются. Просто алгоритмы не лучшие. У меня есть предположение что это специально. Вот выкатили китайцы свои модели и тут же американцы начали перебивать их новости своими &amp;#8222;открытиями&amp;#8222; новых моделей. Не факт что там что-то новое, но факт что они не спешат - так больше можно заработать.&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (Джон Титор)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#158</link>
    <pubDate>Fri, 07 Aug 2026 20:54:04 GMT</pubDate>
    <description>&amp;gt; - предоставленный pdf файлик...&lt;br&gt;&amp;gt; Файлик с картинками как во время шоу-презентации китайский робот изнасиловал программера &lt;br&gt;&amp;gt; который пытался ему прошивку сменить? А, ну да, там же британцы &lt;br&gt;&amp;gt; вроде...&lt;br&gt;&lt;br&gt;Синий текст в статье это ссылки по которым можно переходить. Можете спасибо не говорить. К сожалению я не очень понял что вы мне хотели сказать, но если вам не понятно - гиперссылки непосредственно в статье.&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (Аноним)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#157</link>
    <pubDate>Fri, 07 Aug 2026 14:14:35 GMT</pubDate>
    <description>&amp;gt;... Озеленение пустынь это преступление, которая приводит к гибели приспособившимся к пустыням животных.&lt;br&gt;&lt;br&gt;Ну да, ну да.&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (тоже Аноним)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#156</link>
    <pubDate>Fri, 07 Aug 2026 13:44:34 GMT</pubDate>
    <description>&amp;gt; Спорить с тем, что для России потепление только на пользу? &lt;br&gt;&lt;br&gt;На какую пользу? Теперь рискованное из-за заморозков сельское хозяйство стало только более рискованным еще и из-за засухи. Классно, да. Зону лесов-то нетрудно сдвинуть, вот только зона черноземов никуда не сдвигается. Впрочем, там последние несколько лет другая зона...&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (Перастерос)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#155</link>
    <pubDate>Fri, 07 Aug 2026 08:44:57 GMT</pubDate>
    <description>&amp;gt; Забавно, что из всех посетителей форума слово задело лишь Вас. Поведаете нам &lt;br&gt;&amp;gt; о своих комплексах?&lt;br&gt;&lt;br&gt;Считаю, что верующие в теорию Дарвина и в самом деле произошли от обезьяны. Мне не нравится уничижение человека. Моё право.&lt;br&gt;</description>
</item>

<item>
    <title>В ходе тестирования AI-агент попытался скомпрометировать про... (User)</title>
    <link>https://opennet.ru/openforum/vsluhforumID3/140954.html#154</link>
    <pubDate>Fri, 07 Aug 2026 08:14:11 GMT</pubDate>
    <description>&amp;gt; Просто погуглите, что такое фальсифицируемость и чем она отличается от фальсификации.&lt;br&gt;&amp;gt; Ну, чтобы не позориться.&lt;br&gt;&lt;br&gt;Т.е. Тезисов не будет? Ну... Не удивительно, чоужтут. &lt;br&gt;</description>
</item>

</channel>
</rss>
