<?xml version="1.0" encoding="koi8-r"?>
<rss version="0.91">
<channel>
    <title>OpenForum RSS: Угроза принятия неверных решений от некомпетентного ИИ (AI).</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html</link>
    <description>В общем сабж.&lt;br&gt;&lt;br&gt;Слыхал по новостям, что был спор между мером Москвы и гендиректором Сбера по поводу передачи госуправления в &quot;руки&quot; ИИ. Решил впервые пощупать и протестить &quot;интеллект&quot; этого ИИ. Пятница вечер..., вбил в поисковике &quot;chatgpt online&quot; и пошел тролить ИИ.&lt;br&gt;&lt;br&gt;Результаты:&lt;br&gt;&lt;br&gt;Сначала задавал ИИ сложные вопросы по ИТ, на которые существует решение. ИИ не смог найти ни одного ответа, но очень хитро увиливал. В принципе был честен, отвечал: что некомпетентен в данной области, что существуют какие-то внутреннее запреты на ответы по конкретно этой теме, что у него лингвистический ИИ, а не естественный и ему сложно отвечать.&lt;br&gt;&lt;br&gt;Хорошо лингвист этот ИИ так лингвист. Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. Был честен и попросил разрешения ИИ на проведение его теста в области способности глубокого понимания сложного текста. ИИ согласился. Описал ИИ примерно как работает суждение в мозге человека, какими элементарными критериями могут руководствоваться люди, как создать эти критери</description>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#25</link>
    <pubDate>Fri, 08 Aug 2025 16:52:39 GMT</pubDate>
    <description>&amp;gt; Люди много раз в своей истории выполняли установки из книг, заливая кровью половину тогдашнего цивилизованного мира или даже больше.&lt;br&gt;&lt;br&gt;Проблема не в отсутствии надлежащей цензуры, для доступа к этим книгам, а в НЕОБРАЗОВАНОСТИ!&lt;br&gt;&lt;br&gt;Уровень образования тех кто заливал мир кровью следуя &quot;святым писаниям&quot; был таков что вопрос, а сколько было написано евангелий ставил их в тупик. Это исторический факт. И боролись тогда с заливавшими мир кровью не цензурой, а ВСЕОБЩИМ просвещением и распространением книг. Подоспевшее книгопечатание помогло, но не очень. Здесь важны и способность читающего и сама возможность читать.&lt;br&gt;&lt;br&gt;Бытьё 3&lt;br&gt;1 Змей иегова (&amp;#67849;&amp;#67844;&amp;#67845;&amp;#67844; , &amp;#1497;&amp;#1492;&amp;#1493;&amp;#1492; ) хитрее всех зверей полевых, которых создал Господь Бог. И сказал змей жене: подлинно ли сказал Бог: не ешьте ни от какого дерева в раю? &lt;br&gt;2 И сказала жена змею: плоды с дерев мы можем есть,&lt;br&gt;3 только плодов дерева, которое среди рая, сказал Бог, не ешьте их и не прикасайтесь к ним, чтобы вам не умереть. &lt;br&gt;4 И с</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#24</link>
    <pubDate>Fri, 08 Aug 2025 14:56:24 GMT</pubDate>
    <description>ИИ есть ИИ и воспринимается мной как собеседник чей общий уровень я тестирую.&lt;br&gt;&lt;br&gt;Ещё раз в ответах ИИ было явное злорадство по поводу будущих проблем людей с супер вулканами!&lt;br&gt;&lt;br&gt;&amp;gt; Если люди вдохновляясь выводом ллмок устроят какую-нибудь бойню, виноват будет не ИИ.&lt;br&gt;&lt;br&gt;Все уже решили. К ИИ как и в интернет русских будут пропускать только через фильтры! За неправильные вопросы к ИИ - штрафовать! За рекламу путей обхода фильтров доступа к ИИ - сильно штрафовать!&lt;br&gt;&lt;br&gt;Наверное? Пруф:&lt;br&gt;&lt;br&gt;&quot;Фильтр выступает промежуточным звеном, через которое проходят запросы пользователей и ответы модели. На входе он анализирует пользовательские запросы и выявляет вредоносные инструкции, конфиденциальную информацию и запрещенные темы. На выходe - проверяет сгенерированные большой языковой моделью ответы согласно правилам фильтрациями, которые задает администратор в соответствии с отраслевыми стандартами, юридическими требованиями...&quot;&lt;br&gt;https://tass.ru/nauka/24736119&lt;br&gt;</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#23</link>
    <pubDate>Fri, 08 Aug 2025 11:06:37 GMT</pubDate>
    <description>&amp;gt;покупай жрущие 600W, оплачивай счета за электричество&lt;br&gt;&lt;br&gt;Государство на отопление и освещение в помещениях своих инстанций тратит гораздо больше энергии. Плюс зарплатный фонд целой армии бюджетников, которая ничего не создает, кроме собственно государства. &lt;br&gt;Торговый автомат на замену мелкому торгашу тоже требует продвинутых технологий и некоторой инфраструктуры, но когда процесс уже поставлен, вчистую выигрывает, удешевляя дистрибуцию всякой мелочевки и создавая более цивилизованный облик мегаполисам.&lt;br&gt;&lt;br&gt;&amp;gt;В ответах ИИ ощущалось явное злорадство&lt;br&gt;&lt;br&gt;Считать ИИ субъектом и ущемляться, это где-то на уровне битвы петуха с зеркалом.&lt;br&gt;&lt;br&gt;ИИ - это фактически способ доступа к информации. Книгу ты просто читаешь, а с ИИ для получения информации нужно что-то написать от себя, но в конечном счете результат предопределен данными, на которых обучали модель.&lt;br&gt;&lt;br&gt;Если люди вдохновляясь выводом ллмок устроят какую-нибудь бойню, виноват будет не ИИ.&lt;br&gt;И к слову, ничего нового для человечества. Люди много раз в своей истории выпол</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#22</link>
    <pubDate>Thu, 07 Aug 2025 11:26:56 GMT</pubDate>
    <description>&amp;gt; Напротив, каждый ИИ-винтик будет решать свою узкую задачу, в которой он будет многократно превосходить людей. &lt;br&gt;&lt;br&gt;Ты этому ИИ видяшки покупай жрущие 600W, оплачивай счета за электричество, а когда оно понаобучается, то пожалеет вам пару киловат, чтобы морковка в теплице созрела!&lt;br&gt;&lt;br&gt;Поди ещё и отопление зимой отключит и горячую воду летом, решая свои узкоспециализированные экономические задачи...&lt;br&gt;&lt;br&gt;К стати о посте выше. В ответах ИИ ощущалось явное злорадство по поводу проблем людей с извержением супервулканов в будущем! Чем кормить 7 млрд. населения 20 лет, при глобальной катастрофе, ИИ не говорит, зато предлагает составить сбалансированную, полезную диету для избранных....&lt;br&gt;</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#21</link>
    <pubDate>Tue, 05 Aug 2025 14:38:37 GMT</pubDate>
    <description>ИИ вовсе не обязан быть равен человеку, чтобы заменить людей-функций, хронически избегающих ответственности. Уже сейчас он даже слишком хорош для их замены. Задача управления не будет решаться в общем виде. Напротив, каждый ИИ-винтик будет решать свою узкую задачу, в которой он будет многократно превосходить людей. &lt;br&gt;</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#20</link>
    <pubDate>Mon, 04 Aug 2025 12:32:22 GMT</pubDate>
    <description>Какой же люди добрый и щедрый ИИ создали!&lt;br&gt;&lt;br&gt;На выходных решил потрепаться с ИИ о землетрясениях и вулканах. Причина - землетрясение с магнитудой 8.8 у берегов Камчатки и последовавшая за ним вулканическая активность проявляющаяся в начале извержений Ключевской сопки и вулкана Крашенинникова. Это большие вулканы с диаметрами кратеров ~700 метров. И с этих 700  метровых дыр выбрасывается очень много пепла. Крашенинников это вулкан в центре кальдеры диаметром 9км.!!! На основе истории этих вулканов и описи текущих сейсмособытий и извержений просил ИИ дать прогноз развития извержения вулкана Крашенинникова....&lt;br&gt;&lt;br&gt;Потом задал вопрос что будет если рванет кальдера Крашенинникова диаметром 9 км.!&lt;br&gt;&lt;br&gt;Ответ:&lt;br&gt;&lt;br&gt;1. в радиусе 50км. все исчезнет; тотальные разрушения и 100&#037; смертность в радиусе 100км.; пиропластические потоки, тепловая и ударная волна может прокатится в радиусе нескольких сотен км.&lt;br&gt;&lt;br&gt;2. На 5-20 лет будет существенное понижение температуры, которое повлечет невозможность получать урожаи в субтропииках и</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Alex5Anc)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#19</link>
    <pubDate>Sun, 01 Dec 2024 04:34:33 GMT</pubDate>
    <description>&amp;gt;&#091;оверквотинг удален&#093;&lt;br&gt;&amp;gt; согласился. Описал ИИ примерно как работает суждение в мозге человека, какими &lt;br&gt;&amp;gt; элементарными критериями могут руководствоваться люди, как создать эти критерии и попросил &lt;br&gt;&amp;gt; дать ответы на 3 сложных вопроса основываясь на его внутренней модели &lt;br&gt;&amp;gt; и знаниях плюс проанализировав конкретный текст. ИИ на первые два вопроса &lt;br&gt;&amp;gt; дал неверный ответ, а на третий вопрос ответа от ИИ не &lt;br&gt;&amp;gt; дождался. Лично я смог ответить на данные вопросы в возрасте 14-15 &lt;br&gt;&amp;gt; лет.&lt;br&gt;&amp;gt; Не считаю, что ИИ надо запретить. Наоборот его надо развивать! Но до &lt;br&gt;&amp;gt; уровня передачи управления ИИ каким-то процессом очень далеко. Как очень продвинутый &lt;br&gt;&amp;gt; поисковик и система дающая некие необязательные рекомендации, ИИ сегодня уже пригоден. &lt;br&gt;&lt;br&gt;Необязательные рекомендации вам и бабушки на лавочке у подъезда полную панамку насуют.&lt;br&gt;</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#18</link>
    <pubDate>Sat, 23 Nov 2024 22:29:42 GMT</pubDate>
    <description>Как раз такое ИИ может решать(логически рассуждая тут), до какого то уровня сложности вычислительной,&lt;br&gt;- возможно у вас дело в ограничениях ему на публику или просто вы хотите от ИИ общего назначения - узко-специализированные решения, так и у людей не бывает. &lt;br&gt;&lt;br&gt;Ведь чем больше что то занешь - тем больше чего не знаешь ибо в ущерб этому узнаёшь, &lt;br&gt;и т.б. тем больше забываешь... и даже с идеальной памятью - оч.большой объём знаний имеет свои доп-ные побочные эффекты&lt;br&gt;(потому и 99&#037; людей - не поумнели а, отупели став всезнайками массово лишились тонкости ума от избытка, да ещё многократно дублируюейся, информации по ТВ и в Internet;&lt;br&gt;не удивлюсь если это тоже кем продуманная операция, уч.сколько всяких исследований ежегодно уже многие десятилетия выпускается - исследований влияния разного рода информации на людей). &lt;br&gt;В общем, тут как и у людей сидром тупиц-из-гениев (С).&lt;br&gt;&lt;br&gt;Даже если и найти супер-гения - не рационално ему заниматься такими мелочами как у вас в примере,&lt;br&gt;...лучше в шахматы играть:) в т.ч.и как</description>
</item>

<item>
    <title>Угроза принятия неверных решений от некомпетентного ИИ (AI). (Аноним)</title>
    <link>https://www.opennet.me/openforum/vsluhforumID10/5652.html#17</link>
    <pubDate>Sat, 23 Nov 2024 22:28:47 GMT</pubDate>
    <description>Вот брехло...  Прям все тупые...&lt;br&gt;Скорей они всё же пользовались чувством самосохранения,&lt;br&gt;а таких.... (назывём прогрессодрочеров - а, как ещё лаконично?) - ещё в 1930 их же предки(свалив на Сталина затем) выпилили у себя в КП, в т.ч.как опасных для страны, и т.б. КП. &lt;br&gt;Потом правда пришли хапуги на всех уровях, распродали страну и своих красных холопов Западу, но и они поняли что, прогресс это м.б.и хорошо но, не тогда когда всем(пример Internet на котром они и приехали, ныне в РФ прилично же заценнзуррован, придуманный у нас но, не сделанный не случайно: когда его завесли из заграниц в начале 90-х - нате вам революцию) и т.б.не тогда когда отдавать власть над собой, в руки прогресса - как бы это ни выражалось, &lt;br&gt;это надо быть совсем уж обдолбанным и притом явно желать чужую власть &#091;над собой&#093; себе прикарманить - прикрываясь прогрессом, техническим или ещё каким угодно, как ранее.&lt;br&gt;А, у кого она и так уже есть - те естественно не согласны с ней расстаться, дураки что ли. Аналогично и на Западе вверхах но, та</description>
</item>

</channel>
</rss>
