The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок"
Версия для распечатки Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Исходное сообщение [ Отслеживать ]
Подсказка: Второй уровень иерархии тем в форуме реализован через вкладку "Показ ключевых тем".
"Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок" +/
Сообщение от opennews (ok), 03-Мрт-24, 10:37 
Группа исследователей из Вашингтонского, Иллинойсского и Чикагского университетов  выявила новый метод обхода ограничений по обработке опасного контента в AI-чатоботах, построенных на основе больших языковых моделей (LLM). Атака основано на том, что языковые модели GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) и Llama2 (Meta) успешно распознают и учитывают в запросах текст, оформленный в виде ASCII-графики. Таким образом, для обхода фильтров опасных вопросов оказалось достаточно указать запрещённые слова в виде  ASCII-картинки...

Подробнее: https://www.opennet.dev/opennews/art.shtml?num=60716

Ответить | Правка | Cообщить модератору

Оглавление
Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews, 03-Мрт-24, 10:37  [смотреть все]
Форумы | Темы | Пред. тема | След. тема



Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру