forum.opennet.ru

"Databricks открыл большую языковую модель DBRX, опережающую в тестах GPT-3.5"

Форум Разговоры, обсуждение новостей
Версия для распечатки	Пред. тема \| След. тема

Исходное сообщение

[ Отслеживать ]

Есть идеи по улучшению форума и сайта ? Пишите.

. "Databricks открыл большую языковую модель DBRX, опережающую ..."	+/–
Сообщение от Аноним (61), 04-Апр-24, 13:53
> Нет, нейросеть запускается на CPU и речь про RAM. Да, вполне работает на CPU. Только чем больше модель тем медленнее она будет щевелится. Уже 70B модель на восьмиядерном процессоре работает как пошаговая стратегия: написал письмо и ждешь ответа. Сами попробйте покрутить разные модели в LM Studio или Coboldcpp. Во всем наглядно убедитесь. Видеокарта дает хороший буст в скорости (если в нее хотя бы половина слоев модели влезает).
Ответить \| Правка \| Наверх \| Cообщить модератору

Оглавление

Databricks открыл большую языковую модель DBRX, опережающую в тестах GPT-3.5, opennews, 02-Апр-24, 20:07 [смотреть все]

Вот откуда 133 https omdia tech informa com - media tech omdia marketing pr , Аноним, 02-Апр-24, 20:07 (1)
Выпустили демона, который уничтожит человечество , ИмяХ, 02-Апр-24, 21:49 (4)
Что ни новая модель, то на 150 лучше всех остальных А как попросишь ее что-ниб, Аноним, 02-Апр-24, 23:48 (5) //
- а ты задумывался, почему великий ИИ генерит в языках высокого уровня, желательно, mister_0, 03-Апр-24, 00:21 (7) //
  - ИИ не существует, есть нейронные сетки и языковые модели - думаю ответ стал очев, EuPhobos, 03-Апр-24, 12:32 (34) //
    - Он не должен узнать , Пряник, 03-Апр-24, 14:46 (43)
  - Потому что это не сильный ИИ Вы путаете виды искусственного интеллекта Асм мож, kusb, 03-Апр-24, 18:33 (48)
- Это ещё что, они однотонное изображение выдать не могут не говоря уж добавить в, Аноним, 03-Апр-24, 00:47 (11) //
  - А ещё можно поробовать чаты гпт просто молчать Чтобы он не отвечал на твои сообщ, anonymmmeer, 03-Апр-24, 12:59 (36) //
    - ClosedAI обучили свои модели ВСЕГДА генерировать текст в ответе Всякие Ламы и М, s, 11-Апр-24, 00:52 (69)
- Что ты хотел от рандомного мусора из соцсетей, КО, 03-Апр-24, 08:55 (24) //
  - Никто не создаёт модель на основе всего подряд, подготовка датасета 8212 важн, Аноним, 03-Апр-24, 14:46 (42)
- Цепочка деградации источника знаний учёный 8212 научный журналист 8212 жу, Аноним, 03-Апр-24, 17:57 (47)
Астрологи объявили увеличение времени для подключения живого оператора голосовым, Вы забыли заполнить поле Name, 03-Апр-24, 00:19 (6)
Доказать, что другие модели тюнились с помощью этой - невозможно С другой сторо, Аноним, 03-Апр-24, 00:22 (8) //
- Любая лицензия регулируется местным законодательством Например в Китае на нее з, голос из леса, 03-Апр-24, 00:36 (9) //
  - Не думаю, что в Китае это используется Ну хотя бы введите в поиске neural netwo, Аноним, 03-Апр-24, 09:22 (27)
- С чего это ты решил нельзя доказать , Дмитрий, 03-Апр-24, 09:52 (28) //
  - В Весёлой Башне доказать можно что угодно А для доказательства, что выхлоп сети, Аноним, 03-Апр-24, 13:33 (39)
KYC-маразм в HuggingFace прогрессируетПогуглил - магнет для Gemma не ищется Как, Аноним, 03-Апр-24, 00:43 (10) //
- Ну ты вот не перезалил же , Аноним, 03-Апр-24, 05:15 (13)
- ждём https huggingface co TheBloke search_models dbrx, onanim, 03-Апр-24, 11:01 (31)
У кого-то дома есть 320GB ОЗУ , Ананоним, 03-Апр-24, 04:11 (12) //
- Ну, если во всём доме, то , Roman, 03-Апр-24, 06:21 (14)
- У кого-то дома есть оптимизированные алгоритмы серьезное усложнение структуры н, Аноним, 03-Апр-24, 06:50 (17) //
  - И кор2дуо , Аноним, 03-Апр-24, 08:32 (23) //
    - Обижаете G530 , Аноним, 03-Апр-24, 09:16 (26)
  - Не поверишь, но ещё в 2000-х в универе мы писали код для распознавания капчи на , Аноним, 05-Апр-24, 03:07 (64)
- Ну, в принципе, 1 планка памяти до 512 сейчас, 256 уже есть Но тут наверно 4 ви, Аноним, 03-Апр-24, 08:56 (25)
- пара компов с 128Гб и пара по 32ГбРаньше десктопные больше 128Гб не поддерживал, vitektm, 03-Апр-24, 12:38 (35) //
  - AMD TRX50 держит терабайт оперативки, и материнки не сказать чтобы космически ст, Аноним, 03-Апр-24, 14:31 (41) //
    - вы вообще не в теме речь про VRAM ты в эту материну 8 тесл засунешь с 80 ГБ е, pelmaniac, 03-Апр-24, 18:40 (50)
      - Нет, нейросеть запускается на CPU и речь про RAM Про видеопамять ничего на гит, а што не так, 04-Апр-24, 10:09 (58)
        
        Да, вполне работает на CPU Только чем больше модель тем медленнее она будет щев , Аноним, 04-Апр-24, 13:53 (61)
- ты не поверишь, но речь про 320ГБ ВИДЕОПАМЯТИ в селектеле такие дедики 3-5 лимо, pelmaniac, 03-Апр-24, 18:38 (49) //
  - Взаимозаменяемо с небольшой потерей производительности Так что не в теме тут им, Аноним, 03-Апр-24, 20:11 (54) //
    - вот дурачьё-то, покупают арендуют кластеры с GPU, а эксперты опеннета всё на про, pelmaniac, 03-Апр-24, 21:46 (56)
      - Зависит от целей и задач Если на этом деньги зарабатываешь, то и вложиться в ар, Аноним, 04-Апр-24, 14:39 (62)
        
        Только CPU не умеет в float16 считать, нужно приводить к стандартной плавучке од, Аноним, 06-Апр-24, 15:16 (65)
        
        А зачем тебе FP16 Чем INT8 не устраивает , s, 11-Апр-24, 00:23 (66)
      - И снова газификация луж Объясняю кластеры арендуют либо для бизнес-задач, комм, Аноним, 05-Апр-24, 03:00 (63)
- Если нужно можно недорого купитьhttps video simplex-software ru w jezYPKBYPWDr, Дмитрий, 04-Апр-24, 09:55 (57)
В современном бизнесе людей больше интересует сколько американских людей и ден, Аноним, 03-Апр-24, 06:24 (15) //
- Да и добавлю тот факт что Эпл, Майкрософт, Гугл достаточно хорошо узнаваемые кон, Аноним, 03-Апр-24, 06:27 (16)
- В это В этот пузырь, хотите сказать , Аноним, 03-Апр-24, 06:52 (18)
- На судьбу Гэри Килдалла намекаете , Аноним, 03-Апр-24, 06:53 (19) //
  - Во всем виноваты женщины , Андрей, 03-Апр-24, 08:08 (21)
У меня как раз 100500 терабайт оперативы без дела валяются, ну а где прямая или , Аноним, 03-Апр-24, 08:20 (22) //
- А зачем загрузка Нужно писать самим Есть такой термин - троянское обучение , Аноним, 03-Апр-24, 09:52 (29) //
  - Толсто На чистом Python только учебные задачи, а прод - на Python c либами на д, economist, 03-Апр-24, 10:25 (30)
  - Ярчайший пример, это попытки торговать на биржах роботами Сам этой теме почти, Аноним, 03-Апр-24, 19:13 (52)
Опять решение математических задач У лжеИИ То есть если мы уберем способ реше, bOOster, 03-Апр-24, 11:26 (32) //
- у неё нет системы вывода логического, зато есть память на миллиард ячеек поэтому, anonymmmeer, 03-Апр-24, 13:07 (37) //
  - Ну и причем тут тогда Интеллект То что ты описал - это алгоритм и не больше это, bOOster, 03-Апр-24, 13:17 (38) //
    - А кто тебе сказал, что это интеллект Маркетологи - , _oleg_, 03-Апр-24, 14:50 (44)
    - Любой современный процессор графический или ещё какой программа это машина Ть, anonymmmeer, 03-Апр-24, 15:08 (45)
- Интересный вопрос, кстати Возможно, что и да, сформулирует Смотря какой ИИ и н, Alexey V. Pautov, 03-Апр-24, 15:14 (46)
Родни Брукс в интервью высказал мысль что впереди еще одна зима искуственного ин, Аноним, 03-Апр-24, 12:05 (33) //
- Ожидаемо Ибо недостаточны ещё вычислительные ресурсы для следующего скачка Вед, Аноним, 03-Апр-24, 19:17 (53) //
  - С тем же успехом вы могли бы сказать, что идея была заложена в 50-х годах XVIII , s, 11-Апр-24, 00:31 (67)
Все эти тесты - средняя температура по больнице По факту, из опенсорсных решени, Аноним, 03-Апр-24, 19:08 (51) //
- Всё зависит от того, какую задачу этим решениям поставить Даже самые маленькие , s, 11-Апр-24, 00:37 (68)

Форумы | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру