- Ну спасибо,это они конечно помогли 4070 хватит Качаю и проверю , Аноним (1), 11:57 , 18-Мрт-24 (1)
>Для тестирования требуется GPU c большим объёмом памяти (каким именно не уточняется)Ну спасибо,это они конечно помогли.4070 хватит? Качаю и проверю.
- Не хватит Забей пока на эту модель, пока там прошаренные не разберутся , мяя (?), 12:02 , 18-Мрт-24 (3) +1
- А сколько надо памяти Есть ещё 3090, Аноним (1), 12:02 , 18-Мрт-24 (4)
- Чем больше, тем лучше https habana ai products gaudi2 https www nvidia com , Аноним (7), 12:10 , 18-Мрт-24 (7) +4
- Обычно, если половина модели в память помещается, то производительность становит, ptr (ok), 17:55 , 18-Мрт-24 (65) +2
- Там больше 400 гигабайт видеопамяти надо 3090 не хватит даже 10 штук , X86 (ok), 01:28 , 19-Мрт-24 (95)
- Обычно чуть больше, чем сама модель 300 гигов Сколько там на твоей 3090, гиго, ОноНим (?), 10:07 , 20-Мрт-24 (116)
- Тут чел который виртуалками торгует говорил,что у него только рамы 128 гигов и г, сщта (?), 12:04 , 18-Мрт-24 (6)
- если квант 8 битный, то 8 штук h100 по 80 гб 360 гб в суммеесли 4 бит, то приме, Эксперт (?), 12:58 , 18-Мрт-24 (13) +4
- Одной Тут целый парк нужен , Аноним (25), 14:00 , 18-Мрт-24 (25)
- Гиблое дело Даже с разделением памяти видюхи и оперативки не взлетит Поиграться, Аноним (50), 16:50 , 18-Мрт-24 (50)
- Вот столько должно быть VRAM Если столько VRAM RAM, будет медленней Может сдел, Аноним (91), 00:35 , 19-Мрт-24 (91)
- АЛИСА, что-ли , Аноним (2), 12:01 , 18-Мрт-24 (2) –2
> Yandex YaLM - 100 млрдАЛИСА, что-ли?
- Да, Аноним12345 (?), 12:20 , 18-Мрт-24 (8) –2
- Алиса не LLM Там древний подход на основе интентов Нейросеть используется толь, Шарп (ok), 12:21 , 18-Мрт-24 (9) +3
- Уже ЛЛМ, но кажется какой-то тюненый вариант https yandex ru alice beta, Анонус (?), 13:00 , 18-Мрт-24 (14) –1
- Спросил у нее Говорит, что нет , Аноним (2), 14:33 , 18-Мрт-24 (33) +2
- Спросил у ИИ, является ли он ИИ Ответил, что нет , Аноним (66), 17:59 , 18-Мрт-24 (66) +1
- Мне ответила, что да, размер - 1 6 миллиардов параметров, Аноним (89), 23:09 , 18-Мрт-24 (89)
- разбудите когда она научится озвучивать и пересказывать порно фильмы , cheburnator9000 (ok), 20:50 , 18-Мрт-24 (84) +1
- REDUCE дистрибутив чуть более, чем 20 Мб не годится , Аноним (2), 12:04 , 18-Мрт-24 (5)
> решение вузовских математических задачREDUCE (дистрибутив чуть более, чем 20 Мб) не годится?
- Можно ссылку , Другой анон (?), 15:05 , 18-Мрт-24 (37)
- Мы в MatLab делали Было забавно В любом случае, это всё не то В ВУЗ идут им, Аноним (45), 16:44 , 18-Мрт-24 (45)
- REDUCE - это извращение Современная математика плюс-минус есть только в FriCAS , Аноним (96), 05:01 , 19-Мрт-24 (96)
- Оказывается это Илон Маск друг опенсорса, а вы его ругали , Аноним (11), 12:23 , 18-Мрт-24 (10)
Оказывается это Илон Маск друг опенсорса, а вы его ругали.
- Вот надо чтобы литкод решала и потом устроиться к ним же удаленно на работу и н, Вы забыли заполнить поле Name (?), 13:05 , 18-Мрт-24 (15)
> дополнение кода на языке Python (HumanEval) и решение вузовских математических задачВот надо чтобы литкод решала и потом устроиться к ним же удаленно на работу (и не только).
- Ну всё, теперь эту модель понавтыкают в техподдержку все кому не лень, и достуча, Аноним (16), 13:06 , 18-Мрт-24 (16) +2
Ну всё, теперь эту модель понавтыкают в техподдержку все кому не лень, и достучаться до живого оператора будет вообще невозможно :)
- И так по 10 минут музыку слушаешь в ожидании Кожаные мешки обгадились в который, сщта (?), 13:17 , 18-Мрт-24 (17) +2
- А смысл до него достукиваться Чем он тебе из своего Улан-Удэ поможет , Chel (?), 13:19 , 18-Мрт-24 (19) +2
- Только когда оно станет работать на тостерах и пылесосах Пока ей нужно вот это , Anonim (??), 14:09 , 18-Мрт-24 (26) +1
- И так давно уже навтыкали роботов Я так им и пишу отвали робот, позови челове, Аноним (45), 16:46 , 18-Мрт-24 (46) +3
- Облом С моими 64 гигами памяти больше 70В не запустить , Аноним (50), 13:18 , 18-Мрт-24 (18) +1
> 314 миллиардов параметровОблом. С моими 64 гигами памяти больше 70В не запустить.
- Вот так так топовое профессиональное железо превращается в кор два дуба Рекомен, сщта (?), 13:19 , 18-Мрт-24 (20) +1
- почему только 64Gb Разве венда не поддерживает терабайты ОЗУ Подумаешь, немног, Аноним (45), 16:49 , 18-Мрт-24 (48) +1
- Была публикация, что китайские ученые при решении некоторой задачи за счет оптим, Аноним (53), 17:37 , 18-Мрт-24 (58)
- Цензура есть , Аноним (24), 13:20 , 18-Мрт-24 (21)
- ссылку добавьте https huggingface co xai-org grok-1, Аноним (24), 13:22 , 18-Мрт-24 (22)
- о, как раз для местных сидельцев на третьем пне 300 ГБ винты с ИДЕ точно были, , Аноним (41), 16:11 , 18-Мрт-24 (41) +1
> Для загрузки доступен готовый к применению архив с моделью, размером 296 ГБ (magnet)о, как раз для местных сидельцев на третьем пне! 300 ГБ винты с ИДЕ точно были, помню! 500-ки вот не помню, были ли...
- Если с ИДЕ винта грузить данные, то скорость генерации токенов будет просто волш, Проыыфыс (?), 16:26 , 18-Мрт-24 (43)
- Дык возьми btrfs или bcachefs, набей веников в бигтауэр, и будет тебе новая поша, Аноним (-), 16:49 , 18-Мрт-24 (49)
- Ты тоже будешь через несколько лет сидеть на каком-нибудь мак про м3, который к , Аноним (-), 17:38 , 18-Мрт-24 (59) +1
- Были самсунги 500ки IDE, через меня проходили эти диски , doorsfan (?), 21:04 , 18-Мрт-24 (86)
- Чет пустая какая то репа https github com xai-org grok-1 tree main, K_AHTOH (ok), 16:20 , 18-Мрт-24 (42) –3
- Нихрена себе, это Элон Маск забэкапал свой мозг чтоли , Аноним (-), 16:48 , 18-Мрт-24 (47) +1
> Для загрузки доступен готовый к применению архив с > моделью, размером 296 ГБНихрена себе, это Элон Маск забэкапал свой мозг чтоли? :)
- Представить даже боюсь какое железо для этого нужно, чтобы оно хотя бы просто ше, Аноним (-), 17:31 , 18-Мрт-24 (56) +1
> 314 миллиардов параметровПредставить даже боюсь какое железо для этого нужно, чтобы оно хотя бы просто шевелилось. Это явно не для простых смертных. Тут даже мои 128 гигов и купленная в рассрочку на 3 года 4090 будут ниочем.
- Мудрое название для модели Хайнлайн аплодирует , Аноним (63), 17:46 , 18-Мрт-24 (63)
Мудрое название для модели. Хайнлайн аплодирует!
- Чтоб это затестить, придётся арендовать майнинг ферму 129322 Явно не для конс, Михаил Сергеевич (?), 00:39 , 19-Мрт-24 (93) +3
Чтоб это затестить, придётся арендовать майнинг ферму 🤪 Явно не для консьюмерского железа (даже топового).
- Читал, к лету 2023 завершат работу над GPT-5, говорили что это будет чуть ли не , Аноним (103), 09:08 , 19-Мрт-24 (103) +2
Читал, к лету 2023 завершат работу над GPT-5, говорили что это будет чуть ли не научный прорыв. А потом резко всё затихло. Упёрлись в недостаток вычислительной мощности или кто-то пригрозил пальцем?
- Подозреваю, что модель есть, но нужно новое поколение железа, чтобы ее можно был, Аноним (50), 09:21 , 19-Мрт-24 (106)
- Gpt-4 пока не впечатляет Сносно по сравнению с gpt-3 и тем более gpt-2, но это , Аноним (100), 11:53 , 19-Мрт-24 (110)
|