The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Компания xAI, созданная Илоном Маском, открыла большую языковую модель Grok"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Компания xAI, созданная Илоном Маском, открыла большую языковую модель Grok"  +/
Сообщение от opennews (??), 18-Мрт-24, 11:57 
Компания xAI, основанная Илоном Маском и получившая около миллиарда долларов на развитие технологий, связанных искусственным интеллектом, объявила об открытии большой языковой модели Grok, применяемой в чатботе, интегрированном в социальную сеть X (Twitter). Набор весовых коэффициентов, архитектура нейронной сети и примеры использования опубликованы под лицензией Apache 2.0. Для загрузки доступен готовый к применению архив с моделью, размером 296 ГБ (magnet)...

Подробнее: https://www.opennet.dev/opennews/art.shtml?num=60801

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по времени | RSS]


1. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (1), 18-Мрт-24, 11:57 
>Для тестирования требуется GPU c большим объёмом памяти (каким именно не уточняется)

Ну спасибо,это они конечно помогли.4070 хватит? Качаю и проверю.

Ответить | Правка | Наверх | Cообщить модератору

3. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от мяя (?), 18-Мрт-24, 12:02 
Не хватит. Забей пока на эту модель, пока там прошаренные не разберутся.
Ответить | Правка | Наверх | Cообщить модератору

4. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (1), 18-Мрт-24, 12:02 
А сколько надо памяти?Есть ещё 3090
Ответить | Правка | Наверх | Cообщить модератору

7. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +4 +/
Сообщение от Аноним (7), 18-Мрт-24, 12:10 
>А сколько надо памяти?

Чем больше, тем лучше:
https://habana.ai/products/gaudi2/
https://www.nvidia.com/en-us/data-center/a100/

Ответить | Правка | Наверх | Cообщить модератору

11. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (11), 18-Мрт-24, 12:25 
Должно же быть референсное значение, а не всё хорошее против всего плохого.
Ответить | Правка | Наверх | Cообщить модератору

65. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от ptremail (ok), 18-Мрт-24, 17:55 
Обычно, если половина модели в память помещается, то производительность становится вполне приемлемой. Так что начинать надо с двух A100 80GB. На четырех - вообще летать будет.
Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

95. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от X86 (ok), 19-Мрт-24, 01:28 
Там больше 400 гигабайт видеопамяти надо. 3090 не хватит даже 10 штук)
Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

100. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (100), 19-Мрт-24, 08:28 
Ну так возьми 20.
Ответить | Правка | Наверх | Cообщить модератору

104. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от ptremail (ok), 19-Мрт-24, 09:15 
На каждый GPU, для получения приемлемой производительности, нужно хотя бы 8 линий PCIe.
Ответить | Правка | Наверх | Cообщить модератору

109. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Аноним (100), 19-Мрт-24, 10:50 
Да, поддерживает только pcie4. Надо хотя бы pcie5 (с другой стороны подключать сразу десяток надо только проф картам и у них есть pcie5).
Ответить | Правка | Наверх | Cообщить модератору

116. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от ОноНим (?), 20-Мрт-24, 10:07 
Обычно чуть больше, чем сама модель ~= 300 гигов.
Сколько там на твоей 3090, гигов 8-12? :)
Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

121. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от X86 (ok), 21-Мрт-24, 08:00 
на 3090 24 гигабайта памяти.
Ответить | Правка | Наверх | Cообщить модератору

6. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от сщта (?), 18-Мрт-24, 12:04 
Тут чел который виртуалками торгует говорил,что у него только рамы 128 гигов и гиов 60 видеорамы. Ему мало.
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

13. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +4 +/
Сообщение от Эксперт (?), 18-Мрт-24, 12:58 
если квант 8 битный, то 8 штук h100 по 80 гб. 360 гб в сумме
если 4 бит, то примерно в два раза меньше, не считая размера окна контекста
2 бита - вопросы к качеству, но если цель просто запустить, посмотреть, то в связку rtx 4090(3090) + 192 гб озу должно влезть. скорость инференса сложно прикинуть, но скорее всего будет больно
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

32. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Аноним (100), 18-Мрт-24, 14:29 
80*8=640, что имелось в виду? У 4090 вроде всего 24 гигабайта
Ответить | Правка | Наверх | Cообщить модератору

40. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +7 +/
Сообщение от x (?), 18-Мрт-24, 15:47 
какая еще 4090? забудьте микрогеймерские затычки. Tesla H100 ставят для таких дел
Ответить | Правка | Наверх | Cообщить модератору

25. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (25), 18-Мрт-24, 14:00 
>4070 хватит?

Одной? Тут целый парк нужен.

Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

50. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (50), 18-Мрт-24, 16:50 
> 4070 хватит? Качаю и проверю.

Гиблое дело. Даже с разделением памяти видюхи и оперативки не взлетит.
Поиграться на своем компе вряд ли получится.

Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

91. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (91), 19-Мрт-24, 00:35 
> размером 296 ГБ

Вот столько должно быть VRAM. Если столько VRAM+RAM, будет медленней. Может сделают версию поменьше, но на меньше 296/4 Гб я особо бы не рассчитывал.

Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

2. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –2 +/
Сообщение от Аноним (2), 18-Мрт-24, 12:01 
> Yandex YaLM - 100 млрд

АЛИСА, что-ли?

Ответить | Правка | Наверх | Cообщить модератору

8. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –2 +/
Сообщение от Аноним12345 (?), 18-Мрт-24, 12:20 
Да
Ответить | Правка | Наверх | Cообщить модератору

9. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +3 +/
Сообщение от Шарп (ok), 18-Мрт-24, 12:21 
Алиса не LLM. Там древний подход на основе интентов. Нейросеть используется только в режиме "болталаки".
Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

14. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Анонус (?), 18-Мрт-24, 13:00 
Уже ЛЛМ, но кажется какой-то тюненый вариант.

https://yandex.ru/alice/beta

Ответить | Правка | Наверх | Cообщить модератору

33. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от Аноним (2), 18-Мрт-24, 14:33 
Спросил у нее. Говорит, что нет.
Ответить | Правка | Наверх | Cообщить модератору

66. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (66), 18-Мрт-24, 17:59 
Спросил у ИИ, является ли он ИИ. Ответил, что нет.
Ответить | Правка | Наверх | Cообщить модератору

70. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от dannyD (?), 18-Мрт-24, 18:13 
>>Ответил, что нет.

а зачем по-вашему мелафон?

Ответить | Правка | Наверх | Cообщить модератору

89. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (89), 18-Мрт-24, 23:09 
Мне ответила, что да, размер - 1.6 миллиардов параметров
Ответить | Правка | К родителю #33 | Наверх | Cообщить модератору

102. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (50), 19-Мрт-24, 09:03 
Мне кажется, что Алиса сама не знает, как она устроена и придумывает факты.
С 1,6 миллиардов параметров для голосового помошника - это слишком мало.
С таким количеством можно нести только малосвязанный бред.
Либо модель должна быть обучена на строго узкоспецальную задачу: например, управлять умным домом.
Ответить | Правка | Наверх | Cообщить модератору

84. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от cheburnator9000 (ok), 18-Мрт-24, 20:50 
разбудите когда она научится озвучивать и пересказывать порно фильмы.
Ответить | Правка | К родителю #14 | Наверх | Cообщить модератору

101. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от Аноним (50), 19-Мрт-24, 08:30 
Алиса никогда не будет озвучивать порно потому, что зацензурирована.

Меня больше интересует вопрос: почему когда Алиса появилась, то она была болтушкой и любила потрепаться, а сейчас, как-то замкнулась в себе и отвечает на вопросы сухо и по делу?

Я у нее спросил. Она ответила что-то, типа: "Больше дела, меньше слов, но, всегда готова помочь."

Ответить | Правка | Наверх | Cообщить модератору

119. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от namenotfound (?), 20-Мрт-24, 15:53 
потому что твоя болтовня стоит яндексу денег
Ответить | Правка | Наверх | Cообщить модератору

123. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от нейм (?), 24-Мрт-24, 12:02 
майор не успевает от руки переписывать и в папочку подшивать
Ответить | Правка | К родителю #101 | Наверх | Cообщить модератору

5. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (2), 18-Мрт-24, 12:04 
> решение вузовских математических задач

REDUCE (дистрибутив чуть более, чем 20 Мб) не годится?

Ответить | Правка | Наверх | Cообщить модератору

37. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Другой анон (?), 18-Мрт-24, 15:05 
Можно ссылку?
Ответить | Правка | Наверх | Cообщить модератору

38. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (38), 18-Мрт-24, 15:14 
Видимо http://www.reduce-algebra.com/  имелось в виду.
Ответить | Правка | Наверх | Cообщить модератору

53. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (53), 18-Мрт-24, 17:28 
https://sourceforge.net/projects/reduce-algebra/

Также книжка на русском есть.

Ответить | Правка | К родителю #37 | Наверх | Cообщить модератору

45. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (45), 18-Мрт-24, 16:44 
Мы в MatLab делали. Было забавно :) В любом случае, это всё не то. В ВУЗ идут именно для ПОНИМАНИЯ, что и как ты решаешь, а не для "нахождения ответов".
Ответить | Правка | К родителю #5 | Наверх | Cообщить модератору

57. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (53), 18-Мрт-24, 17:33 
В инженерном деле можно. А также для проверки.
Ответить | Правка | Наверх | Cообщить модератору

96. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (96), 19-Мрт-24, 05:01 
REDUCE - это извращение. Современная математика плюс-минус есть только в FriCAS.

Уже даже Maxima безнадёжно устарела.

Ответить | Правка | К родителю #5 | Наверх | Cообщить модератору

98. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (2), 19-Мрт-24, 07:25 
Извращение - это когда увеличивают память, количество ядер и частоту вместо вместо оптимизации алгоритмов и использования адекватного языка программирования.
Ответить | Правка | Наверх | Cообщить модератору

10. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (11), 18-Мрт-24, 12:23 
Оказывается это Илон Маск друг опенсорса, а вы его ругали.
Ответить | Правка | Наверх | Cообщить модератору

12. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +3 +/
Сообщение от Аноним (7), 18-Мрт-24, 12:47 
https://opennet.ru/53083-falcon9
Ответить | Правка | Наверх | Cообщить модератору

24. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (24), 18-Мрт-24, 13:32 
А переписка с Сутскевером https://openai.com/blog/openai-elon-musk утверждает обратное:
>https://openai.com/blog/openai-elon-musk#OpenAIAndElonMuskFo...
Ответить | Правка | К родителю #10 | Наверх | Cообщить модератору

124. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (124), 26-Мрт-24, 08:36 
Если только с позиции Сутскевера.
Ответить | Правка | Наверх | Cообщить модератору

15. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Вы забыли заполнить поле Name (?), 18-Мрт-24, 13:05 
> дополнение кода на языке Python (HumanEval) и решение вузовских математических задач

Вот надо чтобы литкод решала и потом устроиться к ним же удаленно на работу (и не только).

Ответить | Правка | Наверх | Cообщить модератору

52. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (-), 18-Мрт-24, 16:53 
>> дополнение кода на языке Python (HumanEval) и решение вузовских математических задач
> Вот надо чтобы литкод решала и потом устроиться к ним же удаленно на работу (и не только).

Ага. А потом Маск допрет сделать то же самое. И тут ты такой, с кредитом на машину и ипотекой - "ухтыб%@, спалили фишку!" - и переезжаешь куда-нибудь в картонную коробку или за полярный круг.

Ответить | Правка | Наверх | Cообщить модератору

81. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от голос из леса (?), 18-Мрт-24, 19:30 
Мечтай. Такая строчка в резюме еще 10 лет кормить будет.
Ответить | Правка | Наверх | Cообщить модератору

88. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (-), 18-Мрт-24, 22:10 
> Мечтай. Такая строчка в резюме еще 10 лет кормить будет.

Ну вот как рах тебя и вышибут из уже почти совсем оплаченной квартиры - чтобы джекпот был 100%!

Ответить | Правка | Наверх | Cообщить модератору

16. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от Аноним (16), 18-Мрт-24, 13:06 
Ну всё, теперь эту модель понавтыкают в техподдержку все кому не лень, и достучаться до живого оператора будет вообще невозможно :)
Ответить | Правка | Наверх | Cообщить модератору

17. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от сщта (?), 18-Мрт-24, 13:17 
И так по 10 минут музыку слушаешь в ожидании. Кожаные мешки обгадились в который раз. Это чудо-юдо хоть со всеми вместе одновременно трещать сможет.
Ответить | Правка | Наверх | Cообщить модератору

31. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +3 +/
Сообщение от Маск (?), 18-Мрт-24, 14:28 
Это еще вот зачем? Видимокарта и ее охлаждение - деньгов стоют!

Так что СНАЧАЛА послушаешь о наших новых продуктах, минут на пять, потом немного музыки, это бесплатно (для нас, а твоего счета и не жаль) и, если, сволота кожанная, тебе все еще мало и ты не бросил трубку - вот ТОГДА - сможешь поговорить с искусственным идиотом.

Ответить | Правка | Наверх | Cообщить модератору

19. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от Chel (?), 18-Мрт-24, 13:19 
А смысл до него достукиваться? Чем он тебе из своего Улан-Удэ поможет?
Ответить | Правка | К родителю #16 | Наверх | Cообщить модератору

26. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Anonim (??), 18-Мрт-24, 14:09 
Только когда оно станет работать на тостерах и пылесосах. Пока ей нужно вот это вот: "Для тестирования требуется GPU c большим объёмом памяти", кожанные мешки будут тупо дешевле на порядки, да-да. Проходили, знаем
Ответить | Правка | К родителю #16 | Наверх | Cообщить модератору

28. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Аноним (24), 18-Мрт-24, 14:13 
не будут — мешкам надо зряплату платить. Несколько зряплат как раз на карту хватит. А дальше зряплаты можно не платить.
Ответить | Правка | Наверх | Cообщить модератору

29. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Anonim (??), 18-Мрт-24, 14:23 
>мешкам надо зряплату платить.

А тот кластер инстансев с GPU для прокручивания того добра (на меньшем не заработает) у тебя будет бесплатный, ога. Почему до сих пор дворников роботов нет? Потому-что таджики дешевле роботов

Ответить | Правка | Наверх | Cообщить модератору

30. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Anonim (??), 18-Мрт-24, 14:26 
>А тот кластер инстансев с GPU для прокручивания того добра

Там еще толпу админов и разрабов нужно в этот кластер. Эффективный манагер мышкой в своем макбучеке работающий кластер энтот не накличит.

Ответить | Правка | Наверх | Cообщить модератору

34. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (100), 18-Мрт-24, 14:58 
Зачем DGX GH200 что-то помимо макбука?
Ответить | Правка | Наверх | Cообщить модератору

36. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (100), 18-Мрт-24, 15:02 
всего каких-то 24 стойки, кстати, для справки
Ответить | Правка | Наверх | Cообщить модератору

39. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (39), 18-Мрт-24, 15:31 
>Почему до сих пор дворников роботов нет? Потому-что таджики дешевле роботов.

Потому что робота украдут, а тот, кто украдёт таджика — сам об этом крупно пожалеет.

Ответить | Правка | К родителю #29 | Наверх | Cообщить модератору

46. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +3 +/
Сообщение от Аноним (45), 18-Мрт-24, 16:46 
И так давно уже навтыкали роботов! Я так им и пишу: "отвали робот, позови человека!". Оказалось, это просто такой тупой человек, а не робот. :))))) Было немного неудобно. гггг
Ответить | Правка | К родителю #16 | Наверх | Cообщить модератору

18. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (50), 18-Мрт-24, 13:18 
> 314 миллиардов параметров

Облом. С моими 64 гигами памяти больше 70В не запустить.

Ответить | Правка | Наверх | Cообщить модератору

20. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от сщта (?), 18-Мрт-24, 13:19 
Вот так так топовое профессиональное железо превращается в кор два дуба. Рекомендую Антикс.)
Ответить | Правка | Наверх | Cообщить модератору

23. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Аноним (50), 18-Мрт-24, 13:26 
> топовое профессиональное железо превращается в кор два дуба.

Топовым мой Ryzen 7 2700 был лет пять назад. А сейчас это просто калькулятор.

> Рекомендую Антикс.)

Больше зашла Fedora spin LXQt

Ответить | Правка | Наверх | Cообщить модератору

62. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (-), 18-Мрт-24, 17:46 
> Топовым мой Ryzen 7 2700 был лет пять назад. А сейчас это просто калькулятор.

Мощно протроллил тех кто тут всерьез сидит с калькуляторов типа кор два дуба. И которые говорят что этого им хватает для всех задач.  А таких тут не мало.

Ответить | Правка | Наверх | Cообщить модератору

99. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Мне хватает (?), 19-Мрт-24, 07:45 
У меня rk3566 с 4гб оперативы и мне хватает, работает как терминал клиент фактически.
Ответить | Правка | Наверх | Cообщить модератору

48. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (45), 18-Мрт-24, 16:49 
почему только 64Gb? Разве венда не поддерживает терабайты ОЗУ? Подумаешь, немного посвопится на SSD!

(для справки: Windows 10 Enterprise 64-Bit - 6TB )

Ответить | Правка | К родителю #18 | Наверх | Cообщить модератору

58. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (53), 18-Мрт-24, 17:37 
Была публикация, что китайские ученые при решении некоторой задачи за счет оптимизации 100 тыс. уравнений свели к 4. Указанные в публикации требования считаю неудачным решением задачи.
Ответить | Правка | К родителю #18 | Наверх | Cообщить модератору

61. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (-), 18-Мрт-24, 17:43 
Посчитай затраты на человеко-часы такоц оптимизации и на эквивалент в банальном умощнении железа. Вывод очевиден.
Ответить | Правка | Наверх | Cообщить модератору

105. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (2), 19-Мрт-24, 09:16 
Придется поработать, да. Но есть один нюанс. Оптимизированная задача будет исполняться в любом смартфоне. А если воспользоваться предлагаемым экстенсивным путем, потребуется суперкомпьютер, что мы и наблюдаем.
Ответить | Правка | Наверх | Cообщить модератору

122. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от X86 (ok), 21-Мрт-24, 08:07 
400 гб видеопамяти - это не суперкомпьютер. Просто корпорациям не нужно жмотиться и давно уже продавать плашки памяти по 128 ГБ, видеокарты с 8 чипами GDDR6 по 16ГБ, к примеру. А не вот это вот жмотство, когда несколько поколений видеокарт практически не прирастает памятью
Ответить | Правка | Наверх | Cообщить модератору

73. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от beck (??), 18-Мрт-24, 18:38 
Году эдак в 1989-м, я, будучи студентотою на базе нпо машиностроение прилежно конспектировал, как тамошние монстры рассказывали про решение баллистических задач, обтекания и обгара изделия, тактики преодоления пво ауг как раз таким вот сведением сотен и и даже тысяч параметров в десяток.

Не одна диссертация была написана.

Китайцы видимо нашли эти дисеры и прочитали. 😁

Ответить | Правка | К родителю #58 | Наверх | Cообщить модератору

80. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от 1 (??), 18-Мрт-24, 19:23 
ну не надо думать что в китае дураки, так помнится сша думали, когда после распада ссср китайцы посадили шпионский самолет сша, залетевший не туда. ну по уму анб надо было все переделывать (свою проприетарную ос для оборудования на самолете), но решили что китайцы не смогут разобраться. ну и прошло лет 10-15 или чуть больше и амеры с удивлением обнаружили китайцев у себя во внутренней сети анб, где китайцы чувствовали себя как дома. ну пришлось все переделывать, хотя надо было сразу это делать, после утраты кучи работающего оборудования на этом самолете.
Ответить | Правка | Наверх | Cообщить модератору

21. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (24), 18-Мрт-24, 13:20 
Цензура есть?
Ответить | Правка | Наверх | Cообщить модератору

51. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Аноним (45), 18-Мрт-24, 16:50 
Опять собираешься написать %%у%ем слово "мел"? :))
Ответить | Правка | Наверх | Cообщить модератору

60. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (-), 18-Мрт-24, 17:40 
Установив модель на свой комп ты можешь делать с ней что хочешь. Естественно, в публичном доступе без цензуры оно не появится никогда. Не потому что авторы этого не хотят, а потому что их держат за йайца государство.
Ответить | Правка | К родителю #21 | Наверх | Cообщить модератору

67. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (66), 18-Мрт-24, 18:00 
>а потому что их держат за йайца государство.

Опечатка в слове "инвесторы"

Ответить | Правка | Наверх | Cообщить модератору

69. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Аноним (-), 18-Мрт-24, 18:08 
Любое государство это «стационарный бандит». Инвесторы, как и любой крупный капитал- часть этого коллективного «бандита».
Ответить | Правка | Наверх | Cообщить модератору

68. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от Аноним (50), 18-Мрт-24, 18:00 
Мне AI сочиняет хвалебные поэмы про Ленина.
Обожаю их читать.
Даже иллюстрации нарисовал.
Особенно мне нравится поэма про терраформирование Марса под руководством мудрого вождя.
Ответить | Правка | К родителю #60 | Наверх | Cообщить модератору

75. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от 1 (??), 18-Мрт-24, 19:09 
поэму в студию!!!

я хочу видеть этого человека!!! (с)

Ответить | Правка | Наверх | Cообщить модератору

76. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (50), 18-Мрт-24, 19:15 
> поэму в студию!!!

Я такое боюсь публиковать.
Там такая трешевая тема и содержание. Вдруг это оскорбит чьи-то чувства?

Вы такой контент можете сами нагенерировать для себя в каких угодно количествах.

Ответить | Правка | Наверх | Cообщить модератору

79. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от 1 (??), 18-Мрт-24, 19:19 
да ладно, ну не сша, не закенселят
Ответить | Правка | Наверх | Cообщить модератору

87. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –1 +/
Сообщение от товарищ майор (?), 18-Мрт-24, 21:21 
Лет десять дам ему всего, за пропаганду чегонельзяназывать.
Ответить | Правка | Наверх | Cообщить модератору

22. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (24), 18-Мрт-24, 13:22 
ссылку добавьте https://huggingface.co/xai-org/grok-1
Ответить | Правка | Наверх | Cообщить модератору

41. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (41), 18-Мрт-24, 16:11 
> Для загрузки доступен готовый к применению архив с моделью, размером 296 ГБ (magnet)

о, как раз для местных сидельцев на третьем пне! 300 ГБ винты с ИДЕ точно были, помню! 500-ки вот не помню, были ли...

Ответить | Правка | Наверх | Cообщить модератору

43. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Проыыфыс (?), 18-Мрт-24, 16:26 
> о, как раз для местных сидельцев на третьем пне! 300 ГБ винты с ИДЕ точно были,

Если с ИДЕ винта грузить данные, то скорость генерации токенов будет просто волшебная


Ответить | Правка | Наверх | Cообщить модератору

44. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (50), 18-Мрт-24, 16:37 
Главный вопрос жизни, вселенной и вообще?

Через 10 лет ответ на третьем пне сгенерировался: "42!"

Ответить | Правка | Наверх | Cообщить модератору

74. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от 1 (??), 18-Мрт-24, 19:04 
ну так вроде 7 миллионов лет считалось в оригинале, крутой третий пень то оказывается проц))
Ответить | Правка | Наверх | Cообщить модератору

85. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Alexey V. Pautov (?), 18-Мрт-24, 20:57 
На IDE были даже терабайтники, правда мало. Причем на IDE133. 750 ГБ юзал лично. Еще точно помню были на 640 ГБ, тут я обалдел - это еще что за емкость такая? Почему их и запомнил.
Ответить | Правка | К родителю #43 | Наверх | Cообщить модератору

92. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Михаил Сергеевич (?), 19-Мрт-24, 00:36 
То были универсальные банки. Продавались в одном корпусе, как с IDE, так и с SATA контроллерами. Последние из могикан, крайне редкие и дорогие.
Ответить | Правка | Наверх | Cообщить модератору

49. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (-), 18-Мрт-24, 16:49 
> о, как раз для местных сидельцев на третьем пне! 300 ГБ винты с ИДЕ точно
> были, помню! 500-ки вот не помню, были ли...

Дык возьми btrfs или bcachefs, набей веников в бигтауэр, и будет тебе новая пошаговая стратегия!

Ответить | Правка | К родителю #41 | Наверх | Cообщить модератору

59. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (-), 18-Мрт-24, 17:38 
> для местных сидельцев на третьем пне

Ты тоже будешь через несколько лет сидеть на каком-нибудь мак про м3, который к тому моменту устареет так же, как 3 пни сегодня. Запомни, молодость- это не твоя личная заслуга. Третьи пни в пересчете стоили раз в 5 дороже сегодняшних топовых маков. Человеку свойственно привязываться к вещам с возрастом.

Ответить | Правка | К родителю #41 | Наверх | Cообщить модератору

86. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от doorsfan (?), 18-Мрт-24, 21:04 
Были самсунги 500ки IDE, через меня проходили эти диски.
Ответить | Правка | К родителю #41 | Наверх | Cообщить модератору

90. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Михаил Сергеевич (?), 19-Мрт-24, 00:34 
Эти банки были последними устройствами, которые поддерживали как IDE, так и SATA контроллеры. На тот момент это было нечто лютое и дикое. В период, когда использовался IDE, заполнить даже 20 гигов требовало значительных усилий.
Ответить | Правка | Наверх | Cообщить модератору

42. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  –3 +/
Сообщение от K_AHTOH (ok), 18-Мрт-24, 16:20 
Чет пустая какая то репа https://github.com/xai-org/grok-1/tree/main
Ответить | Правка | Наверх | Cообщить модератору

78. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от 1 (??), 18-Мрт-24, 19:17 
ну магнет есть на веса
Ответить | Правка | Наверх | Cообщить модератору

47. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (-), 18-Мрт-24, 16:48 
> Для загрузки доступен готовый к применению архив с
> моделью, размером 296 ГБ

Нихрена себе, это Элон Маск забэкапал свой мозг чтоли? :)

Ответить | Правка | Наверх | Cообщить модератору

94. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Михаил Сергеевич (?), 19-Мрт-24, 00:44 
> свой мозг

Всего лишь водна клетка человеческого организма с размером ДНК ~ 6 миллиардов оснований (что примерно соответствует размеру генома человека) содержится примерно 1.4 гига информации.

Ответить | Правка | Наверх | Cообщить модератору

56. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (-), 18-Мрт-24, 17:31 
> 314 миллиардов параметров

Представить даже боюсь какое железо для этого нужно, чтобы оно хотя бы просто шевелилось. Это явно не для простых смертных. Тут даже мои 128 гигов и купленная в рассрочку на 3 года 4090 будут ниочем.

Ответить | Правка | Наверх | Cообщить модератору

112. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (7), 19-Мрт-24, 15:56 
https://www.opennet.dev/opennews/art.shtml?num=59840
Ответить | Правка | Наверх | Cообщить модератору

63. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (63), 18-Мрт-24, 17:46 
Мудрое название для модели. Хайнлайн аплодирует!
Ответить | Правка | Наверх | Cообщить модератору

120. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Проыыфыс (?), 21-Мрт-24, 07:27 
Когда сказать нечего, но хочется блеснуть умом...
Даже крохотная Mistral 7B модель способна генерировать более развернутые и осмысленные комментарии
Ответить | Правка | Наверх | Cообщить модератору

93. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +3 +/
Сообщение от Михаил Сергеевич (?), 19-Мрт-24, 00:39 
Чтоб это затестить, придётся арендовать майнинг ферму 🤪 Явно не для консьюмерского железа (даже топового).
Ответить | Правка | Наверх | Cообщить модератору

103. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +2 +/
Сообщение от Аноним (103), 19-Мрт-24, 09:08 
Читал, к лету 2023 завершат работу над GPT-5, говорили что это будет чуть ли не научный прорыв. А потом резко всё затихло. Упёрлись в недостаток вычислительной мощности или кто-то пригрозил пальцем?
Ответить | Правка | Наверх | Cообщить модератору

106. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (50), 19-Мрт-24, 09:21 
Подозреваю, что модель есть, но нужно новое поколение железа, чтобы ее можно было запустить массово в продакшн.
Ответить | Правка | Наверх | Cообщить модератору

110. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (100), 19-Мрт-24, 11:53 
Gpt-4 пока не впечатляет. Сносно по сравнению с gpt-3 и тем более gpt-2, но это инструмент ограниченного применения и не все пользователи это понимают. До тех пор, пока будет генерировать булшит в таких объёмах, технология малопригодна для чего-либо кроме низкопробных и некачественных развлечений.
Ответить | Правка | К родителю #103 | Наверх | Cообщить модератору

111. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (50), 19-Мрт-24, 13:14 
Под узкозаточенные задачи ИИ может быть офигительно эффективным уже сейчас.
А попытка создать ИИ общего назначения пока не впечатляет. Гора родила мышь.
В общем, это инструмент для решения узкого круга задач. До тех пор пока не произойдет качественного прорыва.
Ответить | Правка | Наверх | Cообщить модератору

113. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (-), 19-Мрт-24, 18:46 
Согласен. Модели на основе llama с несоизмеримо меньшим кол-вом параметров, но натренированные исключительно на, скажем, python, в программировании на... python превосходят GPT-4, которая как раз «общего назначения» (:
Ответить | Правка | Наверх | Cообщить модератору

114. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (-), 19-Мрт-24, 18:54 
> генерировать булшит

Это проблема непонимания контекста заданного тобою ввода. Например, пишешь «дай код hello world». Но на каком языке, с использованием каких инструментов, библиотек, фреймворков, для какой ОС, для какой архитектуры, консольное приложение, с псевдографикой, а может графическое на qt или вообще для macOS, а окошко какого размера, а где его размещать, а где надпись делать, а нужно ли кнопку завершения программы наносить на формочку, а где эту кнопку внутри формочки размещать. И так далее. Для тебя это очевидно, для нейронки - нет.

Ответить | Правка | К родителю #110 | Наверх | Cообщить модератору

115. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (100), 19-Мрт-24, 23:15 
Нет, ты говоришь сгенерируй мне sql, а тебе в ответ код с малоприметными ошибками непредсказуемым образом меняющими логику. Но так просто субоптимально выдаст. Или вообще солжёт так, что не опознаешь.
Ответить | Правка | Наверх | Cообщить модератору

117. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +1 +/
Сообщение от Аноним (117), 20-Мрт-24, 11:34 
Живые программисты в таком же стиле работают. Так что производительность труда вырастет.
Ответить | Правка | Наверх | Cообщить модератору

118. "Компания xAI, созданная Илоном Маском, открыла большую языко..."  +/
Сообщение от Аноним (100), 20-Мрт-24, 14:39 
Проблема в том, что там ошибки такие, которые здоровый человек не допустит никак. И когда живому программисту приходится разбираться, в чём проблема, ему требуется тратить времени никак не меньше сэкономленного.
Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру