В рамках проекта LibreCUDA ведётся разработка открытой реализации API драйвера CUDA, позволяющего выполнять код CUDA на GPU NVIDIA без использования проприетарного CUDA Runtime. Работа без Runtime достигается благодаря прямому обращению к оборудованию, используя предоставляемые драйвером ioctl-вызовы и манипулируя очередью команд через MMIO (Memory-mapped I/O). Код проекта написан на языке Си и распространяется под лицензией MIT...Подробнее: https://www.opennet.dev/opennews/art.shtml?num=61675
Звучит как торт
Опять? Надо поднимать отдел юристов.
И эти туда-же...
До сих пор не понятно людям, связываться с энвидией, себе дороже...
Ждем намеков от лоеров, что проект надо закопать...
Хочется верить что это просто троллинг юристов.
До сих пор не понятно людям, связываться с амуде, себе дороже...
Хуанг свой хлеб не отдаст, CUDA это его главная фича.
https://www.tadviser.ru/images/5/50/Semi11.jpg
Хуанг от этого проекта кушать меньше не станет, ведь для запуска все равно понадобятся видеокарты Nvidia
Зависит от...
Код иногда можно переложить на другую платформу, а гонять написанный для CUDA софт на амд или, о страшный сон, интел может заставить и похудеть.
а смысл если на нвидии он быстрее катается? там вон тензоры со скрипом переписывают хотя изначально всё открыто переписывай не хочу. к моменту когда конкуренты догонят ниша уже будет поделена и все сливки от йоло инвесторов будут скушаны.
Дергать ioctl'ы, вытащенные наружу производителем, незаконно?
Сам же вытащил.
Этих тоже засудят как только поймут что что-то получается. Как того парня из амд.
> Этих тоже засудят как только поймут что что-то получается. Как того парня
> из амд.Киньте статью, чтобы ознакомиться
https://www.opennet.dev/opennews/art.shtml?num=61667
Так вся суть была в том, что этому человеку AMD дала деньги на разработку под их устройства, а потом по пока непонятным причинам, закрыла связанный с ней код.
Человек не из AMD, сам проект изначально под intel был.
Тем более он не говорил, что закрывает проект, он сказал, что пересоздат проект убрав все наработки, связанные с amd.Это же всё в новости написано...
> по пока непонятным причинам, закрыла связанный с ней код.код и был закрытый
> Человек не из AMD, сам проект изначально под intel был.человек был в AMD
из непонятного там только кто ему дал разрешение код открыть, т.к. судя по всему юристы были не в курсе
потому что это был его код который он пилил сам сначала с финансирвоанием интела потом когда интел понял что смысла в этом нет его ещё какоето время пофинансировала амд пока тоже не поняла что в этом смысла нет. и всё тогда он просто выложил свой код чтобы он не совсем зря был написан.
> потому что это был его код который он пилил сам сначала с финансирвоанием интела потом когда интел понял что смысла в этом нет его ещё какоето время пофинансировала амд пока тоже не поняла что в этом смысла нет. и всё тогда он просто выложил свой кодЕсли кто-то финансировал код, то надо смотреть контракт, чей код получился.
Автором он быть не перестанет, но остальных прав вполне может и не быть.> чтобы он не совсем зря был написан.
А это уже его проблемы.
Если программер написал что-то на заказ, то заказчик может с этим кодом делать, ну вообще, что пожелает.
Хоть продать, хоть подарить, хоть подтереться и в унитаз спустить.
Деньги за разработку он уже заплатил.
> Так вся суть была в том, что этому человеку AMD дала деньги на разработку под их устройства, а потом по пока непонятным причинам, закрыла связанный с ней код.Первая часть правда, а вот вторая - нет.
Причины понятны - чел у кого-то спросил (у кого он не рассказывает, может это была уборщица) и ему типа разрешили выкладыать код.
В итоге он выложил код, за который ему платили деньги.> Человек не из AMD, сам проект изначально под intel был.
И тоже только половина правды)
Да он начинал с Интела.
Но сейчас его место работы указано AMD.
pl.linkedin.com/in/andrzej-janik-6b84b4113
>> Так вся суть была в том, что этому человеку AMD дала деньги на разработку под их устройства, а потом по пока непонятным причинам, закрыла связанный с ней код.
> Первая часть правда, а вот вторая - нет.
> Причины понятны - чел у кого-то спросил (у кого он не рассказывает,
> может это была уборщица) и ему типа разрешили выкладыать код.
> В итоге он выложил код, за который ему платили деньги.
>> Человек не из AMD, сам проект изначально под intel был.
> И тоже только половина правды)
> Да он начинал с Интела.
> Но сейчас его место работы указано AMD.
> pl.linkedin.com/in/andrzej-janik-6b84b4113Да... мне надо самому голову пеплом посыпать)
> Да... мне надо самому голову пеплом посыпать)Нет конечно)
Но, согласись, уточнения немного меняют ситуацию.
Прям как в анекдоте "и не тысячу, а 100, не в лотерею, а в карты, и не выиграл, а проиграл."
Перевод https://github.com/vosen/ZLUDA/discussions/261#discussioncomment-10257413 :
> szmarczak:
> А какова позиция того, кто выдал разрешение [опубликовать код]? И того кто отменил это решение? Как именно было сформулировано разрешение, точная цитата?
>
> vosen:
> Прошу прощения, но я вынужден отказаться отвечать на этот вопрос. Речь не идёт о мнении отправителя и содержимом письма в целом: юридический отдел AMD не отрицает факт отправки, но они считают, что это письмо не имеет юридической силы [не налагает каких–либо обязательств].И тут уже можно гадать: то ли AMD опасаются юридических претензий от nVidia, то ли не хотят поддерживать конкурирующую технологию. То ли банальная жадность и нежелание открывать ни строчки оплаченного кода, без явных выгод. То ли имеет место какая–то подковёрно–межфракционная возня. То ли существует некое соглашение не лезть на чужие поляны и изначально весь смысл был в том, чтобы проект убрать под сукно (маловероятно, но нужно упомянуть для полноты картины).
Напомнило историю, как создавался первый опенсорсный драйвер AMD, и как одна команда разработчиков (использующая слой абстракции ATOMBIOS) лихо оттёрла другую (разреверсившую внутрянку и работавшую с GPU напрямую): https://libv.livejournal.com/27799.html . Обещанного опенсорсного атомбиоса с тех пор так и не случилось.
У меня такое ощущение, там больше дело в том, что он являлся и остаётся сотрудником амд, а не в том, что свои костыли вывалил (для разработки которых амд его наняла). Но не взлетело, ни хип никому не интересен, ни трансляторы в него. Видеокарт то подходящих всё равно нет, лол. Явное преимущество cuda в том, что работать будет на любых картах.
Это все потому что амд плохая компания. И левая рука не знает что делает правая.
Дело, в первую очередь, в том, что код он писал по заданию AMD на деньги AMD. Права на код, таким образом, у AMD, а надлежащего разрешения на перевод кода под свободную лицензию он не получил.Даже если бы AMD не предъявила претензии, лицензия, под которой он заопенсорсил AMD-шный код, получается фейковая. Вот в чём главная проблема.
Я так понял, он не штатный сотрудник, и работал на условиях, что его разработку спонсируют заинтересованные корпорации. И одним из условий было, что права на код остаются за ним.
> Я так понял, он не штатный сотрудник, и работал на условиях, что
> его разработку спонсируют заинтересованные корпорации. И одним из условий было, что права на код остаются за ним.Ну авторские права за ним и остались)
А так, очень сомнительно.
Во-первых, он не показал никаких доков, ссылаясь на НДА.
Во-вторых, если это самый НДА подписывается, то вероятность того что контракт был на его условиях, скажем так, невелика.
А толку? Ну будет код распространяться через пиратские сайты, и все будут его юзать.
Те, кто пользуется пиратскими сайтами, могут и куду от Хуанга юзать. А крупный бизнес с LLM на такие риски не пойдёт.
Ру-борд в соседней вкладке.А тут уважают свободный код, а не проприетарщину.
Сабж и есть свободный код. Просто из-за копирастов его придётся распространять через соответствующие сайты.
> Сабж и есть свободный код. Просто из-за копирастов его придётся распространять через
> соответствующие сайты.И использовать тоже.
Тк ни один уважающий себя дистрибутив не возьмет такое в апстрим.
Зачем им код непонятной легальности? Им не нужны лишние проблемы.
Эти, в отличие от того парня, не держали в руках исходники чьего-то проприетарного кода, никаких NDA не подписывали.
Судя по описанию проекта, он только для проприетарных.
Интересно, а его потом возможно будет и сделать под Nouveau или Nova?
Если эти IOCTL раскручивает тот их микроконтроллер для GPU, то, наверное, можно. Но только для свежих карт, в котором этот самый микроконтроллер имеется.
Для начала было бы неплохо сделать nouveau и nova
В АМД нет технологий прямого доступа к железу? Там одни спекулятивные виртуалки?
> Код проекта написан на языке СиВот это хорошо!
Вот бы либу для развертывания vgpu на любой нвидии.
Вот прям на любой не выйдет, но на некоторых можешь попробовать: https://github.com/DualCoder/vgpu_unlock
Ну раз уж объявили неделю *UDA на опеннете, пилите теперь мининовость и про этот проект:https://github.com/jgbit/vuda
Попытка реализовать CUDA-рантайм поверх Vulkan.
А чому не OpenCL? Это ведь почти что то же самое, что и куда?
Томущо OpenCL и так уже:https://www.khronos.org/blog/offline-compilation-of-opencl-kernels-into-spir-v-using-open-source-tooling
Пилить нужно свои архитектуры процессоров и видеокарт. RISC архитектуры показали что можно делать дёшево простые команды и много. Это не освобождает их от более сложных математических вычислений. Тем не менее нейрончики реализованные в железе в большом количестве пошлют эти куды куда подальше при грамотном использовании железо -> компилятор (языка программирования). Даже если это будет архитектура 28 нм или даже более крупная (300 нм). Ну в этом направлении западная техника потихоньку идёт, чтобы доить простаков как можно дольше. Конкурентов просто у них нет.
А потом окажется... манипуляция пакетами, хабами, доступностью ЯП и компиляторов - очередное яблоко раздора для экономического оружия в виде санкций и „этичное„ хакерство в пользу СГА. А что мешает реализовать нейрончики с уникальными функциями по пару десятков каждой иметь согласно количеству РОН? Элементарно есть функция kx+b. Имея одну b и 32 РОН, можно получить 32 нейрончика изменяя k, ну или 32 нейрончика изменяя b, ну или 16 нейрончиков с перменными k и х, а если придумать команды последовательного заполнения или считывания с оперативки, то это очень-очень быстро может работать с помощью одной команды на частоте работы оперативной памяти. Да, потом ещё и вес идёт, но РОН только обрабатывает команды и в случае с автоматической обработки ОЗУ, нейрончиков можно сделать больше чем РОН, что увеличит производительность
Примечание - ОЗУ может быть как встроенно в микросхему, так и иметь отдельный интерфейс параллельной передачи информации для каждого нейрончика, т.е. специальное ОЗУ. А может быть и система такой что для каждого нейрончика будет отдельный РОН на вход и выход. Сам нейрон - черный ящик. Ну да или отдельная схема - видеокарта с возможностью настройки нейронов и памятью, как и есть в куда. Но если оно может перенастраиваться, то это может быть и процессором сразу. Да и система на кристале может работать очень быстро и быть более компактной, ну и решить сразу множество проблем узких мест типа передачи данных и программирования. Впрочем в Гарвардской архитектуре есть свои плюсы, но проблема в том что реальные нейроны не работают на архитектуре х86_64, имея 4 основных регистров (и да, множество вспомогательных) для всех операций. Не, наверно это всё бред - робототехника и компьютерная техника сильно разные вещи. Для роботов нужны органы, конечности и тело. А компьютеру всё это по факту не нужно. Для видения картинки нужны не веб-камеры, а глаза, для слуха нужны уши, для разговора - рот и это просто, всё уже придумано самой природой до нас. И мозг должен быть соответствующей микросхемой, а не компьютером. А вот интерфейсы подключения к другим устройствам и к сети - интересный и даже этический вопрос.
Военные пишут что создать ИИ для самолётов сложно из-за ориентации в пространстве. На самом деле симуляторы существуют, нейронные сети существуют. Никто не мешает роботу дать фантазию, где он сможет быстрее реальности просчитывать своё перемещение в пространстве, впрочем она будет просчитана заранее, а это будет корректировка по реальным датчикам, которых можно сделать весьма много. Но я не вижу в этих всех системах видеокарты и всякие куды. Это всё должно быть отдельные устройства. Видеокарты используются просто потому что... время такое, действия военные. Никому нет дела просто.
И добавлю - читаю сейчас новость:
https://3dnews.ru/1109599/neo-semiconductor-predlogila-peren...Логическое продолжение - ИИ будет в оперативке. И это огромный плюс, и да, там я их вижу.
Название лучше поменять. Причём сразу. CUDA - это (tm). Как только захотят взяться - это будет первое, к чему прицепяться. Страйканут и будут даже правы (юридически).