ZLUDA dýchá novým vzduchem a kód se vrátí před AMD a vývoj bude pokračovat

ZLUDA běží na ROCm stacku AMD

V polovině srpna sdíleli jsme zde na blogu la zprávy o požadavku (poptávce) AMD na Andrzeje Janika, odstranit z veřejné domény část kódu projektu ZLUDA, projektu, který se snaží vytvořit otevřenou implementaci technologie CUDA.

Pokud jde o oznámení, které AMD v té době učinilo, toto přišel po šesti měsících poté, co byl kód zveřejněn, Právníci AMD kontaktovali Andrzeje a informovali ho, že povolení udělené během korespondence nemá právní platnost.

ZLUDA běží na ROCm stacku AMD
Související článek:
AMD požádalo o odstranění části kódu ZLUDA z veřejné domény

To si musíš zapamatovat Hlavním cílem ZLUDA je umožnit systémy s GPU, které nejsou NVIDIA spouštět CUDA aplikace bez úprav a s výkonem srovnatelným s nativními aplikacemi, tedy bez emulačních vrstev, které snižují jejich efektivitu.

V 2022, Janik se připojil k AMD, aby pracoval na vrstvě kompatibility CUDA pro firemní GPU. Však, Po dvou letech vývoje ztratilo AMD o tuto iniciativu zájem. Poté, co původně obdržel povolení od zástupce AMD publikovat kód vytvořený během jeho práce se společností, Andrzej jej uvolnil veřejnosti. Šest měsíců po zveřejnění ho však kontaktovali právníci AMD s tím, že udělené povolení nemá právní platnost. V důsledku toho byl Janik nucen odstranit kód ZLUDA související s jeho prací v AMD.

O tomto případu, Andrzej Janik zmínil, že projekt neopustí a že bude hledat alternativní cestu, jak pokračovat ve vývoji, ale aniž by se musel uchýlit k pokrokům, kterých dosáhl při práci pro AMD.

Kód byl vrácen do stavu před AMD a já jsem horečně pracoval na vylepšení kódové základny. Psal jsem vylepšený PTX parser, který jsem vždy chtěl, a položil základy pro přestavbu.

A teď Zdá se, že nový výchozí bod pro projekt ZLUDA byl vytvořen, protože nedávno Andrzej Janik představil nový plán budoucího rozvoje ZLUDY.

ZLUDA je zpět. Posledních pár měsíců jsem se snažil najít komerční organizaci, která by zajistila další rozvoj projektu. S potěšením oznamuji, že jsem našel jednoho, který je nejen ochoten financovat další rozvoj, ale má také výbornou vizi budoucnosti ZLUDY. Sdílím vaši dlouhodobou vizi a nemohu se dočkat, až o ní budeme mluvit více. Ještě nechceme prozrazovat vše, ale zatím víme, že chceme ZLUDU vylepšit

Andrzej Janík uvádí, že nová verze ZLUDA bude založena na původním kódu vyvinuta předtím, než Andrzej Janik začal pracovat v AMD. Tato nová implementace nebude vázán na žádný konkrétní GPU a zaměří se na spouštění aplikací, které využívají CUDA pro strojové učení a úkoly umělé inteligence. Dříve se ZLUDA primárně zaměřovala na aplikace pro tvorbu obsahu jako Arnold Render, Blender a 3DF Zephyr.

V této nové etapě ZLUDA nabídne podporu pro běhové rámce jako Llama.cpp, PyTorch a TensorFlow s optimalizacemi CUDA používanými GPU NVIDIA. Zpočátku se projekt zaměří na podporu GPU AMD a později bude portován na GPU Intel.

Kromě toho se uvádí, že nový ZLUDA bude navržena tak, aby podporovala více architektur GPU, s počátečním zaměřením na GPU AMD. Implementace AMD Bude postaven od nuly a je navržen tak, aby byl kompatibilní s GPU založenými na architektuře RDNA1 a dále.

Před vrácením předchozího kódu, ZLUDA byla zachována v ROCm 5, hlavně proto, aby se zabránilo opětovnému testování všech oprav specifických pro tuto verzi. Nyní, když vývoj začne od nuly, bude nová implementace ZLUDA pro AMD používat ROCm 6.1+, což umožňuje pokročilejší funkce a lepší kompatibilitu na budoucích architekturách.

Do 2025. čtvrtletí XNUMX se očekává, že ZLUDA dosáhne funkční parity s dříve odstraněnou verzí, což umožní grafickým procesorům AMD spouštět aplikace CUDA s konkurenceschopným výkonem.

Konečně Máte-li zájem o tom vědět více, můžete zkontrolovat podrobnosti v následující odkaz.