AMD launches its ROCm 6.1.3 version with WSL support and AI workloads

Neben den erwarteten grundsätzlichen Verbesserungen ist die TensorFlow Unterstützung imho das Wichtigste. Es muss weiter an einer breiten Unterstützung gearbeitet werden - die generellen Verbesserungen kommen dann allen Anwendern jeglicher Software zugute, aber vor allem braucht man ja erst mal Anwender.

Antwort 2 Likes

Tensorflow wird aber schon länger unterstützt, das ist hier missverständlich dargestellt. Auch rocm 6.0 hat schon TF Support:

Antwort 1 Like

Yup, und so einiges mehr ... ;)

https://www.igorslab.de/amd-gpus-nutzen-jetzt-nvidia-cuda-bibliotheken-mit-rocm-und-zluda/

Antwort Gefällt mir

Schwierig. WSL ist eine virtuelle Linux Maschine. So locker flockig mal eben umter Windows nutzen ist nicht und da sitzen eben die User. Klar gibts experimentelle Treiber für Nvidia in Windows insider, der ist aber Nvidia umd alles andere als aktiv in Entwicklung. Für AMD muss mit zluda noch eine Schippe drauf. Jetzt zählen wir an einer Hand wie viele User das nutzen... nein die AMD GPUs sind okay und günstig aber so lange AMD nicht endlich reagiert und seim ROCm nativ auf Windows portiert werden sie in der Niesche bleiben. Und selbst wenn ich das wollen würde welche Anwendersoftware lasse ich dann da laufen? Was geht nutzt entweder DirectML oder ONNX. Was eher selten ist. Das macht kein Kunde mit und so wird das Budget wieder in eine multi NVIDIA GPU Windows Maschine fliessen. Will AMD den Markt jetzt bedienen oder nicht? Ich bin mir da nicht so sicher. Das kann doch nicht sein das die Hardware entwickelt wird, diese für den Endanwender weitestgehend unbrauchbar gemacht wird. Was ist da los?

Antwort Gefällt mir

Huh? Welche KI Farmen nutzen denn Windows?
Wenn ich mich recht entsinne findet KI-Berechnung weltweit zu 99% auf Linux/Unix/BSD statt, oder hat sich das geändert?

Antwort Gefällt mir

Ist eine ausgezeichnete Frage. Alle Universitäten mit denen ich jemals zu tun hatte - international. Endanwender. Die werden setzt du nicht vor eine CentOS bash. Ich glaube ein Redhat war auf den alten dabei, uebrigens auch mit Nvidia. Also z.B. Johns Hopkinsm, Exeter, Cambridge. Linux ist an sich besser, schon alleine das Speichermanagement, aber... die Welt ist halt Windows. Klar kann man sich hinsetzen und nur Linux machen, das ist aber eben nicht wirklich der Markt.

Antwort Gefällt mir

Gute Frage. Alle Systeme die ich für Universitäten international gebaut habe. Bei den alten Systemen war ein REDHAT dabei, war auch Nvidia. Endanwender, die setzt du nicht vor eine CentOS bash. Die hauen dir das um die Ohren. Die holen sich remote cals und machen das von Zuhause am Laptop.

Antwort Gefällt mir

Allgemein, setzt du niemanden der die Verantwortung trägt vor irgendein System.

Server werden mit Seitenlangen Protokolle übergeben, wenn ein Endanwender das lesen will, muss er etwas Zeit und Background "Know how" haben.

Versuche doch mal eine Abgas Untersuchung ohne Zertifizierte Software...

Antwort 1 Like

Also du setzt schon einen Biologen vor ein Mikroskop. Oder du gibst ihm eben eine Auswertung einer Bildanalyse KI. Für Serverprotokolle interessiert der sich eher wenig. Der ist nicht IT. Und natürlich laeuft die Ki auf dem Server. Gibst ihm halt keinen Zugang und er geht auf eine andere Uni. So einfach ist das.

Der will seine Windows App und was mich angeht, wenn er sprich die Uni bereit ist das zu bezahlen baue ich ihnen das. Rate wer gerade einen Server im 6 bis 7
-stellingen Bereich verkauft hat. Keine kleinen Universitäten. International.

Man kann Kunden auch verscheuchen. Ich kenn das, machen wir ja gerne, ich auch ab und an.

Zugriffsrechte lassen sich übrigens über AD prima verwalten, muss ja kein Adminzugriff sein. Der braucht nur know how seiner Forschung und seiner benutzten zertifizierten Software und fertig.

Wenn ich dem mit Ubuntu komme lacht der mich aus obwohl es an sich das bessere OS ist. Genau da ist das Problem.

Antwort Gefällt mir

Worauf willst du dich verlassen?
Auf den 50 Jährigen Frieden, oder den Ewigen Kampf ?

Was Verstehst du nicht bei den Begriffen: Kalibration und Zertifikation ?

ISO, nach NIST ?

Antwort Gefällt mir

Nicht nur Linux erfüllt gar magisch Sicherheitsstandards. Das ist kein Argument. Ich denke nicht das man sich die Mühe machen sollte AMDs verfehlte "wir bedienen nur Linux" KI Politik zu verteidigen. Wäre das so richtig würden sie NVIDIA Konkurrenz machen. Ist aber nicht der Fall. Und nein es liegt nicht daran das Nvidia oder Windows Umgebungen unsicher sind oder VPN Remotesessions zu einem Server unüblich sind oder Active Directory so wahnsinnig selten eingesetzt wird. Dafür ist es ja da.

Antwort Gefällt mir

Ah, also ganz auf dem Endgerät laufende "KI". Ich denke da AMD auch "KI" in Desktop-CPUs bringt sollte einfache ( ! ) Windows-Unterstützung zeitnah kein Problem sein (bei mir läuft auch Stable Diffusion auf Windows mit der 7900XT, jemand der gar keine Ahnung von Windows hat kann das aber nicht einrichten - wohl im Gegensatz zu deinem Biologen der alles alleine installieren kann/muss).
Ich kenne professionelle ( ! ) KI sonst nur von Servern - per Browser kann der Anwender direkt auf Funktionen zugreifen, ansonsten gehen Programme über da Netzwerk auf die KI Cluster. Und da läuft nix mit Windows, daher die 99%.

Antwort 1 Like

Muss er nicht,er kauft das. Ist auch ein Server der von mehreren hundert Nutzern verwendet wird. Ist halt Windows. Die ganze Software die genutzt wird ist eben Windows. Wie viel Linux findet man wohl bei Endanwendern? Klar Sysadmins lieben ihre stabilen Linux Server. Das sind aber keine Sysadmins. Und ja eine 2 Billionen Parameter Buntstift KI kannst du auf einer AMD der letzten drei Generationen mal eben so laufen lassen, die ganzen Python Abhängigkeiten mal aussen vor, Pytorch Updates die eben NICHT immer automatisch onnx implementiert sind. Das muss man dann einfach wissen. Wie schön wäre es wenn AMD sich da nicht auf dritte verlassen würde. Dann könnte man es vielleicht auch auf einem multi GPU Windows Server verwenden. Machen sie halt nicht, kann man halt nicht. Schade eigentlich.

Antwort Gefällt mir

Wie @OldMan darlegte (und sich auch mit meiner Erfahrung deckt) ist Windows einfach die Ausnahme. Klar muss jemand auch die Ausnahmen verkaufen und für das momentane Buzzword KI ist eh beliebig viel Geld da. Wenn nicht, werden die Unis wieder *NX Server für alle Fachbereiche haben mit hunderten von KI-Karten, anstatt jedem einzelnen Nutzer ein paar unter Windows zu geben - ein Helpdesk-Alptraum.

Antwort Gefällt mir