AMD launcht seine ROCm 6.1.3-Version mit WSL-Support und AI-Workloads

Redaktion

Artikel-Butler
Mitarbeiter
Mitglied seit
Aug 6, 2018
Beiträge
1.965
Bewertungspunkte
9.455
Punkte
1
Standort
Redaktion
Das Unternehmen AMD hat kürzlich seine neue ROCm-Version 6.1.3 vorgestellt. Diese Version bringt bedeutende Vorteile für Entwickler und Unternehmen im Bereich AI-Workloads. Besonders profitieren können jene, die im Bereich der künstlichen Intelligenz tätig sind, da die neue ROCm-Version zahlreiche Verbesserungen und neue Funktionen bietet. Im Mittelpunkt des neuen Releases stehen die Verbesserung der Kompatibilität, Zugänglichkeit und Skalierbarkeit. Ein Highlight ist die Multi-GPU-Unterstützung, die den Aufbau skalierbarer KI-Desktops für Multi-Serving- und Multi-User-Lösungen ermöglicht. Diese Unterstützung umfasst bis zu vier qualifizierte Radeon RX-Series oder Radeon PRO-Grafikprozessoren, die gleichzeitig betrieben werden können. Benutzer haben nun die Möglichkeit, Konfigurationen mit Datenparallelität zu nutzen, wobei […] (read full article...)
 
Neben den erwarteten grundsätzlichen Verbesserungen ist die TensorFlow Unterstützung imho das Wichtigste. Es muss weiter an einer breiten Unterstützung gearbeitet werden - die generellen Verbesserungen kommen dann allen Anwendern jeglicher Software zugute, aber vor allem braucht man ja erst mal Anwender.
 
Schwierig. WSL ist eine virtuelle Linux Maschine. So locker flockig mal eben umter Windows nutzen ist nicht und da sitzen eben die User. Klar gibts experimentelle Treiber für Nvidia in Windows insider, der ist aber Nvidia umd alles andere als aktiv in Entwicklung. Für AMD muss mit zluda noch eine Schippe drauf. Jetzt zählen wir an einer Hand wie viele User das nutzen... nein die AMD GPUs sind okay und günstig aber so lange AMD nicht endlich reagiert und seim ROCm nativ auf Windows portiert werden sie in der Niesche bleiben. Und selbst wenn ich das wollen würde welche Anwendersoftware lasse ich dann da laufen? Was geht nutzt entweder DirectML oder ONNX. Was eher selten ist. Das macht kein Kunde mit und so wird das Budget wieder in eine multi NVIDIA GPU Windows Maschine fliessen. Will AMD den Markt jetzt bedienen oder nicht? Ich bin mir da nicht so sicher. Das kann doch nicht sein das die Hardware entwickelt wird, diese für den Endanwender weitestgehend unbrauchbar gemacht wird. Was ist da los?
 
Zuletzt bearbeitet :
Schwierig. WSL ist eine virtuelle Linux Maschine. So locker flockig mal eben umter Windows nutzen ist nicht und da sitzen eben die User. Klar gibts experimentelle Treiber für Nvidia in Windows insider, der ist aber Nvidia umd alles andere als aktiv in Entwicklung. Für AMD muss mit zluda noch eine Schippe drauf. Jetzt zählen wir an einer Hand wie viele User das nutzen... nein die AMD GPUs sind okay und günstig aber so lange AMD nicht endlich reagiert und seim ROCm nativ auf Windows portiert werden sie in der Niesche bleiben. Und selbst wenn ich das wollen würde welche Anwendersoftware lasse ich dann da laufen? Was geht nutzt entweder DirectML oder ONNX. Was eher selten ist. Das macht kein Kunde mit und so wird das Budget wieder in eine multi NVIDIA GPU Windows Maschine fliessen. Will AMD den Markt jetzt bedienen oder nicht? Ich bin mir da nicht so sicher. Das kann doch nicht sein das die Hardware entwickelt wird, diese für den Endanwender weitestgehend unbrauchbar gemacht wird. Was ist da los?
Huh? Welche KI Farmen nutzen denn Windows?
Wenn ich mich recht entsinne findet KI-Berechnung weltweit zu 99% auf Linux/Unix/BSD statt, oder hat sich das geändert?
 
Huh? Welche KI Farmen nutzen denn Windows?
Wenn ich mich recht entsinne findet KI-Berechnung weltweit zu 99% auf Linux/Unix/BSD statt, oder hat sich das geändert?
Ist eine ausgezeichnete Frage. Alle Universitäten mit denen ich jemals zu tun hatte - international. Endanwender. Die werden setzt du nicht vor eine CentOS bash. Ich glaube ein Redhat war auf den alten dabei, uebrigens auch mit Nvidia. Also z.B. Johns Hopkinsm, Exeter, Cambridge. Linux ist an sich besser, schon alleine das Speichermanagement, aber... die Welt ist halt Windows. Klar kann man sich hinsetzen und nur Linux machen, das ist aber eben nicht wirklich der Markt.
 
Huh? Welche KI Farmen nutzen denn Windows?
Wenn ich mich recht entsinne findet KI-Berechnung weltweit zu 99% auf Linux/Unix/BSD statt, oder hat sich das geändert?
Gute Frage. Alle Systeme die ich für Universitäten international gebaut habe. Bei den alten Systemen war ein REDHAT dabei, war auch Nvidia. Endanwender, die setzt du nicht vor eine CentOS bash. Die hauen dir das um die Ohren. Die holen sich remote cals und machen das von Zuhause am Laptop.
 
Gute Frage. Alle Systeme die ich für Universitäten international gebaut habe. Bei den alten Systemen war ein REDHAT dabei, war auch Nvidia. Endanwender, die setzt du nicht vor eine CentOS bash. Die hauen dir das um die Ohren. Die holen sich remote cals und machen das von Zuhause am Laptop.
Allgemein, setzt du niemanden der die Verantwortung trägt vor irgendein System.

Server werden mit Seitenlangen Protokolle übergeben, wenn ein Endanwender das lesen will, muss er etwas Zeit und Background "Know how" haben.

Versuche doch mal eine Abgas Untersuchung ohne Zertifizierte Software...
 
Allgemein, setzt du niemanden der die Verantwortung trägt vor irgendein System.

Server werden mit Seitenlangen Protokolle übergeben, wenn ein Endanwender das lesen will, muss er etwas Zeit und Background "Know how" haben.

Versuche doch mal eine Abgas Untersuchung ohne Zertifizierte Software...
Also du setzt schon einen Biologen vor ein Mikroskop. Oder du gibst ihm eben eine Auswertung einer Bildanalyse KI. Für Serverprotokolle interessiert der sich eher wenig. Der ist nicht IT. Und natürlich laeuft die Ki auf dem Server. Gibst ihm halt keinen Zugang und er geht auf eine andere Uni. So einfach ist das.

Der will seine Windows App und was mich angeht, wenn er sprich die Uni bereit ist das zu bezahlen baue ich ihnen das. Rate wer gerade einen Server im 6 bis 7
-stellingen Bereich verkauft hat. Keine kleinen Universitäten. International.

Man kann Kunden auch verscheuchen. Ich kenn das, machen wir ja gerne, ich auch ab und an.

Zugriffsrechte lassen sich übrigens über AD prima verwalten, muss ja kein Adminzugriff sein. Der braucht nur know how seiner Forschung und seiner benutzten zertifizierten Software und fertig.

Wenn ich dem mit Ubuntu komme lacht der mich aus obwohl es an sich das bessere OS ist. Genau da ist das Problem.
 
Zuletzt bearbeitet :
Worauf willst du dich verlassen?
Auf den 50 Jährigen Frieden, oder den Ewigen Kampf ?

Was Verstehst du nicht bei den Begriffen: Kalibration und Zertifikation ?

ISO, nach NIST ?
 
Worauf willst du dich verlassen?
Auf den 50 Jährigen Frieden, oder den Ewigen Kampf ?

Was Verstehst du nicht bei den Begriffen: Kalibration und Zertifikation ?

ISO, nach NIST ?
Nicht nur Linux erfüllt gar magisch Sicherheitsstandards. Das ist kein Argument. Ich denke nicht das man sich die Mühe machen sollte AMDs verfehlte "wir bedienen nur Linux" KI Politik zu verteidigen. Wäre das so richtig würden sie NVIDIA Konkurrenz machen. Ist aber nicht der Fall. Und nein es liegt nicht daran das Nvidia oder Windows Umgebungen unsicher sind oder VPN Remotesessions zu einem Server unüblich sind oder Active Directory so wahnsinnig selten eingesetzt wird. Dafür ist es ja da.
 
Zuletzt bearbeitet :
Gute Frage. Alle Systeme die ich für Universitäten international gebaut habe. Bei den alten Systemen war ein REDHAT dabei, war auch Nvidia. Endanwender, die setzt du nicht vor eine CentOS bash. Die hauen dir das um die Ohren. Die holen sich remote cals und machen das von Zuhause am Laptop.
Ah, also ganz auf dem Endgerät laufende "KI". Ich denke da AMD auch "KI" in Desktop-CPUs bringt sollte einfache ( ! ) Windows-Unterstützung zeitnah kein Problem sein (bei mir läuft auch Stable Diffusion auf Windows mit der 7900XT, jemand der gar keine Ahnung von Windows hat kann das aber nicht einrichten - wohl im Gegensatz zu deinem Biologen der alles alleine installieren kann/muss).
Ich kenne professionelle ( ! ) KI sonst nur von Servern - per Browser kann der Anwender direkt auf Funktionen zugreifen, ansonsten gehen Programme über da Netzwerk auf die KI Cluster. Und da läuft nix mit Windows, daher die 99%.
 
Muss er nicht,er kauft das. Ist auch ein Server der von mehreren hundert Nutzern verwendet wird. Ist halt Windows. Die ganze Software die genutzt wird ist eben Windows. Wie viel Linux findet man wohl bei Endanwendern? Klar Sysadmins lieben ihre stabilen Linux Server. Das sind aber keine Sysadmins. Und ja eine 2 Billionen Parameter Buntstift KI kannst du auf einer AMD der letzten drei Generationen mal eben so laufen lassen, die ganzen Python Abhängigkeiten mal aussen vor, Pytorch Updates die eben NICHT immer automatisch onnx implementiert sind. Das muss man dann einfach wissen. Wie schön wäre es wenn AMD sich da nicht auf dritte verlassen würde. Dann könnte man es vielleicht auch auf einem multi GPU Windows Server verwenden. Machen sie halt nicht, kann man halt nicht. Schade eigentlich.
 
Ich denke der im Fokus stehende Anwender ist hier nicht der Endanwender sondern eher der Entwickler und die wissen meist was Sie tun. Die bekommen das auch auf WIN zum laufen in der VM. Aber auch hier geht der Trend klar weg von WIN hin zu LINUX. Die Forschung hat zwischenzeitlich in jedem Projekt ITler die sich hier um die Bereitstellung kümmern. Und auch hier geschieht das meist zentral auf Servern und das sind in der Regel keine WIN Systeme. MS vergrault, oder wie es @Nemesis sagt "Man kann Kunden auch verscheuchen. Ich kenn das, machen wir ja gerne, ich auch ab und an." die Kunden gerade in Scharen. Hier spricht die Statistik eine eindeutige Sprache: https://de.statista.com/statistik/d...genutzten-betriebssysteme-weltweit-seit-2009/
Für mich persönlich ist das eine ganz tolle Sache, da für meine Tests und Entwicklungssysteme die AMD Hardware schlicht und ergreifend günstiger ist. Bei gleichem Budget bekomme ich ca. 25 % mehr Leistung. Hier ist aber eben Multi-GPU Unterstützung Voraussetzung damit das zum tragen kommt.
Und auf Desktops laufende KI für den Endanwender? Da werde ich mir noch Popcorn kaufen und das gemütlich vom Sofa beobachten wie das grandios in die Hose geht :)
 
Muss er nicht,er kauft das. Ist auch ein Server der von mehreren hundert Nutzern verwendet wird. Ist halt Windows. Die ganze Software die genutzt wird ist eben Windows. Wie viel Linux findet man wohl bei Endanwendern? Klar Sysadmins lieben ihre stabilen Linux Server. Das sind aber keine Sysadmins. Und ja eine 2 Billionen Parameter Buntstift KI kannst du auf einer AMD der letzten drei Generationen mal eben so laufen lassen, die ganzen Python Abhängigkeiten mal aussen vor, Pytorch Updates die eben NICHT immer automatisch onnx implementiert sind. Das muss man dann einfach wissen. Wie schön wäre es wenn AMD sich da nicht auf dritte verlassen würde. Dann könnte man es vielleicht auch auf einem multi GPU Windows Server verwenden. Machen sie halt nicht, kann man halt nicht. Schade eigentlich.
Wie @OldMan darlegte (und sich auch mit meiner Erfahrung deckt) ist Windows einfach die Ausnahme. Klar muss jemand auch die Ausnahmen verkaufen und für das momentane Buzzword KI ist eh beliebig viel Geld da. Wenn nicht, werden die Unis wieder *NX Server für alle Fachbereiche haben mit hunderten von KI-Karten, anstatt jedem einzelnen Nutzer ein paar unter Windows zu geben - ein Helpdesk-Alptraum.
 
Oben Unten