Although Nvidia GPUs no longer run in Macs, Apple's MLX will soon be running there too. This makes interesting ports possible.
, which can be used to run local LLMs, swear by it on macOS and use MLX -optimized versions of Llama, Qwen or Mistral, which are designed to make better use of Apple SoCs and their unified memory. If some developers have their way, MLX could now also spread to other platforms. The GitHub project behind MLX is currently workingDevelop on the Mac, run on the cluster
However, the project is still in its infancy. If it reaches product maturity, it is conceivable that MLX-optimized models could be, for example as part of training. In addition, MLX models could at least theoretically spread more quickly, as CUDA has a much larger community behind it. MLX is specifically optimized for Apple Silicon and its Metal GPU interface. In the case of Nvidia GPUs, there would then be a switch from Metal to CUDA . MLX comes with bindings for Swift, C and C++. The main developer behind the CUDA backend with the user nameDeveloper: Apple involved in the project
"There are two main reasons for a CUDA backend," says the developer. "Firstly, CUDA supports unified memory. Secondly, Nvidia hardware is widely used in the scientific field and on large computing clusters ." It would therefore be useful to be able to write and test code locally on your Mac and then run it on supercomputers. "That would be a good developer experience.
It remains to be seen how quickly the project will progress. It was launched in the spring. This week, zcbenz announced that the CUDA backend is still under development and has not been officially released." More information will be provided "when things are in better shape".Preisvergleiche immer ladenIch bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden.
Apple MLX-Framework CUDA IT Künstliche Intelligenz MLX Mobiles Nvidia Macos
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Apple-KI-Framework MLX: Künftig Support für Nvidias CUDAZwar laufen in Macs keine Nvidia-GPUs mehr, dennoch soll Apples MLX nun bald auch dort laufen. Das macht interessante Portierungen möglich.
Weiterlesen »
NVIDIA und AMD: NVIDIA entfesselt einen neuen Tech-StandardDer Wettbewerb in der Halbleiterbranche erreicht ein neues Level. Ein Technologiekonzern setzt derzeit Maßstäbe und zieht weltweit Aufmerksamkeit auf sich. Der rasante Aufstieg wird vor allem durch den
Weiterlesen »
Einstiegs-GeForce: RTX 5050 mit 8 GByte Speicher für 249 US-Dollar ab Mitte JuliDie Nvidia GeForce RTX 5050 Nvidia bringt Blackwell-Technik in günstige Spielergrafikkarten, aber mit wenig VRAM.
Weiterlesen »
NASDAQ-Titel NVIDIA-Aktie kann noch deutlich steigen: Analyst sieht NVIDIA als heißen KaufDie NVIDIA-Aktie hat zuletzt eine kräftige Erholung aufs Parkett gelegt. Ein Analyst sieht dennoch weiterhin Einstiegskurse.
Weiterlesen »
NASDAQ-Titel NVIDIA-Aktie kann noch deutlich steigen: Analyst sieht NVIDIA als heißen KaufDie NVIDIA-Aktie hat zuletzt eine kräftige Erholung aufs Parkett gelegt. Ein Analyst sieht dennoch weiterhin Einstiegskurse.
Weiterlesen »
NVIDIA: KI-Alarm im Kanzleramt: Was Nvidia wirklich plantDer Chef eines global führenden Chipherstellers besuchte den Bundeskanzler, um über die Zukunft der Künstlichen Intelligenz (KI) in Europa zu beraten. Im Mittelpunkt stehen die Chancen und Herausforderungen
Weiterlesen »