Nawet 50 milionów USD oszczędności dzięki laptopom z Ryzen AI PRO | Testy AMD Instinct MI300X w Llama i Mistral

Wczoraj wieczorem Signal65 we współpracy z AMD opublikowały raport, który wskazuje, że zakup laptopów z procesorami AMD Ryzen AI PRO może przynieść ponad 50 milionów USD oszczędności w pracowniczych kosztach pracy.

Wnioski te wyciągnięto na podstawie testów porównawczych laptopa Lenovo T14s z procesorem AMD Ryzen AI 7 PRO 360 i odpowiednika z procesorem Intel Core Ultra 7 165U. Wyniki w szczególności wykazały, że ww. laptop na najnowszej platformie AMD:

– jest nawet o 75% szybszy w aplikacjach do pracy kreatywnej,

– jest nawet o 50% szybszy w scenariuszach wielowątkowej pracy w aplikacjach biurowych i kreatywnych,

– zużywa mniej energii podczas długotrwałej pracy w aplikacjach biurowych.

Raport Signal65 (dostępny tutaj) przedstawia szczegóły testów i analizy współczynnika TCO.

Ostatnio na blogu AMD przedstawiono też optymalne konfiguracje akceleratorów AMD Instinct MI300X, dzięki którym mogą być one szybsze od H100 w zadaniach zależnych od pamięci, jak te korzystające z długich sekwencji lub mających ograniczenia w zakresie czasu generowania wyników. Dzięki dużej pojemności pamięci akceleratory te obsługują duże modele, jak Llama-3.1 405B, DeepSeek V3 i R1, ale znakomicie radzą sobie także z mniejszymi (poniżej 30B) zmniejszając narzut na procesor graficzny. Blog przedstawia też, jak akceleratory AMD Instinct MI300X pozwalają tworzyć systemy z mniejszą liczbą maszyn, co przekłada się na niższe koszty i wyższą niezawodność przy dużych modelach językowych.

foto, źródło. AMD