Na minha opinião, o SoC AMD Ryzen AI Max 385 é o chip mais incrível já lançado, superando até mesmo outros memoráveis como a CPU AMD Athlon de 1 GHz (2000)! Embora a sua unidade de processamento ainda seja baseada no set de instruções x86, ele combina uma poderosa CPU Ryzen (octa-core e arquitetura Zen 5) com uma boa iGPU Radeon (32 núcleos, arquitetura RDNA 3), além de dispor de um TDP “configurável” que vai de 45 a 120 Watts, o tornando flexível e versátil o suficiente para ser utilizado tanto em portáteis quanto em PCs desktops…
Infelizmente, os (poucos) equipamento projetado para fazer o seu uso, não saem por menos de US$ 1,500.00! Além disso, não posso simplesmente comprar o SoC à parte e montar o equipamento ao meu gosto, tal como faço com um PC desktop tradicional (a não ser que algum fabricante lance uma placa-mãe mini-ITX com este Soc integrado). Por isto, tenho que levar em consideração outras opções de CPUs e GPUs, para delinear aquele que será o meu futuro PC desktop, já que pretendo montar uma máquina que será utilizada para diversos propósitos.
Felizmente, a Intel também está preparando um SoC alternativo para concorrer com as poderosas soluções da AMD, combinando diferentes tipos de CPUs Intel Core Ultra (do 5 338H ao X9 388H) com os iGPUs Intel Arc B370 e B390. Enquanto que as CPUs combinam uma quantidade variável e diferentes arranjos de núcleos (adotando 3 categorias distintas, do mais econômico ao mais potente), as GPUs possuem de 10 a 12 núcleos gráficos baseados na arquitetura Intel Xe3 (Battlemage), além de dispor da memória RAM integrada diretamente no encapsulamento.
Por um lado, as unidades da Intel não batem de frente com as unidades da AMD, pois os SoCs AMD Ryzen AI Max+ oferecem algo em torno de +35% em termos de performance. Por outro, as únicas vantagens da Intel estão relacionadas ao consumo de energia e ao baixo custo. Para se ter uma idéia, o Intel Core Ultra 5 338H (4 núcleos de alta performance, 4 núcleos econômicos e 4 núcleos de baixo consumo) possui a GPU Intel Arc B370 GPU e consome de 15 a 65 Watts. Alguns mini PCs mais em conta, irão custar algo em torno de US$ 1,200.00.
Por ora, ainda prefiro as soluções oferecidas pela AMD, especialmente em vista da alta performance que suas GPUs são capazes de entregar em jogos (pois pretendo deixar de lado os consoles, em prol da plataforma PC). Mas, dependendo das circunstâncias (e da minha situação financeira), não descarto adquirir uma solução mais em conta. Até tinha levado em consideração o AMD Ryzen AI 9 HX 370 (12 núcleos computacionais e GPU com apenas 16 núcleos gráficos), mas as suas limitações gráficas não o tornam adequado para a execução de jogos.
Há algum tempo, venho fazendo algumas experiências com a minha velha plaquinha computacional Orange Pi 3 Zero, rodando LLMs de forma local através do Ollama. Pelo fato deste dispositivo ter recursos de hardwares bastante limitados (1 GB de memória RAM e SoC ARM dotado de CPUs e GPUs defasadas), consigo rodar modelos leves com até 1 bilhão de parâmetros. Se com tão poucos recursos de hardware, consigo obter resultados interessantes, tentem imaginar com uma plataforma mais poderosa, capaz de rodar modelos de até 30B quantizados (INT4)?
Além disso, a Inteligência Artificial está trazendo profundas transformações no mercado de trabalho e em nossas vidas, redefinindo o conceito de produtividade humana. Por isto, dispor de um equipamento capaz de rodar um modelo de linguagem largo (LLM) local e altamente capacitado, será fundamental para a minha vida profissional e pessoal. Sim, pretendo desenvolver aplicações e serviços que fazem o uso delas, além de automatizar uma série de tarefas e rotinas, bem como desenvolver competências e habilidades para a sua utilização.
Pois como diz o velho ditado: “camarão que dorme, a onda leva”… &;-D