… o suficiente para encarar Modelos de Linguagens Largos (MLL) com até 300 bilhões de parâmetros! De uns tempos para cá, tenho feito algumas experiências interessantes com a minha antiga plaquinha computacional Orange Pi 3 Zero, a qual possui recursos computacionais muito limitados. Mesmo assim, ela ainda é capaz de lidar com SML que possuem quantidade de parâmetros abaixo de 1 bilhão, como é o caso do Qwen3 (0.6b) que venho rodando através do Ollama. Porém, pretendo ir mais além e investir em um equipamento com mais recursos de hardware…
“Multiple vendors have announced their new flagship mini PCs, boasting the latest Zen 5-based AMD Ryzen AI Max+ PRO 495 processor for the best possible local AI performance. We had Minisforum announce the MS-S1 MAX-P495 a few days ago, as well as GMKtec’s EVO-X5 Pro, both boasting similar hardware, including the processor and memory capacity. The CHUWI UniBox AI495 Pro seems no different and runs on the 16-core/32-thread Ryzen AI Max+ PRO 495, which is the fastest Gorgon Halo SoC…”
— by WCCFTech.
Qual equipamento adquirir? Não sei. Mas com certeza, será um dispositivo baseado em um SoC AMD Ryzen AI, em vista da sua arquitetura com memória unificada! Por isto, a CHUWI chamou a minha atenção, por ter anunciado o lançamento do seu mini PC UniBox AI495 Pro, equipamento topo de linha projetado para executar modelos de linguagem (LLMs) de até 300 bilhões de parâmetros localmente. Equipado com o SoC AMD Ryzen AI Max+ PRO 495, com CPU de 16 núcleos e 32 threads (arquitetura Zen 5), o dispositivo entrega até 131 TOPS de desempenho em IA, representando uma evolução em relação ao modelo anterior da marca.
Como já havia dito anteriormente, o grande destaque do sistema está na arquietura de memória RAM unificada: o equipamento suporta até 192 GB LPDDR5X, com taxa de transferência de 8533 MT/s e permitindo alocar até 160 GB de forma exclusiva como memória de vídeo (VRAM), o que promove uma maior performance para a execução local dos modelos. O processamento gráfico integrado fica a cargo da GPU AMD Radeon 8065S, baseada em RDNA 3.5, com 40 unidades computacionais e frequência levemente superior em comparação com geração passada. Já no quesito armazenamento e conectividade, a máquina mantém três slots M.2 2280 PCIe 4.0 para SSDs.
Além disso, o equipamento oferece suporte ao Wi-Fi 7 e ao Bluetooth 5.4, além de duas portas LAN de 10 Gbps e múltiplas conexões USB Type-A e Type-C, para a expansão e conexão de periféricos. Toda essa configuração vem integrada em um chassi compacto de apenas 2,9 litros, acompanhado por uma fonte de alimentação externa de 240W. Até o momento, a fabricante chinesa não divulgou os detalhes referentes aos preços oficiais ou à data de disponibilidade no mercado.
Apesar da beleza do hardware e todo o poder computacional, procuro mesmo é um equipamento mais “acessível”, equipado com o SoC AMD Ryzen AI Max+ 385 ou 388, dotado de CPU com 8 núcleos computacionais e 16 threads, além da GPU Radeon 8050 ou 8060 (arquiteutra RDNA 3.5, de 32 a 40 unidades computacionais). Além de usá-lo para desenvolver diversos tipos de trabalhos, ele também se tornar o meu PC para jogos, assim que o bom e velho Xbox Series S “bater as botas”.
Com certeza, ele não deverá custar mais do que 2 mil dólares… &;-D