Vários notebooks capazes de fazer tarefas de IA offline chegaram ao mercado brasileiro em 2024, e quem já está pensando em comprar um computador desses precisa entender como escolher o modelo mais poderoso disponível ou o mais adequado para o seu fluxo de trabalho. E adivinha só: prestar atenção apenas nos números que o marketing das fabricantes mostra não é uma boa estratégia.
- Clique e siga o no WhatsApp
- Seu próximo carro pode ser tão inteligente quanto o seu celular; entenda como
- Novo Snapdragon 8 Elite vai transformar qualquer celular em uma máquina de IA
Um “PC com IA” basicamente significa que ele possui uma NPU (Unidade de Processamento Neural) e, muitas vezes, você se depara com métricas como TOPS (trilhões de operações por segundo) ao avaliar a compra de um notebook com IA.
Mas será que esses números realmente ajudam a decidir qual modelo comprar? Segundo Dr. Vinesh Sukumar — líder de IA generativa na Qualcomm —, a resposta é mais complexa do que parece.
–
Entre no Canal do WhatsApp do e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
Para que serve a métrica TOPS?
De acordo com Sukumar, TOPS mede apenas a capacidade de processamento bruto de uma NPU. Embora esse número possa parecer impressionante, não reflete necessariamente o desempenho real do dispositivo em situações práticas que você pode enfrentar no dia a dia.
“Quando olhamos para TOPS, por definição, são trilhões de operações por segundo”, disse Dr. Sukumar em entrevista ao durante o Snapdragon Summit 2024.
O problema é que as tarefas de IA variam muito em termos de complexidade e demanda. Uma NPU pode ter números altos de TOPS, mas isso não significa que ela irá executar as funções que você precisa de forma eficiente.
“O desempenho em IA deve ser avaliado em termos de inferências por segundo”, destaca Sukumar, referindo-se a uma medição que representa quantas decisões a IA consegue tomar em um segundo — uma métrica mais próxima das aplicações do dia a dia.
O executivo usou como exemplo um notebook que utiliza IA para detecção de imagens em um ambiente de vídeo ao vivo. Nesse caso, não adianta ter um valor alto de TOPS se o dispositivo não consegue suportar um número suficiente de inferências por segundo para analisar cada frame de maneira eficiente.
“Se o equipamento não consegue suportar 30 inferências por segundo, ele é inútil, pois não conseguirá fazer a detecção em cada frame de um feed de vídeo transmitido a 30 fps”.
Benchmarks x TOPS
Se você está pensando em comprar um notebook com IA, não se prenda apenas aos números de TOPS que as fabricantes de notebooks anunciam em seu material publicitário.
Ter o laptop com a NPU mais poderosa em trilhões de operações por segundo pode não ser a melhor escolha considerando os aplicativos que você pretende usar.
Sukumar sugere que você consulte reviews e benchmarks que testem o dispositivo em condições reais de uso. “Participamos abertamente de benchmarks, como o ML Commons Benchmark, que é bastante público”.
Para o especialista da Qualcomm, esse tipo de teste fornece uma visão mais realista do desempenho de uma NPU, considerando tarefas específicas, como detecção de imagens, processamento de linguagem natural e reconhecimento de voz.
Os benchmarks, como o ML Commons Benchmark (também conhecido como ML Perf), devem ajudar a entender como o motor de IA do notebook lida com situações práticas e não apenas com números teóricos.
Esses testes são criados por um consórcio que inclui empresas de hardware, desenvolvedores de software e outros especialistas do setor com o objetivo de fornecer uma avaliação mais imparcial.
A questão é que, para conferir os resultados de benchmarks, você precisa de fato buscar ativamente reviews que tenham aplicado essas ferramentas em seus testes e, em seguida, comparar os achados com dados coletados de outras máquinas. Isso claramente é mais trabalhoso do que simplesmente conferir o valor de TOPS da NPU, mas deve garantir um custo-benefício maior para sua compra.
3 dicas para quem vai comprar um notebook com IA
- Evite focar apenas em TOPS: embora TOPS seja uma métrica relevante, ela não diz muito sobre o desempenho real de aplicações de IA no seu notebook. Prefira avaliações que considerem a experiência prática, como reviews;
- Consulte benchmarks confiáveis: busque benchmarks que testem a IA em condições similares à realidade, como o MLPerf Commons Benchmark. Esses testes oferecem uma análise mais precisa sobre como a IA lida com diferentes tarefas;
- Considere seus casos de uso: reflita sobre o que você realmente precisa que aplicativos de IA façam no seu notebook. Se você quer desempenho em reconhecimento de imagem, tradução automática ou outras funções específicas, procure reviews que testaram ferramentas focadas nesses aspectos.
Leia mais matérias no ItechNews .
