imagine uma máquina com 256 processadores, cada um rodando um programa que usa 1GiB

na hora de compilar programas grandes, dá pra compilar cada módulo separadamente, cada um rodando num processador e consumindo um tanto da memória

dá pra compilar com menos memória? dá, mas aí não dá pra usar todos os processadores e demora bem mais

esse é o caso de uso com o qual eu estou mais familiarizado

mas sei também que hoje em dia há modelos de LLMs que ocupam uma brutalidade de memória, e aí o céu é o limite. se não couber tudo na memória, eles não andam.