La version gratuite de Maxwell pour SU est limité dans la taille du rendu mais aussi dans la puissance du moteur de calcul. Le moteur utilisé est le "Fire" de Maxwell, une version "rapide" qui est normalement destinée à faire des tests. Visiblement, la version payante utilise aussi un mode Production qui semble être le moteur standard de Maxwell.
Pour le coté "granuleux", c'est normal. Ce genre de moteur de rendu lance des rayons au hasard dans la scène pour étudier le comportement de la lumière. Plus il y a de rayons, plus l'image est lissée, mais plus ça prend du temps Pas de mystère...
Pour affiner, il faut monter la valeur du SL (Sampling Level) dans les réglages de la fenêtre de rendu pour augmenter le nombre de rayons, au prix d'un temps de calcul qui explose...
Et pour l'enregistrement de l'image, de mon coté, pas de problème (SU8, Windows7 64)