En primer lugar, debes tener instalada la herramienta SQL Server Management Studio (SSMS) propia de Microsoft, que te sirve para configurar, supervisar y administrar la instancia de SQL y sus bases de datos.
Si no dispones de ella instalada en tu equipo, puedes conseguirla desde la propia Consola de Administración de Sage 50 (menú Usuario - Consola de administración) en el botón SQL situado en la parte inferior de la ventana y seleccionando Descargar SQL Server Management:

Una vez tengas instalada dicha herramienta, debes acceder a ella y conectar a la instancia de la base de datos de Sage 50, indicando para el acceso el usuario 'sa' y el password de tu instalación de SQL, sea propia o creada automáticamente por la instalación de Sage 50.
*Si no sabes la contraseña, pulsa en este enlace para saber Cómo ver la contraseña de SQL en Sage 50

* Si experimentas alguna incidencia a la hora de acceder, aún indicando la contraseña correcta, puedes pulsar en el botón Opciones inferior y configurar las siguientes opciones de encriptación que te permitirán acceder a la instancia para realizar los cambios:

Tras pulsar en Conectar, accederás a la instancia y sobre ella con el botón derecho Propiedades, accederás a las propiedades de la misma:

En dicha ventana, podrás comprobar el mínimo y máximo de memoria asignada y el mínimo de memoria por consulta, que podrás ampliar según tus necesidades, por ejemplo si tienes indicado 1 gb (1024), puedes indicar 2 gb (2048).

Tras pulsar Ok, salir del Management Studio y REINICIAR EL SERVICIO de SQL, ya dispondrás del cambio de memoria realizado.
Dispones de información ampliada en el enlace relacionado de Microsoft: Opciones de configuración de memoria del servidor