<div dir="ltr">at {$job -1} we used local scratch and tmpwatch. This had a wrapper script that would exclude files and folders for any user that currently running a job on the node.<div><br></div><div>This way nothing got removed until the users job had finished even if they hadn't accessed the files for a while and you don't have predict how long a job could run for..</div></div><br><div class="gmail_quote"><div dir="ltr">On Tue, 12 Jun 2018 at 22:21, Skylar Thompson <<a href="mailto:skylar.thompson@gmail.com">skylar.thompson@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">On Tue, Jun 12, 2018 at 10:06:06AM +0200, John Hearns via Beowulf wrote:<br>
> What do most sites do for scratch space?<br>
<br>
We give users access to local disk space on nodes (spinning disk for older<br>
nodes, SSD for newer nodes), which (for the most part) GE will address with<br>
the $TMPDIR job environment variable. We have a "ssd" boolean complex that<br>
users can place in their job to request SSD nodes if they know they will<br>
benefit from them.<br>
<br>
We also have labs that use non-backed up portions of their network storage<br>
(Isilon for the older storage, DDN/GPFS for the newer) for scratch space<br>
for processing of pipeline data, where different stages of the pipeline run<br>
on different nodes.<br>
<br>
-- <br>
Skylar<br>
_______________________________________________<br>
Beowulf mailing list, <a href="mailto:Beowulf@beowulf.org" target="_blank">Beowulf@beowulf.org</a> sponsored by Penguin Computing<br>
To change your subscription (digest mode or unsubscribe) visit <a href="http://www.beowulf.org/mailman/listinfo/beowulf" rel="noreferrer" target="_blank">http://www.beowulf.org/mailman/listinfo/beowulf</a><br>
</blockquote></div>