Riesci a provare con altre ram a vedere se riesci ad overvoltarle? Magari da win....ma non so che utility potresti usare...l'uGuru lo permette?
Io uso msi corecell per farlo, ma ho una neo2
Non conosco bene quel bios....stò guardando qui:
http://www.ocworkbench.com/2004/abit/av8/g3.htm
se riesco a vedere qualche settaggio che potresti aver dimenticato (il voltaggio dell'htt non ce l'ho mica io!)
EDIT:
prova comunque a mettere timings 3 4 4 8 e 2T e a overvoltare....almeno per vedere se il problema è quello!