Зависать ОС начала сразу после установки или после каких-то из драйверов или программ?
С 17-ой пока не практиковал, были проблемы с 14-м KIS'ом, но на WIN8 (но попробуйте с отключением автозагрузки каспера).
Тогда, только 2-х гиговые планки (есть ещё какие-то особенности, но не силён в "железках", себе на похожую материнку ищу планки памяти, но нужные сняты с производства, а с рук, за них дерут такую стоимость, что выгодней купить новый системник ).