Ich bin auch der Meinung, das eine Neuinstallation das sicherste ist, da ja nicht klar ist, was sich noch alles im Rechner versteckt. Zu klären wäre dann auch noch, wie die Scareware überhaupt auf den Rechner gekommen ist, damit die nicht sofort wieder auftaucht.
Scheinbar gibt es unter Vista keine so einfache Möglichkeit mehr, eine einmal vorhandene Dateiendungs-Zuordnung wieder zu löschen.
Aber schau mal nach, ob du unter
HKEY_CURRENT_USER\Software\Microsoft\Windows\CurrentVersion\Explorer\FileExts\
nach, welche Daten da eingetragen sind. Interessant scheint mir da der Eintrag exefile im Unterordner OpenWithProgids zu sein (möglich, das der unter vista anders heißt, ich hab hier nur ein Win7). Das ist bei mir ein Binärwert der Länge Null, ich vermute fast, das es bei dir anders ist.
Gruß,
Helge