Сейчас выражение не имеет чёткой привязки к полу. Так могут сказать и о молодой девице, и о мужчине зрелого возраста, и об убеленном сединами пожилом человеке. С каждым может случиться.
Память девичья — это плохая память. Её обладатель легко забывает важные сведения. Первоначально у фразы было продолжение, о котором сейчас мало кто знает — «Девичья память парня забыла».
А у Даля в «Пословицах русского народа» вы найдёте ещё один вариант: «Девичья память да девичий стыд — до порога (переступила — и забыла)».