No conozco el caso
pero en términos generales, ciertas críticas, en determinada situación y de determinadas personas, claro que pueden afectar a tu yo interno, como lo llamas. Existe el maltrato psicológico y esas cosas. Pero si era una persona ajena a tí, tal vez te afectó por el momento personal que estabas pasando. A veces estamos de bajón total o stress y cualquier cosa, de quien sea, nos afecta más que en situaciones normales, en las que pasamos de muchas cosas que no merecen la pena.
En cuanto al recuerdo, y supongo que tendrá una explicación científica y neurológica, es normal que al revivir en tu cerebro la situación, revivas al mismo tiempo lo que sentiste en ese momento.
Si puedes, acude a un especialista. Si no, empieza por no recordar, que sólo te hará más daño.