Le psychanalyste ne se sent que rarement appelé à faire des recherches d'esthétique, même lorsque, sans vouloir borner l'esthétique à la doctrine du beau, on la considère comme étant la science des qualités de notre sensibilité. Il étudie d'autres couches de la vie psychique et s'intéresse peu à ces mouvements émotifs qui - inhibés quant au but, assourdis, affaiblis, dépendants de la constellation des faits qui les accompagnent- forment pour la plupart la trame de l'esthétique. Il est pourtant parfois amené à s'intéresser à un domaine particulier de l'esthétique, et généralement c'en est alors un qui se trouve " à côté " et négligé par la littérature esthétique proprement dite.
Ici Freud souligne le caractère unique de son approche psychanalytique de l’esthétique. Typiquement, les études d’art se concentrent sur les effets positifs, désirés, comme le beau ou le grandiose. Freud veut se focaliser sur des territoires reclus de l’art, à savoir l’horreur, afin de faire la lumière sur la relation entre l’art et la psyché humaine.
Avouons tout de suite que chacune des deux voies aboutit au même résultat ; l'inquiétante étrangeté sera cette sorte de l'effrayant qui se rattache aux choses connues depuis longtemps, et de tout temps familières.
Freud nous fait part de son hypothèse sur l’étrangeté : c’est quelque chose que nous avons oublié ou refoulé et qui fait irruption contre notre volonté. L’hypothèse de Freud s'est construite à partir de Jentsch, qui perçoit l’étrangeté comme tout ce qui est inconnu, qui reproduit un certain état d'incertitude.
Ainsi heimlich est un mot dont le sens se développe vers une ambivalence, jusqu'à ce qu'enfin il se rencontre avec son contraire unheimlich. Unheimlich est, d'une manière quelconque, un genre de heimlich.
Grâce à son analyse linguistique, Freud est en mesure de confirmer son hypothèse en notant que le mot heimlich, qui signifie familier, ou lié à la maison, peut également être utilisé pour signifier le caché, l’interdiction, et le dangereux. Le langage, comme l’art, est un dépositaire pour nos hypothèses, sentiments et expériences collectives.
L'étude des rêves, des fantasmes et des mythes nous a encore appris que la crainte pour les yeux, la peur de devenir aveugle, est un substitut fréquent de la peur de la castration. On peut tenter, sur un plan rationnel, de nier que la crainte pour les yeux se ramène à la peur de la castration ; on trouvera compréhensible qu'un organe aussi précieux que l'œil soit gardé par une crainte anxieuse de valeur égale, oui, on peut même affirmer, en outre, que ne se cache aucun secret plus profond, aucune autre signification derrière la peur de la castration elle[1]même.
Mais[...] on ne peut s'empêcher de voir qu'un sentiment particulièrement fort et obscur s'élève justement contre la menace de perdre le membre sexuel et que c'est ce sentiment qui continue à résonner dans la représentation que nous nous faisons ensuite de la perte d'autres organes.
Freud offre sa première explication concrète d’un phénomène étrange : la foule d'affects attachés à la perte des yeux ou de la vue. Freud pense que l’étrangeté est un souvenir de l'enfance de la peur d’être castré par le père, et d'ainsi perdre la capacité de ressentir tout plaisir. L’hypothèse de Freud est que les sentiments que nous ne pouvons exprimer, que ce soit par embarras ou parce que nous devons les refouler au fur et à mesure du développement de la conscience, reviennent souvent sous forme de symboles et de signifiants. La peur de la perte des yeux est alors liée à la peur de la perte des testicules.
Dans l'histoire de l'enfant, le père et Coppélius représentent l'image du père décomposée, grâce à l'ambivalence, en ses deux contraires ; le premier menace l'enfant de l'aveugler (castration), l'autre, le bon père, lui sauve les yeux par son intervention. Le côté du complexe que le refoulement frappe le plus fortement, le désir de la mort du mauvais père, se trouve représenté par la mort du bon père dont est chargé Coppélius.
Ici Freud offre sa célèbre lecture de Hoffman, L'Homme au sable. Freud analyse l’histoire comme traitant du complexe de castration, avec l'homme au sable, ou Coppelius, incarnant le côté effrayant, le plaisir destructeur de son père. La croyance de Nathanaël que Coppelius a assassiné son père est en fait une projection de son propre désir de tuer son père. Le père actuel de Nathanaël est le dépositaire de tous ses sentiments positifs envers son père, car il est protecteur et aimant.
Car, primitivement, le double était une assurance contre la destruction du mot, un « énergique démenti à la puissance de la mort » (O. Rank) et l'âme « immortelle » a sans doute été le premier double du corps. La création d'un pareil redoublement, afin de conjurer l'anéantissement, a son pendant dans un mode de figuration du langage onirique où la castration s'exprime volontiers par le redoublement ou la multiplication du symbole génital ; elle donna chez les Égyptiens une impulsion à l'art en incitant les artistes à modeler dans une matière durable l'image du mort.
Freud explique le sentiment d’inquiétante étrangeté par les doubles parfaits, comme des jumeaux, ou deux personnes non reliées qui se ressemblent parfaitement. En retraçant l'origine du double, il remonte jusqu'aux croyances primitives sur les copies assurant la continuité d’existence de la chose copiée, comme les Egyptiens faisaient des images des morts. Freud suppose que le concept de l’âme a été la première conception du double. Maintenant que cette croyance a été " surmontée ", percevoir des doubles semble étrange et inquiétant.
Un jour où, par un brûlant après-midi d'été, je parcourais les rues vides et inconnues d'une petite ville italienne, je tombai dans un quartier sur le caractère duquel je ne pus pas rester longtemps en doute. Aux fenêtres des petites maisons on ne voyait que des femmes fardées et je m'empressai de quitter l'étroite rue au plus proche tournant. Mais, après avoir erré quelque temps sans guide, je me retrouvai soudain dans la même rue où je commençai à faire sensation et la hâte de mon éloignement n'eut d'autre résultat que de m'y faire revenir une troisième fois par un nouveau détour. Je ressentis alors un sentiment que je ne puis qualifier que d'étrangement inquiétant, et je fus bien content lorsque, renonçant à d'autres explorations, je me retrouvai sur la place que je venais de quitter.
Cet exemple est frappant par la façon dont Freud intègre une expérience personnelle dans sa propre argumentation, notamment après avoir revendiqué dans le premier chapitre être lui-même largement insensible à l'inquiétante étrangeté. L’exemple est également frappant par sa nature sexuelle, et aussi par l'insistance de Freud sur le fait qu’il ne veut pas se trouver dans cette partie visiblement lascive de la ville. Dans tous les cas, cet exemple est censé prouver que le sentiment d’impuissance et la répétition produisent des effets tels que l'inquiétante étrangeté.
En effet, dans l'inconscient psychique règne, ainsi qu'on peut le constater, un « automatisme de répétition » qui émane des pulsions instinctives, automatisme dépendant sans doute de la nature la plus intime des instincts, et assez fort pour s'affirmer par-delà le principe du plaisir. Il prête à certains côtés de la vie psychique un caractère démoniaque, se manifeste encore très nettement dans les aspirations du petit enfant et domine une partie du cours de la psychanalyse du névrosé. Nous sommes préparés par tout ce qui précède à ce que soit ressenti comme étrangement inquiétant tout ce qui peut nous rappeler cet automatisme de répétition résidant en nous-mêmes.
Freud précise, au sujet de l’impuissance et de la répétition, que les enfants en bas âge, et toutes les formes de vie qui agissent par l’instinct, répètent en boucle des comportements et que c’est un fait de la nature. La répétition nous perturbe parce qu’elle suggère une régression contre notre volonté vers cet état naturel dont nous nous sommes extraits.
L'impression étrangement inquiétante que font l'épilepsie, la folie, a la même origine. Le profane y voit la manifestation de forces qu'il ne soupçonnait pas chez son prochain, mais dont il peut pressentir obscurément l'existence dans les recoins les plus reculés de sa propre personnalité. Le Moyen Age, avec beaucoup de logique, et presque correctement du point de vue psychologique, avait attribué à l'influence de démons toutes ces manifestations morbides. Je ne serai pas non plus étonné d'apprendre que la psychanalyse, qui s'occupe de découvrir ces forces secrètes, ne soit devenue elle-même, de par cela, étrangement inquiétante aux yeux de bien des gens. Dans un cas où j'avais réussi, quoique pas très rapidement, à guérir une jeune fille malade depuis de longues années, je l'ai entendu dire à la mère de la jeune fille depuis longtemps guérie.
Freud a développé les effets étranges des objets inanimés qui parfois semblent réels, mais ici, il soutient que l’inverse est vrai aussi : les êtres vivants qui sont éventuellement inanimés produisent une inquiétante étrangeté. Nous pourrions penser ici au sentiment de peur attaché aux malades mentaux dans les films d’horreur, ou des personnes qui souffrent d’épilepsie. Là encore, la façon dont Freud insère dans l'argumentation des éléments personnels et la psychanalyse est frappante : le cabinet du psychanalyste est lui-même aussi étrange car il révèle que les êtres humains sont gouvernés par des forces hors de leur contrôle. Encore une fois, un cas limite expose quelque chose de fondamental sur l’humanité.
De la solitude, du silence, de l'obscurité, nous ne pouvons rien dire, si ce n'est que ce sont là vraiment les éléments auxquels se rattache l'angoisse infantile qui jamais ne disparaît tout entière chez la plupart des hommes.
Tout au long de cet essai, Freud soutient que les gens qui n’ont pas élaboré leurs souvenirs d’enfance sont plus sensibles à vivre le phénomène de l'inquiétante étrangeté. Freud prétend être lui-même totalement immunisé. Mais il termine l’essai avec l’observation qu’il y a certaines expériences qui sont étranges pour tous. Freud conclue en brouillant la démarcation entre la maladie et la santé, avec l'exemple du cas limite de l’art et son essence même.