Mon domaine de recherche se situe en analyse fonctionnelle, une branche des mathématiques qui s’est développée au début du 20ème siècle grâce notamment aux travaux de Banach, Volterra et Hilbert. Les racines de l’analyse fonctionnelle se situent dans l’étude des espaces de fonctions et des transformations qui agissent sur ces espaces. Ce domaine s’est maintenant divisé en plusieurs directions de recherche. Mes travaux portent principalement sur des questions en théorie des opérateurs (l’étude des transformations linéaires) et en théorie des fonctions d’une variable complexe. Je me suis beaucoup intéressé aux interactions entre ces deux domaines classiques dont la richesse et la vitalité ne se démentent pas. L’un de mes objets favoris d’étude est l’espace de de Branges– Rovnyak, un espace de Hilbert de fonctions analytiques dans le disque unité du plan complexe, qui est un cousin de l’espace de Hardy. Je vais tenter de justifier l’intérêt et l’importance de ces espaces, à partir du problème du sous-espace invariant.

La théorie des systèmes dynamiques étudie le comportement en temps long des systèmes évolutifs. Elle a des applications dans une grande variété de domaines tels que la physique, la biologie, la chimie, l’ingénierie, l’économie et la médecine. Supposons que les états possibles d’un système (physique, biologique, économique,...) soient décrits par les éléments d’un ensemble X et que l’évolution du système soit décrite par une application T: X→X ; c’est-à-dire que si x_n est l’état du système au temps n, alors x_n+1 = T(x_n). En d’autres termes, si on part d’un point x₀, alors l’évolution du système est décrite par les orbites de x₀ sous l’action de T, c’est-à-dire par l’ensemble noté orbit(T; x₀) ={Tⁿ(x₀) : n>0}, où Tⁿ est la composition de T avec elle-même n-fois. Comme en général, nous sommes intéressés à mesurer les changements d’évolution, il est naturel de supposer que l’espace X est un espace métrique (afin de pouvoir mesurer la distance entre x_net x_n+1). De plus, comme on souhaite que des petits changements de x_n+1 résultent uniquement de petits changements de x_n, il est naturel de requérir aussi la continuité de T. Ainsi, un système dynamique discret sera une paire (X; T), composée d’un espace métrique X et d’une application continue T: X→X. Une question typique en théorie des systèmes dynamiques est : existe-t-il un point x₀ tel que orbit(T; x₀) est dense dans X ? Dense ici signifie qu’on peut approcher n’importe quel point de X par un élément de l’orbite orbit(T; x₀) . Autrement dit, est-ce que le système qu’on étudie permet d’atteindre tous les points de l’espace X dans un sens approché ? Dans beaucoup de situations, l’espace X est un espace de Hilbert (ou de Banach) et on peut aussi se demander si l’orbite engendre un sous-espace dense. Une situation particulièrement intéressante est lorsque l’application T est linéaire. Puisque l’orbite d’un point x₀ sous l’action de T est invariante par T, le problème de l’existence d’un point x₀ tel que son orbite génère un sous-espace dense peut être vu comme un cas particulier du problème du sous-espace invariant, qui est l’un des problèmes ouverts les plus importants en théorie des opérateurs.

Le problème du sous-espace invariant se formule comme suit : étant donné un espace de Hilbert complexe H de dimension infinie et une application linéaire continue T agissant sur X, est-ce que T possède un sous-espace invariant non trivial ? Autrement dit, est-ce qu’il existe un sous-espace fermé E de H, invariant par T (TE est contenu dans E) et qui est non trivial dans le sens que E est différent de H et du sous-espace trivial {0}? Dans le cas où H est de dimension finie, la théorie classique de l’algèbre linéaire nous dit que T possède des valeurs propres et les vecteurs propres fournissent des sous-espaces invariants non triviaux. Dans le cas de la dimension infinie, on sait que T n’a pas nécessairement de valeurs propres et le problème devient considérablement plus difficile. En fait, le problème du sous-espace invariant était initialement formulé dans le contexte d’un espace de Banach X, et est resté pendant un demi-siècle un problème ouvert difficile. Puis un contre-exemple sophistiqué a été construit par Enflo en 1976, avant que C. Read simplifie le contre-exemple en 1984. Ils ont construit un espace de Banach X et une application linéaire et continue T sur X telle que T n’admet aucun sous-espace invariant non-trivial. Dans le même temps, une branche active de recherche a émergé pour trouver des classes d’opérateurs qui possèdent des sous-espaces invariants non triviaux. Le résultat le plus fameux dans cette direction est celui de Lomonosov en 1973 qui démontre que si T est un opérateur, différent d’un multiple de l’identité, et qui commute avec un opérateur compact non trivial, alors T a un sous-espace invariant non trivial. Malgré de nombreuses tentatives, le problème du sous-espace invariant dans le cadre hilbertien reste un problème ouvert. Il existe maintenant de nombreux résultats qui donnent des conditions suffisantes pour qu’un opérateur T sur un espace de Banach X possède un sous-espace invariant non trivial. Mais décrire tous les sous-espaces invariants non triviaux est en général beaucoup plus difficile. Le premier résultat (et sans doute le plus spectaculaire dans cette direction) est le résultat de Beurling (Acta Math. 1948). Il s’est intéressé à la description des sous-espaces invariants du shift S sur l’espace l₂ des suites à carré sommable L’idée lumineuse de Beurling a été de transcrire ce problème dans l’espace de Hardy H² des fonctions analytiques dans le disque unité ouvert D du plan complexe dont les coefficients de Taylor sont dans l₂. Dans ce contexte, l’opérateur S se traduit (est unitairement équivalent à) par l’opérateur de shift S sur H² définie par (Sf)(z) = zf(z). Comme les deux opérateurs sont unitairement équivalents, décrire tous les sous-espaces invariants de l'un se ramène à décrire tous les sous-espaces invariants de l'autre. En utilisant la théorie de l’analyse complexe et de l’analyse harmonique, A. Beurling a pu identifier tous les sous-espaces invariants de S sur H². Ils sont de la forme θH²={θf: f dans H²} où θ est une fonction intérieure, c’est à dire une fonction analytique et borné dans D dont les limites radiales sont de module 1 presque partout sur le cercle T. Or, il s’avère qu’on connait une formule explicite pour décrire toutes les fonctions intérieures. En particulier, la classe des fonctions intérieures contient la classe des produits de Blaschke (qui sont des produits infinis convergeant d’automorphisme du disque unité). Ce résultat profond de Beurling a ensuite trouvé de nombreuses applications, en particulier dans la théorie du modèle fonctionnel.

Plus précisément dans les années 60, B. Sz.-Nagy et C. Foias, inspiré par les idées de l’école de Krein, ont développé une théorie du modèle fonctionnel pour la classe des contractions sur un espace de Hilbert. Dans cette théorie, l’opérateur modèle qui est impliqué est assez simple puisqu’il s’agit de l’adjoint du shift S , qui à une fonction f(z) associe la fonction (f(z)-f(0))/z (sur les coefficients de Taylor, cela se traduit par un décalage à gauche), et cet opérateur agit sur l’espace modèle K_Θ correspondant au complémentaire orthogonal des sous-espaces de Beurling ΘH² dans H². Essentiellement, la théorie de Sz.-Nagy–Foias dit que toute contraction T sur un espace de Hilbert H est unitairement équivalente à S^*: K_Θ→ K_Θ  pour une certaine fonction intérieure Θ associée à T. En parallèle, L. De Branges et J. Rovnyak ont développé une autre théorie du modèle dans laquelle l’espace modèle K_Θ  est remplacé par l’espace de Hilbert de fonctions analytiques H(b) à noyau reproduisant dont le noyau reproduisant est donné par (1-\bar{b(λ)}b(z))/(1-\bar{λ} z), avec λ et z dans le disque unité D. Ici b est une fonction analytique sur D, bornée par 1. Il s’avère que lorsque b=Θ est une fonction intérieure, alors les deux espaces H(b) et K_Θ coincident. La théorie de de Branges–Rovnyak donne un résultat similaire à celui de Sz.-Nagy–Foias, en remplaçant l’espace K_Θ par l’espace H(b). L’idée principale de ces deux théories est qu’on a remplacé l’étude d’un opérateur (une contraction) potentiellement compliquée par un opérateur très simple, l’adjoint du shift S*. De plus, comme les espaces K_Θ  et H(b) sont constitués de fonctions analytiques, on peut utiliser toute la théorie de la variable complexe. En utilisant cette approche, Sz.-Nagy–Foias et Sarason ont par exemple complètement classifié les sous-espaces invariants de l’opérateur de Volterra. Même si ces approches n’ont pas donné de solution complète au problème du sous-espace invariant, elles ont ouvert la voie à un nouveau territoire de recherche mathématique qui s’est révélé très riche et profond. En dehors de la théorie du modèle, on s’est aperçu que les espaces K_Θ  et H(b) ont un rôle important à jouer dans de nombreuses autres questions de théorie des fonctions (solution de la conjecture de Bieberbach par L. de Branges, fonctions rigides de la boule unité de l’espace de Hardy H¹, inégalités de type Schwarz–Pick), de théorie des opérateurs (problème du sous-espace invariant, opérateurs de compositions et de Toeplitz), en théorie de l’approximation (domaines de Nevanlinna), en théorie des systèmes linéaires. Malgré de nombreux efforts de beaucoup de mathématiciens de l’école russe comme Nikolski, Dyakonov, Poltoratski, Baranov, et de l’école de Sarason, il existe de nombreux questions intéressantes encore ouvertes liées à ces espaces. Une grande partie de mes travaux a consisté à faire progresser la connaissance de ces espaces.

• Dans Bounded symbols and reproducing kernel thesis for truncated Toeplitz operators, Journal of Functional Analysis (2010), en collaboration avec A. Baranov, I. Chalendar, J. Mashreghi et D. Timotin, nous nous sommes intéressés à la classe des opérateurs de Toeplitz tronqués, introduite en 2007 par D. Sarason et qui est un sujet en forte expansion. Cette classe d’opérateurs est intimement liée à celle des opérateurs de Toeplitz et de Hankel sur l’espace de Hardy H² et également à la théorie de l’interpolation. En effet, ces opérateurs sont tout simplement la compression des opérateurs de Toeplitz sur un espace modèle K_Θ. Dans le cas classique, un opérateur de Toeplitz T_φ a un symbole φ unique et l’opérateur est borné sur H² si et seulement si son symbole φ est borné. La situation est plus compliquée pour les opérateurs de Toeplitz tronqués : il n’y a pas unicité du symbole. Dans son article fondateur, Sarason a posé la question suivante : est-ce que tout opérateur de Toeplitz tronqué borné sur un K_Θ a un symbole borné ? Cette question est importante car l’existence d’un symbole borné permettrait de travailler plus facilement avec ces opérateurs. Dans notre article, nous avons montré que la réponse à la question de Sarason est en général négative : nous avons ainsi construit une large classe de fonctions intérieures Θ et de symbole φ  tel que l’opérateur de Toeplitz tronqué associé est borné mais ne possède pas de symbole borné.
• Dans Multipliers between model spaces, Studia Mathematica (2018), avec A. Hartmann et W. Ross, nous nous sommes intéressés à la question des multiplicateurs entre espaces modèles. Il se trouve qu’un espace modèle K_Θ n’est pas une algèbre. Par conséquent, le problème de caractériser les fonctions φ telle que la multiplication par φ envoie K_Θ dans lui même est un problème naturel. Malheureusement, même dans ce cas là, les seuls multiplicateurs sont les constantes. En revanche, si on se donne deux fonctions intérieures Θ₁ et Θ₂ différentes, l’ensemble des multiplicateurs de K_Θ₁ dans K_Θ₂, c’est-à-dire l'ensemble des fonctions φ telles que pour toute fonction f dans K_Θ₁ la fonction φf est dans K_Θ₂, peut être non trivial. Dans notre article, nous avons établi une caractérisation intéressante avec les mesures de Carleson des espaces modèles et l’injectivité des opérateurs de Toeplitz. Mentionnons que les mesures de Carleson ont été introduites par L. Carleson lui même dans un article publié à Acta Math.(1964) (en lien avec les suites d’interpolation) et que ce travail lui a valu le prestigieux prix Abel. Depuis, les mesures de Carleson sont devenues un objet d’une importance essentielle. D’autre part, l’injectivité des opérateurs de Toeplitz est lié, depuis les travaux importants de Makarov–Poltoratski (Invent. Math 2010), à la théorie de Beurling–Malliavin si importante en analyse harmonique. L’un des résultats frappants de notre article est qu’on peut construire, dans un certain nombre de cas, des multiplicateurs non bornés.
• Dans Asymptotically orthonormal basis and Toeplitz operators, J. Math. Anal. Appl. (2019), avec R. Rupam, nous nous sommes intéressés à l’étude des systèmes d’exponentielles. La théorie classique des séries de Fourier affirme que le système trigonométrique (e^{int})_{n\in Z} forme une base orthonormale de L²(0;2π). Une question naturelle est de savoir ce qui se passe si on perturbe un peu le système trigonométrique. Est-ce qu’on conserve une propriété de base dans un certain sens ? Récemment M. Mitkovski a donné un critère de base de Riesz pour un système d’exponentielles (avec des fréquences complexes) en termes d’inversibilité d’un certain opérateur de Toeplitz naturellement associé au problème, dans l’esprit des travaux de Khrushchëv–Nikolski–Pavlov (Lecture Notes In Math. no. 864, 1981). Dans notre papier, nous étendons les résultats de Mitkovski pour les suites de noyaux reproduisants dans l’espace modèle K_Θ lorsque Θ est une fonction intérieure méromorphe. Nous donnons également un analogue pour la propriété d’être une base asymptotiquement orthonormale (une notion très proche de base orthonormale).
• Dans Reducing subspaces of C₀(N) operators, New York Journal of Mathematics (2021), avec C. Benhida et D. Timotin, nous nous intéressons à une question fortement liée au problème du sous-espace invariant, celle des sous-espaces réduisant. Rappelons que si T est une application linéaire et continue sur un espace de Hilbert H, alors un sous-espace fermé E de H est dit réduisant si E et son orthogonal sont invariants par T. En utilisant la théorie du modèle de Sz-Nagy–Foias, nous caractérisons complètement les contractions qui admettent un sous-espace réduisant avec des indices de défaut égaux à 1 (ces indices mesurent dans un certain sens la "distance" de la contraction aux isométries). Nous appliquons ensuite ces résultats généraux à certains opérateurs de Toeplitz tronqués et complétons une étude initiée récemment par Li–Yang–Lu [New York Math. J., 2018 et CAOT, 2020] et Gu [Journal of Operator Theory, 2020]. En particulier, nous réfutons une conjecture énoncée par Gu sur l’existence de sous espaces réduisant pour une certaine classe d’opérateurs de Toeplitz tronqués.

• Isabelle Chalendar : Professeure au Laboratoire d’Analyse et de Mathématiques Appliquées (LAMA), Marne-La-Vallée.
• Dan Timotin : Chercheur à l’Institut de l’Académie Mathématique Roumaine, Bucarest (Roumanie).
•  Andreas Hartmann : Professeur à l’Institut de Mathématiques de Bordeaux.
•  Javad Mashreghi : Professeur à l’Université Laval, à Québec (Canada).
•  William Ross : Professeur à l’Université Richmond, Virginia (USA).
• Rishika Rupam : post-doc à Lille de 2015 à 2018. Rishika travaille maintenant comme ingénieure de recherche en Intelligence Artificielle chez Tilkal (plateforme de traçabilitié et de transparence pour la filière industrielle).