text:
# Sur une conjecture de Mukai

## Introduction

Soit $`X`$ une variété de Fano, c’est-à-dire une variété projective lisse dont le fibré anticanonique $`K_X`$ est ample, définie sur $``$. Notons $`\iota _X`$ le pseudo-indice de $`X`$, c’est-à-dire le plus petit entier de la forme $`K_XC`$$`C`$ est une courbe rationnelle de $`X`$, et $`\rho _X`$ le nombre de Picard de $`X`$. L’indice $`r_X`$ de $`X`$ est le plus grand entier $`m`$ tel qu’il existe un fibré en droites $`L`$ satisfaisant $`K_X=mL`$ dans $`\mathrm{Pic}(X)`$; c’est un nombre particulièrement adapté à l’étude des variétés de Fano $`X`$ avec $`\rho _X=1`$, tandis le pseudo-indice nous semble plus adapté à l’étude des variétés de Fano $`X`$ avec $`\rho _X2`$ (penser par exemple aux produits d’espaces projectifs). Mukai a proposé dans \[Mu88\] l’inégalité $`\rho _X(r_X1)dim(X)`$, vérifiée en dimension $`3`$ à l’aide de la classification. Nous proposons plus généralement l’inégalité

$`()`$
$$\rho _X(\iota _X1)dim(X)$$

avec égalité si et seulement si $`X(^{\iota _X1})^{\rho _X}`$, en partie motivés par le

Théorème (\[Wi90\]). Soit $`X`$ une variété de Fano de dimension $`n`$, d’indice $`r_X`$ et de pseudo-indice $`\iota _X`$. Si $`2\iota _X>n+2`$, on a $`\rho _X=1`$. Si $`2r_X=n+2`$, on a $`\rho _X=1`$ sauf si $`X(^{\iota _X1})^2`$.

D’après la théorie de Mori, une variété de Fano $`X`$ de dimension $`n`$ vérifie toujours $`\iota _Xn+1`$. Si $`\iota _X=n+1`$, on a $`X^n`$ d’après un résultat de Cho, Miyaoka et Shepherd-Barron (\[CMS00\]) dont une démonstration simplifiée se trouve dans \[Ke01\].

Dans ce travail, on se propose de montrer l’inégalité ($``$) lorsque $`X`$ est une variété de Fano de dimension $`3`$ ou $`4`$ (l’inégalité ($``$) est vérifiée directement en dimension $`2`$) et lorsque $`X`$ est une variété de Fano torique de pseudo-indice au moins égal à $`dim(X)/3+1`$.
L’inégalité ($``$) peut être vérifiée directement pour les variétés de Fano de dimension $`4`$ et d’indice au moins $`2`$, dont la classification est établie par exemple dans \[IP99\].

Nous démontrons, sans utiliser les résultats de classification des variétés de Fano de dimension $`3`$ ou $`4`$, le résultat suivant, nouveau dans le cas des variétés d’indice $`1`$ et de pseudo-indice au moins $`2`$:

Théorème. Si $`X`$ est une variété de Fano de dimension $`3`$ ou $`4`$, de pseudo-indice $`\iota _X`$ et de nombre de Picard $`\rho _X`$, on a $`\rho _X(\iota _X1)dim(X)`$. Si $`\rho _X(\iota _X1)=dim(X)`$, on a $`X(^{\iota _X1})^{\rho _X}`$.

Dans la situation torique, nos résultats principaux sont:

Théorème. Soit $`X`$ une variété de Fano torique de dimension $`n`$, de pseudo-indice $`\iota _X`$ et de nombre de Picard $`\rho _X`$. Si $`3\iota _Xn+3`$, on a $`\rho _X(\iota _X1)n`$. Si de plus $`\rho _X(\iota _X1)=n`$, on a $`X(^{\iota _X1})^{\rho _X}`$.

Théorème. Soit $`X`$ une variété de Fano torique de dimension $`n7`$, de pseudo-indice $`\iota _X`$ et de nombre de Picard $`\rho _X`$. On a $`\rho _X(\iota _X1)n`$. Si $`\rho _X(\iota _X1)=n`$, on a $`X(^{\iota _X1})^{\rho _X}`$.

Les méthodes utilisées sont celles de la théorie de Mori, dont nous rappelons plus bas quelques uns des résultats ou définitions. Mentionnons les deux résultats suivants obtenus au cours de la démonstration des théorèmes précédents et qui ont leur intérêt propre.

Proposition. Soit $`X`$ une variété de Fano de dimension $`n`$, de nombre de Picard $`\rho _Xn`$ et de pseudo-indice $`\iota _X2`$. Si toutes les contractions extrémales de $`X`$ sont des fibrations, $`X`$ est isomorphe à $`(^1)^n`$.

Théorème. Soit $`X`$ une variété de Fano de dimension $`n4`$. Si toutes les contractions extrémales de $`X`$ sont ou bien des éclatements lisses de centre une courbe lisse ou bien des fibrations de dimension relative $`1`$ et que $`X`$ possède au moins une contraction extrémale birationnelle, on a $`\rho _X3`$.

Nous présentons enfin une approche possible, en toute dimension, où l’inégalité ($``$) découlerait de l’existence de certaines chaînes de courbes rationnelles. Le résultat suivant fournit une motivation supplémentaire en direction de la conjecture de Mukai généralisée.

Théorème. Soit $`X`$ une variété de Fano de dimension $`n`$, de nombre de Picard $`\rho _X`$ et de pseudo-indice $`\iota _X`$. S’il existe des familles propres irréductibles $`V^1,\mathrm{},V^{\rho _X}`$ de courbes rationnelles irréductibles sur $`X`$ dont les classes dans $`\mathrm{N}_1(X)_{}`$ sont linéairement indépendantes et des courbes $`C^1,\mathrm{},C^{\rho _X}`$ avec $`[C^j]V^j`$ pour tout $`1j\rho _X`$ et $`C^jC^{j+1}\mathrm{}`$ pour tout $`1j\rho _X1`$, on a $`\rho _X(\iota _X1)n`$.

## 1. Notations

1.1. Si $`X`$ est une variété projective, on note

$$\mathrm{N}_1(X)_{}=\{\underset{i}{}a_iC_ia_i,C_i\text{courbe irréductible de}X\}/$$

$``$ désigne l’équivalence numérique. Le cône de Mori, ou cône des courbes effectives, est le sous-cône de $`\mathrm{N}_1(X)_{}`$ défini par

$$\mathrm{NE}(X)=\{Z\mathrm{N}_1(X)_{}Z\underset{i}{}a_iC_i,a_i0\}.$$

Si $`E`$ est un diviseur et $`R`$ une arête de $`\mathrm{NE}(X)`$, la notation $`ER>0`$ (resp. $`ER=0`$) signifie $`EC>0`$ (resp. $`EC=0`$) pour toute courbe $`C`$ de $`X`$ telle que $`[C]R`$. La partie de $`\mathrm{NE}(X)`$ située dans le demi-espace ouvert $`\{K_X>0\}`$ est localement polyédrale et pour toute arête $`R`$ de $`\mathrm{NE}(X)`$ telle que $`K_XR>0`$, il existe un morphisme $`\phi _R:XX_R`$ à fibres connexes, appelé contraction extrémale, de $`X`$ sur une variété projective normale $`X_R`$ tel que les courbes irréductibles contractées par $`\phi _R`$ sont exactement celles dont la classe dans $`\mathrm{N}_1(X)_{}`$ appartient à $`R`$.

* Soit $`dim(X_R)<dim(X)`$; on dit que $`\phi _R`$ est une fibration, et $`\rho _{X_R}=\rho _X1`$.
* Soit $`\phi _R`$ est birationnelle, son lieu exceptionnel est un diviseur irréductible $`E`$ tel que $`ER<0`$: on dit que $`\phi _R`$ est une contraction divisorielle, et $`\rho _{X_R}=\rho _X1`$.
* Soit $`\phi _R`$ est birationnelle, son lieu exceptionnel est de codimension $`>1`$ dans $`X`$: on dit que $`\phi _R`$ est une petite contraction.

Si $`X`$ est une variété de Fano, le cône $`\mathrm{NE}(X)`$ est polyédral et si $`\phi _R:XX_R`$ est une contraction extrémale, $`\mathrm{NE}(X_R)`$ est engendré par les $`\phi _R(R^{})`$$`R^{}`$ décrit l’ensemble (fini) des arêtes de $`\mathrm{NE}(X)`$.

1.2. Rappelons un résultat de Wiśniewski (\[Wi91\], Theorem (1.1)) sur le lieu d’une contraction extrémale. Soit $`\phi _R:XX_R`$ une telle contraction, d’arête $`R`$. Notons $`E_R`$ le lieu de $`X`$ couvert par les courbes contractées par $`\phi _R`$ et

$$l(R)=\mathrm{min}\{K_XCC\text{courbe rationnelle contractée par }\phi _R\}$$

la longueur de $`R`$. Pour toute composante irréductible $`F`$ d’une fibre non triviale de $`\phi _R`$, on a

$$2dim(E_R)dim(E_R)+dim(F)dim(X)+l(R)1dim(X)+\iota _X1.$$

1.3. Nous utiliserons aussi le résultat suivant: soient $`X`$ une variété de Fano, $`R`$ une arête de $`\mathrm{NE}(X)`$ et $`\phi _R:XX_R`$ la contraction associée. Si toutes les fibres de $`\phi _R`$ sont de dimension $`1`$, $`X_R`$ est lisse (\[An85\], Theorem 3.1(ii)) et une fibre générale $`F`$ de $`\phi _R`$ est une courbe rationnelle lisse qui vérifie $`K_XF=2\iota _X`$. Deux cas sont alors possibles:

* soit $`\phi _R`$ est une fibration en $`^1`$ et $`X_R`$ est une variété de Fano (\[KMM92\], Corollary 2.9);
* soit $`\phi _R`$ a au moins une fibre singulière et $`\iota _X=1`$.

## 2. La dimension trois

2.1. Vérifions l’inégalité ($``$) en dimension $`3`$. Le seul cas non trivial et non couvert par le résultat de Wiśniewski est donné par la

Proposition 2.2. Soit $`X`$ une variété de Fano de dimension $`3`$. Si $`\iota _X=2`$, on a $`\rho _X3`$.

Démonstration. Supposons $`\rho _X4`$. La variété $`X`$ possède au moins $`4`$ contractions extrémales distinctes qui ne peuvent pas toutes être des fibrations (\[Wi91\], Theorem (2.2)). Les contractions extrémales sont complètement décrites par Mori (\[Mo82\], Theorem 3.3) et seule la contraction birationnelle lisse de centre un point est de longueur au moins $`2`$. Cette possibilité est par exemple exclue par la classification des variétés dont l’éclatée en un point est de Fano (\[BCW01\]).

Toujours en dimension $`3`$, le cas d’égalité dans l’inégalité ($``$) est caractérisé par la

Proposition 2.3. Si $`\rho _X(\iota _X1)=dim(X)=3`$, on a $`X(^{\iota _X1})^{\rho _X}.`$

Démonstration. Si $`\rho _X=1`$ et $`\iota _X=4`$, la variété $`X`$ est isomorphe à $`^3`$ (\[CMS00\], \[Ke01\]). Supposons $`\rho _X=3`$ et $`\iota _X=2`$ et considérons une contraction extrémale $`\phi :XZ`$. Si $`\phi `$ est divisorielle de lieu exceptionnel $`E`$, alors $`\phi (E)`$ est une courbe (cf. 1.2) et $`\phi `$ s’identifie à l’éclatement d’une courbe lisse dans la variété lisse $`Z`$ (\[Mo82\], Corollary 3.4.1), ce qui est absurde puisque $`\iota _X=2`$. Les contractions extrémales sont donc toutes des fibrations et le résultat annoncé est donné par la proposition qui suit.

Proposition 2.4. Soit $`X`$ une variété de Fano de dimension $`n`$, de nombre de Picard $`n`$ et de pseudo-indice $`2`$. Si toutes les contractions extrémales de $`X`$ sont des fibrations, $`X`$ est isomorphe à $`(^1)^n`$.

Démonstration. Montrons la proposition par récurrence sur $`n`$, le cas $`n=1`$ étant immédiat. Par \[Wi91\], Theorem (2.2), toutes les contractions extrémales sont de dimension relative $`1`$ et il y en a exactement $`n`$: le cône $`\mathrm{NE}(X)`$ est donc simplicial. Notons $`R_1,\mathrm{},R_n`$ ses arêtes. Pour $`1in1`$, le cône $`V_i=R_1+\mathrm{}+R_i`$ est une face extrémale de $`\mathrm{NE}(X)`$ dont on note $`\phi _i:XZ_i`$ la contraction. Par le lemme de rigidité, $`\phi _{i+1}`$ se factorise en $`X\stackrel{\phi _i}{}Z_iZ_{i+1}`$. L’inclusion $`V_iV_{i+1}`$ étant stricte, on a $`dim(Z_i)>dim(Z_{i+1})`$. On en déduit $`dim(Z_{n1})=1`$ et $`Z_{n1}`$ est isomorphe à $`^1`$.

Pour $`1in`$, on considère la contraction $`\phi _{R_i}:XW_i`$. Les fibres de $`\phi _{n1}`$ et de $`\phi _{R_n}`$ se coupent en un nombre fini de points. Le morphisme $`\phi _{R_n}`$ est donc équidimensionnel de dimension relative $`1`$. Il en résulte que $`W_n`$ est une variété de Fano lisse (cf. 1.3) et que $`\phi _{R_n}`$ est une fibration en $`^1`$ puisque $`\iota _X2`$. Comme toute arête de $`\mathrm{NE}(W_n)`$ est image d’une arête de $`\mathrm{NE}(X)`$, le cône $`\mathrm{NE}(W_n)`$ est simplicial et toute contraction extrémale de $`W_n`$ est une fibration.

Lemme 2.5. Soit $`\pi :XY`$ une fibration en $`^r`$ entre variétés projectives et lisses. On suppose que $`X`$ est une variété de Fano. Alors,

* $`Y`$ est une variété de Fano et $`\iota _Y\iota _X`$;
* si $`Y`$ vérifie $`()`$, il en est de même de $`X`$;
* si $`\iota _Y=\iota _X`$ et que $`^1Y`$ est une courbe de degré anticanonique $`\iota _Y`$, le produit $`^1\times _YX`$ est isomorphe à $`^1\times ^r`$.

Démonstration. Par \[KMM92\], Corollary 2.9, $`Y`$ est une variété de Fano. Soit $`^1Y`$ une courbe de degré anticanonique $`\iota _Y`$. Comme $`H^2(^1,𝒪_^1^{})`$ est nul, il résulte de \[Gr68\], § 8, que la fibration $`^1\times _YX^1`$ est isomorphe au projectifié d’un fibré vectoriel $`E=_{i=0}^r𝒪_^1(a_i)`$ sur $`^1`$, où les $`a_i`$ sont des entiers positifs avec $`a_0=0`$. Si $`C_i`$ est la section de $`(E)^1`$ définie par le fibré quotient $`𝒪_^1(a_i)`$ de $`E`$, on a $`K_{(E)/^1}C_i=ra_i`$, d’où, en notant $`g`$ la composée $`^1C_iX`$,

$$\iota _XK_Xg_{}C_i=\pi ^{}K_Yg_{}C_iK_{X/Y}g_{}C_i=\iota _Yg^{}K_{X/Y}C_i=\iota _YK_{(E)/^1}C_i=\iota _Yra_i$$

ce qui prouve (a) et (c).

Montrons (b). On a $`\rho _Y=\rho _X1`$, d’où, en utilisant (a),

$$(\rho _X1)(\iota _X1)\rho _Y(\iota _Y1)dim(Y)=dimXr.$$

Si $`C`$ est une droite contenue dans une fibre de $`\pi `$, on a $`K_XC=r+1`$, de sorte que $`\iota _Xr+1`$ et

$$\rho _X(\iota _X1)\iota _X1+dim(X)rdim(X),$$

ce qui prouve (b).

On a donc $`\iota _{W_n}2`$ et par hypothèse de récurrence, $`W_n`$ est isomorphe à $`(^1)^{n1}`$. De plus, l’image réciproque de toute droite du type $`^1\times \{t_2,\mathrm{},t_{n1}\}`$ est isomorphe à $`(^1)^2`$. Puisque $`\mathrm{NE}(X)`$ est simplicial, la contraction $`\phi _{R_1+R_n}`$ est la composée de $`\phi _{R_n}`$ et d’une projection $`p:W_n(^1)^{n2}`$; de même, $`\phi _{n1}`$ est la composée de $`\phi _{R_n}`$ et d’une projection $`W_n^1`$. On a ainsi un diagramme commutatif

$`p_1`$ et $`p_2`$ sont les deux projections. L’image réciproque d’un point de $`(^1)^{n2}`$ par $`\phi _{R_1+R_n}`$ est isomorphe à $`(^1)^2`$, les restrictions de $`\phi _{R_1}`$ et $`\phi _{R_n}`$ étant les projections sur chacun des facteurs. En d’autres termes, une fibre de $`\phi _{R_n}`$ est envoyée isomorphiquement par $`\phi _{R_1}`$ sur le facteur $`^1`$ de $`W_1`$. Cela signifie que le degré du morphisme produit

$$\phi _{n1}\times \phi _{R_n}:X^1\times (^1)^{n1},$$

qui est le degré de la restriction de $`\phi _{n1}`$ à une fibre générale de $`\phi _{R_n}`$, vaut $`1`$. Ce morphisme étant fini, c’est un isomorphisme et la preuve de la proposition est achevée.

## 3. La dimension quatre

3.1. Montrons l’inégalité ($``$) en dimension $`4`$. Une remarque essentielle est que sur une variété de Fano de dimension $`4`$ et de pseudo-indice $`2`$, il n’y a pas de petite contraction (cf. 1.2).

Proposition 3.2. Soit $`X`$ une variété de Fano de dimension $`4`$. Si $`\iota _X=3`$, on a $`\rho _X2`$.

Démonstration. Supposons $`\rho _X3`$. Les fibrations extrémales sont de dimension relative au moins $`2`$ (cf. 1.2) et il y en a donc au plus $`2`$ (\[Wi91\], Theorem (2.2)). Il existe ainsi au moins une contraction divisorielle contractant son lieu exceptionnel sur un point (cf. 1.2). Il en résulte l’existence sur $`X`$ d’une contraction lisse de centre de codimension $`2`$ (\[Wi91\], Corollary (1.3)), ce qui est absurde puisqu’une telle contraction est de longueur $`1`$.

Le résultat principal de cette section est le

Théorème 3.3. Soit $`X`$ une variété de Fano de dimension $`4`$. Si $`\iota _X=2`$, on a $`\rho _X4`$.

### 3.4. Quelques lemmes intermédiaires

La démonstration du théorème 3.3 repose sur les lemmes suivants.

Lemme 3.5. Une variété de Fano $`X`$ de dimension $`4`$, de pseudo-indice $`2`$ et de nombre de Picard $`5`$ n’a pas de fibration extrémale $`\phi :XY`$ dont toutes les fibres sont de dimension $`1`$.

Démonstration. Raisonnons par l’absurde. Le morphisme $`\phi :XY`$ est une fibration lisse car $`\iota _X=2`$, de sorte que $`Y`$ est une variété de Fano lisse de dimension $`3`$ d’après 1.3. Puisque $`\rho _Y4`$, il existe une contraction lisse $`\pi :YZ`$ de centre une courbe lisse (\[MM81\], Theorem 5). Toute courbe de $`Y`$ contractée par $`\pi `$ est une courbe rationnelle de fibré normal dans $`Y`$ égal à $`𝒪(1)𝒪`$, donc de degré anticanonique $`1`$. Ceci, avec le lemme 2.5, contredit l’hypothèse $`\iota _X=2`$.

Lemme 3.6. Soit $`X`$ une variété de Fano de dimension $`4`$, de pseudo-indice $`2`$ et de nombre de Picard $`5`$. Toute contraction extrémale $`XY`$ est ou bien une contraction divisorielle lisse de centre une courbe, autrement dit est l’éclatement d’une variété lisse $`Y`$ le long d’une courbe lisse de $`Y`$, ou bien une fibration de dimension relative $`1`$.

Dans le cas d’une fibration, le lemme 3.5 montre qu’il y a au moins une fibre de dimension $`2`$.

Démonstration. Remarquons tout d’abord que les fibrations extrémales $`XY`$ vérifient toutes $`dim(Y)=2`$ ou $`dim(Y)=3`$. En effet, si $`dim(Y)=0`$ (resp. $`dim(Y)=1`$), on a $`\rho _X=1`$ (resp. $`\rho _X=2`$). D’autre part, comme $`dim(X)=4`$ et $`\rho _X5`$, il y a au moins une contraction extrémale divisorielle (\[Wi91\], Theorem (2.2)).

Soient $`\phi :XY`$ une telle contraction et $`E`$ son diviseur exceptionnel. Les fibres non triviales de $`\phi `$ sont de dimension $`2`$ (cf. 1.2). Si $`dim(\phi (E))=0`$, il existe sur $`X`$ une fibration extrémale dont toutes les fibres sont de dimension $`1`$ ou une contraction extrémale birationnelle lisse de centre de codimension $`2`$ (\[Wi91\], Corollary (1.3)), ces deux situations étant exclues respectivement par le lemme 3.5 et par l’hypothèse $`\iota _X=2`$. Ainsi, $`dim(\phi (E))=1`$ et $`\phi `$ s’identifie à l’éclatement d’une variété lisse $`Y`$ le long de la courbe lisse $`\phi (E)`$ (\[AW98\], Theorem 4.1).

Vérifions enfin qu’il n’existe pas de fibration extrémale $`\pi :XS`$$`S`$ est une surface. Supposons qu’une telle fibration existe; $`S`$ est alors une surface lisse (\[ABW92\], Proposition 1.4.1) et une fibre non triviale $`F`$ de $`\phi `$ est isomorphe à $`^2`$. Puisque $`\phi _{|F}:FS`$ est fini, $`S`$ est également isomorphe à $`^2`$ (\[La83\]), de sorte que $`\rho _X=2`$, ce qui est absurde.

Le résultat suivant précise le cas des éclatements de centre une courbe lisse.

Proposition 3.7. Soit $`X`$ une variété de Fano de dimension $`n4`$ et de pseudo-indice $`\iota _X2`$. Si $`\pi :XY`$ est l’éclatement d’une variété lisse $`Y`$ le long d’une courbe lisse, $`Y`$ est une variété de Fano et $`\iota _Y\iota _X`$.

Démonstration. Si $`Y`$ n’est pas une variété de Fano, le centre de l’éclatement $`\pi `$ est une courbe rationnelle lisse de fibré normal $`𝒪_^1(1)^{n1}`$ (\[Wi91\], Proposition (3.5)), de sorte que $`\iota _X=1`$, ce qui contredit l’hypothèse.

Vérifions ensuite l’inégalité $`\iota _Y2`$. Soient $`C`$ le centre de $`\pi `$ et $`E`$ son diviseur exceptionnel. Si $`C^{}`$ est une courbe rationnelle de $`Y`$ distincte de $`C`$, et si on note encore $`C^{}`$ sa transformée stricte dans $`X`$, on a $`K_YC^{}=K_XC^{}+(n2)EC^{}\iota _X`$. Si $`\iota _Y<\iota _X`$, on ne peut donc avoir $`K_YC^{}=\iota _Y`$, de sorte que $`C`$ est une courbe rationnelle qui satisfait $`K_YC=\iota _Y`$.

Soit $`N_{C/Y}=_{i=1}^{n1}𝒪_^1(a_i)`$ son fibré normal. On a d’une part

$$\iota _Y=K_YC=\underset{i=1}{\overset{n1}{}}a_i+2,$$

et d’autre part, si $`C_iE`$ est la courbe définie par le fibré quotient $`𝒪_^1(a_i)`$ de $`N_{C/Y}`$,

$$K_XC_i=\iota _Y(n2)a_i\iota _X.$$

On en déduit $`\iota _Y\iota _X`$, sauf si tous les $`a_i`$ sont strictement négatifs, ce qu’exclut l’égalité $`_{i=1}^{n1}a_i=\iota _Y21`$.

### 3.8. Variétés de Fano spéciales

Nous nous intéressons ici à certaines variétés de Fano, que nous appelons « spéciales », faute d’une meilleure terminologie.

Définition. Une variété de Fano de dimension $`n`$ sera dite spéciale si toutes ses contractions extrémales sont ou bien des éclatements lisses de centre une courbe lisse ou bien des fibrations de dimension relative $`1`$ et si elle possède au moins une contraction extrémale birationnelle.

Exemple. La variété $`X=_a^n\times ^1`$, où $`_a^n`$ désigne l’éclatement de $`^n`$ de centre $`a`$, est une variété de Fano spéciale, de pseudo-indice $`2`$ et de nombre de Picard $`3`$. En effet, $`X`$ possède $`3`$ contractions extrémales: $`X_a^n`$ et $`X^{n1}\times ^1`$, fibrations en $`^1`$, et $`X^n\times ^1`$, contraction lisse de centre $`\{a\}\times ^1`$.

Cet exemple est d’une certaine façon extrémal comme le montre le

Théorème 3.9. Une variété de Fano spéciale $`X`$ de dimension $`4`$ vérifie $`\rho _X3`$.

La démonstration de ce résultat occupe la fin de ce paragraphe.

Lemme 3.10. Soit $`X`$ une variété de Fano spéciale de dimension $`4`$ et de nombre de Picard $`4`$.

1. La variété $`X`$ possède au plus une fibration extrémale de dimension relative $`1`$.
2. Si $`X`$ possède une fibration extrémale de dimension relative $`1`$, d’arête $`R`$, les contractions extrémales birationnelles ont pour centre une courbe rationnelle à fibré normal trivial, leur diviseur exceptionnel $`E`$ vérifie $`ER=0`$ et $`\iota _X2`$.

Démonstration. Soient $`\pi :XW`$ une contraction extrémale birationnelle de centre une courbe lisse $`CW`$ et de diviseur exceptionnel $`E`$ et $`\phi :XY`$ une fibration extrémale d’arête $`R`$ et de dimension relative $`1`$. Nous allons montrer que $`\pi `$ détermine $`R`$, donc $`\phi `$.

Le morphisme $`\phi _{|E}:EY`$ n’est pas surjectif car $`\rho _E=2`$ et $`\rho _Y3`$; comme l’intersection d’une fibre de $`\phi _{|E}`$ avec une fibre de $`\pi _{|E}`$ est finie, chaque fibre de $`\phi _{|E}`$ est de dimension $`1`$. En particulier, $`\phi (E)`$ est de codimension $`1`$ dans $`Y`$; l’image réciproque par $`\phi `$ d’un point général de $`\phi (E)`$ est de dimension $`1`$, donc coïncide avec son image réciproque par $`\phi _{|E}`$. C’est en particulier une courbe rationnelle qui domine $`C`$, de sorte que cette dernière aussi est rationnelle.

Le diviseur $`E`$ est isomorphe à $`(N_{C/W}^{})`$, où $`N_{C/W}=_{i=1}^{n1}𝒪_^1(a_i)`$. La fibration induite $`\stackrel{~}{\phi }_{|E}:E\stackrel{~}{\phi }(E)`$, où $`\stackrel{~}{\phi }(E)`$ est la normalisation de $`\phi (E)`$, est équidimensionnelle, de fibre générale $`^1`$; c’est une contraction extrémale puisque $`\rho _E=2`$. Le cône de Mori de $`(N_{C/W}^{})`$ est engendré par deux courbes: une droite d’une fibre de $`\pi _{|E}:EC`$ et une section de $`\pi _{|E}`$. Il s’ensuit que $`E`$ est isomorphe à $`^{n2}\times ^1`$, que $`\pi _{|E}`$ et $`\phi _{|E}`$ sont les deux projections et que $`R`$ est engendré par une courbe du type $`\{\}\times ^1`$. Comme $`n4`$, il y a donc au plus une fibration extrémale de dimension relative $`1`$.

Ce qui précède montre aussi que si $`X`$ possède une fibration extrémale de dimension relative $`1`$, les contractions extrémales birationnelles ont pour centre une courbe rationnelle de fibré normal trivial. En effet, on a vu que $`(N_{C/W}^{})`$ est isomorphe à $`^{n2}\times ^1`$, de sorte que $`N_{C/W}`$ est isomorphe à $`𝒪_^1(a)^{n1}`$ pour un entier $`a`$ convenable et, puisque les courbes du type $`\{\}\times ^1`$ ont un fibré normal (dans $`X`$) trivial (ce sont les fibres d’une fibration), c’est que $`a=0`$.

Lemme 3.11. Soit $`X`$ une variété projective lisse de dimension $`4`$ et soit $`\pi :XW`$ (resp. $`\pi ^{}:XW^{}`$, $`\pi ^{\prime \prime }:XW^{\prime \prime }`$) une contraction extrémale birationnelle lisse de centre une courbe lisse $`CW`$ (resp. $`C^{}W^{}`$, $`C^{\prime \prime }W^{\prime \prime }`$) d’arête $`R`$ (resp. $`R^{}`$, $`R^{\prime \prime }`$) et de diviseur exceptionnel $`E`$ (resp. $`E^{}`$, $`E^{\prime \prime }`$).

1. Si $`RR^{}`$ et $`EE^{}\mathrm{}`$, on a $`ER^{}>0`$ et $`E^{}R>0`$.
2. Si $`R`$, $`R^{}`$ et $`R^{\prime \prime }`$ sont deux à deux distinctes et si $`EE^{}\mathrm{}`$ et $`EE^{\prime \prime }\mathrm{}`$, on a $`E^{}E^{\prime \prime }\mathrm{}`$.

Démonstration. Vérifions le point (a). Soit $`x`$ un point de $`EE^{}`$. La surface $`\pi ^1(\pi (x))`$, isomorphe à $`^2`$, n’est pas contenue dans $`E^{}`$ car $`RR^{}`$. Il existe donc une courbe dans $`\pi ^1(\pi (x))`$ passant par $`p`$ et non contenue dans $`E^{}`$, d’où (a) en échangeant les rôles de $`E`$ et $`E^{}`$.

Vérifions le point (b). Soit $`yC`$. Les courbes $`\pi ^1(y)E^{}`$ et $`\pi ^1(y)E^{\prime \prime }`$ sont contenues dans $`\pi ^1(y)`$, qui est isomorphe à $`^2`$, de sorte que $`\pi ^1(y)E^{}E^{\prime \prime }\mathrm{}`$, d’où (b).

### 3.12. Démonstration du théorème 3.9

Supposons $`\rho _X4`$. Par hypothèse, il existe une contraction extrémale birationnelle $`\pi :XW`$ d’arête $`R_1`$ et de diviseur exceptionnel $`E_1`$, d’image une variété de Fano lisse (proposition 3.7) et de centre une courbe lisse $`CW`$.

Soit $`C_1`$ une courbe telle que $`E_1C_1>0`$. Cette courbe est numériquement combinaison linéaire à coefficients rationnels strictements positifs de classes engendrant des arêtes. L’une d’entre elles, notée $`R_2`$, satisfait $`E_1R_2>0`$. Le lemme 3.10(b) entraîne que la contraction $`\phi _{R_2}`$ est birationnelle.

Notons $`R_1,R_2,\mathrm{},R_k,R_{k+1},\mathrm{},R_m,R_F`$ les arêtes de $`\mathrm{NE}(X)`$, où

* les contractions $`\phi _{R_i}`$ sont birationnelles de diviseur exceptionnel $`E_i`$ (noter que $`\pi =\phi _{R_1}`$);
* $`\phi _{R_F}`$ est l’éventuelle unique fibration et, d’après le lemme 3.10(b), $`E_iR_F=0`$ pour tout $`1im`$;
* $`E_1E_i\mathrm{}`$ pour $`2ik`$ d’où, d’après le lemme 3.11(a), $`E_1R_i>0`$;
* $`E_1E_i=\mathrm{}`$ pour $`k+1im`$, d’où, d’après le lemme 3.11(b), $`E_2E_i=\mathrm{}`$.

Supposons $`n5`$. L’intersection $`E_1E_2`$ n’est pas vide, de dimension au moins $`n23`$: il y a donc des courbes de $`E_1E_2`$ contractées à la fois par $`\phi _{R_1}`$ et par $`\phi _{R_2}`$, ce qui est absurde.

Supposons $`n=4`$ et vérifions que $`C`$ est extrémale dans $`\mathrm{NE}(W)`$. Rappelons que ce cône est engendré par $`\pi (R_F)`$ et les $`\pi (R_i)`$ pour $`i2`$. Pour $`2ik`$, la classe de $`C`$ appartient à $`\pi (R_i)`$, ainsi qu’à $`\pi (R_F)`$: en effet, chaque fibre non triviale de $`\phi _{R_i}`$ intersecte $`E_1`$ le long d’une courbe $`C_i`$ telle que $`\pi (C_i)=C`$, de même, toute fibre $`F`$ de $`\phi _{R_F}`$ intersectant $`E_1`$ est contenue dans $`E_1`$ et satisfait donc $`\pi (F)=C`$. Si la classe de $`C`$ n’est pas extrémale, $`\mathrm{NE}(W)`$ est donc engendré par les arêtes $`\pi (R_i)`$ pour $`ik+1`$. L’image $`\pi (E_2)`$ est un diviseur effectif de $`W`$ numériquement trivial puisque $`E_2R_F=E_2R_i=0`$, ce qui est absurde.

Étudions la contraction extrémale $`\phi :WY`$ d’arête engendrée par $`C`$ et montrons que le diviseur $`\pi (E_2)`$ est contracté sur un point par $`\phi `$. Notons $`W_2`$ l’image de $`\phi _{R_2}`$ et $`C_2W_2`$ son centre. Pour tout $`yC_2`$, la fibre $`\phi _{R_2}^1(y)`$, isomorphe à $`^2`$, contient une courbe dont l’image par $`\pi `$ est $`C`$ et qui est donc contractée par $`\phi `$ sur le point $`\phi (C)`$. D’autre part, $`\pi (\phi _{R_2}^1(y))`$ est également contracté sur le point $`\phi (C)`$. La contraction $`\phi :WY`$ est donc ou bien divisorielle ou bien une fibration. Soit $`C^{}R_2`$ une courbe rationnelle de $`X`$ telle que $`E_2C^{}=1`$. Il existe un entier $`r1`$ tel que

$$\pi (E_2)\pi _{}(C^{})=\pi ^{}(\pi (E_2))C^{}=(E_2+rE)C^{}=1+rEC^{}.$$

Or $`EC^{}1`$; on en déduit $`\pi (E_2)\pi _{}(C^{})0`$ puis, puisque les courbes $`C`$ et $`\pi _{}(C^{})`$ sont numériquement proportionnelles, $`\pi (E_2)C0`$.
Comme $`\pi (E_2)`$ est contracté sur un point par $`\phi `$, le calcul d’intersection précédent montre que $`\phi `$ est une fibration. En particulier, $`dim(Y)1`$ et $`\rho _W2`$, ce qui est absurde puisqu’on a supposé $`\rho _X4`$.

### 3.13. Démonstration du théorème 3.3

Le lemme 3.6 montre que si $`X`$ est une variété de Fano de dimension $`4`$, de pseudo-indice $`2`$ et de nombre de Picard $`5`$, la contraction extrémale associée à toute arête extrémale de $`X`$ est soit une contraction divisorielle lisse de centre une courbe lisse, soit une fibration de dimension relative $`1`$. De plus, comme $`\rho _X5`$, il existe sur $`X`$ au moins une contraction extrémale birationnelle (\[Wi91\], Theorem (2.2)). C’est donc que $`X`$ est spéciale et le théorème 3.9 permet de conclure à une absurdité.

### 3.14. Familles propres de courbes rationnelles.

Nous renvoyons au livre \[Ko96\] pour plus de détails sur les notations et les rappels qui suivent. Soit $`X`$ une variété complexe, projective, lisse et connexe. Soit $`\text{Hom}_{\text{bir}}(^1,X)`$ le schéma des morphismes birationnels de $`^1`$ vers $`X`$ et soit $`\text{Hom}_{\text{bir}}^n(^1,X)`$ sa normalisation. Le groupe linéaire $`\text{PGL}(2,)`$ agit sur $`\text{Hom}_{\text{bir}}^n(^1,X)`$ et $`\text{Hom}_{\text{bir}}^n(^1,X)\times ^1`$. Les quotients géométriques au sens de Mumford existent et seront respectivement notés $`\text{RatCurves}^n(X)`$ et $`\text{Univ}^{rc}(X)`$. Soit $`V\text{RatCurves}^n(X)`$ une famille propre irréductible de courbes rationnelles irréductibles sur $`X`$ et soit $`𝒰\text{Univ}^{rc}(X)`$ la famille universelle

$$\begin{array}{ccc}𝒰& \stackrel{\mathrm{ev}}{}& X\\ \pi & & \\ V\end{array}$$

Notons $`\mathrm{lieu}(V)=\mathrm{ev}(𝒰)`$ l’ensemble des points de $`X`$ par lesquels il passe une courbe rationnelle $`C`$ de $`X`$ telle que $`[C]V`$. Soit $`x\mathrm{lieu}(V)`$; on note $`V_x=\pi (\mathrm{ev}^1(x))V`$ les courbes de $`V`$ passant par $`x`$, puis $`𝒰_x=\pi ^1(V_x)`$ et $`\mathrm{lieu}(V_x)=\mathrm{ev}(𝒰_x)`$. Les dimensions de ces différentes variétés satisfont

(1) $`dim(V)`$ $``$ $`K_XV+n3`$
$`dim(V_x)`$ $``$ $`K_XV2`$
$`K_XV`$ désigne l’intersection $`K_XC`$ pour une courbe rationnelle $`C`$ de $`X`$ telle que $`[C]V`$. Si $`x`$ est un point général de $`\mathrm{lieu}(V)`$, on a

(2)
$$dim(\mathrm{lieu}(V))+dim(V_x)=dim(V)+1$$

et, par le lemme de cassage (\[Mo79\], Theorem 6),

$$dim(\mathrm{lieu}(V_x))=dim(V_x)+1K_XV1.$$

Nous utiliserons de façon répétée le résultat suivant (\[Ko96\], II.4.21).

Lemme 3.15. Soit $`V\text{RatCurves}^n(X)`$ une famille propre et irréductible de courbes rationnelles irréductibles sur une variété $`X`$ projective et lisse et soit $`x\mathrm{lieu}(V)`$. Toute courbe tracée sur $`\mathrm{lieu}(V_x)`$ est numériquement proportionnelle à une courbe $`C`$ telle que $`[C]V`$.

3.16. La famille $`V`$ détermine une relation d’équivalence sur $`X`$ pour laquelle des points $`x`$ et $`x^{}`$ de $`X`$ sont équivalents s’il existe une chaîne connexe de courbes rationnelles de $`V`$ passant par $`x`$ et $`x^{}`$. Il existe un ouvert $`X_0X`$ et un morphisme propre $`X_0Z_0`$ à fibres connexes vers une variété normale dont les fibres sont des classes d’équivalence pour la relation précédente (\[Ko96\], IV.4.16).

### 3.17. Les cas d’égalité.

L’objet de ce paragraphe est l’étude des cas d’égalité dans $`()`$.

Proposition 3.18. Soit $`X`$ une variété de Fano de dimension $`4`$. Si $`\rho _X(\iota _X1)=4`$, la variété $`X`$ est isomorphe à $`(^{\iota _X1})^{\rho _X}.`$

Démonstration. Si $`\rho _X=1`$ et $`\iota _X=5`$, la variété $`X`$ est isomorphe à $`^4`$ (\[CMS00\], \[Ke01\]).

Supposons $`\rho _X=2`$ et $`\iota _X=3`$. Notons $`\phi _1:XW_1`$ et $`\phi _2:XW_2`$ les deux contractions extrémales, d’arêtes respectives $`R_1`$ et $`R_2`$. Elles sont ou bien divisorielles ou bien des fibrations (cf. 1.2). Supposons par exemple que $`\phi _1`$ soit divisorielle. Le lieu exceptionnel $`E_1`$ de $`\phi _1`$ est contracté sur un point par $`\phi _1`$ (cf. 1.2). Rappelons que l’intersection de fibres de deux contractions extrémales différentes est finie. Les fibres non triviales de $`\phi _2`$ sont de dimension au moins $`2`$, donc ne rencontrent pas $`E_1`$, autrement dit, $`\phi _2`$ est également divisorielle de lieu exceptionnel $`E_2`$ disjoint de $`E_1`$. Le diviseur $`E_1`$ est donc numériquement effectif puisque $`E_1R_1>0`$ et $`E_1R_2=0`$, ce qui est manifestement absurde. Les morphismes $`\phi _1`$ et $`\phi _2`$ sont donc des fibrations équidimensionnelles de dimension relative $`2`$ (cf. 1.2) et $`W_1`$ et $`W_2`$ sont lisses (\[ABW92\], Proposition 1.4.1). Une fibre générale $`F_1`$ (resp. $`F_2`$) de $`\phi _1`$ (resp. $`\phi _2`$) est de pseudo-indice $`3`$ par la formule d’adjonction et donc isomorphe à $`^2`$. Le morphisme $`F_1W_2`$ (resp. $`F_2W_1`$) est fini et $`W_1`$ (resp. $`W_2`$) est isomorphe à $`^2`$ par le théorème de Lazarsfeld (\[La83\]).
Les fibres de $`\phi _2`$ ne sont a priori pas des sections de $`\phi _1`$. Nous allons montrer que de telles sections existent. Si $`\mathrm{}^2`$ est une droite générale, $`X_{\mathrm{}}=\phi _1^1(\mathrm{})`$ est lisse et connexe. Les fibres générales de $`X_{\mathrm{}}\mathrm{}`$ sont isomorphes à $`^2`$. Il existe donc une section de $`X_{\mathrm{}}\mathrm{}`$ par le théorème de Tsen (\[Ko96\], Theorem IV.6.5).

Soit donc $`CX`$ une courbe rationnelle vérifiant $`C\phi _1^{}𝒪_^2(1)=1`$, de degré minimal relativement au diviseur ample $`K_X`$. La courbe $`C`$ détermine une famille propre irréductible $`V\text{RatCurves}^n(X)`$ de courbes rationnelles irréductibles sur $`X`$ (cf. 3.14). La dimension de $`V`$ est au moins $`K_XC+14`$ et celle de $`V_x`$, pour $`x\mathrm{lieu}(V)`$, au moins $`K_XC21`$. Si la dimension de $`\mathrm{lieu}(V_x)`$ est au moins $`3`$, il rencontre une fibre générale de $`\phi _1`$ au moins le long d’une courbe et $`[C]R_1`$ (cf. lemme 3.15) ce qui est absurde par le choix de $`C`$. Ainsi, $`dim(\mathrm{lieu}(V_x))=2`$ et le lieu de $`V`$ est $`X`$ par la formule (2) de 3.14.

Il existe un ouvert $`X_0X`$, une variété normale $`Z_0`$ et un morphisme propre $`q:X_0Z_0`$ à fibres connexes dont les fibres sont des classes pour la relation d’équivalence déterminée par $`V`$ (cf. 3.14). La famille $`V`$ est couvrante et $`Z_0`$ est donc de dimension au plus $`3`$. Soient $`F`$ une fibre générale de $`q`$ et $`x`$ un point de $`F`$. Comme $`dim(\mathrm{lieu}(V_x))=2`$, on a $`dim(F)2`$. Si $`F`$ est de dimension au moins $`3`$, elle rencontre une fibre générale de $`\phi _1`$ au moins le long d’une courbe. Comme $`F`$ est couverte par une famille propre de courbes rationnelles irréductibles de $`V`$, toutes les courbes de $`F`$ sont algébriquement équivalentes à un multiple de $`C`$ (\[Ko96\], IV 3.13.3) et $`[C]R_1`$, ce qui est à nouveau absurde. Ainsi $`F`$ est une surface de pseudo-indice $`3`$ par la formule d’adjonction, donc isomorphe à $`^2`$; on a $`F=\mathrm{lieu}(V_x)`$ pour tout $`x`$ dans $`F`$, les courbes de $`V_x`$ étant les droites passant par $`x`$. Notons que $`F`$ est une section de $`\phi _1`$.
Vérifions que l’on peut prendre $`X_0=X`$. Le fibré normal à $`F`$ dans $`X`$ est trivial et le schéma de Hilbert de $`X`$ est donc lisse au point $`[F]`$. Soient $`H`$ son unique composante passant par $`[F]`$ et $`X^{}X\times H`$ la famille universelle. Quitte à remplacer $`Z_0`$ par un ouvert dense, on peut supposer que $`q`$ est plat et on a un diagramme

$$\begin{array}{ccccc}X_0& & X^{}& \stackrel{\phi }{}& X\\ q& & \pi & & \\ Z_0& & H\end{array}$$

où le carré est cartésien et où la composée des flèches horizontales supérieures est l’inclusion. Le morphisme $`\pi `$ s’identifie, au-dessus d’un ouvert $`H_0`$ convenable de $`H`$, au morphisme $`X_0Z_0`$.

Fixons un point $`t_0`$ de $`H`$ et des points $`x_1^{}`$ et $`x_2^{}`$ de $`\pi ^1(t_0)`$. Notons $`TH`$ un germe de courbe lisse passant par $`t_0`$ et rencontrant $`H_0`$. Le schéma $`\pi _T:X_T^{}T`$ obtenu par le changement de base $`TH`$ est irréductible: il existe donc des courbes $`T_1X_T^{}`$ et $`T_2X_T^{}`$ dominant $`T`$ et rencontrant $`\pi _T^1(t_0)`$ uniquement en $`x_1^{}`$ et $`x_2^{}`$ respectivement. Pour tous points $`t_1T_1`$ et $`t_2T_2`$ situés au-dessus du même point général $`t`$ de $`T`$, les points correspondant de $`X`$ peuvent être joints par une (unique) courbe $`C_{t_1,t_2}\pi _T^1(t)`$ de $`V`$. Cette famille étant propre, les courbes $`C_{t_1,t_2}`$ dégénèrent vers une courbe de $`V`$, qui est en particulier irréductible, joignant $`x_1^{}`$ et $`x_2^{}`$. Les fibres de $`\pi `$ sont donc irréductibles et deux points quelconques sont reliés par une courbe de $`V`$.

Supposons que le morphisme $`\phi `$ contracte une courbe irréductible $`CX^{}`$ vers un point $`x`$ de $`X`$. Celle-ci est horizontale pour $`\pi `$ et le lieu couvert par les $`\phi (X_t^{})`$, pour $`t\pi (C)`$, est de dimension $`3`$. Ainsi, le lieu couvert par les courbes de $`V_x`$ est de dimension $`3`$, ce qui est exclu par les arguments précédents. Le morphisme $`\phi `$ est donc birationnel et fini: c’est un isomorphisme.

Notons $`H^{}H_{\text{réd}}`$ la normalisation; il existe une factorisation $`\pi :X^{}\stackrel{\pi ^{}}{}H^{}H_{\text{réd}}`$ et le morphisme $`q^{}=\pi ^{}\phi ^1:XH^{}`$ étend $`q`$. Le morphisme produit $`\phi _1\times q^{}:X^2\times H^{}`$ est birationnel (puisqu’une fibre générale de $`q^{}`$ est une section de $`\phi _1`$); puisque $`\rho _X=2`$, il est fini: c’est un isomorphisme. On en déduit que $`H^{}`$ est lisse et, comme les fibres de $`\phi _1`$, isomorphe à $`^2`$.

Supposons $`\rho _X=4`$ et $`\iota _X=2`$. Par 1.2, toute contraction extrémale birationnelle est divisorielle et ses fibres non triviales sont de dimension $`2`$. Vérifions que les fibrations extrémales, s’il en existe, sont de dimension relative $`1`$. Soit $`\phi :XZ`$ une telle contraction; supposons qu’elle soit de dimension relative au moins $`2`$. Notons que $`Z`$ est lisse (\[ABW92\], Proposition 1.4.1). Puisque $`\rho _X=4`$, il existe (\[Wi91\], Theorem (2.2)) une contraction extrémale birationnelle; ses fibres non triviales sont de dimension $`2`$, de sorte que $`\phi `$ est de dimension relative $`2`$. La variété $`W`$ est donc lisse et $`\psi `$ s’identifie à l’éclatement d’une courbe lisse dans $`W`$ (\[AW98\], Theorem 4.1). Toute fibre de $`\psi _{|E}:E\psi (E)`$ est en particulier isomorphe à $`^2`$ et domine $`Z`$. Il en résulte que $`Z`$ est isomorphe à $`^2`$ (\[La83\]) ce qui est absurde puisque $`\rho _Z=\rho _X1=3`$.
La variété $`X`$ n’est pas spéciale (théorème 3.9) et ou bien toutes les contractions élémentaires sont des fibrations de dimension relative $`1`$, ou bien il existe une contraction birationnelle $`\psi :XW`$, divisorielle, dont le lieu exceptionnel $`E`$ est contracté sur un point. Vérifions que ce dernier cas ne peut pas se produire. Il existe alors une contraction extrémale $`\phi :XZ`$ dont le lieu exceptionnel rencontre $`E`$. L’intersection d’une fibre de $`\phi `$ avec $`E`$ étant finie, cette fibre est de dimension au plus $`1`$. Puisque $`\iota _X=2`$, le morphisme $`\phi `$ est une fibration lisse de dimension relative $`1`$ par 1.3. On en déduit que $`Z`$ est une variété de Fano de dimension $`3`$, de nombre de Picard $`3`$ et de pseudo-indice au moins $`2`$ (lemme 2.5) et donc exactement $`2`$ (cf. section 2). Finalement, $`Z`$ est isomorphe à $`(^1)^3`$ (proposition 2.3). Posons $`\mathrm{}=^1\times \{t,t^{}\}`$, pour $`t`$ et $`t^{}`$ généraux dans $`^1`$. La surface $`X_{\mathrm{}}=\phi ^1(\mathrm{})`$ est une surface de Hirzebruch et la courbe $`\mathrm{}^{}=EX_{\mathrm{}}`$ est exceptionnelle car contractée par $`\psi `$: c’est donc une section de $`\phi _{|X_{\mathrm{}}}:X_{\mathrm{}}\mathrm{}`$. Le morphisme $`EZ`$ est birationnel et fini: c’est un isomorphisme. On a $`K_E\mathrm{}^{}=2`$ et $`E\mathrm{}^{}>0`$ puisque $`\mathrm{}^{}`$ est exceptionnelle dans $`X_{\mathrm{}}`$. Or, par la formule d’adjonction, on a $`K_E\mathrm{}^{}=K_X\mathrm{}^{}E\mathrm{}^{}>2`$ ce qui est absurde.
En conclusion, toutes les contractions extrémales de $`X`$ sont des fibrations. Le résultat cherché est donné par la proposition 2.4.

## 4. Le cas torique

Nous montrons dans ce paragraphe que si $`X`$ est une variété de Fano *torique* de dimension $`n`$, on a $`\rho _X(\iota _X1)n`$ lorsque $`\iota _X\frac{1}{3}n+1`$ ($`n`$ arbitraire) ou $`n7`$.

### 4.1. Préliminaires.

Soit $`X`$ une variété torique projective et lisse d’éventail $`\mathrm{\Sigma }_X`$. Nous renvoyons à \[Fu93\] ou \[Od88\] pour les fondements de la géométrie torique. Soit $`G(\mathrm{\Sigma }_X)`$ l’ensemble des générateurs primitifs des cônes de dimension $`1`$ dans $`\mathrm{\Sigma }_X`$; son cardinal est $`\rho _X+dim(X)`$. Notons $`V(\sigma )`$ l’adhérence de l’orbite correspondant à un élément $`\sigma `$ de $`\mathrm{\Sigma }_X`$.

Rappellons (\[Ba91\], § 2 et \[Ba99\], § 2.1) qu’une *collection primitive* $`P`$ est un sous-ensemble de $`G(\mathrm{\Sigma }_X)`$ minimal qui n’engendre pas un cône de $`\mathrm{\Sigma }_X`$. À toute collection primitive $`P=\{x_1,\mathrm{},x_h\}`$ est associée sa *relation primitive*

$$x_1+\mathrm{}+x_h=a_1y_1+\mathrm{}+a_ky_k,$$

$`y_1,\mathrm{},y_k`$ est le plus petit cône dans $`\mathrm{\Sigma }_X`$ contenant le point $`x_1+\mathrm{}+x_h`$ et où les $`a_i`$ sont des entiers strictement positifs. Le degré de $`P`$ est, par définition, $`\mathrm{deg}(P)=h_ia_i`$, et son ordre est $`|P|=h`$.

Le groupe $`\mathrm{N}_1(X)`$ des $`1`$-cycles sur $`X`$ modulo équivalence numérique s’identifie au groupe des relations entre les éléments de $`G(\mathrm{\Sigma }_X)`$; toute relation $`_{xG(\mathrm{\Sigma }_X)}a_xx=0`$ s’identifie à la classe d’équivalence numérique des $`1`$-cycles dont l’intersection avec le diviseur $`V(x)`$ est $`a_x`$.
En particulier, la relation primitive $`x_1+\mathrm{}+x_h(a_1y_1+\mathrm{}+a_ky_k)=0`$ définit un élément $`r(P)`$ de $`\mathrm{N}_1(X)`$. Cette classe est toujours la classe d’un cycle effectif et $`\mathrm{deg}(P)=K_Xr(P)`$ (\[Ba91\], Theorem 2.15, \[Ca01\], Lemma 1.4). La variété $`X`$ est une variété de Fano si et seulement si toute relation primitive est de degré strictement positif et le pseudo-indice $`\iota _X`$ vérifie alors $`|P|=h\mathrm{deg}(P)\iota _X`$.
Une collection primitive $`P`$, ou sa relation associée $`r(P)`$, sont dites contractibles s’il existe une application équivariante $`\phi :XW`$ vers une variété torique complète $`W`$ telle que les courbes irréductibles contractées par $`\phi `$ soient exactement celles dont la classe est dans $`_0r(P)`$ (\[Ca01\], Definition 2.3). Avec les notations précédentes, le lieu exceptionnel de $`\phi `$ est $`A=V(y_1,\mathrm{},y_k)`$ et $`\phi _{|A}:A\phi (A)`$ est une fibration équivariante lisse en $`^{h1}`$. Si $`\mathrm{deg}(P)<2\iota _X`$, la collection $`P`$ est contractible (\[Ca01\], Theorem 4.1).

### 4.2. Fibrés projectifs.

Soit $`X`$ une variété torique projective et lisse. La contraction $`\phi :XY`$ d’une arête numériquement effective de $`\mathrm{NE}(X)`$ est un fibré en espaces projectifs, $`Y`$ est une variété torique et $`\phi `$ est équivariant.

Le lemme 2.5 permet de traiter facilement le cas des variétés toriques $`X`$ pour lesquelles toutes les collections primitives de $`\mathrm{\Sigma }_X`$ sont disjointes. Cette condition combinatoire est équivalente à l’existence d’une suite $`X=X_1X_2\mathrm{}X_r`$$`X_r`$ est un espace projectif et $`X_i`$ est une fibration en espaces projectifs sur $`X_{i+1}`$ pour $`i=1,\mathrm{},r1`$ (\[Ba91\], Corollary 4.4). Rappelons enfin que les variétés toriques de nombre de Picard $`2`$ sont précisément les fibrés en espaces projectifs sur l’espace projectif (\[Kl88\], Theorem 1) et qu’elles satisfont donc aux hypothèses du

Corollaire 4.3. Soit $`X`$ une variété de Fano torique. Si toutes les collections primitives de $`\mathrm{\Sigma }_X`$ sont disjointes, on a $`\rho _X(\iota _X1)dim(X)`$; de plus, si $`\rho _X(\iota _X1)=dim(X)`$, on a $`X(^{\iota _X1})^{\rho _X}`$.

Démonstration. Il existe donc des fibrations

$$X=X_1X_2\mathrm{}X_r=^{s_r}$$

$`X_i`$ est une fibration en espaces projectifs sur $`X_{i+1}`$ de fibre $`^{s_i}`$ pour $`i=1,\mathrm{},r1`$. En appliquant le lemme 2.5, on obtient, par récurrence sur $`i`$, l’inégalité $`\rho _X(\iota _X1)dim(X)`$. Supposons $`\rho _X(\iota _X1)=dim(X)`$. Comme $`\rho _X=r`$, $`dim(X)=s_1+\mathrm{}+s_r`$ et $`\iota _X1\mathrm{min}\{s_1,\mathrm{},s_r\}`$, on a

$$s_1+\mathrm{}+s_r=r(\iota _X1)r\mathrm{min}\{s_1,\mathrm{},s_r\}s_1+\mathrm{}+s_r,$$

et donc $`s_1=\mathrm{}=s_r=\iota _X1`$. On vérifie enfin que $`X`$ est un produit d’espaces projectifs par récurrence descendante sur l’entier $`1ir1`$.

### 4.4. Le cas $`3\iota _Xdim(X)+3`$.

Soit $`X`$ une variété de Fano torique. La preuve du résultat principal repose sur les deux lemmes suivants.

Lemme 4.5. Soit $`AX`$ une sous-variété irréductible invariante de codimension $`k`$. Si $`k\iota _X2`$, alors $`A`$ est une variété de Fano de nombre de Picard $`\rho _X`$ et de pseudo-indice $`\iota _Xk`$.

Démonstration. Il suffit de prouver le lemme pour $`k=1`$ et $`\iota _X3`$: le résultat général s’ensuit par récurrence sur $`k`$. Soit donc $`A=V(x)`$ un diviseur irréductible invariant et supposons $`\iota _X3`$. Si $`P`$ est une collection primitive dans $`\mathrm{\Sigma }_A`$, ou bien $`P`$ est une collection primitive dans $`\mathrm{\Sigma }_X`$ et $`\mathrm{deg}_A(P)\mathrm{deg}_X(P)\iota _X`$, ou bien $`P\{x\}`$ est une collection primitive dans $`\mathrm{\Sigma }_X`$, et $`\mathrm{deg}_A(P)=\mathrm{deg}_X(P)1\iota _X1`$. Comme $`\iota _X2`$, le diviseur $`A`$ est une variété de Fano de pseudo-indice $`\iota _X1`$. Puisque $`\iota _X3`$, il n’y a pas de collections primitives d’ordre $`2`$ (cf. 4.1): $`\mathrm{\Sigma }_A`$ a donc exactement un cône de dimension 1 de moins que $`\mathrm{\Sigma }_X`$ et $`\rho _A=\rho _X`$.

Lemme 4.6. Soit $`X`$ une variété de Fano torique de dimension $`n`$, de pseudo-indice $`\iota _X`$ et de nombre de Picard $`\rho _X`$. Si $`4\iota _X>n+4`$, il existe dans $`X`$ une collection primitive contractible telle que la codimension du lieu exceptionnel de la contraction associée soit $`\iota _X2`$.

Démonstration. Supposons que toute relation primitive contractible de $`X`$ soit de la forme $`x_1+\mathrm{}+x_h=a_1y_1+\mathrm{}+a_ky_k`$ avec $`k\iota _X1`$. On a alors $`hkh_ia_i\iota _X`$, d’où $`h\iota _X+k2\iota _X1`$. D’autre part, si $`P`$ est une collection primitive non contractible, on a $`|P|\mathrm{deg}(P)2\iota _X`$ (cf. 4.1). Il n’existe donc pas de collection primitive d’ordre $`2\iota _X2`$ dans $`\mathrm{\Sigma }_X`$, de sorte que $`f_{j1}=\left(\genfrac{}{}{0pt}{}{f_0}{j}\right)`$ pour tout $`j2\iota _X2`$. Puisque $`X`$ n’est pas isomorphe à $`^n`$, on a $`2\iota _X2<[n/2]+1`$ par la proposition 4.11, ce qui contredit les hypothèses.

Nous sommes en mesure de prouver le

Théorème 4.7. Soit $`X`$ une variété de Fano torique de dimension $`n`$, de pseudo-indice $`\iota _X`$ et de nombre de Picard $`\rho _X`$. Si $`3\iota _Xn+3`$, on a $`\rho _X(\iota _X1)n`$ (et donc $`\rho _X3`$); de plus, si $`\rho _X(\iota _X1)=n`$, on a $`X(^{\iota _X1})^{\rho _X}`$.

Démonstration. Le théorème se montre par récurrence sur $`\rho _X`$. Si $`\rho _X=1`$, on a $`X^n`$ et le résultat est démontré. Sinon, d’après le lemme 4.6, il existe dans $`X`$ une relation primitive contractible qui s’écrit

$$x_1+\mathrm{}+x_h=a_1y_1+\mathrm{}+a_ky_k$$

avec $`k\iota _X2`$. Soit $`A=V(y_1,\mathrm{},y_k)`$ le lieu exceptionnel de la contraction associée. D’après le lemme 4.5, $`A`$ est une variété de Fano, $`\rho _A=\rho _X`$ et $`\iota _A\iota _Xk`$. De plus, la contraction fait de $`A`$ une fibration $`AB`$ en $`^{h1}`$, où $`B`$ est une variété de Fano torique satisfaisant $`\rho _B=\rho _X1`$, $`dim(B)=nkh+1`$ et $`\iota _B\iota _A\iota _Xk`$.
Vérifions l’inégalité $`\iota _B>\frac{1}{3}dim(B)+1`$. Notons que $`hk+\iota _X2k+2`$ et que $`dim(B)=nkh+1n3k1<n3k`$, d’où

$$\iota _B\iota _Xk\frac{1}{3}n+1k=\frac{1}{3}(n3k)+1>\frac{1}{3}dim(B)+1.$$

L’hypothèse de récurrence donne donc $`\rho _B(\iota _B1)dim(B)`$ et $`\rho _B=\rho _X12`$ puisque $`\iota _B>\frac{1}{3}dim(B)+1`$. Finalement:

$$(\rho _X1)(\iota _Xk1)\rho _B(\iota _B1)dim(B)=nkh+1$$

d’où

$$\rho _X(\iota _X1)n\rho _Xk+\iota _Xh2kk+\iota _Xh0.$$

Supposons maintenant $`\rho _X(\iota _X1)=n`$ et notons qu’il suffit de montrer $`A=X`$, c’est-à-dire $`k=0`$. En effet, $`X`$ est alors une fibration en espaces projectifs sur une variété de Fano torique $`B`$ satisfaisant $`\rho _B2`$ et le corollaire 4.3 s’applique. Supposons donc $`k>0`$. Les inégalités précédentes sont des égalités, d’où

$$\iota _B=\iota _A=\iota _Xk,\rho _B(\iota _B1)=dim(B),\rho _X=\rho _A=3,\rho _B=2\text{et}h=k+\iota _X.$$

La variété $`B`$ est donc isomorphe à $`^{\iota _Xk1}\times ^{\iota _Xk1}`$ (corollaire 4.3) et, puisque $`AB`$ est une fibration en $`^{\iota _X+k+1}`$ et $`\iota _A=\iota _Xk`$, la variété $`A`$ est isomorphe à $`^{\iota _X+k1}\times ^{\iota _Xk1}\times ^{\iota _Xk1}`$. L’éventail $`\mathrm{\Sigma }_A`$ est donc déterminé par les relations primitives

$$\overline{x}_1+\mathrm{}+\overline{x}_{\iota _X+k}=0,\overline{v}_1+\mathrm{}+\overline{v}_{\iota _Xk}=0\text{et}\overline{w}_1+\mathrm{}+\overline{w}_{\iota _Xk}=0,$$

où l’on a noté $`\overline{u}`$ le générateur de $`\mathrm{\Sigma }_A`$ induit par l’élément $`uG(\mathrm{\Sigma }_X)`$ tel que $`u,y_1,\mathrm{},y_k\mathrm{\Sigma }_X`$. On a nécessairement $`G(\mathrm{\Sigma }_X)=\{x_1,\mathrm{},x_{\iota _X+k},y_1,\mathrm{},y_k,v_1,\mathrm{},v_{\iota _Xk},w_1,\mathrm{},w_{\iota _Xk}\}`$ puisque $`\rho _X=3`$. Puisque toute classe extrémale de $`X`$ se restreint à une classe extrémale dans $`A`$, il doit y avoir dans $`X`$ trois relations primitives extrémales, de degré au moins $`\iota _X`$, dont les restrictions à $`A`$ sont les relations primitives ci-dessus. La seule possibilité est que les relations

$$v_1+\mathrm{}+v_{\iota _Xk}+y_1+\mathrm{}+y_k=0\text{ et }w_1+\mathrm{}+w_{\iota _Xk}+y_1+\mathrm{}+y_k=0$$

soient extrémales dans $`X`$, ce qui est absurde si $`k>0`$ car ces relations ne sont pas disjointes (\[Ca01\], Corollary 3.2).

### 4.8. Les petites dimensions.

Dans ce paragraphe, on étudie les cas $`\iota _X=[n/2]`$ et $`\iota _X=[n/2]1`$ lorsqu’ils ne sont pas couverts par le théorème 4.7, c’est-à-dire respectivement pour $`n7`$ et $`n13`$. Nous en déduirons que l’inégalité ($``$) est toujours verifiée si $`n7`$. Nous supposerons dans la suite $`n4`$.

Proposition 4.9. Soit $`X`$ une variété de Fano torique de dimension $`n13`$ et de pseudo-indice $`\iota _X=[n/2]`$ ou $`\iota _X=[n/2]1`$. Si $`X`$ n’est pas une fibration en $`^{\iota _X1}`$, l’entier $`\rho _X`$ satisfait les inégalités suivantes:

$$\begin{array}{ccccccccccc}& & & & & & & & & & \\ & n=4& n=5& n=6& n=7& n=8& n=9& n=10& n=11& n=12& n=13\\ & & & & & & & & & & \\ \iota _X=\left[\frac{n}{2}\right]& \rho _X2& \rho _X2& \rho _X2& \rho _X2& & & & & & \\ & & & & & & & & & & \\ \iota _X=\left[\frac{n}{2}\right]1& \multicolumn{2}{c}{}& \rho _X4& \rho _X4& \rho _X3& \rho _X3& \rho _X2& \rho _X3& \rho _X2& \rho _X2\\ & & & & & & & & & & \end{array}$$

Vérifions que cette proposition entraîne le

Corollaire 4.10. Soit $`X`$ une variété de Fano torique de dimension $`n13`$ et de pseudo-indice $`\iota _X=[n/2]`$ ou $`\iota _X=[n/2]1`$. Alors $`\rho _X(\iota _X1)dim(X)`$ et on a égalité si et seulement si $`X(^{\iota _X1})^{\rho _X}`$.

Démonstration. L’inégalité $`\rho _X(\iota _X1)dim(X)`$, dans les cas non couverts par le théorème 4.7, est équivalente aux bornes du tableau ci-dessous:

$$\begin{array}{ccccccccccc}& & & & & & & & & & \\ & n=4& n=5& n=6& n=7& n=8& n=9& n=10& n=11& n=12& n=13\\ & & & & & & & & & & \\ \iota _X=\left[\frac{n}{2}\right]& \rho _X4& \rho _X5& \rho _X3& \rho _X3& & & & & & \\ & & & & & & & & & & \\ \iota _X=\left[\frac{n}{2}\right]1& \multicolumn{2}{c}{}& \rho _X6& \rho _X7& \rho _X4& \rho _X4& \rho _X3& \rho _X3& \rho _X3& \rho _X3\\ & & & & & & & & & & \end{array}$$

Si $`X`$ n’est pas une fibration en $`^{\iota _X1}`$, la proposition 4.9 implique $`\rho _X(\iota _X1)dim(X)`$ et il n’y a jamais égalité.
Si $`X`$ est une fibration en $`^{\iota _X1}`$ sur $`Z`$, on a $`dim(Z)=n+1\iota _X(n1)/2`$ et $`\iota _Z\iota _Xdim(Z)1`$. Si $`dim(Z)5`$, la variété $`Z`$ est un espace projectif (cf. 4.12) et donc $`\rho _X=2`$: le résultat est une conséquence du corollaire 4.3. Si $`dim(Z)4`$, on a $`\iota _Z3`$ et $`\rho _Z2`$, de sorte que le corollaire 4.3 s’applique encore à $`X`$.

Soit $`P_X`$ le polytope associé à $`X`$, c’est-à-dire le polytope simplicial convexe engendré par les éléments de $`G(\mathrm{\Sigma }_X)`$. Les faces de $`P_X`$ correspondent aux cônes de $`\mathrm{\Sigma }_X`$. Soit $`f_j`$ le nombre de faces de dimension $`j`$ de $`P_X`$. Rappelons l’égalité $`f_0=|G(\mathrm{\Sigma }_X)|=\rho _X+n`$. L’éventail $`\mathrm{\Sigma }_X`$ n’a pas de collections primitives d’ordre $`j<\iota _X`$, autrement dit,

(3)
$$f_{j1}=\left(\genfrac{}{}{0pt}{}{f_0}{j}\right)\text{ pour tout }j<\iota _X.$$

De plus, si $`\mathrm{\Sigma }_X`$ possède une collection primitive $`P=\{x_1,\mathrm{},x_{\iota _X}\}`$ d’ordre $`\iota _X`$, la relation associée est nécessairement $`x_1+\mathrm{}+x_{\iota _X}=0`$, puisque son degré est au moins $`\iota _X`$. Elle est contractible et la contraction associée est une fibration en $`^{\iota _X1}`$. Finalement:

$$f_{\iota _X1}<\left(\genfrac{}{}{0pt}{}{f_0}{\iota _X}\right)\text{ si et seulement si }X\text{ est une fibration en }^{\iota _X1}.$$

Nous renvoyons à \[MMS71\] pour les propriétés fondamentales des polytopes simpliciaux. Rappelons en particulier qu’il existe des relations linéaires entre les $`f_j`$, appelées relations de Dehn-Sommerville, de sorte que les nombres $`f_0,\mathrm{},f_{[n/2]1}`$ déterminent tous les $`f_j`$. Rappelons aussi le résultat suivant (\[MMS71\], Chap. 2, Proposition 24).

Proposition 4.11. Un polytope de dimension $`n`$ est un simplexe si et seulement si $`f_{j1}=\left({\displaystyle \genfrac{}{}{0pt}{}{f_0}{j}}\right)`$ pour tout $`j[n/2]+1`$.

4.12. Remarquons en particulier que si $`\iota _X>[n/2]+1`$, la relation (3) et la proposition entraînent que $`X`$ est isomorphe à $`^n`$. Cela redémontre dans le cas torique le théorème de Wiśniewski cité dans l’introduction.

Les deux lemmes suivants donnent des relations supplémentaires entre les nombres $`f_j`$.

Lemme 4.13. Soit $`X`$ une variété de Fano torique. Si $`\iota _X>1`$, toutes les collections primitives de $`\mathrm{\Sigma }_X`$ d’ordre $`\iota _X+1`$ sont deux à deux disjointes.

Démonstration. Soit $`P=\{x_1,\mathrm{},x_{\iota _X+1}\}`$ une collection primitive d’ordre $`\iota _X+1`$. Elle est nécessairement contractible puisque $`\mathrm{deg}(P)\iota _X+1<2\iota _X`$ (cf. 4.1). Ou bien $`\mathrm{deg}(P)=\iota _X+1`$, la relation primitive $`r(P)`$ est $`x_1+\mathrm{}+x_{\iota _X+1}=0`$ et $`P`$ est disjointe de toutes les autres collections primitives de $`\mathrm{\Sigma }_X`$ (\[Ca01\], Corollary 3.2), ou bien $`\mathrm{deg}(P)=\iota _X`$ et la relation primitive $`r(P)`$ est de la forme $`x_1+\mathrm{}+x_{\iota _X+1}=y`$. Supposons par l’absurde qu’il existe deux relations primitives

$$x_1+\mathrm{}+x_r+y_1+\mathrm{}+y_s=z\text{ et }x_1+\mathrm{}+x_r+u_1+\mathrm{}+u_s=v$$

avec $`r+s=\iota _X+1`$ et $`r>0`$. Comme $`P`$ est contractible, $`\{y_1,\mathrm{},y_s,v\}`$ doit contenir une collection primitive (\[Ca01\], Lemma 3.1), de sorte que $`s+1\iota _X`$ et $`r2`$. Si $`r=2`$ et $`s=\iota _X1`$, la collection $`\{y_1,\mathrm{},y_s,v\}`$ est primitive, de relation associée $`y_1+\mathrm{}+y_s+v=0`$, ce qui est absurde. Si $`r=1`$ et $`s=\iota _X`$, la collection $`\{y_1,\mathrm{},y_s,v\}`$ est primitive, de relation associée $`y_1+\mathrm{}+y_s+v=w`$. Par ce qui précède, on a $`s=1`$ et $`\iota _X=1`$, ce qui est exclu par l’hypothèse.

Lemme 4.14. Si $`X`$ est une variété de Fano torique de dimension $`n`$, on a

$$12f_{n3}(3n+\iota _X5)f_{n2}.$$

Démonstration. Posons $`d_X=\mathrm{deg}(N_{C/X})`$, où la somme porte sur toutes les courbes invariantes de $`X`$. Si $`C`$ est une courbe invariante, on a $`\mathrm{deg}(N_{C/X})=K_XC2\iota _X2`$, de sorte que $`d_X(\iota _X2)f_{n2}`$. D’autre part, on a $`d_X=12f_{n3}3(n1)f_{n2}`$ (\[Ba99\], Theorem 2.3.7), d’où l’inégalité cherchée.

Démonstration de la proposition 4.9. Posons $`k=[n/2]`$ et supposons $`\iota _X=k`$. Comme $`X`$ n’est pas une fibration en $`^{\iota _X1}`$, on a $`f_{j1}=\left(\genfrac{}{}{0pt}{}{f_0}{j}\right)`$ pout tout $`jk`$. Les relations de Dehn-Sommerville permettent d’exprimer $`f_k`$ à l’aide de $`f_0`$ (\[MMS71\], § 2.4):

$`f_k`$ $`={\displaystyle \underset{j=0}{\overset{k1}{}}}(1)^{kj1}{\displaystyle \frac{j+1}{k+1}}\left({\displaystyle \genfrac{}{}{0pt}{}{2kj}{k}}\right)\left({\displaystyle \genfrac{}{}{0pt}{}{f_0}{j+1}}\right)\text{ si }n\text{ est pair,}`$
$`f_k`$ $`={\displaystyle \underset{j=1}{\overset{k1}{}}}(1)^{kj1}\left({\displaystyle \genfrac{}{}{0pt}{}{2kj+1}{k+1}}\right)\left({\displaystyle \genfrac{}{}{0pt}{}{f_0}{j+1}}\right)\text{ si }n\text{ est impair.}`$
Le lemme 4.13 donne l’inégalité

$$\left(\genfrac{}{}{0pt}{}{f_0}{k+1}\right)f_k\frac{f_0}{k+1},$$

d’où les bornes de la première ligne du tableau.
Supposons $`\iota _X=k1`$ et que $`X`$ n’est pas une fibration en $`^{\iota _X1}`$. On a alors

$$f_{j1}=\left(\genfrac{}{}{0pt}{}{f_0}{j}\right)\text{ pour tout }jk1\text{et}\left(\genfrac{}{}{0pt}{}{f_0}{k}\right)f_{k1}\frac{f_0}{k}.$$

Les relations de Dehn-Sommerville permettent d’exprimer tous les $`f_j`$ avec $`jk`$ à l’aide de $`f_0`$ et $`f_{k1}`$. Si $`n`$ est pair, on a (\[MMS71\], § 2.4)

$`f_{n2}`$ $`=kf_{k1}+{\displaystyle \underset{j=1}{\overset{k1}{}}}(1)^j{\displaystyle \frac{kj}{k+j1}}\left((k1)\left({\displaystyle \genfrac{}{}{0pt}{}{k+j}{k}}\right)+\left({\displaystyle \genfrac{}{}{0pt}{}{k+j1}{k}}\right)\right)\left({\displaystyle \genfrac{}{}{0pt}{}{f_0}{kj}}\right)\text{et}`$
$`f_{n3}`$ $`=\left({\displaystyle \genfrac{}{}{0pt}{}{k}{2}}\right)f_{k1}+{\displaystyle \underset{j=1}{\overset{k1}{}}}(1)^j{\displaystyle \frac{kj}{k+j2}}(\left({\displaystyle \genfrac{}{}{0pt}{}{k}{2}}\right)\left({\displaystyle \genfrac{}{}{0pt}{}{k+j}{k}}\right)`$
$`+(k2)\left({\displaystyle \genfrac{}{}{0pt}{}{k+j1}{k}}\right)+\left({\displaystyle \genfrac{}{}{0pt}{}{k+j2}{k}}\right))\left({\displaystyle \genfrac{}{}{0pt}{}{f_0}{kj}}\right).`$
Et si $`n`$ est impair, on a

$`f_{n2}`$ $`=(2k+1)f_{k1}+{\displaystyle \underset{j=1}{\overset{k}{}}}(1)^j{\displaystyle \frac{2k+1}{k+j}}\left(k\left({\displaystyle \genfrac{}{}{0pt}{}{k+j+1}{k+1}}\right)+\left({\displaystyle \genfrac{}{}{0pt}{}{k+j}{k+1}}\right)\right)\left({\displaystyle \genfrac{}{}{0pt}{}{f_0}{kj}}\right)\text{et}`$
$`f_{n3}`$ $`=k^2f_{k1}+{\displaystyle \underset{j=1}{\overset{k}{}}}(1)^j{\displaystyle \frac{2k}{k+j1}}(\left({\displaystyle \genfrac{}{}{0pt}{}{k}{2}}\right)\left({\displaystyle \genfrac{}{}{0pt}{}{k+j+1}{k+1}}\right)`$
$`+(k1)\left({\displaystyle \genfrac{}{}{0pt}{}{k+j}{k+1}}\right)+\left({\displaystyle \genfrac{}{}{0pt}{}{k+j1}{k+1}}\right))\left({\displaystyle \genfrac{}{}{0pt}{}{f_0}{kj}}\right).`$
Finalement, en appliquant le lemme 4.14, on obtient $`f_{k1}\mathrm{\Psi }_k(f_0)`$, où, si $`n`$ est pair,

$$\begin{array}{c}\mathrm{\Psi }_k(f_0)=\frac{k^3k^2+12}{k^2}\left(\genfrac{}{}{0pt}{}{f_0}{k1}\right)\hfill \\ \hfill +\underset{j=2}{\overset{k1}{}}\frac{(1)^{j1}(kj)(k+j3)!}{k(k!)(j!)}\left((k+j1)(k+j2)k+12j\right)\left(\genfrac{}{}{0pt}{}{f_0}{kj}\right)\end{array}$$

et, si $`n`$ est impair,

$$\begin{array}{c}\mathrm{\Psi }_k(f_0)=\frac{2k^3+3k^22k+21}{(k1)(2k+3)}\left(\genfrac{}{}{0pt}{}{f_0}{k1}\right)+\underset{j=2}{\overset{k}{}}\frac{(1)^{j1}(k+j2)!}{(k1)(2k+3)(k!)(j!)}(2k^4+(4j1)k^3\hfill \\ \hfill +2(j^22)k^2+(j^2+17j+3)k+3j(1j))\left(\genfrac{}{}{0pt}{}{f_0}{kj}\right).\end{array}$$

On déduit alors du lemme 4.13 l’inégalité

$$\left(\genfrac{}{}{0pt}{}{f_0}{k}\right)\frac{f_0}{k}\mathrm{\Psi }_k(f_0)0,$$

ce qui donne les bornes de la deuxième ligne du tableau par une étude directe.

## 5. Chaînes de courbes rationnelles

Soit $`X`$ une variété projective, lisse et connexe et soient $`V^1,\mathrm{},V^k`$ des familles propres irréductibles de courbes rationnelles irréductibles sur $`X`$ (cf. 3.14). Fixons $`x\mathrm{lieu}(V^1)`$, posons $`\mathrm{lieu}(V^1)_x=\mathrm{lieu}(V_x^1)`$ et $`Z_1=𝒰_x^1`$ (cf. 3.14) et, avec les notations

$$\begin{array}{ccc}𝒰^k& \stackrel{\mathrm{ev}_k}{}& X\\ \pi _k& & \\ V^k\end{array}$$

définissons par récurrence pour $`k2`$:

$`Z_k`$ $`=`$ $`\pi _k^1(\pi _k(\mathrm{ev}_k^1(\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x\mathrm{lieu}(V^k))))`$
$`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ $`=`$ $`\mathrm{ev}_k(Z_k)`$
$`U_x^k`$ $`=`$ $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x\text{ }\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x`$
Le fermé $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ est donc l’ensemble des points $`y`$ de $`X`$ tels qu’il existe des courbes $`C^1,\mathrm{},C^k`$ avec

* $`[C^j]V^j`$;
* les intersections $`C^1C^2,\mathrm{},C^{k1}C^k`$ ne sont pas vides;
* $`xC^1`$ et $`yC^k`$.

Lemme 5.1. Si les classes des familles $`V^1,\mathrm{},V^k`$ dans $`\mathrm{N}_1(X)_{}`$ sont linéairement indépendantes et que $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ n’est pas vide,

1. le morphisme d’évaluation $`\mathrm{ev}_k:Z_k\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ est fini au-dessus de l’ouvert $`U_x^k`$, qui n’est pas vide;
2. toute courbe tracée sur $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ est algébriquement équivalente dans cette variété à une combinaison linéaire à coefficients rationnels de courbes dans $`V^1,\mathrm{},V^k`$.

Démonstration. Le résultat se montre par récurrence sur l’entier $`k1`$. Si $`k=1`$, le point (a) est une conséquence du lemme de cassage de Mori (\[Mo79\], Theorem 6) et le point (b) est le lemme 3.15. Supposons $`k2`$.

Démontrons (a). Soit $`z`$ un point de $`\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x\mathrm{lieu}(V^k)`$, qui n’est pas vide par hypothèse. Si $`\mathrm{lieu}(V_z^k)\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x`$, les classes des familles $`V^1,\mathrm{},V^k`$ sont linéairement dépendantes dans $`\mathrm{N}_1(X)_{}`$ par hypothèse de récurrence, ce qui est absurde. Ainsi, $`U_x^k`$ n’est pas vide. Si un point $`y`$ de $`U_x^k`$ vérifie $`dim(\mathrm{ev}_k^1(y)Z_k)1`$,

* soit $`dim(\mathrm{lieu}(V_y^k)\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x)1`$ et, à nouveau par hypothèse de récurrence, les classes des familles $`V^1,\mathrm{},V^k`$ sont linéairement dépendantes dans $`\mathrm{N}_1(X)_{}`$, ce qui contredit l’hypothèse;
* soit il existe une famille de dimension 1 de courbes rationnelles de $`V^k`$ passant toutes par deux points distincts de $`X`$ fixés, ce qui, par le lemme de cassage (\[Mo79\], Theorem 6), est absurde puisque la famille $`V^k`$ est propre.

Démontrons (b). Soit $`C`$ une courbe tracée sur $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ telle que $`[C]V^k`$. Si $`C`$ est dans $`\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x`$, l’hypothèse de récurrence permet de conclure. Supposons donc que $`C`$ n’est pas contenue dans $`\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x`$. Soit $`𝒞\mathrm{ev}_k^1(C)Z_k`$ une courbe irréductible dominant $`C`$, soit $`𝒮𝒰^k`$ la surface irréductible $`\pi _k^1(\pi _k(𝒞))`$, soit $`S`$ la surface $`\mathrm{ev}_k(𝒮)X`$ et soit $`𝒞^{}𝒮`$ une courbe dominant $`S\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x`$. Toute courbe tracée sur $`𝒮`$ est algébriquement équivalente dans $`𝒮`$ à une combinaison linéaire à coefficients rationnels de la multisection $`𝒞^{}`$ et d’une fibre de $`\pi _{k}^{}{}_{|𝒮}{}^{}:𝒮\pi _k(𝒮)`$ (\[Ko96\], II.4.19). Toute courbe tracée sur $`S`$ est donc algébriquement équivalente dans $`S`$, donc dans $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$, à une combinaison linéaire à coefficients rationnels de $`\mathrm{ev}_k(𝒞^{})`$ et d’une courbe de $`V^k`$ (\[Ko96\], II.4.4.2). Il reste à remarquer que $`\mathrm{ev}_k(𝒞^{})\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x`$: l’hypothèse de récurrence permet de conclure.

On en déduit le résultat suivant.

Théorème 5.2. Si les classes des familles $`V^1,\mathrm{},V^k`$ dans $`\mathrm{N}_1(X)_{}`$ sont linéairement indépendantes, $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ est vide ou de dimension $`_{j=1}^kK_XV^jk`$.

Démonstration. On procède par récurrence sur l’entier $`k1`$. Si $`k=1`$, l’estimation sur la dimension a déja été mentionnée en 3.15. Supposons $`k2`$ et que $`\mathrm{lieu}(V^1,\mathrm{},V^k)_x`$ n’est pas vide. Le lemme précédent donne

$$dim(\mathrm{lieu}(V^1,\mathrm{},V^k)_x)dim(Z_k).$$

Si $`y`$ est un point général de $`\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x\mathrm{lieu}(V^k)`$, on a $`dim(\mathrm{ev}_k^1(y))=dim(V_y^k)`$ et, si l’on note

$$W_k=\mathrm{ev}_k^1(\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x\mathrm{lieu}(V^k)),$$

on a, en utilisant l’hypothèse de récurrence,

$`dim(W_k)`$ $`=`$ $`dim(V_y^k)+dim(\mathrm{lieu}(V^1,\mathrm{},V^{k1})_x\mathrm{lieu}(V^k))`$
$``$ $`dim(V_y^k){\displaystyle \underset{j=1}{\overset{k1}{}}}K_XV^j(k1)+dim(\mathrm{lieu}(V^k))n`$
$``$ $`dim(V_k){\displaystyle \underset{j=1}{\overset{k1}{}}}K_XV^jk+2n,`$
d’où, par l’inégalité (1) de 3.14,

$$dim(W_k)\underset{j=1}{\overset{k}{}}K_XV^jk1.$$

Comme $`dim(Z_k)=dim(W_k)+1`$, le lemme précédent permet de conclure.

On déduit du théorème le résultat suivant.

Corollaire 5.3. Soit $`X`$ une variété de Fano de nombre de Picard $`\rho _X`$ et de pseudo-indice $`\iota _X`$. S’il existe des familles propres irréductibles $`V^1,\mathrm{},V^{\rho _X}`$ de courbes rationnelles irréductibles sur $`X`$ dont les classes dans $`\mathrm{N}_1(X)_{}`$ sont linéairement indépendantes et que $`\mathrm{lieu}(V^1,\mathrm{},V^{\rho _X})_x`$ n’est pas vide, on a $`\rho _X(\iota _X1)dim(X)`$.

Il n’est évidemment pas facile d’assurer l’existence de familles propres de courbes rationnelles irréductibles sur $`X`$ vérifiant les conditions du corollaire précédent. Si $`R\mathrm{NE}(X)`$ est une arête, les courbes rationnelles irréductibles dont la classe appartient à $`R`$ et de degré anticanonique minimal forment une famille propre. En considérant ces familles de courbes rationnelles, on montre le

Corollaire 5.4. Soit $`X`$ une variété de Fano homogène. On a $`\rho _X(\iota _X1)dim(X)`$.

———–

L.B. e-mail: bonavero@ujf-grenoble.fr

S.D. e-mail: druel@ujf-grenoble.fr

Institut Fourier, UFR de Mathématiques, Université de Grenoble 1, UMR 5582, BP 74, 38402 Saint Martin d’Hères, FRANCE.

C.C. e-mail: ccasagra@mat.uniroma1.it

Università di Roma “La Sapienza”, Dipartimento di Matematica, Piazzale Aldo Moro, 2, 00185 Rome, ITALIE.

O.D. e-mail: debarre@math.u-strasbg.fr

Mathématique - IRMA - UMR 7501, Université Louis Pasteur, 7, rue René Descartes, 67084 Strasbourg Cedex, FRANCE.


format: text

text:
# Spin-orbit scattering effect on critical current in SFIFS tunnel structures

## I INTRODUCTION

Nowadays progress in nanotechnology made it possible to produce nanostructures with new physical phenomena. This has led to renewed attention to hybrid systems consisting of superconductor ($`S`$) and ferromagnetic ($`F`$) metals, and displaying rich and elegant physics and having potential applications. Transport properties of $`SF`$ structures with artificial geometry have turned out to be quite unusual. These have been treated by several authors \[1-9\], and the obtained results show that in ferromagnet the Cooper pair potential not only exponentially decays but also has an oscillatory character; i.e., in a ferromagnet the density of Cooper pairs is spatially inhomogeneous and the superconducting order parameter contains nodes where the phase changes by $`\pi `$. This causes the exchange field dependence of the Josephson coupling energy, and if the exchange energy $`H_{exc}`$ in magnetic layer exceeds a certain value, a crossover from $`0`$-phase to $`\pi `$-phase superconductivity takes place. The phenomenon has been theoretically described for $`SFS`$ weak links with thick $`F`$ layer \[1-5\]. The crossover to the $`\pi `$-state even in the absence of the order parameter oscillations in thin $`F`$ layer was also predicted for $`SFIFS`$ tunnel junctions (where $`I`$ is an insulator) with parallel alignment of layer’s magnetization . For an antiparallel orientation, the possibility of the critical current enhancement by the exchange interaction in $`SFIFS`$ junctions with thin $`F`$ layers was discussed both for small  and bulk  $`S`$ layer thicknesses. Experimentally, the $`\pi `$-phase superconductivity has been observed for $`SFS`$ weak links  and $`SIFS`$  and $`SNFNS`$  tunnel junctions with thick $`F`$ layers, while the enhancement of the dc Josephson current has not been detected until now.

Some features should be taken into account for theory to be adjustable for experimental results on $`SF`$ structures, and the spin-flip processes are among the important ones. These processes can be induced, e.g., by the spin-orbit scattering centers presented in the film; other important source of the spin-flip processes for nanoscale hybrid structures is a strong electric field arising near metal-metal boundaries . The basic physics behind spatial oscillations of induced superconductivity in $`SF`$ sandwiches with spin-orbit scattering has been recently discussed in . As is known, in the presence of spin-orbit scattering the electron spin is no longer a good quantum number and the electron will change its spin state during a characteristic time $`\tau _{SO}`$ , while the Cooper pair will mix with its spin-exchanged counterpartner. This causes a pair to ”feel” an exchange field which changes sign at a rate proportional to $`1/\tau _{SO}`$ , decreasing the average ferromagnetic field experienced by the pair. That means, that the spin-flip processes not only modify the oscillation length but also lead to an extra decay of the Cooper pair potential and, at a critical strength, these scattering processes can completely suppress the $`\pi `$-phase superconductivity.

The scenario of the $`0\pi `$-phase transition, as well as the mechanisms of critical current enhancement, in the limit of thin $`F`$ layers differ from those for thick $`F`$ layers. However, the basic physics behind spin-orbit scattering effect for the $`SF`$ sandwiches where there is no induced order parameter oscillations, has not been discussed till now. The purpose of this paper is to clarify the mechanisms of influence of spin-orbit scattering on critical current in $`SFIFS`$ tunnel structures with thin $`F`$ layers. Our analysis is based on the extension of calculations , so as to include the effects of the spin-orbit scattering. Namely, we study the tunnel junction with leads formed by the proximity coupled $`SF`$ bilayers of a massive $`s`$-wave superconductor and a thin $`F`$ metals, when the spin-orbit scattering processes take place in ferromagnetic layers. The microscopic model of the proximity effect for $`SF`$ bilayer is employed to discuss the case of arbitrary value of $`SF`$ boundary transparency, ferromagnetic exchange field, and proximity effect strength (Sec.II). Critical current of symmetrical $`SFIFS`$ junction is discussed in Sec.III where analytical solutions have been obtained for some particular cases. As we shall see, spin-flip scattering plays a major role in transport properties of superconductor-ferromagnet structures with thin $`F`$ layers and should be considered for understanding the various experimental results. We close with a Conclusion.

## II  SUPERCONDUCTIVITY OF SF BILAYER WITH SPIN-ORBIT SCATTERING

We consider the case when both metals are in the dirty limit condition $`\xi _{S,F}l_{S,F}`$ , and the $`S`$ layer is thick, $`d_S\xi _S`$, while the $`F`$ layer is thin, $`d_F\mathrm{min}(\xi _F,\sqrt{D_F/2\pi T_C})`$. Here $`\xi _S=(D_S/2\pi T_C)^{1/2}`$ and $`\xi _F=(D_F/2H_{exc})^{1/2}`$ are the coherence lengths of the $`S`$ and $`F`$ metals; $`l_S`$ and $`l_F`$ are the electron mean free paths, $`d_{S,F}`$ are the thicknesses, and $`D_{S,F}`$ are the diffusion coefficients of the $`S`$ and $`F`$ metals, respectively. These conditions make it possible to neglect the reduction of the critical temperature of the $`SF`$ bilayer compared to that of the bulk $`S`$ metal, and to imply constant superconducting properties through $`F`$ layer thickness. Throughout this work the $`F`$ layer will be treated as a single domain film with the spin-orbit scattering centers, while there are no such centers in the $`S`$ layer. Then, the superconducting properties of the $`SF`$ bilayer are described by the Usadel equations . The latter can be written as (the domain $`x0`$ is occupied by the $`S`$ metal and $`x<0`$ by the $`F`$ metal):

$$\mathrm{\Phi }_{S\sigma }=\mathrm{\Delta }_S+\xi _S{}_{}{}^{2}\frac{\pi T_C}{\omega G_{S\sigma }}[G_{S\sigma }{}_{}{}^{2}\mathrm{\Phi }_{S\sigma }^{}]^{}\text{ },$$
(1)
$$\mathrm{\Phi }_{F\pm }=\xi ^2\frac{\pi T_C}{\stackrel{~}{\omega }_\pm G_{F\pm }}[G_{F\pm }^2\mathrm{\Phi }_{F\pm }^{}]^{}+\alpha _{SO}G_F(\frac{\mathrm{\Phi }_F}{\stackrel{~}{\omega }_{}}\frac{\mathrm{\Phi }_{F\pm }}{\stackrel{~}{\omega }_\pm })$$
(2)
Here $`\stackrel{~}{\omega }_\sigma =\omega +i\sigma H_{exc}`$, $`\sigma =\pm `$ , and $`\omega \omega _n=\pi T(2n+1)`$, $`n=\pm 1,\pm 2,\mathrm{}`$ is Matsubara frequency; $`\alpha _{SO}=2/3\tau _{SO}`$ and $`\tau _{SO}`$ is the spin-orbit scattering time; the pair potential $`\mathrm{\Delta }_S`$ is determined by the usual self-consistency relations (see, e.g. ). We define the $`x`$ axis as perpendicular to the film surfaces and the prime denotes differentiation with respect to a coordinate $`x`$. The modified Usadel functions  $`\mathrm{\Phi }_{S\sigma }=\omega F_{S\sigma }/G_{S\sigma }`$, $`\mathrm{\Phi }_{F\sigma }=\stackrel{~}{\omega }_\sigma F_{F\sigma }/G_{F\sigma }`$ , where $`G_{F,S}`$ and $`F_{F,S}`$ are normal and anomalous Green’s functions for the $`F`$ and $`S`$ material, respectively, are introduced to take into account the normalized confinement of the Green’s functions $`G^2+F\stackrel{~}{F}=1`$ ; here $`\stackrel{~}{F}(\omega ,H_{exc})=F^{}(\omega ,H_{exc})`$ , and $`\stackrel{~}{\mathrm{\Phi }}_{S\sigma }=\omega \stackrel{~}{F}_{S\sigma }/G_{S\sigma }`$ (see below). We also assume that for a nonsuperconducting $`F`$ metal the bare value of the order parameter $`\mathrm{\Delta }_F=0`$ , however, the Cooper pair correlation function $`F_F0`$ due to the proximity effect. Eqs. (2) for the $`F`$ metal are the generalization of the Usadel equations for the case when the spin-orbit scattering is present (for more details see Ref. ). At temperatures close to $`T_C`$ , when $`G_{S(F)\sigma }1`$ and $`\mathrm{\Phi }_{S(F)\sigma }/\stackrel{~}{\omega }_\sigma F_{S(F)\sigma }`$ , Eqs. (2) have been simplified getting the form of Eqs. (26) of Ref. . If the spin-orbit processes are absent$`(\tau _{SO}\mathrm{})`$ , the spin ”up” and ”down” subbands do not mix with each other and the equation (2) obtains the usual form (see, e.g., ).

Eqs. (1), (2) should be supplemented with the boundary conditions. In the bulk of the $`S`$ metal the pair potential is equal to the $`BCS`$ order parameter $`\mathrm{\Delta }_0(T)`$ at the temperature $`T`$ : $`\mathrm{\Phi }_S(\mathrm{})=\mathrm{\Delta }_S(\mathrm{})=\mathrm{\Delta }_0(T)`$, while at the free (dielectric) interface of the $`F`$ metal: $`\mathrm{\Phi }_{F\pm }^/(d_F)=0`$. Assuming that there are no spin-flip processes at the $`SF`$ interface, the boundary conditions at this interface (see Ref.  for details) can easily be generalized for the case of two fermionic subband in the form :

$$\gamma \xi G_{F\pm }^2\mathrm{\Phi }_{F\pm }^//\stackrel{~}{\omega }_\pm =\xi _SG_{S\pm }^2\mathrm{\Phi }_{S\pm }^//\omega ,$$
(3)
$$\gamma _{BF}\xi G_{F\pm }\mathrm{\Phi }_{F\pm }^/=\stackrel{~}{\omega }_\pm G_{S\pm }(\mathrm{\Phi }_{S\pm }/\omega \mathrm{\Phi }_{F\pm }/\stackrel{~}{\omega }_\pm )$$
(4)
The parameters $`\gamma `$ and $`\gamma _{BF}`$ involved in these relations are given by $`\gamma =\rho _S\xi _S/\rho _F\xi `$ , $`\gamma _{BF}=R_B/\rho _F\xi `$ , where $`\rho _S,_F`$ are the normal state resistances of the $`S`$ and $`F`$ metals, $`R_B`$ is the product of $`SF`$ boundary resistance and its area. In Eqs. (1) and (3), and below we have used the effective coherence length $`\xi =(D_F/2\pi T_C)^{1/2}`$ thus providing the regular crossover to both limits $`T_CH_{exc}0`$ and $`H_{exc}T_C`$. The relation (3) provides the continuity of the supercurrent flowing through the $`SF`$ interface at any value of the interface transparency for spin ”up” and ”down” fermionic subband separately, while the condition (4) accounts for the quality of the electric contact. An additional physical approximation for the relations (3) and (4) to be valid is the assumption that spin discrimination by the interface is unimportant, i.e., the interface parameters involved are the same for both spin subband. Generalization of Eqs. (3) and (4) to the $`SF`$ interface with different transmission probabilities for ”up” and ”down” spin quasiparticles is straightforward, however the case we consider contains all the new physics we are interested in and is simpler. In such ferromagnetic metals as $`Ni`$, $`Gd`$, etc. the polarization of the electrons at low temperatures is not more than 10%, and one can expect the model under consideration reflects the transport properties of these ferromagnets hybrid structures.

Due to a small thickness of the $`F`$ metal the proximity effect problem can be reduced to the boundary problem for the $`S`$ layer and a relation for determining $`\mathrm{\Phi }_{F\pm }`$ at $`x=0`$ . There are three parameters which enter the model: $`\gamma _M=\gamma d_F/\xi `$$`\gamma _B=\gamma _{BF}d_F/\xi `$ and the energy of the exchange field $`H_{exc}`$ . Using the system of equations (3) and (4), one can obtain the equations determining the unknown value of the functions $`\mathrm{\Phi }_{F\pm }(0)`$ and boundary conditions for $`\mathrm{\Phi }_{S\pm }`$ . Due to these boundary conditions all the equations for the functions $`\mathrm{\Phi }_{S\pm }`$ and $`\mathrm{\Phi }_{F\pm }`$ are coupled. In the general case, the problem needs self-consistent numerical calculations (similar to those as, e.g. , in Ref. ). Here, however, we will not discuss the quantitative solution, but pay attention to the qualitative one to consider new physics we are interested in.

We will hereinafter assume that $`\alpha _{SO}1`$ and$`d_F/\xi 1`$ and solve differential equations by an iteration procedure finding the corrections to $`\mathrm{\Phi }_{F\pm }(x)`$ and$`\mathrm{\Phi }_{S\pm }(x)`$ in small parameters $`d_F/\xi `$ and $`\alpha _{SO}`$. We also restrict ourselves to the quite realistic experimental case of a bilayer with a weak proximity effect and low transparency of the $`SF`$ boundary, i.e., $`\gamma _M1`$ and $`\gamma _B1`$ . Then the problem is simplified (see Ref.  for details) and reduced to the Usadel Eqs. (1) for the $`S`$ layer with boundary conditions (3), while Eq. (4) reduces to

$$\xi _SG_{S\pm }\mathrm{\Phi }_{S\pm }^/|_{x=0}\overline{\gamma }_M\stackrel{~}{\omega }_\pm \frac{\mathrm{\Phi }_{S\pm }}{\pi T_CA_\pm }\{12\alpha _{SO}\frac{iH_{exc}}{\stackrel{~}{\omega }_+\stackrel{~}{\omega }_{}}\frac{G_S}{\omega }(\frac{\omega }{\gamma _B\stackrel{~}{\omega }_\pm }\pi T_C+\frac{G_S}{\omega }\frac{\mathrm{\Delta }_0^2}{A_\pm ^2})\}|_{x=0},$$
(5)
where we abbreviated $`A_\pm =[1+2\overline{\gamma }_BG_S\stackrel{~}{\omega }_\pm +\overline{\gamma }_B^2\stackrel{~}{\omega }_\pm ^2]^{1/2}`$ , $`G_S=\omega /(\omega ^2+\mathrm{\Delta }_0^2)^{1/2}`$ and $`\overline{\gamma }_{B(M)}\gamma _{B(M)}/\pi T_C`$ (functions that are multiplied by $`\alpha _{SO}`$ have been used in the limit $`\alpha _{SO}0`$). Now, the equation for $`F`$ layer function $`\mathrm{\Phi }_{F\pm }(0)`$ has the form:

$$\mathrm{\Phi }_{F\pm }(0)G_{S\pm }\mathrm{\Phi }_{S\pm }\{1\pm 2\alpha _{SO}\frac{iH_{exc}}{\stackrel{~}{\omega }_+\stackrel{~}{\omega }_{}}\}/[\omega (\overline{\gamma }_B+G_{S\pm }/\stackrel{~}{\omega }_\pm ]|_{x=0}$$
(6)
In zeroth approximation in $`\gamma _M`$ the $`\mathrm{\Phi }_{S\pm }^/(0)=0`$. So, we can neglect the suppression of superconductivity in the $`S`$ layer assuming that $`\mathrm{\Phi }_{S\pm }(x)`$ is spatially homogeneous: $`\mathrm{\Phi }_{S\pm }(x)=\mathrm{\Delta }_S(x)=\mathrm{\Delta }_0(T)`$ . In the next order in $`\gamma _M`$ , by linearizing the Usadel equations for the $`\mathrm{\Phi }_{S\pm }(x)`$ and making use of the relation (3), the general solution of the linearized equation (1) is given by

$$\mathrm{\Phi }_{S\pm }(x)=\mathrm{\Delta }_0\{1C_\pm \mathrm{exp}(\beta x/\xi _S)\}$$
(7)
where $`\beta ^2=(\omega ^2+\mathrm{\Delta }_0^2)^{1/2}/\pi T_C`$. Substituting this solutions into the boundary relations (5), we get for $`C_\pm `$ :

$$C_\pm \frac{\overline{\gamma }_M\beta \stackrel{~}{\omega }_\pm }{\overline{\gamma }_M\beta \stackrel{~}{\omega }_\pm +\omega A_\pm }\{12\alpha _{SO}\frac{iH_{exc}}{\stackrel{~}{\omega }_+\stackrel{~}{\omega }_{}}(\frac{G_S}{\overline{\gamma }_B\stackrel{~}{\omega }_\pm }+\frac{G_S^2}{\omega ^2}\frac{\mathrm{\Delta }_0^2}{A_\pm ^2})\}$$
(8)
Using Eqs. (7) for $`x=0`$ and relations (6), one can find expressions for $`\mathrm{\Phi }_{F\pm }(\omega ,0)`$. However we will not show here these expressions because of their cumbersome structure. For $`H_{exc}0`$ the quantity $`\stackrel{~}{\omega }_\pm \omega `$ , and solution (7), (8) reproduces the results obtained in Ref.  for an $`SN`$ bilayer. If $`\tau _{SO}\mathrm{}`$, the expressions restore earlier results for $`SF`$ bilayer (see Refs. ).

Let us give some comments on the results obtained. For the structure under consideration, one can expect a kind of induced magnetic properties for $`S`$ layer, that are the result of the effect similar to the superconducting proximity effect . In accordance with Eqs. (7), (8), we see that due to proximity induced magnetic correlations even in the $`S`$ layer fermionic symmetry of subbands has been lost and Cooper pair mixes with its spin-exchanged counterpartner.

## III CRITICAL CURRENT OF $`SFIFS`$ TUNNEL JUNCTION

We assume that both banks of the Josephson $`SFIFS`$ tunnel junction are formed by equivalent $`SF`$ bilayers, and the transparency of the insulating layer is small enough to neglect the effect of the tunnel current on the superconducting state of the electrons. The plane $`SF`$ boundary can have arbitrary finite transparency, but it is large compared to the transparency of the junction barrier. The transverse dimensions of the junction are supposed to be much less then the Josephson penetration depth, so all quantities depend only on a single co-ordinate $`x`$ normal to the interface surface of the materials. Using the above obtained results we investigate the influence of the spin-flip scattering on critical Josephson current in $`SFIFS`$ tunnel junction. The critical current of the ($`SF)_LI(FS)_R`$ tunnel contact can be written in the form (see, e.g. Ref. ):

$$j_C=(eR_N/2\pi T_C)I_C=\frac{T}{T_C}Re\underset{\omega >0,\sigma =\pm }{}\frac{G_{F\sigma }\mathrm{\Phi }_{F\sigma }}{\stackrel{~}{\omega }_\sigma }|_L\frac{G_{F\sigma }\mathrm{\Phi }_{F\sigma }}{\stackrel{~}{\omega }_\sigma }|_R$$
(9)
where $`R_N`$ is the resistance of the contact in the normal state; the subscript $`L`$ ($`R`$) labels quantities referring to the left (right) bank and the sign of the exchange field depends on mutual orientation of the bank magnetizations.

### A Parallel orientation of the layer’s magnetizations

For parallel alignment of the layer’s magnetizations, i.e., with $`\stackrel{~}{\omega }_L=\stackrel{~}{\omega }_R`$ , the expression for critical current reads:

$`j_C^{FM}`$ $`=`$ $`{\displaystyle \frac{T}{T_C}}Re{\displaystyle \underset{\omega >0,\sigma =\pm }{}}{\displaystyle \frac{G_{S\sigma }^2\mathrm{\Phi }_{S\sigma }^2}{\omega ^2}}\{1+4\sigma \alpha _{SO}\gamma _B{\displaystyle \frac{iH_{exc}}{\stackrel{~}{\omega }_+\stackrel{~}{\omega }_{}}}\}\times `$ (11)
$`\{1+2\overline{\gamma }_BG_{S\sigma }\stackrel{~}{\omega }_\sigma +\overline{\gamma }_B^2\stackrel{~}{\omega }_\sigma ^2+\sigma 4\alpha _{SO}\overline{\gamma }_B{\displaystyle \frac{iH_{exc}}{\stackrel{~}{\omega }_+\stackrel{~}{\omega }_{}}}{\displaystyle \frac{G_{S\sigma }^2\mathrm{\Phi }_{S\sigma }\stackrel{~}{\mathrm{\Phi }}_{S\sigma }}{\omega ^2}}\}^1`$
We begin with an analytical consideration for the case of a vanishing effective pair breaking parameter near the $`SF`$ boundary, $`\gamma _M=0`$; i.e., the influence of the $`F`$ layer on the superconducting properties of the $`S`$ metal can be neglected and the order parameter in the $`S`$ region is spatially homogeneous: $`\mathrm{\Phi }_{S\pm }(x)=\mathrm{\Delta }_0(T)`$ (see, Eqs. (7) and (8)). For the amplitude of the Josephson current we than obtained

$`j_C^{FM}`$ $``$ $`2{\displaystyle \frac{T}{T_C}}{\displaystyle \underset{\omega >0}{}}{\displaystyle \frac{\mathrm{\Delta }_0^2}{\mathrm{\Delta }_0^2+\omega ^2}}\{1+2\overline{\gamma }_B\omega G_S+\overline{\gamma }_B^2(\omega ^2H_{exc}^2)+8\alpha _{SO}\overline{\gamma }_B^2{\displaystyle \frac{\omega H_{exc}^2}{\omega ^2+H_{exc}^2}}\}\times `$ (13)
$`\{[1+2\overline{\gamma }_B\omega G_S+\overline{\gamma }_B^2(\omega ^2H_{exc}^2)]^2+4H_{exc}^2\overline{\gamma }_B^2(G_S+\overline{\gamma }_B\omega )^2\}^1`$
If $`H_{exc}0`$ the expression (11) restores the result for $`SNINS`$ junction (see, e.g., Eq.(28a) of Ref. for parameters value under consideration). As is seen from this expression, for large enough $`H_{exc}`$ , the supercurrent changes its sign, i.e., with increasing magnetic energy the junction crosses over from $`0`$-phase type to $`\pi `$-phase type superconductivity. However, the spin-flip processes exert influence upon junction’s tendency to set in the $`\pi `$-phase state.

On Fig. 1 we plot a family of the Josephson current amplitude (11) as function of $`H_{exc}`$ when $`\gamma _B=2`$ , $`\gamma _M=0`$ for various values of the spin-orbit scattering intensity $`\alpha _{SO}`$ . Here we also show the function $`\delta j_C^{FM}=j_C^{FM}(\alpha _{SO})j_C^{FM}(\alpha _{SO}=0)`$ .The main feature here is that the increase of the exchange energy pulls the $`SFIFS`$ junction to $`\pi `$-state. The new result of this figure is that, as intensity of spin-orbit scattering processes increases, the critical current amplitude, $`j_C^{FM}(\alpha _{SO}),`$ for the $`\pi `$-state decreases. The spin-orbit scattering reduces the effect of exchange field, and this reduction has nonlinear character with its maximum in the region where transition to the $`\pi `$-state take place.

A more realistic case is shown on Figs. 2, where we plot the results of numerical calculations of the critical current, Eq. (10), for the tunnel junction when suppression of the $`S`$ layer superconductivity occurs due to proximity effect $`(\gamma _M0)`$. The function $`\delta j_C^{FM}`$ has also been shown. Again, the main result of these calculations is that the spin-flip processes can sizably reduce the $`SFIFS`$ junction tendency to $`\pi `$-phase state. In contrast to a simple physical picture, the suppression has nonlinear behavior getting its maximum near $`H_{exc}`$ region of cross over from $`0`$-type to $`\pi `$-type superconductivity. While our results have been obtained for the $`SF`$ bilayers with a weak proximity effect and low boundary transparency, qualitatively the conclusions are valid for arbitrary $`\gamma _B`$ and $`\gamma _M`$ values.

### B Antiparallel orientation of the layer’s magnetizations

To be definite, we took $`\stackrel{~}{\omega }_L=\omega +iH_{exc}`$, $`\stackrel{~}{\omega }_R=\omega iH_{exc}`$. Now the critical current of the $`(SF)_LI(FS)_R`$ tunnel contact can be given in the form

$`j_C^{AF}`$ $`=`$ $`2{\displaystyle \frac{T}{T_C}}Re{\displaystyle \underset{\omega >0}{}}{\displaystyle \frac{G_{S+}\mathrm{\Phi }_{S+}G_S\mathrm{\Phi }_S}{\omega ^2}}\{(G_{S+}+\overline{\gamma }_B\stackrel{~}{\omega }_+)^2+{\displaystyle \frac{G_{S+}^2\mathrm{\Phi }_{S+}\stackrel{~}{\mathrm{\Phi }}_{S+}}{\omega ^2}}(1+4\alpha _{SO}{\displaystyle \frac{iH_{exc}}{\stackrel{~}{\omega }_+\stackrel{~}{\omega }_{}}})]\}^1`$ (15)
$`\times \{(G_S+\overline{\gamma }_B\stackrel{~}{\omega }_{})^2+{\displaystyle \frac{G_S^2\mathrm{\Phi }_S\stackrel{~}{\mathrm{\Phi }}_S}{\omega ^2}}(14\alpha _{SO}{\displaystyle \frac{iH_{exc}}{\stackrel{~}{\omega }_+\stackrel{~}{\omega }_{}}})\}^1`$
Fist we assume that one can neglect the suppression of the superconductivity in the $`S`$ layer ($`\gamma _M=0`$). Then, after simple but cumbersome algebra we have for the critical current

$`j_C^{AF}`$ $``$ $`2{\displaystyle \frac{T}{T_C}}{\displaystyle \underset{\omega >0}{}}{\displaystyle \frac{\mathrm{\Delta }_0^2}{\mathrm{\Delta }^2+\omega _0^2}}\{18\alpha _{SO}{\displaystyle \frac{\mathrm{\Delta }_0^2}{\mathrm{\Delta }_0^2+\omega ^2}}{\displaystyle \frac{\omega H_{exc}^2}{\overline{\gamma }_B^2(\omega ^2+H_{exc}^2)}}\}\{[1+2\overline{\gamma }_B\omega G_S+\overline{\gamma }_B^2(\omega ^2H_{exc}^2)]^2+`$ (17)
$`4H_{exc}^2\overline{\gamma }_B^2(G_S+\overline{\gamma }_B\omega )^2\}^{1/2}`$
For $`H_{exc}0`$ expression (13) restores the result for $`SNINS`$ junction (Eq. (28a) ). One can see, that for $`\omega <H_{exc}`$ the expression in figured brackets is low than one. As a result, the $`0`$-phase state across the contact has been preserved, and in some interval of the exchange field energy the enhancement of dc Josephson current occurs. The spin-orbit processes exert upon this behavior, reducing the current enhancement.

On Fig. 3 we show a family of the Josephson current amplitude (13) as function of $`H_{exc}`$ when $`\gamma _B=2`$ , $`\gamma _M=0`$ for various values of the spin-orbit scattering intensity $`\alpha _{SO}`$ . Here we also plot the function $`\delta j_C^{AF}=j_C^{AF}(\alpha _{SO})j_C^{AF}(\alpha _{SO}=0)`$ .The main and unusual feature here is that the increase of the exchange energy enhances the $`SFIFS`$ junction critical current. The new result of this figure is that, as the intensity of spin-orbit scattering processes increases, the tendency of the $`j_C^{AF}(\alpha _{SO})`$ to enhance decreases. The spin-orbit scattering reduces the effect of exchange field, and this reduction is nonlinear in character with its maximum in the most interesting for experimentalists region. More general cases are shown on Fig. 4, where we illustrate the results of numerical calculations of the critical current, Eq. (12), taking into account a suppression of the $`S`$ layer superconductivity by the proximity effect ($`\gamma _M0)`$. The function $`\delta j_C^{AF}`$ has also been shown. One can see again, that the spin-orbit suppression has nonlinear behavior getting its maximum in the most interesting for experimental investigation region of $`H_{exc}`$ . Qualitatively, these results are valid for arbitrary values of $`\gamma _B`$ and $`\gamma _M`$ .

## IV Conclusion

We do not consider here the experimental situation, which is now unclear an controversial even for the $`SF`$ hybrid structures with thick ferromagnetic layers. Let us only note, that spin-orbit scattering is relevant for ferromagnetic conductors containing large $`Z`$ number. Magnetic inhomogeneity of the materials, such as the $`F`$ layer multidomain structure, domain walls, inhomogeneous ”cryptoferromagnetic” state imposed by superconductor also give nonzero probability amplitude for the spin-flip scattering. For nanoscale hybrid structures strong electric field arising near metal-metal boundaries is also an important source of the spin-flip processes. In the absence of any precise information about the magnetic structure of the samples used in experiments on $`SF`$ sandwiches, we restrict ourselves to making only qualitative calculation.

In conclusion, we investigate the spin-orbit scattering effect on critical current of $`SFIFS`$ tunnel junction for the case of thin $`F`$ layers, when the superconducting order parameter oscillation is absent. Instead, the parameter phase jumps at the $`SF`$ interfaces. The analysis is based on a microscopic theory for proximity coupled $`S`$ and $`F`$ layers. The main result of our calculations is that the spin-flip processes can sizably modify the behavior of the $`dc`$ Josephson current versus the exchange field for $`SFIFS`$ tunnel junction. We find that the reduction of the exchange field effects is nonlinear in character getting its maximum in the ferromagnetic field’s region where the critical current enhancement or the transition to the $`\pi `$-state occur. Hence, for understanding the various experimental results on tunnel structures with thin $`F`$ layers, the coupled effects of the exchange interaction and spin-orbit scattering must be considered.

The authors are grateful to Valery Ryazanov and Elena Koshina for useful discussions.

Figure Captures

Fig. 1. Critical current of $`SFIFS`$ tunnel junction with parallel orientation of the $`F`$ layers magnetization $`j_C^{FM}`$ versus exchange energy for various $`\alpha _{SO}/\mathrm{\Delta }_0`$ = 0, 0.05 , 0.1 and 0.15 ; the $`SF`$ interface transparency is low $`\gamma _B=2`$ and proximity effect is weak $`\gamma _M`$ = 0. The additive part of critical current due to spin-orbit scattering, $`\delta j_C^{FM}`$ , is also shown. $`T=0.1T_C`$ .

Fig. 2. Critical current of $`SFIFS`$ tunnel junction with parallel orientation of the $`F`$ layers magnetization $`j_C^{FM}`$ versus exchange energy for various $`\gamma _M`$ = 0, 0.05, 0.1, 0.15; $`\gamma _B=2`$ and $`\alpha _{SO}/\mathrm{\Delta }_0`$ = 0.1. The additive part of critical current due to spin-orbit scattering, $`\delta j_C^{FM}`$ , is also shown. $`T=0.1T_C`$ .

Fig. 3. Same as on Fig.1 but for antiparallel orientation of the $`F`$ layers magnetization. The additive part of critical current due to spin-orbit scattering, $`\delta j_C^{AF}`$ , is also shown.

Fig. 4. Same as on Fig.2 but for parallel orientation of the $`F`$ layers magnetization. The additive part of critical current due to spin-orbit scattering, $`\delta j_C^{FM}`$ , is also shown.