Journees Nationales de Calcul Formel 2007

29 janvier – 2 fevrier 2007, Cirm, Luminy

Organisateurs : F. Chyzak, O. Ruatta, E. Thome

– Programme– Resumes– Supports de cours

PROGRAMME DES JNCF 2007

Programme de la semaine

Lundi 29 janvier

09h00 Accueil des participants

Cours09h30 Paul Zimmermann : Algorithmique entiere (1)

10h30 Pause

Session Methodes mixtes symboliques-numeriques11h00 Laurent Fousse : CRQ : une bibliotheque pour l’integration numerique

certifiee en precision arbitraire11h30 Adrien Poteaux : Methode symbolique/numerique pour le calcul de

la monodromie d’une courbe algebrique plane12h00 Jean-Luc Volery : α-theorie de la methode de Newton : cas des sys-

temes analytiques singuliers de dimension zero

12h30 Dejeuner

Cours14h00 Marc Giusti : Resolution geometrique (1)

15h00 Pause

Session Systemes polynomiaux et leurs solutions16h00 Gema M. Dıaz Toca : Dynamic search of splitting fields16h30 Clemence Durvye : Calcul de solutions singulieres d’un systeme alge-

brique et formes de Smith17h00 Amir Hashemi : Calcul efficace de la regularite de Castelnuovo-Mumford

17h30 Pause

18h00 Marie-Eve Modolo : Etude du plongement canonique d’une Cab-cour-be a l’aide de la geometrie convexe : triangulation lexicographique, com-plexe de Reisner–Stanley ...

18h30 Ihsen Yengui : Bases de Grobner dynamiques sur les anneaux de De-dekind

19h00 Pause19h30 Dıner

Mardi 30 janvier

Cours09h00 Mohab Safey El Din : Algorithmes efficaces en geometrie algebrique

1

reelle (1)

10h00 Pause

Session Geometrie et CAD (1)11h00 Nicolas Delanoue : Garantir le type d’homotopie d’un ensemble decrit

par des inegalites11h30 Daoudda Niang Diatta : Calcul certifie de la topologie de courbes

implicites reelles dans le plan et l’espace12h00 Marc Dohm : Implicitization of rational ruled surfaces with µ-bases

12h30 Dejeuner

Cours14h00 Paul Zimmermann : Algorithmique entiere (2)

15h00 Pause

Session Geometrie et CAD (2)15h30 Monique Teillaud : Calcul exact et efficace sur les cercles dans CGAL

et experimentations en conception de circuits imprimes16h00 Julien Wintz : Design et architecture du modeleur algebrique geome-

trique Axel16h30 Alain Jacquemard : Un algorithme de representation des courbes al-

gebriques planes

17h00 Pause

Session ouverte 117h30 Damien Stehle : Amelioration de l’analyse de l’algorithme de Kannan

pour trouver un vecteur le plus court d’un reseau Euclidien18h00 Patrick Sole : Sommes de diviseurs et hypothese de Riemann18h30 Jacky Cresson : (Titre fourni ulterieurement)

19h00 Pause19h30 Dıner

Mercredi 31 janvier

Cours09h00 Marc Giusti : Resolution geometrique (2)

10h00 Pause

Session ouverte 211h00 Francois Lemaire : Une preuve formelle simple qu’un systeme biolo-

gique n’oscille pas11h30 Assia Mahboubi : Preuves formelles et calcul formel12h00 Didier Pinchon : Techniques de calcul formel dans la methode de

2

Hartree-Fock

12h30 Dejeuner

Cours14h00 Mohab Safey El Din : Algorithmes efficaces en geometrie algebrique

reelle (2)

15h00 Temps libre, discussions19h30 Dıner

Jeudi 1er fevrier

Cours9h00 Jacques-Arthur Weil : Galois differentiel et integrales premieres (1)

10h00 Pause

Session Logiciels de calcul formel11h00 Mickael Gastineau : Impact des architectures paralleles (SMP) dans

le developpement d’un systeme de calcul formel11h30 Pascal Giorgi : LinBox : evolution et interactions d’une bibliotheque

d’algebre lineaire exacte12h00 Jean-Guillaume Dumas : Outils pour un intergiciel adaptatif

12h30 Dejeuner

Cours14h00 Jean-Marie Maillard : Mathematiques experimentales : le calcul for-

mel birationnel en physique theorique (1)

15h00 Pause

Session Equations differentielles16h00 Alin Bostan : Calcul rapide de solutions series de systemes differentiels16h30 Raouf Dridi : Utilisation de la methode d’equivalence de Cartan dans

la construction d’un solveur d’equations differentielles17h00 Alexandre Sedoglavic : Reduction du nombre de parametres d’un sys-

teme parametrique grace a ses symetries de Lie

17h30 Pause

Session Equations fonctionnelles lineaires18h00 Thomas Cluzeau : Calcul de morphismes de modules associes a des

systemes fonctionnels lineaires18h30 Alban Quadrat : Utilisation de l’algebre homologique effective pour

factoriser et decomposer les systemes fonctionnels lineaires

19h00 Pause

3

19h30 Dıner

Vendredi 2 fevrier

Cours09h00 Jacques-Arthur Weil : Galois differentiel et integrales premieres (2)

10h00 Pause

Session Series generatrices et Combinatoire11h00 Mikhail V. Foursov : Systemes dynamiques polynomiaux et reseaux

de Petri ponderes11h30 Samuel-Alexandre Vidal : Factorisation de series indicatrices de cycles

en theorie enumeratrivee des groupes12h00 Abdenacer Makhlouf : Structures algebriques et calcul formel

12h30 Dejeuner

Cours14h00 Jean-Marie Maillard : Mathematiques experimentales : le calcul for-

mel birationnel en physique theorique (2)

15h00 Pause

Session Algebre lineaire15h30 Anna Urbanska : Rank computation for extremely big matrices16h00 Frederic Didier : Comment utiliser l’algorithme de Wiedemann pour

le calcul de l’immunite d’une fonction booleenne contre les attaques alge-briques

16h30 Fin des journees

Resumes des cours

Resolution geometrique

Marc Giusti (Ecole polytechnique)

(Resume fourni ulterieurement.)

Mathematiques experimentales : le calcul formel birationnel enphysique theorique

Jean-Marie Maillard (Laboratoire de Physique Theorique de la MatiereCondensee, Universite Paris 6)

Le calcul formel en quittant le domaine restreint de quelques specialistes (arith-metique en magma, ...) pour le domaine public (voire marchand : Mathematica,Maple) a connu dans les vingt dernieres annees des developpements tout a fait

4

spectaculaires, lies bien evidemment au decuplement des puissances de calculs etsurtout des capacites memoires, mais aussi a l’accumulation de programmes de-dies a tel ou tel domaine des mathematiques ou de la physique mathematique,ces programmes allant bien au-dela des calculs d’algebre lineaire de “linalg”(DEtools, PDEtools, diffalg forment un arsenal consequent dedie aux equationsdifferentielles et aux derivees partielles, eventuellement dans leur aspect les plusalgebriques, algcurves permet de s’attaquer a de tres serieux calculs de geome-trie algebrique effective ...). Cette accumulation d’outils tres puissants induitdes differences, non plus quantitatives, mais bien qualitatives dans la facon detravailler en physique mathematique, physique theorique, mathematiques appli-quees et meme bien que les mathematiciens francais, historiquement eloignesde toute utilisation intensive de l’informatique, n’en soient pas conscients, unenouvelle facon d’obtenir des resultats mathematiques hautement non-triviaux,que l’on pourrait qualifier de “mathematique experimentale”. Les distingos pre-cedemment cites (physique theorique, physique mathematique, mathematiquesappliquees) sont bien francais et traduisent le plus souvent des territoires his-toriques et autres defenses de pre-carres, que des frontieres conceptuelles etscientifiques serieuses. Souvent, a l’etranger, on ne parlera que des mathema-tiques appliquees (applied maths.). Les sous-structures que les physiciens fran-cais se plaisent a definir (theorie des champs classiques ou quantiques, meca-nique statistique, etudes des systemes dynamiques, systemes integrables, phy-sique du solide classique ou quantique, combinatoire enumerative, ...) sont desdistingos qui, conceptuellement, s’effacent chaque jour toujours plus. Cet effri-tement de ces frontieres s’effectue au fur et a mesure que les concepts mathe-matiques fondamentaux sous-jacents emergent faisant, de facon analogue, appela de nombreux domaines des mathematiques (geometrie algebrique effective,theories des nombres, fonctions speciales, cohomologie, theorie des representa-tions, ...) soulignant, la aussi, au travers d’exemples precis, des convergences pro-fondes entre domaines differents des mathematiques. Dresser la liste exhaustivede ces convergences spectaculaires et “implosions” entre domaines et disciplinesserait trop long dans les durees allouees. Nous nous attacherons a considerer uncertain nombre d’exemples de calculs (formels) correspondant a des questionsfondamentales communes a la mecanique statistique sur reseau, les systemesdynamiques discrets (dans leur approche algebrique ou topologique “dure” paropposition a une approche probabiliste “molle”), la theorie des champs, les sys-temes integrables (quels que soient les domaines), la geometrie algebrique ef-fective, etc ... Nous nous placerons dans une demarche “learning by examples”,ou nous partirons d’exemples, en apparence simples, de calculs formels qui cor-respondent a des calculs fondamentaux, communs et centraux a ces differentsdomaines. Les motivations, origines historiques, implications et consequencesphysiques ne peuvent serieusement etre abordees dans le temps imparti. (Du-rant le sejour a Luminy, je me tiens a la disposition de ceux qui desireraientdes approfondissements cibles prenant en compte leur connaissances particu-lieres, pour expliquer tout ce contexte physique.) Au fur et a mesure que nousverrons les structures, idees, concepts et resultats emerger des calculs formelsaux travers des exemples precis consideres, nous ferons de tres nombreuses al-lusions a la “physique” sous-jacente. Tout un volet de resultats que nous allonsaborder est susceptible d’analyse de type holonome (equations differentielles li-neaires a coefficients polynomiaux, recurrences, ...). Ces aspects seront traitespar Jacques-Arthur Weil. Nous nous attacherons, plus specifiquement, a des

5

calculs formels de type “algebriques” (geometrie algebrique effective, etudes detransformations birationnelles, ...). Ceci nous amenera a utiliser un tres grandnombre d’outils et de concepts qui, in fine, visent a decrire la “complexite” dessystemes. Nous seront amenes a effectuer des factorisations extensives de poly-nomes a coefficients entiers, des calculs modulo des nombres premiers, des etudesde varietes algebriques de dimensions diverses et variees (singularites, ...), descalculs mixtes que l’on pourrait qualifier de “semi-formels”, des confrontationsentre des calculs formels et des calculs numeriques (programmes en C, C++) enprecision infinie. Incidemment nous aborderons quelques problemes fondamen-taux des systemes dynamiques (le hiatus entre la “categorie topologique” et la“categorie probabiliste” dans la description des systemes dynamiques discrets),ou quelques notions importantes comme celles de fonctions zeta dynamiques, ouquelques concepts fondamentaux de mecanique statistique et theorie des champs(equations de Yang-Baxter). Les premiers exemples consideres correspondront ade tres simples calculs (non-lineaires !) sur des matrices de tailles finies ou nousserons amene a combiner l’inverse matriciel et des transformations tres simplessur les coefficients de ces matrices. Aucune connaissance physique ou mathema-tique profonde n’est a priori requise : ce sont les resultats obtenus a partir dedifferents type de calcul formel qui feront emerger des concepts et structuresnon-triviales ou subtiles.

Algorithmes efficaces en geometrie algebrique reelleMohab Safey El Din (LIP6 Team SPIRAL, INRIA/LIP6 SALSA Project,

University Pierre et Marie Curie)

Dans des domaines aussi varies que la reconnaissance de formes, la vision parordinateur, la robotique ou la chimie, on trouve des systemes d’equations et/oud’inegalites polynomiales a coefficients dans Q. Plusieurs questions peuvent etreposees :

(a) ces systemes apparaissent parfois avec des quantificateurs universels etexistentiels sur les variables reelles, formant ainsi une formule du premierordre. Dans ce cas, il faut determiner si les formules ainsi definies sontvraies ou fausses. On pourra aussi chercher a decrire sans quantificateursles conditions a remplir pour que ces formules soient verifiees (on parlealors d’elimination des quantificateurs).

(b) dans d’autres cas, certaines variables sont vues comme des parametres.On desire alors discuter du nombre de solutions reelles du systeme enfonction des valeurs des parametres. On pourra egalement chercher a de-crire les ensembles de valeurs de parametres pour lesquelles le nombre desolutions reelles est constant ;

(c) on cherche aussi souvent a tester l’existence de solutions reelles au sys-teme considere et parfois a donner au moins un point par composanteconnexe de l’ensemble de ses solutions reelles. Ces questions incluent na-turellement celles qui consistent a chercher les conditions de signe pouvantetre satisfaites par des polynomes.

Apres avoir rappele les proprietes elementaires des objets geometriques interve-nant dans les algorithmes repondant aux questions ci-dessus, nous etudieronsl’algorithme de Decomposition Cylindrique Algebrique qui est du a Collins. Cetalgorithme est le premier dont la complexite est doublement exponentielle en

6

le nombre de variables et qui permette de repondre aux questions ci-dessus.Nous verrons pourquoi cette complexite est peu satisfaisante pour repondre auxproblemes (b) et (c). Le probleme (b) se reduisant au probleme (c), la suitedu cours portera donc sur les algorithmes specifiquement dedies au calcul d’aumoins un point par composante connexe dans l’ensemble des solutions d’un sys-teme d’equations (et/ou d’inegalites) polynomiales. Depuis 1988, il existe desalgorithmes de complexite simplement exponentielle en le nombre de variablesresolvant ce probleme, via la methode des points critiques. Notre attention por-tera naturellement sur les techniques relevant de la methode des points critiquespermettant d’obtenir des implantations efficaces en pratique tout en preservantune complexite theorique simplement exponentielle en le nombre de variables.

Galois differentiel et integrales premieres

Jacques-Arthur Weil (Universite de Limoges)

Linear differential equations are ubiquitous in mathematics and their appli-cations. The Galois theory of linear differential equations aims at describingproperties of solutions of linear differential equations by studying the algebraicrelations between solutions (and their derivatives). This algebraic object alsohas some analytic interpretations ; in a sense, one may think of the differen-tial Galois group as mesuring “what algebra sees of the dynamics” (Malgrange).Thanks to its algebraic nature, the differential Galois group is an object many ofwhose properties can be established/detected by symbolic computation. Amongthe many applications of the algebraic theory of linear differential equations,we will highlight two families. A first one stems from the fact that solutionsof linear differential operators (“D-finite functions”) have good “closure” pro-perties : their sums, products, derivatives, etc are also D-finite. An extensiveillustration of this aspect will be found in the lectures of J.-M. Maillard whereapplications to statistical mechanics are described. A second family of applica-tions is the study of non-linear differential systems. We are given a (non-linear)differential system and we assume that we know a solution curve ; linearizingalong this solution curve yields a first order linear differential system, the“varia-tional system.” Several properties of the original system, in particular existenceof first integrals in some “good” class of functions, induce similar properties onthe variational system ; the algebraic theory of linear differential equations thenyields methods and algorithms to detect such properties. This talk is split intotwo lectures. In the first part, we will focus on differential Galois groups anddescribe the basic algorithms. The second part will be devoted to detection offirst integrals of non-linear differential systems by the variational approach ; wewill particularly emphasize on hamiltonian systems.

Algorithmique entiere

Paul Zimmermann (INRIA Lorraine)

(Resume fourni ulterieurement.)

7

Resumes des exposes

Calcul rapide de solutions series de systemes differentielsAlin Bostan (INRIA Rocquencourt, projet Algo)

Le traitement de nombreux problemes en calcul exact et approche demande dedevelopper en serie entiere a grande precision une base de solutions d’un systemelineaire d’equations differentielles. Nous decrivons un algorithme optimal pourle calcul d’un tel developpement ; plus exactement, le nouvel algorithme utiliseun nombre d’operations arithmetiques proportionnel au cout de la verificationde la solution. Ceci etend des resultats classiques obtenus en 1978 par Brent etKung. Travail en collaboration avec F. Chyzak, F. Ollivier, B. Salvy, E. Schostet A. Sedoglavic.

Calcul de morphismes de modules associes a des systemesfonctionnels lineaires

Thomas Cluzeau (Thomas Cluzeau, XLIM, ENSIL, Universite de Limoges)

De nombreux systemes venant de la physique mathematique, des mathema-tiques appliquees et des sciences de l’ingenieur se modelisent par des equationsdifferentielles ou aux derivees partielles, des equations de recurrence, des equa-tions differentielles retardees, des equations aux differences finies... Dans le casde systemes lineaires, ces systemes peuvent etre representes a l’aide de matricesa coefficients dans des algebres non-commutatives d’operateurs fonctionnels telsque les operateurs differentiels, de decalage, de retard, de differences finies... Uneclasse importantes de telles algebres est dite de Ore. L’analyse algebrique permetalors d’associer de maniere intrinseque un module a gauche sur une algebre deOre a un tel systeme. Cette idee est naturelle car les proprietes structurelles d’unsysteme fonctionnel lineaire s’etudient grace a des manipulations algebriques surla matrice d’operateurs associee au systeme, c’est-a-dire, grace a de “l’algebre li-neaire sur un anneau”, aussi appelee theorie des modules. Les outils intrinsequespour l’etude des proprietes des modules associes viennent alors de l’algebre ho-mologique. Ils peuvent etre rendus effectifs grace au recent developpement desbases de Grobner ou de Janet sur des algebres non-commutatives de polynomes.Dans cet expose, nous nous interesserons au calcul effectif des morphismes entredeux modules a gauche M et M ′ de presentations finies sur une algebre de Ore,ou M (resp., M ′) est le module intrinsequement associe au systeme fonctionnellineaire Ry = 0 (resp., R′z = 0). En particulier, nous montrerons comment nousretrouvons ainsi les notions d’eigenring dans le cas des systemes differentiels (ouaux differences) lineaires “ordinaires” (e.g., Y ′ = AY ) et dans le cas des sys-temes d’equations aux derivees partielles de types finis (connections integrables,D-finis, holonomes). Ces morphismes representent naturellement des symetries(de Galois) des solutions car ils definissent des applications envoyant les solu-tions du systeme fonctionnel lineaire R′z = 0 sur des solutions de Ry = 0. Nousillustrerons ceci en montrant comment, a partir de tels morphismes, nous pou-vons calculer des integrales premieres quadratiques du mouvement importantesen mecanique ou des lois de conservation quadratiques etudiees en elasticite, hy-drodynamique ou electromagnetisme. Nous terminerons cet expose en donnantdes formules explicites caracterisant les noyaux, images, conoyaux, et coimages

8

d’un morphisme general et nous montrons comment ces resultats sont utilesdans l’etude des problemes d’equivalence des systemes. Les algorithmes pro-poses sont implementes dans un package Maple appele morphisms base surla librairie OreModules (librairie dediee a l’etude effective de la theorie desmodules et algebre homologique sur des algebres de Ore).

(Titre fourni ulterieurement)Jacky Cresson (Universite de Pau)

(Resume fourni ulterieurement.)

Garantir le type d’homotopie d’un ensemble decrit par des inegalitesNicolas Delanoue (Universite d’Angers)

Durant cet expose, on donne un algorithme numerique capable de creer une tri-angulation du meme type d’homotopie qu’un ensemble S decrit par des inegalites(polynomiale ou non). La methode proposee divise S en sous-ensemble qui ontete montre contractile avec le calcul par intervalle. Des exemples illustrent leprincipe de l’approche.

Calcul certifie de la topologie de courbes implicites reelles dans leplan et l’espace

Daoudda Niang Diatta (Universite de Limoges)

Dans cet expose, nous proposons des algorithmes, bases sur l’utilisation de sous-resultants, pour calculer un complexe simplicial isotope a une courbe impliciteplane ou a une courbe dans l’espace definie comme intersection de deux sur-faces implicites (calcul de la topologie d’une courbe). Ces algorithmes reposentsur l’utilisation de criteres effectifs pour tester la genericite de la position dela courbe par rapport a une projection permettant de certifier la sortie des al-gorithmes. Des exemples sont presentes en utilisant une implantation de nosalgorithmes utilisant la bibliotheque SYNAPS. (Travail commun avec B. Mour-rain, J.-P. Pavone et O. Ruatta.)

Dynamic search of splitting fieldsGema M. Dıaz Toca (Universidad de Murcia)

Our main aim with this talk is to introduce a dynamic constructive GaloisTheory which allows us to obtain a representation of the splitting field of aseparable polynomial over a field. We present some methods which are givinga constructive substitute for the classical splitting field, which does not workwhen there is no factorization algorithm. With our methodology, we are tryingto combine the dynamic evaluation techniques (D5) with the fantastic Galoistheory. Moreover we introduce some new results about Effective Galois Theoryover rings.

9

Comment utiliser l’algorithme de Wiedemann pour le calcul del’immunite d’une fonction booleenne contre les attaques algebriques

Frederic Didier (INRIA-Rocquencourt, projet Codes)

Les attaques algebriques et les attaques algebriques rapides, proposees en 2002et 2003 respectivement, constituent une avancee interessante et puissante dansla cryptanalyse des chiffrements a flot. Leur but est de retrouver les bits de la clefen resolvant un systeme d’equations algebriques. Ce systeme est generalementfortement surdetermine et des methodes basees sur les algorithmes recents decalcul de bases de Grobner peuvent s’averer efficaces, particulierement lorsquel’on peut construire un systeme d’equations de faible degre. C’est ce qui est ar-rive pour certains chiffrements a flot fondes sur un registre lineaire filtre par unefonction non-lineaire. Pour construire un tel systeme algebrique, il est necessaireque des relations de faible degre entre les bits d’entree et de sortie de la fonctionde filtrage existent. Des lors, il devient interessant d’etre capable de savoir si unetelle fonction admet ou non ce genre de relations. C’est dans cette optique que lanotion d’immunite algebrique a ete introduite. La recherche de ces relations peutencore une fois s’effectuer par le biais d’un calcul de base de Grobner, mais a cejour les methodes les plus efficaces pour repondre a cette question sont fondeessur de l’algebre lineaire. Elles reviennent a determiner si un systeme lineaire estde rang plein ou non. Ce systeme presente une structure algebrique tres forteet recemment plusieurs algorithmes ont ete proposes pour l’exploiter. Je decri-rai dans ma presentation un tel algorithme fonde sur des methodes d’algebrelineaire creuse et plus particulierement sur l’algorithme de Wiedemann. Cetteapproche est actuellement l’une des plus efficace pour determiner l’immunited’une fonction booleenne contre les attaques algebriques.

Implicitization of rational ruled surfaces with µ-basesMarc Dohm (Universite de Nice)

Implicitization is a fundamental problem in Computer Aided Geometric Designand there are numerous applications related to it, e.g. the computation ofthe intersection of two ruled surfaces. The method of µ-bases (also knownas “moving lines” or “moving surfaces”) constitutes an efficient solution to theimplicitization problem. Introduced in 1998 by Cox, Sederberg, and Chen forrational curves, it was later generalized to ruled surfaces. In our talk we present abrief outline of the theory for curves, which is very well understood, in particularwe state the theorem that the resultant of a µ-basis is the implicit equation tothe power d, where d is the degree of the parametrization. This result is stillto be shown in its full generality (i.e., for arbitrary d) for ruled surfaces. Wefill this gap by giving a proof, after developing the theory for ruled surfaces andexplaining a geometric idea how to reduce the ruled surface to the curve case.In an example, we will see that µ-bases are computationally more efficient thanother resultant-based methods, since they are well adapted to the geometry ofruled surfaces.

Utilisation de la methode d’equivalence de Cartan dans laconstruction d’un solveur d’equations differentielles

Raouf Dridi (Universite de Lille)

10

Le but est de montrer la faisabilite d’une architecture, totalement nouvelle,pour la conception d’un solveur d’equations differentielles base sur la methoded’equivalence de Cartan. Notre solveur utilise les invariants differentiels produitspar la methode de Cartan pour detecter l’existence d’une equation differentiellede la liste de Kamke, equivalente a l’equation que l’ont veut resoudre et calculerle changement de variables qui realise cette equivalence.

Outils pour un intergiciel adaptatifJean-Guillaume Dumas (Laboratoire Jean Kuntzman, Universite Joseph

Fourier)

Les applications a grande echelle et les systemes logiciels deviennent de plus enplus complexes. Ces systemes doivent donc gerer eux-memes cette complexite,en accord avec un controle humain de haut niveau. Les algorithmes adaptatifspermettent cette autogestion des ressources et des donnees : un algorithme estadaptatif (ou est un poly-algorithme) quand un choix de haut niveau est possibleentre au moins deux algorithmes, chacun ayant pu resoudre independammentle meme probleme. Ce choix est strategique et non uniquement tactique, il estmotive par une amelioration des performances d’execution, dependant a la foisdes entrees/sorties du probleme et des ressources disponibles de calcul. Danscet expose nous proposons un cadre generique pour la gestion de l’adaptivite auniveau intergiciel, entre bibliotheques de calcul specialisees et logiciels generiquesde calcul scientifique : un schema recursif en cascade permet une adaptationdynamique non bornee ; ce schema, associe a des optimisations automatiquesd’algorithmes, permet de gerer simultanement l’adaptation aux ressources etaux donnees de maniere transparente pour l’utilisateur. Nous proposons ensuitedes patrons de conception adaptatifs specifiques au calcul formel et des exemplesd’application en algebre lineaire exacte avec la bibliotheque LinBox.

Calcul de solutions singulieres d’un systeme algebrique et formes deSmith

Clemence Durvye (Universite de Versailles - Saint-Quentin-en-Yvelines)

Soient f1, . . . , fn, g des polynomes en n variables sur un corps K de caracteris-tique 0. L’algorithme appele Kronecker permet de resoudre de maniere ensem-bliste le systeme f1 = · · · = fn = 0 dans l’ouvert g 6= 0, lorsque la suite f1, . . . , fn

est reguliere reduite. Nous avons prouve que cet algorithme peut egalement cal-culer les solutions d’un systeme de dimension zero avec leur multiplicite. Jepresenterai une extension de l’algorithme qui permet de calculer la structured’une racine multiple, que l’on representera par les matrices de multiplicationpar les variables dans une base de son algebre locale. Plus precisement, cetteextension interviendra lors de la derniere intersection de l’algorithme de Krone-cker. On dispose alors de la representation de Kronecker d’une courbe reduite.La principale difficulte est d’en deduire rapidement une base du module libre decette courbe. J’expliquerai comment on peut construire une telle base en ajou-tant des monomes a un module adequat, ce qui revient a calculer des formesde Smith. Une fois cette base obtenue, je montrerai que l’intersection se rameneelle aussi au calcul d’une forme de Smith. En realite, tous ces calculs seront faits

11

apres localisation, et l’operation la plus couteuse est le calcul de formes de Smitha coefficients dans un anneau de series formelles. L’etude de la complexite, quenous esperons polynomiale, fait l’objet d’un travail en cours. Par la suite, noussouhaitons adapter ces resultats au calcul de la decomposition primaire.

Systemes dynamiques polynomiaux et reseaux de Petri ponderesMikhail V. Foursov (IRISA/Universite de Rennes 1)

Dans cet expose, nous montrons que les series generatrices des systemes dyna-miques polynomiaux sont exactement les memes que les series generatrices d’unesous-classe de reseaux de Petri ponderes, dans lesquels chaque transition a uneseule place d’entree avec le poids de l’arc egal a 1. Nous proposons ensuite unalgorithme pour verifier si un reseau de Petri donne correspond directement a unsysteme dynamique. Dans de nombreux cas, des marquages initiaux differentscorrespondent a des systemes dynamiques differents. Nous montrons enfin queles invariants de places dans les reseaux de Petri correspondent aux symetriesde Lie de changement d’echelle du systeme dynamique correspondant, ainsi queles invariants du groupe de symetrie du systeme dynamique correspondent auxplaces implicites de reseau de Petri correspondant.

CRQ : une bibliotheque pour l’integration numerique certifiee enprecision arbitraire

Laurent Fousse (INRIA, projet Spaces)

L’integration numerique est une operation frequemment disponible et utiliseedans les systemes de calcul numerique et formel. Ses applications sont nom-breuses et touchent a divers domaines scientifiques (notamment en physique, enchimie et plusieurs branches des mathematiques). Neanmoins l’utilisation desfonctions d’integration fournies dans ces systemes de calcul en tant que boıtesnoires n’est pas satisfaisant du point de vue de la correction des resultats (nousdonnons des exemples d’integrales a priori innocentes pour lesquelles on obtientdes resultats imprecis, voire grossierement faux). Le but de la bibliotheque CRQ(Correctly Rounded Quadrature) est de fournir une implementation efficace defonctions d’integration numerique en precision arbitraire, en utilisant les sche-mas classiques de Newton-Cotes (methode des trapezes, de Simpson, etc) et deGauss-Legendre. Etant donnee une fonction f et un intervalle d’integration [a, b]nous calculons une approximation I de

I =∫ b

a

f(x)dx

ainsi qu’une borne d’erreur ε telle que |I − I| ≤ ε. Il s’agit bien d’une borneexplicite et non d’une estimation d’erreur. Pour la methode de Gauss-Legendrenous aboutissons par exemple au theoreme suivant : Soit p la precision decalcul, n le nombre de points de la methode, m une borne sur |f ′| et M uneborne sur |f2n|. Lors du calcul numerique de l’integrale de f sur [a, b] l’erreurtotale est majoree par :

Btotale ≤214

ulp(I) +5n

4D ·max(δyi) +

(b− a)2n+1(n!)4

(2n + 1)[(2n)!]3M.

12

Les quantites D et yi sont definies dans notre algorithme d’integration deGauss-Legendre. La resolution de ce probleme conduit a des developpementsalgorithmiques interessants ; dans le cadre de la methode de Newton-Cotes nousmontrons notamment comment un algorithme d’evaluation polynomiale multi-points (arbre des produits) donne une methode de calcul des poids de Newton-Cotes pour un nombre arbitraire de points asymptotiquement rapide. CRQ estune bibliotheque ecrite en C et se repose sur GMP et MPFR pour l’arithmetiquerapide entiere et flottante. Page web : http://komite.net/laurent/soft/crq/

Impact des architectures paralleles (SMP) dans le developpementd’un systeme de calcul formel

Mickael Gastineau (Institut de Mecanique Celeste)

Les systemes de calcul formel manipulent en memoire des structures de donneescomplexes presentant de nombreuses indirections. Tant que l’acces a la memoireetait uniforme quelque soit la localisation des donnees, la presence de nombreusesindirections ne penalisaient pas les performances des logiciels de calcul formel.L’augmentation du nombre de caches au sein des processeurs et de leur taille,ainsi que la generalisation des architectures NUMA sur les serveurs de calcul,engendrent des temps d’acces differents suivant la presence des donnees dans lescaches du processeur ou dans sa memoire a proximite. La prise en compte de cesparametres, dans la representation des donnees d’un systeme de calcul formelmanipulant des polynomes creux, assure des gains de performance jusqu’a 50%sur les produits de ces polynomes. Les systemes de calcul formel manipulent engrand nombre des structures de petite taille (moins d’une centaine d’octets),telle que les expressions ou de listes de donnees. L’utilisation de gestionnairede memoire explicite et optimise pour l’allocation intensive de ces structurespermettent des gains en temps d’execution et en espace memoire d’environ 25%sur certains problemes traites par les systemes de calcul formel. Le develop-pement de gestionnaire de memoire, adapte a une approche multithread dansles architectures SMP et SMT, evite les goulets d’etranglement presents dansles gestionnaires de memoire implementes dans les systemes d’exploitation. Lesperformances apportees par de tel gestionnaire seront exposes bien que ceux-cidoivent etre adapte a l’evolution des architectures materielles.

LinBox : evolution et interactions d’une bibliotheque d’algebrelineaire exacte

Pascal Giorgi (Laboratoire LP2A, Universite de Perpignan)

Depuis plusieurs annees, le developpement accru de nouveau algorithmes effi-caces en algebre lineaire exacte a permis d’envisager le traitement de problemesjusqu’alors inaccessibles. En particulier, la resolution de problemes faisant in-tervenir de tres grandes matrices creuses (de l’ordre du million d’entrees nonnulles) est aujourd’hui possible. La dissemination de ces nouveaux algorithmesau sein d’un logiciel facile d’acces et totalement parametrable est le but duprojet LinBox. Ce projet se concretise autour du developpement d’une biblio-theque C++ portant le meme nom. La premiere version officielle (LinBox 1.0)offre un support efficace pour ces nouveaux algorithmes. De plus, elle permet

13

d’obtenir des calculs hautes performances pour la resolution de problemes debase en algebre lineaire exacte, et plus particulierement sur les corps finis. Lesrecentes evolutions algorithmiques et logicielles ont oriente le developpement debibliotheque LinBox vers plusieurs taches :

1. Un des buts premiers pour LinBox a ete d’implanter des algorithmes basessur la notion de boıtes noires (blackbox en anglais) pour des problemesfaisant intervenir des matrices creuse ou structurees.

2. Un autre objectif important de la bibliotheque est la reutilisation de bi-bliotheques de calculs specialises (e.g. GMP, NTL, BLAS). En effet, cetaxe permet a LinBox de beneficier, a moindre couts de developpement, del’expertises mise en œuvre dans ces outils logiciels.

3. L’utilisation de methodes modulaires pour les problemes faisant intervenirdes matrices entieres ou rationnelles permet une reutilisation simple et effi-cace des briques de bases de la bibliotheques offrant ainsi des performancestres satisfaisantes.

4. Les algorithmes bases sur la reduction au produit de matrices offrent lesmeilleures complexites en algebre lineaire sur un corps fini, ainsi que lesmeilleures performances. De recents algorithmes permettent d’obtenir cesreductions dans le cas des matrices entieres ou polynomiales et leurs im-plantations semblent prometteuses.

5. La diversite des acces aux solutions logicielles de LinBox est preponderantepour une reutilisation simple et performante. En particulier, le choix d’in-terfaces adequates permet de proposer des solutions aussi bien pour lesexperts que les non-experts.

Dans cet expose, nous nous interesserons aux trois derniers points precedem-ment cites. En particulier, nous presenterons les dernieres avancees du projetLinBox sur des problemes haut niveau faisant intervenir des matrices entiereset polynomiales. A ce niveau, nous montrerons que la reutilisation des boıtesa outils sur les corps finis de LinBox, se revele etre un atout majeur pour desimplantations haut niveau tres performantes. Enfin, nous presenterons des tra-vaux sur l’interaction de la bibliotheque LinBox avec logiciel Maple. Nous nousinteresserons alors aux problemes lies a la genericite et a la modularite dessolutions proposees par LinBox. Nous montrerons egalement, au travers d’unedemonstration logicielle, les benefices apportes par LinBox aux utilisateurs deMaple.

Calcul efficace de la regularite de Castelnuovo-Mumford

Amir Hashemi (INRIA-Salsa project/LIP6-Spiral team)

Dans cet expose, nous presentons la notion d’ideal homogene en position quasi-Borel (PQB) ; une nouvelle definition pour la notion de coordonnees generiquespour calculer efficacement la regularite de Castelnuovo-Mumford d’un ideal ho-mogene. Cette definition est simple pour verifier, parce qu’elle est testee surl’ideal initial pour l’ordre du degre lexicographique inverse. Elle est explicite,parce que nous fournissons un algorithme pour decider si un ideal monomial esten PQB ou non avec une complexite polynomiale en taille d’entree. Le resul-tat principal de cet expose est que la regularite de Castelnuovo-Mumford d’un

14

ideal en PQB est le degre maximal des elements de sa base de Grobner reduitepour l’ordre du degre lexicographique inverse. Nous avons implante un algo-rithme en Singular base sur les resultats ci-dessus pour calculer la regularite deCastelnuovo-Mumford d’un ideal general, et nous evaluons sa performance parquelques exemples.

Un algorithme de representation des courbes algebriques planesAlain Jacquemard (Institut de Mathematiques de Bourgogne)

Etant donnees une courbe algebrique plane F (x, y) = 0, F ∈ R[x, y], et unepartition de R2 en petits rectangles egaux, un algorithme qui decide si chacunde ces rectangles contient ou non un point de la courbe sera appele un algorithmede representation graphique de cette courbe. Les algorithmes utilises dans lessystemes classiques de calcul formel sont inexploitables quand la courbe possededes points singuliers. En fait, ils sont generalement bases sur les changementsde signe de F , ce qui les rend inoperants aussi bien lorsque la courbe possededes pointes effilees que lorsqu’elle possede des composantes de multiplicite > 1.Nous presentons un algorithme qui, pour un polynome a coefficients rationnelsdonne et un rectangle R, donne une taille de partionnement s et une proceduretelles que : pour toute partition de R en petits rectangles de taille inferieure as, l’appartenance d’un point de la courbe a chaque petit rectangle est decidable.L’algorithme utilise des bornes explicites qui ne dependent que du degre et dela taille des coefficients de F . Il s’agit d’un travail en commun avec Felice Ronga(Universite de Geneve).

Une preuve formelle simple qu’un systeme biologique n’oscille pasFrancois Lemaire (Universite de Lille 1)

L’etude des systemes dynamiques issus de reseaux de genes est essentielle pourexpliquer le caractere oscillant des etres vivants (qui se manifeste par une hor-loge circadienne c.-a.-d. une horloge dont la periode est d’environ 24h). L’etudede systemes meme elementaires mene tres vite a des calculs inextricables. L’exis-tence ou l’absence de solutions oscillantes se teste traditionellement de manierenumerique compte-tenu de la grosseur des calculs. Nous verrons sur un exemplecomment des outils bien connus du calcul formel (comme les bases de Grob-ner) permettent egalement de decider a moindre frais et de maniere garantiele caractere non oscillant de certains systemes. Le travail presente a ete realiseen collaboration avec l’Observatoire Oceanologique de Banyuls sur mer et leLaboratoire de Physique des Lasers, Atomes et Molecules de Lille.

Preuves formelles et calcul formelAssia Mahboubi (INRIA Sophia-Antipolis, projet Marelle)

Les logiciels appeles assistants a la preuve formelle sont des outils informatiquesqui permttent d’exprimer des enonces mathematiques et de decrire et verfier despreuves de tels enonces dans un language formel. Neanmoins ce language est debeaucoup plus bas niveau que la langue naturelle des preuves mathematiques,

15

et l’activite de preuve sur ordinateur necessite pour etre praticable le develop-pement d’outils d’automatisation. Lorsqu’un assistant a la preuve comme lesysteme Coq (developpe a l’INRIA par le projet Logical) integre des possibili-tes de calcul suffisamment efficace, il existe plusieurs strategies pour marier desoutils de calcul et de preuve formels afin d’enrichir son automatisation. Nousdonnerons un apercu de ces techniques, de leur resultats, et des perspectives en-visageables pour augmenter la puissance et le confort d’utilisation d’un assistanta la preuve grace au calcul formel.

Structures algebriques et calcul formelAbdenacer Makhlouf (Laboratoire de Mathematiques et Applications,

Universite de Haute-Alsace)

Le but de cet expose est de montrer sur deux exemples l’utilite du calcul formeldans des problemes algebriques de classification et de construction. Le premierexemple concerne les sous-algebres standard d’une algebre de Lie semi-simple.Une sous-algebre d’une algebre de Lie semi-simple est dite standard si son nor-malisateur est une sous-algebre parabolique. Ces algebres sont caracterisees al’aide des racines de l’algebre de Lie semi-simple. Le calcul formel permet de lesenumerer pour chaque algebre de Lie semi-simple. Dans le domaine des defor-mations d’algebre, le calcul formel s’avere utile egalement, en effet on montrecomment il permet de determiner des deformations de structures de Poisson.

Etude du plongement canonique d’une Cab-courbe a l’aide de lageometrie convexe : triangulation lexicographique, complexe de

Reisner–Stanley ...Marie-Eve Modolo (Universite de Poitiers)

On s’interesse a la normalisation d’une famille particuliere de courbes : les Cab-courbes. Une Cab-courbe est definie sur un corps k de representation f(X, Y ) =0 ou f est un (a, b)-polynome i.e. un polynome du type :

f(X, Y ) = Y a + Xb +∑

ia+jb<ab

αijXiY j , αij ∈ k,

a, b deux entiers premiers entre eux.

Une Cab-courbe possede un unique point a l’infini, note P∞. On demontre defacon combinatoire que le genre de ces courbes est g = (a−1)(b−1)

2 et que l’espacede Riemann-Roch associe au diviseur (2g − 2) P∞ est de dimension g :

L((2g − 2) P∞) =⊕ (

kxiyj ; ia + jb ≤ 2g − 2)

Ce diviseur est donc un diviseur canonique et nous permet de realiser le plonge-ment canonique de cette classe de courbes dans l’espace projectif de dimensiong. L’objectif de cet expose est de voir comment on peut expliciter de manieretres precise ce plongement. En particulier, on cherchera a determiner un systemede generateurs quadratiques du noyau du co-morphisme ϕ ci-dessous :

ϕ : k[u] −→ k[X, Y, Z] u = (uij ; ia + jb ≤ 2g − 2) g indetermineesuij 7→ XiY jZ

16

Il revient au meme d’associer a chacunes des g indeterminees uij , ia+jb ≤ 2g−2,le point entier (Pk, 1) ou Pk = (i, j) est un point entier du convexe defini par lesinequations ax + by ≤ 2g − 2, x ≥ 0, y ≥ 0 que l’on note C1(a, b). L’image de ϕest alors egale a la k-algebre engendree par le monoıde S = NP1 + . . . + NPg ouPk = (Pk, 1).Ce morphisme est un morphisme torique. Definir le plongement canonique re-vient a determiner explicitement un systeme de generateurs de l’ideal ϕ−1(〈f〉),determination qui passe d’abord par celle du noyau de ϕ. Nous nous interessonsdans cet expose uniquement au calcul du noyau, appele ideal torique. La theorienous apportera un moyen d’implementer le calcul en magma.

Theoreme. Il est homogene et decrit les relations affines entre les points Pk.Il est engendre par des binomes de degre 2. On l’appellera “ideal des relateursaffines”.

Afin de determiner un syteme de generateurs quadratiques de l’ideal desrelateurs affines on etudie un probleme plus general et plus geometrique : expli-citer une triangulation lexicographique de certains polygones convexes entiersdu plan, precisant un resultat de generation quadratique du a Bruns, Gubeladzeet Trung.

Theoreme. Soient a, b, c trois entiers positifs, on considere les points entiersdu triangle convexe defini par les inequations ax + by ≤ c, x ≥ 0 et y ≥ 0.

1. Lorsque a ≤ b, la triangulation verticale est unimodulaire et sans tripletcritique.

2. lorsque c = ab et ab < 3

2 alors la triangulation verticale est unimodulaireet sans triplet critique.

La triangulation verticale des points entiers du convexe C1(a, b) est donc,dans le cas a ≤ b, unimodulaire et sans triplet critique. Une consequence du pre-mier point est que l’ideal initial de I associe a l’ordre lexicographique est radical.Le second point nous permet d’affirmer, gace a la correspondance de Reisner-Stanley, qu’il est engendre par des monomes de degre 2 : in(I) = 〈uα;α ∈ M〉ou M est le systeme canonique de generateurs monomiaux de in(I). La base deGrobner reduite de I est 〈uα − R(uα), α ∈ M〉 ou R est l’operateur de formenormale dans la decomposition de Macaulay, cf. proposition ci-dessous. Elle estconstituee de binomes homogenes de degre 2.

Proposition. Un ordre monomial etant fixe sur Nn, si I est un ideal non nulde k[X] = k[X1, . . . , Xn], le k-ev k[X] se decompose de la facon suivante :

k[X] = I ⊕ I• ou I• =⊕

Xα /∈in(I)

kXα avec in(I) ideal initial de I

La composante sur I• d’un polynome est appelee sa forme normale. La projec-tion sur I• est appele operateur de forme normale dans la decomposition deMacaulay.

Techniques de calcul formel dans la methode de Hartree-FockDidier Pinchon (Universite Toulouse 3)

17

Dans les methodes ab initio de la chimie moleculaire, les equations de Hartree-Fock permettent de calculer l’etat d’energie electronique minimale pour uneconfiguration geometrique des noyaux. Nous montrons avec trois exemples com-ment un systeme de calcul formel est utilise pour rendre plus precis et accelererles calculs numeriques :

– Pour le calcul des matrices des representations du groupe des rotationsdans la base des harmoniques spheriques reelles en precalculant une seulematrice pour chaque representation irreductible.

– Pour le stockage des coefficients de Gaunt en calculant des fonctions d’ac-ces qui tiennent compte des symetries de ces coefficients.

– Lorsque les orbitales atomiques de base sont les orbitales de Slater, enutilisant des formules exactes numeriquement stabilisees pour les integralesde recouvrement et les integrales de Coulomb a deux centres.

D’autres recherches en cours au sein du projet ETO (Exponential Type Orbitals)seront evoquees pour lequelles les methodes du calcul formel seront mises acontribution.

Methode symbolique/numerique pour le calcul de la monodromied’une courbe algebrique plane

Adrien Poteaux (Universite de Limoges)

Les methodes numeriques de continuation utilisees, par exemple par Maple, pourcalculer la monodromie d’une courbe algebrique plane conduisent a des resultatsfaux car les pas et les erreurs numeriques ne sont pas controles rigoureusement.Cet expose presentera une methode qui melange calculs numeriques et calculssymboliques. Cette methode utilise des chemins suivant un arbre de recouvre-ment minimum et des developpements de Puiseux tronques pour connecter lespoints a chaque etape. Le but de cette approche est de pouvoir ensuite controlerles erreurs numeriques lors du calcul des periodes de la courbe algebrique plane,afin d’obtenir une version effective du theroeme d’Abel Jacobi. Une premiereversion de l’algorithme est implantee en Maple. C’est un travail en cours dansle cadre de ma these dirigee par Marc Rybowicz et Moulay Barkatou.

Utilisation de l’algebre homologique effective pour factoriser etdecomposer les systemes fonctionnels lineaires

Alban Quadrat (INRIA Sophia-Antipolis, projet Cafe)

Cet expose fait suite a celui de Thomas Cluzeau et utilisera les differents re-sultats qui y ont ete developpes. Nous etudions les problemes de factorisationet decomposition des systemes fonctionnels lineaires (sous-determines, sur-de-termines ou determines (D-finis, holonomes ou generaux)). Tout d’abord, nousmontrons que l’existence d’un endomorphisme non-injectif du module M estequivalente a l’existence d’une factorisation non-triviale R = R1 R2 de la ma-trice R du systeme. Le systeme correspondant peut alors etre integre en cascade.Nous prouvons aussi, sous certaines conditions de liberte sur le morphisme, quele systeme R y = 0 est equivalent a un systeme R′ z = 0, ou R′ est une matricetriangulaire par blocs de meme taille que R. Nous montrons ensuite que l’exis-tence de projecteurs dans l’anneau des endomorphismes du module M permet

18

de ramener l’integration du systeme R y = 0 a celle de deux systemes inde-pendants R1 y1 = 0 et R2 y2 = 0. De plus, nous prouvons que, sous de bonnesconditions sur ces projecteurs (e.g., idempotents, liberte), ils permettent de cal-culer un systeme equivalent R′ z = 0, ou R′ est une matrice diagonale par blocsde meme taille que R. Nous exhiberons des cas ou ces conditions sont toujourssatisfaites : le cas de systemes differentiels (ou aux differences) ordinaires a co-efficients rationnels et le cas des systemes d’equations aux derivees partiellesa coefficients constants (grace au theoreme de Quillen-Suslin). De plus, si desconditions supplementaires sur le rang des projecteurs sont satisfaites, alors unresultat similaire est valable pour les systemes d’equations aux derivees partiellesa coefficients polynomiaux ou rationnels (grace au theoreme de Stafford). Notonsque l’existence d’implementations recentes dans OreModules des resultats destheoremes de Quillen-Suslin et Stafford permettent de calculer effectivement cesdecompositions. Plusieurs applications de ces resultats en physique mathema-tique et theorie du controle seront presentees. Les algorithmes proposes sontimplementes dans un package Maple appele morphisms base sur la librairieOreModules.

Reduction du nombre de parametres d’un systeme parametriquegrace a ses symetries de Lie

Alexandre Sedoglavic (LIFL)

Etant donne un systeme parametrique, on peut utiliser ces symetries de Lieetendues afin de reduire le nombre de parametres a considerer lors de sa resolu-tion. Par exemple, le modele de Verhulst :

x = x(a− bx)− cx,

a = b = c = 0.

possede 3 parametres a, b et c. L’existence des groupes de symetries de Liesuivants :

Tλ :

t → t,

x → x,

a → a + λ,

b → b,

c → c + λ,

, Sλ1,λ2 :

t → t/λ2,

x → λ1x,

a → λ2a,

b → λ2b/λ1,

c → λ2c.

induit les parametrisation des solutions (t, x) du systeme d’origine :

t =t

a− c, x = x

a− c

b,

en fonction des solutions (t, x) du systeme reduit :

x = x(1− x).

Nous montrerons que ce point de vue est applicable aux systemes differentielset algebrique et nous discuterons de son application sur des exemples concrets.

19

Sommes de diviseurs et hypothese de Riemann

Patrick Sole (Universite de Nice - Sophia-Antipolis)

La fonction arithmetique somme de diviseurs σ(n) :=∑

d|n d a attire l’attentionpar le critere de Lagarias pour l’hypothese de Riemann (RH). RH est vraie sipour tout n ≥ 1, on a

σ(n) ≤ h(n) + eh(n) log(h(n)),

ou h(n) :=∑n

k=1 1/k est la serie harmonique. Ce critere depend lui-meme d’uncritere de Guy Robin RH est vraie ssi pour tout n ≥ 5041,

σ(n) ≤< eγn log log n,

ou γ designe la constante d’Euler-(Mascheroni). Nous donnons des resultatsrecents qui montrent que ce critere est satisfait pour au moins 70% des entiersnaturels, un panorama des resultats classiques (Euler, Ramanujan, etc) sur σ,ainsi que des resultats moins connus (non-holonomicite).

Amelioration de l’analyse de l’algorithme de Kannan pour trouverun vecteur le plus court d’un reseau Euclidien

Damien Stehle (ENS Lyon)

Le probleme du vecteur le plus court d’un reseau Euclidien est NP-difficilesous des reductions randomisees. Plusieurs cryptosystemes, dont en particulierNTRU reposent sur des variantes affaiblies de ce probleme. Pour cette raison, ilest important de connaıtre precisement la complexite des algorithmes qui le re-solvent. Le plus classique d’entre eux, et le seul a etre pratique, est l’algorithmede Kannan. La meilleure borne de complexite de cet algorithme a ete obtenuepar Hellfrich il y a plus de vingt ans : dd/2+o(d) si d est la dimension du reseau.Nous prouvons que l’algorithme finit en fait en temps dd/2e+o(d), et conjecturonsque cette borne est fine dans le cas le pire. (Travail en commun avec GuillaumeHanrot.)

Calcul exact et efficace sur les cercles dans CGAL etexperimentations en conception de circuits imprimes

Monique Teillaud (INRIA Sophia-Antipolis)

The goal of the cgal Open Source Project is to provide easy access to efficientand reliable geometric algorithms to users in industry and academia. This isachieved in the form of the C++ Computational Geometry Algorithms Library.The cgal packages adapt the generic programming paradigm, making extensiveuse of C++ class templates and function templates, and their design is heavilyinspired from the C++ Standard Template Library. For instance, let us considerthe case of geometric arrangements: an arrangement of a finite set of curves inthe plane is the partition of the plane into faces, edges and vertices, that isinduced by these curves. A generic implementation of a data structure thathandles arrangements is achieved by the CGAL::Arrangement_2 class. This class

20

must be instantiated with a class, referred to as a traits class, that must definea type representing a certain family of curves, and some functions operating oncurves of this family. The cgal kernels provide the users with basic geomet-ric objects and basic functionalities on them. cgal currently offers kernels forlinear objects (points, segments, lines, triangles. . . ), and the first version of akernel for circles and circular arcs in 2D, called 2D circular kernel in the sequel,was recently released in cgal 3.2. A kernel can be wrapped into a traits classoffering the interface for some cgal class; this was done for the cgal circularkernel and CGAL::Arrangement_2. However, a kernel is meant to offer generalpurpose functionalities, while a traits class offers the minimum set of function-alities required by a specific class. Whereas robustness, achieved through theexact geometric computation paradigm, is probably the first strength of cgal,its efficiency is also a crucial quality for its use on real industrial data. Realvlsi data sets consist of line segments and circular arcs, containing many de-generate, or close to degenerate, cases (junctions, identical intersection points,tangencies. . . ) requiring highly robust code. Typically, the question is to com-pute boolean operations on these data, that can be easily performed on topof the computation of the input curves arrangement. The cgal arrangementpackage, completely redesigned for cgal 3.2 offers a very efficient implementa-tion. Moreover, vlsi inputs consist of very large data sets, which leads to theneed for improvements in the efficiency of the 2D circular kernel. We show inthis talk a variety of techniques from different nature that we tested to improvethe 2D circular kernel: bit-fields, number types optimizations, caching and ref-erence counting, representation of algebraic numbers, and geometric filtering.Experimental evidence of their impact is studied by benchmarking on real vlsiindustrial data. The techniques resulting in measurable improvements will beintegrated in cgal 3.3. (Joint work with Pedro M. M. de Castro and SylvainPion)

Rank computation for extremely big matricesAnna Urbanska (LMC, Universite Joseph Fourier)

In this presentation we report on the results of the computation of the Smithform and the rank for an exact sequence of 17 homology matrices. The sizeof matrices varies from 1×60 to 1,911,130×1,955,309. To compute the rank ofthis matrices several algorithms have been used as well as a large scale paral-lelization. We will present this methods and describe their drawbacks. We willalso present a method to reduce the exact sequence of matrices at a low cost,which can be beneficial in practice. This computational challenge was proposedto us by Philippe Elbaz-Vincent and is connected with the Voronoi cell complexcohomology computation.

Factorisation de series indicatrices de cycles en theorieenumeratrivee des groupes

Samuel-Alexandre Vidal (Universite de Lille 1)

Nous sommes parvenu a classifier les sous-groupes et les classes de conjugaisonde sous-groupes, dans le produit libre de deux groupes cycliques ou plus, au

21

moyens d’invariants combinatoires : divers sortes de diagrammes. Les exempleles plus standards de tels groupes sont, les groupes libres a n-generateurs, lesgroupes cartographiques, le groupe modulaire PSL2(Z). Fort de cette classi-fication nous avons obtenu un denombrement utilisant la theorie des especescombinatoires de Joyal, de ces divers sous groupes et surtout de leur classesde conjugaison. Ses denombrements ne sont pas tous nouveaux en effet pour lesgroupes libres, le nombre de sous-groupes et de leurs classes de conjugaison etaitconnu, pour le groupe modulaire et le groupe cartographique le nombre de sousgroupes etait connu, mais pas le nombre de leurs classes de conjugaison. C’estun denombrement non-etiquete qui necessite l’emploi de series de Joyal-Polya.Lesquelles dans cette situation, ont le bon gout de se factoriser un peu miracu-leusement ce qui permet un calcul rapide des coefficients. La methode doit segeneraliser sans peine.

α-theorie de la methode de Newton : cas des systemes analytiquessinguliers de dimension zero

Jean-Luc Volery (Universite de Toulouse 3)

In the univariate case, it is well-known since Schroder, that the rate of conver-gence of the Newton method is related to the multiplicity of the root. In the early60s, Louis B. Rall seems to prove that for simple singularities, the n-dimensionalcase must agree this situation in certain directions of space. We propose in thistalk an analysis of the convergence of Newton’s method in the frame of Smale’sα-theory developped in the 80s for regular systems of equations. Our approachis symbolic-numeric : in the first result we give an exact algebraic description,in terms of γ-quantities at the root whereas in the second, we focus on “how werich this idealistic situation...” from the numerical viewpoint.

Bases de Grobner dynamiques sur les anneaux de DedekindIhsen Yengui (Universite de Sfax)

Dans cet expose, je vais parler du probleme de Kronecker, a savoir le problemede l’appartenance a un ideal dans Z[X1, . . . , Xn]. Je vais donner un premier al-gorithme pour ce probleme base sur la factorisation complete des entiers en pro-duit de nombres premiers et la construction de base de Grobner sur les anneauxde valuation discrete. Afin d’eviter la factorisation complete, je presenterai unenouvelle notion de base de Grobner dynamique sur Z que je generaliserai pourun anneaux de Dedekind quelconque (non necessairement integre, Dedekind =arithmetique + noetherien).

Design et architecture du modeleur algebrique geometrique Axel

Julien Wintz (INRIA Sophia-Antipolis, projet Galaad)

La geometrie algebrique est un domaine particulierement etudie par des mathe-maticiens mais egalement utile aux etudiants, designers ou artistes. Ansi, lavisualisation et la modelisation d’objets geometriques a representation mathe-matique est un probleme d’interet. La geometrie algebrique est la plupart du

22

temps employee dans un grand nombre de domaines, conjointement a la geo-metrie algorithmique. D’un point de vue pragmatique, cette heterogeneite estdifficile a gerer : chaque domaine a ses principales librairies et la terminologievarie d’un domaine a l’autre. Faire coexister ces deux disciplines est un pro-bleme a part entiere. Le design d’une application utilisant de telles librairiesissues de domaines divers et varies pose quelques problemes. D’abord, ces librai-ries specifiques peuvent avoir beaucoup de dependances qui seraient heriteespar l’application. Ensuite, dans la mesure ou un concept peut avoir plusieurssemantiques differentes selon le domaine, l’application doit etre le denominateurcommun de toutes ces libraires, et ainsi, fournir une couche virtuelle et un moyende faire coexister le meme concept a travers les differentes librairies par le biaisd’un mecanisme de traduction. Ainsi, Axel choisit de fournir une abstractiondu type des objets afin de pouvoir embarquer plusieurs librairies et de les fairecommuniquer via cette couche virtuelle. Le modeleur peut ainsi etre vu commeune interface graphique aux donnees fournies et issues des librairies qu’il faitdialoguer. Ce dialogue implique l’etablissement d’un contrat entre l’applicationet ses librairies. D’un point de vue programmatoire, dans l’application, les ob-jets sont des classes virtuelles et les outils sont des methodes virtuelles. Dansla librarie, les objets sont parametres par leur representation et les algorithmessont parametres par les objets et leurs representations. Lier l’application avecses librairies consiste a fournir un code de glue. Un tel code ne fait fondamenta-lement rien si ce n’est le lien entre deux codes qui ne seraient pas compatiblessinon. Un plugin est alors compose d’un code de glue entre l’application et leslibrairies ansi que d’une version statique des libraries elles-meme. Ainsi, une ver-sion binaire du plugin peut etre distribuee independemment des librairies dontelle depend. Nous presenterons d’abord Axel en insistant sur son architecture.Nous presenterons ensuite Synaps et plus particulierement la maniere dont Sy-naps est liee a Axel par le biais de plugins, dont nous presenterons ensuitela structure puis la conception. Cette conception de plugins peut etre acheveede maniere directe ou indirecte. Dans la maniere directe, le dialogue entre l’ap-plication et la librairie est ecrit par le developpeur, alors que dans la maniereindirecte, une meta-description du plugin est utilisee pour sa generation. Nousfinirons par presenter quelques applications du logiciel Axel. La calcul de topo-logie etant primordial et omnipresent dans un modeleur, nous presenterons unexemple de calcul de topologie de courbes implicites utilisant la librairie Synapsdans le noyau algebrique d’Axel. Nous presenterons ensuite deux applicationsimportantes d’Axel que sont les calculs d’intersection et d’auto-intersection decourbes et surfaces. Enfin, nous presenterons une application du logiciel Axelau domaine de la botanie, avec la modelisation de feuilles de maıs par patchsde surfaces rationnelles pour la validation de modele et des calculs de plus hautniveau comme des intersections ou auto-intersections.

23

Arithmetique entiere

Paul Zimmermann∗

Our main topic here is integer arithmetic. However, we shall see that many al-gorithms for polynomial arithmetic are similar to the corresponding algorithmsfor integer arithmetic, but simpler due to the lack of carries in polynomial arith-metic. Consider for example addition: the sum of two polynomials of degree nalways has degree n at most, whereas the sum of two n-digit integers may haven + 1 digits. Thus we often describe algorithms for polynomials as an aid tounderstanding the corresponding algorithms for integers.

1 Representation and Notations

We consider here algorithms working on integers. We shall distinguish between the logical— or mathematical — representation of an integer, and its physical representation on acomputer.

Several physical representations are possible. We consider here only the most commonone, namely a dense representation in a fixed integral base. Choose a base β > 1. (In caseof ambiguity, β will be called the internal base.) A positive integer A is represented bythe length n and the digits ai of its base β expansion:

A = an−1βn−1 + · · ·+ a1β + a0,

where 0 ≤ ai ≤ β − 1, and an−1 is sometimes assumed to be non-zero. Since the baseβ is usually fixed in a given program, it does not need to be represented. Thus only thelength n and the integers (ai)0≤i<n need to be stored. Some common choices for β are 232

on a 32-bit computer, or 264 on a 64-bit machine; other possible choices are respectively109 and 1019 for a decimal representation, or 253 when using double precision floating-point registers. Most algorithms given in this chapter work in any base; the exceptions areexplicitly mentioned.

We assume that the sign is stored separately from the absolute value, which is knownas the “sign-magnitude” representation. Zero is an important special case; to simplify the

∗Ces notes pour les Journees Nationales de Calcul Formel 2007 sont largement inspirees du chapitre1 du livre Modern Computer Arithmetic en cours de redaction avec Richard Brent [1]. Plutot que de lestraduire en francais, j’ai prefere me concentrer sur le fond. Que le lecteur francophone et M. Toubonveuillent bien m’en excuser.

1

Journees Nationales de Calcul Formel, Luminy 2007 2

algorithms we assume that n = 0 if A = 0, and in most cases we assume that this case istreated separately.

Except when explicitly mentioned, we assume that all operations are off-line, i.e., allinputs (resp. outputs) are completely known at the beginning (resp. end) of the algorithm.Different models include lazy or on-line algorithms, and relaxed algorithms [6].

2 Addition and Subtraction

As an explanatory example, here is an algorithm for integer addition. In the algorithm, dis a carry bit.

1 Algorithm IntegerAddition .2 Input : A =

∑n−10 aiβ

i , B =∑n−1

0 biβi

3 Output : C :=∑n−1

0 ciβi and 0 ≤ d ≤ 1 such that A + B = dβn + C

4 d← 05 for i from 0 to n− 1 do6 s← ai + bi + d7 ci ← s mod β8 d← s div β9 Return C, d .

Let M be the number of different values taken by the data type representing thecoefficients ai, bi. (Clearly β ≤M but equality does not necessarily hold, e.g., β = 109 andM = 232.) At step 6, the value of s can be as large as 2β − 1, which is not representable ifβ = M . Several workarounds are possible: either use a machine instruction that gives thepossible carry of ai + bi; or use the fact that, if a carry occurs in ai + bi, then the computedsum — if performed modulo M — equals t := ai + bi −M < ai; thus comparing t andai will determine if a carry occurred. A third solution is to keep a bit in reserve, takingβ ≤ dM/2e.

The subtraction code is very similar. Step 6 simply becomes s ← ai − bi + d, whered ∈ 0,−1 is the borrow of the subtraction, and −β ≤ s < β (assuming mod gives anonnegative remainder). The other steps are unchanged.

Addition and subtraction of n-word integers costs O(n), which is negligible compared tothe multiplication cost. However, it is worth trying to reduce the constant factor implicit inthis O(n) cost; indeed, we shall see in §3 that “fast” multiplication algorithms are obtainedby replacing multiplications by additions (usually more additions than the multiplicationsthat they replace). Thus, the faster the additions are, the smaller the thresholds forchanging over to the “fast” algorithms will be.

Journees Nationales de Calcul Formel, Luminy 2007 3

3 Multiplication

A nice application of large integer multiplication is the Kronecker/Schonhage trick. As-sume we want to multiply two polynomials A(x) and B(x) with non-negative integer coef-ficients. Assume both polynomials have degree less than n, and coefficients are bounded byρ. Now take a power X = βk of the base β, X > nρ2, and multiply the integers a = A(X)and b = B(X) obtained by evaluating A and B at x = X. If C(x) = A(x)B(x) =

∑cix

i,we clearly have C(X) =

∑ciX

i. Now since the ci are bounded by nρ2 < X, the coefficientsci can be retrieved by simply “reading” blocks of k words in C(X).

Conversely, suppose we want to multiply two integers a =∑

0≤i<n aiβi and b =∑

0≤j<n bjβj. Multiply the polynomials A(x) =

∑0≤i<n aix

i and B(x) =∑

0≤j<n bjxj,

obtaining a polynomial C(x), then evaluate C(x) at x = β to obtain ab. Note that thecoefficients of C(x) may be larger than β, in fact they may be of order nβ2. These examplesdemonstrate the analogy between operations on polynomials and integers, and also showthe limits of the analogy.

3.1 Naive Multiplication

1 Algorithm BasecaseMultiply .2 Input : A =

∑m−10 aiβ

i , B =∑n−1

0 bjβj

3 Output : C = AB :=∑m+n−1

0 ckβk

4 C ← A · b0

5 for j from 1 to n− 1 do6 C ← C + βj(A · bj)7 Return C .

Theorem 3.1 Algorithm BasecaseMultiply correctly computes the product AB, anduses Θ(mn) word operations.

The multiplication by βj at step 6 is trivial with the chosen dense representation: it simplyrequires shifting by j words towards the most significant words. The main operation inalgorithm BasecaseMultiply is the computation of A · bj at step 6, which is accumulatedinto C. Since all fast algorithms rely on multiplication, the most important operation tooptimize in multiple-precision software is thus the multiplication of an array of m wordsby one word, with accumulation of the result in another array of m + 1 words.

Since multiplication with accumulation usually makes extensive use of the pipeline, itis best to give it arrays that are as long as possible, which means that A rather than Bshould be the operand of larger size (i.e., m ≥ n).

Journees Nationales de Calcul Formel, Luminy 2007 4

3.2 Karatsuba’s Algorithm

In the following, n0 ≥ 2 denotes the threshold between naive multiplication and Karat-suba’s algorithm, which is used for n0-word and larger inputs.

1 Algorithm KaratsubaMultiply .2 Input : A =

∑n−10 aiβ

i , B =∑n−1

0 bjβj

3 Output : C = AB :=∑2n−1

0 ckβk

4 i f n < n0 then re turn BasecaseMultiply(A,B)5 k ← dn/2e6 (A0, B0) := (A,B) mod βk , (A1, B1) := (A,B) div βk

7 sA ← sign(A0 −A1) , sB ← sign(B0 −B1)8 C0 ← KaratsubaMultiply(A0, B0)9 C1 ← KaratsubaMultiply(A1, B1)

10 C2 ← KaratsubaMultiply(|A0 −A1|, |B0 −B1|)11 Return C := C0 + (C0 + C1 − sAsBC2)βk + C1β

2k . Theorem 3.2 Algorithm KaratsubaMultiply correctly computes the product AB, usingK(n) = O(nα) word multiplications, with α = log2 3 ≈ 1.585.

Proof Since sA|A0 − A1| = A0 − A1, and similarly for B, sAsB|A0 − A1||B0 − B1| =(A0 − A1)(B0 −B1), thus C = A0B0 + (A0B1 + A1B0)β

k + A1B1β2k.

Since A0 and B0 have (at most) dn/2e words, and |A0−A1| and |B0−B1|, and A1 andB1 have bn/2c words, the number K(n) of word multiplications satisfies the recurrenceK(n) = n2 for n < n0, and K(n) = 2K(dn/2e) + K(bn/2c) for n ≥ n0. Assume 2l−1n0 ≤n ≤ 2ln0 with l ≥ 1, then K(n) is the sum of three K(j) values with j ≤ 2l−1n0, . . . , thusof 3l K(j) with j ≤ n0. Thus K(n) ≤ 3lmax(K(n0), (n0 − 1)2), which gives K(n) ≤ Cnα

with C = 31−log2 n0max(K(n0), (n0 − 1)2).

This variant of Karatsuba’s algorithm is known as the subtractive version. Differentvariants of Karatsuba’s algorithm exist. Another classical one is the additive version, whichuses A0 + A1 and B0 + B1 instead of |A0 − A1| and |B0 − B1|. However, the subtractiveversion is more convenient for integer arithmetic, since it avoids the possible carries inA0 +A1 and B0 +B1, which require either an extra word in those sums, or extra additions.

The “Karatsuba threshold” n0 can vary from 10 to 100 words depending on the pro-cessor, and the relative efficiency of the word multiplication and addition.

The efficiency of an implementation of Karatsuba’s algorithm depends heavily on mem-ory usage. It is quite important to avoid allocating memory for the intermediate results|A0 − A1|, |B0 − B1|, C0, C1, and C2 at each step (however modern compilers are quitegood at optimising code and removing unnecessary memory references). One possiblesolution is to allow a large temporary storage of m words, that will be used both for thoseintermediate results and for the recursive calls. It can be shown that an auxiliary space ofm = 2n words is sufficient.

Journees Nationales de Calcul Formel, Luminy 2007 5

Since the third product C2 is used only once, it may be faster to have two auxiliary rou-tines KaratsubaAddmul and KaratsubaSubmul that accumulate their result, callingthemselves recursively, together with KaratsubaMultiply.

The above version uses ∼ 4n additions (or subtractions): 2× n2

to compute |A0 − A1|and |B0 − B1|, then n to add C0 and C1, again n to add or subtract C2, and n to add(C0 + C1 − sAsBC2)β

k to C0 + C1β2k. An improved scheme uses only ∼ 7

2n additions.

Most fast multiplication algorithms can be viewed as evaluation/interpolation algo-rithms, from a polynomial point of view. Karatsuba’s algorithm regards the inputs aspolynomials A0 + A1x and B0 + B1x evaluated in x = βk; since their product C(x) is ofdegree 2, Lagrange’s interpolation theorem says that it is sufficient to evaluate it at threepoints. The subtractive version evaluates C(x) at x = 0,−1,∞, whereas the additiveversion uses x = 0, +1,∞.1

3.3 Toom-Cook Multiplication

The above idea readily generalizes to what is known as Toom-Cook r-way multiplication.Write the inputs as a0 + · · ·+ar−1x

r−1 and b0 + · · ·+br−1xr−1, with x← βk, and k = dn/re.

Since their product C(x) is of degree 2r − 2, it suffices to evaluate it at 2r − 1 distinctpoints to be able to recover C(x), and in particular C(βk).

Most books, for example [3], when describing subquadratic multiplication algorithms,only describe Karatsuba and FFT-based algorithms. Nevertheless, the Toom-Cook algo-rithm is quite interesting in practice.

Toom-Cook r-way reduces one n-word product to 2r − 1 products of dn/re words.

This gives an asymptotic complexity of O(nν) with ν = log(2r−1)log r

. However, the con-stant hidden by the big-O notation depends strongly on the evaluation and interpola-tion formulæ, which in turn depend on the chosen points. One possibility is to take−(r − 1), . . . ,−1, 0, 1, . . . , (r − 1) as evaluation points.

The case r = 2 corresponds to Karatsuba’s algorithm (§3.2). The case r = 3 is knownas Toom-Cook 3-way; sometimes people simply say “Toom-Cook algorithm” for r = 3.The following algorithm uses evaluation points 0, 1,−1, 2,∞, and tries to optimize theevaluation and interpolation formulæ.

The divisions at step 11 are exact2: if β is a power of two, that by 6 can be done by adivision by 2 — which consists of a single shift — followed by a division by 3.

We refer the reader interested in higher order Toom-Cook implementations to [8], whichconsiders the 4- and 5-way variants, and also squaring. Toom-Cook r-way has to inverta (2r − 1) × (2r − 1) Vandermonde matrix with parameters the evaluation points; if onechooses consecutive integer points, the determinant of that matrix contains all primes upto 2r − 2. This proves that the division by 3 can not be avoided for Toom-Cook 3-waywith consecutive integer points.

1Evaluating C(x) at ∞ means computing the product A1B1 of the leading coefficients.2An exact division can be performed from the least significant bits, which is usually more efficient: see

§4.5.

Journees Nationales de Calcul Formel, Luminy 2007 6

1 Algorithm ToomCook3 .2 Input : two i n t e g e r s 0 ≤ A,B < βn .3 Output : AB := c0 + c1β

k + c2β2k + c3β

3k + c4β4k with k = dn/3e .

4 i f n < 3 then re turn KaratsubaMultiply(A,B)5 Write A = a0 + a1x + a2x

2 , B = b0 + b1x + b2x2 with x = βk .

6 v0 ← ToomCook3(a0, b0)7 v1 ← ToomCook3(a02 + a1, b02 + b1) where a02 ← a0 + a2, b02 ← b0 + b2

8 v−1 ← ToomCook3(a02 − a1, b02 − b1)9 v2 ← ToomCook3(a0 + 2a1 + 4a2, b0 + 2b1 + 4b2)

10 v∞ ← ToomCook3(a2, b2)11 t1 ← (3v0 + 2v−1 + v2)/6− 2v∞ , t2 ← (v1 + v−1)/212 c0 ← v0 , c1 ← v1 − t1 , c2 ← t2 − v0 − v∞ , c3 ← t1 − t2 , c4 ← v∞

3.4 Fast Fourier Transform

Most subquadratic multiplication algorithms can be seen as evaluation-interpolation algo-rithms. They mainly differ in the number of evaluation points, and the values of thosepoints. However the evaluation and interpolation formulæ become intricate in Toom-Cookr-way for large r, since they involve O(r2) scalar operations. The Fast Fourier Transform(FFT) is a way to perform evaluation and interpolation in an efficient way for some specialvalues of r. This explains why multiplication algorithms of best asymptotic complexity arebased on the Fast Fourier Transform.

There are different flavours of FFT multiplication, depending on the ring where the op-erations are performed. The asymptotically best algorithm, due to Schonhage-Strassen [4],with a complexity of O(n log n log log n), works in the ring Z/(2n + 1)Z.

Another method commonly used is to work with floating-point complex numbers [2,Section 4.3.3.C]; one drawback is that, due to the inexact nature of floating-point computa-tions, a careful error analysis is required to guarantee the correctness of the implementation,assuming an underlying arithmetic with rigorous error bounds.

3.5 Unbalanced Multiplication

How to efficiently multiply integers of different sizes with a subquadratic algorithm? Thiscase is important in practice but is rarely considered in the literature. Assume the largeroperand has size m, and the smaller has size n, with m ≥ n.

When m is an exact multiple of n, say m = kn, a trivial strategy is to cut the largeroperand into k pieces, giving M(kn, n) = kM(n) +O(kn). However, this is not always thebest strategy:

Consider first k = 2. In the FFT range, the trivial strategy costs 2M(n),whereas the strategy which performs one 2n × n product using a FFT of size3n, which is equivalent to a 3

2n × 3

2n product, costs M(3

2n) ≈ 3

2M(n). In

Journees Nationales de Calcul Formel, Luminy 2007 7

general the trivial strategy costs kM(n), whereas the “big-FFT” strategy costsk+12

M(n).

When m is not an exact multiple of n, different strategies are possible. Consider forexample Karatsuba multiplication, and let K(m, n) be the number of word-products foran m× n product. Take for example m = 5, n = 3. A natural idea is to pad the smallestoperand to the size of the largest one. However there are several ways to perform thispadding, the Karatsuba cut being represented by a double column:

a4 a3 a2 a1 a0

b2 b1 b0

A×B

a4 a3 a2 a1 a0

b2 b1 b0

A× (βB)

a4 a3 a2 a1 a0

b2 b1 b0

A× (β2B)

The first strategy leads to two products of size 3 i.e., 2K(3, 3), the second one to K(2, 1)+K(3, 2)+K(3, 3), and the third one to K(2, 2)+K(3, 1)+K(3, 3), which give respectively14, 15, 13 word products.

However, whenever m/2 ≤ n ≤ m, any such “padding strategy” requires K(dm/2e, dm/2e)for the product of the differences (or sums) of the low and high parts from the operands,due to a “wrap around” effect when subtracting the parts from the smaller operand; thiswill ultimately lead to a cost similar to that of a m×m product. The “odd-even strategy”avoids this wrap around:

In Karatsuba’s algorithm, instead of splitting the operands in high and lowparts, one can split them in odd and even part. Considering the inputs aspolynomials A(β) and B(β), this corresponds to writing A(t) = A0(t

2)+tA1(t2).

This is known as the “odd-even” scheme. Design an algorithm UnbalancedKaratsuba

using that scheme. Show that its complexity satisfies K(m, n) = 2K(dm/2e, dn/2e)+K(bm/2c, bn/2c).

For example, we get K(3, 2) = 5 with the odd-even strategy; compare K(3, 2) = 6 for theclassical strategy.

As for the classical strategy, there are several ways of padding with the odd-even strat-egy. Consider again m = 5, n = 3, and write A := a4x

4 + a3x3 + a2x

2 + a1x + a0 =xA1(x

2)+A0(x2), with A1(x) = a3x+a1, A0(x) = a4x

2+a2x+a0; and B := b2x2+b1x+b0 =

xB1(x2) + B0(x

2), with B1(x) = b1, B0(x) = b2x + b0. Without padding, we writeAB = x2(A1B1)(x

2)+x((A0 +A1)(B0 +B1)−A1B1−A0B0)(x2)+(A0B0)(x

2), which givesK(5, 3) = K(2, 1) + 2K(3, 2) = 12. With padding, we consider xB = xB′

1(x2) + B′

0(x2),

with B′1(x) = b2x + b0, B′

0 = b1x. This gives K(2, 2) = 3 for A1B′1, K(3, 2) = 5 for

(A0 + A1)(B′0 + B′

1), and K(3, 1) = 3 for A0B′0 — taking into account the fact that B′

0 hasonly one non-zero coefficient — thus a total of 11 only.

3.6 Squaring

In many applications, a significant proportion of the multiplications have both operandsequal. Hence it is worth tuning a special squaring implementation as much as the im-

Journees Nationales de Calcul Formel, Luminy 2007 8

plementation of multiplication itself, bearing in mind that the best possible speedup istwo.

For naive multiplication, Algorithm BasecaseMultiply (§3.1) can be modified to ob-tain a theoretical speedup of two, since only half of the products aibj need to be computed.

Subquadratic algorithms like Karatsuba and Toom-Cook r-way can be specialized forsquaring too. However, the threshold obtained is larger than the corresponding multipli-cation threshold.

4 Division

Division is the next operation to consider after multiplication. Optimizing division isalmost as important as optimizing multiplication, since division is usually more expensive,thus the speedup obtained on division will be more significant. (On the other hand, oneusually performs more multiplications than divisions.) One strategy is to avoid divisionswhen possible, or replace them by multiplications. An example is when the same divisoris used for several consecutive operations; one can then precompute its inverse.

We distinguish several kinds of division: full division computes both quotient andremainder, while in some cases only the quotient (for example when dividing two floating-point mantissas) or remainder (when multiplying two residues modulo n) is needed. Finallywe discuss exact division — when the remainder is known to be zero.

4.1 Naive Division

In all divisions algorithms, we will consider normalized divisors. We say that B :=∑n−10 bjβ

j is normalized when its most significant word bn−1 satisfies bn−1 ≥ β/2. This isa stricter condition (except when β = 2) than simply requiring that bn−1 be nonzero.

1 Algorithm BasecaseDivRem .2 Input : A =

∑n+m−10 aiβ

i , B =∑n−1

0 bjβj , B normal ized

3 Output : quot i ent Q and remainder R of A div ided by B .4 i f A ≥ βmB then qm ← 1 , A← A− βmB else qm ← 05 for j from m− 1 downto 0 do6 q∗j ← b(an+jβ + an+j−1)/bn−1c7 qj ← min(q∗j , β − 1)8 A← A− qjβ

jB9 while A < 0 do

10 qj ← qj − 111 A← A + βjB12 Return Q =

∑m0 qjβ

j , R = A . (Note: in the above algorithm, ai denotes the current value of the ith word of A, after thepossible changes at steps 8 and 11.)

Journees Nationales de Calcul Formel, Luminy 2007 9

If B is not normalized, we can compute A′ = 2kA and B′ = 2kB so that B′ is normalized,then divide A′ by B′ giving A′ = Q′B′ + R′; the quotient and remainder of the division ofA by B are respectively Q := Q′ and R := R′/2k, the latter division being exact.

Theorem 4.1 Algorithm BasecaseDivRem correctly computes the quotient and remain-der of the division of A by a normalized B, in O(nm) word operations.

Proof First prove that the invariant A < βj+1B holds at step 5. This holds trivially forj = m− 1: B being normalized, A < 2βmB initially.

First consider the case qj = q∗j : then qjbn−1 ≥ an+jβ + an+j−1 − bn−1 + 1, thus

A− qjβjB ≤ (bn−1 − 1)βn+j−1 + (A mod βn+j−1),

which ensures that the new an+j vanishes, and an+j−1 < bn−1, thus A < βjB after step 8.Now A may become negative after step 8, but since qjbn−1 ≤ an+jβ + an+j−1 :

A− qjβjB > (an+jβ + an+j−1)β

n+j−1 − qj(bn−1βn−1 + βn−1)βj ≥ −qjβ

n+j−1.

Therefore A−qjβjB +2βjB ≥ (2bn−1−qj)β

n+j−1 > 0, which proves that the while-loop atsteps 9-11 is performed at most twice [2, Theorem 4.3.1.B]. When the while-loop is entered,A may increase only by βjB at a time, hence A < βjB at exit.

In the case qj 6= q∗j , i.e., q∗j ≥ β, we have before the while-loop: A < βj+1B − (β −1)βjB = βjB, thus the invariant holds. If the while-loop is entered, the same reasoning asabove holds.

We conclude that when the for-loop ends, 0 ≤ A < B holds, and since (∑m−1

j qiβi)B+A

is invariant through the algorithm, the quotient Q and remainder R are correct.The most expensive step is step 8, which costs O(n) operations for qjB (the multipli-

cation by βj is simply a word-shift), thus the total cost is O(nm).

Here is an example of algorithm BasecaseDivRem for the inputs A = 766970544842443844and B = 862664913, with β = 1000:

j A qj A− qjBβj after correction2 766 970 544 842 443 844 889 61 437 185 443 844 no change1 61 437 185 443 844 071 187 976 620 844 no change0 187 976 620 844 218 −84 330 190 778 334 723

which gives as quotient Q = 889071217 and as remainder R = 778334723.Remark 1: Algorithm BasecaseDivRem simplifies when A < βmB: remove step 4, andchange m into m − 1 in the return value Q. However, the more general form we give ismore convenient for a computer implementation, and will be used below.Remark 2: a possible variant when q∗j ≥ β is to let qj = β; then A − qjβ

jB at step 8reduces to a single subtraction of B shifted by j +1 words. However in this case the while-loop will be performed at least once, which corresponds to the identity A− (β − 1)βjB =A− βj+1B + βjB.

Journees Nationales de Calcul Formel, Luminy 2007 10

Remark 3: if instead of having B normalized, i.e., bn ≥ β/2, we have bn ≥ β/k, one canhave up to k iterations of the while-loop (and step 4 has to be modified accordingly).Remark 4: a drawback of algorithm BasecaseDivRem is that the A < 0 test at line 9is true with non-negligible probability, therefore branch prediction algorithms available onmodern processors will fail, resulting in wasted cycles. A workaround is to compute a moreaccurate partial quotient, for example with a division of 3 words by 2 words at step 6, andtherefore decrease the proportion of corrections almost to zero.

4.2 Divisor Preconditioning

It sometimes happens that the quotient selection — step 6 of algorithm BasecaseDivision— is quite expensive compared to the total cost, especially for small sizes. Indeed, someprocessors do not have a machine instruction for the division of two words by one word;then one way to compute q∗j is to precompute a one-word approximation of the inverse ofbn−1, and to multiply it by an+jβ + an+j−1.

Svoboda’s algorithm [5] makes the quotient selection trivial, after preconditioning thedivisor. The main idea is that if bn−1 equals the base β, then the quotient selection is easy,since it suffices to take q∗j = an+j. (In addition, q∗j ≤ β − 1 is then always fulfilled, thusstep 7 can be avoided, and q∗j replaced by qj.)

1 Algorithm SvobodaDivision .2 Input : A =

∑n+m−10 aiβ

i , B =∑n−1

0 bjβj normalized , A < βmB

3 Output : quot i ent Q and remainder R of A div ided by B .4 k ← dβn+1/Be5 B′ ← kB = βn+1 +

∑n−10 b′jβ

j

6 for j from m− 1 downto 1 do7 qj ← an+j

8 A← A− qjβj−1B′

9 i f A < 0 do10 qj ← qj − 111 A← A + βj−1B′

12 Q′ =∑m−1

1 qjβj , R′ = A

13 (q0, R)← (R′ div B,R′ mod B)14 Return Q = q0 + kQ′ , R .

The division at step 13 can be performed with BasecaseDivRem; it gives a single wordsince A has n + 1 words.

With the example of section §4.1, Svoboda’s algorithm would give k = 1160, B′ =1000691299080,

j A qj A− qjB′βj after correction

2 766 970 544 842 443 844 766 441 009 747 163 844 no change1 441 009 747 163 844 441 −295 115 730 436 705 575 568 644

Journees Nationales de Calcul Formel, Luminy 2007 11

We thus get Q′ = 766440 and R′ = 705575568644. The final division gives R′ = 817B +778334723, thus we get Q = 1160 · 766440 + 817 = 889071217, and R = 778334723.

Svoboda’s algorithm is especially interesting when only the remainder is needed, sinceone then avoids the post-normalization Q = q0 +kQ′ (or when only the quotient is needed,by dividing A′ = kA by B′ = kB).

4.3 Divide and Conquer Division

The base-case division determines the quotient word by word. A natural idea is to try get-ting several words at a time, for example replacing the quotient selection step in AlgorithmBasecaseDivRem by:

q∗j ← ban+jβ

3 + an+j−1β2 + an+j−2β + an+j−3

bn−1β + bn−2

c.

Then since q∗j has now two words, one can use fast multiplication algorithms (§3) to speedup the computation of qjB at step 8 of Algorithm BasecaseDivRem.

More generally, the most significant half of the quotient — say Q1, of k words —depends mainly on the k most significant words of the dividend and divisor. Once a goodapproximation to Q1 is known, fast multiplication algorithms can be used to compute thepartial remainder A−Q1B. The second idea of the divide and conquer division algorithmbelow is to compute the corresponding remainder together with the partial quotient (Q1

here); in such a way, we only have to subtract the product of Q1 by the low part of thedivisor.

1 Algorithm RecursiveDivRem .2 Input : A =

∑n+m−10 aiβ

i , B =∑n−1

0 bjβj , B normalized , n ≥ m

3 Output : quot i ent Q and remainder R of A div ided by B .4 i f m < 2 then re turn BasecaseDivRem(A,B)5 k ← bm2 c , B1 ← B div βk , B0 ← B mod βk

6 (Q1, R1)← RecursiveDivRem(A div β2k, B1)7 A′ ← R1β

2k + A mod β2k −Q1βkB0

8 while A′ < 0 do Q1 ← Q1 − 1 , A′ ← A′ + βkB9 (Q0, R0)← RecursiveDivRem(A′ div βk, B1)

10 A′′ ← R0βk + A′ mod βk −Q0B0

11 while A′′ < 0 do Q0 ← Q0 − 1 , A′′ ← A′′ + B12 Return Q := Q1β

k + Q0 , R := A′′ . Remark 1: we may replace the condition m < 2 at step 4 by m < T for any integerT ≥ 2. In practice, T may be in the range 50 to 200 words.Remark 2: we can not require here A < βmB, since this condition may not be satisfiedin the recursive calls. Consider for example A = 5517, B = 56 with β = 10: the firstrecursive call will divide 55 by 5, which yields a two-digit quotient 11. Even A ≤ βmB is

Journees Nationales de Calcul Formel, Luminy 2007 12

not recursively fulfilled; consider A = 55170000 with B = 5517: the first recursive call willdivide 5517 by 55.

Theorem 4.2 Algorithm RecursiveDivRem is correct, and uses D(m, n) operations,where D(2m, n) = 2D(m, n−m)+2M(m)+O(n). In particular D(n) := D(n, n) satisfiesD(2n) = 2D(n) + 2M(n) + O(n), which gives D(n) ∼ 1

2α−1−1M(n) for M(n) ∼ nα, α > 1.

Proof We first check the assumption for the recursive calls: B1 is normalized since it hasthe same most significant word than B.

After step 6, we have A = (Q1B1 + R1)β2k + A mod β2k, thus after step 7: A′ =

A − Q1βkB, which still holds after step 8. After step 9, we have A′ = (Q0B1 + R0)β

k +A′ mod βk, thus after step 10: A′′ = A′ −Q0B, which still holds after step 11. At step 12we thus have A = QB + R.

A div β2k has m + n− 2k words, while B1 has n− k words, thus 0 ≤ Q1 < 2βm−k and0 ≤ R1 < B1 < βn−k. Thus at step 7, −2βm+k < A′ < βkB. Since B is normalized, thewhile-loop at step 8 is performed at most four times. At step 9 we have 0 ≤ A′ < βkB,thus A′ div βk has at most n words. It follows 0 ≤ Q0 < 2βk and 0 ≤ R0 < B1 < βn−k.Hence at step 10, −2β2k < A′′ < B, and after at most four step 11 iterations, we have0 ≤ A′′ < B.

Remark 3: Theorem 4.2 gives D(n) ∼ 2M(n) for Karatsuba multiplication, and D(n) ∼2.63M(n) for Toom-Cook 3-way.Remark 4: to decrease the probability that the estimated quotients Q1 and Q0 are toolarge, one may use one extra word of the truncated dividend and divisors in the recursivecalls to RecursiveDivRem.

A graphical view of Algorithm RecursiveDivRem in the case m = 2n is given onFig. 1, which represents the multiplication Q ·B: one firstly computes the lower left cornerin D(n/2) (step 6), secondly the lower right corner in M(n/2) (step 7), thirdly the upperleft corner in D(n/2) (step 9), and finally the upper right corner in M(n/2) (step 10).

4.3.1 Unbalanced Division

The condition n ≥ m in Algorithm RecursiveDivRem means that the dividend A is atmost twice as large as the divisor B.

When A is more than twice as large as B (m > n with the above notations), a possiblestrategy computes n words of the quotient at a time (this simply reduces to the base-casealgorithm, replacing β by βn).

4.4 Newton’s Division

Newton’s iteration gives the division algorithm with best asymptotic complexity. Onebasic component of Newton’s iteration is the computation of an approximate inverse. Thep-adic version of Newton’s method, also called Hensel lifting, is used in §4.5 for the exactdivision.

Journees Nationales de Calcul Formel, Luminy 2007 13

quotient Q

divisor B

M(n/2)

M(n/2)

M(n/4)

M(n/4)

M(n/4)

M(n/4)

M(n8)

M(n8)

M(n8)

M(n8)

M(n8)

M(n8)

M(n8)

M(n8)

Figure 1: Divide and conquer division: a graphical view (most significant parts at thelower left corner).

1 Algorithm UnbalancedDivision .2 Input : A =

∑n+m−10 aiβ

i , B =∑n−1

0 bjβj .

3 Output : quot i ent Q and remainder R of A div ided by B .4 Assumptions : m > n , B normal ized .5 Q← 06 while m > n do7 (q, r)← RecursiveDivRem(A div βm−n, B)8 Q← Qβn + q9 A← rβm−n + A mod βm−n

10 m← m− n11 (q, r)← RecursiveDivRem(A,B)12 Return Q := Qβm + q , R := r .

Journees Nationales de Calcul Formel, Luminy 2007 14

4.5 Exact Division

A division is exact when the remainder is zero. This happens for example when normalizinga fraction a/b: one divides both a and b by their greatest common divisor, and bothdivisions are exact. If the remainder is known a priori to be zero, this information is usefulto speed up the computation of the quotient. Two strategies are possible:

• use classical division algorithms (most significant bits first), without computing thelower part of the remainder. Here, one has to take care of rounding errors, in orderto guarantee the correctness of the final result;

• or start from least significant bits first. Indeed, if the quotient is known to be lessthan βn, computing a/b mod βn will reveal it.

In both strategies, subquadratic algorithms can be used too. We describe here the leastsignificant bit algorithm, using Hensel lifting — which can be seen as a p-adic version ofNewton’s method:

1 Algorithm ExactDivision .2 Input : A =

∑n−10 aiβ

i , B =∑n−1

0 bjβj

3 Output : quot i ent Q = A/B mod βn

4 C ← 1/b0 mod β5 for i from dlog2 ne − 1 downto 1 do6 k ← dn/2ie7 C ← C + C(1−BC) mod βk

8 Q← AC mod βk

9 Q← Q + C(A−BQ) mod βn Remark: This algorithm uses the Karp-Markstein trick: lines 4-7 compute 1/B modβdn/2e, while the two last lines incorporate the dividend to obtain A/B mod βn. Note thatthe middle product can be used in lines 7 and 9, to speed up the computation of 1 − BCand A−BQ respectively.

Finally, another gain is obtained using both strategies simultaneously: compute themost significant n/2 bits of the quotient using the first (MSB) strategy, and the least n/2bits using the second (LSB) one. Since an exact division of size n is replaced by two exactdivisions of size n/2, this gives a speedup up to 2 for quadratic algorithms.

4.6 Only Quotient or Remainder Wanted

When both the quotient and remainder of a division are needed, it is best to computethem simultaneously. This may seem to be a trivial statement, nevertheless some high-level languages provide both div and mod, but no single instruction to compute bothquotient and remainder.

Journees Nationales de Calcul Formel, Luminy 2007 15

Once the quotient is known, the remainder can be recovered by a single multiplicationas a− qb; on the other hand, when the remainder is known, the quotient can be recoveredby an exact division as (a− r)/b (§4.5).

However, it often happens that only one of the quotient and remainder is needed.For example, the division of two floating-point numbers reduces to the quotient of theirfractions. Conversely, the multiplication of two numbers modulo n reduces to the remainderof their product after division by n. In such cases, one may wonder if faster algorithmsexist.

For a dividend of 2n words and a divisor of n words, a significant speedup — up totwo for quadratic algorithms — can be obtained when only the quotient is needed, sinceone does not need to update the low n bits of the current remainder (line 8 of AlgorithmBasecaseDivRem).

Surprisingly, it seems difficult to get a similar speedup when only the remainder isrequired. One possibility is to use Svoboda’s algorithm, but this requires some precom-putation, so is only useful when several divisions are performed with the same divisor.The idea is the following: precompute a multiple B1 of B, having 3n/2 words, the n/2most significant words being βn/2. Then reducing A mod B1 reduces to a single n/2 × nmultiplication. Once A is reduced into A1 of 3n/2 words by Svoboda’s algorithm in2M(n/2), use RecursiveDivRem on A1 and B, which costs D(n/2) + M(n/2). The to-tal cost is thus 3M(n/2) + D(n/2), instead of 2M(n/2) + 2D(n/2) for a full division withRecursiveDivRem. This gives 5

3M(n) for Karatsuba and 2.04M(n) for Toom-Cook 3-way.

4.7 Hensel’s Division

Classical division consists in cancelling the most significant part of the dividend by amultiple of the divisor, while Hensel’s division cancels the least significant part (Fig. 2).Given a dividend A of 2n words and a divisor B of n words, the classical or MSB (most

A

B

QB

R

A

B

Q′B

R′

Figure 2: Classical/MSB division (left) vs Hensel/LSB division (right).

significant bit) division computes a quotient Q and a remainder R such that A = QB +R,while Hensel’s or LSB (least significant bit) division computes a LSB-quotient Q′ and aLSB-remainder R′ such that A = Q′B + R′βn. While the MSB division requires the most

Journees Nationales de Calcul Formel, Luminy 2007 16

significant bit of B to be set, the LSB division requires B to be relatively prime to theword base β, i.e., the least significant bit of B to be set for β a power of two.

The LSB-quotient is uniquely defined by Q′ = A/B mod βn, with 0 ≤ Q′ < βn. Thisin turn uniquely defines the LSB-remainder R′ = (A−Q′B)β−n, with −B < R′ < βn.

Most MSB-division variants (naive, with preconditioning, divide and conquer, Newton’siteration) have their LSB-counterpart. For example the preconditioning consists in usinga multiple of the divisor such that kB ≡ 1 mod β, and Newton’s iteration is called Hensellifting in the LSB case. The exact division algorithm described at the end of §4.5 uses bothMSB- and LSB-division simultaneously. One important difference is that LSB-division doesnot need any correction step, since the carries go in the direction opposite to the cancelledbits.

5 Roots

5.1 Square Root

The “paper and pencil” method once taught at school to extract square roots is very similarto “paper and pencil” division. It decomposes an integer m in the form s2 + r, taking twodigits at a time of m, and finding one digit at a time of s. It is based on the following idea:if m = s2 + r is the current decomposition, when taking two more digits of the root-end,we have a decomposition of the form 100m + r′ = 100s2 + 100r + r′ with 0 ≤ r′ < 100.Since (10s+ t)2 = 100s2 +20st+ t2, a good approximation to the next digit t can be foundby dividing 10r by 2s.

Algorithm SqrtRem generalizes this idea to a power βl of the internal base close tom1/4: one obtains a divide and conquer algorithm, which is in fact an error-free variant ofNewton’s method.

1 Algorithm SqrtRem .2 Input : m = an−1β

n−1 + · · ·+ a1β + a0 with an−1 6= 03 Output : (s, r) such that s2 ≤ m = s2 + r < (s + 1)2

4 l← bn−14 c

5 i f l = 0 then re turn BasecaseSqrtRem(m)6 wr i t e m = a3β

3l + a2β2l + a1β

l + a0 with 0 ≤ a2, a1, a0 < βl

7 (s′, r′)← SqrtRem(a3βl + a2)

8 (q, u)← DivRem(r′βl + a1, 2s′)9 s← s′βl + q

10 r ← uβl + a0 − q2

11 i f r < 0 then12 r ← r + 2s− 113 s← s− 114 Return (s, r)

Journees Nationales de Calcul Formel, Luminy 2007 17

Theorem 5.1 Algorithm SqrtRem correctly returns the integer square root s and remain-der r of the input m, and has complexity R(2n) ∼ R(n) + D(n) + S(n) where D(n) andS(n) are the complexities of the division with remainder and square respectively. This givesR(n) ∼ 1

2n2 with naive multiplication, R(n) ∼ 4

3K(n) with Karatsuba’s multiplication, and

R(n) ∼ 316M(n) with FFT multiplication, assuming S(n) ∼ 2

3M(n).

5.2 Exact Root

When a k-th root is known to be exact, there is of course no need to compute exactly thefinal remainder in the “exact root” algorithms shown above, which saves some computationtime. However one has to check that the remainder is sufficiently small that the computedroot is correct.

When a root is known to be exact, one may also try to compute it starting from theleast significant bits, as for exact division. Indeed, if sk = n, then sk = n mod βl for anyinteger l. However, in the case of exact division, the equation a = qb mod βl has only onesolution q as soon as b is relatively prime to β. Here, the equation sk = n mod βl mayhave several solutions, so the lifting process is not unique. For example, x2 = 1 mod 23

has four solutions.Suppose we have sk = n mod βl, and we want to lift to βl+1. We want (s + tβl)k =

n + n′βl mod βl+1 where 0 ≤ t, n′ < β. Thus kt = n′ + n−sk

βl mod β. This equation has aunique solution t when k is relatively prime to β. For example we can extract cube rootsin this way for β a power of two. When k is relatively prime to β, we can also compute theroot simultaneously from the most significant and least significant ends, as for the exactdivision.

5.2.1 Unknown exponent.

Assume now that one wants to check if a given integer n is an exact power, without knowingthe corresponding exponent. For example, many factorization algorithms fail when givenan exact power, therefore this case has to be checked first. The following algorithm detectsexact powers, and returns the largest exponent. To early detect non-kth powers at step 5,

1 Algorithm IsPower .2 Input : a p o s i t i v e i n t e g e r n .3 Output : k when n i s an exact kth power , false otherwi se .4 for k from blog2 nc downto 2 do5 i f n i s a kth power , r e turn k6 Return false .

one may use modular algorithms when k is relatively prime to the base β (see above).Remark: in the above algorithm, one can limit the search to prime exponents k.

Journees Nationales de Calcul Formel, Luminy 2007 18

6 Gcd

Many algorithms computing gcds may be found in the literature. We can distinguishbetween the following (non-exclusive) types:

• left-to-right versus right-to-left algorithms: in the former the actions depend on themost significant bits, while in the latter the actions depend on the least significantbits;

• naive algorithms: these O(n2) algorithms consider one word of each operand at atime, trying to guess from them the first quotients; we count in this class algorithmsconsidering double-size words, namely Lehmer’s algorithm and Sorenson’s k-ary re-duction in the left-to-right and right-to-left cases respectively; algorithms not in thatclass consider a number of words that depends on the input size n, and are oftensubquadratic;

• subtraction-only algorithms: these algorithms trade divisions for subtractions, at thecost of more iterations;

• plain versus extended algorithms: the former just compute the gcd of the inputs,while the latter express the gcd as a linear combination of the inputs.

6.1 Naive Gcd

We do not give Euclid’s algorithm here: it can be found in many textbooks, e.g., Knuth [2],and we do not recommend it in its simplest form, except for testing purposes. Indeed, itis one of the slowest ways to compute a gcd, except for very small inputs.

Double-Digit Gcd. A first improvement comes from Lehmer’s observation: the first fewquotients in Euclid’s algorithm usually can be determined from the two most significantwords of the inputs. This avoids expensive divisions that give small quotients most ofthe time (see Knuth [2, §4.5.3]). Consider for example a = 427, 419, 669, 081 and b =321, 110, 693, 270 with 3-digit words. The first quotients are 1, 3, 48, . . . Now if we considerthe most significant words, namely 427 and 321, we get the quotients 1, 3, 35, . . .. If westop after the first two quotients, we see that we can replace the initial inputs by a− b and−3a + 4b, which gives 106, 308, 975, 811 and 2, 183, 765, 837.

Lehmer’s algorithm determines cofactors from the most significant words of the inputintegers. Those cofactors usually have size only half a word. The DoubleDigitGcd algo-rithm — which should be called “double-word” instead — uses the two most significantwords instead, which gives cofactors t, u, v, w of one full-word. This is optimal for thecomputation of the four products ta, ub, va, wb. With the above example, if we consider427, 419 and 321, 110, we find that the first five quotients agree, so we can replace a, b by−148a + 197b and 441a− 587b, i.e., 695, 550, 202 and 97, 115, 231.

Journees Nationales de Calcul Formel, Luminy 2007 19

1 Algorithm DoubleDigitGcd .2 Input : a := an−1β

n−1 + · · ·+ a0 , b := bm−1βm−1 + · · ·+ b0 , an−1, bm−1 6= 0 .

3 Output : gcd(a, b) .4 i f b = 0 then re turn a5 i f m < 2 then re turn BasecaseGcd(a, b)6 i f a < b or n > m then re turn DoubleDigitGcd(b, a mod b)7 (t, u, v, w)← HalfBezout(an−1β + an−2, bn−1β + bn−2)8 Return DoubleDigitGcd(|ta + ub|, |va + wb|) .

The subroutine HalfBezout takes as input two 2-word integers, performs Euclid’s algo-rithm until the smallest remainder fits in one word, and returns the corresponding matrix(

t uv w

).

Binary Gcd. A better algorithm than Euclid’s one, still with an O(n2) complexity, isthe binary algorithm. It differs from Euclid’s algorithm in two ways: firstly it considerleast significant bits first, and secondly it avoids expensive divisions, which most of thetime give a small quotient.

1 Algorithm BinaryGcd .2 Input : a, b > 0 .3 Output : gcd(a, b) .4 i← 05 while a mod 2 = b mod 2 = 0 do6 (i, a, b)← (i + 1, a/2, b/2)7 while a mod 2 = 0 do8 a← a/29 while b mod 2 = 0 do

10 b← b/211 while a 6= b do12 (a, b)← (|a− b|,min(a, b))13 repeat a← a/2 until a mod 2 6= 014 Return 2i · a .

6.1.1 Sorenson’s k-ary reduction

The binary algorithm is based on the fact that if a and b are both odd, then a− b is even,and we can remove a factor of two since 2 does not divide gcd(a, b). Sorenson’s k-aryreduction is a generalization of that idea: given a and b odd, we try to find small integersu, v such that ua− vb is divisible by a large power of two.

Journees Nationales de Calcul Formel, Luminy 2007 20

Theorem 6.1 [7] If a, b > 0 and m > 1 with gcd(a, m) = gcd(b, m) = 1, there exist u, v,0 < |u|, v <

√m such that ua ≡ vb mod m.

The following algorithm, ReducedRatMod, finds such a pair (u, v): it is a simple variation 1 Algorithm ReducedRatMod .2 Input : a, b > 0 , m > 1 with gcd(a,m) = gcd(b, m) = 13 Output : (u, v) such that 0 < |u|, v <

√m and ua ≡ vb mod m

4 c← a/b mod m5 (u1, v1)← (0,m)6 (u2, v2)← (1, c)7 while v2 ≥

√m do

8 q ← bv1/v2c9 (u1, u2)← (u2, u1 − qu2)

10 (v1, v2)← (v2, v1 − qv2)11 re turn (u2, v2) .

of the extended Euclidean algorithm; indeed, the ui are denominators from the continuedfraction expansion of c/m.

When m is a prime power, the inversion 1/b mod m at line 4 can be performed efficientlyusing Hensel lifting, otherwise by an extended gcd algorithm (§6.2).

6.2 Extended Gcd

Algorithm ExtendedGcd (Table 1) solves the extended greatest common divisor problem:given two integers a and b, it computes their gcd g, and also two integers u and v (calledBezout coefficients or sometimes cofactors or multipliers) such that g = ua + vb. If a0

1 Input : i n t e g e r s a and b .2 Output : i n t e g e r s (g, u, v) such that g = gcd(a, b) = ua + vb .3 (u, w)← (1, 0)4 (v, x)← (0, 1)5 while b 6= 0 do6 (q, r)← DivRem(a, b)7 (a, b)← (b, r)8 (u, w)← (w, u− qw)9 (v, x)← (x, v − qx)

10 Return (a, u, v) . Table 1: Algorithm ExtendedGcd.

and b0 are the input numbers, and a, b the current values, the following invariants hold:a = ua0 + vb0, and b = wa0 + xb0.

Journees Nationales de Calcul Formel, Luminy 2007 21

An important special case is modular inversion: given an integer n, one wants to com-pute 1/a mod n for a relatively prime to n. One then simply runs algorithm ExtendedGcd

with input a and b = n: this yields u and v with ua + vn = 1, thus 1/a = u mod n. Butsince v is not needed here, we can simply avoid computing v and x, by removing lines 4and 9.

It may also be worthwhile to compute only u in the general case, as the cofactor v canbe recovered from v = (g − ua)/b; this division is exact (see §4.5).

All known algorithms for subquadratic gcd rely on an extended gcd subroutine, so werefer to §6.3 for subquadratic extended gcd.

6.3 Divide and Conquer Gcd

Designing a subquadratic integer gcd algorithm that is both mathematically correct andefficient in practice appears to be quite a challenging problem.

A first remark is that, starting from n-bit inputs, there are O(n) terms in the remaindersequence r0 = a, r1 = b, . . . , ri+1 = ri−1 mod ri, . . . , and the size of ri decreases linearlywith i. Thus computing all the partial remainders ri leads to a quadratic cost, and a fastalgorithm should avoid this. However, the partial quotients qi = ri−1 div ri are usuallysmall, and computing them is less expensive.

The main idea is to compute the partial quotients without computing the partial re-mainders. This can be seen as an generalization of the DoubleDigitGcd algorithm: insteadof considering a fixed base β, adjust it so that the inputs have four “big words”. Thecofactor-matrix returned by the HalfBezout subroutine will then reduce the input size toabout 3n/4. A second call with the remaining two most significant “big words” of the newremainders will reduce their size to half the input size. This gives rise to the HalfGcdalgorithm.

1 Algorithm HalfGcd .2 Input : a ≥ b > 03 Output : a 2× 2 matrix R and a′, b′ such that [a′ b′]t = R [a b]t

4 n← nbits(a) , k ← bn/2c5 a := a1 + 2ka0 , b := b1 + 2kb0

6 S, a2, b2 ← HalfGcd(a1, b1)7 a′ ← a22k + S11a0 + S12b0

8 b′ ← b22k + S21a0 + S22b0

9 l← bk/2c10 a′ := a′12

l + a′0 , b′ := b′1 + 2kb0

11 T, a′2, b′2 ← HalfGcd(a′1, b

′1)

12 a′′ ← a′22l + T11a

′0 + T12b

′0

13 b′′ ← b′22l + T21a

′0 + T22b

′0

14 Return S · T , a′′, b′′ . Let H(n) be the complexity of HalfGcd for inputs of n bits: a1 and b1 have n/2 bits,

Journees Nationales de Calcul Formel, Luminy 2007 22

naive Karatsuba Toom-Cook FFTH(n) 2.5 6.67 9.52 5 log2 nH∗(n) 2.0 5.78 8.48 5 log2 nG(n) 2.67 8.67 13.29 10 log2 n

Table 2: Cost of HalfGcd, with — H(n) — and without — H∗(n) — the cofactor matrix,and plain gcd — G(n) —, in terms of the multiplication cost M(n), for naive multiplication,Karatsuba, Toom-Cook and FFT.

thus the coefficients of S and a2, b2 have n/4 bits. Thus a′, b′ have 3n/4 bits, a′1, b′1 have

n/2 bits, a′0, b′0 have n/4 bits, the coefficients of T and a′2, b

′2 have n/4 bits, and a′′, b′′

have n/2 bits. We have H(n) ∼ 2H(n/2) + 4M(n/4, n/2) + 4M(n/4) + 8M(n/4), i.e.,H(n) ∼ 2H(n/2) + 20M(n/4). If we do not need the final matrix S · T , then we haveH∗(n) ∼ H(n) − 8M(n/4). For the plain gcd, which simply calls HalfGcd until b issufficiently small to call a naive algorithm, the corresponding cost G(n) satisfies G(n) =H∗(n) + G(n/2).

An application of the half gcd per se is the integer reconstruction problem. Assume onewants to compute a rational p/q where p and q are known to be bounded by some constantc. Instead of computing with rationals, one may perform all computations modulo someinteger n > c2. Hence one will end up with p/q ≡ m mod n, and the problem is now to findthe unknown p and q from the known integer m. To do this, one starts an extended gcdfrom m and n, and one stops as soon as the current a and u are smaller than c: since wehave a = um + vn, this gives m ≡ −a/u mod n. This is exactly what is called a half-gcd;a subquadratic version is given above.

6.3.1 Subquadratic binary gcd

The binary gcd can also be made fast: see Table 3. The idea is to mimic the left-to-rightversion, by defining an appropriate right-to-left division (Algorithm BinaryDivide).

7 Base Conversion

Since computers usually work with binary numbers, and human prefer decimal represen-tations, input/output base conversions are needed. In a typical computation, there will beonly few conversions, compared to the total number of operations, thus optimizing con-versions is less important. However, when working with huge numbers, naıve conversionalgorithms — which several software packages have — may slow down the whole compu-tation.

In this section we consider that numbers are represented internally in base β — thinkof 2 or a power of 2 — and externally in base B — for example 10 or a power of 10. Whenboth bases are commensurable, i.e., both are powers of a common integer, like 8 and 16,

Journees Nationales de Calcul Formel, Luminy 2007 23

1 Algorithm BinaryHalfGcd .2 Input : P,Q ∈ Z with 0 = ν(P ) < ν(Q) , and k ∈ N3 Output : a 2× 2 i n t e g e r matrix R , j ∈ N , and P ′, Q′ such that4

t[P ′, Q′] = 2−jR ·t [P,Q] with ν(P ′) ≤ k < ν(Q′)5 m← ν(Q), d← bk/2c6 i f k < m then re turn R = Id, j = 0, P ′ = P,Q′ = Q7 decompose P i n t o P122d+1 + P0 , same for Q8 R, j1, P

′0, Q

′0 ← BinaryHalfGcd(P0, Q0, d)

9 P ′ ← (R1,1P1 + R1,2Q1)22d+1−2j1 + P ′0

10 Q′ ← (R2,1P1 + R2,2Q1)22d+1−2j1 + Q′0

11 m← ν(Q′) , i f k < j1 + m then re turn R, j1, P′, Q′

12 q ← BinaryDivide(P ′, Q′)13 P ′ ← P ′ + q2−mQ′, d′ ← k − (j1 + m)14 (P ′, Q′)← (2−mP ′, 2−mQ′)15 decompose P ′ i n t o P322d′+1 + P2 , same for Q′

16 S, j2, P′2, Q

′2 ← BinaryHalfGcd(P2, Q2, d

′)17 (P ′′, Q′′)← ([S1,1P3 + S1,2Q1]22d′+1−2j2 + P ′

2, [S2,1P3 + S2,2Q3]22d′+1−2j2 + Q′2)

18 Return S · [0, 2m; 2m, q] ·R, j1 + m + j2, Q′′, P ′′ .

19

20 Algorithm BinaryDivide .21 Input : P,Q ∈ Z with 0 = ν(P ) < ν(Q) = j22 Output : |q| < 2j such that ν(Q) < ν(P + q2−jQ)23 Q′ ← 2−jQ24 q ← −P/Q′ mod 2j+1

25 i f q < 2j then re turn q else re turn q − 2j+1 Table 3: A subquadratic binary gcd algorithm.

conversions of n-digit numbers can be performed in O(n) operations. We therefore assumethat β and B are not commensurable from now on.

One might think that only one algorithm is needed, since input and output are sym-metric by exchanging bases β and B. Unfortunately, this is not true, since computationsare done in base β only.

7.1 Quadratic Algorithms

Algorithms IntegerInput and IntegerOutput respectively read and write n-word inte-gers, with a complexity of O(n2) in both cases.

Journees Nationales de Calcul Formel, Luminy 2007 24

1 Algorithm IntegerInput .2 Input : a s t r i n g S = sm−1 . . . s1s0 of d i g i t s in base B3 Output : the va lue A of the i n t e g e r r epre s ent ed by S4 A = 05 for i from m− 1 downto 0 do6 A← BA + val(si)7 Return A . 1 Algorithm IntegerOutput .2 Input : A =

∑n−10 aiβ

i of the number r epre s ent ed by S3 Output : a s t r i n g S of charac te r s , r ep r e s en t i ng A in base B4 m← 05 while A 6= 06 sm ← char(A mod B)7 A← A div B8 m← m + 19 Return S = sm−1 . . . s1s0 .

7.2 Subquadratic Algorithms

Fast conversions routines are obtained using a “divide and conquer” strategy. For integerinput, if the given string decomposes as S = Shi ||Slo where Slo has k digits in base B, then

Input(S, B) = Input(Shi, B)Bk + Input(Slo, B),

where Input(S, B) is the value obtained when reading the string S in the external baseB. The following algorithm shows a possible way to implement this: If the output A

1 Algorithm FastIntegerInput .2 Input : a s t r i n g S = sm−1 . . . s1s0 of d i g i t s in base B3 Output : the va lue A of the i n t e g e r r epre s ent ed by S4 l← [val(s0), val(s1), . . . , val(sm−1)]5 (b, k)← (B,m)6 while k > 1 do7 i f k even then l← [l1 + bl2, l3 + bl4, . . . , lk−1 + blk]8 else l← [l1 + bl2, l3 + bl4, . . . , lk]9 (b, k)← (b2, dk/2e)

10 Return l1 . has n words, algorithm FastIntegerInput has complexity O(M(n) log n), more precisely∼ 1

2M(n/2) log2 n for n a power of two.

Journees Nationales de Calcul Formel, Luminy 2007 25

For integer output, a similar algorithm can be designed, replacing multiplications bydivisions. Namely, if A = Alo + BkAhi, then

Output(A, B) = Output(Ahi, B) ||Output(Alo, B),

where Output(A, B) is the string resulting from writing the integer A in the external baseB, S1 ||S0 denotes the concatenation of S1 and S0, and it is assumed that Output(Alo, B)has k digits, after possibly adding leading zeros.

1 Algorithm FastIntegerOutput .2 Input : A =

∑n−10 aiβ

i of the number r epre s ent ed by S3 Output : a s t r i n g S of charac te r s , r ep r e s en t i ng A in base B4 i f A < B then char(A)5 else6 f i nd k such that B2k−2 ≤ A < B2k

7 (Q,R)← DivRem(A,Bk)8 FastIntegerOutput(Q)||FastIntegerOutput(R)

If the input A has n words, algorithm FastIntegerOutput has complexity O(M(n) log n),more precisely ∼ 1

2D(n/2) log2 n for n a power of two, where D(n/2) is the cost of dividing

an n-word integer by an n/2-word integer. Depending on the cost ratio between multipli-cation and division, integer output may thus be 2 to 5 times slower than integer input.

References

[1] Richard P. Brent and Paul Zimmermann. Modern Computer Arithmetic. Version 0.1.1, 2006.http://www.loria.fr/~zimmerma/mca/pub226.html.

[2] Donald E. Knuth. The Art of Computer Programming, volume 2 : Seminumerical Algorithms.Addison-Wesley, third edition, 1998. http://www-cs-staff.stanford.edu/~knuth/taocp.html.

[3] Arnold Schonhage, A. F. W. Grotefeld, and E. Vetter. Fast Algorithms, A Multitape TuringMachine Implementation. BI-Wissenschaftsverlag, 1994.

[4] Arnold Schonhage and Volker Strassen. Schnelle Multiplikation großer Zahlen. Computing,7:281–292, 1971.

[5] A. Svoboda. An algorithm for division. Information Processing Machines, 9:25–34, 1963.

[6] Joris van der Hoeven. Relax, but don’t be too lazy. Journal of Symbolic Computation,34(6):479–542, 2002. http://www.math.u-psud.fr/~vdhoeven.

[7] Kenneth Weber. The accelerated integer GCD algorithm. ACM Transactions on MathematicalSoftware, 21(1):111–122, 1995.

[8] Dan Zuras. More on squaring and multiplying large integers. IEEE Transactions on Com-puters, 43(8):899–908, 1994.

Journees Nationales du Calcul Formel 2007

Algorithmes efficaces engeometrie algebrique reelle

Mohab Safey El Din

Universite Pierre et Marie CurieLaboratoire d’Informatique de Paris 6

Departement Calcul ScientifiqueEquipe SPIRAL

(Systemes Polynomiaux, Implantations et Resolutions Algebriques),Projet INRIA/LIP6 SALSA

(Software for ALgebraic Systems and Applications)

Janvier 2007

Table des matieres

1 Introduction 41.1 Plan du cours . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41.2 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6

2 Les objets de la geometrie algebrique reelle 142.1 Les objets de base et leurs proprietes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142.2 Fonctions semi-algebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172.3 Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3 Decomposition Cylindrique Algebrique 213.1 La decomposition cylindrique algebrique en tant qu’objet . . . . . . . . . . . . . . . . . . 213.2 L’algorithme de decomposition cylindrique algebrique . . . . . . . . . . . . . . . . . . . . 25

3.2.1 L’etape de projection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253.2.2 L’etape de remontee . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

3.3 Complexite theorique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 273.4 Generalisation a l’elimination des quantificateurs . . . . . . . . . . . . . . . . . . . . . . . 283.5 Notes bibliographiques et commentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30

4 Applications polynomiales, lieux critiques et topologie 324.1 Notion de proprete . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 334.2 Valeurs et lieux critiques d’applications polynomiales . . . . . . . . . . . . . . . . . . . . . 354.3 Valeurs critiques generalisees d’applications polynomiales . . . . . . . . . . . . . . . . . . 40

4.3.1 Le cas des applications de Cn dans C . . . . . . . . . . . . . . . . . . . . . . . . . 414.3.2 Applications polynomiales restreintes a des varietes lisses . . . . . . . . . . . . . . 43

4.4 Degre des lieux critiques et valeurs critiques generalisees . . . . . . . . . . . . . . . . . . . 444.5 Notes bibliographiques et commentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47

5 Tests du vide et calcul d’au moins un point par composante connexe d’une varietealgebrique reelle 495.1 Sortie des algorithmes et elimination algebrique . . . . . . . . . . . . . . . . . . . . . . . . 52

5.1.1 Representations par ensembles triangulaires . . . . . . . . . . . . . . . . . . . . . . 545.1.2 Bases de Grobner et calculs dans les algebres-quotients . . . . . . . . . . . . . . . . 555.1.3 Resolution geometrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

5.2 Obtenir une complexite polynomiale en la borne de Bezout . . . . . . . . . . . . . . . . . 595.2.1 L’algorithme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 595.2.2 Analyse de complexite et comportement en pratique . . . . . . . . . . . . . . . . . 62

5.3 Gestion recursive des chutes de rang dans les jacobiennes : Utilisation de fonctions distancea un point . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64

5.4 Gestion recursive des chutes de rang dans les jacobiennes : Utilisation de fonctions deprojection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70

5.5 Le cas des varietes algebriques lisses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 735.5.1 Le cas equi-dimensionnel lisse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 735.5.2 Le cas non equi-dimensionnel lisse . . . . . . . . . . . . . . . . . . . . . . . . . . . 78

5.6 Le cas des hypersurfaces singulieres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 835.6.1 Calcul de limites de points critiques . . . . . . . . . . . . . . . . . . . . . . . . . . 835.6.2 Algorithmes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 855.6.3 Estimations de complexite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89

5.7 Le cas des systemes polynomiaux definissant une variete algebrique singuliere . . . . . . . 915.7.1 Resultats preliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 915.7.2 Calcul des limites de points critiques. . . . . . . . . . . . . . . . . . . . . . . . . . 935.7.3 Application aux fonctions de projection. . . . . . . . . . . . . . . . . . . . . . . . . 95

5.8 Notes bibliographiques et commentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98

2

6 Tests du vide et calcul d’au moins un point par composante connexe d’un ensemblesemi-algebrique 1016.1 Calcul de valeurs critiques generalisees : Le cas des applications de Cn dans C . . . . . . . 102

6.1.1 Resultats geometriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1036.1.2 Caracterisation geometrique des valeurs critiques generalisees sous des hypotheses

de proprete . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1046.1.3 Garantir les hypotheses de proprete . . . . . . . . . . . . . . . . . . . . . . . . . . 1046.1.4 Resultat geometrique principal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1056.1.5 L’algorithme et sa complexite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106

6.2 Calcul de valeurs critiques generalisees : le cas des applications polynomiales restreintes aune variete algebrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110

6.3 Application au calcul d’un point par composante connexe dans un ensemble semi-algebri-que defini par une inegalite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112

6.4 Application au calcul d’un point par composante connexe dans un ensemble semi-algebri-que sous des hypotheses de regularite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1156.4.1 Preliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1156.4.2 L’algorithme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1166.4.3 Complexite et performances pratiques . . . . . . . . . . . . . . . . . . . . . . . . . 118

6.5 Notes bibliographiques et commentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119

3

1 Introduction

Ce document constitue les notes d’un cours dispense lors des Journees Nationales de Calcul Formel2007 organisees par F. Chyzak, O. Ruatta et E. Thome. Je remercie les organisateurs de cette invitation.

Ce cours, intitule Algorithmes efficaces en geometrie algebrique reelle, traıte de l’etude des solutionsreelles des systemes polynomiaux a coefficients rationnels de dimension positive (c’est-a-dire dont lenombre de solutions complexes est infini). L’accent est mis sur les techniques permettant d’obtenir desalgorithmes efficaces en pratique. Les objets etudies relevent de la geometrie algebrique reelle. Il nous resteici a preciser ce qu’on entend par l’etude des solutions reelles des systemes polynomiaux de dimensionpositive et sa traduction en terme de specification d’algorithmes.

La ou plutot les reponses a cette question proviennent des applications provenant de domaines aussivaries que la reconnaissance de formes, la robotique, la mecanique celeste, la chimie ou la geometriealgorithmique. La question la plus frequemment posee est de decider du vide de l’ensemble des solutionsreelles d’un systeme d’equations polynomiales, avec ou sans contraintes. En plus de determiner l’exis-tence de solutions reelles, on peut bien evidemment en demander des approximations numeriques ou desinformations de nature topologique : decider si des points donnes sont situes sur une meme composanteconnexe du lieu-solution, decrire ces composantes connexes, etc. Une question qui apparaıt aussi regu-lierement est de determiner l’existence de solutions reelles regulieres (c’est-a-dire des solutions reellesau voisinage desquelles le lieu-solution reel est diffeomorphe a un sous-espace vectoriel de dimension ladimension du lieu-solution complexe1). Nous donnons ci-apres des exemples d’applications illustrant cesspecifications.

1.1 Plan du cours

Les algorithmes que nous presentons dans ce document ramenent (presque) tous les problemes etudiesa la resolution de systemes d’equations polynomiales ayant un nombre fini de solutions complexes et/oule comptage et l’isolation des solutions reelles d’un polynome en une variable. Bien qu’il ne soit pasnecessaire de connaıtre les algorithmes traitant de ces questions pour suivre ce cours, le lecteur pourraavantageusement consulter [21] pour completer ses connaissances.

Chapitre 2 : Les objets de la geometrie algebrique reelle. Nous introduisons dans ce chapitreles objets geometriques etudies par les algorithmes presentes plus loin ainsi que leurs proprietes. Lesensembles algebriques reels sont des ensembles de solutions communes a des polynomes a coefficientsdans un corps reel clos (dans la suite on travaillera avec R). Les ensembles semi-algebriques sont desunions de solutions reelles de systemes d’equations et d’inegalites polynomiales a coefficients dans R. Ondonne ensuite des proprietes de ces objets (notamment leur comportement par projection), une notionde dimension ainsi qu’un theoreme de structure, qu’on appelle theoreme de trivialite semi-algebriquede Hardt. Les algorithmes que nous etudions dans la suite du document permettent de decider du videet de calculer au moins un point par composante connexe dans des ensembles algebriques reels ou desensembles semi-algebriques.

Chapitre 3 : La decomposition cylindrique algebrique. L’algorithme de decomposition cylin-drique algebrique decompose les ensembles semi-algebriques de Rn en un nombre fini de cellules homeo-morphes a ]0, 1[i (pour i ∈ 0, . . . , n). Le fait qu’une telle decomposition existe est directement correleau theoreme de trivialite semi-algebrique de Hardt, la decomposition cylindrique algebrique en etant enquelque sorte une version effective. Cet algorithme commence par projeter dans Rn−1 les semi-algebriquesetudies et etudie recursivement cette projection en la projetant dans Rn−2 et ainsi de suite. La sortie decet algorithme est un ensemble de points representatifs de chacune des cellules (sur lesquelles les poly-nomes donnes en entree et definissant le semi-algebrique etudie sont de signe constant). Chaque cellule estobtenue en decoupant des cylindres construits au-dessus de semi-algebriques de Rn−1 homeomorphes ades paves, par des graphes de fonctions semi-algebriques continues. Ces derniers sont obtenus de manieresimilaire en decoupant des cylindres construits au-dessus de semi-algebriques connexes vivant dans Rn−2

et ainsi de suite. La sortie de cet algorithme est tres forte : elle permet de determiner toutes les conditionsde signe satisfaites par une famille de polynomes donnee en entree et de calculer au moins un point dans

1Nous preciserons le sens donne a ces notions de dimension.

4

chaque composante connexe des semi-algebriques ainsi definis. Un post-traitement permet aussi de decrirela topologie des semi-algebriques etudies. Enfin, a quelques modifications pres, cet algorithme resoud leprobleme d’elimination des quantificateurs dans une formule du premier ordre. Malheureusement, toutceci se paie par une complexite doublement exponentielle en le nombre de variables dont on verra qu’elleest incontournable des qu’on veut resoudre le probleme d’elimination des quantificateurs d’une part, etqu’elle est inherente au procede recursif de projection mis en œuvre dans cet algorithme d’autre part.

Chapitre 4 : Applications polynomiales, lieux critiques, et topologie. Afin d’eviter le procederecursif de projection mis en œuvre dans la decomposition cylindrique algebrique, on considere les lieuxcritiques d’applications polynomiales restreintes a des varietes algebriques. Ces lieux sont les ensembles depoints ou la differentielle de l’application n’est pas surjective. L’image d’un point critique par l’applicationconsideree est appelee valeur critique. Le theoreme de Sard enonce que l’ensemble des valeurs critiquesd’une application polynomiale est contenue dans un ferme de Zariski de l’espace d’arrivee. La definitionmeme de points critiques et quelques resultats supplementaires que nous donnons nous dit qu’en unpoint generique de l’espace d’arrivee on peut appliquer localement le theoreme des fonctions implicites.Ceci n’est malheureusement pas suffisant pour obtenir un theoreme de structure global garantissantdes proprietes d’invariance topologique similaire a ce qui est enonce par le theoreme de trivialite semi-algebrique de Hardt. La notion de proprete d’une application polynomiale permet d’obtenir un enoncesimilaire a celui de Hardt si l’application consideree est restreinte a une variete lisse. Pour aller au-dela,on doit etendre la notion de valeur critique en une notion de valeur critique generalisee. Nous etudionsdonc ces notions dans le cas d’applications polynomiales de Cn dans C puis dans le cas d’applicationspolynomiales restreintes a des varietes algebriques lisses et equi-dimensionnelles. Enfin, nous donnons desbornes sur les degres des lieux critiques et des valeurs critiques generalisees : on constatera que celles-cisont simplement exponentielles en le nombre de variables. Ces objets constituent donc de bons outils pouresperer obtenir des algorithmes permettant d’etudier des varietes algebriques reelles ou des ensemblessemi-algebriques de complexite simplement exponentielle en le nombre de variables.

Chapitre 5 : Test du vide et calcul d’au moins un point par composante connexe d’une va-riete algebrique reelle. Les algorithmes que nous presentons dans ce chapitre permettent de testerle vide et donner au moins un point par composante connexe de l’ensemble des solutions reelles d’unsystemes d’equations polynomiales a coefficients rationnels. Les sorties de ces algorithmes sont des pa-rametrisations rationnelles encodant des ensembles finis de solutions complexes de systemes d’equations.Ces algorithmes sont fondes sur des calculs de points critiques d’applications polynomiales restreintes auxvarietes algebriques reelles etudiees et on verra que pour certains d’entre eux, leur complexite est poly-nomiale en Dn ou D borne les degres des polynomes donnes en entree et n est le nombre de variables. Ilspermettent d’obtenir des implantations permettant de resoudre des problemes largement inatteignablespar l’algorithme de decomposition cylindrique algebrique. La technique consiste a exhiber des applica-tions polynomiales (projections ou carres de la distance euclidienne a un point) atteignant leurs extremasur chaque composante connexe de la variete etudiee. Ce premier point, lorsque la variete etudiee n’estpas compacte, n’est pas simple et on fait un usage intensif des notions d’applications polynomiales propreset dominantes introduites dans le chapitre precedent. Un deuxieme probleme se pose avec les caracterisa-tions algebriques des points critiques d’applications polynomiales introduites dans le chapitre precedent :celles-ci sont valables uniquement sous certaines conditions (impliquant qu’il n’y a pas degenerescencedu rang de la jacobienne associee a la famille de polynomes donnes en entree en chaque point de lavariete). Plusieurs strategies peuvent etre mises en œuvre : certaines sont recursives et etudient des lieuxsinguliers imbriques les uns dans les autres. D’autres simulent des deformations infinitesimales sur lesysteme d’equations donne en entree. Ce sont ces dernieres qui permettent d’obtenir les resultats les plusinteressants en pratique.

Chapitre 6 : Test du vide et calcul d’au moins un point par composante connexe d’unensemble semi-algebrique. Ce chapitre aborde le probleme du calcul d’au moins un point par com-posante connexe d’un ensemble semi-algebrique defini par un systeme d’equations et d’inegalites polyno-miales. Les algorithmes permettant d’effectuer de tels calculs et qui sont fondes sur la methode des pointscritiques reduisent le probleme initial au calcul d’au moins un point par composante connexe d’une familled’ensembles algebriques reels. Historiquement, ces ensembles algebriques reels sont obtenus en procedant

5

a des deformations infinitesimales des polynomes donnes en entree. L’introduction l’introduction de cesinfinitesimaux par des rationnels apres avoir effectuer un pre-calcul de valeurs critiques generalisees decertaines applications polynomiales (notion introduite dans le chapitre 4). On donne donc des algorithmesde calcul de valeurs critiques generalisees, puis on montre comment les utiliser pour calculer au moinsun point par composante connexe d’un ensemble semi-algebrique.

1.2 Applications

Les applications de la geometrie algebrique reelle sont nombreuses et variees. Les algorithmes presentesdans ce cours permettent de tester le vide et donner au moins un point par composante connexe dans unensemble algebrique reel ou un ensemble semi-algebrique. De tels algorithmes trouvent des applicationsdans des problemes de reconnaissance de formes, en analyse numerique, en geometrie algorithmique ouencore dans la resolution des systemes polynomiaux parametres qui s’applique elle aussi a des problemesde robotique mecanique celeste, etc. Les applications que nous presentons ci-dessous illustrent l’utilitedes algorithmes presentes dans ce document et ont deja ete traıtees plus ou moins partiellement maiscette liste n’est evidemment pas exhaustive.

Enfin, mentionnons qu’on trouve aussi couramment des problemes se ramenant a des problemes deconnexite ou de topologie en geometrie algebrique reelle (notamment en planification de trajectoire avecdes problemes du type du demenageur de piano). Les algorithmes necessaires a leur resolution sortantdu cadre de ce cours, nous ne decrivons pas ce type d’applications dans la suite.

Probleme de reconnaissance des formes. Soit P et Q deux objets geometriques d’un espace eu-clidien E, muni d’une fonction distance d sur de tels objets, et G un groupe de transformations. Etantdonne un reel positif ε, le probleme classique de reconnaissance de formes (pattern-matching en anglais)est de decider si il existe une transformation g ∈ G tel que d(P, gQ) < ε.

Pour decrire le probleme specifique qui est etudie dans [91], on introduit les notations et definitionsci-dessous. Considerons une courbe polygonale P definie comme une fonction de 0, . . . ,m vers R3 telleque P(i) = pi est le i-ieme sommet de P. On note Mon(X,Y ) l’ensemble de toutes les applicationssurjectives non strictement croissantes d’un ensemble X vers un ensemble Y , ou X et Y sont des sous-ensembles finis de N. On utilise ces applications pour reindexer les sommets des courbes polygonalesqu’on consiere. De plus, si k et ` sont deux entiers avec ` 6 k, l’ensemble `, `+ 1, . . . , k − 1, k est note[` : k].

La distance discrete de Frechet entre deux courbes polygonales P et Q est :

dF (P,Q) = min(γ,λ)||P γ −Q λ||∞

ou les couples (γ, λ) parcourent Monm,n = Mon([1 : m+ n], [0 : m])×Mon([1 : m+ n], [0 : n]).Dans la situation qui nous interesse, P et Q sont des courbes polygonales de R3 representees par une listede leur sommet, la distance que nous considerons est la distance discrete de Frechet et G = SO(3,R) estle groupe des rotations de R3. Notre probleme ici est de decider si G(P,Q, ε, dF ), l’ensemble de tous leselements g de G tel que dF (P, gQ) 6 ε, est vide. Afin de reduire la manipulation des courbes polygonalesa la manipulation des sommets de ces courbes, on definit l’ensemble de (G, ε)-transporteur associe auxpoints p et q dans R3 comme

τG,εp,q = g ∈ G | ||p− gq|| 6 εDans [107, 106], les auteurs prouvent la relation suivante :

G(P,Q, ε, dF ) =⋃

(γ,λ)∈Monm,n

⋂

s∈[1:m+n]

τG,εpγ(s),qλ(s)

Decider le vide de G(P,Q, ε, dF ) est donc equivalent a decider le vide de

⋂

s∈[1:m+n]

τG,εpγ(s),qλ(s)

pour chaque γ, λ dans Monm,n.

6

Polynomes transporteurs. Il nous faut maintenant decrire τG,εpγ(s),qλ(s)a l’aide de polynomes. Pour

ce faire, le groupe SO(3,R) est parametrise par les quaternions unitaires. Plus precisement, on utilisel’application suivante :

R3 → H

(x, y, z) 7→ (1, x, y, z)

La matrice de rotation g(w,x,y,z) est alors :

1 0 0 00 w2 + x2 − y2 − z2 2xy − 2wz 2xz + 2wy0 2xy + 2wz w2 − x2 + y2 − z2 2yz − 2wx0 2xz − 2wy 2yz + 2wx w2 − x2 − y2 + z2

Un (SO(3,R), ε)-polynome transporteur pour p et q est calcule comme suit :

gεp,q = ε2 − ||(1, px, py, pz)− g(w,x,y,z)(1, qx, qy, qz)||2

ou ε, (px, py, pz), et (qx, qy, qz) sont des rationnels. Ceci nous amene a considerer le systeme d’equationset d’inegalites polynomiales en 4 inconnues ci-dessous :

w2 + x2 + y2 + z2 = 1, gεpγ(1),qλ(1)> 0, . . . , gεpγ(m+n),qλ(m+n)

> 0

pour chaque γ, λ dans Monm,n. D’autres parametrisations de SO(3,R) peuvent etre utilisees. Parexemple, une rotation autour d’un vecteur u peut etre decrite comme la composee de trois rotationsautour des axes x, y, et z. Dans ce cas, la matrice associee a la rotation qu’on considere est la suivante :

1 0 0 00 cos θy cos θz − cos θy sin θz sin θy0 sin θx sin θy cos θz + cos θx sin θz − sin θx sin θy sin θz + cos θx cos θz − sin θx cos θy0 − cos θx sin θy cos θz + sin θx sin θz cos θx sin θy sin θz + sin θx cos θz cos θx cos θy

avec comme contrainte cos θ2x + sin θ2

x = 1, cos θ2y + sin θ2

y = 1, et cos θ2z + sin θ2

z = 1.

Autres groupes de transformation. On peut considerer aussi d’autres groupes de transforma-tion, le tableau suivant donne les matrices et les contraintes utilisees pour representer les translations etles homotheties et de maniere plus generales les isomorphismes.

Translation Homothetie Isomorphisme

Matrice

1 0 0 0a 1 0 0b 0 1 0c 0 0 1

1 0 0 00 λx 0 00 0 λy 00 0 0 λz

1 0 0 00 x1,1 x1,2 x1,3

0 x2,1 x2,2 x2,3

0 x3,1 x3,2 x3,3

Contraintes λxλyλzΛ = 1 det(M)D = 1

Ces transformations peuvent etre combinees et plusieurs systemes d’equations et d’inegalites non-strictespeuvent ainsi etre engendres. Il s’agit alors de decider du vide de leur lieu-solution reel.

Probleme d’interpolation de Birkhoff. Le probleme qui consiste a interpoler une fonction inconnuef : R −→ R par un polynome univarie en connaissant les valeurs de f et de certaines de ses derivees endes points de R est un probleme classique d’analyse numerique et en theorie de l’approximation.

Deux cas d’interpolation classiques ont ete etudies et resolus : il s’agit de la formule d’interpolation deLagrange et du probleme d’interpolation de Hermite. Dans le premier cas, les valeurs de f en les pointsx0 < . . . < xn sont connues et la formule d’interpolation de Lagrange montre l’existence d’un uniquepolynome de degre inferieur ou egal a n interpolant f en les xi.

Le probleme d’interpolation de Hermite generalise le cas precedent en incluant des informations surles derivees de f . Soit x1 < . . . < xn des points donnes et ν1, . . . , νn des entiers positifs : le problemed’interpolation de Hermite est resolu en prouvant qu’il existe un unique polynome P de degre inferieur

7

ou egale a ν1 + . . .+ νn − 1 tel que pour tous k ∈ 1, . . . , n et j ∈ 0, . . . , νk − 1 l’egalite suivante estverifiee :

f (j)(xk) = P (j)(xk).

Les problemes d’interpolation peuvent etre presentes de maniere generale en decrivant les conditionsd’interpolation en termes de matrices d’incidence : de telles matrices contiennent l’information connuesur f .

Definition 1. Soit n et r deux entiers tels que n > 1 et r > 0. La matrice

E =

e1,0 . . . e1,r...

...en,0 . . . en,r

est appelee matrice d’incidence si ei,j ∈ 0, 1 pour tout couple (i, j).

Pour une matrice d’incidence, on note |E| le nombre de 1 dans E :

|E| =∑

i,j

ei,j

Dans le cas ou |E| est egal au nombre de colonnes dans E , on dira que E est une matrice d’incidencenormale.

Soit χ = x1, . . . , xn un ensemble de nombres reels tels que x1 < . . . < xn et F une matrice denombres reels donnes ayant le meme nombre de rangees et de colonnes que E et dont on notera leselements fi,j . Le probleme de determiner un polynome P dans R[x1, . . . , xn] de degre plus petit que rqui interpole F en (χ, E) c’est-a-dire qui verifie les conditions :

P (j)(xi) = fi,j ssi ei,j = 1

est connu sous le nom de probleme d’interpolation de Birkhoff qui est partiellement resolu dans [62] puisdans [121] et est integralement etudie dans [125].

Definition 2. Une matrice d’incidence normale E ayant n rangees et r + 1 colonnes est dite equilibreesi pour tout choix de noeuds x1 < . . . < xn et d’une matrice F il existe un unique polynome P de degreinferieur ou egal a r qui interpole F en (χ, E).

Un premier exemple de matrice d’incidence equilibree est celle qui correspond a la Formule d’Interpolationde Lagrange (avec r = n− 1) :

1 0 0 . . . 01 0 0 . . . 0...

......

...1 0 0 . . . 0

Un second exemple vient du probleme d’interpolation de Lagrange : pour tout choix d’entiers positifsν1, . . . , νn, la matrice ayant n rangees et N = ν1 + . . .+ νn colonnes telle que dans la i-ieme rangee, il yait νi 1 est equilibree.

Voyons comment determiner si une matrice d’incidence donnee est equilibree en utilisant des tech-niques de Calcul Formel. Ceci revient en particulier a determiner si un systeme d’equations lineaires(dont la matrice depend de plusieurs parametres qu’on appellera noeuds) a une unique solution. Soita0, . . . , ar les indeterminees et Pr(x) le polynome generique de degre r

Pr(x) = arxr + · · ·+ a0.

Alors, une matrice d’incidence E ayant n rangees et r colonnes est equilibree si pour tout ensembleχ = x1, . . . , xn de nombres reels tels que x1 < . . . < xn et pour toute matrice de nombres reels F(ayant n rangees et r + 1 colonnes) le systeme d’equations :

P (j)r (xi) = fi,j ssi ei,j = 1

8

a une unique solution. Dans la suite, on noteME la matrice associee au systeme lineaire qui caracterisele polynome d’interpolation de χ et E .La proposition ci-dessous montre comment on reduit le probleme a l’etude des matrices d’incidencenormales : les matricesME a etudier sont toujours des matrices carrees.

Proposition 1. Soit E une matrice d’incidence equilibree ayant n rangees et r + 1 colonnes. Alors, Eest normale, c’est-a-dire que

|E| = r + 1.

Exemple. Soit E la matrice d’incidence normale definie par :

E =

1 0 0 1 0 01 1 1 0 0 00 1 0 0 0 0

Alors la matrice ME associee a E est

ME =

1 x1 x21 x3

1 x41 x5

1

1 x2 x22 x3

2 x42 x5

2

0 1 2x2 3x22 4x3

2 5x42

0 1 2x3 3x23 4x3

3 5x43

0 0 2 6x2 12x22 20x3

2

0 0 0 6 24x1 60x21

Exemple. Soit EL la matrice d’incidence normale correspondante a la Formule d’Interpolation de La-grange

1 0 0 . . . 01 0 0 . . . 0...

......

...1 0 0 . . . 0

Alors la matrice d’incidence MELassociee a EL est

ME =

1 x1 x21 . . . xn−1

1

1 x2 x22 . . . xn−1

2...

......

...1 xn x2

n . . . xn−1n

Soit EH la matrice d’incidence normale correspondante au probleme d’interpolation de Hermite associea ν1, . . . , νn (N = ν1 + . . .+ νn). Alors la matrice MEH

a la structure suivante :

MEH=

P1

P2

...Pn

Pj =

(∂k

∂xj

[1 xj x2

j x3j . . . xN−1

j

])

06k6νk−1

La proposition reduit le probleme de determiner si une matrice d’incidence normale est equilibree aun probleme d’elimination des quantificateurs sur les reels.

Proposition 2. Soit E une matrice d’incidence normale. Alors E est equilibree si et seulement si ledeterminant de ME ne s’annule pas pour tout ensemble de nombres reels χ = x1, . . . , xn tels quex1 < . . . < xn.

Pour une matrice d’incidence normale E donnee, on note DE le determinant deME . D’apres la propositionprecedente, determiner si une matrice d’incidence normale E est equilibree est un probleme qui se reduita trouver un ensemble de nombres reels χ = x1, . . . , xn tels que :

x1 < . . . < xn et DE(x1, . . . , xn) = 0.

9

Simplification du probleme. On est alors ramene a decider du vide d’ensembles de points reelsdefinis par une equation et des inegalites polynomiales. On montre maintenant comment obtenir dessimplifications specifiques au probleme d’interpolation de Birkhoff en obtenant plus d’informations surle polynome DE .

Proposition 3. Soit E une matrice d’incidence normale ayant n rangees et r + 1 colonnes. Si `i,j(1 6 i < j 6 n) est le nombre de colonnes dans E telles que

Ei,k = 1, et Ej,k = 1

alors (xi − xj)`i,j divise le polynome DE .

La proposition ci-dessus montre que l’on peut simplifier le polynome DE en le divisant par (xi−xj)`i,j ,mais comme le montre l’exemple ci-dessous `i,j n’est pas la puissance maximale de (xi−xj) divisant DE .

Exemple. Soit E la matrice d’incidence de l’exemple 1.2. Dans cet exemple le polynome DE se factorisede la maniere suivante :

DE = −36(x2 − x3)2(x1 − x2)

4(6x21 − 12x1x3 − x2

2 + 2x2x3 + 5x23).

Or, dans ce cas `1,2 = 1 et `2,4 = 1.

Ceci nous amene a introduire l’entier Li,j comme etant la plus grande puissance de (xi − xj) qui diviseDE .

Definition 3. Soit E une matrice d’incidence normale. L’indicateur d’equilibre de E est le polynome acoefficients entiers :

DE =DE∏

16i<j6n(xj − xi)Li,j

On peut alors travailler avec l’indicateur d’equilibre d’une matrice d’incidence normale E pour deter-miner si celle-ci est equilibree. Revenons a l’exemple precedent. L’indicateur d’equilibre de E est alors :

DE = −36(6x21 − 12x1x3 − x2

2 + 2x2x3 + 5x23).

Il est facile de voir qu’on aDE = −36(6(x1 − x3)

2 − (x2 − x3)2)

En effectuant la substitution :

x2 − x1 = t21 x3 − x2 = t22 =⇒ x3 − x1 = t21 + t22

on obtientDE(t1, t2) = −36(5t41 + 12t21t

22 + 6t42)

ce qui nous permet alors de conclure que E est equilibree puisque pour tout x1 < x2 < x3 le polynomeDE est strictement negatif (ce qui implique que DE est strictement negatif).

Exemple. Les determinants des matrices MEL(issus de l’Interpolation de Lagrange) et des matrices

MEH(issus de l’Interpolation de Hermite) sont

DEL=∏

i<j

(xj − xi) DEH=

n∏

k=1

νk−1∏

λ=0

λ!∏

i<j

(xj − xi)νjνi

Les indicateurs d’equilibre correspondants sont egaux a des nombres entiers non nuls.

Pour determiner si une matrice d’incidence normale est equilibree, on va suivre la methode appliqueepour resoudre l’exemple 1.2.

10

Proposition 4. Soit E une matrice d’incidence normale ayant n rangees et r + 1 colonnes et soitt1, . . . , tn−1 de nouvelles variables. Le polynome

HE = DE(x1, x1 + t21, x1 + t21 + t22, . . . , x1 +

n−1∑

i=1

t2i )

est un polynome dans Z[t1, . . . , tn−1].

Proposition 5. Soit E une matrice d’incidence normale ayant n rangees et r + 1 colonnes. Alors lepolynome HE est homogene et son degre est strictement borne par 2nr.

Corollaire 1. Soit E une matrice d’incidence normale. Alors, le polynome HE a des racines reelles(t1, . . . , tn−1) telles que t1 . . . tn−1 6= 0 si et seulement si la matrice E est equilibree.

Puisque H est homogene et puisque on en cherche des solutions reelles dont aucune des coordonneesn’est nulle, le resultat suivant est immediat.

Corollaire 2. Soit E une matrice d’incidence normale. Le polynome HE a des racines reelles de la forme(1, t2, . . . , tn−1) telles que t2 . . . tn−1 6= 0 si et seulement si la matrice E est equilibree.

Ainsi, si on fixe n et r la resolution du probleme d’interpolation de Birkhoff est equivalente a decidersi des hypersurfaces contiennent des points reels dont aucune des coordonnees n’est nulle. Ceci montred’une part que le probleme d’interpolation de Birkhoff pour n et r fixes est decidable et permet de donnerdes bornes de complexite pour ce probleme.

Diagramme de Voronoı de trois droites. Le diagramme de Voronoi d’un ensemble d’objets disjointsest une decomposition de l’espace en cellules associees a un unique objet telles que la cellule associee aun objet est constituee de tous les points qui sont plus proches de l’objets associe que de tous les autres.On considere ici le diagramme de Voronoi de 3 droites de R3.

Soit L = `1, . . . , `n une famille de n droites dans R3. Chaque droite est donnee par un point pi etun vecteur vi. Soit d(p, `i) la distance euclidienne de du point p a la droite `i. Le diagramme de Voronoide L, qu’on note V(L), est defini comme etant la decomposition de R3 en regions, V (Q), pour toutsous-ensemble non-vide Q ( `1, `2, . . . , `n qu’on definit de la maniere suivante :

V (Q) = p ∈ R3 | d(p, `i) = d(p, `j) < d(p, `k), ∀`i, `j ∈ Q, `k /∈ QV (i) = p ∈ R3 | d(p, `i) < d(p, `j), ∀j 6= i,

V (i, j) = p ∈ R3 | d(p, `i) = d(p, `j) < d(p, `k), k /∈ i, j,V (i, j, k) = p ∈ R3 | d(p, `i) = d(p, `j) = d(p, `k) < d(p, `m), m /∈ i, j, k.

On considere ici le diagramme de Voronoi de trois droites, `1, `2, et `3 en position generale position.Sans nuire a la generalite, on suppose que `1 et `2 sont toutes les deux horizontaleset qu’elles passentrespectivement par les points (0, 0, 1) et (0, 0,−1) respectively, et leur vecteur directeur forment respecti-vement un angle horizontal γ et −γ avec le vecteur directeur des abscisses. Plus precisement, on supposeque la droite `1 est definie par le point p1 = (0,0,1) et le vecteur v1 = (1,a,0) et que la droite `2 par lepoint point p2 = (0,0,−1) et le vecteur v2 = (1,−a,0), a ∈ R. De plus, puisque les trois droites ne sontpas toutes paralleles a un meme plan, `3 n’est pas parallele au plan z = 0. Ainsi, on peut supposer quela droite `3 est definie par le point p3 = (x,y,0) et le vecteur v3 = (α, β,1), avec x, y, α, β ∈ R.

Dans [48], on trouve une preuve du theoreme ci-dessous qui caracterise la topologie des cellules dudiagramme de Voronoi de trois droites dans R3 :

Theoreme 1. Le trisecteur de 3 droites de R3 en position generales est constituee de 4 branches infinieslisses de :

– soit une courbe quadrique de genre 1– ou l’union d’une droite et de 3 branches d’une skew cubique qui n’intersecte pas cette droite.

De plus, la cellule du diagramme associee a une droite est constituee de deux composantes connexesbornees respectivement par 3 et 1 de ces branches.

11

Fig. 1 – Robot cuspidal

Ce resultat a ete initialement conjecture par Koltun et Sharir [79] et a ete partiellement obtenuen etudiant un probleme classique de geometrie algebrique reelle : decider si un polynome en plusieursvariables change de signe ou pas.

On note Hi,j le bi-secteur des droites `i et `j c’est-a-dire l’ensemble des points equi-distants de `i et`j . Dans [79], il est prouve que Hi,j est un paraboloıde hyperbolique.

Ainsi, le tri-secteur de trois droites est l’intersection de deux paraboloıdes hyperboliques.L’intersection de deux paraboloıdes hyperboliques peut etre singuliere ; une quartique nodale ou

cuspidale, deux coniques secantes, une cubique et une droite ou encore une conique et deux droites, etc.On montre que le tri-secteur est toujours non singulier en etudiant le polynome caracteristique du traceede H1,2 et H1,3.

Soit Q1,2 et Q1,3 les representations matricielles de H1,2 et H1,3, i.e. la Hessienne de la forme qua-dratique associee a la quadrique consideree (voir [45]). On appelle trace de Q1,2 et Q1,3 l’ensemble descombinaisons lineaires, P (λ) = λQ1,2 + Q1,3, ∀λ ∈ R. The polynome caracteristique du trace est ledeterminant, D(λ) = det(P (λ)), qui est de degre 4 en λ.

L’intersection de deux quadriques est une quartique non singuliere dans P3(C), si et seulement sile polynome caracteristique n’a pas de racines multiples (in C) [137] (voir aussi [46]). Une quartiquenon singuliere de P3(C) est, dans P3(R), soit vide soit une quartique non singuliere. Ainsi, puisque letri-secteur de trois droites ne peut pas etre vide dans R3, le tri-secteur est une quartique lisse de P3(R)si et seulement si l’equation caracteristique du trace n’a pas de racines multiples.

Ce polynome caracteristique est plutot complique (son affichage ne tient pas sur une page). Ceci dit,en effectuant le changement de variables λ → 2λ (1 + α2 + β2) et en divisant le resultat obtenu par lefacteur strictement positif (1+a2)2(1+α2 +β2)3, le polynome obtenu se simplifie en un polynome qu’oncontinue de noter D(λ) pour simplifier notre propos.

D(λ) =“

α2

+ β2

+ 1”

a2λ

4− 2 a

“

2 aβ2

+ ayβ + aαx− β α+ 2 a+ 2 aα2− β αa

2”

λ3

+“

β2

+ 6 a2β

2− 2 β xa

3− 6 β αa

3+ 6 yβ a

2− 6 aβ α− 2 aβ x+ 6αxa

2+ y

2a2− 2 aα y + x

2a2− 2 yα a

3+ 6 a

2α

2+ a

4α

2+ 4 a

2”

λ2− 2

“

xa− ya2− 2 β a

2− β + 2 aα+ αa

3”

(xa− y − β + aα)λ+“

1 + a2”

(xa− y − β + aα)2

(1)

On cherche donc a savoir si le discriminant de ce polynome (par rapport a la variable λ) a des racinesreelles qui n’en annulent pas le gradient.

Robots cuspidaux. Dans [40], les auteurs etudient la classification d’une famille de robots serie a3 degres de liberte dont les articulations sont des liaisons pivots telles que les axes de deux liaisonssuccessives soient orthogonaux comme l’illustre la figure 1.

Ces robots dependent de parametres (quatre exactement : r2, d3, d4 et r3). Dans [47], les auteursmontrent qu’une condition pour qu’un tel robot puisse changer de posture sans rencontrer le lieu singulier

12

Fig. 2 – Resolution de systemes parametres

de son espace articulaire est liee a l’apparition d’un point de rebroussement dans toute section verticalede son espace de travail. Si cette condition est verifiee, on a un robot cuspidal. Cela se ramene a testerl’existence d’une racine triple d’un polynome de degre 4. Ce polynome est evidemment parametre parr2, d3, d4 et r3. Dans le cadre d’une etude visant a classifier ces robots, il faut determiner les parametresdonnant des robots cuspidaux, ce qui revient a resoudre un systeme a parametres.

Dans [90], les auteurs donnent une methode generale permettant de resoudre les systemes polynomiauxa parametres. Cette methode consiste a calculer une variete discriminante dans l’espace des parametresdelimitant des zones connexes au-dessus desquelles toutes les fibres de la projection sur l’espace desparametres sont homeomorphes. Comme l’illustre la figure 2 ceci revient dans les cas simples a calculerla projection des endroits en lesquels on ne peut pas appliquer le theoreme des fonctions implicites.

Une fois qu’on a obtenu une variete discriminante, pour terminer l’etude, il faut au moins disposerd’au moins un point par composante connexe dans le complementaire de cette variete.

13

2 Les objets de la geometrie algebrique reelle

Comme nous l’avons dit en introduction, l’objet de ce cours est l’etude des algorithmes permettantd’etudier les solutions reelles des systemes d’equations et d’inegalites polynomiales. Les solutions reelles detels systemes sont des objets geometriques dont les proprietes sont exploitees par les algorithmes que nouspresentons plus loin dans le document. Ce chapitre a pour vocation d’introduire la terminologie associeea de tels lieux-solutions ainsi que leurs proprietes. Les ouvrages [29, 21, 28, 41] ont ete intensivementutilises pour rediger ce chapitre et contiennent les preuves de la majorite des resultats ci-dessous.

2.1 Les objets de base et leurs proprietes

Definition 4. Un corps R est reel si −1 ∈ R n’est pas une somme de carres d’elements de R.

On peut montrer que les corps reels sont systematiquement de caracteristique nulle et que les corpsordonnes sont reels.

Les corps reels qui viennent immediatement a l’esprit sont evidemment Q et R. Le corps Ralg desracines reelles de polynomes a coefficients dans Q est lui aussi reel. Mentionnons aussi qu’etant donneun corps reel R, le corps de series de Puiseux en la variable ε a coefficients dans R

R〈ε〉 = ∑

i>i0

aiεi/q | i0 ∈ Z, q ∈ N?, ai ∈ R

est lui aussi reel.

Definition 5. Un corps reel R est clos si il est ordonne, tout element positif de R s’ecrit comme sommede carres d’elements de R et tout polynome de R[X] de degre impair a au moins une racine dans R.

Evidemment Q n’est pas un corps reel clos, alors que R et Ralg le sont. Par ailleurs, si R est reel clos,alors R〈ε〉 est lui aussi reel clos. Ainsi, R〈ε〉 est un corps reel clos. Nous verrons que ce dernier point estimportant dans le cadre des algorithmes de la geometrie algebrique reelle.

Definition 6. Soit R un corps reel clos et n ∈ N?. Un ensemble inclus dans Rn est algebrique reel s’ilexiste un systeme d’equations polynomiales a coefficients dans R dont il est le lieu-solution.

Du fait que R soit reel clos, on deduit que tout ensemble algebrique reel peut etre defini par uneseule equation (on prend la somme des carres des polynomes du systeme definissant l’ensemble algebriquereel considere). Ceci constitue une difference essentielle par rapport au cas algebriquement clos. Ainsi,l’origine est definie tant par x2+y2 = 0 que par x = y = 0. Dans cet exemple, la variete algebrique definiepar x = y = 0 est la plus petite variete algebrique contenant le lieu reel de l’hypersurface definie parx2+y2 = 0. Etant donne un ensemble algebrique E ⊂ Rn, on appelle complexifie (ou cloture de Zariski) deE la plus petite variete algebrique contenant E . Dans la suite, on considerera les composantes irreductiblesd’une variete algebrique V comme etant les varietes algebriques associees aux ideaux premiers de l’idealassocie a V (qui est l’ensemble de tous les polynomes qui s’annulent sur V ). La dimension de V coıncideavec celle de son ideal associe.

Definition 7. Soit E ⊂ Rn un ensemble algebrique reel, V ⊂ Cn son complexifie, I l’ideal des polynomess’annnulant sur V, et f1, . . . , fs ⊂ R[X1, . . . , Xn] un systeme de generateurs de I.

La co-dimension de V est egale au maximum du rang de la jacobienne de (f1, . . . , fs)

∂f1∂X1

· · · ∂f1∂Xn

......

...∂fs

∂X1· · · ∂fs

∂Xn

evaluee en les points de V.La co-dimension de E est egale au maximum du rang de la jacobienne de (f1, . . . , fs) evaluee en les

points de E.La co-dimension de E est egale a celle de V.

14

Fig. 3 – Parapluie de Whitney

Si V est equi-dimensionnelle2, un point de E est dit regulier si et seulement si le rang de la jacobiennede (f1, . . . , fs) evaluee en ce point est egale a la co-dimension de E.

Soit y ∈ E un point regulier. L’espace co-tangeant a E en y est le noyau de l’application lineairedefinie par la jacobienne de (f1, . . . , fs) evaluee en y.

Dans la definition ci-dessus, le fait que V soit le complexifie de E est crucial. L’exemple x2 + y2 = 0l’illustre bien. Le complexifie est ici defini par x = 0, y = 0. La jacobienne associee a x, y est de rang 2 enl’origine alors que la jacobienne associee a x2 + y2 est de rang 0 en l’origine. Les exemples de systemesalgebriques n’ayant pas de solution reelle mais ayant des solutions complexes l’illustrent encore mieux.

Remarquons que pour que la definition ci-dessus devienne effective, il faut a priori se doter d’unalgorithme permettant de calculer le complexifie d’un ensemble algebrique reel. Ceci dit, etant donneune variete algebrique irreductible V ⊂ Cn, si V contient un point reel regulier, alors V est le complexifiede V∩Rn. Nous verrons dans le chapitre suivant comment la decomposition cylindrique algebrique permetde calculer la dimension d’un ensemble algebrique reel.

Enfin, etant donnee une variete algebrique V ⊂ Cn, l’ensemble des points reels reguliers n’est pasdense dans V ∩ Rn alors que l’ensemble des points reguliers (complexes) est dense dans V. Le parapluiede Whitney est une surface qui illustre bien cela (voir figure 3) : le lieu singulier est constituee d’unedroite et, sur une partie (qu’on appelle manche du parapuie et qui est une demi-droite) de celle-ci, toutpoint singulier admet un voisinage ne contenant aucun point regulier du parapluie de Whitney.

La projection d’un ensemble algebrique sur un sous-espace affine n’est pas algebrique mais construc-tible (c’est-a-dire definie par un systeme d’equations et d’inequations polynomiales). De la meme maniere,la projection d’un ensemble algebrique reel n’est pas algebrique reel. Ceci nous amene a considerer desensembles semi-algebriques.

Definition 8. Soit R un corps reel clos et n ∈ N?. Un ensemble S ⊂ Rn est semi-algebrique si il existeun nombre fini de systemes d’equations et d’inegalites polynomiales en n variables et a coefficients dansR tels que S est l’union de leur lieu-solutions.

Donnons quelques exemples. Les semi-algebriques de R sont donc des reunions finies d’intervalles etde points. Evidemment, tout ensemble algebrique reel est semi-algebrique. Si A ⊂ Rn et B ⊂ Rn sontsemi-algebriques alors A∩B est semi-algebrique. Il en est de meme pour l’union de deux semi-algebriqueset plus generalement pour toute union finie de semi-algebriques. On a aussi que si A ⊂ Rn et B ⊂ Rk

sont semi-algebriques alors A× B ⊂ Rn × Rk est semi-algebrique.On peut aussi definir les semi-algebriques grace au langage des formules du premier ordre. Une formule

du premier ordre est obtenue par les regles suivantes :– Si f ∈ R[X1, . . . , Xn] alors f = 0 et f > 0 sont des formules.– Si ϕ et ψ sont des formules, alors ϕ ∧ ψ, ϕ ∨ ψ et ¬ϕ sont des formules.– Si ϕ est une formule, et X une variable reelle, alors ∃Xϕ et ∀Xϕ sont des formules.

2au sens ou toutes ses composantes irreductibles sont de meme dimension.

15

Fig. 4 – Parabole et sa projection

Dans ce cadre, un ensemble S ⊂ Rn est semi-algebrique si et seulement si il existe une formule du premierordre ϕ sans quantificateur telle que :

(x1, . . . , xn) ∈ S ⇔ ϕ(x1, . . . , xn) est vraie

C’est ce que montre le Theoreme de Tarski-Seidenberg. Il est important car il permet d’aborder lesproblemes d’elimination des quantificateurs.

Theoreme 2 (Theoreme de Tarski-Seidenberg). Si ϕ est une formule du premier ordre, l’ensembledes (x1, . . . , xn) ∈ Rn qui satisfont ϕ(x1, . . . , xn) est un ensemble semi-algebrique de Rn.

Ainsi, decrire l’ensemble semi-algebrique S des points de Rn qui satisfont une formule du premierordre donnee ϕ revient a fournir une formule sans quantificateurs definissant S. C’est ce qu’on appellecommunement l’elimination des quantificateurs.

Entre autres consequences importantes du theoreme de Tarski-Seidenberg, on a que l’adherence Sd’un semi-algebrique S ⊂ Rn (pour la topologie induite par la norme euclidienne) est semi-algebrique.En effet, on peut exprimer facilement l’appartenance a S par la satisfiabilite d’une formule du premierordre.

Revenons un instant sur la maniere dont on a defini les formules du premier ordre. Le fait que lesquantificateurs portent sur des variables reelles est crucial. En effet, considerons le sous-ensemble de R2

(x, y) ∈ R2 | ∃n ∈ N y = nx.

Celui-ci n’est pas semi-algebrique. Raisonnons par l’absurde et supposons qu’il soit semi-algebrique. Dansce cas, son intersection avec la droite definie par x+ y+1 = 0, qui est constituee d’une infinite de pointsest semi-algebrique. La projection de ces points sur l’axe des abscisses est constituee d’une infinite depoints et devrait etre un semi-algebrique de R. Or, on a vu qu’un semi-algebrique de R est une reunionfinie d’intervalles et de points.

Un resultat important concernant les ensembles semi-algebriques est que l’image d’un semi-algebriqueest semi-algebrique (c’est une consequance du theoreme de Tarski-Seidenberg). C’est ce qu’enonce laproposition ci-dessous.

Proposition 6. Soit k ∈ N, Π : Rn → Rk une projection sur un sous-espace affine de Rn de dimensionk, S un ensemble semi-algebrique et E un ensemble algebrique reel.

L’image de E par Π est semi-algebrique. L’image de S par Π est semi-algebrique.

Exemple. Considerons la parabole definie dans R2 par y − x2 = 0. Il s’agit d’un ensemble algebriquereel. Sa projection sur l’axe des orodonnees est l’ensemble semi-algebrique de R defini par y > 0 (voirfigure 4).

Si on considere l’hyperbole dans R2 definie par xy − 1 = 0. Sa projection sur l’axe des abscisses estl’ensemble semi-algebrique de R defini par x 6= 0 (voir figure 5).

16

–4–2024

y

–4–2

24

x

Fig. 5 – Hyperbole et sa projection

La dimension d’un ensemble semi-algebrique S peut etre definie de maniere similaire a celle d’unensemble algebrique reel en considerant le complexifie de S c’est-a-dire la plus petite variete algebriqueV contenant S.

Definition 9. La dimension d’un ensemble semi-algebrique S est egale a celle de son complexifie.

La dimension verifie des proprietes evidentes : la dimension d’une union finie de semi-algebriques est lemaximum des dimensions des semi-algebriques. La dimension d’un produit cartesien de semi-algebriquesest la somme des dimensions des semi-algebriques du produit cartesien. La dimension de l’adherence d’unsemi-algebrique est egale a la dimension du semi-algebrique considere, et la dimension de sa frontiere estinferieure strictement a sa dimension.

2.2 Fonctions semi-algebriques

Definition 10. Soit A ⊂ Rn et B ⊂ Rk deux semi-algebriques. Une fonction f : A → B est semi-algebrique si et seulement si son graphe est semi-algebrique.

De telles fonctions sont munies d’importantes proprietes. Ainsi, grace au theoreme de Tarski-Seiden-berg, on peut montrer que l’image d’un semi-algebrique par une fonction semi-algebrique est semi-algebrique. Il en est de meme pour l’image reciproque. On a aussi que la composee de deux fonctionssemi-algebriques est semi-algebrique.

Les exemples de fonctions semi-algebriques ne manquent pas : toute fonction polynomiale (ou ra-tionnelle) d’un semi-algebrique vers un semi-algebrique est semi-algebrique. Plus generalement, toutefonction d’un semi-algebrique A vers un semi-algebrique B dont l’image se decrit par une formule dupremier ordre est semi-algebrique. En effet, dans ce cas le graphe de f peut etre defini par une formuledu premier ordre.

Les fonctions semi-algebriques ont un comportement classique vis-a-vis de la dimension. Plus precise-ment, si S ⊂ Rn est un semi-algebrique, et f : S → Rk une fonction semi-algebrique, alors la dimensionde f(S) est inferieure ou egale a celle de S, l’egalite etant assuree si f est injective.

Le resultat ci-dessous, qu’on appelle Inegalite de Lojasiewicz, renseigne sur la croissance compareede deux fonctions semi-algebriques continues restreintes a un semi-algebrique compact.

Proposition 7. Soit S ⊂ Rn un ensemble semi-algebrique compact et f, g : S → R deux fonctionssemi-algebriques continues telles que :

x ∈ S | f(x) = 0 ⊂ x ∈ S | g(x) = 0

Alors, il existe N ∈ N et une constante C > 0 tels que

∀x ∈ S |g(x)|N 6 C|f(x)|

Du fait de la compacite de S requise dans l’enonce ci-dessus, celui-ci est un peu restrictif. Il peut etregeneralise comme suit :

17

Proposition 8. Soit S ⊂ Rn un ensemble semi-algebrique ferme et f, g : S → R deux fonctions semi-algebriques continues telles que :

∀x ∈ S g(x) =1

1 + |x|2 et x ∈ S | f(x) = 0 = ∅

Alors, il existe N ∈ N et une constante C > 0 tels que

∀x ∈ S |g(x)|N 6 C|f(x)|

Le lemme de selection des courbes ci-dessous nous dit qu’etant donne un ensemble semi-algebriqueS et un point dans la cloture de S (pour la topologie euclidienne), on peut construire un chemin semi-algebrique passant par ce point et inclus dans S.

Lemme 1 (Lemme de selection des courbes). Soit S ⊂ Rn un ensemble semi-algebrique et x ∈ S.Alors il existe une fonction semi-algebrique γ : [0, 1]→ Rn telle que :

– γ(0) = x ;– la restriction de γ a ]0, 1] est continue ;– γ(]0, 1]) ⊆ S.Si on suppose que S est connexe, le lemme de selection de courbes nous dit qu’on peut relier par un

chemin semi-algebrique n’importe quel point de sa cloture a n’importe quel point de S.Le resultat ci-dessous, qu’on appelle lemme de selection des courbes a l’infini, s’obtient par une

compactification semi-algebrique de Rn, et le lemme classique de selection des courbes classique ci-dessus.

Lemme 2 (Lemme de selection des courbes a l’infini). Soit S ⊂ Rn un ensemble semi-algebriqueet ϕ : S → Rq une fonction semi-algebrique. S’il existe une suite de points (x`)`∈N ⊂ S telle que ||x`||tend vers l’infini quand ` tend vers l’infini et ϕ(x`) tend vers y ∈ Rq quand ` tend vers l’infini, alors ilexiste une fonction semi-algebrique continue γ :]0, 1[→ Rn telle que :

– ||γ(t)|| tend vers l’infini quand t tend vers 1 ;– γ(]0, 1[) ⊂ S ;– ϕ(γ(t)) tend vers y quand t tend vers 1.

On a vu que l’image d’un ensemble semi-algebrique S ⊂ Rn par une fonction semi-algebrique ϕ :S → Rk est semi-algebrique. Le theoreme des fonctions implicites donne des informations locales surla topologie de S et des fibres de ϕ. Le theoreme des fonctions implicites est valable dans un contexteanalytique hors on travaille ici avec des objets definis a l’aide de polynomes. Il est alors naturel de sedemander si on peut extraire des informations globales de nature topologique sur S et les fibres de ϕ.

Considerons l’exemple du semi-algebrique S ⊂ R2 defini par x2 + y2 − 1 6= 0 et prenons commeapplication la projection π sur l’axe des abscisses (voir Figure 6). L’image de π par S est R tout entier.On remarque qu’en partitionnant R en ]−∞,−1[, −1, ]−1, 1[, 1, ]1,∞[, on a les proprietes suivantes :

– La pre-image de ]−∞,−1[ (resp. ]1,∞[) est egale (et donc homeomorphe) a ]−∞,−1[×R (resp.]1,∞[×R) ; remarquons ici que R est precisement la pre-image par π d’un point de ]−∞,−1[ (resp.]1,∞[) ;

– La pre-image de ]−1, 1[ est constituee des trois composantes connexes definies par x2+y2−1 > 0, y <0, x2 +y2−1 < 0 et x2 +y2−1 > 0, y > 0 ; remarquons que la pre-image (qu’on noteF ) par π d’unpoint de ]−1, 1[ est constituee de deux demi-droites et d’un segment ouvert (evidemment contenuesdans les composantes connexes qu’on vient de definir) ; de plus il apparaıt que ces composantesconnexes sont homeomorphes a ]− 1, 1[×F .

Finalement, sur cet exemple, on a partitionne l’image de S en cinq composantes connexes C1, . . . , C5

telles que les pre-images de ces composantes connexes sont homeomorphes au produit cartesien de Ci etde la pre-image par π d’un point choisi dans Ci (pour i = 1, . . . , 5).

Le theoreme ci-dessous, connu sous le nom de theoreme de trivialite semi-algebrique de Hardt, montreque ce qu’on vient de voir sur un exemple se generalise completement. En effet, il montre qu’etant donneun semi-algebrique S et une fonction semi-algebrique ϕ : S → Rk, on peut partitionner l’espace d’arriveeRk en un nombre fini de sous-ensembles semi-algebriques Ci tels qu’au dessus de chaque Ci, S esthomeomorphe a un produit cartesien Ci×Fi ou Fi est un semi-algebrique de Rn. On dit aussi que S esttrivial au-dessus de chaque Ci. Dans le cas ou S est diffeomorphe au produit cartesien Ci × Fi, on ditaussi que ϕ realise une fibration localement triviale sur S ∩ ϕ−1(Ci).

18

Fig. 6 – Illustration du theoreme de Hardt applique a x2 + y2 − 1 6= 0

Theoreme 3. (Trivialite semi-algebrique de Hardt) Soit S ⊂ Rn un ensemble semi-algebriqueet soit ϕ : S → Rk une fonction semi-algebrique continue. Alors, il existe une partition de Rk en unnombre fini de sous-ensembles semi-algebriques C1, . . . , C` et pour tout i = 1, . . . , ` un sous ensemblesemi-algebrique Fi ⊂ Rn et un homeomorphisme hi : ϕ−1(Ci) → Ci × Fi tels que le diagramme suivantcommute :

ϕ−1(Ci) ⊂ Shi

ϕ

Ci × Fiπ

Ci ⊂ Rk

ou π est la projection qui envoie (x, y) ∈ Ci × Fi sur x.

Les consequences de ce theoreme sont nombreuses. Ce theoreme intervient dans la preuve du fait quele nombre de composantes connexes d’un ensemble semi-algebrique est fini.

De plus, si on se donne y et y′ dans le meme semi-algebrique Ci, alors ϕ−1(y) et ϕ−1(y′) sont tousdeux semi-algebriquement homeomorphes a Fi et donc semi-algebriquement homeomorphes entre eux.D’ailleurs chaque Fi peut etre remplace par ϕ−1(y) pour un choix quelconque de y ∈ Ci.

Une premiere consequence sur la dimension est que si y ∈ Ci,

dim(ϕ−1(y)) = dim(Fi) = dim(ϕ−1(Ci))− dim(Ci) 6 dim(S)− dim(Ci)

ce qui permet de montrer que, etant donne d ∈ N,

y ∈ Rk | dim(ϕ−1(y)) = d

est un sous-ensemble semi-algebrique de dimension inferieure ou egale a dim(S)− d.

2.3 Discussion

Nous avons introduit les objets de base de la geometrie algebrique reelle. Du point de vue algorith-mique, les premieres questions auxquelles on voudrait repondre sont naturellement le test du vide desensembles algebriques reels ou des semi-algebriques, ainsi que le calcul de la dimension de l’ensembleconsidere.

Repondre a de telles questions portant sur un ensemble algebrique V ⊂ Cn se fait en procedant a unereecriture du systeme polynomial definissant V (sous une forme triangulaire par exemple). Citons entreautres exemples les algorithmes de calcul de bases de Grobner [32, 50, 51], d’ensembles triangulaires[88, 76, 152], et de resolution geometrique [61, 94]. Une quantite importante dans ce contexte est le degred’une variete algebrique. Ceci peut etre defini comme la somme du nombre de points obtenus quandon intersecte chaque composante equi-dimensionnelle de dimension d de V avec d hyperplans choisis

19

generiquement3. Ce degre est borne par la borne de Bezout (qui est, dans les cas non surcontraints, leproduit des degres des polynomes du systeme definissant V). L’algorithme donne dans [94] est polynomialen cette quantite. Dans de nombreux cas, le calcul de bases de Grobner l’est aussi [83, 84, 67, 16].

Le passage au contexte reel est problematique a plus d’un titre. L’approche la plus naturelle consistea utiliser la definition de dimension d’un semi-algebrique (ou d’un algebrique reel) au pied de la lettre.Mais il faut alors pouvoir calculer le complexifie du semi-algebrique considere. Rien que dans le cas desalgebriques reels, cela revient dans un premier temps a effectuer une decomposition en ideaux premiers del’ideal engendre par le systeme donne en entree. Une fois ceci effectue, il faut tester s’il existe des pointsreels reguliers, ce qui revient a tester le vide d’un semi-algebrique, etc. Ainsi, le calcul de dimension parl’intermediaire d’un calcul de complexifie est delicat.

Mentionnons egalement que la notion de degre des varietes algebriques n’est pas transposable aucas des ensembles algebriques reels. En effet, dans ce cas, pour obtenir un nombre maximal de pointsreels, nos hyperplans doivent etre choisis en dehors d’un semi-algebrique qui est parfois de co-dimensionnulle. L’exemple du cercle dans le plan illustre bien cet etat de fait des lors que l’intersection des droiteschoisies avec l’axe des abscisses n’appartient pas a ]− 1, 1[. On pourrait alors vouloir se refugier derrierele degre du complexifie de l’ensemble algebrique reel considere. Mais, ce dernier peut etre bien superieura la borne de Bezout calculee a partir des polynomes definissant la variete qu’on etudie. Le polynomeci-dessous :

n∑

i=1

D∏

j=1

(Xi − j)

2

= 0

qui est de degre 2D (c’est ici la borne de Bezout et le degre de l’hypersurface etudiee) illustre bien cela : lelieu-solution reel a un complexifie de degre Dn. De plus, cette derniere quantite est purement algebriqueet ne refletera pas systematiquement la complexite geometrique du lieu-solution reel.

C’est une situation dont il faudra s’accomoder. Les algorithmes que nous allons etudier relevent duCalcul Formel, ils feront usage d’algorithmes d’elimination algebrique. Pour en mesurer la complexite(ou, a defaut, la taille de la sortie), des quantites purement algebriques interviendront sans que celles-cirefletent systematiquement la complexite du lieu-solution reel.

Le point de depart est une version effective du theoreme de trivialite semi-algebrique de Hardt.Nous allons montrer comment decomposer un semi-algebrique S ⊂ Rn en un sous-famille finie de semi-algebriques homeomorphes a des hypercubes ]0, 1[d pour d = 1, . . . , n. Ceci revient a construire ce quenous appellerons une decomposition cylindrique algebrique. Pour ce faire, nous remplacerons ϕ dansl’enonce du theorome de trivialite par une projection sur un sous-espace affine de dimension n − 1 etraisonnerons par recurrence sur chacun des Ci ⊂ Rn−1 en appliquant toujours le meme theroeme maisavec une projection sur un sous-espace affine de dimension n − 2, etc. Ceci nous permettra de decrirecompletement la topologie d’un ensemble semi-algebrique et donc d’en tester le vide, d’en donner ladimension, d’en exhiber au moins un point par composante connexe, etc.

3Il existe un ferme de Zariski tel que pour tout choix d’hyperplans effectues en dehors de ce ferme, ce nombre de pointsobtenus a l’intersection est constant est maximal

20

3 Decomposition Cylindrique Algebrique

Ce chapitre est consacre a l’algorithme de decomposition cylindrique algebrique. Comme indiqueplus haut, il s’agit d’obtenir une version effective du theoreme de trivialite semi-algebrique de Hardt.A quelques modifications pres, cet algorithme permet aussi de resoudre le “probleme d’elimination desquantificateurs” c’est-a-dire :

– decider si une formule du premier ordre avec quantificateurs est vraie ;– obtenir une description du semi-algebrique defini par une formule du premier ordre avec quantifi-

cateurs (c’est ici que reside veritablement l”’elimination” des quantificateurs).En ce sens, l’algorithme d’elimination des quantificateurs est aussi une version effective du theoreme deTarski-Seidenberg. C’est pourquoi il est fondamental en geometrie algebrique reelle effective.

Initialement, Tarski propose dans [141] un algorithme resolvant le probleme d’elimination des quanti-ficateurs. Neanmoins, la complexite de cet algorithme n’est pas elementairement recursive. Nous verronsdans ce chapitre que l’algorithme de decomposition cylindrique algebrique est de complexite doublementexponentielle en le nombre de variables. Cette complexite qui peut paraıtre terrifiante constitue doncune amelioration consequente du resultat de Tarski. De plus, nous verrons qu’il est illusoire d’espererune meilleure complexite : le probleme d’elimination des quantificateurs est intrinsequement doublementexponentiel en le nombre de variables.

Dans la suite, nous commencons par definir une decomposition cylindrique adaptee a un ensemblede polynomes en tant qu’objet et independamment de tout algorithme. Nous donnons aussi les resultatsqui permettent d’en deduire un algorithme calculant une telle decomposition. Dans la seconde sectionde ce chapitre, nous presentons l’algorithme et abordons les questions algorithmiques soulevees parses implantations. Puis, nous montrons comment modifier l’algorithme de decomposition cylindriquepour resoudre le probleme d’elimination des quantificateurs et expliquons pourquoi ce probleme estintrinsequement doublement exponentiel en le nombre de variables.

3.1 La decomposition cylindrique algebrique en tant qu’objet

Une decomposition d’un ensemble semi-algebrique S est une partition finie de S en sous-ensemblessemi-algebriques. Une decomposition cylindrique algebrique de Rn est une suite S1, . . . ,Sn telle que pourtout 1 6 i 6 n, Si est une decomposition de Ri en sous-ensembles semi-algebriques connexes (que nousappellerons cellules), ayant les proprietes suivantes :

– a) Toute cellule S ∈ S1 est soit un point soit un intervalle ouvert.– b) Pour tout 1 6 i 6 n et toute cellule S ∈ Si, il existe un nombre fini de fonctions semi-algebriques

continuesξS,1 < . . . < ξS,`S : S −→ R

telles que le cylindre S × R est l’union disjointe de cellules de Si+1 qui sont :– soit le graphe ΓS,j d’une des fonctions ξS,j pour j ∈ 1, . . . , `S :

ΓS,j = (x′, xj+1) ∈ S ×R | xj+1 = ξS,j(x′)

– soit une bande BS,j du cylindre borne par les graphes des fonctions ξS,j et ξS,j+1 pour j ∈0, . . . , `S, ou on prend par convention ξS,0 = −∞ et ξi,`S+1 = +∞ :

BS,j = (x′, xj+1) ∈ S ×R | ξS,j(x′) < xj+1 < ξS,j+1(x′)

Exemple. Une decomposition cylindrique algebrique de R2 est donnee par la suite S1,S2 ou :– S1 est la partition de R constituee de ]−∞,−1], −1, ]− 1, 1[, 1, ]1,+∞[.– S2 est la partition de R2 constituee des semi-algebriques connexes S1, S2, S3, S4, S5, S6, S7 ou :

– S1 est l’ensemble des points (x, y) ∈ R2 | x ∈]−∞,−1[– S2 est la demi-droite (x, y) ∈ R2 | x = −1, y < 0– S3 est la demi-droite (x, y) ∈ R2 | x = −1, y = 0– S4 est la demi-droite (x, y) ∈ R2 | x = −1, y > 0– S5 est l’ensemble des points (x, y) ∈ R2 | x ∈]− 1, 1[– S6 est la droite (x, y) ∈ R2 | x = 1– S7 est l’ensemble des points (x, y) ∈ R2 | x ∈]1,∞[

21

Fig. 7 – Decomposition de x2 + y2 − 1-invariante

Dans cet exemple, S2 ∪ S3 ∪ S4 par exemple est le cylindre −1 × R (les fonctions ξ qui sont associeesa −1 sont ξ−1,0 = −∞, ξ−1,1 = 0 et ξ−1,2 = +∞).

Proposition 9. Toute cellule d’une decomposition cylindrique algebrique est semi-algebriquement ho-meomorphe a un hypercube ouvert ]0, 1[i (par convention ]0, 1[0 est un point).

Etant donnee une famille de polynomes P dans Q[X1, . . . , Xn], un sous-ensemble S de Rn est ditP-invariant si tout polynome P ∈ P est de signe constant sur S. Dans la suite de ce chapitre nous allonsmontrer comment construire une decomposition cylindrique algebrique Sn de Rn adaptee a P, c’est-a-dire pour laquelle chaque cellule S ∈ Sn est P-invariante. On parlera alors de decomposition cylindriquealgebrique P-invariante.

Soit S un ensemble semi-algebrique. Une decomposition cylindrique algebrique adaptee a S est unedecomposition cylindrique algebrique de Rn telle que S est une union finie de cellules de cette decompo-sition. Il est clair que si P est une famille de polynomes telle que S est la realisation d’une formule sansquantificateurs avec atomes dans P, une decomposition cylindrique algebrique adaptee a P contient unedecomposition cylindrique algebrique adaptee a S.

Exemple. Considerons le polynome f = x2+y2−1 ∈ Q[x, y] et l’ensemble semi-algebrique S ⊂ R2 definipar f < 0. Nous allons exhiber une decomposition cylindrique algebrique adaptee a S S en construisantune decomposition cylindrique algebrique f-invariante (voir figure 7).

Cette derniere est donnee par la suite S1,S2 ou :– S1 est la partition de R constituee de ]−∞,−1], −1, ]− 1, 1[, 1, ]1,+∞[.– S2 est la partition de R2 constituee des semi-algebriques connexes C2,i pour i = 1, . . . , 13 ou :

– C2,1 = (x, y) ∈ R2 | x < −1– C2,2 = (x, y) ∈ R2 | x = −1, y < 0– C2,3 = (x, y) ∈ R2 | x = −1, y = 0– C2,4 = (x, y) ∈ R2 | x = −1, y > 0– C2,5 = (x, y) ∈ R2 | −1 < x < 1, x2 + y2 − 1 > 0, y < 0– C2,6 = (x, y) ∈ R2 | −1 < x < 1, x2 + y2 − 1 = 0, y < 0– C2,7 = (x, y) ∈ R2 | −1 < x < 1, x2 + y2 − 1 < 0– C2,8 = (x, y) ∈ R2 | −1 < x < 1, x2 + y2 − 1 = 0, y > 0– C2,9 = (x, y) ∈ R2 | −1 < x < 1, x2 + y2 − 1 > 0, y > 0– C2,10 = (x, y) ∈ R2 | x = 1, y < 0– C2,11 = (x, y) ∈ R2 | x = 1, y = 0– C2,12 = (x, y) ∈ R2 | x = 1, y > 0– C2,13 = (x, y) ∈ R2 | x > −1

Les semi-algebriques C2,i (pour i = 1, . . . , 13) sont les cellules de notre decomposition cylindrique alge-brique qui est f-invariante. Penchons-nous sur le cylindre ]− 1, 1[×R. Une decomposition cylindrique

22

Fig. 8 – Decomposition de x2 + y2 − 1-invariante

algebrique adaptee a S est contenue dans celle que nous venons d’exhiber et est constituee de C2,7. Il estla reunion des cellules C2,5, C2,6, C2,7, C2,8 et C2,9. Considerons les fonctions semi-algebriques :

– ξ0 : ]− 1, 1[ → R

x 7→ −∞– ξ1 : ]− 1, 1[ → R

x 7→√

1− x2

– ξ2 : ]− 1, 1[ → R

x 7→ −√

1− x2

– ξ3 : ]− 1, 1[ → R

x 7→ +∞On verifie aisement qu’on a les relations suivantes :

– C2,5 est la bande (x, y) ∈ R2 | x ∈]− 1, 1[, ξ0(x) < y < ξ1(x) ;– C2,6 est le graphe (x, y) ∈ R2 | x ∈]− 1, 1[, y = ξ1(x) ;– C2,7 est la bande (x, y) ∈ R2 | x ∈]− 1, 1[, ξ1(x) < y < ξ2(x) ;– C2,8 est le graphe (x, y) ∈ R2 | x ∈]− 1, 1[, y = ξ2(x) ;– C2,9 est la bande (x, y) ∈ R2 | x ∈]− 1, 1[, ξ2(x) < y < ξ3(x) ;

Remarquons que les fonctions ξ1 et ξ2 associent a x une racine de x2 +y2−1 = 0 qui evolue continumentlorsque x varie. Enfin, notons que la decomposition cylindrique adaptee au semi-algebrique considere Sest constituee ici d’une seule cellule homeomorphe a R2 et que 2 est la dimension du semi-algebriqueconsidere.

Savoir construire une decomposition cylindrique algebrique adaptee a un ensemble semi-algebriquepermet de repondre a de nombreuses questions. Tout d’abord, il est clair d’apres la definition que toutsemi-algebrique de Rn decrit par une combinaison booleenne d’egalites et d’inegalites polynomiales estreunion de certaines cellules d’une decomposition cylindrique algebrique adaptee a la famille constitueede ces polynomes. On peut donc decider du vide, donner au moins un point par composante connexeet in fine demonter le semi-algebrique concerne en cellules homeomorphes a des paves ]0, 1[i. De plus,l’arrangement cylindrique des cellules permet d’observer que n’importe quel ensemble semi-algebriqueS de Rp decrit par une formule Q1Xp+1Q2Xp+2 · · ·QnXp+nΦ ou quantificateurs Q1, . . . , Qn sont desquantificateurs et Φ une formule du premier ordre sans quantificateurs est une reunion de certainescellules dans Rp. On voit ici qu’on pourra en deduire une formule du premier ordre sans quantificateursdecrivant S.

Maintenant, voyons comment construire une decomposition cylindrique algebrique adaptee a une fa-mille de polynomes f1, . . . , fs ⊂ Q[X1, . . . , Xn]. L’exemple donne ci-dessus fait ressortir le role crucialjoue par les fonctions dont les graphes decoupent les cylindres donnant ainsi les cellules de la decomposi-tion cylindrique algebrique qu’on cherche a construire. Ces cellules devant etre f1, . . . , fs-invariantes,ces fonctions decrivent, en fonction de (x1, . . . , xn−1) ⊂ Rn−1 les racines reelles des polynomes fi (ou les

23

variables X1, . . . , Xn−1 sont instantiees en x1, . . . , xn−1). Le resultat ci-dessous est une premiere etapeallant dans ce sens.

Proposition 10. Soit f un polynome de R[X1, . . . , Xn], k ∈ N et C ⊂ Rn−1 un sous-ensemble semi-algebrique connexe tel que pour tout a = (a1, . . . , an−1) ∈ C, le nombre de racines reelles ou complexesdistinctes de f(a,Xn) soit egal a k. Alors, il existe ` 6 k fonctions continues semi-algebriques ξ1, . . . , ξ` :C → R telles que, pour tout point a ∈ C, l’ensemble des racines reelles de f(a,Xn) soit exactementξ1(a), . . . , ξ`(a).

Il faut aussi s’assurer que les racines des fi ne se melangent pas :

Proposition 11. Soit f et g deux polynomes de R[X1, . . . , Xn] et C un sous-ensemble semi-algebriqueconnexe de Rn−1. On suppose que :

– le nombre de racines reelles ou complexes distinctes de g(a,Xn) est constant pour a ∈ C ;– le nombre de racines reelles ou complexes distinctes de g(a,Xn) est constant pour a ∈ C ;– le degre du pgcd de f(a,Xn) et g(a,Xn) est constant pour tout a ∈ C.

Soit ξ, ζ : C → R deux fonctions semi-algebriques continues telles que f(a, ξ(a)) = 0 et g(a, ζ(a)) = 0pour tout a ∈ C. Alors, pour tout a ∈ C on a soit ξ(a) = ζ(a), soit ξ(a) < ζ(a) soit ξ(a) > ζ(a).

Ainsi, d’apres les deux propositions ci-dessus, etant donne un sous-ensemble semi-algebrique connexeC de Rn−1 tel que pour tout a ∈ C, le nombre de racines reelles de chacun des fi(a,Xn) est constant ainsique le degre du pgcd de fi(a,Xn) et de fj(a,Xn) pour tout (i, j) ∈ 1, . . . , s2 (avec i 6= j), on sait decrireles cellules d’une decomposition cylindrique algebrique f1, . . . , fs-invariante puisque les fonctions semi-algebriques continues decoupant les bandes du cylindre C × R decrivent l’evolution des racines reellesfi(a,Xn) pour tout i ∈ 1, . . . , s quand a varie dans C. Ceci constitue l’enonce du theoreme ci-dessous :

Theoreme 4. Soit P une famille de polynomes dans R[X1, . . . , Xn] et S une composante semi-algebri-quement connexe de Rn−1 telle que

– pour tout x′ ∈ S, et pour tout f ∈ P, le nombre de racines distinctes de f(x′, Xn) dans C et dansR est constant,

– pour tout x′ ∈ S, et pour tout f ∈ P, le degre de f(x′, Xn) est constant.– pour tout x′ ∈ S, et pour tout couple (f, g) ∈ P × P, le degre du pgcd de f(x′, Xn) et de g(x′, Xn)

est constant.Alors, pour tout f ∈ P, il existe ` fonctions semi-algebriques continues ξ1, . . . , ξ` : S → R telles que∀x′ ∈ S, l’ensemble des racines reelles de f(x′, Xn) est exactement ξ1(x′), . . . , ξ`(x′) et les cellulesdelimitees par les graphes des ξi sont P-invariantes.

Explicitons maintenant le lien entre une decomposition cylindrique algebrique S1, . . . ,Sn−1,Sn (avecSi ⊂ Ri) adaptee a un ensemble semi-algebrique S ⊂ Rn et le theoreme de trivialite semi-algebriquede Hardt dont nous rappelons l’enonce ci-dessous : Soit S ⊂ Rn un ensemble semi-algebrique et soitϕ : S → Rk une fonction semi-algebrique continue. Alors, il existe une partition de Rk en un nombre finide sous-ensembles semi-algebriques C1, . . . , C` et pour tout i = 1, . . . , ` un sous ensemble semi-algebriqueFi ⊂ Rn et un homeomorphisme hi : ϕ−1(Ci)→ Ci × Fi tels que le diagramme suivant commute :

ϕ−1(Ci) ⊂ Shi

ϕ

Ci × Fiπ

Ci ⊂ Rk

ou π est la projection qui envoie (x, y) ∈ Ci × Fi sur x.Supposons que dans l’enonce ci-dessus, ϕ soit la projection Π : (x1, . . . , xn) ∈ Rn → (x1, . . . , xn). On

sait alors que l’on peut partitionner Rn−1 en sous-ensembles semi-algebriques connexes C1, . . . , C` telsque le diagramme de l’enonce ci-dessus commute. Hors, considerons les cellules de Sn−1 = (C ′

1, . . . , C′p) ⊂

Rn−1. Pour chacune d’entre elles, les cylindres (C ′i × R) ∩ S sont semi-algebriquement homeomorphes a

C ′i×Fi ou Fi = Π−1(ai)∩S avec ai ∈ C ′

i. C’est parce que les cylindres (C ′i×R)∩S sont reunion de cellules

de Sn et qu’on a un algorithme (voir le paragraphe suivant) calculant Sn qu’on dit que la decompositioncylindrique algebrique fournit une version effective du theoreme de trivialite semi-algebrique de Hardt.

Enfin, mentionnons que le calcul d’une decomposition cylindrique algebrique adaptee un ensemblesemi-algebrique permet d’en deduire la dimension.

24

Proposition 12. Soit S ⊂ Rn un ensemble semi-algebrique et D = C1, . . . , Ck une decompositioncylindrique algebrique associee a S. Pour toute cellule Ci de D, on note dim(i) la dimension de Ci. Ona alors que Ci est homeromorphe a Ri et que la dimension de S est egale au maximum des dimensionsdes Ci pour i = 1, . . . , k.

3.2 L’algorithme de decomposition cylindrique algebrique

On se donne une famille de polynomes f1, . . . , fs dans Q[X1, . . . , Xn]. L’algorithme calculant unedecomposition cylindrique algebrique f1, . . . , fs-invariante se divise en deux etapes. La premiere d’entreelles consiste a calculer recursivement des ensembles de polynomes, dits ensembles de projection, per-mettant de verifier les hypotheses des resultats du paragraphe precedent. On part donc d’une famillede polynomes dans Q[X1, . . . , Xn] et on construit des ensembles de polynomes dans Q[X1, . . . , Xi] pouri = n− 1, . . . , 1. C’est l’etape dite de projection.

Puis, vient l’etape dite de remontee qui va construire au moins un point par cellule de la decompositioncylindrique algebrique f1, . . . , fs-invariante : pour ce faire, on construit les partitions de Ri (pouri = 1, . . . , n) en isolant les racines reelles de chacun des polynomes des ensembles de projection dansQ[X1, . . . , Xi] instantiees en des points representatifs des cellules partitionnant Ri−1.

Il resulte de cette section le resultat suivant :

Theoreme 5. Pour toute famille finie P de polynomes dans R[X1, . . . , Xn], il existe une decompositioncylindrique algebrique de Rn adaptee a P.

3.2.1 L’etape de projection

Pour rendre effectif les resultats du paragraphe precedent caracterisant les cellules d’une decomposi-tion cylindrique algebrique f1, . . . , fs-invariante ou f1, . . . , fs sont des polynomes de Q[X1, . . . , Xn], ondoit, en un certain sens, controler les degres des pgcd des couples (fi, fj) (pour i 6= j) ainsi que le nombrede solutions reelles de chacun des fi pour diverses instantiations des variables X1, . . . , Xn−1. Ceci peutse faire de diverses manieres [98, 96, 97]. Elles mettent toutes en œuvre l’algorithme d’Euclide (ou desvariantes). Pour des raisons qu’on ne detaillera pas ici, mais qui relevent de preoccupations calculatoires(cout de l’arithmetique, croissance de la taille des coefficients) la variante de l’algorithme d’Euclide qu’onutilise calcule les polynomes sous-resultants associes a deux polynomes. Cette variante permet d’effectuerles calculs dans l’anneau engendre par les coefficients des deux polynomes consideres tout en gardant unbon controle sur la croissance des donnees.

Considerons donc les polynomes f = a0Xd + · · · + adX

d et g = b0Xd + · · · + beX

e avec ad 6= 0 etbe 6= 0. Le resultant de f et g est le determinant de la matrice de Sylvester ci-dessous (qui est carree detaille d+ e).

a0 a1 a2 · · · · · · ad 0 · · · 00 a0 a1 · · · · · · ad−1 ad 0 · · · 0...

......

......

......

......

...0 · · · · · · 0 a0 a1 a2 · · · adb0 b1 b2 · · · · · · be−1 be 0 · · · 00 b0 b1 b2 · · · · · · be 0 · · · 0...

......

......

......

......

...0 · · · · · · 0 b0 b1 b2 · · · · · · be

Le resultant est nul si et seulement si f et g ont un facteur commun. Pour 0 6 j < inf(d, e), on appellecoefficient sous-resultant principal d’ordre j de f et g (qu’on note CSResj(f, g)) le mineur de tailled+ e− 2j de la matrice de Sylvester de f et g obtenu en enlevant les j dernieres lignes de coefficients def , les j dernieres lignes de coefficients de g et les 2j dernieres colonnes.

Proposition 13. Soit ` un entier tel que 0 6 ` < inf(d, e). Le pgcd de f et g est de degre strictementsuperieur a ` si et seulement si

CSRes0(f, g) = · · · = CSRes`(f, g) = 0

On a aussi le resultat suivant :

25

Proposition 14. Les proprietes suivantes sont equivalentes :– f a r racines distinctes reelles ou complexes– CSResd−r(f,

∂f∂X ) 6= 0 et pour 0 6 ` < d− r, on a CSRes`(f,

∂f∂X ) = 0

On sait maintenant calculer le nombre de racines reelles ou complexes distinctes d’un polynome fainsi que le degre du pgcd de deux polynomes f et g d’apres les signes des coefficients sous-resultantsprincipaux CSRes`(f,

∂f∂Xn

) et CSRes`(f, g) tant que les coefficients dominants de f et g ne s’annulentpas. Pour les valeurs des variablesX1, . . . , Xn−1 ou ces coefficients dominants s’annulent, il faut recalculerles coefficients sous-resultants principaux pour les polynomes tronques.

Soit f un polynome de R[X1, . . . , Xn] vu comme un polynome univarie en Xn a coefficients polyno-miaux dans R[X1, . . . , Xn−1]. On note Coeff i(f) le coefficient de X i

n dans f et TRi(f) le polynome ftronque aux termes de degre inferieurs ou egaux a i.

En s’inspirant des propositions du paragraphe precedent, on definit alors naturellement un opera-teur de projection PROJ(f1, . . . , fs) comme etant la liste formee des polynomes en X1, . . . , Xn−1

suivants :– tous les Coeff i(fj) pour j ∈ 1, . . . , s et i ∈ 1, . . . ,deg(fj , Xn) ;– tous les CSResi(TRk(fj),

∂TRk(fj)∂Xn

) pour j ∈ 1, . . . , s, k ∈ 2, . . . ,deg(fj , Xn) et i ∈ 0, . . . , j ;

– tous les CSResi(TRk(fj),TR`(fp)) pour (j, p) ∈ 1, . . . , s2 avec j 6= p, k ∈ 2, . . . ,deg(fj , Xn),` ∈ 2, . . . ,deg(fp, Xn) et i ∈ 0, . . . , inf(k, `).

On a alors le resultat suivant :

Theoreme 6. Soit P une famille finie de polynomes dans R[X1, . . . , Xn] et soit S une composantesemi-algebriquement connexe d’un sous-ensemble semi-algebrique de Rn−1, qui est PROJ(P)-invariant.Alors, il existe ` fonctions continues ξ1 < . . . < ξ` : S → R telles que ∀x′ ∈ S, l’ensemble de pointsξ1(x′), . . . , ξ`(x′) est exactement l’ensemble des racines de reelles de tous les polynomes non nulsf(x′, Xn) avec f ∈ P. Le graphe de chaque fonction ξi ainsi que chaque bande du cylindre S×R borne parces graphes, sont des ensembles semi-algebriques semi-algebriquements connexes, et semi-algebriquementshomeomorphes soit a S soit a S×]0, 1[, et P-invariants.

Ainsi, etant donnee une decomposition cylindrique algebrique de Rn−1 adaptee a PROJ(P) et Sverifiant les hypotheses du theoreme precedent, les cellules de cette decomposition cylindrique algebrique,on voit alors qu’il existe une decomposition cylindrique algebrique de Rn adaptee a P.On definit recursivement des sous-ensembles finis de polynomes Pi tels que :

– Pn = P,– Pour tout i ∈ 1, . . . , n− 1, Pi = PROJ(Pi+1).

Dans le cas ou l’ensemble semi-algebrique etudie S ⊂ Rn est un ouvert de Rn (pour la topologieeuclidienne), comme c’est le cas par exemple s’il est defini par une combinaison booleenne d’inegalitespolynomiales strictes, l’operateur de projection peut etre simplifie. En effet, dans ce cas, tout celluled’une decomposition cylindrique algebrique adaptee a S est homeomorphe a ]0, 1[n. Ceci implique quela construction des cellules au-dessus des COEFFi(fj) est inutile pour i < deg(fj , Xn). Il en est dememe de tous les coefficients sous-resultants principaux associes a deux polynomes qui ne sont pasle polynome resultant de ces deux polynomes. Ainsi, on obtient ce qu’on appelle une decompositioncylindrique algebrique ouverte en modifiant l’operateur de projection de maniere telle qu’il ne contientplus que :

– tous les Coeffdeg(fj ,Xn)(fj) pour j ∈ 1, . . . , s et i = deg(fj , Xn) ;

– tous les CSRes0(fj ,∂fj

∂Xn) pour j ∈ 1, . . . , s ;

– tous les CSRes0(fj , fp) pour (j, p) ∈ 1, . . . , s2 avec j 6= p.Dans [103], l’auteur montre que l’operateur de projection ci-dessus permet aussi d’obtenir une de-

composition cylindrique algebrique adaptee a un semi-algebrique S meme lorsque celui-ci n’est pas unouvert de Rn.

3.2.2 L’etape de remontee

Il est alors clair que P1 est une famille de polynomes univaries. La construction d’une decompositioncylindrique algebrique S1 adaptee a P1 se fait en donnant un point representatif dans chaque composantesemi-algebriquement connexe de S1. Ceci revient a isoler, puis trier les racines reelles des polynomes de

26

P1 : α1,1, . . . , α1,s1 et donner un point dans chaque intervalle ]α1,i, α1,i+1[ pour i ∈ 0, . . . , s1+1 (avecα1,0 = −∞ et α1,s1+1 = +∞). Il nous faut maintenant montrer comment construire une decompositioncylindrique algebrique adaptee a P2 a partir de S1.

Ceci pose le probleme du codage des nombres algebriques reelles et de leur manipulation. En effet,parmi les cellules d’une decomposition cylindrique algebrique adaptee a S1, on trouve les racines reellesdes polynomes de P1. Schematiquement, ce qu’on veut c’est pouvoir instantier la variable X1 dans lespolynomes de P2 en chacune de ces racines et calculer les racines reelles des polynomes ainsi obtenus.

Une possibilite est que les coordonnees en X1, X2 des points qu’on cherche a construire soient donnesen fonction d’un element primitif de l’extension de Q qu’elles engendrent (cet element primitif etant alorsdonne par son polynome minimal et un intervalle a extremites rationnelles qui l’isole). Une alternativea cette technique qui, en pratique s’avere couteuse, est donnee par le codage a la Thom des nombresalgebriques reels. Cette derniere n’est pas plus efficace en pratique mais est utilisable des lors qu’ontravaille sur des corps non-archimediens. En fait, la plupart des implantations modernes de l’algorithmede decomposition cylindrique algebrique travaillant sur des polynomes a coefficients rationnels exploitentla structure triangulaire des ensembles de projection ainsi que des techniques d’arithmetique d’intervalle.

Plus precisement, on commence par isoler les racines reelles des polynomes de P1. Soit donc I =]α1,i, α1,i+1[ un tel intervalle (avec extremites rationnelles) isolant une racine αi. Soit f un polynomede P2. On cherche alors a donner des intervalles isolant les racines reelles de f(x,X2) pour tout x ∈ I.Si f(α,X2) est separable, et que αi+1 − αi est suffisamment petit, on peut utiliser des variantes del’algorithme d’Uspensky avec arithmetique d’intervalles pour arriver a nos fins. Si non, il faut calculerla partie separable de f (quand X1 est instantiee a α). Ce genre de procede met en œuvre des calculsde pgcd au-dessus de tours d’extensions algebriques. Un tel processus – qui s’avere etre particulierementtechnique – peut etre itere pour produire un point dans chaque cellule de la decomposition cylindriquealgebrique qu’on cherche a calculer. Le lecteur desirant avoir plus de details peut se referer a [21].

L’algorithme de decomposition cylindrique de Collins est alors la succession de l’etape de projectionet de l’etape de remontee decrites ci-dessus.

On peut extraire d’une decomposition cylindrique algebrique S adaptee a une famille de polynomesP une liste de points representant chaque cellule de S. On a la propriete suivante :

Theoreme 7. Soit P une famille de polynomes dans R[X1, . . . , Xn] et S une decomposition cylindriquealgebrique adaptee a P. Pour toute condition de signe σ verifiee par P, on note Dσ une composantesemi-algebriquement connexe du lieu des points verifiant σ. Il existe au moins une cellule de S telle quetout point de cette cellule est contenue dans Dσ.

Donc, non seulement l’algorithme de decomposition cylindrique algebrique permet de decider toutesles conditions de signe realisables simultanement par une famille de polynomes, mais elle permet aussid’exhiber au moins un point dans chaque composante connexe des semi-algebriques ainsi definis.

3.3 Complexite theorique

On se concentre sur la complexite de l’operateur de projection.Soit D le maximum des degres totaux des polynomes de P. On note s le nombre de polynomes dans

P. Par ailleurs, on suppose que la multiplication de polynomes univaries dont le degre est borne par Dest log-lineaire en D. Dans PROJ(P), on a :

– s(D − 1) polynomes de degre maximal 2D2 correspondant aux coefficients sous-resultants despolynomes de P et de leur derivee par rapport a une variable.

–(s2

)(D − 1) polynomes de degre maximal 2D2 correspondant aux coefficients sous-resultants de

chaque couple de polynomes dans P.– s(D+1) polynomes de degre maximal D correspondant aux coefficients de chaque polynome de P.– s(D − 1)2 polynomes de degre maximal 2D2 correspondant aux coefficients sous-resultants des

polynomes tronques de P et de leur derivee par rapport a une variable.–(s(D−1)

2

)(D − 1) polynomes de degre maximal 2D2 correspondant aux coefficients sous-resultants

de chaque couple de polynomes tronques dans P.Donc PROJ(P) contient O(s2D2) polynomes de degre maximal O(D2). Par ailleurs en utilisant des

algorithmes “a la Schonage” pour le calcul des coefficients sous-resultants (voir [96]), ce calcul se fait

27

Fig. 9 – Decomposition cylindrique algebrique de deux cercles

en O(D log2D log logD) operations dans Q[X1, . . . , Xn−1]. Comme chaque operation arithmetique dansQ[X1, . . . , Xn−1] entre des polynomes de degre D a un cout qui est au plus log-lineaire en Dn−1 et qu’ona O(s2D) calculs de coefficients sous-resultants a effectuer, le cout de la premiere etape de projectionest O(s2D4+(n−1)) aux facteurs logarithmiques pres. L’ensemble de projection obtenu contient O(s2D2)polynomes de degre O(D). Ainsi, si on note

– si le nombre de polynomes de l’ensemble de projection Pi obtenu apres i etapes de projection,– Di le degre maximal des polynomes de Pi– et ci le nombre d’operations arithmetiques dans Q effectuees pour calculer Pi

on a les relations suivantes :

si+1 = (siDi)2/2 + s2i (Di − 1) + si(Di − 1), Di+1 = 2D2

i , ci = O(s2i+1D2+n−ii ) + ci−1

On a donc finalement sn 6 3ns2n

/2n, Dn = 2nD2n

et cn = O(n3ns2n

Dn2n

)Nous obtenons donc une complexite theorique doublement exponentielle en le nombre de variables.

Si on s’etait concentre sur la complexite binaire de l’algorithme de decomposition cylindrique algebrique,nous aurions obtenu un resultat similaire. Enfin, les modifications apportees a l’operateur de projectiondans le cas du calcul d’une decomposition cylindrique algebrique ouverte ne changent en rien le caracteredoublement exponentiel en le nombre de variables de l’etape de projection.

D’un point de vue pratique, l’algorithme de decomposition cylindrique algebrique subit cette com-plexite a deux niveaux :

– lors de la phase de projection, le nombre de polynomes ainsi que leur degre devient une etapebloquante de l’algorithme lorsque le nombre de variables est superieur a trois.

– lors de la phase de remontee, la gestion des nombres algebriques reels est cruciale. Les resultatsde [117, 116] ont constitue une avancee notable dans ce domaine, mais les problemes qui restent aresoudre resident dans le nombre de points retournes qui est trop grand d’une part et les calculsde pgcd mentionnes dans la section precedente necessaire a la remontee.

Ainsi, il arrive tres souvent que pour des problemes de plus de trois ou quatre variables la phase deprojection necessite des ressources que les ordinateurs actuels ne fournissent pas. Meme lorsque cettederniere termine, la phase de remontee est aussi bloquante du fait du nombre de points reels qui doiventetre manipules.

3.4 Generalisation a l’elimination des quantificateurs

Nous montrons maintenant comment l’algorithme de decomposition cylindrique algebrique permetde resoudre le probleme d’elimination des quantificateurs. Etant donnee une formule du premier ordreavec quantificateurs en n variables, le theoreme de Tarski nous dit que l’ensemble des points de Rn quirealisent cette formule est un ensemble semi-algebrique de Rn. Ce dernier peut donc etre decrit par une

28

formule du premier ordre sans quantificateurs. Trouver une telle formule est ce que nous entendons parla resolution du probleme d’elimination des quantificateurs.

On considere une famille de polynomes P dans Q[X1, . . . , Xn] et une decomposition cylindriquealgebrique P-invariante ainsi qu’une formule

Φ = (Q1X1) · · · (QnXn)ϕ(X1, . . . , Xn)

ou ϕ est une combinaison booleenne d’egalites et d’inegalites polynomiales sans quantificateurs et Qi ∈∃,∀ pour i = 1, . . . , n. L’exemple ci-dessous illustre le fait qu’une decomposition cylindrique algebriqueP-invariante “classique” n’est pas suffisante pour resoudre le probleme d’elimination des quantificateurs.

Exemple. On considere la famille de polynomes P = f, g ⊂ Q[x, y] avec f = y2 − x(x+ 1)(x− 2) etg = y2−(x+2)(x−1)(x−3). L’ensemble de projection PROJ(P) calcule par l’algorithme de decompositioncylindrique algebrique – apres factorisation – est constitue des polynomes p1 = x(x + 1)(x − 2), p2 =(x+ 2)(x− 1)(x− 3) et p3 = (x2 + 3x− 6)2. Dans la suite, on note a, b les deux racines reelles de p3

(avec a < b).Les ensembles de solutions de f = 0 et de g = 0 sont deux cubiques qui ne s’intersectent pas.

Considerons maintenant l’ensemble semi-algebrique de R ainsi defini :

x ∈ R | ∃y ∈ R, f < 0 et g > 0

qui est egal a ]2,+∞[ est bien l’union de composantes connexes d’ensembles semi-algebriques definis pardes conditions de signe sur les polynomes de PROJ(P) mais ne peut pas etre defini comme une formulesans quantificateurs construite uniquement avec ces polynomes. En effet, on a :

– −1, 0 = x ∈ R | p1 = 0 et p2 > 0 et p3 > 0– ]− 1, 0[∪]3,+∞[= x ∈ R | p1 > 0 et p2 > 0 et p3 > 0– ]− 2,−1[∪]0, 1[= x ∈ R | p1 < 0 et p2 > 0 et p3 > 0– 3 = x ∈ R | p1 > 0 et p2 = 0 et p3 > 0– −2, 1 = x ∈ R | p1 < 0 et p2 = 0 et p3 > 0– 2 = x ∈ R | p1 = 0 et p2 < 0 et p3 > 0– ]2, 3[= x ∈ R | p1 > 0 et p2 < 0 et p3 > 0– ]−∞− 2[∪]1, 2[\a, b = x ∈ R | p1 < 0 et p2 < 0 et p3 > 0– a, b = x ∈ R | p1 < 0 et p2 < 0 et p3 = 0

Le probleme provient du fait que les cellules qu’on construit dans l’algorithme de decompositioncylindrique algebrique (tel que presente dans les sections precedentes) ne sont pas decrites par des com-binaisons booleennes d’egalites et d’inegalites polynomiales des polynomes calcules par l’operateur deprojection. Pour acceder a une telle representation, on doit faire usage du lemme de Thom. Ce resultatindique que si une famille de polynomes univaries est close par differentiation, alors les cellules definiespar cette famille de polynomes peuvent etre decrites par des conditions de signe sur la famille de po-lynomes consideree. Dans la suite, si σ est un ensemble de conditions de signe > 0,= 0, < 0 sur unefamille de polynomes, on note σ l’ensemble des conditions de signe en relachant les conditions de σ (lesinegalites strictes sont transformees en inegalites larges). Aussi, on notera RealP(σ) l’ensemble des pointsreels qui satisfont les conditions de signe σ portant sur une famille de polynomes P

Lemme 3 (Lemme de Thom). Soit P une famille de polynomes dans R[X] qu’on suppose close parderivation et σ un ensemble de conditions de signe sur P. Alors,

– RealP(σ) est soit vide, soit un point, soit un intervalle ;– Si RealP(σ) est vide, alors RealP(σ) est soit vide soit un point.– Si RealP(σ) est un point, alors RealP(σ) = RealP(σ)– Si RealP(σ) est un intervalle ouvert alors RealP(σ) est la cloture de cet intervalle.

L’utilisation recursive de ce lemme permet d’adapter l’operateur de projection de la decompositioncylindrique algebrique a l’elimination des quantificateurs de la maniere suivante :

– Ajouter a l’entree P toutes les derivees partielles des polynomes de P par rapport a la variable Xn.On obtient l’ensemble Pn

– Pour i allant de n a 2 calculer Pi−1 = PROJ(P i) et poser Pi−1 = ∂kf∂Xk

i

| f ∈ Pi−1, k =

0, . . . ,deg(f,Xi−1) ∪ Pi−1

29

L’operateur de projection etant ainsi modifie, l’algorithme de decomposition cylindrique algebriquepermet l’elimination des quantificateurs.

Une analyse de complexite – similaire a celle du paragraphe precedent – de l’algorithme de decom-position cylindrique algebrique modifie comme ci-dessus pour permettre l’elimination des quantificateursmontre que celle-ci est doublement exponentielle en le nombre de variables. Il est naturel ici de se de-mander si une telle complexite n’est pas inherente au probleme d’elimination des quantificateurs.

Pour ce faire, on doit se donner une notion de taille d’une formule du premier ordre. La taille d’uneformule atomique (f = 0 ou f < 0 ou f > 0) est le nombre de monomes de f . Puis on definit recursivementla taille d’une formule du premier de la maniere suivante :

– la taille de ϕ1 ∨ ϕ2 (resp. ϕ1 ∧ ϕ2) est egale a taille(ϕ1) + taille(ϕ2) + 1 ;– la taille de 6= ϕ1 est taille(ϕ1) + 1 ;– les tailles de (∃ϕ1) (ou ∀Xϕ1) valent taille(ϕ1) + 2.On va maintenant exhiber un exemple de formule du premier ordre avec quantificateurs telle que

toute formule sans quantificateur definissant le meme semi-algebrique S est de taille au moins doublementexponentielle en le nombre de variables.

On considere pour cela deux variables complexes z = x+ iy et w, et nous construisons recursivementun predicat ψn(w, z) qui n’est vrai que si w = z2n

:

ψ0(w, z) := (w − z2 = 0)ψn(w, z) := (∃u) (∀a ∀b) (((a = w ∧ b = u) ∨ (a = u ∨ b = z))⇒ ψn−1(a, b))

Remarquons que la taille de ψn(w, z) evolue lineairement en fonction de n. On definit maintenant ϕn(x, y)comme etant la formule ψn dans laquelle on a specialise w a 1, remplace z par x + iy et procede auxidentifications entre parties complexes et parties imaginaires. On verifie aussi que la taille de ϕn evoluelineairement en fonction de n.

On considere maintenant θn(x, y) une formule equivalente a ϕn(x, y) sans quantificateurs et Pn l’en-semble des polynomes apparaissant dans Pn. La taille de θn est superieure a la somme des degres de cespolynomes. Hors, l’ensemble semi-algebrique defini par θn est constitue de 22n

points isoles (qui corres-pondent aux 22n

racines complexes de l’unite). Des resultats derives de la theorie de Morse (voir [21])montrent que le nombre de composantes connexes d’un tel semi-algebrique est bornee par un polynomeen la somme des degres des polynomes de Pn. Ceci permet alors de montrer que la taille de θn est aumoins doublement exponentielle en le nombre de variables.

Theoreme 8. La resolution du probleme d’elimination des quantificateurs dans le pire cas est au moinsdoublement exponentielle en le nombre de variables.

3.5 Notes bibliographiques et commentaires

L’algorithme de decomposition cylindrique algebrique est du a Collins [38]. Des implantations del’algorithme de decomposition cylindrique algebrique (incluant des optimisations des algorithmes pre-sentes dans cette section) sont disponibles soit dans des systemes de Calcul Formel (tel Mathematica[5] ou Reduce) [6] soit sous la forme de programmes autonomes. Mentionnons les quatre implantationssuivantes :

– QEPCAD : programme autonome ecrit en C et fonde sur la bibliotheque de Calcul Formel SACLibest du initialement a Hoon Hong puis enrichi par de nombreux autres, dont G. Collins. A maconnaissance, ce programme n’a que peu evolue ces dernieres annees.

– QEPCAD-B : programme autonome presente comme le successeur de QEPCAD. Il est ecrit en C++

par C. Brown et contient de nombreuses optimisations (dont des implantations de decompositioncylindrique algebrique partielle). Ce programme, ainsi que la SACLib sont disponibles a l’URL :

http ://www.cs.usna.edu/˜qepcad– RLCAD : il s’agit d’une implantation supervisee par T. Sturm qui est incluse dans le systeme Reduce

[6].http ://www.uni-koeln.de/REDUCE/

– Mathematica : il s’agit d’une implantation due a A. Strzebonski. Les fonctionnalites offertes sontassez riches (consulter la documentation pour les details).

30

Projection sur le plan

Droite du plan sur laquelle on projette le lieu d’annulation du discriminant

Fig. 10 –

– CAD : il s’agit d’un paquetage du a R. Rioboo fourni initialement dans ScratchPAD (ancetre d’Axiom[2]) puis implante en Axiom et en Aldor [1]. Ces paquetages beneficient des avancees concernant lagestion des nombres algebriques reels obtenues par l’auteur en y integrant les techniques de calculd’evaluation dynamique a la D5 [44].

La donnee d’une decomposition cylindrique algebrique P-invariante (ou P est une famille de poly-nomes dans Q[X1, . . . , Xn]) permet d’identifier tous les signes que les polynomes de P peuvent avoirsimultanement et de donner au moins un point par composante connexe dans chacun des ensemblessemi-algebriques ainsi definis. Il s’agit donc d’une sortie extremement forte. Avec un post-traitementadequat, la topologie de ces semi-algebriques peut meme etre identifiee. En revanche, si on cherche adecider du vide d’un ensemble semi-algebrique defini par un systeme d’equations et d’inegalites poly-nomiales f1 = · · · = fi = 0, fi+1 > 0, . . . , fs > 0, il n’existe pas a ma connaissance de modifica-tions generales a l’algorithme de Collins qui permette de construire autre chose que toutes les cellulesf1, . . . , fs-invariantes. En faisant abstraction de sa complexite, l’exhaustivite de l’algorithme exposedans ce chapitre est a la fois un atout et un talon d’Achille : trop de donnees sont calculees eu egard acertaines applications, notamment la plupart de celles evoquees au debut de ce document.

De plus, comme mentionne plus haut, le caractere doublement exponentiel de l’algorithme de de-composition cylindrique algebrique est intrinseque au fait qu’il resout, a de legeres modifications pres, leprobleme d’elimination des quantificateurs. Concretement, ce caractere doublement exponentiel provientdu fait que l’algorithme de decomposition cylindrique algebrique projette un semi-algebrique et itere re-cursivement son etude sur le projete calcule. Si on se donne un polynome f ∈ Q[X1, . . . , Xn] de degre Det qu’on se contente simplement de vouloir appliquer recursivement le theoreme des fonctions implicites,on doit calculer le discriminant de f par rapport a Xn qui est de degre O(D2) et travailler recursivementsur ce discriminant. En faisant abstraction des factorisations intervenant dans les discriminants iteres,on aboutit ici fatalement a une complexite O(D2n

).

La figure 10 illustre bien ce point de vue. Le discriminant du polynome dont la surface dessinee est le lieud’annulation a comme lieu-solution une courbe contenant une singularite (le cusp). Iterer notre etude surcette courbe en considerant une projection sur une droite dans le plan dessine nous amene a considerercette singularite (nous sommes ici amene a partitionner notre droite en 3 cellules, deux d’entre elles etanthomemomorphe a ]0, 1[, l’autre correspondant a la projection du cusp sur la droite etant homeomorphea ]0, 1[0. Neanmoins, si on considere directement la projection sur une telle droite restreinte a la surfacequ’on desire etudier, on se rend compte que toutes les fibres sont diffeomorphes. Autrement dit, danscette situation, la partition de la droite qu’on est amene a considerer dans le theoreme de trivialitesemi-algebrique de Hardt est la droite toute entiere alors que l’etude recursive de la projection nous acontraint a considerer partitionner cette droite en deux cellules.

Nous voyans dans le chapitre qui suit comment, en evitant ces etapes de projection intermediaire, nouspouvons obtenir des complexites simplement exponentielles en le nombre de variables pour des problemesde tests du vide, de calcul d’au moins un point par composante connexe dans un semi-algebrique et biend’autres encore. Ici, l’idee consiste a ne considerer la projection du semi-algebrique etudie que sur unedroite.

31

–1

–0.5

0.5

1

1.5

2

y

–1.5–1–0.50.511.5

x

Fig. 11 –

4 Applications polynomiales, lieux critiques et topologie

Considerons une variete algebrique reelle V ⊂ Rn et une application polynomiale ϕ : V → Rp.Le theoreme de trivialite semi-algebrique de Hardt decompose Rp en composantes Ci telles qu’il existeun homeomorphisme h entre ϕ−1(Ci) et Ci × Fi ou Fi est la pre-image d’un point de Ci par ϕ. Ons’interesse aux composantes Ci qui sont de dimension maximale, et plus precisement on cherche unmoyen d’identifier de telles composantes. Dans le cas, de la courbe C qui est l’union du cercle defini parl’equation x2 + y2 − 1 = 0 et de la droite definie par y+ 2 = 0 et la projection π : (x, y)→ x (voir figure11), il s’agit des composantes ]−∞,−1[, ]− 1, 1[ et ]1,+∞[.

A l’interieur de ces composantes, on doit au moins pouvoir appliquer le theoreme des fonctionsimplicites. Ainsi, dans l’exemple qu’on considere la differentielle de π en chaque point de la pre-image de]− 1, 1[ (qu’on identifie a l’application lineaire qui envoie un vecteur tangent a la courbe sur sa premierecoordonnee) est surjective. Notons qu’ici, le theoreme des fonctions implicites nous dit que, etant donnex ∈ R \ −1, 1, il existe un voisinage U de x tel que π realise une fibration localement triviale surC ∩ π−1(U). On constate sur cet exemple, qu’en fait, π realise une fibration localement triviale surR \ −1, 1.

Cet exemple montre qu’il peut etre pertinent d’etudier le lieu des points ou la differentielle d’uneapplication polynomiale n’est pas surjective pour identifier les composantes de dimension maximaleintervenant dans le theoreme de trivialite semi-algebrique de Hardt. Dans l’exemple que nous avonsconsidere, il s’agit des points (−1, 0) et (1, 0). Derriere cette approche, des difficultes (ou plutot des limitesapparaissent immediatement) : en plus d’etre passe d’un cadre semi-algebrique a un cadre algebrique,on doit maintenant assurer l’existence des differentielles des applications polynomiales considerees enchaque point de la variete etudiee. Celle-ci est conditionnee par le fait que chaque point de la variete estregulier, ou encore que la variete sur laquelle on travaille est lisse. Sous ces hypotheses, les points de lavariete ou la differentielle de l’application polynomiale consideree n’est pas surjective sont appeles pointscritiques. L’ensemble de leurs images par l’application polynomiale consideree est appele ensemble desvaleurs critiques.

Ces points sont caracterisables algebriquement : le fait qu’en ces points la differentielle de l’ap-plication polynomiale consideree n’est pas surjective se traduit, dans les cas ou la variete etudiee estequi-dimensionnelle, par l’annulation de mineurs d’une matrice jacobienne. Dans les cas non equi-dimensionnels, on peut caracteriser les points critiques par une formulation lagrangienne qui exprimeexplicitement des relations de co-linearite entre des vecteurs gradients. On dispose donc de resultatspermettant d’identifier clairement les points critiques (et les valeurs critiques) d’une application polyno-miale.

Dans le cas ou la variete etudiee V est compacte, il est montre que pour chaque composante connexeU du complementaire de l’ensemble des valeurs critiques d’une application polynomiale ϕ restreinte a V ,ϕ realise une fibration localement triviale sur V ∩ ϕ−1(U) ce qui correspond aux informations donneespar le theoreme de trivialite semi-algebrique de Hardt. Ceci dit, le cas compact est un peu restrictif. Pours’en defaire on considere des applications polynomiales restreintes a une variete V propres : en tout point

32

de l’image, il existe un voisinage U tel que la pre-image de U intersectee avec V est compacte. Dans cecas aussi, on sait que l’application polynomiale consideree realise une fibration localement triviale au-dessus de chaque composante connexe du complementaire de l’ensemble de ses valeurs critiques. En fait,cette notion de proprete permet de garantir qu’aucun phenomene induisant un changement de topologiene peut intervenir “a l’infini” (c’est pourquoi on a dans le cas des applications polynomiales propres unresultat identique a celui que nous avons dans le cas des applications restreintes a des varietes compactes).

On ne pourra malheureusement pas toujours choisir les applications polynomiales qu’on doit conside-rer pour les applications qui nous interessent. En particulier, on doit pouvoir aussi obtenir des resultatsde nature topologique, similaires a ceux fournis par le theoreme de trivialite semi-algebrique de Hardtdans des situations non propres. Dans ce cas, on doit adjoindre a l’ensemble des valeurs critiques del’application consideree un ensemble de points afin de tenir compte des changements de topologie desfibres intervenant a cause de phenomenes “a l’infini”. Cet ensemble de points s’appelle valeurs critiquesasymptotiques.

Dans la suite, on commence par donner les definitions et resultats relatifs a la notion de proprete pourles applications polynomiales. Puis on donne les definitions et proprietes des points et valeurs critiquesd’applications polynomiales restreintes a des varietes algebriques (reelles ou pas). On donne aussi lesdifferentes caracterisations algebriques possibles des points et valeurs critiques d’une application poly-nomiale ainsi que les enonces relatifs aux proprietes topologiques de ces points et valeurs critiques dansle cas des applications propres. Pour pouvoir obtenir des enonces similaires dans le cas des applicationspolynomiales non propres, on introduit les notions de valeur critique asymptotique et de valeur critiquegeneralisee, d’abord dans le cas des applications polynomiales de Cn dans C puis dans le cas des applica-tions polynomiales restreintes a des varietes algebriques lisses et equi-dimensionnelles. Enfin, on terminecette section en donnant des bornes sur les degres des lieux critiques d’applications polynomiales ainsique sur les degres des valeurs critiques generalisees qui nous seront utiles dans la suite.

4.1 Notion de proprete

Definition 11. Soit V et W des espaces topologiques et f : V → W une application de V dans W .L’application f est propre en w ∈W si il existe un voisinage B de w tel que f−1(B) est compact, ou Best la cloture de B.

Le lieu de non-proprete de f est l’ensemble des points y ∈W tels que f n’est pas propre en y.On dira qu’une application f : V → W est propre (resp. non propre) si son lieu de non-proprete est

vide (resp. non vide).

.Dans le contexte qui nous interesse, nous utiliserons des applications entre des varietes algebriques

ou des varietes algebriques reelles. La notion de proprete sera alors relative aux topologies metriquesinduites par C ou R.

Exemple. Considerons l’hyperbole H ⊂ R2 definie par xy − 1 = 0 et la projection π1 : (x, y) ∈ H → x.En tout point y ∈ R \ 0, la projection π1 est propre en y. En revanche, π1 n’est pas propre en 0. Dansce cas, le lieu de non-proprete de π1 restreinte a H est 0 (voir Figure 12). En revanche, si on considerela projection π2 : (x, y) ∈ H → x+ y, on constate que le lieu de non-proprete de π2 est vide (voir Figure13).

En fait, dans la famille des projections sur des droites de R2 passant par l’origine, les deux seules quiont un lieu de non-proprete non vide sont les projections sur les droites definies par x = 0 et y = 0.

Ainsi dans l’exemple ci-dessus, on constate que les lieux de non-proprete des projections restreintesa la courbe qu’on a consideree sont contenus dans un ferme de Zariski. Ce constat se generalise commesuit :

Proposition 15. Soit V ⊂ Cn et W ⊂ Cn deux varietes algebriques et f : V → W une applicationpolynomiale. Le lieu de non-proprete de f est soit vide soit un ferme algebrique de co-dimension 1 dansf(V ).

33

Fig. 12 – Lieu de proprete de π1

Fig. 13 – π2 a un lieu de non-proprete vide

34

Ce resultat est faux dans le cas reel. En effet, si on considere l’hypersurface H ⊂ C3 definie par(x2 + y2)z − 1 = 0 et la projection π : (x, y, z) ∈ H ∩ R3 → (x, y) ∈ R2, on constate que le lieu denon-proprete est constitue de l’origine uniquement ; il est donc non vide mais n’est pas de co-dimension1 dans R2. Il est evidemment contenu dans le lieu de non-proprete de π : (x, y, z) ∈ H → (x, y) ∈ C2 quiest defini par x2 + y2 = 0 et est bien de co-dimension 1 dans C2.

L’interet de la notion de proprete reside dans le fait qu’elles permet de garantir qu’une applicationpolynomiale propre restreinte a une variete algebrique reelle atteint ses extrema sur chaque composanteconnexe de la variete consideree.

Proposition 16. Soit V ⊂ Rn une variete algebrique reelle, D une composante connexe de V , E unsous-espace lineaire de Rn et f : V → E une projection propre. Soit y ∈ E un point de la frontiere def(D). Alors il existe x ∈ V tel que f(x) = y.

Ainsi, en garantissant qu’une projection restreinte a une variete algebrique donnee est propre, ons’assure que la projection consideree atteint ses extrema sur chaque composante connexe de la varietealgebrique qu’on veut etudier. Nous verrons dans le chapitre suivant comment s’assurer qu’une projectionrestreinte a une variete algebrique donnee est propre. Ce test est base sur le calcul du lieu de non-propretede la projection consideree, pour lequel on donne une caracterisation algebrique dans la section suivante.

Definition 12. Une application f : V → W ou V et W sont des varietes algebriques irreductibles estdominante si son image est dense dans W , i.e. si la dimension de f(V ) en tant qu’ensemble constructibleest egale a la dimension de W . On etend cette definition au cas f : V →W , ou V n’est pas necessairementirreducible. Dans ce cas, la restriction de f a chaque composante irreductible de V est dominante.

Considerons la droite de C2 definie par x = 0. La restriction de la projection π sur x restreinte acette droite n’est evidemment pas dominante puisque l’image de la droite est ici un point. Remarquonsque dans ce cas π n’est pas propre. Ceci se generalise comme suit.

Proposition 17. Soit V et W deux varietes algebriques telles que dim(W ) 6 dim(V ) et f : V → Wune application. Si f n’est pas dominante, alors le lieu de non-proprete de f est non vide.

La notion d’application dominante est donc importante : une application qui n’est pas dominante nepeut pas etre propre. On verra aussi dans le paragraphe suivant que cette notion permet d’obtenir desproprietes sur la dimension du lieu critique des applications polynomiales qu’on considere.

4.2 Valeurs et lieux critiques d’applications polynomiales

Definition 13. Soit V ⊂ Cn une variete algebrique, et I(V ) ⊂ Q[X1, . . . , Xn] l’ideal associe a V (c’est-a-dire l’ensemble des polynomes qui s’annulent sur V ).

– Si f est un polynome de Q[X1, . . . , Xn], la partie lineaire de f en un point p = (p1, . . . , pn) ∈ Cn

(qu’on appelle aussi differentielle de f en p), notee dp(f), est definie par dp(f) = ∂f∂X1

(X1 − p1) +

. . .+ ∂f∂Xn

(Xn − pn).– Si ϕ1, . . . , ϕq sont des polynomes de Q[X1, . . . , Xn], la differentielle de l’application polynomialeϕ : x ∈ Cn → (ϕ1(x), . . . , ϕq(x)) en un point p, notee dpϕ, est definie comme etant l’applicationlineaire qui a x ∈ Cn associe (dpϕ1(x), . . . , dpϕq(x)).

– L’espace tangent a V en p ∈ V , note Tp(V ), est l’ensemble des zeros communs de dp(f) pourf ∈ I(V )).

– Pour p ∈ V , la dimension de V en p, notee dimp(V ) est la dimension maximale des composantesirreductibles de V contenant p.

– Un point p ∈ V est dit regulier (ou non-singulier) si dim(Tp(V )) = dimp(V ). Un point singulier estun point non regulier.

– Une variete algebrique V ⊂ Cn est lisse si et seulement si tous les points p ∈ V sont des pointsreguliers.

Dans la suite, on notera Reg(V ) (resp. Sing(V )) l’ensemble des points reguliers (resp. singuliers) deV .

Nous pouvons maintenant donner les definitions de points et valeurs critiques d’une application po-lynomiale restreinte au lieu regulier d’une variete algebrique.

35

Definition 14. Soit V ⊂ Cn une variete algebrique, Reg(V ) l’ensemble des points reguliers de V , etϕ : V → Cp une application polynomiale.

L’ensemble des points critiques de ϕ restreinte a Reg(V ) est l’ensemble des points x de Reg(V ) telsque dxϕ : Tx(V )→ Cp n’est pas surjective.

L’ensemble des valeurs critiques de ϕ restreinte a Reg(V ) est l’ensemble des images par ϕ des pointscritiques de ϕ restreinte a Reg(V ).

Considerons maintenant une variete algebrique V ⊂ Cn et I(V ) ⊂ Q[X1, . . . , Xn] le plus grandideal (pour l’inclusion) des polynomes de Q[X1, . . . , Xn] s’annulant sur V . Cet ideal est radical et on enconsidere un ensemble fini de generateurs f1, . . . , fs.

En tout point regulier x = (x1, . . . , xn) de V , l’espace tangent a V en x est l’ensemble des zeroscommuns de dxf1, . . . , dxfs. C’est donc le noyau de l’application lineaire de Cn dans Cs dont la matriceassociee est l’evaluation de la jacobienne associee a f1, . . . , fs au point x :

∂f1∂X1

(x) . . . ∂f1∂Xn

(x)...

......

∂fs

∂X1(x) . . . ∂fs

∂Xn(x)

On remarque immediatement que l’espace vectoriel Vect(gradx(f1), . . . ,gradx(fs)) engendre par lesvecteurs gradients de f1, . . . , fs evalues au point p est normal a l’espace tangent a V en x. On appellecet espace vectoriel, l’espace co-tangent a V en x.

Soit p ∈ N? et considerons une application polynomiale ϕ : V → Cp. La differentielle de ϕ au pointx est l’application lineaire qui associe a un vecteur v ∈ Tx(V ) le vecteur (dxϕ1(v), . . . , dxϕp(v)). Ainsipour tout vecteur v = (v1, . . . , vn) de Tx(V ), son image par dxϕ est le vecteur

∂ϕ1

∂X1(x)v1 + · · ·+ ∂ϕ1

∂Xn(x)vn

...∂ϕp

∂X1(x)v1 + · · ·+ ∂ϕp

∂Xn(x)vn

Dire que x est un point critique de ϕ c’est donc dire que dx(Tx(V )) est de dimension inferieure ou egalea p − 1. Donc, le noyau de dxϕ est de dimension superieure ou egale a 1, ce qui implique qu’il existe(λ1, . . . , λn) 6= (0, . . . , 0) tels que :

∂ϕ1

∂X1(x)λ1 + · · ·+ ∂ϕ1

∂Xn(x)λn = 0

......

...∂ϕp

∂X1(x)λ1 + · · ·+ ∂ϕp

∂Xn(x)λn = 0

sous les contraintes :

∂f1∂X1

(x)λ1 + · · ·+ ∂f1∂Xn

(x)λn = 0...

......

∂fs

∂X1(x)λ1 + · · ·+ ∂fs

∂Xn(x)λn = 0

Comme le noyau de Jac(f1, . . . , fs) est de dimension n− d, on obtient que x est un point critique de larestriction de ϕ a V si

dim(gradx(ϕ1), . . . ,gradx(ϕp)) + dim(gradx(f1), . . . ,gradx(fs)) < n− d+ p

Dans le cas ou la variete V definie par f1 = · · · = fs = 0 est lisse et equi-dimensionnelle (toujourssous l’hypothese que l’ideal 〈f1, . . . , fs〉), ceci revient a dire que tous les mineurs (n − d + p, n − d + p)de la matrice jacobienne Jac(f1, . . . , fs, ϕ1, . . . , ϕp) :

∂f1∂X1

(x) . . . ∂f1∂Xn

(x)...

......

∂fs

∂X1(x) . . . ∂fs

∂Xn(x)

∂ϕ1

∂X1(x) . . . ∂ϕ1

∂Xn(x)

......

...∂ϕs

∂X1(x) . . . ∂ϕs

∂Xn(x)

36

s’annulent en x si et seulement si x est un point critique de la restriction de ϕ a V . Ceci donne unepremiere caracterisation algebrique des points critiques de la restriction de ϕ a Reg(V ).

Lemme 4. Soit f1, . . . , fs des polynomes de Q[X1, . . . , Xn] engendrant un ideal radical, V ⊂ Cn lavariete algebrique definie par f1 = · · · = fs = 0 qui est supposee lisse et equi-dimensionnelle et ϕ : x ∈Cn → (ϕ1(x), . . . , ϕp(x)) ∈ Cp une application polynomiale.

L’ensemble des points critiques de la restriction de ϕ a V est l’ensemble des solutions du systemed’equations polynomiales forme de :

– les equations f1 = · · · = fs = 0 ;– pour tout (n − d)-uplet i1, . . . , in−d de 1, . . . , s, tous les mineurs (n − d + p, n − d + p) des

matrices jacobiennes Jac(fi1 , . . . , fin−d, ϕ1, . . . , ϕp)

Chaque hypothese du lemme ci-dessus est importante.– Si 〈f1, . . . , fs〉 n’est pas radical, le lemme tombe en defaut car pour x ∈ V , gradx(f1), . . . ,gradx(fs)

n’engendre plus l’espace co-tangent a V en x. Par exemple, considerons le cercle defini par f =(x2 +y2−1)2 = 0 et la projection π : (x, y)→ x . En tout point du cercle, le gradient de f s’annule,et donc le systeme construit dans le lemme 4 est

(x2 + y2 − 1)2 = 02y(x2 + y2 − 1) = 0

ce qui laisserait a penser que tous les points du cercle sont des points critiques de la restriction dela projection sur x a ce cercle.

– Si la variete V n’est pas equi-dimensionnelle, alors l’ensemble des solutions du systeme construitdans le lemme 4 peut etre strictement contenu dans l’ensemble des points critiques de l’applicationpolynomiale consideree. Par exemple, considerons le polynome f = x2 + y2 + z2− 1, les polynomesg1 = z et g2 = x2 + y2 − 1/2, la variete algebrique V ⊂ Cn definie par :

fg1 = 0fg2 = 0

et la projection π : (x, y, z)→ x. la variete V est de dimension 2 : c’est la reunion d’une sphere etd’un cercle. Elle n’est donc pas equidimensionnelle. Le systeme par le lemme 4 est alors :

fg1 = 0fg2 = 02 yz = 03 z2 + x2 + y2 − 1 = 02 y(x2 + y2 − 1/2

)+ 2

(x2 + y2 + z2 − 1

)y = 0

2 z(x2 + y2 − 1/2

)= 0

Ce systeme se resoud a la main et on trouve que l’ensemble de ses solutions se reecrit sous la formetriangulaire :

z = 0y = 0x2 − 1 = 0

On trouve ici les points critiques de la restriction de π a la composante de dimension 2 de V , maispas ceux de la composante de dimension 1.

– Si la variete V n’est pas lisse, le systeme construit dans le lemme 4 peut contenir le lieu sin-gulier de V . Par exemple, en tout point singulier d’une hypersurface definie par f = 0 avecf ∈ Q[X1, . . . , Xn], le gradient de f s’annule si bien que quelque soit l’application polynomialeconsideree, les mineurs construits s’annulent.

L’hypothese d’equi-dimensionnalite du lemme 4 peut neanmoins etre levee en construisant un systemedit de Lagrange.

Lemme 5. Soit V ⊂ Cn une variete algebrique lisse definie par s polynomes f1, . . . , fs de Q[X1, . . . , Xn].Supposons que 〈f1, . . . , fs〉 soit radical, et soit fs+1 un polynome de Q[X1, . . . , Xn] et ϕ l’application :

ϕ : V ⊂ Cn −→ C

(x1, . . . , xn) 7→ fs+1(x1, . . . , xn)

37

Etant donne un point p ∈ V , p est point critique de fs+1 si et seulement si il existe un point (λ1, . . . , λs)dans Cs tel que (λ1, . . . , λs, p) ∈ Cs × Cn est une solution du systeme d’equations polynomiales dansQ[`1, . . . , `s, X1, . . . , Xn] :

f1 = · · · = fs = 0

`1∂f1∂X1

+ · · ·+ `s∂fs

∂X1= ∂fs+1

∂X1

`1∂f1∂X2

+ · · ·+ `s∂fs

∂X2= ∂fs+1

∂X2

...

`1∂f1∂Xn

+ · · ·+ `s∂fs

∂Xn= ∂fs+1

∂Xn

ou `1, . . . , `s sont des nouvelles variables.

Exemple.– Considerons une variete algebrique lisse V ⊂ Cn, ϕ1, . . . , ϕp des polynomes de Q[X1, . . . , Xn], et

une application polynomiale ϕ : x ∈ Cn → (ϕ1(x), . . . , ϕp(x)) ∈ Cp avec p > n. Alors l’ensembledes points critiques de la restriction de ϕ a V est la variete V toute entiere.En effet, en tout point x de V , la dimension de l’espace tangent est inferieure ou egale a n, si bienque si p > n, son image par la differentielle de ϕ en x est forcement non surjective.

– Considerons l’hyperplan H defini par X1 = 0 dans Cn et la projection π : x = (x1, . . . , xn) ∈ Cn →x1. Dans ce cas aussi, l’ensemble des points critiques de la restriction de π a H est H tout entier.

– Considerons la courbe definie par xy = 0 dans le plan et la projection π : (x, y) → x. D’apres laDefinition 13, le seul et unique point singulier de V est l’origine (0, 0). Parmi les points reguliers deV , ceux qui sont des points critiques de la restricition de π a V sont ceux qui satisfont x = 0, y 6= 0.Ici, l’ensemble des points critiques n’est pas un ferme de Zariski mais un constructible.

– Considerons la sphere definie par x2 + y2 + z2 − 1 = 0 et la projection π2 : (x, y, z) → (x, y). Ici,le lieu critique de la restriction de π2 a la sphere est defini par

z = 0, x2 + y2 − 1 = 0

Considerons maintenant la projection π1 : (x, y, z) → x. Le lieu critique de la restriction de π1 ala sphere est constitue des points de coordonnees (−1, 0, 0) et (1, 0, 0) et il est contenu dans le lieucritique de la restriction de π2 a la sphere.

Dans les exemples ci-dessus, nous avons constate que l’ensemble des points critiques de la restrictiond’une application polynomiale a une variete algebrique V peut etre la variete V toute entiere. Le theoremeci-dessous montre qu’en toute circonstance, l’ensemble des valeurs critiques est contenu dans un fermede Zariski strict de l’espace d’arrivee.

Theoreme 9 (Theoreme de Sard – Version algebrique). Soit V ⊂ Cn une variete algebrique etϕ : V → Cp une application polynomiale. L’ensemble des valeurs critiques de ϕ restreinte a Reg(V ) estcontenu dans un ferme de Zariski de Cp de co-dimension au moins 1.

Dans tous les exemples qu’on a vus jusqu’a present, l’ensemble des valeurs critiques d’une applicationpolynomiale etait un ferme de Zariski. Considerons maintenant la surface S definie par :

y2 − z2(x2 − z) = 0

et la projection π : (x, y, z) → (x, y). La surface consideree a un lieu singulier qui est la droite definiepar :

z = 0, y = 0

Le lieu critique de la restriction de π a S est defini par :

z3 − 2 y2 = 0, 2x2 − 3 z = 0, et (y 6= 0 ou z 6= 0)

Ainsi, l’ensemble des valeurs critiques de la restriction de π a S est l’ensemble constructible defini par :

4x6 − 27y2 = 0, y 6= 0.

38

On s’interesse maintenant aux proprietes topologiques des lieux critiques d’applications polynomiales.Soit V ⊂ Cn une variete algebrique, π : (x1, . . . , xn) ∈ V → x1 ∈ C une projection, x = (ξ1, . . . , ξn) ∈ Vun point critique de ϕ restreinte a Reg(V ) et Tx(V ) l’espace tangent a V en x. D’apres le theoreme desfonctions implicites, si d est la dimension de V au point x (c’est-a-dire la dimension de l’espace tangent aV en x), il existe un voisinage U ⊂ Rn−d de (ξn−d+1, . . . , ξn) et une application polynomiale ϕ : U → Rd

tels que

Φ :U → V

x′ = (xn−d+1, . . . , xn) → (ϕ(x′), x′)

est un diffeomorphisme de U sur Φ(U).

Definition 15. On dit que x est non-degenere si et seulement si la hessienne de π au point x :

[∂2ϕ

∂Xi∂Xj

], n− d+ 1 6 i, j 6 n

Une projection dont tous les points critiques sont non-degeneres est une fonction de Morse.

Des resultats montrent que dans l’ensemble des projections sur une droite, l’ensemble de celles quine sont pas de Morse est un ferme de Zariski.

Plusieurs proprietes concernant les lieux et valeurs critiques d’applications peuvent etre exhibees.

Proposition 18. Soit V ⊂ Cn une variete algebrique lisse. Etant donne a = (a1, . . . , an) = Qd, on noteπa la projection qui associe a x = (x1, . . . , xn) ∈ Cn le point a1x1 + · · · + anxn ∈ C. Il existe un fermede Zariski Z ⊂ Cn tel que pour tout a ∈ Qd \ Z, les valeurs critiques de la restriction de πa a V sonttoutes distinctes. C’est en particulier le cas des fonctions de Morse.

Le resultat ci-dessous renseigne sur le caractere dominant d’une application polynomiale en fonctionde la dimension du lieu critique.

Proposition 19. Soit V ⊂ Cn une variete algebrique irreductible de dimension d, et ϕ : V → Cp uneapplication polynomiale. Alors si le lieu critique de ϕ restreinte a Reg(V ) est de dimension inferieure ouegale a p− 1, la restriction de ϕ a V est dominante.

Dans certains cas, c’est le caractere dominant d’une application polynomiale qui renseigne sur ladimension du lieu critique.

Proposition 20. Soit V ⊂ Cn une variete algebrique irreductible de dimension d, et ϕ : V → Cd uneapplication polynomiale. Alors si la restriction de ϕ a V est dominante, le lieu critique de ϕ restreinte aReg(V ) est de dimension inferieure ou egale a p− 1.

Les exemples de lieux critiques que nous avons donnes precedemment illustrent bien la propositionci-dessus. Interessons-nous maintenant aux proprietes topologiques associees aux lieux et valeurs critiquesd’une application polynomiale.

Le resultat ci-dessous est a la base d’algorithmes [34, 36, 20, 104] permettant de repondre a des ques-tions de connexite relatives aux varietes algebriques reelles, notamment le comptage de ses composantesconnexes ou bien decider si deux points de cette variete appartiennent a la meme composante.

Proposition 21. Soit V ⊂ Cn une variete algebrique lisse, ϕ : x ∈ Cn → f(x) une application polyno-miale avec f ∈ Q[X1, . . . , Xn], (a, b) ∈ R2 un couple avc a < b tel que [a, b] ne contienne au plus qu’uneseule valeur critique de la restriction de ϕ a V et C une composante connexe de

(ϕ−1([a, b]) ∩ V

)∩Rn.

– Si [a, b] ne contient aucune valeur critique de la restriction de ϕ a V , alors pour tout e ∈ [a, b],ϕ−1(e) ∩ C est connexe.

– Si v est la seule valeur critique de la restriction de ϕ a V , alors ϕ−1(v) ∩ C est connexe.

Le fait que dans le second item du resultat ci-dessus, la connexite des fibres n’est assuree qu’au-dessusde la valeur critique v est illustree par la figure 14.

Enfin, le resultat ci-dessous, renseigne sur les changements de topologie dans les fibres d’une appli-cation polynomiale restreinte a une variete algebrique (reelle ou pas) propre. Si V ⊂ Cn est une varietealgebrique, ϕ : V → Cp une application polynomiale et K(ϕ, V ) l’ensemble des valeurs critiques de ϕ,

39

Fig. 14 – Connexite locale

l’enonce assure que ϕ realise une fibration localement triviale sur V \ϕ−1(K(ϕ, V )) ce qui signifie que lediagramme suivant (ou C est un ouvert simplement connexe de Rp \ K(ϕ, V ), h est un diffeomorphismeet F = ϕ−1(x) pour x un point quelconque de C) commute :

ϕ−1(C) ⊂ V h

ϕ

C × Fiπ

C ⊂ Rp

Proposition 22. Soit V ⊂ Cn une variete algebrique lisse, ϕ : V → Cp une application polynomialequ’on suppose propre et soit K(ϕ, V ) l’ensemble des valeurs critiques de ϕ restreinte a V . Alors ϕ realiseune fibration localement triviale sur V \ ϕ−1(K(ϕ, V )).

Le pendant reel de ce resultat s’enonce comme suit.

Proposition 23. Soit V ⊂ Rn une variete algebrique reelle lisse, ϕ : V → Rp une application polyno-miale qu’on suppose propre et soit K(ϕ, V ) l’ensemble des valeurs critiques de ϕ restreinte a V . Alors ϕrealise une fibration localement triviale sur V \ ϕ−1(K(ϕ, V )).

Cet enonce est plus faible que le theoreme de trivialite semi-algebrique de Hardt puisqu’il ne traıteque des cas des varietes algebriques lisses et d’applications polynomiales propres. Ceci dit, il nous indiqueque, dans ces cas-la, si on desire exhiber les cellules de dimension maximale d’une partition de l’espaced’arrivee de l’application polynomiale consideree, comme c’est fait dans le theoreme de Hardt, il suffit dedecrire les composantes connexes du complementaire de l’ensemble des valeurs critiques de l’applicationpolynomiale. Enfin, le resultat ci-dessus nous assure qu’on a fibration localement triviale, ce qui est plusfort qu’un resultat de trivialite assure par le theoreme de Hardt.

4.3 Valeurs critiques generalisees d’applications polynomiales

Nous avons vu que dans le cas des applications polynomiales propres, on pouvait assurer que detelles applications realisent une fibration localement triviale au-dessus de chaque composante connexede complementaire de l’ensemble des valeurs critiques. C’est malheureusement faux lorsqu’on a affairea des applications polynomiales non propres. Pour retrouver de telles proprietes topologiques, il fautadjoindre a l’ensemble des valeurs critiques des valeurs critiques a l’infini (qu’on appelle dans la suitevaleurs critiques asymptotiques). L’union des valeurs critiques et des valeurs critiques asymptotiques estce qu’on appelle valeurs critiques generalisees. Enfin, pour que tout ceci soit effectivement exploitable, ilfaut assurer que l’ensemble des valeurs critiques generalisees d’une application polynomiale ϕ est contenudans un ferme de Zariski de l’espace d’arrivee de ϕ.

Dans la suite, on montre d’abord dans le cas d’applications polynomiales de Cn dans C puis de le casd’applications polynomiales restreintes a des varietes algebriques lisses et equi-dimensionnelles commentdefinir correctement ces valeurs critiques generalisees pour garantir qu’elles sont effectivement inclusesdans un ferme de Zariski de l’espace d’arrivee des applications considerees et avoir d’agreables proprietestopologiques similaires (des fibrations loccalement triviales donc).

40

4.3.1 Le cas des applications de Cn dans C

Definition 16. Soit f ∈ Q[X1, . . . , Xn] et l’application f : x ∈ Cn → f(x). L’ensemble des valeurs

critiques generalisees de f est l’ensemble des valeurs complexes c ∈ C pour lesquelles il existe une suitede points (x`)`∈N ⊂ Cn verifiant les proprietes suivantes :

– f(x`)→ c quand `→∞– pour tout i ∈ 1, . . . , n, ∂f

∂Xi(x`)→ 0 quand `→∞

– pour tout (i, j) ∈ 1, . . . , n2,(Xi

∂f∂Xj

)(x`)→ 0 quand `→∞

L’ensemble des valeurs critiques generalisees d’une application polynomiale f : x ∈ Cn → f(x)

contient evidemment l’ensemble des valeurs critiques de f , c’est-a-dire

c ∈ C | ∃x ∈ Cn∂f

∂X1(x) = · · · = ∂f

∂Xn(x) = 0, f(x) = c

qui est un ferme algebrique de C d’apres le theoreme de Sard.Il contient aussi l’ensemble des valeurs critiques asymptotiques qui est l’ensemble des valeurs complexes

c ∈ C pour lesquelles il existe une suite de points (x`)`∈N ⊂ Cn verifiant les proprietes suivantes :– f(x`)→ c quand `→∞– ||x`|| → ∞ quand `→∞– pour tout i ∈ 1, . . . , n, ∂f

∂Xi(x`)→ 0 quand `→∞

– pour tout (i, j) ∈ 1, . . . , n2,(Xi

∂f∂Xj

)(x`)→ 0 quand `→∞

Exemple. Considerons le polynome f = x(xy−1) et l’application polynomiale f : (x, y) ∈ C2 → f(x, y).Cette application polynomiale n’a pas de valeur critique puisque le systeme d’equations polynomiales :

∂f∂x = 2xy − 1 = 0∂f∂y = x2 = 0

n’a pas de solutions. En revanche, si on considere la suite de points (x`, y`) = ( 12` , `), on constate que

∂f∂x (x`, y`) = 2x`y` − 1 = 0∂f∂y (x`, y`) = x2

` = 14`2 → 0 quand `→∞

et

x`∂f∂x (x`, y`) = 2x2

`y` − x` = 0

y`∂f∂x (x`, y`) = 2x`y

2` − y` = 0

x`∂f∂y (x`, y`) = x3

` = 18`3 → 0 quand `→∞

y`∂f∂y (x`, y`) = y`x

2` = 1

4` → 0 quand `→∞

tandis que f(x`, y`) = − 14` tend vers 0 quand ` tend vers∞. Ainsi, 0 est une valeur critique asymptotique

de l’application polynomiale f .C’est en fait la seule valeur critique generalisee de l’application f . En effet, s’il existe une suite de

points (x`, y`)`∈N ⊂ C2 satisfaisant les hypotheses de la Definition 16, ∂f∂x (x`, y`) → 0 quand ` → ∞ ce

qui implique que x`y` tend vers − 12 . De plus, ∂f

∂y (x`, y`) doit aussi tendre vers 0 quand ` → ∞ ce qui

implique que x` → 0 quand ` → ∞. Ainsi f(x`, y`) = x`(x`y` − 1) et − 12x` ont la meme limite qui est

alors forcement 0.

Dans l’exemple etudie ci-dessus, l’ensemble des valeurs critiques asymptotiques est un ferme algebriquede C, si bien que l’ensemble des valeurs critiques generalisees est un ferme de Zariski. Ceci est un resultatnon specifique a cet exemple.

Theoreme 10. [82] Soit f ∈ Q[X1, . . . , Xn] et considerons l’application polynomiale f : x ∈ Cn → f(x).

L’ensemble des valeurs critiques generalisees de f est un ferme de Zariski dans C.

41

Fig. 15 – Existence de valeurs critiques generalisees et changement de topologie

Il est a noter que dans l’exemple etudie plus haut, nous avons pu definir une suite de points (x`, y`)caracterisant la presence d’une valeur critique asymptotique dans la courbe definie par ∂f

∂x = 0. In fine,cette suite de points est une suite de points critiques de la projection (x, y)→ y restreinte a l’hypersurfacedefinie par f+ 1

2` = 0. Ce qui rend cette suite de points critiques un peu particuliere est qu’elle ne convergepas.

A titre comparatif, si c est une valeur critique d’une application polynomiale f : x ∈ Cn → f(x) ∈ C

(ou f ∈ Q[X1, . . . , Xn]), on peut toujours, a changement lineaire de variables pres, definir une suite de

points (x`)`∈N ⊂ Cn convergente (vers un point critique de f) qui soit incluse dans la variete algebriquedefinie par :

∂f

∂X2= · · · = ∂f

∂Xn= 0

Ces remarques sous-tendent qu’on peut eventuellement detecter une valeur critique asymptotique enconsiderant une suite de points critiques de projection sur une droite bien choisie qui tendrait vers l’infini,faisant intervenir ainsi un phenomene de non-proprete. Ceci sera etudie et precise plus loin lorsque nousetudierons un algorithme de calcul des valeurs critiques generalisees.

De la meme maniere que les valeurs critiques ont des proprietes topologiques fortes dans le casdes applications propres, les valeurs critiques generalisees trouvent leur interet dans leurs proprietestopologiques et permettent de generaliser la proposition 22 au cas des applications non propres.

Theoreme 11. Soit f ∈ Q[X1, . . . , Xn], KC(f) (resp. KR(f)) l’ensemble des valeurs critiques generali-

sees de l’application polynomiale fC : x ∈ Cn → f(x) (resp. fR : x ∈ Rn → f(x)). Alors :

– fC realise une fibration localement triviale sur Cn \ f−1(KC(f))

– fR realise une fibration localement triviale sur Rn \ f−1(KR(f))

Reprenons l’exemple du polynome f = x(xy − 1) et de l’application f : (x, y) ∈ R2 → f(x, y) dont 0est la seule valeur critique generalisee.

La fibre f−1(0) est tracee en blanc sur la figure 15 et est consituee de trois composantes connexes. Sur

la meme figure, des fibres f−1(e) sont tracees en bleu lorsque e est positif et en rouge lorsque e estnegatif. Ces fibres sont constituees de deux composantes connexes. Il y a bel et bien eu un changementde topologie au niveau de la valeur critique generalisee. Il apparaıt aussi que toutes les fibres f−1(e) poure positif (resp. e negatif) sont diffeomorphes.

Neanmoins, la presence d’une valeur critique generalisee n’implique pas systematiquement un changementde topologie : une application polynomiale peut tout a fait realiser une fibration localement triviale surla pre-image d’un ouvert connexe U meme si U contient une valeur critique genealisee. Pour illustrer cefait, considerons le polynome

f = −y(2x2y2 − 9xy + 12)

42

Fig. 16 – Existence de valeurs critiques generalisees sans changement de topologie

qui realise une fibration localement triviale sur f−1(] − 1, 1[) (comme l’illustre la figure 16) alors que 0

est une valeur critique asymptotique de l’application polynomiale f : (x, y) ∈ R2 → f(x, y).Notons enfin l’importance de ce resultat de nature topologique pour la recherche d’au moins un point

par composante connexe d’un semi-algebrique S ⊂ Rn defini par f > 0 ou f ∈ Q[X1, . . . , Xn]. En effet,on montrera qu’il existe un reel suffisamment petit e0 ∈]0,+∞[ tel que chaque composante connexe deS contient une composante connexe du lieu reel de l’hypersurface definie par f − e0 = 0 et qu’il enest de meme pour tout reel e compris entre 0 et e0. On peut ainsi reduire la recherche d’un point parcomposante connexe dans S a la recherche d’un point par composante connexe dans le lieu reel d’unehypersurface si on sait determiner e0. Or, le fait que pour tout e ∈ R compris entre 0 et la plus petitevaleur critique generalisee positive de l’application f : x ∈ Rn → f(x), les lieux reels des hypersurfacesdefinies par f −e = 0 sont diffeomorphes implique qu’il suffit de calculer les valeurs critiques generaliseesde f pour obtenir e0. Nous reviendrons plus en detail sur ces aspects dans la suite du document.

Dans le paragraphe suivant, nous montrons comment etendre cette notion de valeur critique generali-see au cas des applications polynomiales restreintes a une variete algebrique lisse et equi-dimensionnellequi sera elle aussi utile pour le calcul d’au moins un point par composante connexe dans un ensemblesemi-algebrique (defini cette fois par un systeme d’equations et d’inegalites polynomiales).

4.3.2 Applications polynomiales restreintes a des varietes lisses

Soit V ⊂ Cn une variete algebrique lisse et equi-dimensionnelle de dimension d d, et F = (f1, . . . , fs)un ensemble de polynomes de Q[X1, . . . , Xn] engendrant l’ideal associe a V . On note Jac(f1, . . . , fs) (ouJac(F )) la matrice jacobienne associee a (f1, . . . , fs) :

∂f1/∂X1 . . . ∂f1/∂Xn

......

...∂fs/∂X1 . . . ∂fs/∂Xn

Etant donnes k 6 s polynomes ϕ1, . . . , ϕk dans Q[X1, . . . , Xn], on note ϕ : Cn → Ck l’applicationpolynomiale qui associe a x ∈ V le point (ϕ1(x), . . . , ϕk(x)) ∈ Ck.

Notation. On utilise les notations suivantes :– La matrice jacobienne associee a (f1, . . . , fs, ϕ1, . . . , ϕk) est notee Jac(F,ϕ) ;

– Etant donne un sous-ensemble I = i1, . . . , in−d ⊂ 1, . . . , s de cardinalite n − d et un sous-ensemble J = j1, . . . , jn−d+k ⊂ 1, . . . , n de cardinalite n−d+k, on note MI,J ∈ Q[X1, . . . , Xn]le mineur de Jac(F,ϕ) de taille n−d+k construit en prenant les rangees i1, . . . , in−d, s+1, . . . , s+ket les colonnes j1, . . . , jn−d+k de Jac(F,ϕ) ;

– Etant donnes de tels sous-ensembles I et J comme ci-dessus et i ∈ I et j ∈ J on note MI\i,J\j

le mineur de Jac(F,ϕ) suivant la meme contruction que precedemment. Si ce mineur est non nulon note M i,j

I,J la fraction rationnelle MI,J /MI\i,J\j, sinon on pose M i,jI,J = 0.

Remarquons qu’il existe au plus(s

n−d

)(resp.

(n

n−d+k

)) choix possibles pour les sous-ensembles I (resp.

J ), et que, etant donnes I et J il existe au plus n− d (resp. n− d+ k) choix pour i (resp. j).

43

De plus, puisque V est equi-dimensionnelle et que l’ideal 〈f1, . . . , fs〉 est radical, I et J peuvent etrechoisis de maniere telle que MI,J n’est pas un diviseur de zero dans Q[X1, . . . , Xn]/〈f1, . . . , fs〉. De telscouples I,J sont numerotes de 1 a N . Pour les memes raisons, etant donnes de tels sous-ensembles Iet J , il existe au moins un couple (i, j) ∈ I × J tel que M i,j

I,J est non nul.Dans la suite, on note C = (i1, j1) ∈ I1 × J1, . . . , (iN , jN ) ∈ IN × JN un ensemble de couples

tels que pour α = 1, . . . , N , le denominateur de la fraction rationnelle M iα,jαIα,Jα

n’est pas un diviseur

de zero dans Q[X1, . . . , Xn]/〈f1, . . . , fs〉, et on note C l’ensemble de tels couples C. Etant donne C =(iα, jα) ∈ Iα × Jα | α = 1, . . . , N ∈ C, on note MC l’ensemble des fractions rationnelles M iα,jα

Iα,Jαpour

α = 1, . . . , N .

On peut maintenant definir les valeurs critiques generalisees d’une application polynomiale restreintea une variete algebrique lisse et equi-dimensionnelle.

Definition 17. Soit V ⊂ Cn une variete algebrique lisse et equi-dimensionnelle de dimension d,f1, . . . , fs une famille de polynomes dans Q[X1, . . . , Xn] engendrant I(V ) et ϕ : V → Ck une appli-cation polynomiale. En suivant les notations introduites et sous les hypotheses effectuees ci-dessus, unpoint y ∈ Ck est une valeur critique generalisee de ϕ restreinte a V si et seulement si il existe une suitede points (x`)`∈N ⊂ V et C ∈ C tels que :

– ϕ(x`) tend vers y quand ` tend vers ∞ ;– pour tout M ∈MC , M(x`) tend vers 0 quand ` tend vers ∞ ;– pour tout M ∈ MC , les produits (X1.M) (x`), . . . , (Xn.M) (x`) tendent vers 0 quand ` tend vers∞ ;

Si la norme de (x`)`∈N ⊂ V tend vers ∞ quand ` tend vers ∞, on dit que y est une valeur critiqueasymptotique.

L’ensemble des valeurs critiques generalisees de ϕ restreinte a V est note dans la suite K(ϕ, V ).L’ensemble des valeurs critiques de ϕ restreinte a V est note K0(ϕ, V ), et l’ensemble des valeurs critiquesasymptotiques est note K∞(ϕ, V ).

Cette extension de la notion de valeur critique generalisee au cas des applications polynomialesrestreintes a des varietes algebriques lisses est munie de proprietes topologiques agreables.

Theoreme 12. [82, 75] En gardant les notations et hypotheses introduites ci-dessus :– l’ensemble des valeurs critiques generalisees K(ϕ, V ) de ϕ restreinte a V est une variete algebrique

propre dans Ck ;– l’application ϕ : V \ ϕ−1(K(ϕ, V )) −→ Ck \K(ϕ, V ) est une fibration localement triviale ;– l’application ϕ :

(V \ ϕ−1(K(ϕ, V ))

)∩ Rn −→ Rk \K(ϕ, V ) est une fibration localement triviale.

L’exemple de l’hypersurface H definie par xyz − 1 = 0 et de la projection sur x illustre bien letheoreme ci-dessus. Pour tout reel α positif, H ∩ π−1(α) est diffeomorphe a une hyperbole definie paryz − 1 = 0. En 0, H ∩ π−1(0) est vide. Enfin, pour tout reel α negatif, H ∩ π−1(α) est diffeomorphe aune hyperbole definie par yz + 1 = 0.

4.4 Degre des lieux critiques et valeurs critiques generalisees

Le calcul de representations algebriques encodant des lieux critiques constitue l’operation de base desalgorithmes que nous presentons dans le paragraphe suivant. Afin de pouvoir effectuer des choix entrediverses strategies possibles, il nous faut au moins avoir une idee precise de la taille de la sortie de nosalgorithmes.

Puisque nous calculons des representations algebriques de lieux critiques, qui sont – comme on l’a vuprecedemment – des ensembles constructibles, avoir des informations precises sur la somme des degres descomposantes equi-dimensionnelles de la cloture de Zariski du lieu critique d’une application polynomialeest crucial. On est alors tente d’appliquer le theoreme de Bezout dans le contexte du lemme 4. Sousles conditions de ce lemme, en notant D le degre des polynomes definissant la variete consideree qui vitdans Cn, d la dimension de la variete, on trouveDn−d ((n− d)(D − 1))

d. Cependant, plusieurs indicateurs

laissent a penser que cette borne est une majoration grossiere. On remarque facilement (voir les exemplesci-dessus) que ces systemes sont sur-determines ; puisque bien souvent l’ensemble de leurs solutions n’estpas vide, ces systemes ne sont pas generiques (l’ensemble des solutions communes de n + 1 polynomes

44

generiques en n variables est vide), mais il est probable que la sur-determination fasse chuter le degre4.Enfin, il suffit de quelques simulations effectuees sur machine pour se convaincre que la borne obtenueest une majoration brutale qu’on ne parvient pas a atteindre.

Pour mieux comprendre les phenomenes intervenant dans la complexite des lieux critiques, il fautrevenir a la formulation du lemme 5. Les points critiques y sont caracterises comme projection d’unensemble algebrique. Appliquer directement la borne de Bezout au systeme de Lagrange donne Dn+s

ce qui ne nous avance pas a grand chose. Ceci dit, on remarque que si les polynomes de depart sonthomogenes et de meme degre, le systeme de Lagrange est presque bi-homogene. On est donc tented’exploiter cette structure. En lui appliquant l’application

θ : Q[X1, . . . , Xn, `1, . . . , `s] → Q[X0, X1, . . . , Xn, `0, `1, . . . , `s]

f → XdegX(f)0 `

deg`(f)0 f(X1

X0, . . . , Xn

X0, `1`0 , . . . ,

`s`0

)

ou X0 (resp. `0) est une nouvelle variable et degX(f) (resp. deg`(f)) est le degre de f en X1, . . . , Xn

(resp. `1, . . . , `k), on obtient un systeme bi-homogene.Si on le suppose de dimension zero dans le produit cartesien d’espaces projectifs Pn+1(C)×Ps+1(C) et

qu’on lui applique les bornes de Bezout bi-homogene classiques (voir [53]) on obtient que le degre de l’en-semble des solutions du systeme bi-homogeneise intersecte avec des formes lineaires affines en X0, . . . , Xn

d’une part et en `0, . . . , `n d’autre part est borne par Ds(D− 1)n−s(nn−s

)ce qui est exactement ce qu’on

obtient en pratique quand on considere une projection tiree au hasard restreinte a une variete algebriquedefinie par des polynomes eux aussi tires au hasard ayant tous le meme degre. Tout ceci n’est malheureu-sement pas si simple et dans le contexte du lemme 5, le systeme bi-homogene n’a aucune chance d’etreequi-dimensionnelle puisque V ne l’est pas forcement. Il nous faut aussi definir une notion de bi-degrepour les ideaux bi-homogenes de dimension superieure a 2. Dans [146], si I ⊂ Q[X0, . . . , Xn, `0, . . . , `s]est un ideal bi-homogene de dimension superieure a 2 cette notion est definie comme etant le degre del’ideal affine I + 〈u− 1, v− 1〉 ou u (resp. v) est une forme lineaire de Q[X0, . . . , Xn] (Q[`0, . . . , `s]) pourdes choix generiques de u et v5. Dans le cas des ideaux non equi-dimensionnelles, on parle de bi-degrefort pour la somme des bi-degres des composantes primaires isolees de l’ideal considere.

Pour aboutir, nous devons utiliser les resultats suivants :

Theoreme 13. [134] Soit k ∈ 1, . . . , n+ s et f1, . . . , fk des polynomes bi-homogenes de l’anneau despolynomes Q[X0, . . . , Xn, `0, . . . , `s] de bi-degres respectifs (αi, βi) engendrant un ideal I. Supposons qu’ilexiste au plus n fi tels que βi = 0 et au plus s fi tels que αi = 0. Alors, la somme des bi-degres desideaux premiers associes a

√I est bornee par

B(f1, . . . , fk) =∑

I,J

(Πi∈Iαi) . (Πj∈J βj)

ou I et J sont des sous-ensembles disjoints dont l’union est 1, . . . , k et tels que I (resp. J ) est decardinalite bornee par n (resp. s).

Le resultat ci-dessus nous permet de borner le bi-degre fort d’un ideal bi-homogene en fonctiondes bi-degres d’un systeme de generateurs de cet ideal sous certaines conditions. Le resultat ci-dessousfait la correspondance entre la somme des degres des composantes primaires isolees d’un ideal I deQ[X1, . . . , Xn, `1, . . . , `s] et le bi-degre fort de l’ideal engendre par les bi-homogeneneises θ(f) pour f ∈ I.

Theoreme 14. [134] Etant donne un ideal I ⊂ Q[X1, . . . , Xn, `1, . . . , `k], on note θ(I) l’ideal engendrepar θ(f) | f ∈ I ⊂ Q[X0, . . . , Xn, `0, . . . , `k].

Alors, θ(I) est un ideal bi-homogene et la somme des degres des composantes primaires isolees de Iest bornee par le bi-degre fort de θ(I).

Enfin, on a :

4Cette situation intervient apres tout dans de nombreuses applications, notamment en cryptanalyse algebrique, l’analysedes systemes cryptographiques HFE effectuee par Bardet, Faugere et Salvy constitue un exemple edifiant

5Plus precisement, il existe un entier D et un ferme de Zariski Z tel que pour tout choix de u et v hors de Z le degre deI + 〈u − 1, v − 1〉 est egale a D et pour un choix de u ou v dans Z le degre de I + 〈u − 1, v − 1〉 est inferieur ou egale a D

45

Corollaire 3. [134] Soit S une famille finie de polynomes dans Q[X1, . . . , Xn, `1, . . . , `s] et I l’idealengendre par S qu’on suppose radical. Considerons l’ideal J de Q[X0, . . . , Xn, `0, . . . , `k] engendre parθ(f) | f ∈ S.

Alors la somme des degres des composantes primaires isolees de I est bornee par le bi-degre fort de√J .

L’application de ces resultats au systeme de Lagrange nous permet alors d’enoncer :

Theoreme 15. [134] Soit f1, . . . , fs, fs+1 ⊂ Q[X1, . . . , Xn] de degres respectifs D1, . . . , Ds, Ds+1,D = max(Di, i = 1, . . . , s+ 1) et V ⊂ Cn la variete algebrique definie par

f1 = · · · = fs = 0

Supposons que l’ideal engendre par f1, . . . , fs soit radical et que V soit lisse. Alors, la somme des degresdes composantes equi-dimensionnelles du lieu critique de l’application polynomiale ϕ : x ∈ V → fs+1(x)est bornee par (

s∏

i=1

Di

)(D − 1)n−s

(n

n− s

)

On deduit aisement une borne sur le degre des valeurs critiques de ce resultat : puisqu’elles sontobtenues en evaluant fs+1 en les points critiques, la quantite ci-dessus borne le degre des valeurs critiquesde ϕ.

Remarque. Remarquons tout d’abord que dans le cas ou D = 2, la borne ci-dessus est polynomiale en lenombre de variables et exponentielle en le nombre d’equations. Ceci laisse a penser que tout algorithmebase sur des calculs de points critiques et, geometriquement bien fonde, doit tomber dans une classede complexite polynomiale en le nombre de variables et exponentielle en le nombre d’equations lorsquel’entree est constituee de polynomes de degre au plus 2.

Comparons maintenant la borne obtenue ci-dessus a l’aide d’une caracterisation des points critiquespar le systeme de Lagrange a celle que nous obtenons en utilisant une caracterisation des points critiquespar annulation de mineurs jacobiens. Notons tout d’abord que cette derniere n’est utilisable que dans lecas ou la variete consideree est equidimensionnelle. Notons d cette dimension.

La borne obtenue en appliquant le theoreme de Bezout sur la carcterisation a base de mineurs jacobiensest Dn−d ((n− d)(D − 1))

d. Dans le cas ou s = n−d, on constate que cette borne est toujours superieure

a la borne donnee plus haut obtenue par bi-homogeneisation du systeme de Lagrange.

Le resultat quantitatif ci-dessus n’est pas encore satisfaisant : en effet, il fait intervenir la quantiteD = max(f1, . . . , fs) ce qui n’est pas justifie geometriquement. Ceci se confirme par le calcul : lorsqu’ontire des polynomes au hasard (f1, . . . , fs) qui ne sont pas tous de meme degre et qu’on calcule les pointscritiques de la restriction de la projection sur une variable a l’ensemble des zeros communs a f1, . . . , fson trouve un ensemble de dimension zero et de degre :

s∏

i=1

Di

(∑

α1+···+αs=n−s

(s∏

i=1

(Di − 1)αi

))

ou Di est le degre de fi.Savoir si ce constat experimental peut devenir un resultat quantitatif est un probleme ouvert sur

lequel nous travaillons actuellement avec P. Trebuchet. Les motivations de ce travail sont expliqueesdans la section suivante.

Theoreme 16. [75] Soit f ∈ Q[X1, . . . , Xn] et D son degre, K0(f) (resp. K∞(f)) l’ensemble des valeurscritiques (resp. valeurs critiques asymptotiques) de l’application polynomiale qui a x ∈ Cn associe f(x) ∈C. Alors,

]K0(f) +D]K∞(f) 6 Dn − 1

Soit V ⊂ Cn une variete algebrique lisse equi-dimensionnelle de dimension d, f1, . . . , fs une famillede polynomes de Q[X1, . . . , Xn] de degres bornes par D et ϕ : x ∈ Cn → (ϕ1(x), . . . , ϕp(x)) ∈ Cp

une application polynomiale ou ϕi est un polynome de Q[X1, . . . , Xn] de degre borne par d pour i =

46

1, . . . , p. On note K0(ϕ, V ) (resp. K∞(ϕ, V )) l’ensemble des valeurs critiques (resp. valeurs critiquesasymptotiques) de la restriction de ϕ a V . Alors,

]K0(f) + ]K∞(f) 6 (d + k(p− 1)(d− 1) + (D − 1)(n− d))dDn−d

ou k =(

np+n−d

).

Les bornes ci-dessus ont ete obtenues en caracterisant des relations de dependance lineaire entrevecteurs gradients par l’annulation de certains mineurs d’une matrice jacobienne. Il est opportun demener a nouveau une etude sur ces degres de valeurs critiques generalisees en essayant d’y integrerl’usage de bornes bi-homogenes pour ameliorer les bornes ci-dessus. Nous reviendrons plus loin dans ledocument sur ce probleme.

4.5 Notes bibliographiques et commentaires

La plupart des definitions et resultats de ce chapitre sont classiques, excepte ce qui concerne lesvaleurs critiques generalisees et le degre des lieux critiques.

Voici un historique relatif a differents travaux concernant les valeurs critiques generalisees. Le theo-reme de fibration d’Ehresmann affirme qu’une submersion propre est une fibration localement triviale.Ainsi, K0(f) est un ensemble de bifurcation d’une application propre. Le theoreme de fibration d’Ehres-mann a ete ensuite generalise de differentes manieres :

– Pour des applications non propres de Cn dans C, R. S. Palais a introduit une condition, connuesous le nom de condition (C) de Palais.

– Pour des applications plus generales (d’une variete M dans une variete N), Rabier introduit lanotion de submersion forte qui generalise la condition (C) de Palais. Dans ce cadre, la norme dela differentielle d f de l’application consideree f est remplacee par ν(d f) (qui est simplement ladistance de la differentielle de f a l’ensemble des operateurs singuliers). Rabier montre alors quetoute submersion forte est une fibration.

– Pour les applications de Cn dans C generales, il etait deja bien connu que l’ensemble de bifurcationde f est fini et contient K0(f) ainsi que quelques “valeurs critiques a l’infini”. Plusieurs travaux ontconsiste a donner une definition precise de ces valeurs critiques a l’infini.

Cependant, la difficulte etait d’assurer un theoreme de Sard pour les valeurs critiques a l’infini tout enpreservant leurs proprietes topologiques. Les notions de valeurs critiques generalisees donnees dans cechapitre sont issues de [82] et [74, 75]. Ces travaux s’inscrivent dans la lignee de ceux de Rabier. Cesnotions preservent les proprietes de fibration localement triviale mais garantissent aussi un equivalent dutheoreme de Sard pour les valeurs critiques generalisees. De plus, des algorithmes permettant de calculerles valeurs critiques generalisees d’une application polynomiale ainsi que des bornes sur leur degre sontdonnes. Nous en rediscutons plus loin dans ce document. Enfin, mentionnons que les valeurs critiquesgeneralisees correspondent aux objets minimaux a calculer lorsqu’on veut resoudre un systeme d’equa-tions polynomiales a parametre (au sens de discuter le nombre de solutions reelles par exemple) (voir[89]). La notion de variete discriminante (voir [89]) coıncide avec celle de valeurs critiques generaliseesdans les cas ou on considere des projections :

– restreintes a des varietes algebriques lisses et equi-dimensionnelles– les fibres generiques de ces projections sont de dimension zero.

Mais les travaux de [89] permettent de gerer en plus les situations ou on considere des varietes singulieresainsi que la presence d’inegalites. Neanmoins, la notion de variete discriminante telle que formulee dans[89] ne permet pas de gerer les situations ou les fibres generiques des projections sont de dimensionpositive ce qu’autorisent les notions de valeurs critiques generalisees donnees dans ce chapitre.

Les bornes sur le degre des lieux critiques obtenues par l’analyse des systemes de Lagrange sontdirectement issues de [134]. Comme indique dans le paragraphe correspondant, elles sont obtenues apartir d’un resultat bornant la somme des degres des composantes equi-dimensionnelles d’une varietebi-projective. Ce resultat est montre dans [134]. On y trouve par ailleurs une analyse des proprietesdes bi-series de Hilbert. Ces travaux sont correles a ceux de [146, 113, 112, 68] qui traitent du casequi-dimensionnel.

Nous disposons maintenant des notions de points et valeurs critiques d’applications polynomialesrestreintes a des varietes algebriques, ainsi que d’une notion de valeur critique generalisee pour lesquelles

47

nous avons exhiber des resultats de nature topologique. Ceci permet d’utiliser intelligemment le theoremede trivialite semi-algebrique de Hardt : au lieu de proceder par projections iterees comme on l’a vu dansla decomposition cylindrique algebrique pour etudier une variete algebrique reelle, on peut directementcalculer les points critiques (et parfois les valeurs critiques asymptotiques) de la projection sur une droitepour detecter les changements de topologie dans les pre-images de points de la droite consideree. Parmices changements de topologie, on trouve evidemment l’apparition de composantes connexes de l’ensemblealgebrique reel etudie. De plus, les bornes exhibees dans le paragraphe precedent montrent que dans lessituations non-degenerees (non singulieres) la taille des objets consideres est de l’ordre des bornes deBezout (on a une croissance exponentielle en le nombre de variables6). Ceci est utilise pour decider duvide et calculer au moins un point par composante connexe dans une variete algebrique reelle au moyende ce qu’on appelle la methode des points critiques.

6Ceci est a correler a la croissance doublement exponentielle en le nombre de variables des degres des polynomesapparaissant dans la decomposition cylindrique algebrique.

48

5 Tests du vide et calcul d’au moins un point par composanteconnexe d’une variete algebrique reelle

Nous abordons dans ce chapitre le probleme du test du vide et du calcul d’au moins un point parcomposante connexe d’un ensemble algebrique reel donne par un systeme d’equations polynomiales. Onverra dans le chapitre suivant que le calcul d’au moins un point par composante connexe d’un ensemblealgebrique reel est une specification importante dans la mesure ou cela permet de tester efficacement levide d’un ensemble semi-algebrique.

Les algorithmes que nous presentons dans ce chapitre permettent (ou ont permis) d’obtenir desimplantations particulierement efficaces pouvant traıter des problemes tres largement inatteignables parl’algorithme de decomposition cylindrique algebrique. Nous verrons que, pour certains d’entre eux, on saitprouver qu’ils ont une complexite theorique polynomiale en la borne de Bezout, c’est-a-dire, simplementexponentielle en le nombre de variables ce qui est a mettre en regard avec la complexite doublementexponentielle de l’algorithme de decomposition cylindrique algebrique.

Pour se donner une idee des methodes mises en œuvre ici, considerons une hypersurface lisse H ⊂ Cn

definie par f = 0 (ou f ∈ Q[X1, . . . , Xn] est sans facteurs carres) et supposons, pour commencer, que sonlieu reel H∩Rn soit compact. Considerons Π1 la projection qui envoie (x1, . . . , xn) ∈ Cn sur x1. Puisquechaque composante connexe de H∩Rn est compacte, l’application polynomiale Π1 est propre et d’apresla proposition 16, Π1 atteint ses extrema sur chaque composante connexe de H∩Rn (si elles existent). Cesextrema sont atteints en les points critiques de Π1 restreinte a H. D’apres les caracterisations algebriquesque nous avons vues dans le chapitre precedent (voir le lemme 4), ces points sont solutions du systemed’equations polynomiales :

f =∂f

∂X2= · · · = ∂f

∂Xn= 0

Si ce systeme d’equations polynomiales est zero-dimensionnel (i.e. n’admet qu’un nombre fini de solutionscomplexes), on verra qu’on peut alors donner une parametrisation rationnelle de ses solutions sous laforme :

Xn = qn(T )q0(T )

...

X1 = q1(T )q0(T )

q(T ) = 0

ou T est une nouvelle variable et les polynomes q0, q, q1, . . . , qn sont univaries en T a coefficients rationnels.Le probleme initial qui s’exprimait en plusieurs variables est ainsi reduit a un probleme univarie

(compter et isoler les racines reelles revient a etudier q et les fractions rationnelles qi

q0pour i = 1, . . . , s).

Il est important de noter ici que d’apres le Theoreme de Bezout (voir [53]) qui permet de borner lenombre de solutions d’un systeme d’equations polynomiales zero-dimensionnel par le produit du degredes equations, le nombre de points critiques ainsi represente est inferieur ou egale a D(D − 1)n−1 (ouD est le degre de f). Sous reserve que les hypotheses qui ont emaille cette discussion soient verifiees,on vient d’exhiber un algorithme permettant de calculer au moins un point par composante connexed’une hypersurface reelle compacte et sans singularites dont la sortie (le nombre de points representespar la parametrisation rationnelle) est bornee par le nombre de Bezout qui est simplement exponentielen le nombre de variables. En terme de complexite, la difficulte est ramenee a savoir resoudre un systemed’equations polynomiales zero-dimensionnel avec une complexite polynomiale en la borne de Bezoutdans le pire cas. On verra que de tels algorithmes existent. L’usage des concepts vus dans le chapitreprecedent permet donc bien de contourner le caractere doublement exponentiel de la decompositioncylindrique algebrique. Les algorithmes fondes sur de tels calculs de points critiques relevent de ce qu’onappelle dans la suite la methode des points critiques.

On voit apparaıtre dans cette introduction les problemes qu’il faut gerer pour obtenir un algorithmedecidant du vide ou calculant au moins un point par composante connexe dans une variete algebriquereelle quelconque :

– trouver une application polynomiale qui atteigne ses extrema sur chaque composante connexe : dansnotre exemple nous ne sommes pas confronte a cette difficulte, la variete algebrique reelle considereeetant supposee compacte. Mais, si l’on considere l’hyperbole definie par xy−1 = 0 on constate sans

49

peine que la projection sur x n’atteint pas ses extrema sur chacune des deux composantes connexesde l’hyperbole : les deux composantes connexes se projettent sur des intervalles ouverts (]−∞, 0[et ]0,+∞[) et la pre-image de 0 est evidemment vide.

– s’assurer que le systeme definissant les points critiques de l’application consideree est zero-dimen-sionnel : c’est ce que nous avons suppose dans notre exemple, mais cette hypothese est loin depouvoir etre garantie les yeux fermes. En effet, si l’on considere l’hypersurface H definie par (x2 +1)(x2 + y2 − 1) = 0 et la projection π sur x, le lieu critique de π restreint a H est defini par :

y(x2 + 1) = 0(x2 + 1)(x2 + y2 − 1) = 0

qui n’est pas de dimension zero. On peut aussi remarquer que si on choisit une autre projection(celle sur y par exemple) on obtient un lieu critique defini par :

x(2x2 + y2) = 0(x2 + 1)(x2 + y2 − 1) = 0

qui, lui, est de dimension zero.– De plus, la caracterisation des points critiques donnee dans les lemmes 4 et 5 n’est valable que dans

les cas ou– l’ideal engendre par le systeme d’equations considere est radical et la variete consideree est

equi-dimensionnelle et lisse (si l’une de ces hypotheses n’est pas verifiee, soit la caracterisationexhibee dans le lemme 4 definit systematiquement un ensemble algebrique de dimension positive,soit cette caracterisation n’est pas complete dans la mesure ou les points critiques vivant sur lescomposantes equi-dimensionnelles de basse dimension sont oublies) ;

– l’ideal engendre par le systeme d’equations considere est radical et la variete consideree est lissedans le cas du lemme 5 mais cette caracterisation necessite de faire intervenir plus de variables(les multiplicateurs de Lagrange) et ne peut etre exploitee dans le cas d’ideaux non radicauxet/ou des varietes algebriques singulieres.

Ainsi, le cas general d’ensembles algebriques reels V donnes par un systeme S d’equations po-lynomiales tel que S n’engendre pas un ideal radical ou que V contient une infinite de pointssinguliers pose probleme. En effet, dans ces cas, on ne peut pas caracteriser les points critiquesd’une application polynomiale restreinte a l’ensemble algebrique qu’on etudie via les lemmes 4 ou5.

Pour gerer ces problemes, les notions d’applications polynomiales propres et d’applications polyno-miales dominantes introduites dans le chapitre precedent sont intensivement utilisees. Ce chapitre eststructure comme suit. Dans un premier temps, nous decrivons la sortie des algorithmes de resolutionde systemes polynomiaux que nous utilisons dans les diverses mises en œuvre de la methode des pointscritiques. Nous portons une attention particuliere aux ensembles triangulaires, aux bases de Grobner etaux resolutions geometriques. Nous donnons aussi les complexites d’algorithmes permettant de calculerces representations.

Puis nous decrivons les strategies generales de mise en œuvre de la methode des points critiques endonnant d’abord un algorithme general de calcul d’au moins un point par composante connexe dans unevariete algebrique reelle V ⊂ Rn definie comme etant le lieu des zeros reels communs d’une famille depolynomes f1, . . . , fs de Q[X1, . . . , Xn]. Cet algorithme reduit ce probleme au calcul d’au moins un pointpar composante connexe dans une hypersurface reelle compacte et lisse. Cette reduction est obtenue enconsiderant l’hypersurface H ⊂ Cn qui est le lieu d’annulation de la somme des carres des polynomesf1, . . . , fs. Puis, l’etude est ramenee a celle d’une hypersurface lisse dont le lieu reel est compact enintroduisant des infinitesimaux deformant l’hypersurface H. La complexite de cet algorithme est borneepar DO(n) ou D borne le degre des polynomes definissant la variete algebrique reelle V et n est le nombrede variables. Remarquons qu’ici la constante de complexite est situee en exposant. Nous verrons que,dans l’algorithme decrit, celle-ci est particulierement elevee, et que quelque soit la structure geometriquede la variete etudiee, le pire cas (en terme de complexite) est systematiquement atteint. Ainsi, cetalgorithme est inutile en pratique : il ne permet malheureusement pas de concretiser l’apport en termede complexite theorique en performances pratiques qui permettent de resoudre plus de problemes queceux que l’algorithme de decomposition cylindrique algebrique permet d’aborder.

50

La suite du chapitre porte sur les techniques permettant de rendre utile, en pratique, la methode despoints critiques. Dans le paragraphe 5.3, nous concentrons notre etude sur les methodes permettant degarantir que l’application polynomiale choisie, dont on calcule les points critiques, atteint ses extremasur chaque composante connexe de la variete etudiee. Celles-ci utilisent des applications polynomialesqui sont des carres de fonction distance a un point choisi generiquement dans l’espace de travail. Le casdes varietes singulieres et/ou non equi-dimensionnelles (induisant des chutes de rang dans la matricejacobienne associee a l’ensemble des polynomes definissant la variete etudiee) est traıte en procedanta des appels recursifs de l’algorithme sur le lieu singulier de la variete etudiee puis, le lieu singulierdu lieu singulier, et ainsi de suite. La dimension du lieu singulier considere chutant a chaque etape,on ramene ainsi l’etude a la resolution de systemes polynomiaux zero-dimensionnels. Cet algorithmeutilise la caracterisation algebrique des points critiques donnee par le lemme 4 et fait donc intensivementappel a des routines calculant des decompositions equi-dimensionnelles et radicales d’ideaux engendrespar des equations polynomiales. La sortie de tels algorithmes est generalement constituee de familles debases de Grobner dont la taille peut etre exponentielle en la taille de l’entree. Ainsi, les appels recursifspeuvent etre couteux. De plus, le calcul de points critiques de fonctions polynomiales etant des carres dedistance euclidienne a un point generiquement choisi est couteux devant des calculs de points critiques defonction de projection qui sont lineaires. Ainsi, meme si l’algorithme decrit dans ce paragraphe a permisdes avancees pratiques substantielles, on concentre notre etude dans le paragraphe 5.4 sur l’usage defonctions de projection.

Dans cette etude, on utilise intensivement les notions de projection dominante et de lieu de non-proprete introduites dans le chapitre precedent. Essentiellement, l’idee consiste a utiliser le fait que lelieu critique d’une fonction de projection dominante restreinte a une variete irreductible est de dimensioninferieure a celle de la variete consideree (voir proposition 20). Ainsi, modulo le choix de bonnes projec-tions, on garantit que nos calculs intermediaires de lieux critiques permettent de se ramener a l’etude devarietes algebriques de dimension zero. Il reste neanmoins a gerer les situations ou certaines composantesconnexes de la variete algebrique reelle etudiee ont une intersection vide avec les lieux critiques calcules.Dans ce cas, on montre que le calcul de pre-images d’au moins un point par composante connexe dans lecomplementaire du lieu de non-proprete des projections considerees permet d’atteindre ces composantesconnexes : on verra que les calculs sont menes de maniere telle que ces pre-images sont de dimension zero.Enfin, la presence de singularites, ou plus generalement, les chutes de rang dans les matrices jacobiennessont gerees comme dans le paragraphe 5.3. En pratique, l’algorithme presente dans le paragraphe 5.4est bien plus performant que celui du paragraphe precedent : l’usage de fonctions de projections (quisont lineaires) en lieu et place de fonctions distance (qui sont quadratiques) permet des gains d’efficacitesubstantiels. Ceci dit, cet algorithme effectue des calculs de lieux critiques de lieux critiques et ainsi desuite. Ces objets ont des degres qui sont mal maıtrises et contiennent generiquement des singularites. Onprefere utiliser des fonctions de projection sur des droites pour en calculer les points critiques directementplutot que d’effectuer une descente sur la dimension en calculant des lieux critiques de lieux critiques.

Ainsi, meme si l’idee d’utiliser des fonctions de projection est validee experimentalement, on cherchea ameliorer l’usage qu’on en fait dans le paragraphe 5.5. Dans ce paragraphe, pour simplifier notre etude,on ne considere que des varietes lisses donnees par une famille de generateurs de l’ideal associe. Etantdonnee une variete algebrique lisse V ⊂ Cn, on montre que pour des choix generiques de projectionsur des droites, toutes les composantes connexes de V ∩ Rn se projettent en des intervalles fermes. Onatteint donc ces composantes connexes en calculant les points critiques de la fonction de projectionπ consideree et en calculant l’intersection de V et de la pre-image par π d’un point arbitrairementchoisi dans la droite sur laquelle on projette. On itere alors notre etude sur cette intersection dont ledegre est le meme que celui de V et dont la dimension est inferieure a celle de V . Cette strategie estdifferemment mise en œuvre selon que V est equi-dimensionnelle ou non (on utilise alors soit le lemme 4soit le lemme 5 pour caracteriser les lieux critiques qu’on cherche a calculer). La notion de proprete d’uneapplication polynomiale introduite dans le chapitre precedent est ici intensivement utilisee. En pratique,cet algorithme permet d’obtenir des resultats tres largement inatteignables par ceux exposes dans lesparagraphes precedents. Ce type d’algorithmes est a la base des implantations actuellement disponiblesdans [128] pour le calcul d’au moins un point par composante connexe dans une variete algebrique reellelisse. L’usage de bases de Grobner permet de certifier que les choix de fonctions de projection sont“suffisamment generiques”. Les estimations de complexite (en terme de nombre d’operations), fondeessur les theoremes bornant le cout de calculs de resolution geometriques, donnent des bornes simplement

51

exponentielles en le nombre de variables. Enfin, dans le cas ou les equations de depart sont quadratiques,ces algorithmes sont polynomiaux en le nombre de variables et exponentiels en le nombre d’equations.L’analyse de la taille de la sortie de ces algorithmes a aussi permis d’obtenir de nouvelles bornes surle nombre de composantes connexes d’une variete algebrique reelle. On dispose ainsi d’algorithmes tresefficaces en pratique et dont on maıtrise la complexite pour le calcul d’au moins un point par composanteconnexe d’une variete algebrique reelle lisse. Il nous reste a ameliorer les techniques developpees pourles algorithmes des sections 5.3 et 5.4 pour gerer les cas ou des chutes de rang dans les jacobiennesinterviennent.

Dans le paragraphe 5.6, on considere une hypersurface H ⊂ Cn definie par f = 0 (ou f est unpolynome dans Q[X1, . . . , Xn]) contenant une infinite de points singuliers et on developpe une etudepour le calcul d’au moins un point par composante connexe de H ∩ Rn. La strategie qui consiste aetudier les images des composantes connexes de H ∩ Rn par des projections sur des droites generiquesayant fait ses preuves dans le cas lisse, on cherchera a l’adapter a ce contexte singulier. Le problemeest que la caracterisation algebrique du lemme 4 ne permet pas de se ramener directement a l’etude desystemes zero-dimensionnels. On cherche dans ce paragraphe a eviter tant que faire ce peut a etudierdirectement le lieu singulier de H puis le lieu singulier du lieu singulier et ainsi de suite comme dans lesparagraphes 5.3 et 5.4. En effet, ces lieux singuliers, dont on ne maıtrise pas le degre, sont souvent definispar des systemes polynomiaux engendrant des ideaux non radicaux et non equi-dimensionnels qu’il estdifficile decomposer d’une part et, d’autre part, ceci nous contraindrait a effectuer des calculs de pointscritiques de fonction polynomiale restreinte a des varietes algebriques qui nous sont donnees comme lelieu d’annulation de bases de Grobner. Le nombre et le degre des polynomes dans ces bases pouvant etreexponentiels en le nombre de variables, de tels calculs s’averent vite tres difficiles a mettre en œuvre.

Une strategie alternative consiste a deformer l’hypersurface H de maniere a ramener notre etude acelle d’une hypersurface lisse. En effet, l’hypersurface definie par f − ε = 0 (ou ε est un infinitesimal)est lisse. On montre qu’on calcule un point par composante de H ∩ Rn en appliquant l’algorithme duparagraphe 5.5 a l’hypersurface definie par f−ε = 0 et en calculant les limites des points obtenus lorsqueε tend vers 0. Le probleme calculatoire reside dans le fait que la mise en œuvre directe de cette demarchene permet pas d’obtenir des resultats pratiques satisfaisants : en effet, celle-ci oblige a effectuer les calculsdans Q(ε) alourdissant le cout de l’arithmetique exponentiellement en le nombre de variables. On montrealors comment eviter d’introduire explicitement cet infinitesimal et calculer directement les limites despoints critiques qu’on cherche a calculer. L’algorithme obtenu permet d’avoir des performances pratiquesbien superieures aux strategies procedant a des etudes recursives sur des lieux singuliers. De plus, onmontre que la complexite de cette approche est polynomiale en la borne de Bezout et on montre que lessorties de cet algorithme sont de taille toujours strictement inferieure au pire cas attendu (c’est-a-diredes parametrisations rationnelles encodant des ensembles algebriques de dimension zero de degre egalea la borne de Bezout). Ceci est a correler aux resultats presentes dans la section 5.2 ou le pire cas estsystematiquement atteint.

Le paragraphe 5.7 montre comment generaliser cette demarche au cas des varietes algebriques singu-lieres (et/ou celles qui sont donnees par des systemes d’equations polynomiales engendrant des ideauxnon radicaux). On aboutit a des algorithmes efficaces en pratique dont on sait borner la complexite parune quantite polynomiale en la borne de Bezout.

5.1 Sortie des algorithmes et elimination algebrique

Les algorithmes que nous etudions dans ce chapitre effectuent des calculs de points critiques demaniere a ramener le calcul d’au moins un point par composante connexe a la resolution d’un (ouplusieurs) systeme(s) d’equations polynomiales zero-dimensionnels c’est-a-dire admettant un nombre finide solutions complexes. L’union des solutions de ces systemes d’equations aura une intersection non videavec chaque composante connexe de la variete algebrique reelle etudiee. Ces points seront representessymboliquement de maniere a pouvoir :

– obtenir des intervalles d’isolation de leurs coordonnees aussi precis que necessaires ;– et evaluer des polynomes multivaries en les coordonnees de ces points 7.

7On verra dans le chapitre suivant pourquoi il est important de pouvoir evaluer le signe d’un polynome en un pointalgebrique reel.

52

Plusieurs representations permettant de repondre a ce cahier des charges sont possibles. La plusgenerale est une representation par ensemble triangulaire de polynomes (voir la serie d’articles [10, 77,87, 105, 9, 150, 151] et les articles de synthese [71, 72]) deja evoquee dans l’etape de remontee del’algorithme de decomposition cylindrique algebrique (voir chapitre 3). Comme precedemment, on verraque pour resoudre les problemes mentionnes ci-dessus, il nous faudra pouvoir manipuler des nombresalgebriques reels. De plus, les ensembles triangulaires permettent de decomposer les varietes algebriquesen composantes equi-dimensionnelles dont on peut calculer l’ideal associe. Ceci est utile dans la mesureou les caracterisations algebriques des points critiques donnes par les lemmes 4 et 5 supposent connuesun systeme de generateurs de l’ideal associe a la variete algebrique consideree (et, pour le lemme 4, sonequi-dimensionnalite).

On peut reduire le cout de l’isolation des coordonnees reelles (ou de l’evaluation du signe d’un poly-nome en des points algebriques reels) en representant les solutions d’un systeme d’equations polynomialeszero-dimensionnel par une parametrisation rationnelle des coordonnees des points du lieu-solution. Unetelle representation est introduite dans les travaux de Kronecker [81, 80] et constitue en un sens un casparticulier des ensembles triangulaires de polynomes.

Geometriquement, le procede calculatoire revient a considerer :– une projection π sur une droite ;– et l’image par π des solutions du systeme zero-dimensionnel considere.

Si la projection π est injective, on peut representer les solutions du systeme zero-dimensionnel sous laforme suivante :

Xn = qn(T )q0(T )

...

X1 = q1(T )q0(T )

q(T ) = 0

ou T est une nouvelle variable et les polynomes q0, q, q1, . . . , qn sont univaries en T a coefficients rationnels.Les valeurs de T annulant q0 sont les images des points du systeme zero-dimensionnel considere par laprojection π : (x1, . . . , xn) ∈ Cn → u1x1 + · · · + unxn ou on a choisi (u1, . . . , un) ∈ Qn de maniere a ceque la restriction de π en les points solutions du systeme considere est injective.

Une fois qu’une telle representation est calculee, isoler les coordonnees des solutions reelles (ou evaluerle signe d’un polynome en les points reels encodes par une telle representation) se ramene a isoler demaniere suffisamment fine les racines reelles du polynome q0. Dans le cas ou le corps de base sur lequel ontravaille est le corps des rationnels Q, on peut utiliser la methode de Vincent [148] (plus connue sous lenom d’algorithme d’Uspensky [145]) pour lequel on trouve des variantes modernes efficaces (voir [126]).Lorsqu’on ne travaille pas sur un corps reel archimedien, le comptage des solutions reelles peut se faireau moyen des suites dites de Sturm-Habicht (voir [140, 66, 96, 98]).

Plusieurs methodes permettent d’acceder a une telle representation. Les premieres ramenent la re-solution d’un systeme zero-dimensionnel engendrant un ideal I a des calculs d’algebre lineaire dans

l’algebre-quotient Q[X1,...,Xn]I . En effet, si I est zero-dimensionnel, cette algebre-quotient se trouve etre

aussi un espace vectoriel de dimension finie. Pour ce faire, il est necessaire de disposer d’une forme nor-

male envoyant tous les polynomes f ∈ Q[X1, . . . , Xn] d’une meme classe de Q[X1,...,Xn]I sur un unique

representant. Une etape prealable consiste a calculer une representation de l’algebre-quotient Q[X1,...,Xn]I .

Les bases de Grobner permettent d’effectuer de tels calculs. La plus standard et, a ce jour, la plus ef-ficace en general consiste a calculer une base de Grobner de I pour un ordre monomial fixe, bien qued’autres options sont possibles pour cette etape (voir [144, 108]). Nous donnons ci-dessous les definitionset proprietes elementaires des bases de Grobner que nous exploiterons dans la suite. La seconde etapedu calcul de parametrisations rationnelles des solutions d’un systeme zero-dimensionnel consiste en des

calculs d’algebre lineaire dans l’algebre-quotient Q[X1,...,Xn]I que nous decrivons tres succinctement.

Nous verrons que le calcul de bases de Grobner dans le cas des systemes polynomiaux de dimensionzero se fait en une complexite simplement exponentielle en le nombre de variables et polynomiale en lemaximum des degres des polynomes donnes en entree.

Une alternative a ces methodes, connue sous le nom de resolution geometrique permet d’obtenir unprocede de resolution incremental qui est polynomial en le maximum des degres des varietes algebriques

53

definis par f1 = · · · = fi (pour i = 1, . . . , n) si f1 = · · · = fs = 0 (avec s > n) est le systeme zero-

dimensionnel a resoudre. Evidemment, dans le pire cas, ce degre est egale a la borne de Bezout, maisun tel resultat de complexite permet d’introduire une dependance en des quantites geometriques (etnon purement algebriques) dans les algorithmes d’elimination algebrique. Ce procede s’appuie sur lecodage des polynomes par des programmes d’evaluation (straight-line program en anglais)8 et la seuleimplantation donnant des resultats pratiques interessants code la sortie sur une base monomiale [92].Ces algorithmes reposent sur les methodes developpees dans [60, 110, 59, 57]. L’implantation que nousevoquons ci-dessous est le paquetage Kronecker du a G. Lecerf et se fonde sur les resultats exposes dans[61, 94, 93].

5.1.1 Representations par ensembles triangulaires

On se donne un ordre sur les variables X1 < . . . < Xn. Etant donne un polynome f ∈ Q[X1, . . . , Xn],on appelle variable principale de f la plus grande variable apparaissant dans f pour l’ordre monomialqu’on a fixe. Le degre principal de f est le degre de f en sa variable principale. L’initial d’un polynomef ∈ Q[X1, . . . , Xn] est le coefficient dominant de ce polynome lorsqu’il est vu comme univarie en savariable principale. Le separant d’un polynome f ∈ Q[X1, . . . , Xn] est la derivee partielle de f parrapport a sa variable principale.

Un ensemble triangulaire de polynomes est alors une famille finie T de polynomes dans Q[X1, . . . , Xn]telle que deux polynomes distincts de T ont des variables principales distinctes. L’objet geometriqueassocie a un tel ensemble triangulaire T de polynomes, qu’on appelle quasi-variete de T , est la cloturede Zariski de l’ensemble constructible, qu’on appelle quasi-composante de T , obtenu en considerant :

– le lieu d’annulation des polynomes de T– duquel on retire les points annulant l’initial d’au moins un polynome de T .

La structure algebrique associee a un ensemble triangulaire T est l’ideal qu’on appelle sature de l’ensembletriangulaire T et qui est egale a

sat(T ) = f ∈ Q[X1, . . . , Xn] | ∃k ∈ N, hkf ∈ 〈T 〉

ou h est le produit des initiaux des polynomes de T . La variete algebrique associee au sature d’unensemble triangulaire est la quasi-variete de cet ensemble triangulaire.

Etant donne un ensemble triangulaire T = td+1, . . . , tn, on note Td+i pour i ∈ 1, . . . , n − dl’ensemble triangulaire de polynomes td+1, . . . , td+i et hi le produit des initiaux de Ti. Un ensembletriangulaire T est dit regulier si et seulement si pour tout i ∈ 2, . . . , n − d, l’initial de td+i ne divise

pas zero dans l’algebre-quotient Q[X1,...,Xn]sat(Ti−1)

.

Un ensemble triangulaire T est separable si, pour i ∈ d+ 1, . . . , n, le separant si ne divise pas zerodans Q[X1, . . . , Xn]/sat(td+1, . . . , ti). Un ensemble triangulaire regulier et separable T est dit fortementnormalise si pour i ∈ d+ 1, . . . , n, hi ne depend que des variables transcendentes de T .

Les ensembles triangulaires reguliers et separables jouissent d’une propriete interessante pour ce quinous concerne : leur quasi-variete et leur sature sont respectivement des varietes algebriques et des ideauxequi-dimensionnels radicaux. Ainsi, decomposer l’ideal engendre par un systeme d’equations polynomialesen une famille de generateurs d’ideaux qui sont des satures d’ensembles triangulaires reguliers et sepa-rables permet de calculer les points critiques d’une application polynomiale restreinte a chacune descomposantes equi-dimensionnelles de la variete etudiee (voir lemmes 4 et 5). Nous verrons plus loin com-ment exploiter cette propriete pour le calcul de points critiques d’applications polynomiales restreintesa des varietes algebriques non equi-dimensionnelles.

Les solutions d’un systeme zero-dimensionnel sont donnees par l’union des solutions d’ensemblestriangulaires reguliers de la forme

tn(X1, . . . , Xn)...

t2(X1, X2)t1(X1)

8Le terme programme d’evaluation n’est pas tout a fait adapte : on entend ici par ce terme une suite d’instructionssans branchements ni boucles (on ne s’autorise que les operations arithmetiques et l’affectation de variables). Bien quepartiellement inapproprie, on continuera a employer ce terme dans la suite du document

54

Isoler les racines reelles de tels ensembles triangulaires se fait alors comme dans la phase de remonteede la decomposition cylindrique algebrique (voir chapitre 3) par la manipulation de nombres algebriquesreels. Il en est de meme pour l’evaluation du signe d’un polynome en une solution d’un tel ensembletriangulaire.

5.1.2 Bases de Grobner et calculs dans les algebres-quotients

Les bases de Grobner permettent de calculer modulo un ideal I ⊂ Q[X1, . . . , Xn], c’est-a-dire, d’en-

voyer tous les polynomes f d’une meme classe de Q[X1,...,Xn]I sur un seul et unique representant (une fois

que certaines precautions qu’on indique ci-dessous ont ete prises).Pour ce faire, il faut generaliser le procede de division euclidienne du cadre univarie au cadre multi-

varie (qui permet de faire la meme chose dans Q[X]). Ce procede est implicitement fonde sur le fait qu’onpeut associer a tout polynome un terme de tete (dans le contexte univarie, il s’agit du monome de plusgrand degre multiplie par son coefficient). On doit donc se donner un ordre monomial sur les monomesde Q[X1, . . . , Xn] qu’on identifie a des n-uplets de Nn.

Definition 18. Un ordre admissible sur les monomes (unitaires) de Q[X1, . . . , Xn] est une relation >binaire sur Nn telle que :

1. > est une relation d’ordre total sur Nn,

2. si α > β et γ ∈ Nn, alors α+ γ > β + γ,

3. pour l’ordre >, tout ensemble non vide admet un plus petit element sur Nn.

Soit Xα et etXβ avec α = (α1, . . . , αn) ∈ Nn et β = (β1, . . . , βn) ∈ Nn deux monomes. Dans lapratique, on utilisera essentiellement :

– l’ordre du degre lexicographique inverse (DRL ou grevlex dans la litterature) : on dit que Xα < Xβ

si∑βi <

∑αi ou, en cas d’egalite, si αi < βi pour le premier indice i tel que αi 6= βi.

– l’ordre lexicographique : on dit que Xα < Xβ si αi > βi pour le premier indice i tel que αi 6= βi.On utilisera aussi dans la suite des ordres d’elimination (voir [42]) qui combinent les ordres DRL etlexicographiques donnes ci-dessus.

Definition 19. Soit p =∑α cαx

α ∈ Q[X1, . . . , Xn] et > un ordre sur les monomes de Q[X1, . . . , Xn].

1. le multi-degre de p est :multideg(p) = maxα ∈ Nn | cα 6= 0

2. le coefficient de plus haut degre de p est :

lc(p) = cmultideg(p) ∈ Q

3. le monome de plus haut degre de p est :

lm(p) = xmultideg(p)

4. le terme initial de p est :in(p) = lc(p)lm(p)

Dans la suite de cette section, on suppose fixe un ordre admissible sur les monomes de Q[X1, . . . , Xn].

Theoreme 17. Si F = f1, . . . , fs est une famille de polynomes de Q[X1, . . . , Xn], alors tout f ∈Q[X1, . . . , Xn] peut s’ecrire :

f = a1f1 + . . .+ asfs + r

ou ∀i ∈ 1, . . . , s, ai et r sont des polynomes de Q[X1, . . . , Xn] tels qu’aucun des monomes de r ne soitdivisible par l’un des in(fi).

On appellera r une forme normale de f modulo F . En fait, la preuve de ce theoreme peut etre etablieen exhibant un algorithme calculant le reste d’un polynome modulo une liste ordonnee. C’est l’algorithmede forme normale. La sortie de cet algorithme depend de l’ordre dans lequel les polynomes interviennentdans l’algorithme de reduction. Elle n’est donc pas canonique. L’apport des bases de Grobner consiste arendre canonique cette operation une fois que l’ordre monomial est fixe.

55

Definition 20. Etant donne un ordre monomial, une famille generatrice finie G = (g1, . . . , gs) d’elementsd’un ideal I de Q[X1, . . . , Xn] est une base de Grobner si :

〈in(g1), . . . , in(gs)〉 = 〈in(I)〉

La principale propriete des bases de Grobner peut etre resumee par :

Proposition 24. Etant donne un ordre monomial, on pose G = (g1, . . . , gs) une base de Grobner d’unideal I dans Q[X1, . . . , Xn]. Pour tout polynome f de Q[X1, . . . , Xn], le reste de f modulo G (ou la formenormale de f modulo G) est determine de maniere unique. En particulier, f est un element de I si etseulement si son reste modulo G est nul.

Le reduit d’un polynome f par rapport a une base de Grobner G est appele forme normale de fmodulo G.

Definition 21. Une base de Grobner reduite pour un ideal I de Q[X1, . . . , Xn] est une base de Grobnerpour I dont les polynomes sont constitues de monomes irreductibles modulo I.

Le calcul de bases de Grobner releve d’un procede de reecriture, chaque polynome appartenant ausysteme de generateurs de l’ideal dont on cherche une base de Grobner etant vu comme une regle dereecriture. On passe alors d’un systeme de generateurs a un autre (jusqu’a obtenir une base de Grobner)en mettant en œuvre un mecanisme de completion par adjonction de regles de reecritures (obtenues enforcant l’annulation des termes de tete de deux polynomes de la base courante).

On n’en dira pas plus, si ce n’est que le premier algorithme de calcul des bases de Grobner est du aBuchberger [32], que de nombreuses optimisations y ont ete apportees jusqu’aux travaux de J.-C. Faugere[50, 51]. Ces derniers ont introduit des techniques d’algebre lineaire rapide dans les calculs de bases deGrobner et permettent d’eviter des calculs inutiles.

Dans le pire cas, les bases de Grobner sont de taille doublement exponentielle en le nombre de variables(voir [102]). Il est important de noter que ce pire cas exhibe dans [102] est pathologique et ne se rencontrepas dans la pratique. Il est caracterise par le fait que l’ideal engendre par le systeme d’equations donne enentree n’est pas radical, et une decomposition primaire minimale de cet ideal contient un grand nombrede composantes primaires imergees.

Des resultats plus positifs montrent que dans le cas zero-dimensionnel, le calcul de bases de Grobnerest de complexite simplement exponentielle en le nombre de variables ([83, 84, 67]). D’autres resultats[16] portent plus specifiquement sur l’algorithme donne dans [51] et permettent d’obtenir des bornes decomplexite simplement exponentielles en le nombre de variables sous certaines hypotheses de regularite(et pas uniquement dans le cas zero-dimensionnel).

Dans le cas zero-dimensionnel, les bases de Grobner lexicographiques sont d’un interet plus particuliercar en position Shape Lemma [24, 27, 55] elles permettent de compter le nombre de racines reelles. Cesbases de Grobner peuvent etre obtenues par l’algorithme de changement d’ordre FGLM [52].

En pratique9, on est loin de constater un comportement doublement exponentiel. Les bases de Grob-ner constituent un outil de resolution des systemes d’equations polynomiales standard si bien que presquetous les systemes de calcul formel permettent de les calculer plus ou moins efficacement. De plus, lorsqu’onutilise l’ordre DRL, les bases de Grobner tirent avantageusement profit d’une eventuelle sur-determinationdu systeme d’equations donnes en entree (des explications partielles a ce constat empirique se trouventdans [16]). Ce point est important dans la mesure ou les systemes polynomiaux engendres par la caracte-risation algebrique des points critiques donnes dans le lemme 4 sont sur-determines. Enfin, mentionnonsqu’en combinant les techniques de calcul d’ensembles triangulaires avec des calculs de bases de Grob-ner, on peut obtenir des decompositions equi-dimensionnelles et radicales d’ideaux telles que chaquecomposante equi-dimensionnelle soit encodee par une base de Grobner engendrant son ideal associe.

Les systemes de calcul formel reputes pour fournir les implantations les plus efficaces permettant lecalcul de bases de Grobner sont Magma [3] et Singular [7]. L’algorithme implante est celui decrit dans[50]. Neanmoins, ils n’ont pas le niveau de performances du logiciel specialise FGb implante en C par J.-C.Faugere.

9c’est-a-dire sur les systemes polynomiaux intervenant dans de reelles applications, et a condition de disposer d’uneimplantation bien travaillee.

56

Des bases de Grobner aux parametrisations rationnelles. Voyons comment obtenir des para-metrisations rationnelles (plus precisement des Representations Univariees Rationnelles, voir [121, 122])a partir d’une base de Grobner.

Si S est zero-dimensionnel et I = 〈S〉, l’algebre-quotient A = Q[X1, . . . , Xn]/I est un Q-espacevectoriel dont la dimension est egale au nombre de solutions de S comptees avec multiplicites dans Cn,qu’on note δ dans la suite. Voyons comment on reduit le calcul de parametrisations rationnelles a desquestions d’algebre lineaire dans A. Pour simplifier, on suppose que I est radical.

On considere dans A les endomorphismes de multiplication Mf pour tout f ∈ A :

Mf : A −→ Ap → fp

Evidemment, Mf est une application lineaire et pour tout couple de polynomes f, g, on a MfMg = Mfg.Puisque Mf est une application lineaire, elle a un polynome caracteristique χf ∈ Q[T ] si bien que

χf (MF ) = 0. Ainsi, χf (F ) = 0 dans A ce qui implique que χf (F ) appartient a I. En d’autres termes,χf (F ) s’annule en les racines de I.

Soit u un element de A qui separe les racines de I (pour tout couple de racines distinctes (x, y) deI, u(x) 6= u(y)) et χu le polynome caracteristique de l’endomorphisme de multiplication par u dans A.Ainsi, la famille 1, u, . . . , uδ−1 forme une base de l’algebre-quotient A en tant que Q-espace vectoriel.

Il existe donc des polynomes univaries G1, . . . , Gn tels que Xi = Gi dans A (pour i ∈ 1, . . . , n). Cespolynomes constituent une parametrisation possible des coordonnees des racines de I. Ce n’est pas laseule possible et comme indique dans [8, 122, 121], la plus pertinente consiste a considerer une fractionrationnelle qi

q0ou q0 est la derivee du polynome minimal de l’endomorphisme de multiplication par u

dans A.Ceci dit, verifier qu’un element u de A est bien separant (surtout dans le cas ou I n’est pas radical), et

acceder aux parametrisations ne sont pas des operations simples calculatoirement (les matrices manipuleessont de taille δ × δ). Dans [121, 122], F. Rouillier donne une algorithmique efficace fondee sur :

– un calcul intelligent de la table de multiplication dans A fondes sur des calculs de formes normales ;– des tests efficaces de choix d’element separant ;– des formules de trace permettant d’obtenir les parametrisations voulues.

Resultats de complexite. Soit S un systeme zero-dimensionnel dans Q[X1, . . . , Xn], tel que l’idealI est de degre δ. Dans [121, 122], F. Rouillier montre que le calcul d’une Representation UnivarieeRationnelle a partir de la table de multiplication de l’anneau-quotient Q[X1, . . . , Xn]/I peut se faire enO(nδ2) operations arithmetiques dans Q. De plus, la table de multiplication peut se construire a partird’une base de Grobner en O(δ4) operations arithmetiques dans δ. En termes du nombre d’operationsarithmetiques, cet algorithme est polynomial en le nombre de racines complexes d’un systeme zero-dimensionnel, une fois la base de Grobner calculee.

Du point de vue pratique, le logiciel RS [120] implante par F. Rouillier en C est le plus efficace pourcalculer des representations univariees rationnelles a partir d’une base de Grobner. Il permet de resoudreefficacement des systemes polynomiaux zero-dimensionnels ayant un nombre de solutions complexes del’ordre du millier. Interface avec Maple [4], il devrait bientot y etre integre.

5.1.3 Resolution geometrique

Une alternative aux methodes decrites ci-dessus a ete developee pour obtenir :– dans le cas des systemes zero-dimensionnels une parametrisation rationnelle de l’ensemble des

solutions complexes ;– dans le cas des systemes de dimension positive, des parametrisations rationnelles encodant des

points generiques sur chaque composante equi-dimensionnelle de l’ensemble des complexes du sys-teme etudie.

L’entree des algorithmes de calcul de resolution geometrique est un programme d’evaluation du sys-teme d’equations et d’inequations polynomiales :

f1 = · · · = fs = 0, h 6= 0

57

ou (f1, . . . , fs, h) ⊂ Q[X1, . . . , Xn].

Dans les cas ou (f1, . . . , fs, h) constitue une suite reguliere reduite 10, la sortie de l’algorithme donnedans [61] est une parametrisation rationnelle des solutions de la cloture de Zariski de l’ensemble construc-tible defini par le systeme donne en entree. Cette parametrisation rationnelle est ecrite sur la base mo-nomiale standard.

Si (f1, . . . , fs, h) n’est pas une suite reguliere reduite, la sortie de l’algorithme donne dans [94] estun ensemble fini de parametrisations rationnelles encodant des points generiques sur chaque composanteequi-dimensionnelle de la cloture de Zariski de l’ensemble constructible defini par le systeme donne enentree.

Le principe de l’algorithme consiste en un procede iteratif d’intersection et d’interpolation qui consistea :

– calculer une resolution geometrique du systeme f1 = · · · = fi = 0, h 6= 0– calculer une courbe de remontee sur cette variete via un processus de remontee a la Hensel ;– calculer l’intersection de cette courbe de remontee avec l’hypersurface definie par fi+1 = 0 et retirer

de la resolution obtenue les points annulant h. On a ainsi obtenu une resolution geometrique de lacloture de Zariski de l’ensemble constructible defini par

f1 = · · · = fi+1 = 0, h 6= 0.

Les algorithmes donnes dans [61, 94] sont probabilistes mais leur complexite est bien controllee. Dansla suite on note M(x) le cout de la multiplication de deux polynomes univaries de degre x et on diraque p ∈ Olog (x) si il existe une constante a telle que p ∈ O(x log xa). Enfin, on note U(a) la quantitea log2(a) log(log(a)).

Theoreme 18. [61] Soit (f1, . . . , fs, g) s+ 1 polynomes dans Q[X1, . . . , Xn] de degre borne par D, et Lla complexite d’evaluation de (f1, . . . , fs, g). Supposons que (g1, . . . , gn) soit une suite reguliere reduitedans l’ensemble x ∈ Cn | g 6= 0.

Il existe un algorithme probabiliste calculant une resolution geometrique de la cloture de Zariski del’ensemble des solutions complexes du systeme g1 = · · · = gs = 0, h 6= 0 en

O(n(nL+ n3)U(D.δ)2

)

operations arithmetiques dans Q ou δ (qui est bornee par Dn) est le maximum des degres des cloturesde Zariski des ensembles de solutions complexes des systemes f1 = · · · = fi = 0, h 6= 0.

Dans le cas des systemes polynomiaux ne formant pas une suite reguliere reduite, le resultat decomplexite conernant le calcul de resolutions geometriques

Theoreme 19. [94] Soit f1, . . . , fs et h des polynomes de degre borne par D dans Q[X1, . . . , Xn], re-presentes par un programme d’evaluation de longueur L. Il existe un algorithme calculant une resolutiongeometrique de la cloture de Zariski de V (g1, . . . , gS) \ V (g) dont la complexite arithmetique est :

Olog (Sn4(nL+ n4)M(Dd))3

ou d est le maximum des sommes des degres algebriques des composantes irreductibles des clotures deZariski des ensembles constructibles definis par f1 = · · · = fi = 0, h 6= 0 pour i dans 1, . . . , s.

Remarque. Dans [94], G. Lecerf montre que la complexite binaire de l’algorithme qu’il y donne est

τOlog (Sn4(nL+ n4)M(Dd))4

ou τ borne la taille binaire des coefficients du systeme donne en entree.

10Ceci signifie que si on note Ii l’ideal 〈f1, . . . , fi, Lh−1〉∩Q[X1, . . . , Xn] (ou L est une nouvelle variable), fi+1 ne divise

pas zero dansQ[X1,...,Xn]

Ii(pour i = 1, . . . , n − 1) et les ideaux Ii sont radicaux (pour i = 1, . . . , n)

58

Les algorithmes de calcul de resolution geometrique donnes dans [61, 94] sont plus recents et fondessur des idees similaires a celles developpees dans [60, 57, 59]. L’implantation du paquetage Kronecker

dans le systeme de Calcul Formel Magma [3] due a G. Lecerf a un niveau de performance comparable acelui de la suite logicielle Gb-RealSolving developpee en C++ par J.-C. Faugere et F. Rouillier mais estencore loin du niveau de performances de la suite FGb-RS qui lui a succede (tout du moins sur le typede systemes que nous avons ete amenes a etudier).

Enfin, mentionnons que nous avons constate que, en pratique, l’algorithme de resolution geometriquen’a pas en general un bon comportement sur les systemes polynomiaux engendres par la caracterisationalgebrique de points critiques obtenus par le lemme 4. En effet, ces systemes sont sur-determines. Cequ’on constate en pratique c’est que, en general, le maximum des degres δi apparraissant dans l’etudedes varietes intermediaires qui est faite dans le procede de resolution incrementale est superieur au degrede la sortie. Cet algorithme a un bien meilleur comportement sur les systemes issus de la caracterisationlagrangienne des points critiques (voir lemme 5).

Ceci dit, la complexite des algorithmes donnes dans [61, 94] s’exprime en fonction de certains degresgeometriques alors que, pour l’heure, la complexite des calculs de bases de Grobner s’exprime en fonctionde quantites purement algebriques. Dans la suite de ce chapitre, nous allons etudier divers algorithmesfaisant intervenir des objets geometriques dont on va pouvoir evaluer finement le degre. Les resultats decomplexite de [61, 94] permettent d’expliquer, partiellement, pourquoi, en pratique, on constate que tellestrategie est plus efficace que telle autre. Ce qui est remarquable, mais n’est qu’un constat empiriquesur le probleme particulier qui nous interesse, c’est que toute amelioration obtenue par des estimationsde complexite fondes sur les resultats de [61, 94] a une traduction concrete en terme de performancespratiques lorsqu’on utilise des bases de Grobner. Ceci est donc un outil supplementaire pour aiguiller larecherche de procedes geometriques permettant la calcul d’au moins un point par composante connexebien qu’il ne puisse se subsitituer a une validation experimentale des resultats obtenus.

Nous venons de decrire brievement les outils d’elimination algebrique que nous utiliserons pour mettreen œuvre la methode des points critiques. Dans la section suivante, nous montrons comment obtenir unalgorithme calculant au moins un point par composante connexe dans un ensemble algebrique reel etrelevant de la methode des points critiques et dont la complexite est polynomiale en la borne de Bezout.

5.2 Obtenir une complexite polynomiale en la borne de Bezout

5.2.1 L’algorithme

Nous avons vu en introduction que le calcul d’au moins un point par composante connexe dans unehypersurface reelleH∩Rn compacte et lisse peut se faire simplement par le calcul de points critiques d’uneprojection choisie de maniere telle que sa restriction a H admet un lieu critique qui soit zero-dimensionnel(a condition qu’on sache resoudre un systeme d’equations polynomiales zero-dimensionnels).

Ce paragraphe reprend l’algorithme decrit dans [18] qui met en œuvre ce principe et dont la complexiteest polynomiale en la borne de Bezout. Celui-ci prend en entree un systeme d’equations polynomiales dansQ[X1, . . . , Xn] definissant une variete algebrique V ⊂ Cn et retourne une famille finie de parametrisationsrationnelles encodant un ensemble algebrique zero-dimensionnel inclus dans V et ayant une intersectionnon vide avec chaque composante connexe de V ∩Rn. Cet algorithme procede a diverses reductions pourramener le calcul d’au moins un point par composante connexe dans V ∩ Rn au cas d’une hypersurfacelisse dont le lieu reel est compact. Cette reduction se fait en plusieurs etapes.

Tout d’abord, on passe du cas d’un systeme d’equations polynomiales f1 = · · · = fs = 0 au cas d’uneseule equation en considerant le polynome f = f 2

1 + · · · + f2s . L’hypersurface H ⊂ Cn definie par f = 0

dans Cn a un lieu singulier qui contient la variete algebrique definie par f1 = · · · = fs = 0 et est doncen general de dimension positive. De plus, l’ensemble algebrique reel H ∩ Rn n’a aucune raison d’etrecompact.

La reduction au cas d’une hypersurface lisse et compacte se fait en procedant a diverses deformationsde l’hypersurface H pour finir par considerer une hypersurface H′ ⊂ C〈ζ,Ω〉n+1 (ou ζ et Ω sont desinfinitesimaux) telle que :

– H′ est une hypesurface lisse ;– H′ ∩ R〈ζ,Ω〉n est compacte ;

59

Fig. 17 –

– le lieu critique C(π1,H′) de la projection π1 sur X1 restreinte a H′ est zero-dimensionnel ;– les limites (quand les infinitesimaux introduits tendent vers 0) des points obtenus comme projections

de C(π1,H′) sur X1, . . . , Xn ont une intersection non vide avec chaque composante connexe deH ∩ Rn ;

– si F ∈ Q〈ζ,Ω〉[X1, . . . , Xn] est un polynome square-free tel que F = 0 definit H′ alors le systemed’equations polynomiales ci-dessous qui definit C(π1,H′) :

F =∂F

∂X2= · · · = ∂F

∂Xn+1= 0

constitue une base de Grobner pour l’ordre du degre lexicographique X1 < · · · < Xn < Xn+1.Nous decrivons ci-dessous les techniques mises en œuvre pour proceder a une telle reduction.Soit f ∈ Q[X1, . . . , Xn], on note V (f) ⊂ Cn l’hypersurface definie par f = 0. Soit Xn+1 une nouvelle

variable, on poseF1 = f2 + (X2

1 + · · ·+X2n+1 − 1/Ω2)2

ou Ω est un infinitesimal.Il est demontre dans [18] que l’hypersurface V (F1)

⋂R〈1/Ω〉n+1 est contenue dans la boule ouverte de

centre l’origine et de rayon 1/Ω+1 et que l’extension de toute composante semi-algebriquement connexede V (f)

⋂Rn a R〈Ω〉n contient la projection d’une composante de V (F1)

⋂R〈Ω〉n+1 sur R〈Ω〉n.

Ceci est illustre par les figures 17 et 18. On y considere une hyperbole dans un plan et le cylindreconstruit sur cet hyperbole dans l’espace. L’intersection de ce cylindre avec une sphere de rayon suffi-samment grand definit une courbe

– dont chaque composante connexe est compacte d’une part ;– et la donnee d’au moins un point dans celle-ci permet d’obtenir au moins un point par composante

connexe de l’hyperbole en les projetant dans le plan d’autre part.

Le probleme reside maintenant dans le fait que l’hypersurface definie par F1 = 0 est singuliere. Onmontre maintenant comment deformer F1 pour obtenir a la fois une hypersurface H′ lisse et que le lieucritique C(π1,H′) de la restriction de la projection π1 sur X1 a H′ donnee par le lemme 4 constitue unebase de Grobner pour l’ordre du degre lexicographique X1 < · · · < Xn < Xn+1.

On note D le degre total de f et Di (pour i ∈ 1, . . . , n) les degres maximaux des monomes def contenant la variable Xi et on suppose (quitte a renumeroter les variables apparaissant dans f) queD1 > . . . > Dn. On pose alors

F = (1− ζ)F1 + ζ(X2(D1+1)1 + . . .+X2(Dn+1)

n +X6n+1 − (n+ 1)(Ω2(D+1)))

ou ζ est un infinitesimal positif. Il est demontre dans [18, 21] que :

1. L’ensemble V (F )⋂R〈ζ〉n est borne et lisse.

60

Fig. 18 –

2. Les polynomes

F,∂F

∂X2, . . . ,

∂F

∂Xn+1

forment une base de Grobner pour l’ordre du degre lexicographique X1 > . . . > Xn : c’est pourgarantir cette propriete que la deformation faite sur F1 pour obtenir F fait intervenir des degreseleves en les variables X1, . . . , Xn.

Si on note H′ ⊂ C〈ζ,Ω〉 l’hypersurface definie par F = 0 et par π1 la projection sur X1, le systemeci-dessus definit bien le lieu critique C(π1,H′) de π1 restreinte a H′.

3. C(π1,H′) est un nombre fini de points dans C〈ζ,Ω〉n.4. Pour toute composante connexe C de V (f)

⋂Rn, il existe un point x ∈ C(π1,H′) tel que la limite

du projete de x sur X1, . . . , Xn quand , ζ,Ω tendent vers 0 appartienne a C.

Puisque le systeme

F,∂F

X2, . . . ,

∂F

Xn,∂F

Xn+1

est deja une base de Grobner pour l’ordre X1 < · · · < Xn+1, le calcul d’une parametrisation de l’ensemblede ses solutions dans C〈ζ,Ω〉n se reduit a des operations d’algebre lineaire dans l’anneau des polynomesQ(ζ,Ω)[X1, . . . , Xn+1] quotiente par l’ideal engendre par le systeme ci-dessus. Ainsi, on obtient unedescription des points de C sous la forme :

Xn+1 = qn+1(T )q0(T )

Xn = qn(T )q0(T )

...

X1 = q1(T )q0(T )

q(T ) = 0

Ici les polynomes q, q0, q1, . . . , qn, qn+1 sont des polynomes de Q(ζ,Ω)[T ].Obtenir une projection de ces points dans X1, . . . , Xn est alors immediat. Il reste a calculer les

limites des points ainsi definis lorsque les infinitesimaux ζ et Ω tendent vers 0. Cette operation n’est pasimmediate et ne se limite pas a instantier ces ζ et Ω a 0 dans les polynomes q, q0, q1, . . . , qn, d’autantplus que lorsque ces infinitesimaux tendent vers 0, certaines solutions peuvent tendre vers l’infini. Uneprocedure permettant ce calcul est decrite dans [124]. Celle-ci est particulierement couteuse en pratique(son cout est polynomiale en la borne de Bezout). Des ameliorations fondees sur des developpements enseries de Puiseux sont proposees dans [127].

On peut maintenant donner une description complete d’un algorithme de calcul d’au moins un pointpar composante connexe dans une variete algebrique reelle. La complexite theorique de cet algorithmeainsi que son comportement en pratique sont discutes plus loin.

61

Algorithme : Calcul d’au moins un point par composanteconnexe d’une variete algebrique quelconque

(Mise en œuvre de deformations – du a Basu, Pollack etRoy)

– Entree : Un systeme S = (f1, . . . , fs) d’equations polynomialesdans Q[X1, . . . , Xn].

– Sortie : Une liste de parametrisations rationnelles represen-tant au moins un point par composante semi-algebriquementconnexe de V (S).

1. Poser f := f21 + . . .+ f2

s .

2. Introduire une nouvelle variable Xn+1 et poser F1 := f +(X2

1 + . . .+X2n +X2

n+1 − 1/Ω2)2.

3. Poser F := (1− ζ)F + ζ(X2(d1+1)1 + . . .+X

2(dn+1)n +X6

n+1−(n + 1)Ω2(d+1)), ou d1, . . . , dn, dn+1 sont les degres totauxde F1 en X1, . . . , Xn, Xn+1 tels que d1 > . . . > dn+1.

4. Calculer les derivees partielles ∂F∂X1

, . . . , ∂F∂Xn

.

5. Calculer une Representation Univariee Rationnelle a coeffi-cients dans Q(Ω)〈ζ〉 a partir de la base de Grobner

[F,∂F

∂X1, . . . ,

∂F

∂Xn+1]

associee a un element bien separant

6. Retourner les limites des points encodes par cette RURlorsque ζ et Ω tendent vers 0.

5.2.2 Analyse de complexite et comportement en pratique

Soit D le maximum des degres des polynomes f1, . . . , fs donne en entree a l’algorithme ci-dessus. Lepolynome F1 est de degre 2D. Si on suppose que le degre total de chaque variable est D dans F1, lepolynome F est alors de degre 4D. La base de Grobner necessaire au calcul de Representation UnivarieeRationnelle est obtenue immediatement, sans surcout. Le degre de l’ideal engendre par cette base deGrobner est alors systematiquement egale a (4D)(4D − 1)n. En appliquant les resultats de [121, 122], lecalcul de Representations Univariees Rationnelles se fait en O((4D)4(n+1)+(n+1)(4D)2(n+1)) operationsarithmetiques dans Q(ζ,Ω). Dans le pire cas, le surcout arithmetique de l’introduction de ζ et Ω est del’ordre du degre de l’ideal. La complexite de cet algorithme est donc O((4D)6(n+1) + (n+ 1)(4D)4(n+1))operations arithmetiques dans Q. Il n’y a pas de surcout a cette complexite induit par le calcul des limites(lorsque les infinitesimaux introduits tendent vers 0) des racines encodees par les parametrisations.

Considerons maintenant l’hypersurface definie par le polynome dans Q[X1, . . . , Xn] ci-dessous :

n∑

i=1

(

D∏

j=1

(Xi − j))2 = 0.

Ce polynome est de degre 2D et le lieu reel de l’hypersurface qu’il definit est un ensemble de Dn pointsisoles. Ainsi, sur cet exemple, la taille de la sortie est en O(D)n, on peut donc considerer qu’un algorithmesimplement exponentiel pour donner au moins un point par composante semi-algebriquement connexeest optimal , si tant qu’on accepte ce qualificatif pour un algorithme dont la complexite est polynomialeen la taille de la sortie.

De maniere a tester la taille des donnees intermediaires apparaissant au cours d’un tel algorithme,

62

nous avons simule celui-ci en Maple sur le systeme d’equations polynomiales suivant :

x2 + y2 + z2 − 1 = 0xyz − 1 = 0

Notons que ce systeme d’equations est tres simple et que l’algorithme de decomposition cylindriquealgebrique parvient a le resoudre.

Apres les manipulations effectuees par l’algorithme decrit dans le paragraphe precedent, nous obtenonsdirectement une base de Grobner qui permet de deduire facilement le degre de l’ideal qui lui est associe.

Dans le cas precis qui nous interesse, on trouve que ce degre est 16128 ! Nous devons alors en calculerune Representation Univariee Rationnelle. Il est evident que meme sur les entiers, un tel calcul est tropcouteux. Dans le cas present, nous devons effectuer ces calculs dans Q〈Ω, ζ〉, ce qui complique le probleme.Il n’est donc pas etonnant de constater que ce calcul ne passe pas. En posant l’hypothese que pour uneentree de taille plus importante, le temps de calcul est plus important, il apparait clairement que cetalgorithme ne pourra pas donner de bons resultats en pratique. Analysons les etapes bloquantes :

– sur l’exemple ci-dessus, le degre de l’ideal zero-dimensionnel est un facteur bloquant. Soit D unentier qui borne le degre des polynomes du systeme d’entree. Les degres des polynomes P et Qcalcules par l’algorithme sont alors bornes par 2D. En bornant D1 par D, on trouve que le degrede Q1 est borne par 2D(2D + 1). Comme on a rajoute une variable, on trouve que le degre dusysteme zero-dimensionnel produit est toujours de l’ordre de 6(4D)n, ce qui donne sur notreexemple simple 20736. On constate que l’elevation au carre du pas 1 de l’algorithme ainsi que ladeformation du pas 3 sont responsables de la taille de ces systemes zero-dimensionnels. Il est clairque la deformation du pas 3 de l’algorithme engendre une croissance de degre pour se ramener sanscalcul a une base de Grobner.

– Remarquons que meme si on ne considere en entree que des hypersurfaces, cette croissance de degresintervient : le pas 2 de l’algorithme en est responsable. Or, cette deformation est rendue necessairepar l’usage de la fonction de projection : on doit se ramener au cas d’une hypersurface compacte pourqu’elle atteigne ses valeurs critiques sur chacune des composantes semi-algebriquement connexes.

– Supposons que les methodes de resolution des systemes zero-dimensionnels permettent de resoudredes problemes dont la taille est de l’ordre de ce que nous avons obtenu. Notons qu’au pas 2 nousn’avons introduit qu’un seul infinitesimal. En revanche, il est clair que l’hypersurface obtenuecontient une infinite de singularites. Ceci implique – en partie – l’introduction de l’infinitesimal dansle pas 3 de l’algorithme. Nous devrions alors travailler sur une arithmetique a deux infinitesimaux,dont les operations elementaires sont bien plus couteuses que sur les entiers.

Notons enfin que la taille des donnees intermediaires est largement superieure aux bornes donnees dansle chapitre 4 sur le nombre de points critiques restreinte a la variete definie par f1 = . . . = fs = 0 (asupposer qu’il verifie les hypotheses du lemme 5). En particulier, dans le cas quadratique, l’algorithmequ’on vient d’etudier n’est plus polynomial en le nombre de variables.

Pour parvenir a des algorithmes efficaces, on va :– s’autoriser le calcul explicite de bases de Grobner (ou l’usage de routines d’elimination algebrique)

sans chercher a le contourner en procedant a des deformations. Par exemple, dans ce cas, le pas 3de l’algorithme donne dans ce paragraphe peut etre substitue par l’etude du polynome F := F1− ζqui definit une hypersurface lisse.Ceci presente l’avantage d’eviter la croissance de degre induit par ce pas d’une part et n’impose pasun degre systematiquement egale a la borne de Bezout, ce qui nous laisse une chance d’etre efficace.De plus, notons que l’on garde un algorithme simplement exponentiel en le nombre de variables siles calculs de points critiques qu’on effectue induisent la resolution de systemes zero-dimensionnels.

– On n’est pas pour autant sorti d’affaire : rien n’indique que le systeme caracterisant les pointscritiques de la projection sur X1 est zero-dimensionnel. En revanche, si on sait prouver que pourun choix generique de projection 11 ceci est verifie, on aura en pratique un bon algorithme (il n’enreste pas moins vrai qu’en theorie, eviter a coup sur un Zariski ferme de degre δ dans Cn coute δn

operations).On s’autorisera donc a faire dependre nos algorithmes de choix generiques (lorsqu’on est capablede verifier qu’ils sont bons), si tant est qu’en pratique un choix aleatoire s’avere correct.

11par generique, on entend ici que tout mauvais choix est inclus dans un ferme de Zariski

63

Fig. 19 – Points critiques de la fonction distance

– Pour eviter la croissance de degre induite par les pas 1 et 2 ainsi que l’introduction de singularitesdans un probleme qui initialement n’en avait pas, lorsque c’est possible, on evitera de :– se ramener au cas d’une hypersurface en considerant la somme des carres des polynomes donnes

en entree ;– se ramener au cas compact en considerant l’intersection de la variete etudiee avec une hyperboule

de rayon infiniment grand.Concernant ce dernier point, ceci implique de contourner l’hypothese de compacite sous-jacentea toutes les presentations de la methode des points critiques qu’on a faites jusqu’ici. Pour cefaire, on peut penser a utiliser des fonctions polynomiales qui associent a un point le carre deleur distance euclidienne a un autre point fixe.

5.3 Gestion recursive des chutes de rang dans les jacobiennes : Utilisationde fonctions distance a un point

Dans cette section, on contourne les problemes de compacite en utilisant des calculs de points critiquesd’une fonction associant a 4x ∈ Cn le carre de sa distance euclidienne a un point A ∈ Qn. En effet, etantdonnee une variete algebrique V ∩ Cn, et un point A ∈ Qn il est evident que pour tout r ∈ R positif,ϕ−1A (r)∩V ∩Rn est compact ce qui implique que la fonction ϕA est propre. Ainsi, grace a la proposition

16, on sait que ϕA atteint ses extrema sur chaque composante connexe de V ∩ Rn. Cette “astuce” quiconsiste a considerer une fonction distance au lieu d’une fonction de projection permet ainsi de contournerles problemes lies a l’eventuelle non-compacite de V ∩ Rn.

Elle ne nous dit pas pour autant comment on peut ramener le calcul d’au moins un point par compo-sante connexe dans V ∩Rn a la resolution de systemes polynomiaux de dimension zero. Deux problemesdoivent etre traıtes :

– garantir le fait que le lieu critique de la restriction de ϕA a V est de dimension zero lorsque V estlisse et equi-dimensionnelle et definie par un systeme de generateurs de l’ideal associe a V .

– gerer les eventuelles chutes de rang dans la matrice jacobienne associee a la famille de polynomesdonnes en entree et qui empechent de caracteriser le lieu critique de ϕA restreinte a la varietealgebrique definie par le systeme donne en entree.

Si (f1, . . . , fs) est une famille de polynomes dans Q[X1, . . . , Xn], on note V (f1, . . . , fs) ⊂ Cn la varietealgebrique definie par le systeme d’equations polynomiales :

f1 = . . . = fs = 0

et I = 〈f1, . . . , fs〉 l’ideal de Q[X1, . . . , Xn] engendre par cette famille de polynomes.

Etudions l’hypersurface definie par :

x2 − y2z2 + z3 = 0

64

En choisissant le point A = (1, 2, 3), et en appliquant le lemme 4, on obtient le systeme suivant :

x2 − y2z2 + z3 = 02xy − 4x+ 2yz2x− 2yz2 = 0−2yz3 + 3yz2 + 2y3z − 4y2z + 6z2 = 02xz − 6x+ 2y2zx− 2y2z − 3z2x+ 3z2 = 0

Ce systeme engendre un ideal de dimension 1 et de degre 1. Il contient l’ensemble des singularites del’hypersurface :

z = 0x = 0

qui est de dimension strictement inferieure a celle de l’hypersurface. Par ailleurs, si on effectue unedecomposition equi-dimensionnelle de l’ideal engendre par le systeme ci-dessus, on obtient en plusde l’ensemble des singularites l’ensemble zero-dimensionnel de degre 15 suivant (decrit par une base deGrobner lexicographique) :

[539874645296773716536*x-39839127175867630680*z^14+260049173095318667844*z^13_-884921439347428617838*z^12+2414399437859835603983*z^11-4771899358920125195011*z^10_+8283482329976699035988*z^9-12872743263308720090611*z^8+15505786773229787670694*z^7_-19023151261274065285721*z^6+18783137710413180764674*z^5-16986020208942639225855*z^4_+14131205028453874920861*z^3-9633445431890516371496*z^2+3592788596130230624144*z-405065429115903549440,1079749290593547433072*y+388877953166856734616*z^14-2397740566245773583420*z^13_+7890499280542295357694*z^12-21332674545641238916613*z^11+40663369954490144719245*z^10__-71089561335448363909184*z^9+108592493361350014231477*z^8-127906837049701883884902*z^7_+162372795006716365235491*z^6-146027326440241785868030*z^5+145598671015416598891205*z^4_-104163140703335157603823*z^3+78046304238082718642172*z^2-21183387336544914881680*z_+2220860460588957124576,36*z^15-228*z^14+769*z^13-2108*z^12+4136*z^11-7323*z^10+11386*z^9-13908*z^8+17600*z^7_-16778*z^6+16529*z^5-12732*z^4+9480*z^3-3639*z^2+852*z-80]

On voit sur cet exemple qu’en caracterisant les points critiques de la fonction distance a un pointarbitrairement choisi, sur une variete algebrique definie par un ensemble fini de polynomes, on est ramenea l’etude d’une sous-variete de dimension inferieure (l’ensemble des singularites de la variete). C’est cetteidee que l’on retrouve anterieurement dans [39] qu’on peut tenter de mettre en œuvre.

Notation. Soit S = f1, . . . , fs un ensemble de polynomes dans Q[X1, . . . , Xn] tel que V = V (S) estune variete de dimension d. Etant donne un point A ∈ Cn, on definit l’ensemble algebrique suivant :

C(V,A) = M ∈ V | rang(gradM (f1), . . . ,gradM (fs),AM 6 n− d)

La construction et l’etude de C(V,A) n’a d’interet que si :– C(V,A) intersecte chaque composante semi-algebriquement connexe de V

⋂Rn,

– C(V,A) est strictement incluse dans V et en particulier qu’elle soit de dimension strictement infe-rieure a celle de V .

Sous ces conditions, il apparaıt clairement que nous pourrons obtenir un algorithme calculant au moinsun point par composante semi-algebriquement connexe de V

⋂Rn. Malheureusement, les conditions ci-

dessus ne sont pas vraies en general, comme le montrent les exemples ci-dessous.– Exemple 1 : Considerons la variete algebrique V definie par

f = (x2 + y2 − 1)2 = 0

Il est aise de s’apercevoir que quelque soit le point A choisi la variete algebrique definie par

f(M) = 0, AM//gradM (f)

est de dimension 1. En effet, l’ensemble des points qui verifient :

f(M) = 0 gradM (f) = 0

est egal a V . Notons que dans ce cas l’ideal 〈P 〉 n’est pas radical.Enfin, remarquons que l’ensemble des singularites de V est vide.

65

– Exemple 2 : Le cas des ideaux radicaux n’est pas exempt de difficultes lui aussi. Considerons lavariete algebrique V definie par

f1 = (X2

1 +X22 − 1)(X1 − 2) = 0

f2 = (X1 − 2)X3 = 0

L’ensemble V⋂R3 est la reunion du plan defini par l’equation X1 = 2 et du cercle defini par les

equations X21 + X2

2 − 1 = 0 et X3 = 0. Il est facile de constater que chaque point du cercle estregulier et verifie

rang

([3X1

2 − 4X1 + X22 − 1 2X2 (X1 − 2) 0

X3 0 X1 − 2

])= 2 .

Ainsi, C(V,A) n’intersecte pas chaque composante semi-algebriquement connexe de V⋂

Rn puis-qu’il ne peut contenir aucun point du cercle.

Dans l’exemple 2 ci-dessus, V est composee de composantes irreductibles de dimensions differentes.Les points critiques de la fonction distance qui ne se trouvent pas dans la composante principale dedimension d ne se trouveront donc pas dans C(V,A) puisque ces tels points qui ne sont pas singuliersverifient :

rang(gradM (f1), . . . ,gradM (fs),AM) > n− d.Par ailleurs, soit M ∈ V tel que :

dim(gradM (f1), . . . ,gradM (fs)) < n− d.

On a alors M ∈ C(V,A). Ceci arrive en particulier lorsque M est un point singulier d’une composanteirreductible de dimension d dans V .

Notation. Soit V une variete algebrique de dimension d, f1, . . . , fs une famille de polynomes dansQ[X1, . . . , Xn] tel que I(V ) = 〈f1, . . . , fs〉. On note Sing(V ) la variete :

Sing(V ) = M ∈ V | rang(gradM (f1), . . . ,gradM (fs)) < n− d.

Theoreme 20. Soit V une variete algebrique equi-dimensionnelle de dimension d et f1, . . . , fs ⊂Q[X1, . . . , Xn] tel que I(V ) = 〈f1, . . . , fs〉.

Il existe D un entier positif suffisamment grand, tel qu’il existe au moins un point A dans 1, . . . , Dnverifiant :

1. C(V,A) intersecte chaque composante semi-algebriquement connexe de V⋂

Rn,

2. C(V,A) = Sing(V )⋃V0, ou V0 est un ensemble fini de points dans Cn.

De plus, dim(C(V,A)) < dim(V ).

Remarque. D’apres la preuve du theoreme 20 ci-dessus, un point A choisi au hasard est tel quedim(C(V,A)) < dim(V ) avec une probabilite un.

Soit V une variete equi-dimensionnelle. Etant donnee une famille de generateurs de I(V ) on peutchoisir un point A et calculer C(V,A) tel que dim(C(V,A)) < dim(V ). D’apres le theoreme 20, unedecomposition equi-dimensionnelle de C(V,A) donne une composante zero-dimensionnelle V0 et plusieursautres composantes equi-dimensionnelles de dimension positive. On peut alors appliquer le theoreme 20a chacune de ces composantes.

L’algorithme que nous proposons consiste a appliquer pas a pas le processus decrit ci-dessus encalculant a chaque etape des decompositions equi-dimensionnelles des varietes intermediaires obtenues.A la fin, nous obtenons un ensemble de systemes zero-dimensionnels contenant au moins un point parcomposante semi-algebriquement connexe dans la variete V

⋂Rn.

Notation. Pour A ∈ Cn, Q = Q1, . . . , Qs ⊂ Q[X1, . . . , Xn]s, et d ∈ N , 0 6 d < n, on definit

∆A,d(Q) comme etant l’ensemble de tous les mineurs d’ordre (n− d+ 1, n− d+ 1) de la matrice

[[∂Qi∂Xj

]

(i=1,...,n,j=1,...,s)

|AM

]

66

D’apres les resultats ci-dessus, les routines de base necessaires pour l’implantation d’un tel algorithmequi calcule cet ensemble de systemes zero-dimensionnels sont les suivantes :

– EquiDim : prend en entree un systeme d’equations polynomiales S et retourne une liste de systemesde generateurs Pd, . . . ,P0 engendrant des ideaux radicaux et equi-dimensionnels, tels que V (S) =V (Pd)

⋃. . .⋃V (P0).

– Dim : prend en entree un systeme de generateurs d’un ideal et calcule la dimension de la varieteassociee,

– Minors : prend en entree une famille finie de polynomes Q, un entier d et un point A, et calcule∆Q,d,A(Q)).

Nous obtenons l’algorithme ci-dessous.

Algorithme

– Entree : Un systeme S ⊂ Q[X1, . . . , Xn] d’equations polyno-miales.

– Sortie : Une liste de systemes zero-dimensionnels tel que l’en-semble de leurs solutions est inclus dans V (S) et contient aumoins un point par composante semi-algebriquement connexede V (S)

⋂Rn.

1. list := EquiDim(S), result := [],

2. Choisir un point A dans Kn.

3. Tant que list 6= ∅ faire– S := first(list), poser d := Dim(S) et enlever S de list,– Si d = 0 alors result := result

⋃S,

– Sinon– (*) Q = Minors(S, d,A)

⋃S

– u = Dim(Q)– Si u = d choisir un autre point A et aller au pas (*).– list := list

⋃EquiDim(Q)

4. Retourner result.

La premiere etape de l’algorithme precedent consiste a calculer des familles de generateurs de chaquecomposante equi-dimensionnelle du radical de l’ideal engendre par les polynomes donnes en entree. Ona vu qu’en pratique cette famille de generateurs est une base de Grobner.

Soit G ⊂ Q[X1, . . . , Xn] une telle base de Grobner contenant s polynomes et engendrant un idealequi-dimensionnel et radical de dimension d. D’apres les resultats ci-dessus, le nombre de determinantsqui sont calcules par l’algorithme donne dans le paragraphe precedent est

(s

n− d

)(n

n− d+ 1

).

Il est clair qu’un tel facteur combinatoire n’a que peu d’incidences dans le cas des hypersurfaces (s = 1et n − d = 1), mais il devient limitant sur des problemes significatifs, de co-dimension plus grande que1. Surtout, le nombre de polynomes s dans G peut devenir suffisamment grand pour que le calcul detous les mineurs de jacobienne devienne non negligeable en terme de temps de calcul. Les ameliorationsdecrites ci-dessous ont donc pour but de faciliter la resolution de ces cas.

Dans le premier paragraphe de cette section, nous allons montrer comment, en donnant un peu plusde proprietes a G, nous allons pouvoir en extraire une famille de n− d polynomes representant presquetous les points de V (G) et permettant de ne calculer que d determinants. Nous verrons en particulierque cette famille est un ensemble triangulaire de polynomes.

Dans le deuxieme paragraphe de cette section, nous montrons comment les optimisations s’appliquentaux decompositions en ideaux premiers. Puis, nous montrons comment ces decompositions permettent :

– de reduire considerablement la taille de la sortie de nos algorithmes,

67

– d’eviter des calculs intuiles et donc de reduire les temps de calcul.En effet en travaillant sur des composantes irreductibles, on evite l’etude des points qui appartiennent al’intersection de deux de ces composantes.

L’apport des ensembles triangulaires. Soit G ⊂ Q[X1, . . . , Xn] une base de Grobner lexico-graphique reduite engendrant un ideal radical equi-dimensionnel de dimension d pour l’ordre X1 <. . . < Xn. Pour p ∈ Q[X1, . . . , Xn], on note mvar(p) (variable principale de p) la plus grande variableapparaissant dans p pour l’ordre X1 < . . . < Xn.

Soit T = (td+1, . . . , tn) un ensemble triangulaire extrait de G tel que :– ∀g ∈ G il existe i ∈ d+ 1, . . . , n verifiant

– (i) mvar(ti) = mvar(g),– (ii) deg(ti,mvar(ti)) 6 deg(g,mvar(ti)),

– ∀i ∈ d + 1, . . . , n il n’existe pas de polynomes g ∈ G de meme variable principale que ti et demonome dominant inferieur a celui de ti pour l’ordre lexicographique.

Notons qu’un tel ensemble triangulaire est unique. On note ExtractTriangular une routine qui prenden entree une base de Grobner lexicographique reduite et qui retourne l’ensemble triangulaire extrait dela base d’entree et verifiant les proprietes ci-dessus.

Dans la suite, on suppose que la base de Grobner lexicographique reduite G est telle que :– l’ensemble triangulaire T ⊂ G extrait de G par ExtractTriangular est regulier et separable,– sat(T ) = 〈G〉.

Notons que de telles suppositions impliquent que 〈G〉 est equi-dimensionnel car il est sature d’un ensembletriangulaire regulier, et que 〈G〉 est un ideal radical car il est sature d’ensemble triangulaire T separable.

Soit M = (x1, . . . , xn), A un point de Qn, d = dim(V (G)), et considerons pour j = 1, . . . , d la listedes mineurs d’ordre (n− d+ 1) extraite de ∆A,d(T ) :

ΓA(T ) = Γ(j)A (T ) = det(M(j)

A ), j = 1, . . . , d

ou

M(j)A =

[∂ti∂Xj

]

i=d+1,...,nXj − aj

UT =[∂ti∂Xk

]i=d+1,...,n

k=d+1,...,n

Xd+1 − ad+1

...Xn − an

Sans nuire a la generalite, on peut supposer que mvar(ti) = Xi, ce qui rend les mineurs Γ(j)A (T ) faciles

a calculer puisque UT est triangulaire superieure. Nous allons montrer que nous pouvons substituer lecalcul de ∆A,d(G) par celui de ΓA(T ) dans notre algorithme :

Proposition 25. Soit G une base de Grobner lexicographique reduite et T un ensemble triangulaireverifiant les hypotheses ci-dessus. Soit D(V (G), A) = V (G)⋂V (ΓA(T )), d = dim(G) et Sep(T ) =∏ni=d+1

∂tiXi

. Si A est un point de Qn tel que dim(C(V (G), A)) < dim(V (G)) alors on a :– C(V (G), A) ⊂ D(V (G), A),– (D(V (G), A) \ V (Sep(T ))) ⊂ V0,– dim (D(V (G), A)

⋂V (Sep(T ))) < dim(V (G)).

En particulier, dim(D(V (G), A)) < dim(V (G)) et D(V (G), A) s’intersecte avec toute composante connexede V (G).

Ainsi, dans les hypotheses ou la proposition ci-dessus s’applique, seuls d determinants doivent etrecalcules pour caracteriser D(V (G, A)). L’algorithme induit requiert ainsi une routine ayant plus de pro-prietes qu’une decomposition equi-dimensionnelle. En effet, il n’est pas toujours possible d’extraire unensemble triangulaire T regulier et separable d’une base de Grobner lexicographique reduite G telle quesat(T ) = 〈G〉. Pour s’en convaincre il suffit de considerer l’exemple 〈x, yz〉 pour l’ordre x < y < z.

On note LexTriSetEquiDim une routine qui prend en entree un systeme d’equations polynomialesS et qui retourne un ensemble de bases de Grobner lexicographiques reduites G1, . . . ,Gm telles que pourtout i ∈ 1, . . . ,m :

– Ti := ExtractTriangular(Gi) est un ensemble triangulaire regulier et separable ;

68

– sat(Ti) = Gi ;– V (S) = V (G1)

⋃. . .⋃V (Gm).

Remarque. Une maniere de concevoir une telle routine est d’implanter les algorithmes decrits dans [105,9] et dont les sorties sont des ensembles triangulaires reguliers et separables puis de calculer les saturesde ces ensembles triangulaires. Bien evidemment, ce n’est pas forcement la maniere la plus judicieuse.

Nous obtenons l’algorithme ci-dessous.

Algorithme : Calcul d’au moins un point par composanteconnexe d’une variete algebrique reelle quelconque

(Utilisation de fonctions distances)

– Entree : Un systeme S ⊂ Q[X1, . . . , Xn] d’equations polyno-miales.

– Sortie : Une liste de systemes zero-dimensionnels tel que l’en-semble de leurs solutions est inclus dans V (S) et contient aumoins un point par composante semi-algebriquement connexede V (S)

⋂Rn.

1. list := LexTriSetEquiDim(S), result := [],

2. Choisir un point A dans Qn.

3. Tant que list 6= ∅ faire– S := first(list), et enlever S de list, poser d = Dim(S),– Si d = 0 alors result := result

⋃S,

– Sinon– T = ExtractTriangular(S).– (*) Q = ΓA(T )

⋃S et poser u = Dim(Q)

– Si u = d choisir un autre point A et aller au pas (*).– list := list

⋃LexTriSetEquiDim(Q),

4. Retourner result.

Une fois les determinants calcules, une etape d’elimination algebrique supplementaire est necessaire.Afin de rendre ces calculs plus faciles, on peut reduire modulo l’ensemble triangulaire les determinantscalcules a l’etape (*) de l’algorithme.

Notons prem(p, q,X) le pseudo-reste classique de deux polynomes p et q par rapport a la variable X.Si p ∈ Q[X1, . . . , Xn], sa forme reduite prem(p, T ) peut etre calculee par la procedure recursive suivante :

– si T = ∅, alors prem(p, T ) = p.– sinon, si Xi est la plus grande variable apparaissant dans un polynome t ∈ T ,

prem(p, T ) = prem(prem(p, t,Xi), T \ t).

En particulier, ceci implique qu’il existe des polynomes qd+1, . . . qn et des entiers positifs id+1, . . . , in telsque :

prem(p, T ) = qd+1td+1 + . . .+ qntn + hid+1

d+1 . . . hinn p.

Ainsi, V (G)⋂V (prem(p, T )) = V (G)

⋂(V (p) ∪ V (hd+1 . . . hn)). Par consequent, on a :

dim(V (G)⋂V (p)) < dim(V (G)) =⇒ dim(V (G)

⋂V (prem(p, T )) < dim(V (G)).

Implantations et performances pratiques. Les premieres implantations de cet algorithme datentde [127]. Elles ont a l’epoque permis de resoudre des problemes inatteignables par la decompositioncylindrique algebrique ainsi que les variantes precedentes de la methode des points critiques.

Les problemes qu’on rencontre dans cet algorithme sont les suivants :

69

– l’etat de l’art concernant les calculs de decomposition equi-dimensionnelle rend difficile les appelsrecursifs etudiant les lieux singuliers de lieux singuliers et ainsi de suite : en effet, ces lieux sontsouvent definis par des systemes polynomiaux non radicaux et non equi-dimensionnels qui sont descas sur lesquels les bases de Grobner ont un comportement moins bon.

– Meme lorsque ces calculs sont accessibles, le fait de calculer des points critiques a partir de poly-nomes obtenus par une routine d’elimination algebrique rend difficile l’obtention de bonnes perfor-mances pratiques : en effet, ces polynomes sont souvent tres denses comparativement a ceux donnesen entree et de haut degre.

– Enfin, les calculs de points critiques d’applications polynomiales qui sont des carres de distanceeuclidienne est plus delicat que ceux de fonctions de projection par exemple.

5.4 Gestion recursive des chutes de rang dans les jacobiennes : Utilisationde fonctions de projection

En effet, quelques experimentations montrent qu’etant donne un systeme de generateurs de l’idealassocie a une variete algebrique V ⊂ Cn, le calcul de points critiques d’une projection sur une droiterestreinte a V est beaucoup moins couteux que le calcul de points critiques d’une fonction distancerestreinte a la meme variete algebrique V .

Notre objectif est donc maintenant de calculer au moins un point par composante connexe sur unevariete algebrique reelle en n’effectuant que des calculs de points critiques de projections. Pour ce faire,on opere en construisant recursivement des sous-varietes dans la variete etudiee tout en assurant unechute de dimension a chaque etape de l’algorithme. Ce procede est evidemment inspire de celui expliquedans le pararaphe precedent. La gestion des chutes de rang dans les jacobiennes se fait d’ailleurs demaniere tout a fait similaire.

Soit V ⊂ Cn une variete algebrique de dimension d et Π : V → Cd une projection dominante. Alorsd’apres le theoreme sur la dimension des fibres [139, Ch. 1.6], Π a des fibres generiques de dimension0. Dans ce cas, l’ensemble des points de Cd en lesquels Π n’est pas propre est une hypersurface [73] ;on notera PΠ un polynome sans facteurs carres definissant ce lieu de non-proprete. Le premier resultatci-dessous montre comment PΠ peut etre utilise pour obtenir au moins un point par composante connexede V ∩ Rn.

Theoreme 21. Soit V ⊂ Cn une variete algebrique equi-dimensionnelle de dimension d. Soit Π laprojection

Π : Cn → Cd

(x1, . . . , xn) 7→ (x1, . . . , xd).

Supposons que la restriction de Π a V est dominante et soit PΠ comme ci-dessus. Soit C une composanteconnexe de V ∩ Rn, telle que C ne contienne aucun point singulier de V , et aucun point critique de larestriction de Π a V .

Alors, il existe une composante connexe de l’ensemble semi-algebrique defini par PΠ 6= 0 qui estcontenue dans Π(C).

En consequence, etant donnee une variete algebrique V ⊂ Cn et une projection Π satisfaisant leshypotheses du theoreme 21, les composantes connexes de V ∩ Rn peuvent etre detectees en :

– calculant les lieux critiques et singuliers de la restriction de Π a V ;– calculer au moins un point par composante connexe du semi-algebrique defini par PΠ 6= 0 ; et

l’intersection de V avec les fibres de Π prises en ces points.La mise en œuvre algorithmique de ce resultat est fondee sur des calculs d’ensembles triangulaires

reguliers, separables, fortement normalises. Les resultats qui suivent montrent en effet qu’ils offent uncadre agreable dans notre contexte. Le point fondamental qui rend possible l’obtention d’un algorithmeest prouve dans [95] : si (f1, . . . , fs) est une famille de polynomes, il existe une famille d’ensemblestriangulaires reguliers separables fortement normalises T1, . . . , T` telle qu’on a :

V (f1, . . . , fs) = ∪`i=1W (Ti).

Ainsi, on peut concentrer notre etude sur le cas des varietes donnes comme etant des clotures de quasi-composantes associees a des ensembles triangulaires reguliers separables fortement normalises.

Le theoreme ci-dessous est la traduction du theoreme 21 dans ce contexte.

70

Theoreme 22. Soit T ⊂ Q[X1, . . . , Xn] un ensemble triangulaire fortement normalise dont on supposeque les variables transcendantes sont X1, . . . , Xd. Soit Π la projection

Π : Cn → Cd

(x1, . . . , xn) 7→ (x1, . . . , xd)

s et h le produit de, respectivement, l’ensemble des separants et des initiaux de T . Soit W (T ) la cloturede Zariski de W (T ) et C une composante connexe de W (T ) ∩ Rn. Si C ∩ V (s) est vide, alors il existeune composante connexe de l’ensemble semi-algebrique defini dans Rd par h 6= 0 qui est contenue dansΠ(C).

Ce theoreme constitue la charpente de l’algorithme que nous presentons dans ce paragraphe. Etantdonnee une famille de polynomes f1, . . . , fs dans Q[X1, . . . , Xn], on commence par calculer une decom-position en ensembles triangulaires fortement normalises de la variete algebrique V ⊂ Cn definie par

f1 = · · · = fs = 0.

Puis on applique le theoreme 22 a chacun des ensembles triangulaires obtenus. Soit T un tel ensembletriangulaire. On reprend les notations du theoreme 22. Les composantes connexes de la cloture de W (T )sont atteintes

– soit en etudiant l’intersection de W (T ) obtenue le produit des separants de T ,– soit en etudiant l’hypersurface definie par les initiaux de l’ensemble triangulaire considere : pour

cette derniere etude on doit calculer au moins un point par composante connexe dans le semi-algebrique defini par h 6= 0 dans Rd.

Algorithme principal. On decrit maintenant l’algorithme obtenue a partir des resultats ci-dessus.Etant donnee un ensemble de polynomes (f1, . . . , fs) ⊂ Q[X1, . . . , Xn], on commence par decomposer lavariete algebrique definie par :

f1 = · · · = fs = 0

ou chaque composante obtenue est decrite comme etant des quasi-composantes d’ensembles triangulairesnormalises (T1, . . . , T`).

Pour chacun de ces ensembles triangulaires T on effectue les operations suivantes :– si T definit un ensemble fini de points, en calculer une parametrisation rationnelle et retourner

cette parametrisation sinon ;– trouver une projection dominante Π en identifiant les variables transcendentes de T ;– calculer un ensemble de generateurs de W (T ) ∩ V (s), ou s est le the produit des separants de T ,

et appeller recursivement l’algorithme a cette famille de polynomes ;– calculer au moins un point par composante connexe de l’ensemble semi-algebrique defini par h 6= 0,

ou h est le produit des initiaux de T , et appeler recursivement l’algorithme sur les fibres de Π prisesau-dessus de ces points.

Remarquons qu’on peut obtenir au moins un point par composante connexe de l’ensemble semi-algebrique defini par h 6= 0 en calculant une decomposition cylindrique algebrique partielle [38].

Theoreme 23. L’algorithme ci-dessous s’arrete. Il retourne une famille de systemes zero-dimensionnelsdont le lieu des solutions reelles a une intersection non vide avec chaque composante connexe de l’en-semble algebrique reel V (f1, . . . , fs) ∩ Rn.

La preuve d’arret de cet algorithme est une consequence du resultat ci-dessous.

Lemme 6. Soit T ⊂ Q[X1, . . . , Xn] un ensemble triangulaire regulier separable, Π la projection surle sous-espace affine contenant les axes de coordonnees des variables transcendantes de T et y un pointdans ce sous-espace. Alors la dimension de W (T ) ∩Π−1(y) est inferieure a celle de W (T ).

Lemme 7. Soit T ⊂ Q[X1, . . . , Xn] un ensemble triangulaire regulier separable, Π la projection sur lesous-espace affine contenant les axes de coordonnees des variables transcendantes de T et s le produitdes separants des polynomes de T . Alors la dimension de W (T ) ∩ V (s) est inferieure a celle de W (T ).

Pour decrire notre algorithme, on suppose qu’on dispose des routines de calcul suivantes :

71

– TriangularDecompose : qui prend en entree une famille de polynomes F dans Q[X1, . . . , Xn] defi-nissant une variete algebrique V ⊂ Cn et retournent une famille de couples (Gi, Ti) | i = 1, . . . , ptelle que :– pour tout i = 1, . . . , p, Ti est un ensemble triangulaire regulier separable et fortement normalise ;– pour tout i = 1, . . . , p, Gi est un ensemble fini de polynomes ;– V est la reunion des V (Gi) pour i = 1, . . . , p ;– pour tout i = 1, . . . , p, V (Gi) est egale a la cloture de Zariski de W (Ti).En pratique les Gi sont bien evidemment des bases de Grobner.

– Parameterization : qui prend en entree un ensemble de polynomes engendrant un ideal zero-dimensionnel et renvoie une parametrisation rationnelle de l’ensemble de ses solutions.

– Initials et Separants : qui prennent en entree un ensemble triangulaire regulier separable etfortement normalise et retournent respectivement le produit des initiaux et separants de l’ensembletriangulaire donne en entree.

– Sampling : qui prend en entree un polynome h ∈ Q[X1, . . . , Xn] et retourne une famille de pa-rametrisations rationnelles encodant au moins un point par composante connexe dans l’ensemblesemi-algebrique defini par h 6= 0. Notons que l’algorithme de decomposition cylindrique algebriquedecrit dans le chapitre 3 permet d’obtenir une implantation de cette routine.

Des resultats ci-dessus, on deduit l’algorithme suivant.

Algorithme : Calcul d’au moins un point par composanteconnexe d’une variete algebrique reelle quelconque

(Utilisation de fonctions de projections)

– Entree : Une famille (f1, . . . , fs) ⊂ Q[X1, . . . , Xn] de poly-nomes definissant une variete algebrique V ⊂ Cn.

– Sortie : Une famille de parametrisations rationnelles encodantun nombre fini de points de V et ayant une intersection nonvide avec chaque composante connexe de V ∩ Rn.

1. Poser F = TriangularDecompose([f1, . . . , fs]) et sols := []

2. Pour tout C dans F faire

(a) Si le premier element G de C engendre un ideal de di-mension zero alors poser

sols := sols ∪ Parameterization(G)

(b) sinon soit T le second element de C et faire

i. poser s := Separants(T ) et h = Initials(T )

ii. poser points := Sampling(h) et pour tout point

dans points faire

sols := sols ∪ Parameterization(G ∪ point)

iii. Faire l’union de sols et des parametrisations ra-tionnelles retournees par l’appel recursif de l’algo-rithme avec comme entree G ∪ s.

3. Retourner sols

Les premieres implantations de cet algorithme ont rapidement remplace dans [128] celles de l’algo-rithme donne dans le paragraphe precedent. En effet, l’impact en pratique du passage aux fonctions deprojection est extremement rentable. Cet algorithme s’est aussi montre particulierement efficace sur lesexemples de grande co-dimension : en effet, dans ce cas, l’essentiel du calcul est concentre sur le calculdu premier appel a TriangularDecompose puisqu’a chaque appel recursif on a garanti que la dimensionde l’objet traıte chute de un.

72

Ceci dit, il souffre des memes difficultes que le precedent : en effet, en travaillant recursivement sur desdonnees obtenues comme le resultat d’un calcul d’elimination algebrique on atteint facilement les limitesde ce qui est realisable en machines. De plus, comme precedemment on ne sait pas borner correctement lataille des quantites apparaissant en cours de calculs : en effet, on est amene a calculer des representationsde lieux singuliers puis de lieux singuliers de lieux singuliers et ainsi de suite. On n’a donc pas moyende donner en toute generalite une estimation de la complexite des donnees geometriques apparaissant encours de calcul qui soit simplement exponentiel en le nombre de variables. C’est tres insatisfaisant.

Plus grave encore, l’usage de la decomposition cylindrique algebrique pour implanter la routine Sam-

pling fait parfois exploser le nombre de points retournes par l’algorithme. Ceci est evidemment le faitde la complexite doublement exponentielle de cet algorithme.

Enfin, le procede de resolution geometrique lui-meme est perfectible : en calculant des lieux critiquesde lieux critiques et ainsi de suite, on peut montrer qu’on fait apparaıtre generiquement des singularitesen cours d’algorithme d’une part et que d’autre part ce procede recursif induit une croissance de degrequi n’est pas souhaitable.

Ainsi, meme si l’usage de fonctions de projection a permis de gagner en efficacite, il est clair que celuiqui en est fait dans l’algorithme presente dans ce paragraphe peut etre ameliore.

5.5 Le cas des varietes algebriques lisses

Dans un premier temps, on concentre notre etude dans les cas ou la variete algebrique definie par lesysteme d’equations donne en entree est lisse et equi-dimensionnelle. On s’appuie alors sur la caracteri-sation des points critiques donnes dans le lemme 4. Le cas non-equi-dimensionnel est ensuite etudie ens’appuyant sur la caracterisation lagrangienne des points critiques du lemme 5.

5.5.1 Le cas equi-dimensionnel lisse

Notations. Soit f1, . . . , fs des polynomes de Q[X1, . . . , Xn], V le lieu complexe de leurs zeros communset d la dimension de V . On suppose dans ce paragraphe que f1, . . . , fs definissent un ideal radical et queV est equi-dimensionnelle et lisse.

Pour i dans 1, . . . , d, on note πi la projection canonique

Cn → Ci

(x1, . . . , xn) 7→ (x1, . . . , xi).

We denote by πi its restriction to a map Rn → Ri et par J la matrice jacobienne associee a f1, . . . , fs :

J =

∂f1∂Xn

· · · ∂f1∂X1

......

∂fs

∂Xn· · · ∂fs

∂X1

.

On decrit maintenant les lieux critiques de π1, . . . , πd restreints a V a l’aide des mineurs de cette matrice(on est bien dans le cadre d’application du lemme 4).

Tout d’abord, pour i = d + 1, on definit ∆n−d comme etant l’ideal 〈f1, . . . , fs〉. Puis pour i =1, . . . , d, ∆n−i+1 est l’ideal engendre par f1, . . . , fs et tous les mineurs de taille n− d dans J construits apartir des colonnes 1, . . . , n− i (c’est-a-dire en utilisant les derivees partielles par rapport aux variablesXi+1, . . . , Xn). Remarquons que ∆n−i+1 est engendre par

Si :=

(s

n− d

)(n− in− d

)

mineurs. La i-eme variete polaire C(πi, V ) Wn−i+1 est alors definie comme etant la variete algebriqueassociee a ∆n−i+1 ; en particulier, on pose Wn−d = V .

Puisque l’ideal 〈f1, . . . , fs〉 est radical et que V est lisse et equi-dimensionnelle, on sais d’apres lelemme 4 que Wn−i+1 est en fait le lieu critique C(πi, V ) de la restriction de πi a V , pour i 6 d. Apreschangement generique lineaire de variables, on verra qu’on s’attend a ce que C(πi, V ) (ou encore Wn−i+1)soit de co-dimension n− i+ 1 pour tout i.

73

Fig. 20 –

Changements de variables. Pour f ∈ Q[X1, . . . , Xn] et A ∈ GLn(C), f(AX) est le polynomeobtenu en appliquant le changement de variables induit par A sur f . Par souci de simplicite on ecriraaussi fA = f(AX).

Pour i ∈ 1, . . . , d+1, l’ideal ∆An−i+1 est defini par les polynomes fA

1 , . . . , fAs et tous les mineurs de

taille n− d a partir des n− i premieres colonnes de leur matrice jacobienne. La variete polaire associeea cet ideal est notee WA

n−i+1 et est egale au lieu critique C(πi, VA).

Resultats geometriques. Comme on l’a deja evoque precedemment, l’usage de fonctions de projectiondans la methode des points critiques est delicat des lors qu’on ne dispose pas d’une hypothese de compacitesur l’ensemble algebrique reel qu’on est en train d’etudier. Nous avions deja illustre cet etat de fait avecl’hyperbole. Dans le paragraphe suivant, nous avions montre comment en considerant des lieux de non-proprete on pouvait neanmoins obtenir des avancees. Ceci dit, comme nous l’avons explique a la fin duparagraphe precedent, au lieu de considerer une succession de lieux critiques

C(πd, V ), . . . ,C(πi, V ), . . . ,C(π1, V )

nous considerions des lieux critiques de lieux critiques et ainsi de suite ce qui n’est pas satisfaisant.Pour obtenir un algorithme resolument plus efficace, nous allons etudier les images des composantes

connexes de V ∩Rn par les projections πi (pour i allant de d a 1). Pour etudier ces images, nous auronsbesoin d’assurer des proprietes de proprete.

Plus precisement, on va s’interesser aux proprietes de proprete des projections πi restreintes a lafamille de varietes polaires que nous avons exhibe. De telles proprietes ne peuvent etre systematiquementgaranties : pour s’en convaincre il suffit de considerer la projection sur x restreinte a l’hyperbole definiepar xy − 1 = 0. En revanche, si on fait un changement de variables on obtient des situations ou :

– soit les deux composantes connexes de l’hyperbole se projettent sur l’axe des abscisses tout entier(voir figure 22) ;

– soit les deux composantes connexes de l’hyperbole se projettent sur deux intervalles fermes pour latopologie euclidienne (voir figure 21).

Ainsi, pour garantir que les diverses images par les projections πi des composantes connexes de V ∩Rn sontfermees pour la topologie euclidienne, on va effectuer des changements de variable permettant d’assurerdes propriete de proprete aux projections πi restreintes a notre famille de varietes polaires.

On notera P(A) l’assertion suivante : pour i ∈ 1, . . . , d + 1, la restriction de πi−1 a WAn−i+1 est

propre.

Proposition 26. Soit C une composante connexe de V ∩ Rn. Pour i dans 1, . . . , d, la frontiere deπi(C) ⊂ Ri est incluse dans πi(Wn−i+1 ∩ C) si P(Idn) est satisfaite.

Pour pouvoir appliquer le resultat ci-dessus, il nous faut garantir maintenant que pour un choixgenerique de changement de variable A ∈ GLn(Q), l’assertion P(A) est satisfaite. C’est ce qu’affirme leresultat ci-dessous.

74

Fig. 21 –

Fig. 22 –

75

Theoreme 24. Il existe un ouvert de Zariski non vide Γ dans GLn(C) tel que pour A dans Γ, P(A) estsatisfaite.

Sous cette condition de genericite, le theoreme ci-dessous permet de calculer au moins un point parcomposante connexe de V ∩ Rn. En effet, si la matrice A du Theorem 25 ci-dessous est dans GLn(Q),alors les composantes connexes de V A ∩ Rn sont en bijection triviale avec celles de V ∩ Rn.

Remarque. La preuve du theoreme 24 se trouve dans [132] et est faite dans un formalisme alge-brique pour pouvoir faire une analyse de complexite sur la base des theoremes 18 et 19. Ce resultatne peut etre assimile a une application aveugle de la mise en position de Nœther. En effet, effectuer unchangement de variable generique pour mettre en position de Nœther Wn−i modifie les varietes polairesWn−i+1, . . . ,Wn−d.

Nous pouvons maintenant donner le resultat geometrique principal sur lequel est fonde l’algorithmedecrit dans ce paragraphe.

Theoreme 25. Soit A ∈ GLn(R) telle que P(A) est satisfaite. Soit pd = (x1, . . . , xd) un point arbitrai-rement choisi dans Rd. Pour j ∈ 1, . . . , d− 1, on note pj = (x1, . . . , xj) ∈ Ri. Pour j = 0, on pose parconvention π−1

0 (p0) = Cn.Alors, les ensembles algebriques WA

n−j∩π−1j (pj), pour j ∈ 0, . . . , d, sont soit vides soit de dimension

zero. Leur reunion rencontre chaque composante connexe de V A ∩ Rn.

Au final, l’algorithme que nous obtenons consiste a choisir aleatoirement une matrice A ∈ GLn(Q) eta calculer des parametrisations rationnelles des ensembles algebriquesWA

n−j∩π−1j (pj), pour j ∈ 0, . . . , d

qui sont soit vides soit de dimension zero.Dans la suite, on considere les routines suivantes :– Parameterization : qui prend en entree un ensemble de polynomes engendrant un ideal zero-

dimensionnel et renvoie une parametrisation rationnelle de l’ensemble de ses solutions.– Dimension : qui prend en entree une famille de polynomes et retourne la dimension de l’ideal

engendre par cette famille.– Minors : qui prend en entree une famille de polynomes F , la dimension d de l’ideal engendre par F

et un polynome p et retourne l’ensemble des mineurs obtenus par le lemme 4 pour caracteriser lespoints critiques de l’application polynomiale x ∈ Cn → p(x) ∈ C restreinte a la variete algebriquedefinie par F .

pour decrire notre algorithme.

76

Algorithme : Calcul d’au moins un point par composanteconnexe d’une variete algebrique equi-dimensionnelle

lisse donnee par un systeme engendrant un ideal radical

– Entree : Une famille (f1, . . . , fs) ⊂ Q[X1, . . . , Xn] de poly-nomes engendrant un ideal radical definissant une variete alge-brique V ⊂ Cn lisse et equi-dimensionnelle.

– Sortie : Une famille de parametrisations rationnelles encodantun nombre fini de points de V et ayant une intersection nonvide avec chaque composante connexe de V ∩ Rn.

1. Choisir A aleatoirement dans GLn(Q) et poser F :=[fA

1 , . . . , fAs ]

2. Poser d := Dimension(F )

3. Poser ∆ := Minors([fA1 , . . . , f

As ], d,X1)

4. Poser sols := Parameterization(F ∪∆)

5. Pour i allant de 2 a d faire

(a) Poser F := F ∪Xi−1, d := d−1 et ∆ := Minors(F, d−1, Xi)

(b) Poser sols := Parameterization(F ∪∆)

6. Retourner sols ∪ Parameterization(F ∪Xd)

Resultat de complexite. Dans le cas ou la routine ZeroDimSolve consiste a utiliser l’algorithme deresolution geometrique donne par G. Lecerf et dont la complexite est donnee dans le theoreme 18, onpeut proceder a l’analyse de complexite de cet algorithme.

To state our complexity result, we need to define an important algebraic quantity associated tof1, . . . , fs, denoted by δ. To this effect, we describe more precisely the systems defining the polar varieties.

Soit A une matrice de GLn(C). Rappelons qu’on note Si le nombre de mineurs necessaires pourdefinir l’ideal ∆A

n−i+1, 1 6 i 6 d+ 1. Pour i = 1, . . . , d+ 1, on note MAi,1, . . . ,M

A

i,Sila suite ordonnee de

ces mineurs. D’apres la definition des ideaux ∆An−i+1, on peut supposer que ces suites sont ordonnees de

maniere telle que MAi,1, . . . ,M

A

i,Siest un prefixe de MA

j,1, . . . ,MA

j,Sjpour i > j. Ainsi, MA

1,1, . . . ,MA

1,S1est

la plus longue de ces suites.Considerons maintenant la suite

GA = fA

1 , . . . , fA

s ,MA

1,1, . . . ,MA

1,S1.

Etant donnee une sous-suite prefixe G de la precedente GA, on definit la quantite δAG comme etant lasomme des degres algebriques des composantes irreductibles de la variete definie par G. On definit δA

comme etant le maximum de tous les δAG , et δ comme le maximum de tous les δA pour A dans GLn(Q)telle que P(A) est satisfaite.

Si f1, . . . , fs sont de degre bornes par D, alors δ is est borne par n(D(n − d))n [94, page 4]. Desexperimentations montrent que cette borne est atteinte si s = n− d et tous les fi sont effectivement dedegre D et choisis generiquement parmi les polynomes en n variables de degre D.

On peut maintenant donner le resultat de complexite. On note U(x) le nombre d’operations necessairesa la multipliation de polynomes de degre x. La notation f ∈ Olog (x) signifie f ∈ O(x log(x)a), pour uneconstante a.

Theoreme 26. Soit f1, . . . , fs des polynomes de degre borne par D dans Q[X1, . . . , Xn], donnes parun programme d’evaluation de longueur L. Supposons que 〈f1, . . . , fs〉 est un ideal radical, et equi-dimensionnel et que la variete algebrique V = V (f1, . . . , fs) ⊂ Cn est lisse et de dimension d.

Il existe un algorithme probabiliste calculant une famille de resolutions geometriques dont la reuniondes solutions reelles a une intersection non vide avec chaque composante connexe de V ∩Rn. La complexite

77

de cet algorithme est en

Olog

(Ln10S1(s+ S1)U (D(n− d)δ)3

)

operations arithmetiques.

Remarquons qu’en un sens cette borne de complexite n’est pas tres satisfaisante. En effet, d’apres letheoreme 15 dans le cas ou f1, . . . , fs constitue une suite reguliere, le nombre de points critiques de laprojection sur un axe restreint a V est borne par

(n

n− s

)Ds(D − 1)n−s

ce qui est bien inferieur aux bornes sur le degre donnees dans le theoreme 26. Ceci provient du faitque l’algorithme de resolution geometrique de Lecerf etant incremental, il est peu adapte aux systemessur-determines qui sont caracteristiques des caracterisations algebriques de lieux critiques fondes sur lelemme 4. Dans le paragraphe ci-apres on montre comment generaliser cet algorithme au cas non equi-dimensionnel d’une part mais aussi obtenir des bornes de complexite qui soient dominees par la taille dela sortie dans le pire cas.

Utilisation des Bases de Grobner et performances pratiques. Implanter cet algorithme enutilisant des bases de Grobner a un interet certain des qu’on prend quelques precautions. L’interetdes bases de Grobner ici provient evidemment d’une meilleure gestion de la sur-determination qui estspecifique des systemes algebriques que nous manipulons et qui definissent les points critiques qu’oncherche a calculer. Parmi les precautions a prendre, il faut veiller a :

– ne pas faire explicitement les changements de variable : en effet, dans notre algorithme faire unchangement de variables generiques et choisir des projections generiques (dans le systeme de coor-donnees initial) sont des operations strictement equivalentes.

– l’usage des bases de Grobner permet de certifier le choix des projections de maniere a assurerles proprietes de proprete de nos projections associees a la famille de varietes polaires que nousconsiderons : en effet, celles-ci sont liees a la presence de zero a l’infini dans des espaces projectifs ;les bases de Grobner permettant le calcul de clotures projectives, elles deviennent aussi dans cecadre un outil de certification.

Les implantations de cet algorithme dans les cas lisses et equi-dimensionnels ont permis deja de resoudrede nombreux problemes qui etaient hors de portee des algorithmes qui ont deja ete exposes dans cechapitre.

Voyons maintenant comment on peut generaliser cette approche au cas non equi-dimensionnel.

5.5.2 Le cas non equi-dimensionnel lisse

Comme precedemment, etant donne une variete algebrique V ⊂ Cn de dimension d, on note πi (pouri dans 1, . . . , d) la projection canonique :

Πi : Cn −→ Ci

(x1, . . . , xn) 7→ (x1, . . . , xi)

et Wn−(i−1)(V ) le lieu critique de la restriction de πi a V , c’est-a-dire l’union des points critiquesdes restrictions de πi a chaque composante equi-dimensionnelle de V . On a evidemment :

Wn(V ) ⊂Wn−1(V ) ⊂ . . . ⊂Wn−d+1(V ) ⊂Wn−d(V )

Une maniere naıve d’utiliser les resultats du paragraphe precedent consiste a calculer une famille degenerateurs des ideaux associes a chaque composante equi-dimensionnelle de V et a appliquer l’algorithmedu paragraphe precedent a chacune de ces familles. En pratique, ces familles de generateurs serontdes bases de Grobner. On serait alors confronte aux memes problemes que ceux rencontres dans lesalgorithmes presentes dans les paragraphes 5.3 et 5.4 : le nombre de polynomes ainsi que leur degre etleur densite rend delicat le calcul des points critiques des projections considerees restreintes aux varietesdefinies par ces bases de Grobner. Tant que faire se peut, il nous faut travailler avec les polynomes dedepart et eviter d’avoir a travailler avec le resultat d’un calcul d’elimination algebrique. Pour ce faire, ona recours a la caracterisation lagrangienne des points critiques exhibees dans le lemme 5.

78

Lemme 8. Soit (f1, . . . , fs) une famille de polynomes dans Q[X1, . . . , Xn]. On suppose qu’elle engendre

un ideal radical de dimension d et qu’elle definit une variete algebrique lisse V ⊂ Cn. Etant donne un point(p1, . . . , pd) dans Qd, on considere le systeme d’equations polynomiales dans Q[`1, . . . , `s, X1, . . . , Xn] :

f1 = · · · = fs = 0,X1 − p1 = · · · = Xi − pi = 0

`1∂f1∂Xi+1

+ · · ·+ `s∂fs

∂Xi+1= 1

`1∂f1∂Xi+2

+ · · ·+ `s∂fs

∂Xi+2= 0

...

`1∂f1∂Xn

+ · · ·+ `s∂fs

∂Xn= 0

(2)

La projection de ses solutions complexes sur X1, . . . , Xn est Π−1i (p1, . . . , pi) ∩Wn−i(V ).

Lemme 9. Soit V ⊂ Cn une variete algebrique lisse definie par s polynomes f1, . . . , fs de Q[X1, . . . , Xn]

engendrant un ideal radical. Etant donnee A ∈ GLn(Q), considerons IA0 ⊂ Q[`1, . . . , `s, X1, . . . , Xn]l’ideal engendre par le systeme ci-dessous :

fA1 = · · · = fA

s = 0

`1∂fA

1

∂X1+ · · ·+ `s

∂fA

s

∂X1= 1

`1∂fA

1

∂X2+ · · ·+ `s

∂fA

s

∂X2= 0

...

`1∂fA

1

∂Xn+ · · ·+ `s

∂fA

s

∂Xn= 0

Il existe un ferme de Zariski H ( GLn(C) tel que si A /∈ H, IA0 est radical et l’ideal d’eliminationIA0 ∩Q[X1, . . . , Xn] est zero-dimensionnel ou egale a 〈1〉.

On suppose de plus que f1, . . . , fs est une suite reguliere. Alors, il existe un ferme de Zariski H′ (

GLn(C) tel que si A /∈ H′, l’ideal IA0 est radical et est soit zero-dimensionnel ou egale a 〈1〉.

Etant donnee une famille de polynomes (f1, . . . , fs) ⊂ Q[X1, . . . , Xn], d la dimension de l’ideal

〈f1, . . . , fs〉, A ∈ GLn(Q), et p = (p1, . . . , pd) un point de Qd on note IA,pi (pour i ∈ 1, . . . , d − 1)l’ideal de Q[X1, . . . , Xn, `1, . . . , `k] engendre par :

fA1 = · · · = fA

s = 0,X1 − p1 = 0, . . . , Xi − pi = 0

`1∂fA

1

∂Xi+1+ · · ·+ `1

∂fA

s

∂Xi+1= 1

`1∂fA

1

∂Xi+2+ · · ·+ `1

∂fA

s

∂Xi+2= 0

...

`1∂fA

1

∂Xn+ · · ·+ `1

∂fA

s

∂Xn= 0

et IA,pd l’ideal de Q[X1, . . . , Xn, `1, . . . , `k] engendre par fA1 = · · · = fA

s = X1 − p1 = · · · = Xd − pd = 0.

Enfin on note IA,p0 l’ideal engendre par :

fA1 = · · · = fA

s = 0,

`1∂fA

1

∂X1+ · · ·+ `1

∂fA

s

∂X1= 1

`1∂fA

1

∂X2+ · · ·+ `1

∂fA

s

∂X2= 0

...

`1∂fA

1

∂Xn+ · · ·+ `1

∂fA

s

∂Xn= 0

C’est le resultat ci-dessous qui nous permet de generaliser l’algorithme du paragraphe precedent aucas non equi-dimensionnel.

79

Theoreme 27. Soit (f1, . . . , fs) ⊂ Q[X1, . . . , Xn] une famille de polynomes qui engendre un ideal radicalet definit une variete algebrique lisse de dimension d. Il existe un ferme de Zariski H ( GLn(Q) et unehypersurface P ( Cd tels que si A /∈ H et p ∈ Qd \ P,

– les ideaux IA,pi (pour tout i ∈ 0, . . . , d) sont radicaux ;

– les ideaux IA,pi ∩ Q[X1, . . . , Xn] (pour tout i ∈ 0, . . . , d) sont soit zero-dimensionnels soit egauxa 〈1〉 ;

– l’ensemble de leurs racines reelles a une intersection non vide avec chaque composante equi-dimen-sionnelle de V ∩ Rn.

D’apres le resultat ci-dessus, apres un choix generique de A ∈ GLn(Q), les ideaux d’eliminationIAi ∩ Q[X1, . . . , Xn] sont soit zero-dimensionnels soit egaux a 〈1〉 et permettent d’obtenir au moins unpoint par composante connexe de V ∩ Rn.

Remarquons que le resultat ci-dessus permet d’obtenir des bornes sur le nombre de composantesconnexes d’une variete algebrique reelle lisse en appliquant les resultats du paragraphe 4.4 du chapitre4 et qui sont meilleures que celles qui sont obtenues classiquement (voir [21]) ou en bornant a l’aide dutheoreme de Bezout les sorties des algorithmes presentes dans les paragraphes precedents.

Theoreme 28. Soit (f1, . . . , fs) ⊂ Q[X1, . . . , Xn] (avec s 6 n−1) une famille de polynomes engendrantun ideal radical et definissant une variete algebrique lisse V ⊂ Cn de dimension d. On note D1, . . . , Ds

les degres respectifs de f1, . . . , fs et D le maximum de D1, . . . , Ds. Le nombre de composantes connexesde V ∩ Rn est borne par :

D1 · · ·Ds

d∑

i=0

(D − 1)n−s−i(

n− in− i− s

)

De plus, si (f1, . . . , fs) est une suite reguliere, le nombre de composantes connexes de V ∩ Rn estborne par :

D1 · · ·Ds

n−s∑

i=0

(D − 1)n−s−i(n− 1− in− i− s

)

Enfin, remarquons que dans le cas ou D 6 2, la sortie de notre algorithme est polynomiale en lenombre de variables et exponentielle en le nombre d’equations.

L’algorithme. Soit p = (p1, . . . , pd) un point de Qd. L’algorithme fonde sur le theoreme 27 consiste achoisir aleatoirement une matrice A ∈ GLn(Q) et

– a resoudre les systemes polynomiaux engendrant les ideaux IAi (pour i = 1, . . . , d− 1) :

fA1 = · · · = fA

s = 0,X1 − p1 = 0, · · · , Xi − pi = 0

`1∂fA

1

∂Xi+1+ · · ·+ `1

∂fA

s

∂Xi+1= 1

`1∂fA

1

∂Xi+2+ · · ·+ `1

∂fA

s

∂Xi+2= 0

...

`1∂fA

1

∂Xn+ · · ·+ `1

∂fA

s

∂Xn= 0

– resoudre le systeme

fA1 = · · · = fA

s = 0,

`1∂fA

1

∂X1+ · · ·+ `s

∂fA

s

∂X1= 1

`1∂fA

1

∂X2+ · · ·+ `s

∂fA

s

∂X2= 0

...

`1∂fA

1

∂Xn+ · · ·+ `s

∂fA

s

∂Xn= 0

engendrant l’ideal IA0 ;– et enfin resoudre le systeme ci-dessous fA

1 = · · · = fAs = X1 − p1 = · · · = Xd − pd = 0 engendrant

l’ideal IAd .

80

Remarquons qu’ici les systemes polynomiaux qu’on cherche a resoudre engendrent des ideaux IAi ⊂

Q[X1, . . . , Xn, `1, . . . , `s] de dimension positive dont les intersections avec Q[X1, . . . , Xn] sont de dimen-

sion zero ou triviale. Evidemment, ce qu’on cherche a calculer est l’intersection IAi ∩Q[X1, . . . , Xn].

En theorie, ceci se fait aisement a l’aide des bases de Grobner si on utilise un ordre monomial d’eli-mination [`1, . . . , `s] > [X1, . . . , Xn]. Une fois ce calcul effectue, le calcul de parametrisations rationnellesdes solutions des ideaux zero-dimensionnels obtenus se fait classiquement.

Pour ce qui est de l’usage de la resolution geometrique, il est suffisant de calculer des parametrisationsrationnelles de points generiques obtenus dans chaque composante equi-dimensionnelle Cp de dimensionp du lieu-solution de IAi (ces points sont obtenus en intersectant Cp avec p formes lineaires generiquesde Q[X1, . . . , Xn, `1, . . . , `k]. Ceci est equivalent a :

– effectuer un changement lineaire de variables generique B ⊂ GLn+s(Q) envoyant le vecteur decoordonnees [X1, . . . , Xn, `1, . . . , `s] sur un nouveau vecteur de coordonnees [v1, . . . , vn+s]

– calculer une parametrisation rationnelle (q, q0, q1, . . . , qn+s) de l’intersection de chaque composanteequi-dimensionnelle Cp de dimension p de l’ensemble des solutions complexes de IA

i et du sous-espace lineaire defini par v1 = · · · = vp = 0

– calculer une parametrisation rationnelle de l’ensemble des solutions de IAi ∩ Q[X1, . . . , Xn] en

multipliant B−1 par l vecteur (q1/q0, . . . , qn+s/q0) et en retournant les n premieres coordonnee survecteur obtenu.

Une fois ce calcul effectue, on obtient des parametrisations rationnelles d’au moins un point parcomposante connexe de V ∩Rn exprimees dans le systemes de coordonnees induit par le changement devariables associe a A. Obtenir des parametrisations rationnelles dans le systeme de coordonnees initialse fait alors simplement en multipliant par A−1 les parametrisations precedemment calculees.

Pour decrire l’algorithme que nous avons obtenus, nous considerons donc les routines ci-dessous :– Lagrange : qui prend en entree une famille de polynomes F et un polynome p et retourne le systeme

de Lagrange caracterisant les points critiques de l’application x ∈ Cn → p(x) ∈ C restreinte a lavariete algebrique definie par F , conformement au lemme 5 ;

– EliminateSolve : qui prend en entree une famille de polynomes F dans Q[X,L] et une liste devariables L et retourne un systeme de generateurs de l’ideal 〈F 〉 ∩Q[X].

81

Algorithme : Calcul d’au moins un point parcomposante connexe d’une variete algebrique lissedonnee par un systeme engendrant un ideal radical

– Entree : Une famille (f1, . . . , fs) ⊂ Q[X1, . . . , Xn] de poly-nomes engendrant un ideal radical definissant une variete alge-brique V ⊂ Cn lisse.

– Sortie : Une famille de parametrisations rationnelles encodantun nombre fini de points de V et ayant une intersection nonvide avec chaque composante connexe de V ∩ Rn.

1. Choisir A aleatoirement dans GLn(Q) et poser F :=[fA

1 , . . . , fAs ]

2. Poser d := Dimension(F )

3. Poser ∆ := Lagrange([fA1 , . . . , f

As ], X1) et affecter a L :=

[`1, . . . , `s] (les variables introduites par Lagrange.

4. Poser sols := Parameterization(EliminateSolve(∆,L))

5. Pour i allant de 2 a d faire

(a) Poser F := F ∪Xi−1, d := d− 1 et

∆ := Lagrange(F,Xi)

et affecter a L := [`1, . . . , `s+i−1] (les variables intro-duites par Lagrange.

(b) Poser

sols := Parameterization(EliminateSolve(∆,L))

6. Retourner sols ∪ Parameterization(F ∪Xd)

La complexite de cet algorithme depend evidemment de la complexite de la routine d’eliminationalgebrique utilisee pour obtenir EliminateSolve.

Penchons-nous tout d’abord sur l’usage des bases de Grobner. Tout d’abord les astuces permet-tant d’eviter les changements explicites de variables decrites dans le paragraphe precedent doivent etreutilisees. Comme on manipule des ideaux de dimension positive, sans informations algebriques supple-mentaires sur les systemes engendrant IAi (telle que la regularite ou la semi-regularite, voir [16]), laregularite de Hilbert [23] ne peut pas etre bornee de maniere satisfaisante. Ainsi, en l’etat actuel desconnaissances sur le sujet, on ne peut pas donner de bornes meilleures que celles qui sont doublementexponentielles en le nombre de variables [102] pour estimer la complexite de notre algorithme quand onl’implante en utilisant des bases de Grobner. Ceci dit, il faut plus voir les commentaires ci-dessus commele constat d’un non-resultat que comme un resultat. Les experimentations pratiques que nous avons effec-tuees montrent clairement que les bases de Grobner n’ont pas un comportement doublement exponentielen le nombre de variables sur les systemes de Lagrange que nous avons eu a considerer. En pratique,il est en general encore preferable d’utiliser les bases de Grobner pour resoudre ce type de systemesalgebriques. Ceci dit, les meilleures performances pratiques sont obtenues en imposant (par localisation)des conditions de rang sur la matrice jacobienne associee a la famille de polynomes donnee en entreeapres avoir effectue une decomposition equi-dimensionnelle. Ainsi, si G est une base de Grobner d’unecomposante equi-dimensionnelle de dimension p de l’ideal IA

i , on utilise la caracterisation des points cri-tiques qu’on cherche a calculer du lemme 5 en faisant comme si la famille (f1, . . . , fs) engendrait 〈G〉 demaniere a obtenir une famille de mineurs de jacobienne D. Puis, il suffit de calculer une base de Grobnerde 〈G〉 + 〈D〉. C’est cette strategie qui est, en l’etat actuel des connaissances et des implantations, laplus efficace. Elle permet de resoudre des problemes tres largement non atteignables par les methodesprecedemment decrites.

82

Les resultats de complexite sur les calculs de resolution geometrique permettent en revanche de donnerune estimation de complexite de l’algorithme decrit dans ce paragraphe qui soit interessante.

Dans la suite, on note gA1 le polynome `1∂fA

1

∂X1+ · · · + `s

∂fA

s

∂X1− 1 et on note gi le polynome `1

∂fA

1

∂Xi+

· · ·+ `s∂fA

s

∂Xi(pour i = 2, . . . , n).

D’apres le theoreme 27 et le corollaire 3, le maximum des degres algebriques des composantes irre-ductibles des varietes i8ntermediaires definies par fA

1 , . . . , fAi (pour 1 6 i 6 s) et fA

1 , . . . , fAs , g

A1 , . . . , g

Ai

(pour 1 6 i 6 n) est borne par Ds(D − 1)n−s(nn−s

).

Le systeme definissant IA0 a n+ s variables et contient n+ s polynomes.De plus, etant donne un programme d’evaluation de longueur L du systeme (f1, . . . , fs), on obtient

un programme d’evaluation du systeme definissant IA0 de longueur O((L+ n2)) en utilisant les resultats

de [22].Cette discussion permet d’enoncer le resultat ci-dessous :

Theoreme 29. Soit (f1, . . . , fs) une famille de polynomes de Q[X1, . . . , Xn] engendrant un ideal radicalet definissant une variete algebrique lisse V ⊂ Cn. On note D le maximum des degres de fi (pouri = 1, . . . , s) et L la longueur d’un programme d’evaluation du systeme (f1, . . . , fs). Il existe un algorithmeprobabiliste calculant au moins un point par composante connexe de V ∩ Rn en :

Olog ((n+ s)5((n+ s)(L+ n2) + (n+ s)3)M(Dd)3)

operations dans Q ou d bornee par Ds(D − 1)n−s(nn−s

).

Remarque. Remarquons que lorsque (f1, . . . , fs) est une suite reguliere, d est borne par

Ds(D − 1)n−s(n− 1

n− s

).

De plus, dans le cas ou D 6 2, on obtient un algorithme de complexite polynomiale en le nombre devariables et exponentiel en le nombre d’equations sans modifications partiaculieres. On trouve deja detels algorithmes dans [63, 64] mais ils souffrent des memes defauts que celui expose dans le paragraphe5.2 de ce chapitre et ont des constantes de complexite bien plus elevees que celles que nous obtenons.

Nous disposons maintenant d’algorithmes efficaces pour calculer au moins un point par composanteconnexe dans une variete algebrique reelle donnee par une famille de polynomes engendrant un idealradical et definissant une variete algebrique lisse. Il nous faut maintenant nous pencher sur les cas oudes chutes de rang apparaissent dans les matrices jacobiennes associees aux polynomes donnes en entree.Nous avons deja etudie ces cas dans les paragraphes 5.3 et 5.4 et explique les limites des algorithmesqui y sont decrits. Les avancees obtenues dans le cas des varietes non equi-dimensionnelles sont fondeessur la volonte d’eviter au maximum d’avoir a relancer recursivement nos algorithmes sur des sorties deroutines d’elimination algebrique. C’est cette volonte qu’on poursuit dans les cas ou des chutes de rangapparaissent dans les jacobiennes en revisitant les strategies de deformation infinitesimale avec un soucid’efficacite pratique.

5.6 Le cas des hypersurfaces singulieres

Ce paragraphe est consacre a l’elaboration d’un algorithme efficace de calcul d’au moins un point parcomposante connexe dans une variete algebrique definie par une equation f = 0 (avec f ∈ Q[X1, . . . , Xn])dans le cas ou l’hypersurface H ⊂ Cn definie par f = 0 contient une infinite de points singuliers. Pource faire, on ramene le probleme au calcul de limites de points critiques d’une application polynomialerestreinte a l’hypersurface definie par f − ε = 0 (lorsque ε tend vers 0). En effet, cette derniere est lisseet donc on peut appliquer les caracterisations algebriques des lemmes 4 et 5. La difficulte reside dans lefait que pour obtenir un algorithme efficace en pratique, on doit eviter d’effectuer nos calculs dans Q(ε)ou sur Q〈ε〉 ce qu’implique l’introduction explicite de cet infinitesimal.

5.6.1 Calcul de limites de points critiques

Soit f un polynome dans Q[X1, . . . , Xn] de degre borne par D. Pour t ∈ Q, on note Ht ⊂ Cn

l’hypersurface definie par f − t = 0.

83

Fig. 23 – Limites de points critiques

Soit ϕ : x ∈ Cn → ϕ(x) ∈ C une application polynomiale. Pour t ∈ Q, on note C(ϕ,Ht) le lieucritique de la restriction de ϕ a Ht. Le resultat suivant caracterise les limites bornees de C(ϕ,Ht) quandt tend vers 0.

Theoreme 30. Soit L une nouvelle variable, et I ⊂ Q[L,X1, . . . , Xn] l’ideal engendre par la famille depolynomes :

L.∂f

∂X1− ∂ϕ

∂X1, . . . , L.

∂f

∂Xn− ∂ϕ

∂Xn

Supposons que I soit de dimension 1, et que C(ϕ,H0) soit de dimension au plus zero.Alors, l’ensemble des limites bornees de C(ϕ,Ht) quand t tend vers 0 est contenu dans la variete

algebrique associee a l’ideal

I0 = 〈f〉+ (I ∩Q[X1, . . . , Xn]) ⊂ Q[X1, . . . , Xn]

et I0 est de dimension 0 au plus. .

Remarque. Le resultat ci-dessus n’est vraiment utile que si H0 n’est pas lisse puisque, dans ce cas,l’ensemble des limites bornees de C(ϕ,Ht) quand t→ 0 peut contenir strictement C(ϕ,H0).

La figure 23 illustre bien le phenomene sous-jacent au theoreme 30. On y a trace le cusp ainsi que lacourbe definie par I et sa projection sur (X,Y ) (ici ϕ est la projection sur la droite horizontale vivantdans le plan ou le cusp est defini). Les points de C(ϕ,Ht) verifient :

f − t = 0, Lgrad(f) = grad(ϕ)

Lorsque ces points tendent vers le point singulier du cusp, L tend vers l’infini.

Remarque. Chaque hypothese du theoreme 30 est importante, en particulier celle qui impose a C(ϕ,H0)d’etre au plus de dimension zero. En effet, si on considere l’hypersurface definie par xy = 0, et que ϕ estla projection sur x, le theoreme tombe en defaut (pour tout t 6= 0, C(ϕ,Ht) = ∅).

Le corollaire ci-dessous montre qu’on controle bien le degre des objets geometriques introduits par letheoreme 30.

Corollaire 4. Soit D un entier qui borne le degre de f et celui de ϕ. En utilisant les notations introduitesci-dessus, le degre de

√I est borne par n(D − 1)n−1 et le degre de

√I0 est borne par n.D.(D − 1)n−1.

Algorithme utilisant des bases de Grobner. Des resultats classiques sur les bases de Grobner(voir [42, Chapitre 9]) montrent comment mettre en œuvre facilement le resultat ci-dessus. Il s’agitfinalement d’eliminer la variable L dans l’ideal I en utilisant, par exemple, un ordre par bloc DRL avec[L] > [X1, . . . , Xn] puis d’ajouter a la base de Grobner obtenue le polynome f .

84

Algorithme utilisant la resolution geometrique. L’algorithme de de calcul de resolutions geo-metriques (voir [94]) ne permet pas a priori de calculer des ideaux d’elimination. Neanmoins, il estpossible de calculer la cloture de Zariski de l’ensemble constructible defini par un systeme d’equations etd’inequations polynomiales. Remarquons que l’ideal

I = 〈L. ∂f∂X1

− ∂ϕ

∂X1, . . . , L.

∂f

∂Xn− ∂ϕ

∂Xn〉 ∩Q[X1, . . . , Xn]

contient l’ideal J engendre par l’ensemble ∆ de tous les mineurs (2, 2) de la matrice jacobienne associee aJac(f, ϕ). Soit P un ideal premier associe a

√J qui ne soit pas associe a

√I et y un point generique dans

la variete algebrique associee a P. Remarquons que si il existe i ∈ 1, . . . , n tel que ∂f∂Xi

(y) 6= 0, alors yappartient a la courbe associee a I ∩Q[X1, . . . , Xn] ce qui n’est pas possible d’apres nos hypotheses.

Ainsi, pour calculer une resolution geometrique de la variete algebrique associee a I ∩Q[X1, . . . , Xn]il est suffisant de saturer J par une somme aleatoire des derivees partielles de f

b1∂f

∂X1+ · · ·+ bn

∂f

∂Xn.

Ce4ci peut se faire en donnant en entree a l’algorithme de resolution geometrique le systeme :

∆, b1∂f

∂X1+ · · ·+ bn

∂f

∂Xn6= 0

ou les bi sont choisis aleatoirement dans Q.Une autre strategie consiste a calculer pour i = 1, . . . , n des resolutions gemetriques des systemes

∆,∂f

∂Xi6= 0

5.6.2 Algorithmes

On etudie maintenant les diverses manieres d’utiliser les resultats ci-dessus pour obtenir des algo-rithmes permettant de calculer au moins un point par composante connexe dans un ensemble algebriquereel defini par une equation polynomiale f = 0 (avec f ∈ Q[X1, . . . , Xn]) dans le cas ou l’hypersurfaceH0 ⊂ Cn definie par f = 0 est singuliere.

La strategie consiste a utiliser le theoreme 30 et la methode des points critiques mise en œuvre soit enconsiderant une fonction“distance a un point” (comme dans [124, 11, 14]) soit des fonctions de projection(comme dans [133, 132, 12]).

Utilisation des fonctions distance. Etant donne un point A = (a1, . . . , an) dans Qn, soit ϕA l’ap-plication polynomiale qui envoie y ∈ Cn sur le carre de la fonction distance au point A :

ϕA : Cn → C

(x1, . . . , xn) → (x1 − a1)2 + · · ·+ (xn − an)2

Le theoreme ci-dessous montre qu’en calculant les limites de points critiques de la fonction distancea un point A choisi generiquement dans Cn comme suggere par le theoreme 30, on obtient au moins unpoint par composante connexe dans H0 ∩ Rn.

Theoreme 31. Il existe un ferme de Zariski A ( Cn tel que pour A = (a1, . . . , an) ∈ Qn \ A la varietealgebrique associee a l’ideal

〈f〉+(〈L. ∂f

∂X1− (X1 − a1), . . . , L.

∂f

∂Xn− (Xn − an)〉 ∩Q[X1, . . . , Xn]

)

(ou L est une nouvelle variable) est de dimension au plus zero et a une intersection non vide avec chaquecomposante connexe de l’ensemble algebrique reel H0 ∩ Rn.

La preuve de ce resultat est fondee sur les deux lemmes ci-dessous qui ont leur interet propre. Lepremier est deja montre dans [124] et montre que le calcul des limites bornees des points critiques de lafonction distance au point A restreinte a Ht quand t tend vers 0 permet d’obtenir au moins un point parcomposante connexe dans H0 ∩ Rn.

85

Lemme 10. [124] Soit A un point de Qn et ϕA une application polynomiale qui associe a x ∈ Cn lecarre de la fonction distance a A. Chaque composante connexe de H0 contient au moins un point qui estune limite bornee de C(ϕA,Ht) quand t tend vers 0.

Le lemme suivant montre que si le point A est choisi suffisamment generiquement, les hypotheses dutheoreme 30 sont satisfaites.

Lemme 11. Il existe un ferme de Zariski A ( Cn tel que pour A = (a1, . . . , an) ∈ Qn \ A, l’ideal IAengendre par :

L.∂f

∂X1− (X1 − a1), . . . , L.

∂f

∂Xn− (Xn − an)

est equi-dimensionnel, de dimension 1, et C(ϕA,H0) est de dimension au plus 0.

D’apres le theoreme 31, on peut deduire un algorithme calculant au moins un point par composanteconnexe dans H0∩Rn en utilisant soit des bases de Grobner soit des calculs de resolutions geometriques.Un tel algorithme est base sur le calcul des limites de points critiques la restriction de ϕA a Ht quand ttend vers 0.

Dans le paragraphe suivant, on montre comment obtenir un autre algorithme calculant toujoursau moins un point par composante connexe dans H0 ∩ Rn en adaptant les resultats de [132] a notrecontexte. Au lieu d’applcations polynomiales quadratiques, on utilise ici des fonctions de projection quisont lineaires.

Algorithme : Cas hypersurface singuliere(Utilisation de fonctions distances)

– Entree : Un polynome f ∈ Q[X1 . . . , Xn] definissant une hy-persurface singuliere H ⊂ Cn.

– Sortie : Une famille de parametrisations rationnelles dont lessolutions sont incluses dans H et ayant une intersection nonvide avec chaque composante connexe de H ∩ Rn.

1. Choisir un point A aleatoirement.

2. Verifier que C(ϕA,H0) est de dimension au plus 0.

3. Calculer une representation de l’ensemble des solutions de〈L ∂f

∂X1− ∂ϕA

∂X1, . . . , L ∂f

∂Xn− ∂ϕA

∂Xn〉 ∩Q[X1, . . . , Xn].

4. Intersecter avec < f〉 et retourner une parametrisation ra-tionnelle de l’ensemble des solutions calculees.

Pour les memes raisons pratiques que celles evoquees precedemment, on cherche maintenant a declinercette demarche en utilisant des fonctions de projection de maniere analogue a celle developpee dans leparagraphe 5.5.

Utilisation de fonctions de projection. Comme precedemment, etant donnee une matrice A dansGLn(Q), on note fA le polynome f(A.X) et HA

t ⊂ Cn l’hypersurface definie par fA − t = 0 (pourt ∈ Q). On considere les projections canoniques :

Πi : Cn → Ci

(x1, . . . , xn) → (x1, . . . , xi)

Etant donne un point arbitrairement choisi (p1, . . . , pn−1) dans Qn−1 et une matrice A ∈ GLn(Q),soit IAi (pour i = 1, . . . , n− 2) l’ideal :

(〈L. ∂f

A

∂Xi+1− 1,

∂fA

∂Xi+2, . . . ,

∂fA

∂Xn, X1 − p1, . . . , Xi − pi〉 ∩Q[X1, . . . , Xn]

)

86

soit IAn−1 l’ideal 〈X1 − p1, . . . , Xn − pn〉 et soit IA0 l’ideal :

(〈L.∂f

A

∂X1− 1,

∂fA

∂X2, . . . ,

∂fA

∂Xn〉 ∩Q[X1, . . . , Xn]

)

Le theoreme ci-dessous montre comment obtenir au moins un point par composante connexe dansH0 ∩ Rn en ayant une demarche geometrique analogue a celle developpee dans le paragraphe 5.5 dece chapitre (c’est-a-dire fondee sur des calculs de points critiques de fonctions de projection choisiesgeneriquement).

Theoreme 32. Soit (p1, . . . , pn−1) un point arbitrairement choisi dans Qn−1. Il existe un sous-ensembleZariski-ferme A ( GLn(C) tel que pour A ∈ GLn(Q) \ A, l’union des varietes algebriques associees auxideaux 〈fA〉 + IAi (pour i = 0, . . . , n − 1) est au plus de dimension zero et a une intersection non videavec chaque composante connexe de l’ensemble algebrique reel HA

0 ∩ Rn.

La preuve de ce resultat se fonde sur les lemmes suivants.

Lemme 12. Soit C une composante connexe de H0 ∩ Rn et supposons que Π1(C) est ferme (pour latopologie euclidienne). Supposons de plus qu’il existe t0 ∈]0,+∞[ tel que pour tout t ∈]0, t0[ et toutecomposante connexe Ct de (Ht ∪H−t) ∩ Rn, Π1(Ct) soit ferme. Alors :

– soit pour un choix arbitraire de p1 ∈ Q, C a une intersection non vide avec l’hyperplan defini parX1 − p1 = 0

– soit C contient une limite de C(Π1,Ht) quand t tend vers 0.

Le lemme suivant generalise le precedent. Etant donne un point (p1, . . . , pn−1) ∈ Qn−1, pour i ∈1, . . . , n− 1 on note Hi ⊂ Cn l’intersection de l’hyperplan defini par X1 − p1 = · · · = Xi − pi = 0.

Lemme 13. Soit C une composante connexe de H0 ∩Rn. Supposons que pour tout i ∈ 1, . . . , n− 1 laprojection Πi(C) soit fermee et que pour toute composante connexe C ′ de (H0 ∩Hi)∩Rn, Πi+1(C

′) soitaussi fermee. Supposons aussi qu’il existe t0 ∈]0,+∞[ tel que pour tout t ∈]0, t0[, et toute composanteconnexe Ct de (Ht ∪ H−t) ∩ Rn et tout i ∈ 1, . . . , n − 1 la projection Πi(Ct) soit fermee et que pourtoute composante connexe C ′

t de (Ht ∪H−t) ∩Hi) ∩ Rn, Πi+1(C′t) soit ferme.

Alors :– soit C contient une limite de C(Π1,Ht) quand t tend vers 0 ;– soit il existe i ∈ 1, . . . , n−2 tel que C∩Hi contient une limite de C(Πi+1,Ht∩Hi) ou de Ht∩Hn−1

quand t tend vers 0.

Comme dans le paragraphe precedent, on identifie maintenant un changement lineaire de variables ala matrice associee A ∈ GLn(Q) et, etant donne une variete algebrique V ⊂ Cn on note V A la varietealgebrique obtenue apres action de A. Dans la suite, on note Sing(V ) le lieu singulier de V .

Lemme 14. Soit V ⊂ Cn une variete algebrique. Il existe un sous-ensemble Zariski-ferme A ( GLn(C)tel que pour tout A ∈ GLn(Q) \ A, etant donnee une composante connexe CA de V A pour tout i ∈1, . . . , n− 1, Πi(C

A) est ferme.

Lemme 15. Il existe un sous-ensemble Zariski-ferme A ( GLn(C) et t0 ∈ R tel que pour tout A ∈GLn(Q) \ A et tout t ∈]0, t0[∩Q, chaque composante connexe de Ht ∩ Rn a une image fermee (pour latopologie euclidienne) par la projection Π1.

Remarque. D’apres le paragraphe 5.6.1 et le theoreme 32, on en deduit un algorithme (utilisant soitdes bases de Grobner soit des calculs de resolutions geometriques) pour le calcul d’au moins un point parcomposante connexe dans l’ensemble algebrique reel H0 ∩ Rn.

Etant donne (p1, . . . , pn−1) ∈ Qn−1, on note fi (pour i = 1, . . . , n − 1) le polynome f ou les inde-terminees X1, . . . , Xi sont substituees par p1, . . . , pi. On remarque alors que l’utilisation de la resolutiongeometrique peut etre simplifie puisqu’il devaient suffisant de donner en entree a l’algorithme donnedans [61] le systeme d’equations et d’inequations polynomiales :

fA

i =∂fA

i

∂Xi+2= · · · = ∂fA

i

∂Xn= 0,

∂fAi

∂Xi+16= 0

87

(pour i = 1, . . . , n − 2) et fA = ∂fA

∂X2= · · · = ∂fA

∂Xn= 0, ∂fA

∂X16= 0 et d’isoler les racines reelles du

polynome univarie fAn−1.

Enfin, notons qu’une strategie alternative peut etre d’introduire un infinitesimal ε, de calculer uneparametrisation rationnelle pour des solutions des systemes :

fA

i − ε =∂fA

i

∂Xi+2= · · · = ∂fA

i

∂Xn= 0,

∂fAi

∂Xi+16= 0

(pour i = 1, . . . , n− 2) et

fA − ε =∂fA

∂X2= · · · = ∂fA

∂Xn= 0,

∂fA

∂X16= 0

de calculer les limites des ensembles de solutions ainsi definies quand ε tend vers 0, et d’isoler les solutionsreelles du polynome fA

n−1 = 0. Dans la section suivante on montre que c’est la premiere strategie qui estla plus efficace en pratique comme en theorie.

Algorithme : Cas hypersurface singuliere(Utilisation de fonctions de projections)

– Entree : Un polynome f ∈ Q[X1 . . . , Xn] definissant une hy-persurface singuliere H ⊂ Cn.

– Sortie : Une famille de parametrisations rationnelles dont lessolutions sont incluses dans H et ayant une intersection nonvide avec chaque composante connexe de H ∩ Rn.

1. Choisir aleatoirement A ∈ GLn(Q) et soit sols une listevide.

2. Calculer une representation de l’ensemble des solutions de

〈L∂fA

∂Xi− 1, ∂fA

∂Xi+1, . . . , ∂f

A

∂Xn〉 ∩Q[X1, . . . , Xn]

3. Calculer une parametrisation rationnelle de l’intersection deH et de la courbe dont la representation a ete calculee pre-cedemment.

4. Ajouter cette parametrisation a sols.

5. Pour i allant de 2 a n faire– Calculer une representation de l’ensemble des solutions de

〈X1, . . . , Xi−1, L∂fA

∂Xi−1, ∂fA

∂Xi+1, . . . , ∂f

A

∂Xn〉∩Q[X1, . . . , Xn]

– Calculer une parametrisation rationnelle de l’intersectionde H et de la courbe dont la representation a ete calculeeprecedemment.

– Ajouter cette parametrisation a sols.

6. Ajouter a sols une parametrisation rationnelle de l’en-semble des solutions de 〈f,X1, . . . , Xn〉.

7. Retourner sols.

Implantation et performances pratiques. L’usage des bases de Grobner, en usant des memesprecautions que celles decrites dans le paragraphe 5.5 pour :

– eviter les changements de variable explicites ;– et verifier que les projections choisies sont suffisamment generiques (toujours via des calculs de

cloture projective pour garantir les hypotheses de proprete, en particulier on a montre qu’il estsuffisant que celles-ci soient verifiees pour une hypersurface definie par fA − e = 0 ou e est unrationnel qui n’est pas une valeur critique de l’application x ∈ Cn → f(x) ∈ C)

88

permet d’obtenir une implantation deterministe et particulierement efficace en pratique de cet algorithme.Celle-ci a permis de resoudre des problemes que les techniques de gestion recursive des chutes de rangdans les jacobienne sont incapables de traıter (voir paragraphes 5.3 et 5.4).

En particulier, les nouvelles fonctionnalites implantees par J.-C. Faugere dans le logiciel FGb [49] pourle calcul d’ideaux d’elimination ainsi que le calcul du radical d’un ideal zero-dimensionnel permet desgains d’efficacite substantiels.

Du point de vue de la complexite, on peut montrer a l’aide des resultats de [83, 84], que si on supposeque les premiers choix de projection generiques sont les bons, on a un algorithme dont la complexite estpolynomiale en Dn ou D borne le degre du polynome definissant l’hypersurface qu’on etudie et n est lenombre de variables.

On peut neanmoins affiner ce resultat de complexite en etudiant l’usage des resolutions geometriquesdans ce contexte, ce qui est l’objet de la suite de ce paragraphe.

5.6.3 Estimations de complexite

On ne donne ici que les estimations de complexite concernant l’algorithme de calcul d’au moins unpoint par composante connexe d’un ensemble algebrique reel defini par une seule equation fonde sur letheoreme 32 : ce choix s’explique par le fait que les bornes obtenues sont meilleures que celles obtenuesa partir du theoreme 31.

Les descriptions donnees ci-dessus des algorithmes fondes sur les theoremes 31 et 32 ne dependentd’aucune procedure d’elimination algebrique. D’apres le paragraphe 5.6.1, on peut utiliser soit des calculsde base de Grobner soit des calculs de resolution geometrique pour obtenir des implantations mettanten œuvre en pratique les descriptions donnees ci-dessus.

Ainsi la complexite des algorithmes de ce paragraphe depend de la complexite des procedures d’elimi-nation algebrique utilisees. D’apres le theoreme 32, calculer au moins un point par composante connexedans H0 ∩ Rn se reduit a choisir aleatoirement un changement de variables A ∈ GLn(Q), d’ısoler lessolutions reelles de HA

0 ∩ V (X1, . . . , Xn) et calculer les limites des points critiques

C(Π1,HA

t ),C(Π2,HA

t ) ∩ V (X1), . . . ,C(Πn−1,HA

t ) ∩ V (X1, . . . , Xn−2)

quand t tend vers 0. On decrit ci-dessous une procedure fondee sur le calcul de resolution geometriquepour calculer les limites de points critiques de la restriction a Ht d’une projection sur une droite, lorsquet tend vers 0.

89

Algorithme Cas hypersurface singuliere(Utilisation de resolutions geometrique – Presentation

detaillee)

– Entree : Un polynome f ∈ Q[X1 . . . , Xn] definissant une hy-persurface singuliere H ⊂ Cn.

– Sortie : Une famille de parametrisations rationnelles dont lessolutions sont incluses dans H et ayant une intersection nonvide avec chaque composante connexe de H ∩ Rn.

1. Calculer une resolution geometrique G encodant un pointgenerique dans la cloture de Zariski de la courbe definie par :

∂fA

∂X2= · · · = ∂fA

∂Xn= 0,

∂fA

∂X16= 0

2. Obtenir l’image de G modulo un nombre premier choisi alea-toirement, calculer l’intersection avec fA = 0, enlever les

points obtenus en lesquels ∂fA

∂X1s’annule, et remonter les en-

tiers en utilisant le systeme de remontee :

fA =∂fA

∂X2= · · · = ∂fA

∂Xn= 0,

∂fA

∂X16= 0

On obtient ainsi les limites regulieres de C(Π1,HAt ) quand t

tend vers 0.

3. Alors calculer l’intersection de la courbe encodee par G avec

les hypersurfaces definies par ∂fA

∂X1= 0 et fA = 0 modulo

des nombres premiers et retrouver le resultat final en faisantdes remontees chinoises et de la reconstruction rationnelle.

On estime maintenant la complexite de chaque etape de l’algorithme decrit ci-dessus. Soit L lalongueur du programme d’evaluation encodant le systeme :

fA =∂fA

∂X2= · · · = ∂fA

∂Xn= 0,

∂fA

∂X16= 0

et n le nombre de variables. La premiere etape est effectuee en O(n2(L+n2)(U(Dδ)2 +hU(δ)) operationsbinaires, ou h est la taille binaire maximale des coefficients de G et δ est le degre maximal de la cloturedes ensembles algebriques :

fA =∂fA

∂X2= · · · = ∂fA

∂Xi= 0,

∂fA

∂X16= 0

pour i = 2, . . . , n. Remarquons que δ est bornee par (D − 1)n−1.La seconde etape a un cout qui est en O(n(L+n2)U(Dδ)(hreg+U(Dδ)) operations binaires ou hreg est

le maximum des tailles binaires des coefficients de la resolution geometrique encodant les limites regulieresdes points critiques (voir la section sur la remontee des entiers et l’intersection avec une hypersurfacedes courbes de remontee dans [61]). Enfin, chaque calcul de la troisieme etape a une complexite enO(n(L+n2)hsingU(Dδ)) (voir la section sur l’intersection d’une courbe de remontee avec une hypersurfacedans [61]). Le nombre de tels calculs est hsing, ou hsing est la taille binaire maximale des coefficientsapparaissant dans la resolution geometrique encodant les limites singulieres des points critiques. Ainsi,on deduit de cette discussion le resultat de complexite ci-dessous.

Theoreme 33. Soit f un polynome dans Q[X1, . . . , Xn] de degre borne par D, dont la complexited’evaluation est bornee par L et H ⊂ Cn l’hypersurface definie par f = 0. L’algorithme ci-dessus calculeau moins un point par composante connexe de H ∩ Rn en une complexite binaire

O(n2(nL+ n2) ((1 + hsing)U(D.δ)2 + hregU(δ)

)

90

ou δ est le degre maximal des varietes algebriques etudiees durant le processus de resolution incrementalet est borne par D.(D − 1)n−1.

Remarque. Soit d la somme des degres des composantes equi-dimensionnelles du lieu singulier de H0

ayant une dimension strictement positive. On peut raffiner l’estimation de degre D(D − 1)n−1 donneesci-dessus pour borner δ en remarquant que le degre de la courbe definie comme etant la cloture de Zariskide l’ensemble des solutions du systeme :

∂fA

∂X2= · · · = ∂fA

∂Xn= 0,

∂fA

∂X16= 0

est borne par (D− 1)n−1 − d. Ainsi, alors que dans le cas lisse la borne D(D− 1)n−1 peut etre atteinte,ceci n’est pas possible dans les cas ou H0 a un lieu singulier de dimension positive.

En prenant en compte la discussion ci-dessus et en effectuant une analyse precise des degres appa-raissant dans les algorithmes relevant du theoreme 32, on obtient le resultat suivant.

Theoreme 34. Soit H1, . . . , Hn−2 des hyperplans generiques de Qn. Le nombre de composantes connexesde H0 ∩ Rn est borne par

D(1 + (D − 1) + · · ·+ (D − 1)n−1 − (d0 + · · ·+ dn−2)),

ou di (resp. d0) est la somme des degres des composantes equi-dimensionnelles de dimension positive dulieu singulier de H0 ∩ (∩ij=1Hi) (resp. H0).

Il nous reste maintenant a etudier comment generaliser les resultats de ce paragraphe au cas dessystemes polynomiaux. C’est l’objectif du paragraphe suivant.

5.7 Le cas des systemes polynomiaux definissant une variete algebrique sin-guliere

On considere donc un systeme d’equations polynomiales

f1 = · · · = fs = 0

ou fi ∈ Q[X1, . . . , Xn] pour i ∈ 1, . . . , s definissant une variete algebrique V ⊂ Cn. Ici, on ne supposepas que l’ideal 〈f1, . . . , fs〉 soit radical ni que la variete V soit lisse. On ne peut donc pas utiliser lescaracterisations algebriques des lemmes 4 et 5 pour caracteriser les points critiques d’applications po-lynomiales restreintes a V . On va neanmoins montrer comment ramener le calcul d’au moins un pointpar composante connexe de la variete algebrique reelle V ∩ Rn au calcul de limites de points critiquesd’applications polynomiales restreintes a des varietes algebriques obtenues par deformation infinitesimaledu systeme

f1 = · · · = fs = 0.

5.7.1 Resultats preliminaires

Soit donc ϕ : y ∈ Cn → ϕ(y) ∈ C une application polynomiale avec ϕ ∈ Q[X1, . . . , Xn]. On noteC(ϕ, V ) l’ensemble des points critiques de ϕ restreinte au lieu regulier de chaque composante equi-dimensionnelle de V . On suppose que

– C(ϕ, V ) est de dimension au plus zero ;– pour toute composante connexe C de V ∩Rn, ϕ(C) est un intervalle de R ferme (pour la topologie

euclidienne).Cette derniere hypothese implique que :

– soit ϕ(C) = R auquel cas pour tout x ∈ R, C a une intersection non vide avec ϕ−1(x) pour toutx ∈ R ;

– soit ϕ(C) 6= R auquel cas pour x dans la frontiere de ϕ(C), C a une intersection non vide avecϕ−1(x).

91

C’est evidemment le dernier cas qui rend les choses compliquees. On va chercher a deformer le systemef1 = · · · = fs = 0 pour definir une suite de points critiques dependant d’un infinitesimal dont les limitescontiennent les points dont les images par ϕ contiennent l’ensemble des frontieres des ϕ(C) pour lescomposantes connexes C de V ∩ Rn.

Soit donc C une composante connexe de V ∩ Rn telle que ϕ(C) 6= R et y ∈ C tel que ϕ(y) est dansla frontiere de ϕ(C). Sans nuire a la generalite, on suppose que dans toute boule B(y, r) ⊂ Rn centreeen y de rayon r > 0, il existe y′ ∈ B(y, r) tel que :

f1(y′) > 0, . . . , fs(y

′) > 0

On en deduit aisement le resultat suivant :

Lemme 16. Sous les hypotheses et notations ci-dessus, il existe une composante connexe C ′ de l’ensemblesemi-algebrique defini par :

f1 > 0, . . . , fs > 0

tel que y appartienne a l’adherence de C ′.

Ce lemme ne permet malheureusement pas encore de caracteriser y de maniere suffisamment precisepour qu’il puisse etre calcule en tant que solution d’un systeme d’equations polynomiales de dimensionzero. Ceci dit, y appartenant a la cloture d’une composante connexe de l’ensemble semi-algebrique definipar

f1 > 0, . . . , fs > 0

on est logiquement tente de vouloir le calculer en tant que limite d’une suite de points vivant dans cesemi-algebrique, cette suite de points devant etre une suite de points critiques. Pour ce faire, on va exhiberdes varietes algebriques reelles dont certaines composantes connexes sont incluses dans les composantesconnexes du semi-algebrique S.

Soit C ′ une composante connexe de S. Plus precisement, pour tout couple de points (y1, y2) dans C ′

et un chemin quelconque γ dans C ′ reliant y1 et y2, les polynomes f1, . . . , fs ont des minima positifs sur γ.Ainsi, l’extension de γ a R〈ε〉n est entierement contenue dans une composante connexe du semi-algebriqueS ⊂ R〈ε〉n defini par

f1 − a1ε > 0, · · · , fs − asε > 0

et, il existe une composante connexe C ′′ de S contenant C ′.L’application de [21, proposition 13.1, chapitre 13] donne l’existence d’un sous-ensemble i1, . . . , ik ⊂

1, . . . , s et d’une composante connexe de l’ensemble algebrique reel defini par

fi1 − ai1ε = · · · = fs − aikε = 0.

incluse dans C ′. Ceci est resume par le resultat suivant.

Theoreme 35. Soit C ′ ⊂ Rn une composante connexe de l’ensemble semi-algebrique defini par :

f1 > 0, . . . , fs > 0,

ε un infinitesimal et a = (a1, . . . , as) ∈ Qs\0. Pour I = i1, . . . , ik ⊂ 1, . . . , s, on note V Iε,a ⊂ C〈ε〉n

la variete algebrique definie par

fi1 − ai1ε = · · · = fik − aikε = 0.

Alors, il existe I = i1, . . . , ik ⊂ 1, . . . , s et une composante connexe CIε,a de V I

ε,a ∩ R〈ε〉 tels que

CIε,a est incluse dans l’extension de C ′ dans R〈ε〉n.

De plus, il existe un ferme de Zariski A ⊂ Cn tel que pour tout a ∈ Qn \ A, V Iε,a est lisse, et l’ideal

engendre par fi1 − ai1ε, . . . , fik − aikε = 0 est soit radical equi-dimensionnel de dimension n − k soitegale a 〈1〉.

La derniere assertion est une consequence directe du theoreme de Sard lorsqu’on considere l’applica-tion polynomiale :

Cn −→ Ck

y → (fi1(y), . . . , fik(y))

92

Cette derniere assertion est importante car elle implique que pour un choix generique de a = (a1, . . . , as)on peut utiliser les caracterisations algebriques de points critiques donnes dans les lemmes 4 et 5.

Ceci est heureux car c’est l’etude des points critiques de ϕ restreinte aux varietes algebriques V Iε,a qui

permet de definir des suites points critiques convergents vers y.Plus precisement, si on considere un sous-ensemble maximal (pour l’inclusion) I = i1, . . . , ik ⊂

1, . . . , s tel qu’il existe yε ∈ V Iε,a ∩ R〈ε〉n dans l’extension de B(y, r) a R〈ε〉n pour tout r > 0, alors il

existe des points C(ϕ, V Iε,a) convergents vers y lorsque ε tend vers 0.

Theoreme 36. Soit ϕ : y ∈ Cn → ϕ(y) ∈ C une application polynomiale avec ϕ ∈ Q[X1, . . . , Xn] etV ⊂ Cn une variete algebrique definie par :

f1 = · · · = fs = 0

ou fi ∈ Q[X1, . . . , Xn] pour i ∈ 1, . . . , s. On fait les hypotheses suivantes :– le lieu critique C(ϕ, V ) de la restriction de ϕ a V est de dimension au plus zero ;– toute composante connexe C de V ∩Rn a une image fermee par ϕ (pour la topologie euclidienne) ;– soit C une composante connexe de V ∩ Rn telle que ϕ(C) 6= R et y ∈ C un point tel que ϕ(y)

appartient a la frontiere de ϕ(C) ;– pour tout r > 0, il existe y′ dans la boule B(y, r) de centre y de rayon r tel que :

f1(y′) > 0, . . . , fs(y

′) > 0

Alors, il existe i1, . . . , ik ⊂ 1, . . . , s et A ( Cs tel que, si a = (a1, . . . , as) ∈ Qs \ A et si on noteV Iε,a ⊂ C〈ε〉n la variete algebrique definie par :

fi1 − ai1ε = · · · = fik − aikε

– l’ideal engendre par fi1 − ai1ε, . . . , fik − aikε est soit radical equi-dimensionnel de dimension n− ksoit egale a 〈1〉 ;

– V Iε,a est lisse ;

– il existe yε ∈ C(ϕ, V Iε,a) qui tend vers y quand ε tend vers 0.

Le resultat ci-dessus permet donc de caracteriser y comme une limite de points critiques de ϕ res-treinte a une variete algebrique V I

ε,a (les proprietes de regularite sur le systeme definissant V Iε,a permettant

d’utiliser les lemmes 4 et 5) mais son application directe necessite d’introduire explicitement un infinite-simal et donc d’effectuer les calculs soit dans Q(ε) soit dans Q〈ε〉 ce qui en pratique ne donne pas desresultats satisfaisants. On montre dans la suite de ce paragraphe comment obtenir les limites des pointscritiques qu’on cherche a calculer en s’inspirant des techniques mises en œuvre dans le paragraphe 5.6.

5.7.2 Calcul des limites de points critiques.

Pour simplifier les notations, on suppose qu’on cherche a calculer les limites (lorsque ε tend vers 0)des points critiques de ϕ restreinte a la variete algebrique Vε,a ⊂ C〈ε〉n definie par :

f1 − a1ε = · · · = fs − asε = 0

ou s 6 n et a = (a1, . . . , as) ∈ Qn est choisi de maniere telle que :– l’ideal 〈f1 − a1ε, . . . , fs − asε〉 est radical et equi-dimensionnel ;– si l’ideal 〈f1 − a1ε, . . . , fs − asε〉 est different de 〈1〉 alors il est de dimension n− s ;– Vε,a est lisse.

On suppose maintenant que l’ideal 〈f1 − a1ε, . . . , fs − asε〉 est different de 〈1〉.D’apres les hypotheses ci-dessus, on peut utiliser les caracterisations algebriques des lemmes 4 et 5

pour calculer une representation de C(ϕ, Vε,a). Soit M(ϕ) l’ensemble des mineurs (n− s+ 1, n− s+ 1)de la matrice jacobienne associee a la famille de polynomes

f1, . . . , fs, ϕ.

Remarquons que les polynomes deM(ϕ) ne dependent pas de ε.

93

Enfin, on note Va ⊂ Cn+1 la cloture de Zariski de l’ensemble des points annulant les polynomes :

f1 − a1T, . . . , fs − asT

(ou T est une nouvelle variable) pour lesquels la matrice jacobienne associee a f1, . . . , fs est de rangn− s. Si on note Π l’application polynomiale qui envoie x = (x1, . . . , xn, t) ∈ Cn+1 sur (ϕ(x1, . . . , xn), t),remarquons que calculer les limites de C(ϕ, Vε,a) lorsque ε tend vers 0 revient a calculer la projection surX1, . . . , Xn de C(Π, Va) ∩ y ∈ Cn+1 | T = 0.

Ceci est equivalent a considerer la variete Va ⊂ Cn definie comme etant la cloture de Zariski del’ensemble des points verifiant :

f1a2− f2a1

= · · · = f1as− fsa1

= 0, et ∀m ∈M(ϕ), m = 0

tels que la rang de la jacobienne associee a f1, . . . , fs est n − s et a calculer l’intersection de Va avecl’ensemble des points annulant f1, . . . , fs.

Proposition 27. Soit V ⊂ Cn la variete algebrique definie par :

f1 = · · · = fs = 0

et Va ⊂ Cn la variete algebrique definie comme etant la cloture de Zariski de l’ensemble des pointsverifiant

f1a2− f2a1

= · · · = f1as− fsa1

= 0, et ∀m ∈M(ϕ), m = 0.

tels que la rang de la jacobienne associee a f1, . . . , fs est n− s.Alors, si C(ϕ, V ) est de dimension au plus 0, Va ∩ V contient l’ensemble des limites de C(ϕ,Vε,a)

lorsque ε tend vers 0.De plus, si Va est de dimension au plus 1, alors Va ∩ V est de dimension au plus 0.

Remarque. Le resultat ci-dessus est fonde sur la caracterisation des points critiques donnee par lelemme 4. On peut enoncer un resultat similaire fonde sur la caracterisation algebrique donnee par lelemme 5 en considerant les points annulant le systeme :

`1∂f1∂X1

+ · · ·+ `s∂fs

∂X1

...

`1∂f1∂Xn

+ · · ·+ `s∂fs

∂Xnf1a2− f2

a1= · · · = f1

as− fs

a1= 0

pour lesquels le rang de la jacobienne associee a f1, . . . , fs est n − s et en en considerant la projectionsur X1, . . . , Xn.

Voyons maintenant comment utiliser le resultat ci-dessus pour calculer les limites de C(ϕ,Vε,a) lorsqueε tend vers 0. La difficulte provient du fait que l’on n’a pas directement une famille de generateurs del’ideal associe a Va, c’est-a-dire l’ensemble des polynomes s’annulant sur Va.

Calculs des limites en utilisant des bases de Grobner. Etant donne le systeme d’equationspolynomiales

f1a2− f2a1

= · · · = f1as− fsa1

= 0, et ∀m ∈M(ϕ), m = 0.

plusieurs alternatives sont possibles pour acceder a une famille de generateurs de Va :

1. soit on calcule une decomposition equi-dimensionnelle de l’ideal engendre par ce systeme et on n’engarde que les composantes de dimension au plus 1 ;

2. soit on sature cet ideal par une somme aleatoire des mineurs (n − s − 1, n − s − 1) de la matricejacobienne associee a f1, . . . , fs ;

94

3. soit on sature cet ideal par un des mineurs (n− s−1, n− s−1) de la matrice jacobienne J associeea f1, . . . , fs, puis on ajoute ce mineur a notre systeme d’equations en saturant l’ideal engendrepar ce nouveau systeme par un autre mineur (n − s − 1, n − s − 1) de J et ainsi de suite jusqu’aobtenir 〈1〉 ou que l’ensemble des solutions du nouvel ideal qu’on vient de calculer est inclus dansles precedents.

En pratique, c’est la solution 3 qui est la plus pertinente en l’etat actuel des implantations. La solution 2est couteuse et probabiliste. Hors l’interet des bases de Grobner ici est de pouvoir obtenir des algorithmesdeterministes. La solution 1 est elle aussi couteuse en l’etat actuel des implantations.

Une fois ce calcul effectue, il suffit d’ajouter les equations f1, . . . , fs aux systemes de generateursobtenus et de calculer a nouveau une base de Grobner. Finalement, ces calculs sont les analogues de ceuxpresentes dans le paragraphe 5.6.

Remarque. On pourrait aussi decrire ces calculs sur la base de la caracterisation algebrique fondee surle lemme 5 qui est evoquee plus haut. Les bases de Grobner tirant profit de la sur-determination dessystemes decrits ci-dessus, il est preferable de mener les calculs comme on les a decrit.

Calculs des limites en utilisant la resolution geometrique. L’algorithme de resolution geome-trique permet de tenir compte directement d’inequations. Ainsi, pour calculer une representations de Va

il est suffisant de considerer le systeme d’equations et d’inequations

f1a2− f2a1

= · · · = f1as− fsa1

= 0, et ∀m ∈M(ϕ), m = 0,∑

m∈M

b(m)m 6= 0.

ou M est l’ensemble des mineurs (n− s− 1, n− s− 1) de la matrice jacobienne associee a f1, . . . , fs etles b(m) sont des rationnels choisis aleatoirement.

On obtient alors des parametrisations rationnelles de points generiques dans Va. A l’instar des tech-niques utilisees dans le paragraphe 5.6 et fondees sur [136] on peut calculer une representation parametreede Va lorsqu’elle est de dimension 1. Une fois ce calcul effectue, on intersecte la courbe obtenue avec f1.Ici encore, les calculs sont analogues a ceux du paragraphe 5.6.

Remarque. Contrairement aux calculs utilisant les bases de Grobner, on a interet dans le contexte desresolutions geometriques a utiliser la caracterisation lagrangienne des points critiques donnee dans lelemme 5 et evoquee plus haut.

5.7.3 Application aux fonctions de projection.

Voyons maintenant comment utiliser les resultats exposes ci-dessus pour calculer au moins un pointpar composante connexe dans l’ensemble algebrique reel V ∩ Rn en n’effectuant que des calculs delimites de points critiques de projections. Le probleme reside dans le fait de garantir que les images descomposantes connexes de V ∩Rn par les projections considerees sont bien des fermes (pour la topologieeuclidienne). Comme dans les paragraphes 5.5 et 5.6, ceci est assure generiquement, a changement lineairede variables pres.

Etant donnee une matrice A ∈ GLn(Q), a = (a1, . . . , as) ∈ Qn et I = i1, . . . , ik ⊂ 1, . . . , s onnote V I,A

ε,a ⊂ C〈ε〉n la variete algebrique definie par :

fA

i1 − ai1ε = · · · = fA

ik− aikε = 0

On considere aussi les projections canoniques

πi : Cn −→ Ci

(x1, . . . , xn) → (x1, . . . , xi)

Enfin, soit MA

I (πi) est l’ensemble des mineurs de la matrice jacobienne associee a la famille de

polynomes (f1, . . . , fs, X1, . . . , Xi). On note VI,Aa,i ⊂ Cn la variete algebrique definie comme etant la

cloture de Zariski de l’ensemble des points verifiant :

fAi1

ai2− fA

i2

ai1= · · · = fA

i1

aik−fAik

ai1= 0, ∀m ∈MA

I (πi), m = 0

95

et pour lesquels la jacobienne associee a fi1 , . . . , fik est de rang n− k.Pour terminer, pour i = 1, . . . , n, on note Hi ⊂ Cn le sous-espace affine defini par X1 = · · · = Xi = 0.

Par convention, H0 = Cn.

Le resultat ci-dessous montre comment obtenir au moins un point par composante connexe de V ∩Rn

en effectuant des calculs de limites de points critiques de fonctions de projection. La technique employeemixe les methodes mises en œuvre dans les paragraphes 5.5 et 5.6.

Theoreme 37. Il existe un ferme de Zariski A ( GLn(C) et un ferme de Zariski A ( Cn tels que pourtout A ∈ GLn(Q) \A et tout a = (a1, . . . , as) ∈ Qn \A, on a pour tout I ⊂ 1, . . . , s et i = 1, . . . , n :

– les varietes algebriques VI,Aa,i ∩Hi−1 sont de dimension au plus 1 ;

– les varietes algebriques VI,Aa,i ∩Hi−1 ∩ V sont de dimension au plus 0 et contiennent les limites de

C(πi,VI,Aε,a ) ∩Hi lorsque ε tend vers 0.

De plus, l’union des ensembles algebriques

⋃

I⊂1,...,s

(∪n−1i=0 C(πi,V

I,Aε,a ) ∩Hi

)

est de dimension au plus zero et a une intersection non vide avec chaque composante connexe de V ∩Rn.

Ce resultat se fonde sur le lemme 14 du paragraphe 5.6 et les lemmes ci-dessous, assurant que pour unchoix generique de A, les projections des composantes connexes des ensembles algebriques reels consideres(y compris ceux obtenus par deformation du systeme initial) sont des fermes pour la topologie euclidienne.

Le resultat suivant se montre de maniere similaire a celui du lemme 12.

Lemme 17. Soit A ∈ GLn(Q), a ∈ Qs et CA une composante connexe de V A ∩ Rn et supposons queΠ1(C

A) est ferme (pour la topologie euclidienne). Supposons de plus que pour tout I ⊂ 1, . . . , s, il

existe t0 ∈]0,+∞[ tel que pour tout t ∈]0, t0[ et toute composante connexe CAt de (VI,A

t,a ∪ VI,A−t,a) ∩ Rn,

Π1(Ct) soit ferme. Alors :– soit pour un choix arbitraire de p1 ∈ Q, CA a une intersection non vide avec l’hyperplan defini parX1 − p1 = 0

– soit CA contient une limite de C(Π1,VI,At,a ) quand t tend vers 0.

Le lemme suivant generalise le precedent. Les techniques de preuve sont similaires a celles des resultatsdu paragraphe 5.6. Etant donne un point (p1, . . . , pn−1) ∈ Qn−1, pour i ∈ 1, . . . , n−1 on note Hi ⊂ Cn

l’intersection de l’hyperplan defini par X1 − p1 = · · · = Xi − pi = 0.

Lemme 18. Soit A ∈ GLn(Q), a ∈ Qs et CA une composante connexe de V A ∩ Rn. Supposons quepour tout i ∈ 1, . . . , n− 1 la projection Πi(C

A) soit fermee et que pour toute composante connexe C ′,A

de (V ∩Hi) ∩ Rn, Πi+1(C′,A) soit aussi fermee.

Supposons aussi qu’il existe t0 ∈]0,+∞[ tel que pour tout t ∈]0, t0[, et toute composante connexe CAt

de (VI,At,a ∪ VI,A

t,a ∩ Rn et tout i ∈ 1, . . . , n − 1 la projection Πi(CAt ) soit fermee et que pour toute

composante connexe C ′,At de

(VI,At,a ∪ VI,A

t,a ∩Hi

)∩ Rn, Πi+1(C

′t) soit ferme.

Alors, il existe I tel que :– soit C contient une limite de C(Π1,VI,A

t,a ) quand t tend vers 0 ;

– soit il existe i ∈ 1, . . . , n − 2 tel que C ∩ Hi contient une limite de C(Πi+1,VI,At,a ∩ Hi) ou de

VI,At,a ∩Hn−1 quand t tend vers 0.

Lemme 19. Il existe des sous-ensembles Zariski-fermes A ( GLn(C) et A ( Cn et t0 ∈ R tels que pourtout I ⊂ 1, . . . , s, tout A ∈ GLn(Q) \ A, tout a ∈ Qs \ A et tout t ∈]0, t0[∩Q, chaque composante

connexe de VI,At,a ∩ Rn a une image fermee (pour la topologie euclidienne) par la projection Π1.

On deduit du theoreme 37, l’algorithme ci-dessous.

96

Algorithme : Calcul d’au moins un point par composanteconnexe d’une variete algebrique reelle quelconque

– Entree : Une famille (f1, . . . , fs) ⊂ Q[X1, . . . , Xn] de poly-nomes definissant une variete algebrique V ⊂ Cn.

– Sortie : Une famille de parametrisations rationnelles encodantun nombre fini de points de V et ayant une intersection nonvide avec chaque composante connexe de V ∩ Rn.

1. Choisir aleatoirement A ∈ GLn(Q) et a ∈ Qs.

2. Poser sols := []

3. Pour tout I ⊂ 1, . . . , s de cardinalite inferieure ou egale an faire

(a) Pour i = 0, . . . , n, calculer une parametrisation ration-nelle des limites de C(Π1,V

I,Aε,a ∩ Hi) quand ε → 0

comme indique ci-dessus ou Hi est defini par X1 =· · · = Xi = 0.

(b) Calculer une parametrisation rationnelle de ces limitesqui annulent fA

1 , . . . , fAs .

(c) Faire l’union de sols et de cette parametrisation ra-tionnelle.

4. Retourner sols.

Implantation et resultats pratiques. Des implantations preliminaires de cet algorithme ont etefaites en utilisant des calculs de bases de Grobner. Le procede de certification du choix des fonctionsde projection est similaire a celui utilise pour certifier les implantations de l’algorithme decrit dans leparagraphe 5.6.

Mentionnons que :– le facteur combinatoire (induit par le nombre de systemes a etudier) n’est pas si terrible qu’il n’y

paraıt : grace au choix generique des ai celui-ci est limite a 2n−1 (si s < n) grace au theoreme 35,de plus des branches de calcul peuvent etre detectees comme etant inutiles et donc elagees.

– l’apport pratique de cet algorithme est important devant les techniques fondees sur des etudesrecursives de lieux singuliers lorsque ceux-ci sont difficiles a decomposer et/ou de grande dimension.

Ceci dit, il subsiste des cas ou cette approche n’est pas ou peu rentable comparativement a des etudesrecursives sur des lieux singuliers notamment lorsque ceux-ci sont de faible dimension. Il s’agit donc d’unealternative complementaire aux approches recursives precedemment.

Complexite. L’etude des ensembles semi-algebriques definis par :

fA

1 σ 10, . . . , fA

s σs0

avec σi ∈ >,< pour i ∈ 1, . . . , s se ramene a l’etude des ensembles algebriques definis par

fA

i1 ± a1ε = · · · = fA

ik± aikε = 0

pour i1, . . . , ik ⊂ 1, . . . , s avec k 6 n puisque d’apres le theoreme 35 la variete algebrique definie parle systeme ci-dessus est soit vide soit dimension n− k.

Si s > n, on pose S =∑ni=1

(si

)2i−1, sinon on pose S =

∑si=1

(si

)2i−1. Ainsi, il y a S tels systemes a

considerer. Pour chacun de ces systemes, on doit calculer :– les limites des points critiques de π1 restreinte a V A,I

ε,a (ou a = (a1, . . . , as) et I = i1, . . . , ik) ;– puis instantier X1 a une valeur arbitraire, 0 par exemple, et recommencer iterativement sur le

nouveau systeme obtenu.

97

Dans la suite, on note L la longueur d’un programme d’evaluation encodant le systeme f1, . . . , fs.On note aussi δ le maximum des degres algebriques apparaissant quand on considere incrementalement

les systemes polynomiaux definissant les varietes VI,Aa . Si on utilise une version de la proposition 27 (voir

la remarque qui lui succede) fondee sur la caracterisation lagrangienne des points critiques du lemme 5ainsi que les resultats du paragraphe 4.4, on trouve que δ est borne par Ds(D − 1)n−s

(ns

)si s < n ou

par Dn si s > n.On deduit de cette discussion le resultat suivant :

Theoreme 38. Soit V une variete algebrique definie par

f1 = · · · = fs = 0

ou les fi sont des polynomes de Q[X1, . . . , Xn] de degre borne par D. On note L la longueur d’unprogramme d’evaluation du systeme (f1, . . . , fs). Il existe un algorithme probabiliste calculant au moinsun point par composante connexe de V ∩ Rn en

O(S(n+ s)5((n+ s)(L+ n2) + (n+ s)3)M(Dd)3)

operations arithmetiques dans Q (ou δ est defini comme ci-dessus et est borne par Dn(D − 1)n−s(ns

)si

s < n et Dn sinon).

Notons que de maniere similaire aux ameliorations obtenues sur les quantites bornant δ en fin deparagraphe 5.6, on peut ameliorer les bornes donnees ci-dessus portant sur δ.

5.8 Notes bibliographiques et commentaires

Les representations triangulaires apparaissent sous differents formalismes [152, 76, 88, 87] dans uncadre algebrique ainsi que dans un cadre algebro-differentiel [119, 118]. Des etudes specifiques tant theo-riques que pratiques sont menees dans [105] et [9] selon qu’on cherche une decomposition au sens deLazard (une description complete des varietes en quasi-composantes d’ensembles triangulaires) ou ausens de Kalkbrener (une decomposition des varietes clotures de quasi-composantes). Une descriptionunifiee des objets relatifs a ces decompositions apparaıt dans [10] (voir aussi [71, 72]). La complexite ducalcul d’ensembles triangulaires est encore mal connue. Quelques resultats se trouvent dans [54] et desavancees importantes ont ete obtenues dans [135, 43].

Du point de vue des implantations, plusieurs tentatives ont ete faites mais relativement peu sontdisponibles. Mentionnons neanmoins les implantations de M. Moreno Maza dans le systeme de calculformel Axiom [2] qui y est integre depuis sa version 2.2. Ces implantations incluent des approches deve-

loppees initialement dans [76] et [88]. A la meme epoque, P. Aubry a developpe des versions, toujours enAxiom et partageant les routines de base de celles de M. Moreno Maza des approches developpees dans[76]. Des versions ont ete developpees, toujours par M. Moreno Maza en Aldor [1] (successeur d’Axiom),ainsi que par F. Lemaire, M. Moreno Maza et les doctorants de ce dernier dans la bibliotheque Maple

[4] RegularChains. Enfin, D. Wang a developpe sa propre bibliotheque Maple CharSets [149]. A notreconnaissance, ces bibliotheques, developpees dans des langages de haut niveau, n’ont pas le niveau deperformances des meilleures implantations de calcul de bases de Grobner.

La litterature sur les bases de Grobner est extremement dense. Initialement, le premier algorithmepermettant de les calculer est du a Bucherberger [32, 33]. De multiples ameliorations ont ete proposees,notamment via l’utilisation de calculs modulaires, de la fonction de Hilbert, d’algorithmes de changementd’ordre [142, 143, 52]. Dans [23], les auteurs montrent que sous certaines hypotheses de genericite, l’ordrele plus economique en terme de temps de calcul est l’ordre DRL. L’expose qui est fait du sujet dans [42](voir aussi [26]) constitue sans nul doute une excellente introduction au sujet. Algorithmiquement, lesavancees majeures recentes sont dues a J.-C. Faugere [50, 51]. Les resultats de [50] permettent d’importerdes techniques d’algebre lineaire rapide dans les calculs de bases de Grobner. Les resultats de [51] per-mettent d’eviter des calculs se reduisant a 0 lorsque c’est possible. Ces algorithmes ont permis des avanceespratiques tres importantes et ouvrent la voie a des analyses de complexite extremement fines (voir [16])portant sur [51]. D’autres analyses de complexite portant essentiellement sur le cas zero-dimensionnel setrouvent dans [83, 84, 56, 84, 67]. L’idee de reduire le calcul de bases de Grobner a des questions d’algebrelineaire se trouve deja dans [86]. De maniere plus generale, l’idee de resoudre des systemes algebriquesvia des calculs d’algebre lineaire est exploitee des les travaux de Macaulay [99, 100, 101].

98

Le calcul de bases de Grobner est maintenant une fonctionnalite qui apparaıt dans presque tousles systemes de Calcul Formel. Les niveaux d’efficacite sont tres disparates. Les systemes Magma [3] etSingular [7] sont reputes pour etre les systemes ayant les implantations de calculs de bases de Grobnerles plus performantes. Celles-ci sont basees sur [50]. Ceci dit, c’est le logiciel specialise FGb [49], implanteen C et utilisable via son interface avec Maple [4] qui offre un niveau de performances et une richesse defonctionnalites qui permet d’avoir des implantations tres efficace des algorithmes decrits dans ce chapitre.Le logiciel FGb sera prochainement integre a Maple.

L’idee de representer les solutions d’un systeme zero-dimensionnel par des parametrisations ration-nelles (faisant intervenir des elements primitifs) est sous-jacente aux travaux de Kronecker [81]. On laretrouve aussi dans [100, 147, 109]. Celle-ci est algorithmiquement exploitee dans [37, 78, 55, 35, 114,84, 8, 58]. Le calcul de parametrisations rationnelles a partir d’une representation d’algebre-quotient est

developpe dans [121, 122]. Des etudes complementaires sont menees dans [31, 123]. A notre connaissance,cet algorithme, dont la sortie est appelee Representation Univariee Rationnelle donne des implantations[120] dont les performances pratiques sont les plus efficaces pour le calcul de ce type d’objets. Les resolu-tions geometriques (variantes de parametrisations rationnelles qui different des representations univarieeseationnelles dans le cas d’ideaux non radicaux) sont developpes dans [60, 110, 57, 59] pour aboutir auxtravaux de G. Lecerf [61, 94, 93] qui ont permis l’obtention d’une implantation [92].

Le calcul de telles representations est encore peu diffuse dans les systemes de Calcul Formel memes’ils offrent tous les fonctionnalites de base pour implanter “facilement” l’algorithme decrit dans [122].Des implantations existent notamment dans Singular [7] et Axiom [2]. Leurs performances pratiquessont tres loin d’etre exploitables par les algorithmes decrits dans ce chapitre. Seul le logiciel RS [120],implante en C par F. Rouillier offre un niveau de performances satisfaisant.

L’implantation du paquetage Kronecker [92] dans Magma [3] valide experimentalement les resultatsde complexite obtenus sur les methodes de resolution geometrique et a des performances pratiques inte-ressantes eu egard au caractere recent de cette implantation et le langage dans lequel elle est faite. Ellen’atteint tout de meme pas le niveau de performances des logiciels FGb/RS.

Les travaux de Grigoriev et Vorobjov (voir [65]) sont le point de depart des algorithmes permettantde donner au moins un point par composante connexe d’un ensemble semi-algebrique (et donc a fortiorid’un ensemble algebrique reel), qui sont

– polynomiaux en le nombre et le degre des polynomes et simplement exponentiels en le nombre devariables

– et relevent tous de la methode des points critiques dont on a vu diverses variantes.La contribution de Grigoriev et Vorobjov a ensuite ameliore par Heintz, Roy et Solerno [69, 70], puis parRenegar [114] et enfin une serie de papiers de Basu, Pollack et Roy [17, 18, 19], ces derniers allant jusqu’adonner un algorithme permettant l’elimination des quantificateurs dont la complexite est doublementexponentielle en le nombre d’alternance de quantificateurs (et non pas doublement exponentiel en lenombre de variables).

La strategie globale proposee (voir [18]) pour calculer au moins un point par composante connexedans un ensemble semi-algebrique est basee sur la construction de routines reduisant le probleme dedepart a un probleme plus facile :

– a) Trouver au moins un point par composante semi-algebriquement connexe dans un ensemblesemi-algebrique.

– b) Trouver au moins un point par composante semi-algebriquement connexe dans un ensemblealgebrique reel defini par un systeme d’equations.

– c) Trouver au moins un point par composante semi-algebriquement connexe dans un ensemblealgebrique reel defini par une seule equation.

– d) Trouver au moins un point par composante semi-algebriquement connexe dans un ensemblealgebrique algebrique reel defini par un systeme d’equations ayant un nombre fini de solutionscomplexes.

– e) Compter et isoler les racines d’un polynome univarie.Par exemple, le probleme b) peut etre reduit au probleme c) en etudiant la somme des carres des

polynomes intervenant dans le systeme que l’on veut etudier. Aussi le probleme d) est reduit au problemee) en calculant une Representation Univariee Rationnelle (voir [121, 122] et en etudiant le premierpolynome de la sortie.

99

Neanmoins, aucune de ces contributions ne permettait d’obtenir des implantations efficaces en compa-raison des resultats obtenus par les meilleurs implantations de l’algorithme de decomposition cylindriquealgebrique.

En reprenant une idee evoquee par Seidenberg dans [138], on trouve une premiere approche fondeesur le calcul de points critiques du carre de la distance euclidienne a un point dans [124]. La complexitede cette approche est simplement exponentielle en le nombre de variables modulo le fait que le premierchoix du point par rapport auquel les distances euclidiennes sont considerees est le bon. Cette hypothesen’est aucunement restrictive en pratique puisqu’elle est verifiee pour un choix aleatoire de ce point. Lecas singulier est gere en effectuant explicitement une deformation infinitesimale.

Dans [11], on trouve l’algorithme decrit dans le paragraphe 5.3. Diverses ameliorations sont fourniesdans [127]. L’usage de fonctions polynomiales qui sont des carres de distance euclidienne est repris dansle contexte de resolution geometrique et dans le cas lisse et equi-dimensionnelle en considerant la notionde variete polaire generalisee dans [14, 15]. Ces derniers articles sont precedes de [13, 12] ou les auteursconsiderent des fonctions de projection mais se restreignent au cas compact et lisse.

L’usage des fonctions de projection comme indique dans le paragraphe 5.4 est du a [133]. Les avanceesexhibees dans le paragraphe 5.5 se trouvent dans [132, 134].

La gestion efficace des singularites donnee dans le paragraphe 5.6 est due a [130].Du point de vue des implantations, l’algorithme decrit dans [11] est implante dans le systeme de calcul

formel Mathematica [5]. Les resultats pratiques de cette implantation sont globalement comparables aceux obtenus avec l’implantation de l’algorithme de decomposition cylindrique algebrique disponible dansle meme systeme, mais pas meilleurs. Ceci est essentiellement du au fait que les routines d’eliminationalgebrique implantees dans Mathematica [5] sont tres loin du niveau d’efficacite de celles disponibles dansSingular [7], Magma [3] et encore plus loin de celles de FGb. Les implantations disponibles dans [128] sontfondees sur des variantes des algorithmes decrits dans les paragraphes 5.5, 5.6 et 5.7 de ce chapitre etutilisent les logiciels FGb et RS pour les calculs de bases de Grobner et de Representations UnivarieesRationnelles. La conjonction de l’efficacite de ces routines d’elimination et des methodes geometriquessous-jacentes a ces algorithmes permet d’obtenir des performances pratiques tres largement superieures acelles de l’algorithme de decomposition cylindrique algebrique. Afin de se donner une idee de l’efficacitequ’on peut attendre des implantations les plus abouties de tels algorithmes, on calcule au moins un pointpar composante connexe dans l’hypersurface definie par le polynome donne dans le paragraphe 1.2 duchapitre 1 en moins de 10 sec. sur un Pentium Centrino 1.86 GHz avec 2048 KB de Cache et 1 Gb deRAM alors que la phase de projection de l’algorithme de decomposition cylindrique algebrique sature lamemoire du meme ordinateur au bout de 24 heures de calcul.

100

6 Tests du vide et calcul d’au moins un point par composanteconnexe d’un ensemble semi-algebrique

Dans ce chapitre, on aborde le probleme du test du vide et du calcul d’au moins un point parcomposante connexe d’un ensemble semi-algebrique defini par un systeme d’equations et d’inegalitespolynomiales

f1 = · · · = fs = 0, g1 > 0, . . . , gk > 0

ou les fi et les gi sont des polynomes de Q[X1, . . . , Xn] de degre borne par D.Ces questions sont ramenees au calcul d’au moins un point par composante connexe dans des varietes

algebriques reelles obtenues par deformation infinitesimale du systeme donne en entree.

La figure 24 illustre bien le procede. Supposons que l’ensemble semi-algebrique dont on cherche aumoins un point par composante connexe est constituee des points de la sphere et du tore sur la figure (quisont definis par les egalites du systeme) situes a gauche du plan vertical qui y est trace. Les composantesconnexes de ce semi-algebriques sont au nombre de deux et constituees de la sphere d’une part et d’unepartie du tore d’autre part.

Si on calcule au moins un point par composante connexe dans l’ensemble des points annulant lesegalites donnees en entree, on trouvera forcement un point sur cette sphere mais on n’est pas sur decalculer au moins un point sur le tore qui appartienne a notre ensemble semi-algebrique. Pour ce faire,on considere l’intersection de la sphere et du tore avec l’ensemble des points annulant une “petite”deformation du polynome definissant notre plan. On obtient deux cercles sur le tore. En calculer aumoins un point par composante connexe acheve l’obtention d’au moins un point par composante connexedans le semi-algebrique qui nous interesse. Remarquons que si on deforme trop ce polynome on risquede “rater” la deuxieme composante connexe de ce semi-algebrique. Un moyen simple de ne “pas tropdeformer” est evidemment de considerer des deformations infinitesimales.

Dans la suite de ce chapitre, on verra comment generaliser ce procede qui est inspire de la geometriealgorithmique (voir [30]).

Du point de vue calculatoire, il est important de pouvoir evaluer le signe d’un polynome en lessolutions d’un systeme zero-dimensionnel (pour distinguer les solutions de ce systeme qui appartiennenta l’ensemble semi-algebrique qu’on etudie). D’autre part, la tache de base a effectuer dans les algorithmespresentes dans ce chapitre est de calculer au moins un point par composante connexe dans une varietealgebrique reelle. On a vu dans le chapitre precedent qu’il est preferable de se ramener a des situations oula variete qu’on etudie est lisse et qu’elle est definie par un systeme d’equations polynomiales engendrantun ideal radical. Lorsque c’est possible, il faudra donc qu’on veille a obtenir de telles situations.

Enfin, on a aussi vu dans le chapitre precedent que l’introduction explicite d’infinitesimaux est diffi-cile a concilier avec l’usage efficace d’algorithmes d’elimination algebrique. On est ici dans un contextelegerement different : alors que dans le chapitre precedent, on introduisait des infinitesimaux pour lesfaire tendre vers 0, ici on introduit des infinitesimaux pour finalement les specialiser en une valeur suf-fisamment petite. Par suffisamment petite, on entendra qu’il faut specialiser ε dans un intervalle ]0, e[tel que la restriction d’une certaine application polynomiale ϕ a une variete algebrique V realise unefibration localement triviale sur ϕ−1(]0, e[) ∩ V . On voit apparaıtre ici l’utilite de la notion de valeurcritique generalisee introduite dans le chapitre 4 dont nous faisons ici un usage intensif. Ainsi, avantd’aborder explicitement le probleme du calcul d’au moins un point par composante connexe dans unensemble semi-algebrique, nous concentrons notre etude sur le calcul de valeurs critiques generaliseesd’applications polynomiales.

Dans le premier paragraphe, etant donne un polynome f ∈ Q[X1, . . . , Xn], on montre commentcalculer un polynome univarie non nul dont l’ensemble des racines contient l’ensemble des valeurs critiquesgeneralisees K(f) de l’application polynomiale x ∈ Cn → f(x) ∈ C, c’est-a-dire

c ∈ C | ∃(x`)`∈N, f(x`)→ c, ||x`||.||dx`f || → 0, quand `→∞

(voir definition 16, chapitre 4). Une fois qu’on a obtenu un polynome univarie dont les racines contiennentles valeurs critiques generalisees de f , on peut les isoler et choisir un rationnel e ∈ Q compris entre 0 etla plus petite valeur critique generalisee positive de f . Les proprietes topologiques de K(f) (voir chapitre4) impliquent alors que si l’ensemble semi-algebrique defini par f > 0 n’est pas Rn (auquel cas en donner

101

Fig. 24 –

au moins un point par composante connexe n’est pas tres difficile), chacune de ses composantes connexescontient une composante connexe de l’ensemble algebrique reel defini par f − e = 0. On a donc reduit leprobleme du calcul d’au moins un point par composante connexe du semi-algebrique defini par f > 0 a :

– un pre-calcul de valeurs critiques generalisees de l’application x ∈ Cn → f(x) ∈ C ;– le calcul d’au moins un point par composante connexe de l’ensemble algebrique reel defini parf − e = 0 ou e ∈ Q est compris entre 0 et le plus petit reel positif de F (f).

Remarquons que puisque l’ensemble des valeurs critiques de f est inclus dans K(f), l’ensemble algebriquedefini par f − e = 0 est lisse.

La strategie concernant les ensembles semi-algebriques definis par des systemes plus generaux

f1 = · · · = fs = 0, g1 > 0, . . . , gk > 0

est identique mais soumise a quelques contraintes. Historiquement, la resolution de ces systemes estreduite au calcul d’au moins un point par composante connexe des ensembles algebriques reels definispar :

f1 = · · · = fs = 0, gi1 − ε = · · · = gi` − ε = 0

(ou i1, . . . , i` ⊂ 1, . . . , s et ε est un infinitesimal).On est logiquement tente ici de considerer ε comme une variable et de calculer les valeurs critiques ge-

neralisees de la projection sur cette variable restreinte a la variete qu’on vient de definir. Malheureusemen,on ne sait effectuer ces calculs que dans les cas ou la variete consideree est lisse et equi-dimensionnelleet definie par un systeme de generateurs de son ideal associe (voir paragraphe 4.3 du chapitre 4). Onretrouvera donc ce type d’hypothese dans la suite. De plus, le seul calcul de valeurs critiques generaliseesdecrit ci-dessus n’est pas suffisant pour trouver une bonne specialisation pour ε. Il faudra en plus calculerdes intersections de courbes de points critiques avec des hypersurfaces pour y parvenir.

Les algorithmes que nous obtenons permettent de resoudre des problemes inaccessibles par l’algo-rithme de decomposition cylindrique algebrique (lorsque les hypotheses d’application de nos algorithmessont verifiees). Leur complexite est simplement exponentielle en le nombre de variables, polynomiale enle degre des polynomes donnes en entree et polynomiale en un facteur combinatoire qu’on explicitera.

6.1 Calcul de valeurs critiques generalisees : Le cas des applications de Cn

dans C

Ce paragraphe est consacre a l’elaboration d’un algorithme de calcul des valeurs critiques generaliseesd’une application x ∈ Cn → f(x) ∈ C ou f est un polynome de Q[X1, . . . , Xn]. Rappelons que les valeurscritiques generalisees K(f) d’une telle application appartiennent a l’ensemble

c ∈ C | ∃(x`)`∈N, f(x`)→ c, ||x`||.||dx`f || → 0, quand `→∞

(voir definition 16, chapitre 4).

102

Notons que la traduction d’une telle definition en une formule du premier ordre avec quantificateursmise en conjonction avec le theoreme de Tarski-Seidenberg (voir theoreme 2 chapitre 2) et le lemmede selection des courbes (voir lemme 1) implique qu’on peut reecrire la definition ci-dessus sous laforme suivante : c ∈ C est une valeur critique generalisee de f si et seulement si il existe une courbeγ : [0, 1[→ Cn telle que f(γ(t)) tend vers c et ||γ(t)||.||dγ(t)f || tend vers 0 quand t tend vers 1. Dans lasuite, on va chercher a calculer une telle courbe (il s’agira en fait d’une courbe de points critiques) et acaracteriser les valeurs critiques asymptotiques comme le lieu de non-proprete d’une certaine projectionrestreinte a cette courbe.

Pour cela, nous avons besoin de quelques resultats preliminaires.

Lemme 20. Pour tout A ∈ GLn(Q), K(f) et K(fA) sont egaux, et il en est de meme pour K0(f)(resp. K∞(f)) et K0(f

A) (resp. K∞(fA)).De plus, si c est une valeur critique (resp. une valeur critique asymptotique) de f , alors pour tout

e ∈ Q, c− e est une valeur critique (resp. une valeur critique asymptotique) de f + e.

Comme on peut caracteriser les valeurs critiques a l’aide d’une formule du premier ordre avec quantifi-cateurs dont les atomes sont des inegalites et des egalites polynomiales, le theoreme de Tarski-Seidenbergainsi que le lemme de selection des courbes permettent d’obtenir facilement le lemme suivant.

Lemme 21. Soit f un polynome de Q[X1, . . . , Xn]. Considerons c ∈ C et (z`)`∈N ⊂ Cn une suite depoints telle que :

– f(z`) tend vers c quand ` tend vers ∞ ;– ||z`|| tend vers ∞ quand ` tend vers ∞ ;– ||z`||.||dz`

f || tend vers 0 quand ` tend vers ∞.On note X le vecteur X1, . . . , Xn. Il existe un ensemble Zariski-ferme A ( GLn(C) tel que pour toutA ∈ GLn(Q) \ A, ||AX(z`)|| tend vers ∞ quand ` tend vers ∞.

6.1.1 Resultats geometriques

Soit f un polynome de Q[X1, . . . , Xn], et H ⊂ Cn+1 l’hypersurface definie par f − T = 0 (ou T

est une nouvelle variable). Etant donne x = (x1, . . . , xn) ∈ Cn, on note Fi : Cn → Cn+1 l’applicationpolynomiale envoyant x sur :

((∂f/∂Xi) (x), (X1∂f/∂Xi) (x), . . . , (Xn∂f/∂Xi) (x))

et Fi : Cn → Cin+i+1 l’application polynomiale envoyant x sur :

(F1(x), F2(x), . . . , Fi(x), f(x)) .

On considere dans la suite l’application polynomiale ϕ : Cn → Cn2+n+1 envoyant x = (x1, . . . , xn)

sur(F1(x), . . . , Fn(x), f(x))

qui coincide avec Fn. Pour toute application polynomiale ψ, on note Γψ l’image de ψ et Γψ sa cloture deZariski. Pour (i, j) ∈ 1, . . . , n2, on introduit les nouvelles variables ai, et ai,j telles que Γϕ est definiecomme la variete algebrique associee a l’ideal :

〈f − T, (∂f/∂Xi − ai)i∈1,...,n , (Xi.∂f/∂Xj − ai,j)(i,j)∈1,...,n2〉

intersecte avec l’anneau des polynomes Q[T, a1, . . . , an, a1,1, . . . , an,n].Soit Li ⊂ Cin+i+1 l’axe de coordonnee de T , c’est-a-dire la droite definie par :

a1 = · · · = ai = a1,1 = · · · = an,1 = · · · = a1,i = · · · = an,i = 0.

La droite Ln est notee L dans la suite.Dans [82, 74] Kurdyka et ses collaborateurs montrent que Γϕ ∩ L est egale a l’ensemble des valeurs

critiques generalisees de f . L’ensemble des valeurs critiques asymptotiques de f , qu’on note K∞(f), estcaracterise comme etant l’intersection du lieu de non-proprete de ϕ avec L.

103

6.1.2 Caracterisation geometrique des valeurs critiques generalisees sous des hypothesesde proprete

Dans la suite, pour i = n, . . . , 2, on considere les projections :

Πi : Cn+1 → Ci

(x1, . . . , xn, t) 7→ (xn−i+2, . . . , xn, t)

Pour i = 1, . . . , n− 1, soit Wn−i ⊂ Cn+1 la cloture de Zariski de l’ensemble constructible defini par :

f − T =∂f

∂X1= · · · = ∂f

∂Xi= 0,

∂f

∂Xi+16= 0.

On notera aussi H par Wn.

On considerera dans la suite des applications polynomiales entre des varietes algebriques complexesou reelles. La notion de proprete relatives a ces applications sera alors relative aux topologies induitespar les les topologies metriques de C ou R.

Etant donne A ∈ GLn(Q) et j ∈ 2, . . . , n, on dira que la propriete Pj(A) est satisfaite si etseulement si pour tout i ∈ j, . . . , n, la restriction de l’application Πi a WA

i est propre et la restrictionde l’application Πi+1 a Wi est birationnelle sur son image.

On supposera dans la suite de ce paragraphe qu’il existe un ensemble Zariski ferme A ( GLn(Q) telque pour tout A ∈ GLn(Q) \ A et j ∈ 2, . . . , n, the propriete Pj(A) est satisfaite.

Remarque. Remarquons que d’apres le theoreme de Bertini-Sard theorem [139], si P(A) est vraie, alorsla restriction de Πi a Wi est une application finie et alors WA

i a pour dimension i.

On prouve ci-dessous que si P2(A) est satisfaite, etant donne c ∈ K∞(f), il existe une suite de points(z`)`∈N dans WA

1 tel que :– f(z`) tend vers c quand ` tend vers ∞– ||z`|| tend vers ∞ quand ` tend vers ∞– ||z`||.||dz`

f || tend vers 0 quand ` tend vers ∞si bien que l’existence d’une valeur critique asymptotique peut se lire sur W1 qui est de dimension 1.

Proposition 28. Considerons c ∈ K∞(f). Il existe un ferme de Zariski A ( GLn(C) tel que pour toutA ∈ GLn(Q) \ A, il existe une suite de points (z`)`∈N telle que :

– pour tout ` ∈ N, z` ∈WAn−1 ;

– fA(z`)→ c quand `→∞ ;– ||z`|| tend vers ∞ quand ` tend vers ∞ ;– ||z`||.||dz`

fA|| → 0 quand `→∞.

Le resultat suivant montre que sous des hypotheses portant sur la proprete des projections Πi et ladimension des varietes polaires, les valeurs critiques generalisees peuvent etre caracterisees en etudiantla variete polaire W1 qui est une courbe.

Proposition 29. Considerons c ∈ K∞(f). Il existe un ferme de Zariski A ( GLn(C) tel que pour toutA ∈ GLn(Q) \ A, il existe une suite de points (z`)`∈N telle que :

– pour tout ` ∈ N, z` ∈WA1 ;

– fA(z`)→ c quand `→∞ ;– ||z`|| tend vers ∞ quand ` tend vers ∞ ;– ||z`||.||dz`

fA|| → 0 quand `→∞.

6.1.3 Garantir les hypotheses de proprete

On montre maintenant qu’il existe un ferme de ZariskiA ∈ GLn(C) tel que pour tout A ∈ GLn(Q)\A,la propriete P1(A) est satisfaite, ce qui est resume dans la proposition suivante.

Proposition 30. Il existe un ferme de Zariski A ( GLn(C) tel que pour tout A ∈ GLn(Q) \ A et pourtout j ∈ 1, . . . , n− 1 :

– la restriction de Πj a Wj est propre.

104

– la restriction de Πj+1 a Wj est birationnelle sur son image.

Dans [132], les auteurs montrent qu’etant donnee une hypersurface H ⊂ Cn+1, il existe un ferme deZariski A ( GLn+1(C) tel que pour j ∈ 1, . . . , n− 1 et pour tout A ∈ GLn+1(Q) \A, la restriction deΠj a WA

j est propre et satisfait une propriete de normalization de Nœther.Ce resultat ne peut pas etre utilise tel quel puisqu’ici on considere une hypersurface definie par

f − T = 0 et qu’on n’autorise que des changements de variables sur X1, . . . , Xn. Neanmoins, le proceded’intersection incrementale donne dans [60, 59, 57], qui est utilise dans la preuve des resultats de [132]permet de montrer que :

Proposition 31. Pour i = 1, . . . , n, on note ∆Ai les ideaux associes a la cloture de Zariski de l’ensemble

constructible defini par :∂fA

∂X1= · · · = ∂fA

∂Xi= 0,

∂fA

∂Xi+16= 0

Il existe un ferme de Zariski A ( GLn(C) tel que :– pour tout i ∈ 1, . . . , n et pour tout premier PA

i associe a ∆Ai , l’extension C[X>i+1]→ C[X]/PA

i

est entiere (ou on note X>i+1 l’ensemble des variables Xi+1, . . . , Xn et X l’ensemble des variablesX1, . . . , Xn).

– pour tout i ∈ 2, . . . , n−1, la restriction de la projection πi : (x1, . . . , xn)→ (xi, . . . , xn) ∈ Cn−i+1

a la variete algebrique definie par ∆Ai est birationnelle sur son image.

On peut alors utiliser la preuve de [132, Proposition 3, Section 2.5], qui est fondee sur [73, Lemma3.10] (permettant de relier la proprete de πi au fait que les extensions definies ci-dessus sont entieres)pour obtenir le resultat suivant :

Lemme 22. On note πi+1 la projection (x1, . . . , xn) ∈ Cn → (xi+1, . . . , xn) ∈ Cn−i. Il existe un fermede Zariski A ( GLn(C) tel que pour tout A ∈ GLn(Q) \ A et pour tout i ∈ 1, . . . , n, la restriction deπi+1 a la variete algebrique definie par ∆A

i est propre.

La preuve du fait que si la restriction de πi a la variete algebrique definie par ∆Ai est propre, alors

la restriction de Πi a WAi est propre se fait de maniere classique en utilisant des arguments de nature

topologique.Le fait que la restriction de Πi a WA

i est birationnelle provient du fait que la restriction de πi a ∆Ai

l’est aussi.

On dispose maintenant de tous les outils necessaires pour enoncer un resultat de nature geometriquequi permet de caracteriser l’ensemble des valeurs critiques generalisees de f .

6.1.4 Resultat geometrique principal

La combinaison des propositions 29, et 30 ainsi que le lemme 21 menent alors au resultat suivant.

Theoreme 39. Il existe un ferme de Zariski A ( GLn(C) tel que pour tout A ∈ GLn(Q) \A l’ensembleK∞(f) des valeurs critiques asymptotiques de f est contenu dans l’ensemble de non-proprete de la res-triction de la projection πT : (x1, . . . , xn, t)→ t a la cloture de Zariski de l’ensemble constructible definipar :

fA − T =∂fA

∂X2= · · · = ∂fA

∂Xn= 0,

∂fA

∂X16= 0.

Remarque. Remarquons que le resultat ci-dessus ne fait qu’affirmer que K∞(f) est contenu dans le lieude non-proprete de la restriction de la projection Π : (x1, . . . , xn, t) ∈ Cn+1 → t ∈ C a W1. Cet ensembleest de dimension 0 d’apres [73]. Neanmoins, cette inclusion peut etre stricte comme l’illustre l’exempleci-dessous.

Exemple. Dans [133], les auteurs utilisent [73, Lemma 3.10] pour calculer le lieu de non-proprete de larestriction d’une projection a une variete algebrique. En notant IA l’ideal associe a WA

1 , cet algorithmes’instantie dans notre cas particulier a calculer a calculer le polynome caracteristique de la multiplicationpar X1 dans Q(T )[X1, . . . , Xn]/I

A. Le lieu de non-proprete de la projection sur T est alors la reuniondes lieux d’annulation des denominateurs de ce polynome caracteristique vu comme un polynome univarieen X1.

105

Considerons donc le polynome suivant

f = X1 +X21X2 +X4

1X2X3

En effectuant le changement de variables ci-dessous

X1 ← X1 +X2 +X3

X2 ← X1 + 2X2 + 3X3

X3 ← X1 + 4X2 + 9X3

on trouve que le lieu de non-proprete de la projection sur T est le lieu d’annulation de polynome univarieci-dessous

256T 2 (20T + 1)

En effectuant le changement de variables ci-dessous

X1 ← 10213X1 + 41543X2 + 51532X3

X2 ← X1 + 44904X2 + 10334X3

X3 ← X1 + 58200X2 + 1597X3

on trouve que le lieu de non-proprete de la projection sur T est le lieu d’annulation du polynome univarieci-dessous

T 2 (898540T + 117941) .

Ainsi, K∞(f) est le lieu d’annulation du pgcd des ces polynomes univaries et est donc 0.

6.1.5 L’algorithme et sa complexite

Etant donne un polynome f ∈ Q[X1, . . . , Xn], on nomtre maintenant comment calculer l’ensembledes valeurs critiques generalisees K(f) de l’application polynomiale x ∈ Cn → f(x) ∈ C.

Comme les algorithmes presentes dans le chapitre precedent, nos algorithmes dependent ici de proce-dures d’elimination algebrique. Ainsi, on utilisera soit des bases de Grobner soit la resolution geometrique.

Nous decrivons ci-dessous des algorithmes permettant les calculs de K0(f) et de K∞(f) fondes soitsur des calculs de bases de Grobner soit sur des calculs de resolution geometrique. L’utilisation des basesde Grobner permet d’obtenir un algorithme deterministe dont les performances en pratique sont satisfai-santes. L’usage de l’algorithme de resolution geom’etrique permet d’obtenir un algorithme probabilistedont la complexite est bien maıtrisee.

Calcul de K0(f). La premiere etape d’un algorithme permettant de calculer K(f) est le calcul del’ensemble des valeurs critiques K0(f) de f . Celles-ci sont representees comme les racines d’un polynomeunivarie. En notant I l’ideal

〈f − T, ∂f∂X1

, . . . ,∂f

∂Xn〉.

le theoreme de Sard assure qu’il existe un polynome non identiquement nul P ∈ Q[T ] tel que : 〈P 〉 =I ∩Q[T ] et, par definition que l’ensemble des racines de P est K0(f).

Les bases de Grobner permettent de tels calculs sur les ideaux d’elimination.

106

Algorithme calculant K0(f) via des calculs de bases deGrobner

– Entree : un polynome f dans Q[X1, . . . , Xn].– Sortie : un polynome univarie P ∈ Q[T ] such that its zero-set

is K0(f).– Calculer une base de Grobner G pour un ordre d’elimination

[X1, . . . , Xn] > [T ] de l’ideal engendre par :

〈f − T, ∂f∂X1

, . . . ,∂f

∂Xn〉.

– Retourner l’element de G appartenant a Q[T ].

Remarquons maintenant que ]K0(f) 6 (D−1)n puisqueK0(f) est defini comme l’ensemble des valeursprises par un polynome sur chaque composante primaire isolee d’un ideal engendre par n polynomes dedegre au plus D − 1. On pourrait ainsi esperer obtenir un algorithme calculant une representation deK0(f) en une complexite (D − 1)O(n). Ce but peut etre atteint en substituant les calculs de bases deGrobner par des calculs de resolutions geometriques. La premiere etape est le calcul de parametrisationsrationnelles de points generiques sur chaque composante equi-dimensionnelle de la variete algebriquedefinie par :

∂f

∂X1= · · · = ∂f

∂Xn= 0.

Une fois que celles-ci sont obtenues, on peut obtenir les valeurs prises par f en ces points qui sont encodeespar un polynome univarie.

Algorithme probabiliste calculant K0(f) via des calculsde resolution geometrique

– Entree : un polynome f dans Q[X1, . . . , Xn].– Sortie : un polynome univarie P ∈ Q[T ] such that its zero-set

is K0(f).– Soit G l’ensemble des parametrisations rationnelles retournees

par l’algorithme de resolution geometrique sur une entree don-nee par ∂f

∂X1, . . . , ∂f

∂Xn.

– Pour chaque element g = (q, q0, q1, . . . , qn) deG, substituer dansf−T les variablesXi par qi

q0pour i = 1, . . . , n. Mettre le resultat

au meme denominateur et calculer le resultant du polynomeobtenu et de q par rapport a T .

– Retourner le produit des polynomes obtenus.

La complexite de l’algorithme ci-dessus est bornee par le cout duu calcul des parametrisations ra-tionnelles de points generiques sur les composantes equi-dimensionnelles de la variete algebrique definiepar :

∂f

∂X1= · · · = ∂f

∂Xn= 0

Calcul de K∞(f). Il reste a montrer comment calculer K∞(f). D’apres la Remarque 6.1.4 et l’exemple6.1.4, ceci peut se faire via des calculs d’algebre lineaire dans l’algebre-quotient Q(T )[X1, . . . , Xn]/I

A ouIA est l’ideal associe a WA

1 .

107

Algorithme deterministe. Pour obtenir un algorithme deterministe, on doit pouvoir verifier quele changement de variables aleatoirement choisi verifie les prorietes requises pour pouvoir appliquer letheoreme 39. Remarquons tout d’abord que les mauvais choix de matrices A sont contenus dans un sous-ensemble strict et ferme (pour la topologie de Zariski) de GLn(C). Etant donne f ∈ Q[X1, . . . , Xn],on note deg(f, [X1, . . . , Xi]) le degre de f quand il est vu comme un polynome dans l’anneau despolynomes Q(Xi+2, . . . , Xn)[X1, . . . , Xi] et on note ϕi l’application qui envoie f ∈ Q[X1, . . . , Xn] sur

Xdeg(f,[X1,...,Xi+1])0 f(X1

X0, . . . , Xi+1

X0, Xi+2, . . . , Xn).

D’apres [133, 89], la proprete de la restriction de Πi a la cloture de Zariski de l’ensemble constructibledefini par :

fA − T =∂fA

∂X1= · · · = ∂fA

∂Xi,

fA

∂Xi+16= 0

peut etre testee en calculant l’intersection de la cloture projective de WAn−i dans Pi+1(C) × Cn−i avec

l’hyperplan a l’infini. Ceci peut etre fait par des calculs de bases de Grobner (voir [42]). Un test preli-minaire consiste a appliquer ϕi au systeme definissant Wn−i, en y instantiant X0 a 1 et a verifier qu’ensubstituant Xk par 1 (pour k = 1, . . . , i − 1), le systeme obtenu engendre 〈1〉. En utilisant des calculsde bases de Grobner, de tels calculs s’effectuent en pratique tres rapidement. Des calculs modulo desnombres premiers peuvent aussi etre effectues pour des choix de matrices A ∈ GLn(Q) creuses.

Dans la suite on note SetOfNonProperness une routine prenant en entree un systeme d’equations etd’inequations polynomiales et un ensemble de variables et retourne une representation du lieu de non-proprete de la projection sur les variables donnees en entree restreinte a la cloture de Zariski de l’ensemblecontructible defini par le systeme donne en entree. On trouve la description d’une telle procedure dans[133, 89].

Algorithme calculant K∞(f) via des calculs de bases deGrobner

– Entree : un polynome f dans Q[X1, . . . , Xn].– Sortie : un polynome univarie P ∈ Q[T ] tel que l’ensemble de

ses racines contient K∞(f).– Choisir aleatoirement A ∈ GLn(Q) et verfier que ce choix est

suffisamment generique. Recommencer tant que ce n’est pas lecas.

– Retourner SetOfNonProperness([fA − T = ∂fA

∂X1= · · · =

∂fA

∂Xn−1= 0, ∂f

A

∂Xn6= 0], T)

Algorithme probabiliste. Comme dans le cas du calcul de K0(f), les bases de Grobner ne permettentpas d’obtenir des resultats de complexite satisfaisants, c’est-a-dire meme si le premier choix de A estcorrect. L’utilisation des calculs de resolution geometrique permet en revanche d’atteindre cet objectif.Il faudra neanmoins utiliser des extensions des resultats [136] au cas des systemes a parametres.

Plus precisement, dans le systeme d’equations et d’inegalites polynomiales

fA − T =∂fA

∂X1= · · · = ∂fA

∂Xn−1= 0,

∂fA

∂Xn6= 0

T est considere comme un parametre. D’apres [12], si le choix de A est suffisamment generique, il engendreun ideal radical de dimension 0 dans Q(T )[X1, . . . , Xn]. La sortie est une resolution geometrique

Xn = qn(X1,T )q0(X1,T )

...

X2 = q2(X1,T )q0(X1,T )

q(X1, T ) = 0

108

L’ensemble de non-proprete de la restriction de la projection sur T a la cloture de Zariski de l’ensembleconstructible defini par le systeme donne en entree est contenu dans le lieu d’annulation du plus petitcommun multiple des denominateurs des coefficients de q.

Algorithme probabiliste calculant K∞(f) via des calculsde resolution geometrique

– Entree : un polynome f dans Q[X1, . . . , Xn].– Sortie : un polynome univarie P ∈ Q[T ] tel que l’ensemble de

ses racines contient K∞(f).– Considerer T comme un parametre dans le systeme fA − T =

∂fA

∂X1= · · · = ∂fA

∂Xn−1= 0, ∂f

A

∂Xn6= 0 et calculer une resolution

geometrique.– Remonter le parametre.– Retourner le plus petit commun multiple des denominateurs des

coefficients du polynome eliminant q.

Estimations de complexite. D’apres le theoreme 19 (voir aussi [94]), les versions probabilistes desalgorithmes calculant des representations de K0(f) et K∞(f) permettent d’effectuer une analyse decomplexite pertinente. En effet, en utilisant des versions fortes du theoreme de Bezout (voir [53]), lasomme des degres des composantes primaires isolees de l’ideal engendre par :

∂f

X1= · · · = ∂f

Xn= 0

est bornee par (D−1)n (ou D est le degre de f). Ainsi, le polynome retourne par l’algorithme probabilistecalculant une representation de K0(f) a un degre borne par (D − 1)n.

On s’interesse maintenant au calcul de K∞(f). L’algorithme probabiliste donne ci-dessus calcule unpolynome univarie encodant le lieu de non-proprete de la restriction d’une projection a la cloture deZariski du lieu solution du systeme :

fA − T =∂fA

∂X1= · · · = ∂fA

∂Xn−1,

∂fA

∂Xn6= 0

qui a un degre borne par (D − 1)n−1 puisque, d’apres le theeoreme de Bezout, la cloture de Zariski dulieu de solutions complexes du systeme

fA − T =∂fA

∂X1= · · · = ∂fA

∂Xn−1,

∂fA

∂Xn6= 0

a un degre au plus (D − 1)n−1. D’apres [136], la remontee du parametre T s’effectue en une complexitequi est log-lineaire en la complexite d’evaluation du systeme polynomial ci-dessus et quadratique en ledegre de la courbe etudiee.

En bornant la complexite d’evaluation de f par Dn, la discussion mene au resultat de complexitesuivant.

Theoreme 40. L’algorithme probabiliste donne ci-dessus et calculant une representation de K0(f) ef-fectue au plus O(n7D4n) operations arithmetiques dans Q.

L’algorithme probabiliste donne ci-dessus et calculant une representation de K∞(f) effectue au plusmost O(n7D4n) operations arithmetiques dans Q.

Remarque. D’apres la remarque 5.1.3, la complexite binaire des versions probabilistes des algorithmesdonnes ci-dessus est O(τn7D5n) ou τ borne la taille binaire des coefficients de f .

109

6.2 Calcul de valeurs critiques generalisees : le cas des applications polyno-miales restreintes a une variete algebrique

Etant donnee une variete algebrique lisse et equi-dimensionnelle V ⊂ Cn definie par un systemed’equations polynomiales

f1 = · · · = fs = 0

(avec fi ∈ Q[X1, . . . , Xn] pour i ∈ 1, . . . , s) engendrant un ideal radical, on considere maintenant uneapplication polynomiale ϕ : x ∈ V → ϕ(x) ∈ C (avec ϕ ∈ Q[X1, . . . , Xn]). Notre objectif ici est d’exhiberun algorithme calculant l’ensemble des valeurs critiques generalisees de ϕ, c’est-a-dire (voir definition 17du chapitre 4) l’ensemble des points c ∈ C pour lesquels il existe une suite de points (x`)`∈N ⊂ V etC ∈ C tels que :

– ϕ(x`) tend vers y quand ` tend vers ∞ ;– pour tout M ∈MC , M(x`) tend vers 0 quand ` tend vers ∞ ;– pour tout M ∈ MC , les produits (X1.M) (x`), . . . , (Xn.M) (x`) tendent vers 0 quand ` tend vers∞ ;

ou on utilise les notation suivantes :– La matrice jacobienne associee a (f1, . . . , fs, ϕ1, . . . , ϕk) est notee Jac(F,ϕ) ;

– Etant donne un sous-ensemble I = i1, . . . , in−d ⊂ 1, . . . , s de cardinalite n − d et un sous-ensemble J = j1, . . . , jn−d+1 ⊂ 1, . . . , n de cardinalite n−d+1, on note MI,J ∈ Q[X1, . . . , Xn]le mineur de Jac(F,ϕ) de taille n− d+ 1 construit en prenant les rangees i1, . . . , in−d, s+ 1, et lescolonnes j1, . . . , jn−d+1 de Jac(F,ϕ) ;

– Etant donnes de tels sous-ensembles I et J comme ci-dessus et i ∈ I et j ∈ J on note MI\i,J\j

le mineur de Jac(F,ϕ) suivant la meme contruction que precedemment. Si ce mineur est non nulon note M i,j

I,J la fraction rationnelle MI,J /MI\i,J\j, sinon on pose M i,jI,J = 0.

– on note alors C = (i1, j1) ∈ I1 × J1, . . . , (iN , jN ) ∈ IN × JN un ensemble de couples tels quepour α = 1, . . . , N , le denominateur de la fraction rationnelle M iα,jα

Iα,Jαn’est pas un diviseur de zero

dans Q[X1, . . . , Xn]/〈f1, . . . , fs〉, et on note C l’ensemble de tels couples C.

– Etant donne C = (iα, jα) ∈ Iα × Jα | α = 1, . . . , N ∈ C, on note MC l’ensemble des fractionsrationnelles M iα,jα

Iα,Jαpour α = 1, . . . , N .

On va proceder comme dans le paragraphe precedent, c’est-a-dire en exhibant une courbe de pointscritiques telle que l’ensemble des valeurs critiques asymptotiques de ϕ est inclus dans le lieu de non-proprete d’une certaine projection restreinte a cette courbe.

Pour cela, on considere les projections :

Πi : Cn+1 → Ci

(x1, . . . , xn, t) 7→ (xn−i+2, . . . , xn, t)

Etant donnee A ∈ GLn(Q) et T une nouvelle variable, on note V Aϕ la variete algebrique definie par :

fA

1 = · · · = fA

s = ϕ− T = 0.

Il alors est clair que calculer les valeurs critiques generalisees de ϕ est equivalent a calculer les valeurscritiques generalisees de la restriction de la projection πT : (x1, . . . , xn, t)→ t a V Tϕ .

L’ensemble des valeurs critiques generalisees de ϕ etant l’union des valeurs critiques et des valeurscritiques asymptotiques de ϕ, on concentre notre etude sur le calcul des valeurs critiques asymptotiquesde ϕ. Les valeurs critiques de ϕ sont aisement obtenues comme etant les images des points critiques dela restriction de πT a V par πT . Dans la suite on note C0 la pre-image de ces valeurs critiques par πTdans Cn+1.

Enfin, on note C(Πi, VAϕ ) le lieu critique de Πi restreinte a V A

ϕ \ C0. Enfin, pour A ∈ GLn(Q) etj ∈ 2, . . . , n, on dira que la propriete Pj(A) est satisfaite si pour tout i ∈ , la restriction de Πi aC(Πi, V

Aϕ ) est propre et la restriction de Πi+1 a C(Πi, V

Aϕ ) est bi-rationnelle.

Dans ce contexte, les resultats du paragraphe 6.1.2 sont completement transposables. Il en est na-turellement de meme de la proposition 30, si bien qu’on peut comme dans le paragraphe precedentcaracteriser les valeurs critiques asymptotiques de ϕ comme appartenant au lieu de non-proprete d’unecourbe critique dans V A

ϕ , ceci etant conditionne par un choix suffisamment generique de A dans GLn(Q).On enonce donc directement la caracterisation algebrique des valeurs critiques asymptotiques de ϕ quenous obtenons.

110

Theoreme 41. Il existe un ferme de Zariski A ( GLn(C) tel que pour tout A ∈ GLn(Q) \A l’ensembleK∞(f) des valeurs critiques asymptotiques de ϕ restreinte a V est contenu dans l’ensemble de non-proprete de la restriction de la projection πT : (x1, . . . , xn, t) → t a la cloture de Zariski de l’ensembleconstructible C(Π2, V

Aϕ ) \K0.

L’algorithme de calcul des valeurs critiques asymptotiques de ϕ consiste donc a choisir suffisammentgeneriquement A ∈ GLn(Q) et a calculer C(Π2, V

Aϕ ).

Ainsi, on obtient l’algorithme ci-dessous.

Algorithme : Calcul des valeurs critiques generaliseesd’une application polynomiale restreinte a une variete

algebrique lisse et equi-dimensionnelle

– Entree : Un systeme d’equations polynomiales f1 = · · · =fs = 0 dans Q[X1, . . . , Xn] engendrant un ideal radical equi-dimensionnel dont la variete algebrique associee V est lisse, etun polynome ϕ ∈ Q[X1, . . . , Xn].

– Sortie : Un polynome univarie non nul dont l’ensemble desracines contient l’ensemble des valeurs critiques generalisees del’application polynomiale x ∈ Cn → ϕ(x) restreinte a V .

1. Choisir aleatoirement A ∈ GLn(Q).

2. Calculer une representation de la courbe C(Π2, VAϕ ).

3. Calculer un polynome univarie representant le lieu de non-proprete de la restriction de πT a C(Π2, V

Aϕ ).

4. Calculer un polynome reprsentant les valeurs critiques de πTrestreinte a V A

ϕ .

5. Retourner le produit des polynomes precedemment calcules.

Si on choisit d’utiliser comme procedure d’emination algebrique les algorithmes de calcul de resolutiongeometrique, on obtient sans peine une estimation de la complexite de l’algorithme ci-dessus.

Theoreme 42. Soit V ⊂ Cn une variete algebrique lisse definie par

f1 = · · · = fs = 0

ou les polynomes fi (pour i = 1, . . . , s) appartiennent a Q[X1, . . . , Xn], sont de degre borne par D etengendrent un ideal radical et equi-dimensionnel de dimension d.

Soit ϕ ∈ Q[X1, . . . , Xn] de degre lui aussi borne par D et L la longueur d’un programme d’evaluationde (f1, . . . , fs, ϕ).

L’algorithme ci-dessus calcule l’ensemble des valeurs critiques generalisees de x ∈ V → ϕ(x) en

O(n7(n− d)4dD4n)

operations arithmetiques dans Q.

Notons que dans la complexite ci-dessus, le facteur (n − d)4d provient du fait qu’on n’accede pasaux valeurs critiques asymptotiques via une formulation lagrangienne mais en annulant des mineurs dematrice jacobienne. Comme on a ramene le calcul de ces valeurs critiques asymptotiques au calcul dulieu de non-proprete d’une projection restreinte a une courbe de points critiques et comme cette courbede points critiques peut etre definie comme la projection de l’ensemble des solutions d’un systeme “a laLagrange”, on pourrait ecrire une estimation de complexite plus fine. Ceci dit, on a vu que les carac-terisations lagrangiennes de points critiques permettent de lever une hypothese d’equi-dimensionnalite(voir paragraphe 5.5 du chapitre precedent). L’usage de ce type de formulation pour lever l’hypothese

111

d’equi-dimensionnalite au calcul de valeurs critiques asymptotiques presente dans ce chapitre est le su-jet d’etudes actuelles qui devraient donc exhiber des complexites meilleures que celle qui est donneeci-dessus.

Enfin, comme dans le paragraphe precedent, on peut obtenir des versions certifiees de cet algorithmeen utilisant des calculs de bases de Grobner. Les implantations qui en resultent ont des performancespratiques satisfaisantes meme si pour des raisons qu’on ne detaillera pas ici, des ameliorations peuventetre attendues.

6.3 Application au calcul d’un point par composante connexe dans un en-semble semi-algebrique defini par une inegalite

Dans ce paragraphe, on montre comment utiliser l’algorithme de calcul de valeurs critiques generaliseesdonne dans le paragraphe 6.1 de ce chapitre pour calculer au moins un point par composante connexed’un ensemble semi-algebrique defini par une seule inegalite ou une seule inequation.

Le procede est fonde sur les proprietes topologiques des valeurs critiques generalisees (voir theoreme11 du chapitre 4). En effet, il existe un reel suffisamment petit e0 ∈]0,+∞[ tel que chaque composanteconnexe de S contient une composante connexe du lieu reel de l’hypersurface definie par f − e0 = 0et qu’il en est de meme pour tout reel e compris entre 0 et e0 (voir [21, chapitre 13]). On peut ainsireduire la recherche d’un point par composante connexe dans S a la recherche d’un point par composanteconnexe dans le lieu reel d’une hypersurface si on sait determiner e0. Or, le fait que pour tout e ∈ R

compris entre 0 et la plus petite valeur critique generalisee positive de l’application f : x ∈ Rn → f(x),les lieux reels des hypersurfaces definies par f − e = 0 sont diffeomorphes implique qu’il suffit de calculerles valeurs critiques generalisees de f pour obtenir e0.

Le resultat ci-dessous se prouve donc en utilisant des techniques classiques de geometrie algebriquereelle.

Theoreme 43. Soit f un polynome de Q[X1, . . . , Xn] et S ( Rn l’ensemble semi-algebrique defini parf > 0. Soit e ∈ Q tel que 0 < e < min(|r|, r ∈ K(f) ∩ R).

Considerons l’hypersurface He definie par f − e = 0. Alors, pour chaque composante connexe S de S,il existe une composante connexe C de He ∩ Rn telle que C ⊂ S.

Remarque. D’apres le theoreme 43, decider du vide de l’ensemble semi-algebrique defini par f > 0 sereduit a decider du vide du lieu reel d’une hypersurface.

En substituant f par −f on peut evidemment ecrire un resultat similaire si l’ensemble semi-algebriqueest defini par f < 0 ou encore par f 6= 0.

L’Algorithme. L’algorithme qu’on decrit ci-dessous s’appuie sur le theoreme 43. Etant donne unpolynome f de Q[X1, . . . , Xn] de degre D, cet algorithme calcule au moins un point par composanteconnexe de l’ensemble semi-algebrique defini par f > 0. Supposons tout d’abord que S = Rn. Dans cecas, la donnee de n’importe quel point de Rn convient.

Si S 6= Rn, la premiere etape consiste a calculer l’ensemble des valeurs critiques generalisees del’application polynomiale f : x ∈ Cn → f(x) ∈ C. En utilisant la version probabiliste de l’algorithmedecrit dans le paragraphe 6.1.5 de ce chapitre, ceci peut se faire en O(n7D4n) operations arithmetiquesdans Q.

On a vu dans le paragraphe 6.1.5 que le degre des polynomes dont l’ensemble des racines contientces valeurs critiques generalisees est borne par O(Dn). Ainsi, isoler les racines reelles de ces polynomesse fait en O(D3n) operations arithmetiques dans Q (voir [126]). Choisir un rationnel positif e comprisentre 0 et la plus petite valeur critique generalisee reelle positive est immediat.

Une fois ce travail effectue, il reste a calculer au moins un point par composante connexe de l’ensemblealgebrique reel defini par f − e = 0. Puisque l’ensemble des valeurs critiques generalisees de f contientl’ensemble des valeurs critiques de f , l’hypersurface definie par f − e = 0 est lisse. On peut donc utiliserles algorithmes donnes dans le paragraphe 5.5 du chapitre 5. La complexite des algorithmes probabilistesdonnes dans ce paragraphe est O(n7D3n) operations arithmetiques dans Q.

Pour distinguer les cas S = Rn et S 6= Rn, il faudra ajouter aux parametrisations rationnelles qu’onvient de calculer un point p ∈ Qn choisi aleatoirement (si f(p) > 0 bien sur).

Ainsi, si on se donne les routines :

112

– GeneralizedCriticalValues : qui prend en entree un polynome f ∈ Q[X1, . . . , Xn] et retourne unpolynome non nul dont l’ensemble des racines contient l’ensemble des valeurs critiques generaliseesde l’application x ∈ Cn → f(x) ∈ C ;

– Isolate : qui prend en entree un polynome univarie et isole les racines reelles de ce polynome ;– Sampling : qui prend en entree un polynome f ∈ Q[X1, . . . , Xn] et calcule au moins un point par

composante connexe de la variete algebrique reelle definie par f = 0.on obtient l’algorithme suivant :

Algorithme : Calcul d’au moins un point par composanteconnexe d’un semi-algebrique defini par une inegalite

– Entree : Un polynome f ∈ Q[X1, . . . , Xn]– Sortie : Une famille de parametrisations rationnelles encodant

un nombre fini de points et ayant une intersection non videavec chaque composante connexe de l’ensemble semi-algebriquedefini par f > 0.

1. Poser P := GeneralizedCriticalValues(f).

2. Tant P est divisible par sa variable (qu’on note T ) poserP := P/T

3. Poser intervalles := Isolate(P ).

4. Si 0 appartient a l’un des intervalles d’isolation, revenir aupas precedent en augmentant la precision.

5. Si non choisir e ∈ Q positif et plus petit que la plus petitevaleur critique generalisee positive encodee par P .

6. Poser sols := Sampling(f − e).7. Choisir aleatoirement p ∈ Qd et si f(p) > 0 retourner l’union

de sols et p.

La discussion ci-dessus donne le resultat de complexite suivant :

Theoreme 44. Soit f un polynome de Q[X1, . . . , Xn] de degre D et S l’ensemble semi-algebrique definipar f > 0. Les versions probabilistes de l’algorithme donne ci-dessus calculent au moins un point parcomposante connexe de S en effectuant O(n7D4n) operations arithmetiques dans Q.

Implantations et performances pratiques. L’usage des bases de Grobner a permis de donner desalgorithmes deterministes de calculs de valeurs critiques generalisees et de calcul d’au moins un pointpar composante connexe dans une hypersurface lisse (voir paragraphes 5.5 et 6.1). Les performancespratiques des implantations qui en resultent sont significativement meilleures que celles des meilleursimplantations de l’algorithme de decomposition cylindrique algebrique si le polynome donne en entreeest irreductible.

Dans le cas contraire, la decomposition cylindrique algebrique tire profit des factorisations des poly-nomes apparaissant dans la phase de projection. Ceci induit des simplifications et des chutes de degrequi n’apparaissent pas si on fait un usage aveugle de l’algorithme qu’on vient de decrire. Ceci dit, dansle cas ou f n’est pas irreductible, donner au moins un point par composante connexe du semi-algebriquedefini par f > 0 est equivalent a donner au moins un point par composante connexe de semi-algebriquesdefinis par des systemes d’inegalites obtenus a partir des facteurs de f . Ceci est traite dans le paragraphesuivant.

Avant d’aborder ce paragraphe, nous etudions une application importante (car apparaissant dansdiverses applications, voir par exemple [48]) des algorithmes calculant au moins un point par composanteconnexe d’un semi-algebrique defini par une inegalite (ou une inequation) : il s’agit de la determinationde l’egalite entre dimension complexe et dimension reelle de l’ensemble des solutions d’une equation

113

polynomiale f = 0. Ceci revient a determiner l’existence de points reels reguliers dans une hypersurfacecomplexe.

Application : determination de l’existence de points reels reguliers dans une hypersurfaceOn s’interesse au probleme suivant : etant donne un polynome f ∈ Q[X1, . . . , Xn] de degre D, decider sil’hypersurface H definie par f = 0 contient des points reels reguliers. Ce probleme consiste a decider si ladimension reelle de H∩Rn est egale a la dimension complexe de H. De tels problemes apparaissent dansde nombreuses applications (en particulier en geometrie algorithmique ou en demonstration automatiquede theoreme geometrique automatique) etudiant des situations geometriques generiques.

Comme on l’a mentionne dans le chapitre 3, ces questions peuvent etre resolues en utilisant l’al-gorithme de decomposition cylindrique algebrique mais la complexite de cette methode est doublementexponentielle en le nombre de variables. En pratique, ces methodes sont limitees aux situations ne faisantpas intervenir plus de 4 variables.

Un tel probleme peut aussi etre traıte en calculant le radical reel de l’ideal 〈f〉 ⊂ Q[X1, . . . , Xn] (quiest l’ideal radical de Q[X1, . . . , Xn] dont la variete algebrique associee est la plus petite – pour l’ordreinduit par l’inclusion – contenant H ∩ Rn). La dimension du radical reel est alors la dimension reelle deH∩Rn. Un tel ideal peut etre calcule en utilisant les algorithmes donnes dans [25, 39]. Ces algorithmesfont des etudes recursives de lieux singuliers imbriques les uns dans les autres a l’instar des algorithmesdonnes dans les paragraphes 5.3 et 5.4 du chapitre precedent. A notre connaissance, borner les degresdes lieux singuliers etudies dans ces algorithmes conduit aussi a des quantites doublement exponentielleen le nombre de variables.

La dimension reelle de H peut etre calculee en utilisant l’algorithme donne dans [21, Chapter 14].

La complexite de cet algorithme est DO(n2). Malheureursement, il utilise des methodes de reductionsimilaire a celles vues dans le paragraphe 5.2 du chapitre precedent, si bien que la constante de complexiteapparaissant ici en exposant est particulierement elevee.

Toutes les methodes mentionnees ci-dessus calculent exactement la dimension reelle de H∩Rn ce quiest une specification de sortie plus forte que le probleme qu’on cherche a resoudre. Dans le cas ou f estsans facteurs carres, le probleme qu’on cherche a resoudre peut etre traite en decidant si au moins undes ensembles semi-algebriques Si ⊂ Rn defini par f = 0, ∂f∂Xi

6= 0 (pour i = 1, . . . , n) est non vide. Dansle paragraphe suivant on se dotera d’algorithmes permettant de decider du vide de tels ensembles semi-algebriques. Mais il faut noter ici que cette methode fait dependre la resolution du probleme d’un facteurcombinatoire qu’on voudrait pouvoir eviter. De plus, on verra que l’etude de chacun de ces ensemblessemi-algebriques se reduit a l’etude de 2 ensembles algebriques reels.

Le resultat donne ci-dessous montre comment reduire le probleme de determiner l’existence de pointsreels reguliers dans une hypersurface definie par f = 0 au probleme de decider si il existe un couple depoints (x, x′) ∈ Rn ×Rn tels que f(x) > 0 et f(x′) < 0. Les versions probabilistes de cet algorithme ontune complexite en O(n7D4n) operations arithmetiques dans Q.

Theoreme 45. Soit f un polynome sans facteurs carres dans Q[X1, . . . , Xn] et H ⊂ Cn l’hypersurfacedefinie par f = 0. Il existe des points reels reguliers dans H si et seulement si il existe (x, x′) ∈ Rn×Rn

tels que f(x) > 0 et f(x′) < 0.

L’Algorithme. L’algorithme qu’on obtient est evidemment fonde sur le theoreme 45. Son entree estun polynome f de Q[X1, . . . , Xn] de degre D. On commence par calculer la partie square-free de f (qu’oncontinue de noter f ci-dessous).

Il nous faut alors determiner le signe de f sur un point rationnel de Qn choisi aleatoirement en lequelf ne s’annule pas.

Si f est evaluee negativement sur ce point, il faut alors decider du vide de l’ensemble semi-algebriquedefini par f > 0 (sinon on doit evidemment decider du vide du semi-algebrique defini par f < 0).En utilisant l’algorithme probabiliste donne ci-dessus qui se base sur des calculs de valeurs critiquesgeneralisees, ceci se fait en O(n7D4n) operations arithmetiques dans Q.

Ainsi, si on se dote de la routine suivante :– SamplingIneq : qui prend en entree un polynome f ∈ Q[X1, . . . , Xn] et retourne une famille de

parametrisations rationnelles dont l’ensemble des solutions reelles a une intersection non vide avecchaque composante connexe du semi-algebrique defini par f > 0 ;

114

– Real : qui prend en entree une parametrisation rationnelle et retourne des approximations desracines reelles encodees par les parametrisations donnees en entree.

on obtient l’algorithme ci-dessous.

Algorithme : Decision de l’existence de points reelsreguliers dans une hypersurface

– Entree : Un polynome f ∈ Q[X1, . . . , Xn]– Sortie : true si il existe des points reels reguliers dans l’hyper-

surface H ⊂ Cn definie par f = 0, false sinon.

1. Choisir p ∈ Qn aleatoirement.

2. Tant que f(p) = 0 retourner a l’etape precedente.

3. Si f(p) < 0 alors poser Param=SamplingIneq(f) et si∪P∈ParamReal(P) est non vide retourner true sinon retour-ner false

4. Si f(p) > 0 alors poser Param=SamplingIneq(-f) et si∪P∈ParamReal(P) est non vide retourner true sinon retour-ner false

En pratique, cet algorithme tire pleinement profit de l’efficacite de l’algorithme de calcul d’au moinsun point par composante connexe d’un ensemble semi-algebrique defini par une ineaglite et qu’on a donneprecedemment. Il a notamment permis de resoudre l’un des problemes poses pour l’etude du diagrammede Voronoi de trois droites de l’espace (voir [48]).

6.4 Application au calcul d’un point par composante connexe dans un en-semble semi-algebrique sous des hypotheses de regularite

6.4.1 Preliminaires

On considere maintenant un ensemble semi-algebrique S ⊂ Rn defini par le systeme :

f1 = · · · = fs = 0, g1 > 0, . . . , gk > 0

ou (f1, . . . , fs, g1, . . . , gk) est une famille de polynomes de Q[X1, . . . , Xn] telle que :– l’ideal engendre par 〈f1, . . . , fs〉 est un ideal radical et equi-dimensionnel de dimension d ;– la variete algebrique V ⊂ Cn definie par le systeme

f1 = · · · = fs = 0

est lisse.Dans [21], on trouve le resultat ci-dessous qui permet de reduire le calcul d’au moins un point par

composante connexe de S au calcul d’au moins un point par composante connexe de varetes algebriquesreelles definies par des systemes d’equations polynomiales dans Q〈ε〉[X1, . . . , Xn].

Proposition 32. [21] En reprenant les notations ci-dessus, soit C une composante connexe de S. Ilexiste une famille i1, . . . , i` ⊂ 1, . . . , k telle que la variete algebrique reelle definie par

f1 = · · · = fs = 0, gi1 − ε = · · · = gi` − ε = 0

(ou ε est un infinitesimal) ait une composante connexe incluse dans l’extension de C a R〈ε〉n.

L’usage du resultat ci-dessus pose plusieurs problemes :– tout d’abord, comme on l’a vu dans le chapitre precedent, l’introduction d’un infinitesimal alourdit

considerablement le cout de l’arithmetique : en effet, il faut alors mener les calculs dans Q(ε) ouQ〈ε〉 ;

115

– de plus, on n’a aucune garantie sur le fait que les varietes algebriques definies par les systemesmentionnes ci-dessus soient lisses et que ces systemes engendrent des ideaux equi-dimensionnels,or ce sont des cas auxquels on voudrait pouvoir se ramener car, comme on l’a vu dans le chapitreprecedent, ils sont plus faciles a apprehender.

On prefere donc utiliser un resultat similaire au theoreme 35 du chapitre precedent.

Theoreme 46. Soit C ⊂ Rn une composante connexe de l’ensemble semi-algebrique S ⊂ Rn defini par :

f1 = · · · = fs = 0, g1 > 0, . . . , gk > 0

ε un infinitesimal et a = (a1, . . . , as) ∈ Qs\0. Pour I = i1, . . . , i` ⊂ 1, . . . , k, on note V Iε,a ⊂ C〈ε〉n

la variete algebrique definie par

f1 = · · · = fs = 0, gi1 − ai1ε = · · · = gi` − ai`ε = 0.

et on suppose que 〈f1, . . . , fs〉 est radical et equi-dimensionnel de dimension d et que la variete algebriquequi lui est associee est lisse.

Alors, il existe I = i1, . . . , i` ⊂ 1, . . . , k et une composante connexe CIε,a de V I

ε,a ∩R〈ε〉n tels que

CIε,a est incluse dans l’extension de C dans R〈ε〉n.

De plus, il existe un ferme de Zariski A ⊂ Cn tel que pour tout a ∈ Qn \ A, V Iε,a est lisse, et l’ideal

engendre par f1, . . . , fs, gi1 −ai1ε, . . . , gik −ai`ε est soit radical equi-dimensionnel de dimension n−d− `soit egale a 〈1〉.

L’avantage de ce resultat est double :– si d est la dimension de la variete algebrique definie par f1 = · · · = fs = 0, il reduit le calcul

d’au moins un point par composante connexe de S a l’etude de∑min(d,k)i=0

(ki

)systemes d’equations

polynomiales ;– il permet l’usage des algorithmes efficaces de calcul d’au moins un point par composante connexe

de varietes algebriques reelles lisses, ce qui est un cas plus facile a apprehender.

6.4.2 L’algorithme

Il nous faut neanmoins eviter d’introduire explicitement l’infinitesimal mentionne dans le resultatci-dessus.

Pour cela, considerons-le comme une variable ainsi que la projection πε : (x1, . . . , xn, ε) ∈ Cn+1 → ε.D’apres le theoreme 46, il existe I ⊂ 1, . . . , k et e0 ∈ R positif tel que pour tout e ∈]0, e0[, la varietealgebrique reelle V I

e,a ∩ Rn a une composante connexe incluse dans S.Dans ce cas, choisir e0 suffisamment petit implique de :– s’assurer que les composantes connexes de V I

e,a∩Rn evoluent continument dans ]0, e0[ en fonction dee, pour cela il est suffisant d’assurer que πε realise une fibration localement triviale sur π−1

ε (]0, e0[)∩V Ie,a ;

– s’assurer que si pour tout e ∈]0, α[ tel que V Ie,a ∩ Rn contienne une composante connexe incluse

dans S (c’est-a-dire telle que les polynomes gj pour j ∈ 1, . . . , s sont positifs en chaque point decette composante), il en est de meme pour toutes les varietes V I

e′,a pour tout e′ ∈ [α, e0[.Le premier point peut aisement etre assure des lors qu’on dispose d’un algorithme efficace de valeurs

critiques generalisees. C’est essentiellement l’apport du paragraphe 6.2 de ce chapitre. Une fois ce calculeffectue, il suffit d’isoler la plus petite racine reelle positive du polynome definissant ces valeurs critiquesgeneralisees et de choisir un rationnel e1 compris entre 0 et la borne inferieure de cet intervalle d’isolationpour avoir un intervalle candidat ]0, e1[.

Le second point ne pose pas probleme lui non plus. En effet, on peut demontrer que si il existeun intervalle ]0, e′[⊂]0, e1[ tel que pour tout e ∈]0, e′[ il existe une composante connexe Ce de V ∩ Rn

incluse dans S et qu’il existe e > e′ tel que Ce contienne un point annulant gj (pour au moins unj ∈ 1, . . . , k \ I), alors il existe e′′ tel que la variete algebrique reelle definie par :

f1 = · · · = fs = 0,gi1ai1

= · · · = gi`ai`

=gjaj

= e′′

contienne au moins une composante connexe incluse dans S. Celle-ci sera donc detectee par l’etude de

la variete algebrique reelle VI∪jε,a .

116

L’intervalle candidat ]0, e1[ est donc le bon.

Ainsi, pour tout I ⊂ 1, . . . , k, on calcule les valeurs critiques generalisees des restrictions de πε aV Iε,a, on ramene notre etude a celles de varietes algebriques reelles definies par des systemes d’equations

polynomiales a coefficients dans Q. Ces varietes etant lisses et equi-dimensionnelles et les ideaux engendrespar les systemes les definissant etant radicaux, on peut utiliser sans aucun probleme les algorithmes duparagraphe 6.2 du chapitre precedent.

Si on se dote des routines suivantes :– GeneralizedCriticalValues : qui prend en entree un systeme d’equations polynomiales et une

variable X et retourne un polynome univarie non nul dont l’ensemble des racines reelles contientl’ensemble des valeurs critiques generalisees de la projection sur X restreinte a la variete algebriquereelle definie par le systeme donne en entree.

– Sampling : qui prend en entree un systeme d’equations polynomiales et retourne une famille deparametrisations rationnelles encodant au moins un point par composante connexe de la varietealgebrique reelle definie par le systeme donne en entree.

– TestSign : qui prend en entree une parametrisation rationnelle P et une liste L de polynomes etretourne une liste d’approximations numeriques des points reels encodes par P en lesquels chaquepolynome de la liste L est positif.

on obtient l’algorithme ci-dessous.

Algorithme : Calcul d’au moins un point par composante connexed’un semi-algebrique sous des hypotheses de regularite

(Cas d’un systeme d’equations et d’inegalites polynomiales)

– Entree : Un systeme d’equations et d’inegalites polynomialesf1 = · · · = fs = 0, g1 > 0, . . . , gk > 0 dans Q[X1, . . . , Xn] telleque 〈f1, . . . , fs〉 engendre un ideal radical et equi-dimensionneldont la variete algebrique associee est lisse.

– Sortie : Une famille de parametrisations rationnelles encodantau moins un point par composante connexe de l’ensemble semi-algebrique defini par le systeme donne en entree.

1. Choisir aleatoirement A ∈ GLn(Q) et a ∈ Qk et posersols := [].

2. Pour tout I ⊂ 1, . . . , k faire

(a) Construire le systeme F definissant V I,Aε,a ou ε est vu

comme une variable

(b) Poser P := GeneralizedCriticalValues(F, ε)

(c) Choisir e ∈ Q positif et plus petit que la plus petitevaleur critique generalisee encodee par P .

(d) Instantier ε a e dans F et affecter le resultat obtenu aFe.

(e) Poser points := TestSign(Sampling(Fe), gj , j ∈1, . . . , s \ I

(f) Poser sols := sols ∪ points.3. Retourner sols

Remarque. Le cas ou la variete algebrique V ⊂ Cn definie par

f1 = · · · = fs = 0

n’est pas equi-dimensionnelle ne pose pas de difficulte theorique. En effet, on peut toujours calculer unefamille de bases de Grobner engendrant des ideaux dont les varietes associees sont les composantes equi-

117

dimensionnelles de V . Il est alors possible d’utiliser l’algorithme precedent sur chacune des composantesequi-dimensionnelles.

Les problemes pratiques poses par cette approche peuvent vite devenir inextricables. On souhaiteraitpouvoir utiliser des techniques similaires a celles utilisees dans le paragraphe 5.5 du chapitre precedentpour gerer le passage au contexte non-equi-dimensionnel. Ceci ne peut etre fait que si on dispose d’unecaracterisation lagrangienne des valeurs critiques generalisees d’une application polynomiale restreinte aune variete algebrique non equi-dimensionnelle. Obtenir une telle caracterisation est l’objet d’un travailen cours.

6.4.3 Complexite et performances pratiques

On peut maintenant donner la complexite des versions probabilistes de l’algorithme decrit ci-dessuslorsque la routine d’elimination algebrique utilisee est l’algorithme de resolution geometrique. L’entreede l’algorithme est un systeme d’equations et d’inegalites polynomiales

f1 = · · · = fs = 0, g1 > 0, . . . , gk > 0

et on notera L la longueur d’un programme d’evaluation de la famille (f1, . . . , fs, g1, . . . , gk).Si d est la dimension de la variete algebrique V ⊂ Cn definie par :

f1 = · · · = fs = 0

on peut (grace au theoreme 46) borner le nombre de varietes algebriques V (ou I ⊂ 1, . . . , k) a etudier

par∑min(d,k)`=0

(k`

).

Pour chacune variete agebrique V, on doit :– calculer les valeurs critiques generalisees de la projection sur ε restreinte a V, la complexite de cette

etape est donnee par le theoreme 42 ;– choisir un rationnel compris entre 0 et la plus petite de ces valeurs, la complexite de cette etape

n’influe pas sur la complexite globale de l’algorithme ;– calculer au moins un point par composante de V I

e,a ∩ Rn, la complexite de cette etape est donneepar le theoreme 29.

– determiner le signe des gj (pour j ∈ 1, . . . , k\I) en les points reels encodes par les paramtrisationsrationnelles fournies par l’etape precedente, la complexite de cette etape n’influe pas sur la com-pexite globale de l’algorithme.

Cette discussion permet donc d’enoncer le resultat ci-dessous.

Theoreme 47. Soit S ⊂ Rn un ensemble semi-algebrique defini par

f1 = · · · = fs = 0, g1 > 0, . . . , gk > 0

ou (f1, . . . , fs, g1, . . . , gk) sont des polynomes de Q[X1, . . . , Xn] de degre borne par D. Soit L la longueurd’un programme d’evaluation de (f1, . . . , fs, g1, . . . , gk).

Si la variete algebrique definie par f1 = · · · = fs = 0 est lisse et que l’ideal 〈f1, . . . , fs〉 est radicalet equi-dimensionnel de dimension d, l’algorithme ci-dessus calcule au moins un point par composanteconnexe de S en

O(n7(n− d)4dD4n)

operations arithmetiques dans Q.

Implantations et performances pratiques. De premieres implantations de cet algorithme utilisantles bases de Grobner comme routine d’elimination algebrique ont ete effectuees. Bien evidemment, l’usagedes bases de Grobner permet d’obtenir des versions deterministes de l’algorithme qu’on vient de decrire.

Cet algorithme tirant profit de l’efficacite des algorithmes donnes dans le chapitre precedent sur lesproblemes de plus de 4 variables, cette premiere implantation a d’ores et deja permis de resoudre desapplications inaccessibles a l’algorithme de decomposition cylindrique algebrique. Ceci dit, il apparaıt quediverses strategies peuvent etre employees (dans l’ordre d’etude des familles I) et donnent des resultatspratiques sensiblement differents : sur certains problemes certaines sont plutot lentes devant d’autres etle rapport d’inverse sur d’autres probemes. Il reste encore un certain nombre de choses a comprendreet/ou un travail d’implantation a effectuer avant d’arriver a des resultats pratiques satisfaisants.

118

6.5 Notes bibliographiques et commentaires

Le calcul d’au moins un point par composante connexe d’un ensemble semi-algebrique defini par unsysteme d’equations et d’inegalites polynomiales par deformation pour ensuite appliquer les methodesde points critiques apparaıt sous differentes formes dans [65, 69, 70, 114, 17, 18, 19]. Ces algorithmesn’ont en general aucune restriction sur l’entree contrairement a celui du paragraphe 6.4 de ce chapitre.Ils souffrent neanmoins de constantes de complexite situees en exposant particulierement elevees et sontinutilisables en pratique.

Les valeurs critiques generalisees sont initialement introduites dans [82, 74, 75]. Ces travaux four-nissent les premiers algorithmes permettant leur calcul via des ideaux d’elimination (l’un de ces algo-rithmes est evoque dans le paragraphe 6.1). La taille des donnees intermediaires est particulierementelevee devant la taille de la sortie, si bien que ces algorithmes sont tres peu efficaces.

L’idee d’utiliser des proprietes de proprete pour ramener le calcul de valeurs critiques asymptotiquesd’une application polynomiale pour ramener leur calcul a celui du lieu de non-proprete d’une projectionrestreinte a une courbe critique apparaıt initialement dans [129] et est developpee dans [131]. On y trouveles algorithmes et estimations de complexite donnes dans le paragraphe 6.1. L’algorithme de calcul d’aumoins un point par composante connexe d’un ensemble semi-algebrique defini par une seule inegalite ouune seule inequation du paragraphe 6.3, ainsi que son application a la determination de l’existence depoints reels reguliers dans un ensemble algebrique defini par une seule equation apparaissent aussi dans[131].

Ce chapitre n’aborde pas le calcul d’au moins un point par composante connexe d’un ensemble semi-algebrique defini par un systeme d’equations et d’inegalites (non strictes) polynomiales

f1 = · · · = fs = 0, g1 > 0, . . . , gk > 0

Ce probleme se ramene en fait directement a l’etude des varietes algebriques reelles definies par

f1 = · · · = fs = gi1 = · · · = gi` = 0

pour tout I = i1, . . . , i` ⊂ 1, . . . , s (voir [21, Chapitre 13]). Une etude de ce probleme et sonapplication a un probleme de reconnaissance de forme figurent aussi dans [91].

Enfin, le calcul de valeurs critiques generalisees d’une application polynomiale restreinte a une varietealgebrique lisse peut etre utilise pour eviter les choix de projection generique (et/ou verifier que leschoix de projection sont suffisamment generiques) dans les algorithmes du paragraphe 5.5 du chapitreprecedent. En effet, ces algorithmes sont fondes sur le fait que les composantes connexes des varieteschoisies ont une image fermee (pour la topologie euclidienne) par les projections choisies. Si ce n’est pasle cas, les extremites de ces intervalles sont fatalement des valeurs critiques asymptotiques (puisque dansce cas, on ne peut pas avoir fibration localement triviale autour ces extremites). Un calcul de valeurcritique asymptotique permet de recuperer ces valeurs et il suffit alors de considerer des fibres au-dessusde rationnels choisis entre chacune des valeurs critiques asymptotiques calculees.

119

References

[1] ALDOR. http ://www.aldor.org/.

[2] Axiom. http ://wiki.axiom-developer.org/FrontPage.

[3] MAGMA. http ://magma.maths.usyd.edu.au/.

[4] Maple. http ://www.maplesoft.org/.

[5] Mathematica. http ://www.wolfram.com/.

[6] Reduce. http ://www.uni-koeln.de/REDUCE/.

[7] Singular. http ://www.singular.uni-kl.de/.

[8] M. E. Alonso, E. Becker, M.-F. Roy, and T. Wormann. Zeroes, multiplicities and idempotents forzerodimensional systems. In Proceedings MEGA’94, volume 142 of Progress in Mathematics, pages1–15. Birkhauser, 1996.

[9] P. Aubry. Ensembles triangulaires de polynomes et resolution de systemes algebriques. PhD thesis,Universite Paris 6, 1999.

[10] P. Aubry, D. Lazard, and M. Moreno Maza. On the theories of triangular sets. Journal of SymbolicComputation, Special Issue on Polynomial Elimination, 28 :105–124, 1999.

[11] P. Aubry, F. Rouillier, and M. Safey El Din. Real solving for positive dimensional systems. Journalof Symbolic Computation, 34(6) :543–560, 2002.

[12] B. Bank, M. Giusti, J. Heintz, and G.-M. Mbakop. Polar varieties and efficient real equationsolving : the hypersurface case. Journal of Complexity, 13(1) :5–27, 1997.

[13] B. Bank, M. Giusti, J. Heintz, and G.-M. Mbakop. Polar varieties and efficient real elimination.Mathematische Zeitschrift, 238(1) :115–144, 2001.

[14] B. Bank, M. Giusti, J. Heintz, and L.-M. Pardo. Generalized polar varieties and efficient realelimination procedure. Kybernetika, 40(5) :519–550, 2004.

[15] B. Bank, M. Giusti, J. Heintz, and L.-M. Pardo. Generalized polar varieties : Geometry andalgorithms. to appear in Journal of complexity, 2005.

[16] M. Bardet, J.-C. Faugere, and B. Salvy. Asymptotic behaviour of the index of regularity of semi-regular quadratic polynomial systems. In Proceedings of the8th MEGA (Effective Methods in Al-gebraic Geometry), 2005.

[17] S. Basu. Algorithms in semi-algebraic geometry. PhD thesis, New-York University, 1996.

[18] S. Basu, R. Pollack, and M.-F. Roy. On the combinatorial and algebraic complexity of quantifierelimination. Journal of ACM, 43(6) :1002–1045, 1996.

[19] S. Basu, R. Pollack, and M.-F. Roy. A new algorithm to find a point in every cell defined by a familyof polynomials. In Quantifier elimination and cylindrical algebraic decomposition. Springer-Verlag,1998.

[20] S. Basu, R. Pollack, and M-F Roy. Computing roadmaps of semi-algebraic sets on a variety. Journalof the AMS, 3(1) :55–82, 1999.

[21] S. Basu, R. Pollack, and M.-F. Roy. Algorithms in real algebraic geometry. Springer-Verlag, 2003.

[22] W. Baur and V. Strassen. The complexity of partial derivatives. Theoret. Comput. Science,22 :317–330, 1982.

[23] D. Bayer and M. Stillman. On the complexity of computing syzygies. Journal of Symbolic Com-putation, 6 :135–147, 1988.

[24] E. Becker, M. G. Marinari, T Mora, and C. Traverso. The shape of the Shape Lemma. In Proceedingsof ISSAC’94, pages 129–133. ACM Press, 1994.

[25] E. Becker and R. Neuhaus. Computation of real radicals for polynomial ideals. In ComputationalAlgebraic Geometry, volume 109 of Progress in Mathematics, pages 1–20, 1993.

[26] E. Becker and V. Weipsfenning. Grœbner bases : a computational approach to commutative algebra.Graduate Texts in Mathematics : readings in Mathematics. Springer-Verlag, 1993.

120

[27] E. Becker and T. Wørmann. Radical computations of zero-dimensional ideals and real root coun-ting. Mathematics and Computers in Simulation, 1994.

[28] R. Benedetti and J.-J. Risler. Real algebraic and semi-algebraic sets. Hermann, 1990.

[29] J. Bochnak, M. Coste, and M.-F. Roy. Real algebraic Geometry. Ergebnisse der Mathematik undihrer Grenzgebite. Springer-Verlag, 1998.

[30] J.D. Boissonnat and M. Yvinnec. Algorithmic geometry. Cambridge University Press, 1998.

[31] A. Bostan, B. Salvy, and E. Schost. Fast algorithms for zero-dimensional polynomial systems usingduality. Applicable Algebra in Engineering, Communication and Computing, 14(4) :239–272, 2003.

[32] B. Buchberger. Ein Algorithmus zum Auffinden der Basiselemente des Restklassenringes nacheinem nulldimensionalen Polynomideal. PhD thesis, University of Innsbruck, 1965.

[33] B. Buchberger. Grobner bases : An algoritmic method in polynomial ideal theory. In Multidimen-sional System Theory, pages 374–383. Reidel, Dordrecht, 1985.

[34] J. Canny. The complexity of robot motion planning. MIT Press, 1987.

[35] J. Canny. Some algebraic and geometric problems in pspace. In Proceedings STOC, pages 460–467,1988.

[36] J. Canny. Computing roadmaps in general semi-algebraic sets. The Computer Journal, 1993.

[37] A.L. Chistov and D.Y. Grigoriev. Polynomial factoring of multivariate polynomials over a globalfield. Technical report, LOMI pre-print, Steklov Institute, 1982.

[38] G. E. Collins. Quantifier elimination for real closed fields by cylindrical algebraic decomposition.Lecture notes in computer science, 33 :515–532, 1975.

[39] P. Conti and C. Traverso. Algorithms for the real radical. Unpublished manuscript.

[40] S. Corvez and F. Rouillier. Using computer algebra tools to classify serial manipulators. InF. Winkler, editor, Automated Deduction in Geometry, volume 2930 of Lecture Notes in ArtificialIntelligence, pages 31–43. Springer, 2003.

[41] M. Coste. Introduction a la geometrie semi-algebrique. Polycopie, Institut de Recherche Mathe-matique de Rennes.

[42] D. Cox, J. Little, and D. O’Shea. Ideals, varieties and algorithms : an introduction to computationalalgebraic geometry and commutative algebra. Springer-Verlag, 1992.

[43] X. Dahan and E. Schost. Sharp estimates for triangular sets. In Proceedings of ISSAC’04. ACMPress, 2004.

[44] J. Della Dora, C. Dicrescenzo, and D. Duval. About a new method method for computing inalgebraic number fields. In Proceedings of EUROCAL 85, volume 204 of Lecture Notes of ComputerScience, pages 289–290. Springer-Verlag, 1985.

[45] L. Dupont, D. Lazard, S. Lazard, and S. Petitjean. Near-optimal parameterization of the intersec-tion of quadrics : I. The generic algorithm. Technical Report 5667, INRIA, September 2005.

[46] L. Dupont, D. Lazard, S. Lazard, and S. Petitjean. Near-optimal parameterization of the inter-section of quadrics : II. A classification of pencils. Technical Report 5668, INRIA, September2005.

[47] J. El Omri and P. Wenger. Changing posture for cuspidal robot manipulators. In Proceeding ofthe 1996 IEEE Int. Conf on Robotics and Automation, pages 3173–3178, 1996.

[48] H. Everett, D. Lazard, S. Lazard, and Safey El Din M. The Voronoi diagram of three lines in R3.In submitted to Symposium on Computational Geometry, 2007.

[49] J.-C. Faugere. Gb/FGb. available at http ://fgbrs.lip6.fr.

[50] J.-C. Faugere. A new efficient algorithm for computing Grobner bases (F4).-. Journal of Pure andApplied Algebra, 139(1–3) :61–88, 1999.

[51] J.-C. Faugere. A new efficient algorithm for computing Grobner without reduction to zero (F5).In Proceedings of ISSAC 2002, pages 75 – 83. ACM Press, 2002.

[52] J.C. Faugere, P. Gianni, D. Lazard, and T. Mora. Efficient computation of zero-dimensional Grob-ner bases by change of ordering. Journal of Symbolic Computation, 16(4) :329–344, 1993.

121

[53] W. Fulton. Intersection theory, volume 2 of Ergebnisse der Mathematik und ihrer Grenzgebiete.3. Folge. A Series of Modern Surveys in Mathematics [Results in Mathematics and Related Areas.3rd Series. A Series of Modern Surveys in Mathematics]. Springer-Verlag, Berlin, second edition,1998.

[54] G. Gallo and B. Mishra. Efficient algorithms and bounds for wu-ritt characteristic sets. In Procee-dings MEGA’90. Birkhauser, 1990.

[55] P. Gianni and T. Mora. Algebraic solution of systems of polynomial equations using grobner bases.In Proceedings of AAECC, volume 356 of Lecture Notes in Computer Science, pages 247–257.247-257, 1989.

[56] M. Giusti. Complexity of standard bases in projective dimension zero. In Proceedings of EUROCAL87, volume 378 of Lecture Notes in Computer Science, pages 333–335, 1989.

[57] M. Giusti, K. Hagele, J. Heintz, J.-E Morais, J.-L. Montana, and L.-M. Pardo. Lower bounds forDiophantine approximation. In Proceedings of MEGA’96, number 117, 118 in Journal of Pure andApplied Algebra, pages 277–317, 1997.

[58] M. Giusti and J. Heintz. La determination des points isoles et de la dimension d’une variete alge-brique peut se faire en temps polynomial. In Computational Algebraic Geometry and CommutativeAlgebra, volume XXXIV of Symposia Matematica, pages 216–256. Cambridge University Press,1993.

[59] M. Giusti, J. Heintz, J.-E. Morais, J. Morgenstern, and L.-M. Pardo. Straight-line programs ingeometric elimination theory. Journal of Pure and Applied Algebra, 124 :101–146, 1998.

[60] M. Giusti, J. Heintz, J.-E. Morais, and L.-M. Pardo. When polynomial equation systems can besolved fast ? In Proceedings of AAECC-11, volume 948 of LNCS, pages 205–231. Springer, 1995.

[61] M. Giusti, G. Lecerf, and B. Salvy. A Grobner free alternative for polynomial system solving.Journal of Complexity, 17(1) :154–211, 2001.

[62] L. Gonzalez-Vega. Applying quantifier elimination to the Birkhoff interpolation problem. Journalof Symbolic Computation, 1996.

[63] D. Grigoriev and D. De Klerk, E. Pasechnik. Finding optimum subject to few quadratic constraintsin polynomial time. In Proceedings of MEGA’2003, 2003.

[64] D. Grigoriev and D. Pasechnik. Polynomial time computing over quadratic maps i. sampling inreal algebraic sets. Computational complexity, 14 :20–52, 2005.

[65] D. Grigoriev and N. Vorobjov. Solving systems of polynomials inequalities in subexponential time.Journal of Symbolic Computation, 5 :37–64, 1988.

[66] W. Habicht. Eine Verallgemeinrung des Sturmschen Wurzelzahlverfahrens. Comm. Math. Helvetici,21 :99–116, 1948.

[67] A. Hashemi and D. Lazard. Complexity of zero-dimensional grobner bases. Submitted to Journalof Symbolic Computation., 2006.

[68] J. Heintz, G. Jeronimo, J. Sabia, J. San Martin, and P. Solerno. Intersection theory and deformationalgorithm. the multi-homogeneous case. Manuscript, 2002.

[69] J. Heintz, M.-F. Roy, and P. Solerno. On the complexity of semi-algebraic sets. In ProceedingsIFIP’89 San Francisco, North-Holland, 1989.

[70] J. Heintz, M.-F. Roy, and P. Solerno. On the theoretical and practical complexity of the existentialtheory of the reals. The Computer Journal, 36(5) :427–431, 1993.

[71] E. Hubert. Notes on triangular sets and triangulation-decomposition algorithms. I. Polynomialsystems. In Symbolic and numerical scientific computation (Hagenberg, 2001), volume 2630 ofLecture Notes in Comput. Sci., pages 1–39. Springer, Berlin, 2003.

[72] E. Hubert. Notes on triangular sets and triangulation-decomposition algorithms. II. Differentialsystems. In Symbolic and numerical scientific computation (Hagenberg, 2001), volume 2630 ofLecture Notes in Comput. Sci., pages 40–87. Springer, Berlin, 2003.

[73] Z. Jelonek. Testing sets for properness of polynomial mappings. Mathematische Annalen, 315(1) :1–35, 1999.

122

[74] Z. Jelonek and K. Kurdyka. On asymptotic critical values of a complex polynomial. J. ReineAngew. Math., 565 :1–11, 2003.

[75] Z. Jelonek and K. Kurdyka. Quantitative generalized Bertini-Sard theorem for smooth affinevarieties. Discrete Comput. Geom., 34(4) :659–678, 2005.

[76] M. Kalkbrener. Three contributions to elimination theory. PhD thesis, Kepler University, 1991.

[77] M. Kalkbrener. Three contributions to elimination theory. PhD thesis, Kepler University, Linz,1991.

[78] H. Kobayashi, S. Moritsugu, and R. W. Hogan. On solving systems of algebraic equations. In Pro-ceedings of ISSAC 99, volume 358 of Lecture Notes in Computer Science, pages 139–149. Springer-Verlag, 1988.

[79] V. Koltun and M. Sharir. Three dimensional euclidean voronoi diagrams of lines with a fixed SIAMJ. Comput., 32(3) :616–642, 2003.

[80] L. Kronecker. Zur Theorie der Elimination einer Variabeln aus zwei algebraischen Gleichung.Monatsberichte der Køniglich Preussischen Akademie der Wissenschaften, pages 535–600, 1881.

[81] L. Kronecker. Grundzuge einer arithmetischen Theorie der algebraischen Grossen. Journal fur dieReine une Angewandte Mathematik, 92 :1–122, 1882.

[82] K. Kurdyka, P. Orro, and S. Simon. Semialgebraic sard theorem for generalized critical value.Journal of differential geometry, 56(1) :67–92, 2000.

[83] Y. N. Lakshmann. A single exponential bound of the complexity of computing Grobner basesof zero-dimensional ideals. In C. Traverso T. Mora, editor, Proc. Effective Methods in AlgebraicGeometry, MEGA’90, volume 94 of Progress in Mathematics, pages 227–234. Birkhauser, 1991.

[84] Y.N. Lakshmann and D. Lazard. On the complexity of zero-dimensional algebraic systems. InEffective methods in algebraic geometry, volume 94 of Progress in Mathematics, pages 217–225.Birkhauser, 1991.

[85] J.-B. Lasserre. Global optimization with polynomials and the problem of moments. SIAM Journalon Optimization, 11(3) :796–817, 2001.

[86] D. Lazard. Gaussian elimination and resolution of systems of algebraic equations. volume 162 ofLecture Notes in Computer Science, pages 146–157. Springer-Verlag, 1983.

[87] D. Lazard. A new method for solving algebraic systems of positive dimension. Disc. Appl. Math.,33 :147–160, 1991.

[88] D. Lazard. Solving zero-dimensional algebraic systems. Journal of Symbolic Computation, 13 :117–133, 1992.

[89] D. Lazard and F. Rouillier. Solving parametric polynomial systems. to appear in Journal ofSymbolic Computation, 2007.

[90] D. Lazard and F. Rouillier. Solving parametric polynomial systems. Journal of Symbolic Compu-tation, to appear.

[91] C. Le Guernic, F. Rouillier, and M. Safey El Din. On the practical computation of one point ineach connected component of a semi-algebraic set defined by a polynomial system of equationsand non-strict inequalities. In L. Gonzalez-Vega and T. Recio, editors, Proceedings of EACA’04Conference, 2004.

[92] G. Lecerf. Kronecker magma package for solving polynomial systems by means of geometricresolutions. available at http ://www.math.uvsq.fr/ lecerf/software/.

[93] G. Lecerf. Une alternative aux methodes de reecriture pour la resolution des systemes algebriques.

PhD thesis, Ecole polytechnique, 2001.

[94] G. Lecerf. Computing the equidimensional decomposition of an algebraic closed set by means oflifting fibers. Journal of Complexity, 19(4) :564–596, 2003.

[95] F. Lemaire. Contribution a l’algorithmique en algebre differentielle. PhD thesis, Universite desSciences et Technologies de Lille, 2002.

[96] T. Lickteig and M-F Roy. Cauchy index computation. Calcolo, 33, 1996.

123

[97] H. Lombardi, M.-F. Roy, and M. Safey El Din. New structure theorems for subresultants. Journalof symbolic computation, 29(4) :663–690, 2000.

[98] R. Loos. Generalized polynomial remainder sequence. In R. Loos B. Buchberger, G.-E. Collins,editor, Computer Algebra, Symbolic and Algebraic Computation. Springer-Verlag, 1988.

[99] F.S. Macaulay. On some formulas in elimination. In Proc. London Math. Soc., volume 3, 1902.

[100] F.S. Macaulay. The Algebraic Theory of Modular Systems. Cambridge University Press, 1916.

[101] F.S. Macaulay. Some properties of enumeration in the theory of modular systems. In Proc. LondonMath. Soc., volume 26, 1927.

[102] E. Mayr and A. Meyer. The complexity of the word problem for commutative semi-groups andpolynomial ideals. Advance in Mathematics, 46(127) :305–329, 1982.

[103] S. Mc Callum. An improved projection operator for Cylindrical Algebraic Decomposition. PhDthesis, University of Wisconsin-Madison, 1984.

[104] M. Mezzarobba and M. Safey El Din. Computing roadmaps in smooth real algebraic sets. InJ.-G. Dumas, editor, Proceedings of Transgressive Computing 2006, pages 327–338, 2006. isbn :84-689-8381-0.

[105] M. Moreno Maza. Calculs de pgcd au-dessus des tours d’extensions simples et resolution dessystemes d’equations algebriques. PhD thesis, Universite Paris 6, 1997.

[106] A. Mosig. Efficient algorithms for shape and pattern matching. PhD thesis, Bonn University, toappear, 2004.

[107] A. Mosig and M. Clausen. Approximately matching polygonal curves with respect to the frechetdistance. submitted to Computational Geometry – Theory and Applications, 2004.

[108] B. Mourrain and P. Trebuchet. Generalized normal forms and polynomial system solving. InM. Krauers, editor, International Symposium on Symbolic and Algebraic Computation, pages 253–260. ACM Press, 2005.

[109] R. Narasimham. Introduction to the theory of analytic spaces. Springer-Verlag, 1966.

[110] L.M. Pardo. How lower and upper complexity bounds meet in elimination theory. In Proceedingsof AAECC, volume 948 of Lecture Notes in Computer Science, pages 33–69. Springer-Verlag, 1995.

[111] P. A. Parillo. Semi-definite relaxations for semi-algebraic problems., 2001.

[112] G. Remond. Elimination multihomogene. In Introduction to algebraic independence theory, volume1752 of Lecture Notes in Math., pages 53–81. Springer, Berlin, 2001.

[113] G. Remond. Geometrie diophantienne multiprojective. In Introduction to algebraic independencetheory, volume 1752 of Lecture Notes in Math., pages 95–131. Springer, Berlin, 2001.

[114] J. Renegar. On the computational complexity and geometry of the first order theory of the reals.Journal of Symbolic Computation, 13(3) :255–352, 1992.

[115] B. Reznick. Some concrete aspects of hilbert’s 17-th problem, 1999. Preprint available athttp ://www.math.uiuc.edu/Reports/reznick/98-002.html.

[116] R. Rioboo. Quelques aspects du calcul exact avec les nombres reels. PhD thesis, University Pierreet Marie Curie (Paris 6), 1992.

[117] R. Rioboo. Towards faster real algebraic numbers. In Proceedings of ISSAC 2002, pages 221–228.ACM Press, 2002.

[118] J.F. Ritt. Differential equations from an algebraic standpoint. 1932.

[119] J.F. Ritt. Differential Algebra. Dover Publications, 1966.

[120] F. Rouillier. RS, RealSolving. available at http ://fgbrs.lip6.fr.

[121] F. Rouillier. Algorithmes efficaces pour l’etude des zeros reels des systemes polynomiaux. PhDthesis, Universite de Rennes I, 1996.

[122] F. Rouillier. Solving zero-dimensional systems through the Rational Univariate Representation.AAECC Journal, 9(5) :433–461, 1999.

[123] F. Rouillier. On solving zero-dimensional systems with rational coefficients. submitted to Journalof Symbolic Computation, 2005.

124

[124] F. Rouillier, M.-F. Roy, and M. Safey El Din. Finding at least one point in each connectedcomponent of a real algebraic set defined by a single equation. Journal of Complexity, 16 :716–750,2000.

[125] F. Rouillier, M. Safey El Din, and E. Schost. Solving the birkhoff interpolation problem via thecritical point method : an experimental study. In Proceedings of ADG’2000, 2000.

[126] F. Rouillier and P. Zimmermann. Efficient isolation of polynomial real roots. Journal of Compu-tational and Applied Mathematics, 162(1) :33–50, 2003.

[127] M. Safey El Din. Resolution reelle des systemes polynomiaux de dimension positive. PhD thesis,Universite Paris 6, January 2001.

[128] M. Safey El Din. RAGLib (Real Algebraic Geometry Library), Maple package. available athttp ://www-calfor.lip6.fr/∼safey/RAGLib, 2003.

[129] M. Safey El Din. Generalized critical values and solving polynomial inequalities. In Proceedings ofICPSS, Extended abstract. Paris 6 University, 2004.

[130] M. Safey El Din. Finding sampling points on real hypersurfaces in easier in singular situations. InMEGA (Effective Methods in Algebraic Geometry) Electronic proceedings, 2005.

[131] M. Safey El Din. Generalized critical values and testing sign conditions on a polynomial. InD. Wang and Z. Zheng, editors, Proceedings of International Conference on Mathematical Aspectsof Computer and Information Sciences, pages 61–84, 2006.

[132] M. Safey El Din and E. Schost. Polar varieties and computation of one point in each connectedcomponent of a smooth real algebraic set. In Proceedings of the 2003 international symposium onSymbolic and algebraic computation, pages 224–231. ACM Press, 2003.

[133] M. Safey El Din and E. Schost. Properness defects of projections and computation of one point ineach connected component of a real algebraic set. Journal of Discrete and Computational Geometry,2004.

[134] M. Safey El Din and P. Trebuchet. Strong bi-homogeneous Bezout theorem and its use in effectivereal algebraic geometry. in preparation, 2005.

[135] E. Schost. Degree bounds and lifting techniques for triangular sets. In Proceedings of ISSAC’02,pages 238–245. ACM Press, 2002.

[136] E. Schost. Computing parametric geometric resolutions. Journal of Applicable Algebra in Engi-neering, Communication and Computing 13(5) : 349 - 393, 2003, 13(5) :349–393, 2003.

[137] C. Segre. Studio sulle quadriche in uno spazio lineare ad un numero qualunque di dimensioni.Mem. della R. Acc. delle Scienze di Torino, 36(2) :3–86, 1883.

[138] A. Seidenberg. A new decision method for elementary algebra. Annals of Mathematics, 60 :365–374,1954.

[139] I. Shafarevich. Basic Algebraic Geometry 1. Springer Verlag, 1977.

[140] C. Sturm. Memoire sur la resolution des equations numeriques. Inst. France Sc. Math. Phys., 6,1835.

[141] A. Tarski. A decision method for elementary algebra and geometry. University of California Press,1951.

[142] C. Traverso. Grobner trace algorithms. In Proceedings of ISSAC’88, volume 358 of Lecture Notesin Computer Science, pages 125–138. Springer-Verlag, 1988.

[143] C. Traverso. Hilbert functions and the Buchberger algorithm. Journal of Symbolic Computation,22 :355–376, 1996.

[144] P. Trebuchet. Generalized normal forms for positive dimensional ideals. In Proceedings of the1stInternational Conference on Polynomial System Solving, 2004.

[145] J. Uspensky. Theory of equations. Mc Graw-Hill, 1948.

[146] B.-L. van der Waerden. On hilbert’s function, series of composition of ideals and a generalizationof a theorem of bezout. In Proc. Roy. Acad. Amsterdam, volume 31, pages 749–770, 1929.

[147] B.L. Van der Waerden. Moderne Algebra I. 1930.

125

[148] M. Vincent. Sur la resolution des equations numeriques. Journal de Mathematiques pures etappliquees, pages 341–372, 1836.

[149] D. Wang. CharSets, a Maple library devoted to triangular decomposition. downloadable athttp ://www-spiral.lip6.fr/~wang.

[150] D. Wang. An elimination method for polynomial systems. J. Symb. Comp., 16 :83–114, 1993.

[151] D. Wang. Elimination Methods. Springer Verlag, 2001.

[152] W.T. Wu. On zeros of algebraic equations – an application of Ritt principle. Kexue Tongbao,31 :1–5, 1986.

126

Linear Differential Equations,Differential Galois Groups,

First Integrals of Differential Systems

Delphine BoucherIRMAR, Université de Rennes I

delphine.boucher@univ-rennes1.fr

Jacques-Arthur WEILXLIM, Département Mathématiques et Informatique,

123 avenue Albert Thomas, 87060 Limoges CEDEXjacques-arthur.weil@unilim.fr

Journées Nationales de Calcul Formel,CIRM, Janvier 2007

Contents

I Galois Theory of Linear Differential Equations 1

1 Differential Galois Theory 11.1 Differential Equations and Differential Systems . . . . . . . . 1

1.1.1 Differential Operators . . . . . . . . . . . . . . . . . . 11.1.2 Equivalent differential systems and differential mod-

ules . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11.1.3 First integrals of linear differential systems . . . . . . 3

1.2 The Differential Galois Group . . . . . . . . . . . . . . . . . . 31.3 Some Essential Properties . . . . . . . . . . . . . . . . . . . . 7

2 Second Order Differential Equations 112.1 Subgroups of SL(2, C) . . . . . . . . . . . . . . . . . . . . . . 11

i

CONTENTS ii

2.1.1 Case I: Reducible Case . . . . . . . . . . . . . . . . . . 112.1.2 Case II: Imprimitive Case . . . . . . . . . . . . . . . . 122.1.3 Case III: Primitive case . . . . . . . . . . . . . . . . . . 13

2.2 The Kovacic algorithm . . . . . . . . . . . . . . . . . . . . . . 152.2.1 Symmetric powers . . . . . . . . . . . . . . . . . . . . 152.2.2 Algebraic Solutions of the Riccati Equation . . . . . . 16

3 Local and Global Differential Galois Theory 183.1 Local Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . 18

3.1.1 Power Series Solutions . . . . . . . . . . . . . . . . . . 183.1.2 Exponents and Quasi-Series . . . . . . . . . . . . . . . 193.1.3 Generalised Exponents . . . . . . . . . . . . . . . . . . 203.1.4 The Formal Local Galois group . . . . . . . . . . . . . 21

3.2 Local and Global Algorithms . . . . . . . . . . . . . . . . . . 233.2.1 Rational Solutions . . . . . . . . . . . . . . . . . . . . 233.2.2 Radical and Global Solutions . . . . . . . . . . . . . . 23

3.3 Reducibility and Factorization . . . . . . . . . . . . . . . . . . 243.4 The Art of Computing Galois Groups . . . . . . . . . . . . . 25

II Integrability of Hamiltonian Differential Systems 28

4 Basic Facts on First Integrals of (Hamiltonian) Differential Sys-tems 294.1 Variational equations and First Integrals . . . . . . . . . . . . 294.2 Hamiltonian Systems and Complete Integrability . . . . . . 304.3 Ziglin, Morales-Ramis . . . . . . . . . . . . . . . . . . . . . . 33

5 A criterion of non complete integrability of Hamiltonian systems 345.1 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 345.2 A non-integrability criterion . . . . . . . . . . . . . . . . . . . 36

6 An example: the Friedman-Robertson-Walker model 386.1 The approach via constructive Morales-Ramis criteria . . . . 396.2 Higher variational approaches . . . . . . . . . . . . . . . . . 40

7 Some properties to factorize symplectic linear differential systems 417.1 Factorization in practice . . . . . . . . . . . . . . . . . . . . . 417.2 Properties of the eigenring . . . . . . . . . . . . . . . . . . . . 417.3 Properties of the exponents at the singularities . . . . . . . . 447.4 Application to the factorization of linear differential systems 45

CONTENTS i

Introduction

Linear differential equations are ubiquitous in mathematics and their ap-plications. The Galois theory of linear differential equations aims at de-scribing properties of solutions of linear differential equations by studyingthe algebraic relations between solutions (and their derivatives). This alge-braic object also has some analytic interpretations; in a sense, one may thinkof the differential Galois group as mesuring "what algebra sees of the dy-namics" (Malgrange). Thanks to its algebraic nature, the differential Galoisgroup is an object many of whose properties can be established/detectedby symbolic computation.

Among the many applications of the algebraic theory of linear differen-tial equations, we will highlight two families.

A first one stems from the fact that solutions of linear differential op-erators ("D-finite functions") have good "closure" properties: their sums,products, derivatives, etc are also D-finite. An extensive illustration of thisaspect will be found in the lectures of J.-M. Maillard where applications tostatistical mechanics are described.

A second family of applications is the study of non-linear differentialsystems. We are given a (non-linear) differential system and we assumethat we know a solution curve; linearizing along this solution curve yieldsa first order linear differential system, the "variational system". Severalproperties of the original system, in particular existence of first integralsin some "good" class of functions, induce similar properties on the vari-ational system; the algebraic theory of linear differential equations thenyields methods and algorithms to detect such properties

This talk is split into two lectures. In the first part, we will focus ondifferential Galois groups and describe the basic foundations of the algo-rithms; this is adapted from notes for lectures by the second author in aCIMPA school in 2001. The second part will be devoted to detection of firstintegrals of non-linear differential systems by the variational approach; wewill particularly emphasize on hamiltonian systems.

These notes are introductory material. Although proofs will be sup-plied, I’ll refer to the original papers for technical aspects or up-to-datealgorithms not covered here.

1

Part I

Galois Theory of Linear DifferentialEquations

1 Differential Galois Theory

Differential Galois theory is, as in the clasical case, a tool to study the alge-braic relations among solutions of linear differential equations; as we willsee in the next lecture, it can also be used to study dynamical properties onsolutions of some non-linear systems. A general reference for differentialGalois theory is the fundamental book [vdPS03].

1.1 Differential Equations and Differential Systems

We consider a differential field k with a derivation that we note ′ or ∂ if thecontext is not clear. For the rest of these notes, we assume that the field ofconstants C of k is algebraically closed (i.e any polynomial over C has all itsroots in C) and of characteristic zero. Typical examples are Q or C.

1.1.1 Differential Operators

Let k denote a field (here k = C(x)) equipped with a derivation ∂ (naturally∂ = d

dx ). One says that k is a differential field. We define the ring of differ-ential operators as the set k[∂] with the (non-commutative) multiplicationdefined by ∂.a = a.∂ + ∂(a) for a ∈ k. This multiplication corresponds tothe composition of differential operators (compute the derivative of ay fora in k and an unknown function y).Let L be a linear differential operator : L = ∂n + · · ·+ a1∂ + a0, ai ∈ k.K is a Picard-Vessiot extension associated to the homogeneous linear dif-ferential equation L(y) = 0 if K is generated over k by y1, . . . , yn and theirderivatives where y1, . . . , yn are linearly independant solutions of L(y) = 0and if the constant fields of k and K are equal.

1.1.2 Equivalent differential systems and differential modules

A linear differential equation is an equation of the form

L(y) = y(n) + an−1 y(n−1) + . . . + a0 y = 0

1 DIFFERENTIAL GALOIS THEORY 2

with the ai being functions in k (not constants). Solving this equation isequivalent to solving the companion system

y1y2· · ·

yn−1yn

′

=

0 1 0 · · · 0

0 0 1 0...

.... . . . . . 0

0 · · · · · · 0 1a0 a1 · · · an−2 an−1

y1y2· · ·

yn−1yn

Conversely, suppose that (y1, y2, · · · , , yn) satisfy a homogeneous first

order linear differential system Y′ = AY of size n. To find an equation as-sociated with Y′ = AY, we would like to find a system in companion formwhose solutions are equivalent (or "isomorphic") to the ones of the origi-nal system (precisely: obtained with a change of variables Y = PZ withP an invertible matrix with coefficients in k). This is done by the follow-ing cyclic vector process (see e.g [Bar93, vdPS03] for references and othermethods). Consider Λ ∈ kn and let z1 = ΛY = λ1 y1 + · · · + λn yn. Wecompute z2 = z′1, . . . , zn+1 = z(n)

1 by using the relation Y′ = AY. We ob-tain n + 1 linear expressions in the n variables yi and so they are linearlydependant: this provides a linear differential equation L(z1) = 0 for z1.Letting Z = (z1, · · · , zn)t, we now have a relation Z = PY and Z′ = BY;If the matrix P is invertible, Λ is called a cyclic vector for the system andZ′ = (BP−1)Z is a companion system, equivalent to the first one. It can beshown that the cyclic vectors form a Zariski open set, and almost all choicesof Λ will fit [vdPS03].

Thus, in the following, everything that is stated for first order systemsis valid for n-th order equations and vice-versa.

A useful tool to describe an equivalence class of differential systems(intrinsically) is the notion of differential module:

Definition 1.1. A differential module over (k, ∂) is finite-dimensional k-vectorspace M ' kn with an operator D satisfying a Leibniz rule:

∀ f ∈ k, v ∈ M : D( f .v) = ∂( f ).v + f .D(v)

Differential modules are sometimes also called “modules with a con-nection” in the litterature. To a differential system Y′ = AY, one maycannonically associate a differential module with a basis e = (e1, . . . , en)and the operator D acting by D(ei) = ∑

nj=1 −a j,ie j. This way, a solution

Y = y1e1 + . . . + ynen of Y′ = AY is caracterized by the relation D(Y) = 0

1 DIFFERENTIAL GALOIS THEORY 3

(check this) so that we may write D =′ −A.It can be checked that two differential systems are equivalent if and only ifthey are associated to the same differential module (in fact, the change ofvariable that sends a system to the other can be viewed as a change of basisin the differential module).The cyclic vector method above amounts to finding an element v such thatv, D(v), . . . , D(n− 1)(v) are a basis of the differential module M (hence theterm “cyclic”).

1.1.3 First integrals of linear differential systems

Let U denote a fundamental matrix of solutions of Y′ = AY (i.e U is in-vertible and its collumns are solutions of Y′ = AY). A linear first integral ofthe system is a linear function R such that R(Y) is a constant whenever Ysatisfies Y′ = AY. Let Yi denote the columns of U and Ri denote the rowsof U−1. As U−1U = 1, we see that Ri.Yj = δi, j (where δi, j is the kroneckersymbol, δi,i = 1 and δi, j = 0 when i 6= j). It follows that the rows Ri definelinear first integrals of the system. We see that the columns of tU−1 are co-efficients of linear first integrals; they are also solutions of the adjoint systemZ′ = −t AZ. We see that solutions of the adjoint (or dual) system yield firstintegrals of the system.Similarly, one can show [Wei95, MR01] that polynomial first integrals willbe homogeneous, and obtained from rational solutions of symmetric powersof the dual system. This simple fact is useful in the Morales-Ramis theoryof non-integrability of Hamiltonian systems.

1.2 The Differential Galois Group

We will proceed as in classical Galois theory: first, we construct a fieldgenerated by all the solutions (and their derivatives)

Definition 1.2. A differential field extension K ⊃ k is said to be a Picard-Vessiotextension of k (for L(y) = 0) if

1. K = k(y1, y′1, . . . , y( j)i , . . . , y(n−1)

n ), where the yi are a basis of solutions ofL(y) = 0 (i.e K is the differential field generated1 by the solutions of L.

2. K and k have the same field of constants.

1Note that as L(yi) = 0, we have y(n)i and the higher derivatives in K, which really

makes it a differential field

1 DIFFERENTIAL GALOIS THEORY 4

As the constant field of k is algebraically closed of characteristic 0, onecan show that Picard-Vessiot extensions exist and are unique up to differen-tial isomorphism ([vdPS03], the original proof goes back to Kolchin in 1948[Kol99]). In the sequel, the term “solution” will always denote a solution inthe Picard-Vessiot extension K.

Example 1.3. Let k = C(x) and consider the equation L(y) = y′ − 13x y. We

know that the solution is x13 but let’s construct the Picard-Vessiot extension (hence

the solution) like we did in the the preliminary lecture on Galois groups.We consider the ring k[y] with the derivation D = d

dx + 13x

ddy , where y is an in-

determinate. In this construction, y satisfies D(y) − 13x y = 0. However, it is

easily checked that D( y3

x ) = 0 so this ring contains a new constant. Take the idealI = (y3 − x); it is prime (in fact, it is maximal) and stable under the derivation.We now let K = k[y]/I. This is now a differential field and it now has no newconstant (the “new constant” is included in the relation defined by I). This is nowa Picard-Vessiot extension.Note the similarity with the second construction of the splitting field in the pre-liminary Galois lecture.

In fact, the existence of Picard-Vessiot extension can be achieved throughthis construction (see [vdPS03, Mag94]). Consider the ring R := k[X1,1, . . . , Xn,n, W]where the Xi, j are indeterminates and

W. det

X1,1 . . . X1,n...

...Xn,1 . . . Xn,n

= 1.

Extend the derivation on k to a derivation D on R by letting D(Xi, j) = Xi, j+1

for 1 ≤ j < n and D(Xi,n) = −sumn−1l=0 alXi,l+1. This way, we have formally

realized that L(Xi,1) = 0. Let J denote a differential ideal in R (i.e D(J) = J)which is maximal among differential ideals. It can be shown that then J isa prime ideal. So R/J has no zero-divisor and we may let K := Frac(R/J).Now K has no new constant: if P

Q was a new constant, then (P−Q) wouldbe a differential ideal in R/J, contradicting the maximality of J. It followsthat this construction yields a Picard-Vessiot extension K. The ideal J iscalled the ideal of relations among solutions.

Definition 1.4. We call a differential k-automorphism of K an automorphismg of K which leaves k fixed et which commutes with the dérivation,i.e:

1. ∀y ∈ K, g(y)′ = g(y′)

1 DIFFERENTIAL GALOIS THEORY 5

2. ∀y ∈ k, g(y) = y

The differential Galois group G = Gal∂(K/k) of a differential extension K ⊃ kis the group of differential k-automorphisms of K.The differential Galois group G of L(y) = 0 is defined as the differential Galoisgroup of K/k, where K is a Picard-Vessiot extension of k for L.

Consider the n-dimensional C-vector space V of solutions of L(y) = 0in K, generated by the yi over C. Let g ∈ G and let y denote a solution ofL(y) = 0. Then, g(y) is also a solution. Indeed, as ai ∈ k, we have g(ai) = aiand :

L(g(y)) = g(y)(n) + an−1g(y)(n−1) + . . . + a0g(y)

= g(y(n)) + g(an−1)g(y(n−1)) + g(a0)g(y)= g(L(y)) = g(0) = 0.

As any solution is a linear combination of the yi, we deduce that there ex-ists constants ci, j such that g(y j) = ∑i ci, j yi. As an automorphism is fullydetermined by its action on the generators yi of K, this gives us a faith-ful representation of G as a subgroup of the group GL(n, C) of invertiblen × n matrices. In fact, one can show that G is a linear algebraic group, i.ethe entries ci, j of the matrices are defined as solutions of a set of algebraicequations; the reason for this is the fact (intuitively clear, but still deep) thatG can also be viewed as the set of such automorphisms that preserve all therelations among the solutions.Recall the construction of the Picard-Vessiot extension; G can be viewed asthe set of matrices with a right action on the Xi, j that preserve the ideal ofrelations J, and this is what makes it a linear algebraic group. In what fol-lows, we will identify G to this representation as a group of matrices actingon solutions.

A little bit on linear algebraic groups Before proceeding with Galois the-ory, a quick incursion into linear algebraic groups.Recall that an affine algebraic variety V over C is defined as the set of solu-tion of some polynomial equations (e.g straight lines, a circle, conics,etc..).The ideal I(V) associated to the variety is the set of polynomials that vanishat every point of the variety. Conversely, to any ideal we associate the va-riety of points that annul all polynomials of the ideal. The variety is calledirreducible if I(V) is prime. As every ideal is the intersection of a finite

1 DIFFERENTIAL GALOIS THEORY 6

number of prime ideals, we see that any affine variety is the union of a fi-nite number of irreducible varieties.

A linear algebraic group G is a group of n× n matrices whose entriesform an algebraic variety of Cn2+1. The reason for adding one dimensionis to include the condition that the determinant is not zero: if we add onevariable, the condition det(g) 6= 0 is rephrased as u. det(g)− 1 = 0 whichis now a polynomial equation. This way, we see that GL(n, C) is a linearalgebraic group.

If G is a linear algebraic group and G is irreducible as a variety, we willsay that it is connected (for the Zariski topology). If G is not connected, thenG is the finite union of irreducible ("connected") varieties. Among those,the one that contains the identity element is called the connected componentof the identity in G, and denoted by G. One can show that G is a normalsubgroup of finite index in G.A linear algebraic group is said to virtually have a property if G has thatproperty; for example, G is called virtually abelian if G is abelian (as agroup).The dimension of G is defined as the transcendence degree of G over C.

Example 1.5. Here are classical examples of linear algebraic groups.

1. GL(n, C) and SL(n, C) (defined by det(g) = 1).

2. The group of upper triangular matrices T (defined by Ti, j = 0 for j < i).

3. Let In denote the identity matrix of size n and the standard symplectic ma-trix

J =(

0 In−In 0

)The set of matrices M that satisfy t M.J.M = J (this relation induces a fi-nite set of polynomial relations on the entries of M) is called the Symplecticgroup Sp(2n, C) and will be central in the applications to symplectic me-chanics.

4. Any finite group of matrices (check this!)

To measure properties of the connected component of the identity G,one uses its Lie algebra. The Lie algebra of a linear algebraic group is thetangent space at the identity (this makes sense: the group is an algebraicvariety, so there is a natural tangent space). This is simply computed withthe epsilon-trick (see [Put99a, vdPS03]) as follows. Let ε denote an object

1 DIFFERENTIAL GALOIS THEORY 7

satisfying ε2 = 0 (think of ε as being ideally small). A matrix M is in thetangent space at the identity if and only if Id +εM satisfies the equations ofthe group (or “is a C[ε]-point of the variety”). This defines the Lie algebraLie(G).The dimension of G as a variety equals the dimension of Lie(G) as a vec-tor space. If you compute the Lie algebra for the groups in the above ex-amples (easy computation), you will find that sl(n, C) := Lie(SL(n, C))is the set of matrices with zero trace, that the Lie algebra of T is T it-self, that sp(2n, C) := Lie(Sp(2n, C)) is the set of matrices M satisfyingt MJ + JM = 0 (or M = JS, with S any symmetrical matrix), and that theLie algebra of a finite group is equal to 0.

1.3 Some Essential Properties

As in classical Galois theory, there is a Galois correspondence between al-gebraic subgroups of G and differential subfields of K. We will admit herea weak version of this correspondence which will be enough for our pur-poses (see e.g [vdPS03] for a full proof).

Theorem 1.6 (Galois normality). Let K denote a Picard-Vessiot extension of k,let G be its differential Galois group, and let z ∈ K. Then:

z ∈ k ⇐⇒ ∀g ∈ G, g(z) = z.

A first application of this concerns unimodularity of the Galois group:recall that a matrix is called unimodular if its determinant is equal to 1, andthat the group of unimodular matrices is denoted by SL(n, C).Define the Wronskian matrix W = (y( j−1)

i )i, j=1..n and the Wronskian deter-minant w = det(W).Exercise 2.

1. Show that y1, . . . , yn are linearly independent over C if and only if theWronskian determinant w is not equal to zero.

2. Show that w′ = a1w

3. Show that, ∀g ∈ G, g(w) = w. det(g) (Hint: show that g acts on W bymultiplication on the right).

unimodular Lemma 1.7. There exists f ∈ k such that an−1 = f ′f if and only if G ⊂ SL(n, C).

1 DIFFERENTIAL GALOIS THEORY 8

Proof. Assume that G ⊂ SL(n, C). By the above exercise, we have g(w) =w for all g in G hence the normality theorem shows that w ∈ k and it is thusa solution in k of w′ = an−1w.Conversely, if there exists f in k such that an−1 = f ′

f , then we must havew = c. f with c ∈ C (because K contains no new constants) so w ∈ k andthus the relation g(w) = w. det(g) implies that det(g) = 1.

Note that we can always arrange that the Galois group be unimodularby letting y = z.e

∫ an−1n , we see that z satisfies a linear differential over k

where we have no term in z(n−1) any more, hence the wronskian is a con-stant (necessarily in k) and the Galois group is unimodular.

If z ∈ K, the orbit of z under G, noted OrbG(z) is the set of elements ofthe form g(z) for some g in G.

algebrique Proposition 1.8. Let z ∈ K. Then z is algebraic of degree m over k if and only ifOrbG(z) has exactly m elements.All solutions of L(y) = 0 are algebraic if and only if G is a finite group.

Proof. Assume that z is algebraic; let Q be its minimum polynomial. Let

P = ∏g∈G

(Y− g(z)) ∈ K[Y].

Of course, P(z) = 0 and we now show that the coefficients are in k. Letg0 ∈ G. As left multiplication by g0 is a bijection of G, we have

∏g∈G

(Y− g0.g(y)) = ∏g∈G

(Y− g(y)) .

So the coefficients of P are fixed by the group and hence, by Galois normal-ity, they are all in k. The roots of P are exactly OrbG(z) by construction.As Q is the minimum polynomial of z, Q is a divisor of P so the roots ofQ are in OrbG(z). Now, the image of a root of Q (here: z) by any elementof G is again a root of Q. We conclude that there are as many roots of Q aselements in OrbG(z), hence deg(Q) = card (OrbG(z)).Conversely, if OrbG(z) has exactly m elements, call g1, . . . , gm elementsof G such that OrbG(z) = g1(z), . . . , gm(z). As above, we form P =∏i=1..m (Y− gi(z)). Let g ∈ G; as it is an automorphisms, g(gi(z)) 6=g(g j(z)) when i 6= j so g acts as a transitive permutation on the gi(z). Itfollows that P has coefficients in k. Now, if it was reducible, z would bea zero of a factor and its orbit would hence have less than m element. Weconclude that z is algebraic of degree m.

1 DIFFERENTIAL GALOIS THEORY 9

Now, if G is a finite group, the above shows that any element in the Picard-Vessiot extension is algebraic; conversely, if all solutions are algebraic, thenthe yi have only a finite number of possible images under G so, as an auto-morphism of K is defined by its action on the generators of K, the group Gmust be finite.

Exercise 3. Let z ∈ K be algebraic of degree m. Let StabG(z) := g ∈G, g(z) = z denote the stabilizer of z in G. Show that m is the index in Gof StabG(z) (i.e the cardinal of the quotient).

exponentiel Proposition 1.9. An non-zero element z of K is exponential over k if and only if,for all g ∈ G, there exists a constant cg ∈ C such that g(y) = cg.y.

Proof. Let g ∈ G.(g(z)

z

)′=

g(z′)z

− z′

z2 g(z) =g(z)

z

(g(

z′

z)− z′

z

).

So, g(z)/z is a constant for all g ∈ G if and only if z′/z is left fixed by allg ∈ G. By Galois normality, this is indeed equivalent with the fact thatz′/z ∈ k.

Note that in fact, this means that an element z of K is exponential if andonly if the straight-line z.k is globally invariant under G.Exercise 4.[Put99c]We consider the equation y′ = ay with a ∈ C(x).

1. Show that any proper algebraic subgroup of C∗

is finite and cyclic.

2. By considering the possible Galois groups, show that an algebraicsolution y′ = ay must satisfy ym = f where f ∈ C(x) (i.e y is radicalover C(x)). Show that the equation y′ = ay has an algebraic solutionif and only if there exists a positive integer m such that the equationf ′ = ma f has a solution f ∈ C(x).

3. For m ∈ N, show that the equation f ′ = ma f has a rational solutionif and only if a = ∑i

nim(x−xi)

with ni ∈ Z having their gcd prime to m.What is the Galois group in this case.

4. Deduce from this a method which decides if the equation y′ = ay hasan algebric solution, computes it, and gives the differential Galoisgroup.

1 DIFFERENTIAL GALOIS THEORY 10

5. Application: compute the Galois group for y′ = y, for y′ = 14x y, and

for y′ = αx y.

Exercise 5.[Logarithms]

1. Consider the field K = C(x, log(x)). Show that K is a Picard-Vessiotextension of C(x) corresponding to a homogeneous linear differentialequation of order 2 and that its Galois group is conjugate to Ga =

(

1 c0 1

), c ∈ C.

2. Show that Ga is abelian, isomorphic to the additive group (C, +), andthat its only algebraic subgroups are itself and Id.

3. Show that the reasonning of (i) applies for any element f such thatf ′ = a ∈ C(x). Deduce from this that either f is transcendental or fis in C(x) (theorem of Liouville).

These two exercises show that when one adjoins to k an exponential or

an integral, the Galois group of the extension is abelian. Recall that theLiouvillian functions are the elements of fields obtained by adjoining suc-cessively exponentials, integrals, or algebraic elements to C(x).Exercise 6. We say that a field K is a purely Liouvillian extension of C(x) if itis constructed via a tower of fields C(x) = K0 ⊂ K1 ⊂ . . . ⊂ KN = K whereKi+1 is obtained from Ki by adjoining either an exponential or an integral.Show that the differential Galois group of a purely Liouvillian extension Kis solvable.

If we allow arbitrary algebraic extensions, their Galois group G is finiteand needs not be abelian any more (in general, it is not!). However, G isthen reduced to the identity. This gives us the first step to the followingtheorem of Kolchin (which we will admit)

Theorem 1.10. A linear differential has a basis of liouvillian solutions if and onlyif its differential Galois group G is virtually solvable.

Kolchin actually proved the Lie-Kolchin theorem: G is solvable if andonly if its matrices can be put simultaneously in triangular form. The abovetheorem then follows without too many difficulties. To get convinced, youmay study an exemple of this situation where a linear differential equation

2 SECOND ORDER DIFFERENTIAL EQUATIONS 11

has a solvable differential Galois group.

Exercise 7. Consider the differential equationexp-red

L(y) = y′′ + (−g(x)− 2) y′ + (g(x) + 1) y = 0

with g a non-zero rational function in C(x).

1. Show that it admits y1 = ex as a solution.

2. Using variation of constants, compute a second solution from y1 andintegrals.

3. Show that the differential Galois group of L is solvable.

4. Show that the differential Galois group of L is either(c 00 c

), c ∈ C

∗

or(

c d0 c

), c ∈ C

∗, d ∈ C

and give a criterion to decide between either case.

2 Second Order Differential Equations

We will now show how to use the differential Galois group for solving lin-ear differential equations. For simplicity, we focus on second order equa-tions. The idea is to first classify the possible Galois groups and then, on thebasis of this classification, to study the corresponding properties of the so-lutions. We consider the differential equation L(y) = y′′ − a1 y′ − a0 y = 0.

2.1 Subgroups of SL(2, C)

Recall from lemmaunimodularunimodular1.7 that we can assume that the differential Galois group

is unimodular, i.e a subgroup of SL(2, C). The subgroups of SL(2, C) areclassified and we now go through this construction.

2.1.1 Case I: Reducible Case

Definition 2.1. Let G be a linear group acting on a vector space. We say that (theaction of) G is reducible if there exists a non-trivial subspace W ⊂ V such thatG(W) ⊂ W.

2 SECOND ORDER DIFFERENTIAL EQUATIONS 12

In our case, dim(V) = 2 so W has to be of dimension 1 and the matricesin the Galois group are triangular (or diagonal). By proposition

exponentielexponentiel1.9 (and

the remark right after it), this is equivalent with the fact that the differentialequation has an exponential solution. We also see that the group is diag-onal if there are (at least) two exponential solutions (this case is handledfurther in exercise

compredcompred9). In this case, W admits a complement subspace that is

also stable under G and the group is then said to be completely reducible.

To the equation L(y) = 0, we associate the Riccati equation, i.e the equa-tion satisfied by u = y′

y . Simple computation shows that u′ = a0 + a1u− u2.We see that the equation is reducible if and only if the Riccati equation hasa rational solution.

If G is reducible, then L itself is reducible, in the sense that it can bewritten as a composition of two operators (check this in exercise

exp-redexp-red7); you

may check that L has a right factor ∂− u if and only if u is a solution of theRiccati equation.

If G does not act reducibly, it is called irreducible.

2.1.2 Case II: Imprimitive Case

Definition 2.2. Let G be an irreducible group acting on a vector space V. We saythat G is imprimitive if there exist subspaces Vi such that V = V1 ⊕ . . . ⊕ Vrand G permutes transitively the Vi :

∀i = 1, . . . , r ∀g ∈ G, ∃ j ∈ 1, . . . , r : g(Vi) = Vj.

We then say that V1, . . . , Vr form a system of imprimitivity for G.

In our case, we must have r = 2 and dim(V1) = dim(V2) = 1. Thematrices have the form(

a 00 a−1

)or

(0 b

−b−1 0

)with a, b ∈ C∗.

Lemma 2.3. Assume that G is irreducible. Then the Riccati equation has analgebraic solution of degree 2 if and only if G is imprimitive.

Proof. Let P denote the minimum polynomial of an algebraic Riccati solu-tion of degree 2. Let u1, u2 be the roots of P. As u1, u2 satisfy the Riccatiequation, there exists solutions yi of L(y) = 0 such that y′i/yi = ui. As G

2 SECOND ORDER DIFFERENTIAL EQUATIONS 13

permutes the ui, it permutes the lines Vi = C. < yi > and the Vi form asystem of imprimitivity.Reciprocally, let Vi = C. < yi > be a system of imprimitivity. If we letui = y′i/yi, then G permutes the ui and proposition

algebriquealgebrique1.8 shows that they are

algebraic of degree 2 and conjugate (you may also check that the symmetricfunctions in the ui are left fixed by G).

2.1.3 Case III: Primitive case

Definition 2.4. If G is irreducible and not imprimitive, we say that it is primitive.

One can show ([SU93a]) that an equation whose Galois group is an in-finite primitive subgroup of SL(n, C) does not have Liouvillian solutions;And if the group is finite, all solutions are algebraic (proposition

algebriquealgebrique1.8) and

hence Liouvillian.In the case of SL(2, C), there are three primitive groups (e.g [Kov86,

SU93b, SU93a] The tetraedral group (ASL24 ) of order 24, the octaedral group

(SSL24 ) of order 48, and the icosaedral group (ASL2

5 ) of order 120. We willnow review them

The tetraedral group ASL24 of order 24 is generated by matrices

M1 =(ξ 00 ξ−1

)and M2 =

13(2ξ − 1)

(1 12 −1

)where ξ denotes a primitive sixth root of unity, i.e ξ2 − ξ + 1 = 0. Thesubgroup < M1 > generated by M1 has order 6. Assume the second orderoperator L has ASL2

4 as its Galois group. Let y1, y2 denote a basis of the solu-tion space on which these matrices act and have this form. We see that theline generated by y1 is left fixed by < M1 >; this imposes that u1 := y′1

y1is

left fixed by < M1 > (recall propositionexponentielexponentiel1.9) so its orbit under G has length

at most 4 (in fact, direct computation shows that it has length exactly 4). Bythe Galois correspondenc (proposition

algebriquealgebrique1.8), it follows that u1 is algebraic

of degree 4. We conclude that when the Galois group is ASL24 , the Riccati

equation has a solution which is algebraic of degree 4.Another way to see this result is the following. Computing the conjugatesof y1 under G shows that the polynomial Y1 (2 Y2 + Y1)

(4 Y2

2 − 2 Y1 Y2 + Y12)

is a semi-invariant of the Galois group (i.e it is sent to a multiple of itself by

2 SECOND ORDER DIFFERENTIAL EQUATIONS 14

the group acting by linear substitution, right action). It can also be checkedthat its cube is an invariant. We will use this below to compute the mini-mum polynomial of u1.

The octaedral group SSL24 of order 48, is generated by matrices

M1 =

(ξ 0

0 ξ−1

)and 1/2ξ

(ξ2 + 1

)( 1 1

1 −1

)

where ξ denotes a primitive eighth root of unity, i.e ξ4 + 1 = 0. The sub-group < M1 > generated by M1 has order 8 and reasoning as above showsthat the riccati solution u1 is algebraic of degree 6 = 48

8 .The group admits the semi-invariant Y5

1 Y2 − Y1Y52 , whose square is an in-

variant.

The icosaedral group ASL25 of order 120. is generated by matrices

M1 =

(ξ 0

0 ξ−1

)and

(φ ψ

ψ −φ

)whereξ denotes a primitive tenth root of unity, i.eξ4−ξ3 +ξ2−ξ + 1 = 0,andφ = 1

5 (ξ3 −ξ2 + 4ξ − 2) andψ = 15 (ξ3 + 3ξ2 − 2ξ + 1). The subgroup

< M1 > generated by M1 has order 10 and reasoning as above shows thatthe riccati solution u1 is algebraic of degree 12 = 120

10 .The group admits the invariant Y11

1 Y2 − 11Y61 Y6

2 −Y1Y112 .

In the cases of these three groups, all solutions are algebraic and henceall solutions of the Riccati equation are of course also algebraic. By devel-opping on propositions

algebriquealgebrique1.8 et

exponentielexponentiel1.9, the study of those groups (see [?, ?] or

push further the above calculations) shows that :

• For ASL24 : The Riccati has algebraic solutions of degrees 4,6 ou 12.

• For SSL24 : The Riccati has algebraic solutions of degrees 6,8,12, ou 24.

• For ASL25 : The Riccati has algebraic solutions of degrees 12,20,30, ou

60.

Lastly, if G = SL(2, C), the differential equation does NOT have liouvil-lian solutions. In view of the applications to hamiltonian mechanics ([?]),

2 SECOND ORDER DIFFERENTIAL EQUATIONS 15

we see that the only subgroup(s) of SL(2, C) that will yield obstructions tointegrability are . . . only SL(2, C) itself.

This classification work is summarized in Kovacic’s theorem

kovacic Theorem 2.5 ([Kov86]). Let L(y) = 0 be a linear differential equation with co-efficients in k It has Liouvillian solutions if and only if it has solutions of the formy = e

∫u where u is an algebraic solution of degree 1 (reducible case I), degree 2

(Imprimitive case II), or degree in 4, 6, 12 (Primitive case III) of the associatedRiccati equation.

2.2 The Kovacic algorithm

We now give a (simplified) version of the algorithm of Kovacic for solvingsecond order linear differential equations.

2.2.1 Symmetric powers

Let P = Um + bm−1Um−1 + . . . b0 be the minimum polynomial of an alge-braic solution of the Riccati equation. Let u1, . . . , um be the roots of P, andyi the solutions of L(y) = 0 of which they are logarithmic derivatives. Wethen have

bm−1 = −(u1 + · · ·+ um) = −(y′1y1

+ . . . y′m ym) = − (∏ yi)′

∏ yi.

The coefficient −bm−1 is thus the logarithmique derivative of a product ofm solutions of L(y) = 0.

sympow Lemma 2.6. Let y1, y2 be a basis of solutions of L(y) = 0. There exists a lineardifferential equation L©s m whose solution space is the set of homogeneous polyno-mials of degree m in y1, y2 with coefficients in C.

Proof. Let y be a generic solution of L(y) = 0. Let z = ym. Compute z′,z′′,. . . ,zm+1 by always replacing y′′ by its expression given by L(y) = 0.The z(i) are linear combinations of monomials of degree m in y, y′. Thesemonomials form a k-vector space of dimension m + 1 ; if we have m + 2elements of such a space, they are linearly dependent, so z,z′, z′′,. . . ,zm+1

satisfy a linear dependence relation over k that we note L©s m(z) = 0 : whatwe know is that it has order at most m + 1.Let A be the differential ring K[X1, X2] where the derivation is given byX′

1 = X′2 = 0. By construction, we have L©s m((X1 y1 + X2 y2)m) = 0.

We easily infer that any monomial of degree m en y1, y2 is a solution of

2 SECOND ORDER DIFFERENTIAL EQUATIONS 16

L©s m(z) = 0. But, if these monomials were linearly dependent, then y1, y2would be linearly dependent (any homogeneous polynomial in two vari-ables factors as a product of linear factors over C) : So they form a vectorspace of dimension m + 1, then L©s m(z) is order m + 1, and its solutionspace is precisely that vector space.

We can calculate the linear dependence between z and z′ using standardlinear algebra, but a faster method is the following:Exercise 8.[[BMW97]] Let L(y) = y′′ + ay′ + by = 0. we define recursivelya sequence of operators Li by :

L0(y) = y,L1(y) = y′,Li+1(y) = Li(y)′ + iaLi(y) + i(m− i + 1)bLi−1(y).

1. Let y be a solution of L(y) = 0. Show by induction that

Li(ym) = m(m− 1) · · · (m− i + 1)ym−i(y′)i.

2. Deduce that Lm+1 = L©s m.

2.2.2 Algebraic Solutions of the Riccati Equation

Theorem 2.7. The Riccati equation has a solution algebraic of degree at most m ifand only if the symmetric power L©s m(z) = 0 has an exponential solution.

Proof. If the Riccati equation has an algebraic solution of degree m, we haveseen that the coefficient bm−1 of its minimum polynomial is the logarithmicderivative of an exponential solution of L©s m(z) = 0.Conversely, let z be an exponential solutions of L©s m(z) = 0. Lemma

sympowsympow2.6

shows that there exists a polynomial Q(y1, y2) homogeneous of degreem such that z = Q(y1, y2). Let v be the logarithmic derivative of z. AsQ(y1, y2) factors as a product of linear factors over C, let u1, . . . , um be thelogarithmic derivatives of these factors. A linear combination of solutionsis a solution so the ui are Riccati solutions. For any g ∈ G, as g(v) = v,g(ui) must be one of the u j : by proposition

algebriquealgebrique1.8, it follows that the ui are

algebraic of degree at most m.

If the ui do not have degree m, you may check that the product P of theirminimum polynomials will be of degree m and its coefficient bm−1 will begiven by bm−1 = −v′/v.

2 SECOND ORDER DIFFERENTIAL EQUATIONS 17

In [UW96], it is shown how, in many cases, one can also ask for rationalsolutions of L©s m(y), which simplifies the algorithm.

Recall that the Riccati equation associated with y′′ + a1 y′ + a0 y is u′ =−a0 − a1u − u2. Differentiating the identity P(u) = 0 and replacing u′

by its expression, we obtain a polynomial relation of degree m + 1 for u.The remainder of the Euclidean division of this polynomial of degree m +1 by P must be zero which gives us the following recursion to obtain allcoefficients bi once bm−1 is known.

(])m :

bm = 1

bi−1 =−b′i + bm−1bi + a1(i−m)bi + a0(i + 1)bi+1

m− i + 1, m− 1 ≥ i ≥ 0

b−1 = 0

Finally, we obtain the following algorithm to calculate algebraic solu-tions of Riccati equations:

For m ∈ 1, 2, 4, 6, 12 :

• Compute L©s m(y)

• Seek exponential solutions f

• If there are some: let bm−1 = − f ′f , compute the other coefficients

bi of P by using (])m, and return Pelse, proceed with next m.

If no solution is found this way, there are no Liouvillian solutions.

Exercise 9. Consider the differential equation L(y) = y′′ − ry = 0.compred

1. Write the Riccati equation R(u) = 0 satisfied by u = y′/y.

2. Show that L©s 2(y) = y′′′ − 4ry′ − 2r′y′′.

3. We assume that R has an algebraic solution of degree 2.

(a) Show that its minimum polynomial has the form

P = u2 − f ′

fu +

f ′′

2 f− r

where L©s 2( f ) = 0.

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 18

(b) Show that f disc(P) = c where c is a constant.

(c) We assume that L©s 2( f ) = 0 has a solution f ∈ C(x) and thatdisc(P) 6= 0. Show that the Riccati equation has one or tworational solutions; Compute them, and deduce that L admits the

liouvillian solutions y =√

f e±∫ √

c2 f .

(d) Conversely, show that if L(y) = 0 has two linearly independentexponential solutions, then the matrices of the Galois group arediagonal matrices and L©s 2(y) = 0 has a rational solution (recallthat the Galois group is unimodular)

(e) Application : solve y′′ − c16x2 y = 0 où c ∈ C.

3 Local and Global Differential Galois Theory

A powerful method to obtain information on differential Galois groups isto first compute some local information at the singularities, and then tryto patch (or glue) together these local informations. This is how one willcompute rational solutions, exponential solutions, factorizations, etc.We will now sketch some (easiest) algebraic aspects of this local approach,and how to realize actual computations with it.

3.1 Local Solutions

3.1.1 Power Series Solutionsseries

We make the coefficients of our differential equation polynomials: L(y) =an y(n) + an−1 y(n−1) + . . . + an y = 0 where the ai are now polynomials (infact, analytic would be enough). If an(x0) 6= 0, then Cauchy’s theoremshows that the equation has a basis of analytic solutions around zero.

Computing these power series is achieved the following way. Let T =x − x0 if x0 ∈ C of T = 1

x if x0 = ∞. Perform the change of variablesx 7→ T in the equation and plug ∑i ciTi into the equation: you will obtain arecurrence relation for the ci and they will be uniquely determined by theirfirst n terms (exercise: prove this cleanly).To fix notations, let’s make this recursion explicit. The operator L can beviewed as an endomorphism of the infinite dimensional vector space C[[x]].Assume that ai = ∑

mii=1 ai, jx j. We write the action of L on a basis of C[[x]]:

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 19

we get L(xN) = ∑ni=0 ∑

mij=0 N(N − 1) . . . (N − i + 1)ai, jxN+ j−i. Now,

L(∞∑

N=0cNxN) =

∞∑

N=0

n

∑i=0

mi

∑j=0

N(N − 1) . . . (N − i + 1)cNai, jxN+ j−i. (3.1) pre-rec

So, grouping powers of x, we obtain a recurrence relation

(RN) :m

∑l=0

El(N)cN−l = 0 (3.2) recurrence

with El being a polynomial. In particular, if ν is the valuation of the powerseries (the smallest integer such that cν 6= 0), we must have E0(ν) = 0 (allthe cν−l are zero).If an(x0) 6= 0, then direct computation shows that E0(N) = N(N− 1) . . . (N−(n− 1)).Exercise 10. Use this to show the formal part of Cauchy’s theorem i.e theexistence of a basis of solutions in power series.

3.1.2 Exponents and Quasi-Seriesexponents

We now turn to the singular case. For notational convenience, we assumethat the considered singular point is zero (i.e an(0) = 0).We say that a solution y is a quasi-series if it is of the form y = xαφ withφ analytic and α ∈ C. If α ∈ Z, this is a Laurent series; if α ∈ Q, this is aPuiseux series. If further φ has valuation zero (i.e its constant term is notzero), then α is well defined and we call it the exponent of the quasi-seriesy.

Example 3.1. The Euler homogeneous equation ([Inc44]).Consider the equation L(y) = x2 y′′ + c1xy′ + c2 y = 0 with c1, c2 constants (thisequation is often called, as many other equations, an Euler equation). Computationshows that L(xα) = E0(α)xα with E0(α) = α(α − 1) + c1α + c0. We see thatthere is a solution of the form xα if and only if E0(α) = 0.If E0 has two distinct rootsα1,α2, then we have distinct solutions xα1 and xα2 (checkthat they are linearly independent over C).If E0 has a double root α1, we have E0(α1) = E′0(α1) = 0. We differentiate therelation L(xα) = E0(α)xα with respect toα (note that ∂

∂α(xα) = xα log(x)):

we obtain L(xα log(x)) = (E′0(α) + log(x)E0(α))xα, from which it follows thatL(xα1 log(x)) = 0 so a second solution is xα1 log(x).

Exercise 11. Show that the equation L(y) := 2xy′′ + 3y′ + 2y = 0 has abasis of quasi-series solutions at x = 0. Hint: Compute L(xα+N) for an

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 20

arbitrary integer N and show that L(∑∞N=0 cNxα+N) = 0 if and only if we

both have that E0(α) = 0 for some polynomial E0 and the cN are solutionsof a recursion relation (compute it).

To make this general, look at equationpre-recpre-rec3.1 and replace N by α + N in

there. Relationrecurrencerecurrence3.2 then becomes

(RN) :m

∑l=0

El(α + N)cN−l = 0 (3.3) recurrence2

A necessary condition for the existence of a quasi-series solution withexponentα is that E0(α) = 0 (from the case N = 0 in recursion

recurrence2recurrence23.3).

Definition 3.2. .The polynomial E0 is called the indicial polynomial of L at zero.The roots of E0 are called the exponents of L at zero.If E0 has degree exactly n, then zero is called a regular singularity; otherwise, E0has degree strictly less than n and zero is an irregular singularity.

Exercise 12. Letα be an exponent at zero such that, for all i ∈ N,α+ i is Notan exponent. Prove that L admits a quasi-series solution of exponentα.

More generally, if the singularity is regular singular, then (see [?] or[Inc44]) either there is a basis of quasi-series solutions, or there is a ba-sis formed of quasi-series and of solutions of the form xα1φ1, xα1−n1(φ2 +xn1φ1 log(x)), . . . (this may happen in the case when two exponents differby an integer). Moreover, the power series φi are analytic. So in this case,the formal theory and the analytical theory coincide.

3.1.3 Generalised Exponentslocal

If the singularity zero is not regular, then quasi-series and logarithms areclearly not enough to define solutions. For example, consider the equationx2 y′ + y = 0: the solution e

1x can not be written as a quasi-series at zero, so

we need to add exponentials to our formal local objects.

Definition 3.3. An element ei ∈ C[x−1r ] is called a generalized exponent if

there is a formal solution of the form e∫ ei

xφi whereφi ∈ C[[x]][ei, log(x)] and thevaluation (with respect to x, not counting the log) ofφi is equal to zero.If r > 1, then r is called the ramification index of the generalized exponent.

Note that exponents themselves are generalized exponents: indeed xα =e∫αx .

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 21

To compute generalized exponents, one looks for formal Puiseux series so-lutions for the Riccati equation associated with L (i.e solutions in C((x

1r ))

for some r ∈ N) and keeps only the parts of such solutions whose valua-tion is less or equal to −1; the degrees of the generalized exponents can bemeasured from the Newton polygon of L at zero.

One can show ([vdPS03, ?]) that one can compute a basis of formal so-lutions of the form e

∫ eixφi whereφi ∈ C[[x]][ei, log(x)].

3.1.4 The Formal Local Galois groupformal-group

We still assume that we work at zero (otherwise, take a local parametert = x − x0 at x0 ∈ C or t = 1

x at infinity and work with t). We considerthe field C((x)) as our base field. The formal local Galois group G0 at zerois defined as the differential Galois group of a Picard-Vessiot extension ofC((x)) for L.

Because we know the structure of the formal solutions, we may describethe structure of the formal local Galois group: for each i, we may writee∫ ei

x = xαi ePi (with Pi of negative degree in x).The formal local monodromy is defined as the Galois group over C((x)) of

1. either C((x))(xα1 , . . . , xαn) if there are no logarithms in the solutions(in which case it is a torus)

2. or C((x))(xα1 , . . . , xαn , log(x)) if there are logarithms in the solutions(in this case, it contains a unipotent element)

The exponential Torus is defined as the Galois group of C((x))(eP1 , . . . , ePn).One readily sees that these two groups generate the formal local Galoisgroup; moreover, they can be easily computed from the given of local solu-tions.

Lemma 3.4. The formal local Galois group can be embedded into a subgroup ofthe differential Galois group of L over C(x).

Proof. We use the fact that C(x) can be embedded in C((x)) so we view it as

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 22

a subfield. Consider the following Kaplansky diagram: KG0

qqqqqqqqqqqq

IIIIIIIIIIII

C((x))

LLLLLLLLLLK

Hvvvvvvvvvv

G

C((x)) ∩ K

C(x)

where

H is the differential Galois group of K. Galois theory shows that H is a sub-group of K. Then, the above diagram shows ([?]) that the Galois groups Hand G0 are isomorphic. Thus, G0 can be viewed as a subgroup of G.

If we now take for our base field the field C(x) of convergent powerseries, we define the local Galois group G0 as the differential Galois group ofa Picard-Vessiot extension of C(x). A Kaplansky diagram again showsthat G0 ⊂ G0 ⊂ G.

At a regular singularities, we have G0 = G0 and the Schlesinger densitytheorem ([?]) shows that the global Galois group is generated by its localGalois groups.

At irregular singularities, though, then new phenomena may occur (Stokesphenomenon) and in this case G0 ( G0.

A very simple illustration of a link between local and global informationis given in the following

finite Proposition 3.5. Assume that the Global galois group is finite. Then the expo-nents at all singularities are rational.

Proof. The local Galois group is embedded in the global Galois group andhence finite. The exponential torus is infinite so there cannot be irregularpoints and all points must be regular. Now, if there are logarithms, themonodromy contains an additive subgroup and is infinite (alternatively: alogarithm is transcendental hence not algebraic, contradicting the fact thatthe group is finite). So the monodromy must be diagonal. But, because it isfinite, it is cyclic and hence the exponents must be rational.

We note that this result is proved more naturally using Puiseux expan-sions of algebraic functions, but this proof gives light on the power of theGalois theoretic tools.

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 23

3.2 Local and Global Algorithms

3.2.1 Rational Solutionsratsols

Let S denote the set of singular points (i.e the zeroes of an and possiblyinfinity). We search for a method to check if our differential equation hasa rational solution. Let y be a rational function. Then y can be writtenas y = ∏xi∈S (x − xi)αi .(pmxm + pm−1xm−1 + . . . + p0). So to compute y,we need to find the αi, the degree m, and the coefficients pi. Expansion inLaurent series (or partial fraction decomposition) shows that the αi mustbe exponents of L at xi. Now, expansion at infinity (expand in powers of1x ) shows that there must exist an integer exponentα∞ at infinity such thatm = −α∞ − ∑xi∈S αi. We thus obtain the following algorithm, whose solu-tions are a basis of rational solutions (if any) of L(y) = 0:

1. Select the minimal integer exponentsαi at all singularities, including∞. If one singularity does not have integer exponents, then STOP.

2. Let m := −α∞ − ∑xi∈S αi. if m is not positive, then STOP.Plug y = ∏xi∈S (x− xi)αi .(pmxm + pm−1xm−1 + . . . + p0) into the equa-tion

3. solve the resulting linear system in the pi.

3.2.2 Radical and Global Solutions

The same reasoning applies to radical solutions, i.e the exponents maybe used also to compute solutions having some power which is rational:one can similarly prove (see e.g [?, ?]) that there is a radical solution onlyif there are rational exponents ei at all singular points xi ∈ S such thatm := −e∞ − ∑xi∈S ei is a positive integer. The solution would again bey = P. ∏xi∈S (x− xi)ei with P of degree m. Pluging this expression L(y) = 0with indeterminate coefficients of P gives a linear system for the coefficientsof P, any (non-zero) solution of this system leading to a solution of L;Note that unlike the case of rational solutions, there may be different com-binations of the ei to be tested. Also, note that if some factors of an are ir-reducible polynomials, then we may have to compute with a splitting fieldof those to check for combinations, and this can make the algorithm morecostly.

For the more general case of exponential solutions, the process is simi-lar, though a little bit more technical, see [?] or [vdPS03].

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 24

Now we would like to see how to use these tools in the Kovacic algo-rithm. We introduce the following useful trick from [?]:Note that if we have two formal solutions e

∫ eixφi, then their product is

e∫ e1+e2

x φ1φ2, hence e1 + e2 is a generalized exponent for the symmetric squareof L. In general, it is easy to verify that the expressions ie1 + (m− i)e2 formthe generalized exponents of L©s m. So we can check necessary conditionson rational (or radical) solutions of L©s m without having to compute thisequation.

3.3 Reducibility and Factorization

• Let G ⊂ GL(n, C) be a linear algebraic group. The representation inGL(n, C) of the group G is said to be reducible if there exists a non-trivial subspace W which is left globally invariant by G ; it is calledcompletely reducible if any subspace W of Cn which is left globally in-variant by G admits a complement V in Cn which is invariant underG. In our case (characteristic zero), this is equivalent with being re-ductive (i.e all linear representations are completely reducible).

• A differential operator is called reducible if it can be written as a prod-uct L = L1.L2 with Li ∈ k[∂] but not in k. Right-hand factors cor-respond to subspaces of the solution space that are stable under thedifferential Galois group. The ring of differential operators is seen be-ing left and right euclidean ring, one can define (effectively) notionsof greatest common right divisors (gcrd) and least common left mul-tiples (lclm). A differential operator is called completely reducible if itis the least common (left) multiple of irreducible operators (equiva-lently: if its Galois group is reductive).

In terms of linear differential system, here is another possible formu-lation.

• A system [A] Y′ = AY with A ∈ Mn(k) is said to be reducible if thereexists a matrix P ∈ Gln(k) such that the change of variable Y = PZtransforms the system [A] into a system of the form

Z′ =(× 0× F

)Z

where F is a square matrix of dimension k (it corresponds to a factor).Otherwise the system is said to be irreducible.

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 25

The system is said to be completely reducible if it can be transformedinto a block diagonal system

Z′ =

F1

F2

. . .Fs

Z

where each system ν′ = Fiν is irreducible.

3.4 The Art of Computing Galois Groups

We now have tools to smoothly use and apply the Kovacic algorithm (andgeneralisations like [SU97, vHRUW99]). We will show on examples how tocombine all these tools together to obtain differential Galois groups.

Example 3.6. Consider the Airy equation L(y) = y′′ − xy = 0. The only sin-gularity is infinity. The local (generalised) exponents are − 1

4 ± 2√

x3 at infinity.Because of the ramification at infinity, we see that the equation cannot have expo-nential solutions. Now we look at the second symmetric power.Looking at sums of the exponents, we see that the only rational exponent of thesecond symmetric power L©s 2 will be ( 1

2 ) at infinity. This cannot be the degree ofa polynomial. so there cannot exists a radical solution the the second symmetricpower.Now, as the equation is irregular at infinity, the group cannot be finite by proposi-tion

finitefinite3.5: this excludes case 3 of the Kovacic algorithm. Finally, the only possibility

is that the Galois group is SL(2, C).

Example 3.7. Consider the equation

L(y) = y′′ +(

1/4 (x− 1)−1 + 5/4 (x− 1)−2 + 3/16 x−2)

y = 0

The local (generalised) exponents are ( 14 , 3

4 ) at zero, the roots of X2 − 2X + 5 at 1and− 1

4 ± 2√−x at infinity. Because of the ramification at infinity, we see that the

equation cannot have exponential solutions. Now we look at the second symmetricpower.Looking at sums of the exponents, we see that the only rational exponents of thesecond symmetric power L©s 2 will be ( 1

2 , 1, 32 ) at zero, (1) at 1 and (− 1

2 ) at in-finity. Taking the lowest e0, e1, e∞ possible, we have −e∞ − e1 − e0 = −1 < 0

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 26

and the latter cannot be the degree of a polynomial so there cannot exists a radicalsolution the the second symmetric power.Now, as the equation is irregular at infinity (and does not have rational exponentsat 1), the group cannot be finite by proposition

finitefinite3.5: this excludes case 3 of the Ko-

vacic algorithm. Finally, the only possibility is that the Galois group is SL(2, C).

Exercise 13. Consider the equation L(y) = x3 y′′ + (x2 + x)y′ − y = 0

1. Show that the exponents at ∞ are (0, 0) and that the generalized ex-ponents at 0 are (1,− 1

x ).

2. Show that e1x is an exponential solution, the only one (up to scalar

multiplication).Show that there is a unique power series solution at zero, and that itis divergent (and Gevrey). Compute the formal local Galois group at0.

3. Show that the formal solutions at infinity are of the form ˆy1,∞ andˆy1,∞ log(x) + ˆy2,∞ where the ˆyi,∞ are power series in 1

x . Compute theformal local Galois group at infinity.

4. Compute the global Galois group, and compare it with the formallocal Galois groups.

Exercise 14. The Whittaker equation L(y) = y′′ − ( 1

4 + 12λ

)y = 0. Theexponents at zero are the roots of λX2 − λX− 12 and at infinity ± x

2 .

1. Show (using the above examples) that for generic values of λ the Ga-lois group is SL(2, C).

2. Show that the exponents at zero are rational if and only if λ = 12n(n−1)

with n ∈ Q.

3. In this case, the equation is y′′ − 14 −

n(n−1)x2 . Show that the exponents

at zero are (n, 1− n) and ± x2 at infinity. Prove that the Galois group

is SL(2, C) unless n is an integer.

4. Perform the change of variables y(x) = ex2 f (x). Search for f as a

power series: its coefficients uN satisfy the recursion NuN − (n + N) ∗(n− 1− N)u(N + 1) = 0 and u(0) = 0. Conclude that when n is aninteger, f is a polynomial and hence L has one (in fact, two) exponen-tial solutions.

3 LOCAL AND GLOBAL DIFFERENTIAL GALOIS THEORY 27

In this exercise, we see that these tools give strong necessary conditions.

However, question (4) shows that when there are parameters and the nec-essary conditions are satisfied, then it is not that easy to decide if thereactually exists a solution. In this case, it was feasible; in general, it is not(see [Bou99]) and even sometimes undecidable.Still, in the applications to Hamiltonian mechanics, we encounter manysystems where "mysteriously" reasonings like the above (and many othertricks) allow one to say a lot about non-integrability of entire families ofequations. This will be the topic of the next lecture.

28

Part II

Integrability of HamiltonianDifferential SystemsThe Hamiltonian systems are differential systems which describe the equa-tions of motion of mechanical systems whose mechanical energy (the Hamil-tonian) is conserved. One says that the mechanical energy is a first integralfor the Hamiltonian system. The notion of complete integrability of a Hamil-tonian system refers to the given of sufficiently many independent first in-tegrals (see definitions below).In recent decades, many significant improvements have been made in theresearch regarding complete (meromorphic) integrability of Hamiltoniansystems after the pioneering papers of Ziglin ([Zig83a, Zig83b], [Zig83a,Zig83b], 1982) relating integrability to properties of the monodromy groupof a variational equation (or variational system) along a known solution. Churchill,Rod and Singer ( [CRS95, BCRS96], 1996) and Morales and Ramis ([MRR01a],1998; [MRRS05], 2005) then recast and extended these ideas in terms of thedifferential Galois group of this variational equation.To quickly summarize, this culminated in the following criterion of Moralesand Ramis (from [MRR01a]) :

Let (S) be a Hamiltonian system, x0(t) be a particular solution of (S) and Gbe the differential Galois group of the normal variational equation of (S) computedalong the solution x0(t). If the system (S) is completely integrable, then the con-nected component of the identity in the group G, denoted G0, is an abelian group.

This theorem was generalized to ’higher variational equations’ in [MRRS05].At first sight, it may not be obvious that the conclusion of the statement (i.e.G0 abelian) is any easier to test than its premices. For second order equa-tions, many methods are known after the work of Kovacic [Kov86], seealso[UW96], [DLR92], . . . ). They enabled many results of non integrabil-ity, let us cite only some of them : [Tsy01b, Tsy01a, MSS01, Mac02, Aud03,MP03, MPW04, MP04, MP05, Aud01, Aud02, Aud03]The goal of these notes is to provide tools that seem to be practically effi-cient in handling families of Hamiltonian systems. We would like to pro-mote the following idea. The variational system has an infinitesimally sym-plectic matrix. This fact induces a number of structural properties on thesystem that can be used to simplify computations. So our approach is to

4 BASIC FACTS ON FIRST INTEGRALS OF (HAMILTONIAN) DIFFERENTIAL SYSTEMS 29

try to exploit and preserve as much as possible this symplectic structure.Another point is that integrability questions are asked on families of Hamil-tonians depending on parameters. This induces families of variational equa-tions which also depend on parameters and this is an obstruction to al-gorithms that test Morales-Ramis theorem and the criterium we deducedfrom it. However, we will show below that the symplectic structure allowsone to confront a part of this obstruction. We will emphasize on systems oforder greater than 2.

The topic of this lecture is at the crossing point of two theories for whichwe assume the reader has a working knowledge (or is ready to acceptsome statements and references ot litterature): Integrability of Hamilto-nian systems (see [Aud01, Aud02] [MRR01a], [MR01, MRR01b], [Chu02],[MRRS05] . . . ) and Differential Galois theory (see the previous lecture, andthe remarkable reference book [vdPS03], or also [Sin90b], [Mag94]. . . ).

4 Basic Facts on First Integrals of (Hamiltonian) Dif-ferential Systems

section2In this first section we recall basic facts on Hamiltonian systems, differentialgalois theory and the Ziglin and Morales-Ramis theorems ([MR01],[MRR01a]).

4.1 Variational equations and First Integrals

Definition 4.1. Let K be a field of characteristic zero. Let us consider F =( f1, . . . fn) where fi is of class Ck on an open set U of Kn. A dynamical system isa system of differential equations

dxi

dt= fi(x1(t), . . . , xn(t)), i = 1, . . . , n

which can be written, in vectorial notation as

dxdt

= F(x)

We will focus on conserved quantities for such systems:

Definition 4.2. A function G : U → R is a first integral of the dynamical systemx = F(x) if, for all solution x(t) of the system,

ddt

G(x(t)) = 0.

4 BASIC FACTS ON FIRST INTEGRALS OF (HAMILTONIAN) DIFFERENTIAL SYSTEMS 30

The first integrals give the geometry of the solution curve. Indeed thesolutions of the system lie on the hypersurfaces G = cte.To answer questions regarding the existence of analytic first integrals, Poincaréstudied the solutions which are infinitesimaly close to a given particular so-lution of the differential system. The behavior of these solutions is givenby a homogeneous linear differential system, the variational system, whichis obtained by linearization of the differential system along the particularsolution.

Definition 4.3. The variational system along a solution x0(t) of a differentialsystem is the linear differential system:

h′(t) = Jac(F)(x0(t)) h(t)

where Jac(F) denotes the Jacobian matrix of F at x0(t).

Let G : U → R and let k in N such that (dG)x = · · · = (dk−1G)x = 0.The junior part G of G is dkG (see [Aud01] for a nicer definition)

weak-ziglin Lemma 4.4 (Ziglin, weak form). If (S) admits m algebraically independent firstintegrals f1, . . . , fm, then it admits m algebraically independent first integralsg1, . . . , gm such that their junior parts g1 , . . . , gm are algebraically independent.Furthermore they are solutions to the variational system.

4.2 Hamiltonian Systems and Complete Integrability

Definition 4.5. Let n ∈ N∗, x = (x1, . . . , x2n) = (q1, . . . , qn, p1, . . . , pn) ∈R2n.A Hamiltonian system on a non empty domain U of R2n is a system of differen-tial equations of the form:

dqi

dt=

∂H∂pi

(q, p)

dpi

dt= −∂H

∂qi(q, p)

i = 1, . . . , n

where H : U → R is the Hamiltonian function.The variables pi and qi are conjugate variables. The positive integer n is calledthe number of degrees of freedom.

4 BASIC FACTS ON FIRST INTEGRALS OF (HAMILTONIAN) DIFFERENTIAL SYSTEMS 31

Remark 15 : A Hamiltonian system can also be written in the followingform:

x′(t) = J ∇H(x(t))

where J =(

0 I−I 0

), I is the order n identity matrix and ∇H(x) is the

gradient of H at x. The Hamiltonian H is conserved, it is afirst integral for the hamiltonian system. Indeed, for each solution x of thesystem, dH(x(t)) = 0.A first integral G of the Hamiltonian system is also characterized by theequality

G(x), H(x) = 0

(or G(x), H(x) = H(x), G(x))where

G1, G2 =n

∑i=1

(∂G1

∂pi

∂G2

∂qi− ∂G1

∂qi

∂G2

∂pi

)=< ∇G1(x), J∇G2(x) >

is the Poisson bracket of G1 and G2.

Definition 4.6. A Hamiltonian system with number of degrees of freedom equalto n is called completely integrable if it has n first integrals G1, . . . , Gn suchthat:

• G1, . . . , Gn are functionally independant(∇G1, . . . ,∇Gn are linearly independant)

• G1, . . . , Gn are in involution: for all solution x of the Hamiltonian sys-tem,Gi(x), G j(x) = G j(x), Gi(x)(G1, . . . , Gn commute for the Poisson bracket).

It is necessary to give a more precise sense to this notion of completeintegrability by asking which class of functions we want the first integralsto belong to (analytic, algebraic, meromorphic functions, . . . ).

To answer the question of the analytic complete integrability, Poincaréstudied the solutions which are infinitesimaly close to a particular solutionof the Hamiltonian system. The behavior of these solutions is given bya homogeneous linear differential system, the variational system, which isobtained by linearization of the Hamiltonian system along the particularsolution.

4 BASIC FACTS ON FIRST INTEGRALS OF (HAMILTONIAN) DIFFERENTIAL SYSTEMS 32

Definition 4.7. The variational system along a solution x0(t) of a Hamiltoniansystem is the linear differential system:

h′(t) = J H(H, x0(t)) h(t)

where H(H, x0(t)) is the hessian of H at x0(t).

Remark 16 : The matrix A = J H(H, x0(t)) belongs to the simple Liealgebra sp(2n, C) = M ∈ Gl(2n, C)/ t M J + J M = 0 which is the LieAlgebra of the symplectic group Sp(2n, C) = g ∈ Gl(2n, C) /tg J g = J.One says that A is an infinitesimally symplectic matrix.

As x′0(t) is a particular solution of the variational system along the so-lution x0(t), one can reduce it and get a normal variational system of order2n− 2. During the last twenty years many results on the meromorphic nonintegrability of the Hamiltonian systems were deduced from the study ofthis (normal) variational system.Exercise 17. We consider here the example of the system of HOnon-Heiles

from [MRRS05].The initial Hamiltonian is

H =12(y2

1 + y22) +

12

x21 +

12

x22 +

13

x31 +

12

x1x22

A particular solution of it is ([MRRS05]) :

x0(t) =t(

12− 3

2tanh

(t2

), 0,−3

2tanh

(t2

)(1− tanh2

(t2

)), 0)

The variational system along this particular solution is :

h′(t) =

0 0 1 00 0 0 1

−2 + 3 tanh2( t2 ) 0 0 0

0 − 32 + 3

2 tanh2( t2 ) 0 0

h(t)

If one wants rational coefficients one makes the change x = tanh(t/2) andone gets

h′(x) =

0 0 − 2

x2−1 00 0 0 − 2

x2−1

− 2(3x2−2)x2−1 0 0 00 −3 0 0

h(x)

4 BASIC FACTS ON FIRST INTEGRALS OF (HAMILTONIAN) DIFFERENTIAL SYSTEMS 33

To reduce it to a normal variational system one makes the symplecticchange of variable (see [MRR01a] or annex of [Bou00b], [Bou00a, BW03]) h = PY where the first column of the matrix P is x′0(t) and P satisfiestP J P− J = 0. One gets an equivalent linear differential sytem from whichone extracts the rows and columns 2 and 4. One gets the normal variationalsystem

Y′(x) =(

0 32

x2−1 0

)Y(x)

In 1982, Ziglin ([Zig83a, Zig83b], [Zig83a, Zig83b]) established neces-

sary conditions of meromorphic complete integrability on the monodromygroup of the variational system. In 1995, Baider, R.C. Churchill, Rod and M.Singer ( [CRS95, BCRS96]) and in 1998, J.J. Morales and J.P. Ramis ([MRR01a])established necessary conditions of meromorphic complete integrability onthe differential Galois group of the variational system.

4.3 Ziglin, Morales-Ramis

We may now restate lemmaweak-ziglinweak-ziglin4.4 in differential Galois terms (this is not

Ziglin’s original formulation, but rather the one from [CRS95, BCRS96] or[Aud01]).

Theorem 4.8 (Ziglin, strong form). Consider a differential system (S) : x′ =F(x) and the variational system [A] : Y′ = AY along a solution x0(t) of(S). If (S) admits m algebraically independent meromorphic first integrals, thenGal([A]) admits m algebraically independent rational invariants.

For completely integrable hamiltonian systems, the additional involu-tion property translates into the celebrated result of Morales and Ramis:

theoRM Theorem 4.9 (J.J. Morales, J.P. Ramis). Consider a hamiltonian system (S) andthe variational system [A] : Y′ = AY along a solution x0(t) of (S). If the system(S) is completely integrable, then Gal([A]) is virtually abelian.

In next section we present a criterion deduced from Morales-Ramis the-orem to get sufficient conditions of non complete integrability of a Hamil-tonian system (see [Bou00b, Bou00a, BW03] for a preliminary version ofit).

5 A CRITERION OF NON COMPLETE INTEGRABILITY OF HAMILTONIAN SYSTEMS34

5 A criterion of non complete integrability of Hamil-tonian systems

int-criteriaThe analysis of the local solutions around singularities can give informationon the integrability of nonlinear systems of ordinary differential equationssuch as Hamiltonian systems (Kovalevskaya and Painlevé test) However,the criterion we deduce from Morales Ramis theorem requires not only alocal study of the normal variational equation but also a global study ofit. In next subsection we give introducory examples illustrating that thestudy of the local solutions for the variational system will not be sufficientin general to give an obstruction to the virtual abelianity of the correspond-ing Galois group. In the second subsection, we give a non integrabilitycriterion based on local and global considerations.

5.1 Examples

Before stating the criterion, let us focus on two introducing examples.

• Let us consider the first order linear differential symplectic system

Y′ =

(0

1x

0 0

)Y

which can be also written

xY′(x) =(

0 10 0

)Y(x)

This system has formal solutions at zero with logarithmic terms as

the local monodromy is given by the matrix(

0 10 0

)(whose single

eigenvalue is 0 and who is not diagonalizable). However its differen-tial Galois group is additive, so abelian.One can notice that this system is equivalent to the linear differentialequation

xy′′(x) + y′(x) = 0

(using the cyclic vector (0, 1)).Its space of solutions is generated by 1 and ln(x). The presence oflogarithmic terms in the formal solutions does not suffice to imply thenon virtual abelianity of the group G. Furthermore, one notices here

5 A CRITERION OF NON COMPLETE INTEGRABILITY OF HAMILTONIAN SYSTEMS35

that the equation was reducible without being completely reducible.Indeed,

x∂2 + ∂ = (x∂ + 1)∂ 6= ∂(x∂ + 1).

This is the crucial point that is at the origin of the propositionprop2prop25.2 and

theoremnewnew5.3 (or corollary

new2new25.5).

• Let us consider the normal variational system of the example 1

Y′(x) =

0 32

x2 − 10

Y(x)

The system can be written

(x− 1)Y′(x) =

0 3(x− 1)

2x + 1

0

Y(x) =[(

0 01 0

)+(

0 3−12 0

)(x− 1) + · · ·

]Y(x)

So the monodromy matrix at 1 is given by the matrix(

0 01 0

)and

there are logs at 1.

As the exponents at 1 and −1 are both equal to 0, the exponentialsolutions of the system correspond to the polynomial solutions. Theexponents at infinity are 2 and −3 so one searchs a polynomial solu-tion of degree 3. One finds (using package ISOLDE in Maple) t(z(z2−1), z2 − 1

3 ) so the system is reducible.One can also see the normal variational system as an equivalent lineardifferential equation

y′′(x)− 6x2 − 1

y(x) = 0

The exponents at the singularities are 0 and 1 at the points −1 and1; −3 and 2 at the point infinity, so an exponential solution is of theform p(x) where p is a polynomial of degree 3. One finds one singlesolution z3 − z so the system is reducible without being completelyreducible.Again, the differential Galois group of this normal variational systemis abelian, so the presence of logarithmic terms does not suffice toconclude to the non virtual abeliannity and Morales-Ramis theorem

5 A CRITERION OF NON COMPLETE INTEGRABILITY OF HAMILTONIAN SYSTEMS36

does not enable to conclude here. Furthermore, this special examplewas given a complete answer in [MRRS05] where the use of highervariational equations enabled to conclude to the non complete inte-grability of the system.

5.2 A non-integrability criterion

We propose a criterion where added assumptions about the factorization ofthe equation suffice to make the group non virtually abelian. We derive thiscriterion using both the presentation of linear differential equations and thepresentation of linear differential systems. First we need a lemma (estab-lished independently in [Bou00b, ?]).

lem1 Lemma 5.1 ([Bou00b, BW03, ?]). Let G ⊂ GL(n, C) be a completely reduciblelinear algebraic group acting on V = Cn. The following assertions are equivalent:

(a) G0 is solvable,(b) G0 is diagonalizable,(c) G0 is abelian.

Proof. The implications (b) ⇒ (c) and (c) ⇒ (a) are immediate. Nowassume that (a) holds. First we assume that V is irreducible under G. Be-cause G is solvable, it is triangularizable. In particular, all its elementshave a common eigenvector v1. Let g ∈ G and h ∈ G. Because G isnormal in G, we have h(g(v1)) = g(h(v1)) with h ∈ G. But, as v1 is acommon eigenvector for G, we have h(v1) = χh.v1 with χh ∈ C. But nowh(g(v1)) = g(χh.v1) = χh.g(v1) so all g(v1) are eigenvectors of G. Thelinear space spanned by the g(v1) (for g ∈ G) is a subspace of V invariantunder G. By irreducibility, it is equal to V. Because it it is generated by theg(v1), G acts diagonally on it.Now, if V is reducible, it is a direct sum of subspaces which are irreducibleunder G, and we apply inductively the above reasonning to these irre-ducible summands.

If G is the differential Galois group of a linear differential equationL(y) = 0, then it is easier to find sufficient conditions of non-diagonality ofG using the local information that we can read in the formal solutions

prop2 Proposition 5.2. Let L(y) = 0 be a homogeneous linear differential equationwith Galois group G.Assume that the equation L(y) = 0 is completely reducible.

5 A CRITERION OF NON COMPLETE INTEGRABILITY OF HAMILTONIAN SYSTEMS37

1. If it has formal solutions around some point which contain logarithmic terms,then the connected component of the identity in the group G is not an abeliangroup.

2. If it has a non-trivial Stokes multiplier around some point (an irregular sin-gularity), then the connected component of the identity in the group G is notan abelian group.

Proof. Let L be a differential operator of degree n with coefficients in a fieldk with differential Galois group G.Let us assume that L is irreducible. If the group G0 is abelian, then accord-ing to Lemma

lem1lem15.1, it is diagonalizable. However, if a logarithmic term ap-

pears locally, then the corresponding local group has a non trivial unipotentsubgroup ([?]). So the group G0 contains a non trivial unipotent subgroup,which contradicts the diagonality of G0.If L is completely reducible one concludes in the same way as in the proofof Lemma

lem1lem15.1.

Part (b) is proved similarly because the presence of a Stokes multiplier in-duces a unipotent element in the differential Galois group (see [?] or [?] fordefinition and properties of Stokes multipliers).

We extend now the propositionprop2prop25.2 to a more general one:

new Theorem 5.3. Let L be a linear differential operator such that L = L1 L2 . . . Ls.If there exists i in 1, . . . , s such that Li is completely reducible and the lineardifferential equation Li(y) = 0 has formal solutions with logarithmic terms, thenthe differential Galois group G of the equation L(y) = 0 is not virtually abelian.

Proof. If s = 1 one concludes using propositionprop2prop25.2.

All we now need is to prove that if there exists i in 1 . . . s such that thedifferential Galois group of Li(y) = 0 is not virtually abelian then the dif-ferential Galois group of L(y) = 0 is also not virtually abelian. It is enoughto prove this in the case of two factors (s = 2), the result then being an easyinduction. So we assume that L = L1.L2.

Lemma 5.4. Let K denote a Picard-Vessiot of k associated to L. If F is an inter-mediate differential Picard-Vessiot extension (k ⊂ F ⊂ K), then virtual abelianityof Gald(K/k) implies that of Gald(F/k).

Proof. From [?] (lemma 5.10 page 38), we know that there is a natural surjec-tion from Gald(K/k) to Gald(F/k). In particular, the abelianity of Gald(K/k)

implies that of Gald(F/k).

6 AN EXAMPLE: THE FRIEDMAN-ROBERTSON-WALKER MODEL 38

We now finish the proof of the theorem. As the solutions of L2 are so-lutions of L, K contains a Picard-Vessiot extension for L2 and the resultfollows for L2 from the lemma.Now, L2 can be viewed as a morphism from Sol(L) to Sol(L1). Hence, Kcontains a full set of solutions of L1 and we may apply the lemma again toconclude for L1.We now conclude applying proposition

prop2prop25.2 to the Li.

Using the point of view of the systems, we get :

new2 Corollary 5.5. Let Y′ = AY be a linear differential system such that it is equiva-

lent to a block-triangular system Z′ =

B1 0 · · · 0

× . . . 0× × Bs−1 0× × × Bs

Z If there exists

i in 1, . . . , s such that the system ν′i = Biνi is completely reducible and hasformal solutions with logarithmic terms then the differential Galois group G of thesystem Y′ = AY is not virtually abelian.

Remark 18 : As we already had noted in Propositionprop2prop25.2 the conclusion

of the above theorem still holds if we replace the presence of logarithmsby the presence of a non trivial Stokes multiplier (or any recognizable non-diagonalizable element) at an irregular singularity. The reason is that theseStokes matrices (see [?] for example) induce a unipotent element in the dif-ferential Galois group and hence yield an obstruction to diagonalizability.

6 An example: the Friedman-Robertson-Walker model

Let us consider the Hamiltonian of the system FRW (Friedmann-Robertson-Walker) cosmological model

H =12

(a2 + φ2

)+

12

a2 +12φ2 − 1

2m2a2φ2 +

14λφ4 +

14Λa4

where a is the scale factor of the universe; Λ is the cosmological constant;φ is the scalar field with self-coupling constant λ and with mass m (whichwe will assume to be non zero).

6 AN EXAMPLE: THE FRIEDMAN-ROBERTSON-WALKER MODEL 39

6.1 The approach via constructive Morales-Ramis criteria

• We first select a particular solution X0 to the hamiltonian system as-sociated to H:

X0 = (0,φ0, 0, φ0)

whereφ2

0 = − 2λ℘(t)− 2

3λand ℘(t) = ℘(t, g2, g3) is the Weierstrass function with parameters

g2 =43

+ 4 h λ and g3 =8

27+

43

h λ

• The variational equation can then be seen as the direct sum of twoLamé equations (the tangential part and the normal part of the vari-ational equation). After the change of variable x = ℘(t), we get thefollowing normal variational equation:

(E)4

27(3x− 2) (3x + 1)2 y′′(x) +

23

(3x− 1) (3x + 1) y′(x)+(2m2

λx + 1 +

23

m2

λ

)y(x) = 0

• There are logarithmic terms in some formal solution of (E) at thesingular point −1/3. Namely, the formal solutions at that point are

s1 =√

3x + 1 (1 + · · · ) and −m2

2λs1 ln(3x + 1) + s2 where s2 is a for-

mal series.

• The equation (E) is irreducible if

λ 6= − 2m2

(n + 2)(n + 1)

with n ∈ N.Indeed, the equation (E) is irreducible if, and only if, it possesses noexponential solution

y(x) = (3x + 1)−1/2 (3x− 2)e p(x)

where p(x) is a polynomial of degree d; e = 0 or 12 (exponent at 2/3)

andd− 1

2+ e + e∞ = 0

6 AN EXAMPLE: THE FRIEDMAN-ROBERTSON-WALKER MODEL 40

with e∞ , exponent at infinity.A necessary condition for the existence of such a solution is that theindicial equation at infinity has a root −d + 1

2 or −d with d naturalinteger. This implies

λ = − 2m2

2d(2d− 1)or

λ = − 2m2

2d(2d + 1)which is equivalent to

λ = − 2m2

(n + 2)(n + 1)with n ∈ N

• Using theoremnewnew5.3 and Morales-Ramis theorem, we conclude that if

λ 6= − 2m2

(n + 2)(n + 1)

with n ∈ N then the FRW system is not completely integrable.

6.2 Higher variational approaches

If

λ = − 2m2

(n + 2)(n + 1)with n ∈ N then the variational equation is a direct sum of two Lamé-Hermite type equations. One then needs to go to higher variational equa-tions. The variational equation is an approximation at order 1 for the lin-earization. Approximation at order 2, 3, etc, yields successive linear differ-ential systems (with growing size). Their Galois groups Gk form a tower ofgroups; the result of Morales-Ramis-Simo is that each of these Gk must bevirtually abelian.

Now, as the variational equation is a direct sum of two Lamé-Hermitetype equations, one may reduce the Morales-Ramis-Simo criterion to a localstudy of the differential at zero. This local study of the third variationalequations enables to conclude that the system is not completely integrablefor n ∈ 2, . . . , 10 (an additional global study is not required in this specialcase).There are two particular cases : Λ = λ when n = 0 and n = 1. For boththese special cases an additional polynomial first integral In is found:

7 SOME PROPERTIES TO FACTORIZE SYMPLECTIC LINEAR DIFFERENTIAL SYSTEMS41

• I0 = φ a− a φ

• I1 = a φ+ aφ− m2

3(aφ3 + a3φ)

If n ≥ 11, we conjecture that he FRW system is not completely integrable.

7 Some properties to factorize symplectic linear dif-ferential systems

factThe theorem

newnew5.3 can be applied very easily when the coefficients of the nor-

mal variational system (or equation) are in Q(x) as there exist efficient al-gorithms to compute formal solutions of linear differential equations (sys-tems) and to factorize linear differential operators (systems). However theequations we deal with here are parameterized equations and the existingalgorithms are not adapted to this situation (problems of indecidability).In the following we see how the symplectic structure of the normal vari-ational system can help the factorization of the normal variational systemand hence the application of the criterion. This symplectic structure can beread very simply on the matrix of the normal variational system this is whywe choose to keep the system instead of transforming it to a linear differ-ential equation (using a cyclic vector computation).

7.1 Factorization in practice

The factorization of linear differential systems was studied and implementedin[Gri90, Bro96b]. Another family of algorithms uses the notion of eigen-ring [Sin96],[BP98]

In this section we first give a property of the eigenring in the symplecticcase, which enables a simpler computation of it. Then we see that despitethe presence of parameters one can look easily for some elements of theeigenring.Let k denote a differential field (e.g k = C(x)) and let A be infinitesimallysymplectic.

7.2 Properties of the eigenring

The differential Galois group G of the differential system Y′ = AY is asubgroup of the symplectic group ([Aud01] page 65). Let V denote the

7 SOME PROPERTIES TO FACTORIZE SYMPLECTIC LINEAR DIFFERENTIAL SYSTEMS42

solution space of Y′ = AY. If U is a fundamental solution matrix, then J.Uis a fundamental solution matrix for the dual system Y′ = −t AY. Hence, Jis the matrix of the musical isomorphism between V and its dual V∗, i.e theseare isomorphic G-modules.

The Eigenring of A is the set E(A) := P ∈ GL(2n, k)|P′ = AP− PA.It describes ([Sin96]) the ring EndG(V) of G-endomorphisms of V; in par-ticular, the presence of a non-trivial element in the Eigenring provides afactorization of the differential system.

Now, as End(V) = V ⊗ V∗ and V 'G V∗, we see that End(V) 'GV ⊗V = Sym2(V)⊕ Ext2(V). The image of the identity in this morphismis the symplectic form (hence an element of Ext2(V)) that is preserved bythe symplectic group. In fact, this isomorphism can be made even moreexplicit:

eigenring Proposition 7.1. Let A be an infinitesimally symplectic matrix (t A J + J A = 0)and let E(A) be its eigenring. Then

E(A) = E+(A)⊕ E−(A)

whereE+(A) = T ∈ E(A), tT J + J T = 0

E−(A) = T ∈ E(A), tT J − J T = 0.

Proof. Let A be an infinitesimally symplectic matrix (t A J + J A = 0) andlet T be in E(A). We first need the following lemma:

Lemma 7.2. Each matrix of M of Mn(C) can be uniquely written as the sum ofa matrix M1 such that M1 J − J t M1 = 0 and a matrix M2 such that M2 J +J t M2 = 0 (M2 is an infinitesimally symplectic matrix).

Proof. Let M be in Mn(C) and let us consider the two matrices M1 =− 1

2 (M J + J t M) J and M2 = − 12 (M J − J t M) J.

One checks:M = M1 + M2,M1 J − J t M1 = 0,M2 J + J t M2 = 0 (M2 is an infinitesimally symplectic matrix).

According to the lemma, the matrix T can be written as a unique sumof two matrices T1 and T2 such that

T1 J − JtT1 = T2 J + J tT2 = 0.

7 SOME PROPERTIES TO FACTORIZE SYMPLECTIC LINEAR DIFFERENTIAL SYSTEMS43

It suffices to prove now that both T1 and T2 are in E(A).As T is in E(A), it satisfies

T′ = A T− T A

soT′1 + T′2 = (A T1 − T1 A) + (A T2 − T2 A). (7.4) eqT1T2

A quick computation enables to see

T′1 J − J tT′1 = (A T1 − T1 A) J − J t(A T1 − T1 A) = 0

andT′2 J + J tT′2 = (A T2 − T2 A) J + J t(A T2 − T2 A) = 0.

According to the previous lemma, the equality (eqT1T2eqT1T27.4) enables to conclude:

T′1 = A T1 − T1 A

andT′2 = A T2 − T2 A

so T1 and T2 are in E(A) and one has written the matrix T as the direct sumof two elements of E−(A) and E+(A).

Remark 19 : If we define the Eigenring not over k but over a Picard-Vessiot extension K then the elements of Sym2(V) correspond to E+(A)and those of Ext2(A) correspond to E−(A). We recover, in particular, thewell-known fact that the Lie algebra of the symplectic group is isomorphicto the symmetric square of its faithful representation of order 2n.

The elements of the eigenring of A correspond to rational solutions ofthe tensor system

Z′ = (A⊗ I − I ⊗t A) Z

(see [?] or [Sin96]).If A = (ai, j)1≤i, j≤n (with n = 2m even), then the matrix A⊗ I− I⊗t A is then2 × n2 matrix (ai, j I)− diag(t A). At first sight, one needs to compute a ra-tional vector solution with n2 components. However, thanks to propositioneigenringeigenring7.1, one can reduce the number of unknown components. Indeed elementsof E+(A) (resp. E−(A)) have m2 + m(m + 1) (resp. m2 + m(m − 1)) un-knows instead of 4m2. So one can reduce the number of unknows whilesearching rational solutions of the tensor system.

7 SOME PROPERTIES TO FACTORIZE SYMPLECTIC LINEAR DIFFERENTIAL SYSTEMS44

7.3 Properties of the exponents at the singularities

To compute rational solutions of the tensor system

Z′ = (A⊗ I − I ⊗t A) Z

one needs to compute the exponents at the singular points of this system.When the matrix A depends on parameters then these exponents may alsodepend on the parameters, which makes the search of rational solutionsdifficult (in particular there are problems of indecidability). However if thematrix A is infinitesimally symplectic then some of the exponents of thetensor system will not depend on the parameters. In this case the search ofthe rational solutions of the tensor system (i.e. the elements of the eigenringof A) can be effectively achieved.

Proposition 7.3. Let us consider a symplectic linear differential system. Let usassume that it is regular singular at the point 0 and that it can be written:

xY′(x) = A(x) Y(x)

where the matrix A(x) is an infinitesimally symplectic matrix defined at the point0.Then the exponents at the point 0 can be gathered in the following way : (e1,−e1, e2,−e2).

Proof. The exponents at 0 are the eigenvalues of the matrix A(0). But thismatrix is infinitesimally symplectic (t A(0) J + J A(0) = 0) so its eigenval-ues can be gathered in the following way : (e1,−e1, e2,−e2).

So in this particular case the structure of the matrix of the system en-ables to conclude that two sums of two exponents are equal to 0 and so areindependant of the parameters.As the exponents at the singularities of the tensor system are sums of expo-nents of the initial system, some of the exponents for the tensor system areindependant of the parameters (even if all the exponents of the initial systemdepend on the parameters).This proposition can be also seen with the point of view of the linear differ-ential equations.

exponents Proposition 7.4. Let L(y) = 0 be a linear differential homogeneous equation andlet G be its differential Galois group. Assume that the group G is symplectic.Let p be a singular point, and let r denote the ramification index at this point (note:if the point is regular singular, then r = 1).

7 SOME PROPERTIES TO FACTORIZE SYMPLECTIC LINEAR DIFFERENTIAL SYSTEMS45

The generalized exponents at p are pairewise gathered in the following way :(e, m− e) where m is a rational in 1

r Z .

Proof. Let us assume that we work at the point 0 and let y(x) = xe Σ(x) bea formal solution at the point 0 with Σ(x) ∈ Q[ln(x)]((x

1r )).

Let g be in the formal local Galois group G0 at the point 0; then there existsc such that g(xe) = cxe and c is an eigenvalue for g. But the group G issymplectic so 1

c is also an eigenvalue and there exists e such that g(xe) =1c xe.Then g(xe−e) = xe−e and xe−e ∈ Q((x

1r )). So the difference between the

two exponents, e− e, belongs to Q. Furthermore if there is no ramification(r = 1), e− e is an integer.

7.4 Application to the factorization of linear differential systems

If constructions like exterior powers, exponents in local solutions are ob-tained from the original local solutions by sums (and adding integers).

For example, in the second exterior powers, the exponents will be (mod-ulo an integer) sums pairwise of exponents of the original solutions; sym-plecticity garantees that some of these sums will not depend on parame-ters, thus making computations easier. Similar observations hold for otherconstructions (on the dual, because symplecticity makes it isomorphic tothe original system, on the Endomorphism ring of the differential module,etc).

This makes factorization of symplectic parametrized differential sys-tems much easier because some factors will be constructively computable.This turns out to be powerful in applications - although the success is stillnot fully explained.

Remark 20 : If the original Hamiltonian system admits a first integral, in-dependent from the Hamiltonian whose initial form is linear (resp. quadratic),then the differential Galois group admits an invariant of degree 1 (resp. 2).In both case, this introduces an invariant element Sym2(V) and, by theabove result, in the eigenring. So in such a case, the system will be re-ducible.Similar observations can be found in the book of M. Audin.

REFERENCES 46

References

AbBr01a [AB01] Sergei A. Abramov and Manuel Bronstein, On solutions of lin-ear functional systems, Proceedings of the 2001 InternationalSymposium on Symbolic and Algebraic Computation (NewYork), ACM, 2001, pp. 1–6 (electronic). MR MR2044585

Au01a [Aud01] Michèle Audin, Les systèmes hamiltoniens et leur intégra-bilité, Cours Spécialisés [Specialized Courses], vol. 8, So-ciété Mathématique de France, Paris, 2001. MR MR1972063(2004g:37074)

Au02a [Aud02] , Intégrabilité et non-intégrabilité de systèmes hamiltoniens(d’après S. Ziglin, J. Morales-Ruiz, J.-P. Ramis,. . . ), Astérisque(2002), no. 282, Exp. No. 884, viii, 113–135, Séminaire Bour-baki, Vol. 2000/2001. MR MR1975177 (2003m:37075)

Au03a [Aud03] , La réduction symplectique appliquée à la non-intégrabilitédu problème du satellite, Ann. Fac. Sci. Toulouse Math. (6) 12(2003), no. 1, 25–46. MR MR2124074 (2006f:37083)

Ba93a [Bar93] M. A. Barkatou, An algorithm for computing a companion blockdiagonal form for a system of linear differential equations, Appl.Algebra Engrg. Comm. Comput. 4 (1993), no. 3, 185–195. MRMR1226324 (94g:34016)

Ba99a [Bar99] Moulay A. Barkatou, On rational solutions of systems of lineardifferential equations, J. Symbolic Comput. 28 (1999), no. 4-5,547–567, Differential algebra and differential equations. MRMR1731937 (2002g:34007)

BaChRoSi96a [BCRS96] A. Baider, R. C. Churchill, D. L. Rod, and M. F. Singer, Onthe infinitesimal geometry of integrable systems, Mechanics day(Waterloo, ON, 1992), Fields Inst. Commun., vol. 7, Amer.Math. Soc., Providence, RI, 1996, pp. 5–56. MR MR1365771(96h:58078)

Be01a [Ber01] D. Bertrand, Unipotent radicals of differential Galois group andintegrals of solutions of inhomogeneous equations, Math. Ann. 321(2001), no. 3, 645–666. MR MR1871973 (2002k:12014)

Be02a [Ber02] Peter Berman, Calculating the Galois group of Y′ = AY + B,Y′ = AY completely reducible, J. Symbolic Comput. 33 (2002),no. 6, 887–898. MR MR1921715 (2003i:12012)

REFERENCES 47

Be04a [Ber04] Maint Berkenbosch, Algorithms and moduli spaces for differen-tial equations., Ph.D. thesis, Rijksuniversiteit Groningen, 2004.

Be00a [Beu00] Frits Beukers, The maximal differential ideal is generated by itsinvariants, Indag. Math. (N.S.) 11 (2000), no. 1, 13–18. MRMR1809657 (2001j:12004)

BrFr99a [BF99] Manuel Bronstein and Anne Fredet, Solving linear ordinary dif-ferential equations over C(x, e

∫f (x)dx), Proceedings of the 1999

International Symposium on Symbolic and Algebraic Com-putation (Vancouver, BC) (New York), ACM, 1999, pp. 173–179 (electronic). MR MR1802082 (2002b:34002)

96a [BIvdP96] B. L. J. Braaksma, G. K. Immink, and M. van der Put (eds.),The Stokes phenomenon and Hilbert’s 16th problem, World Scien-tific Publishing Co. Inc., River Edge, NJ, 1996, Papers fromthe workshop held at the University of Groningen, Gronin-gen, May 31–June 3, 1995. MR MR1443683 (97k:34002)

BrLa02a [BL02] Manuel Bronstein and Sébastien Lafaille, Solutions of linearordinary differential equations in terms of special functions, Pro-ceedings of the 2002 International Symposium on Symbolicand Algebraic Computation (New York), ACM, 2002, pp. 23–28 (electronic). MR MR2035229 (2004m:34006)

BuLaHo04a [BLvH04] Reinhold Burger, George Labahn, and Mark van Hoeij, Closedform solutions of linear ODEs having elliptic function coeffi-cients, ISSAC 2004, ACM, New York, 2004, pp. 58–64. MRMR2126925 (2005k:34003)

BrMuWe97a [BMW97] Manuel Bronstein, Thom Mulders, and Jacques-Arthur Weil,On symmetric powers of differential operators, Proceedings of the1997 International Symposium on Symbolic and AlgebraicComputation (Kihei, HI) (New York), ACM, 1997, pp. 156–163 (electronic). MR MR1809982

Bo96a [Bou96] Katy Boussel, Opérateurs hypergéométriques réductibles: dé-compositions et groupes de Galois différentiels, Ann. Fac. Sci.Toulouse Math. (6) 5 (1996), no. 2, 299–362. MR MR1413856(98b:12004)

Bo99a [Bou99] Delphine Boucher, About the polynomial solutions of homo-geneous linear differential equations depending on parameters,

REFERENCES 48

Proceedings of the 1999 International Symposium on Sym-bolic and Algebraic Computation (Vancouver, BC) (NewYork), ACM, 1999, pp. 261–268 (electronic). MR MR1802089(2002b:12011)

Bo00a [Bou00a] , Sur la non-intégrabilité du problème plan des trois corpsde masses égales, C. R. Acad. Sci. Paris Sér. I Math. 331 (2000),no. 5, 391–394. MR MR1784920 (2002g:70014)

Bo00b [Bou00b] , Sur les équations différentielles linéaires dépendant deparamètres ; application aux systèmes hamiltoniens, Ph.D. thesis,Université de Limoges, 2000.

Bo02a [Bou02] Magali Bouffet, Factorisation d’opérateurs différentiels à coeffi-cients dans une extension liouvillienne d’un corps valué, Ann.Inst. Fourier (Grenoble) 52 (2002), no. 3, 709–734. MRMR1907385 (2003g:12007)

Bo06a [Bou06] Delphine Boucher, Non complete integrability of a satellite incircular orbit, Port. Math. (N.S.) 63 (2006), no. 1, 69–89. MRMR2211962

BaPf98a [BP98] M. A. Barkatou and E. Pflügel, On the equivalence problem oflinear differential systems and its application for factoring com-pletely reducible systems, Proceedings of the 1998 InternationalSymposium on Symbolic and Algebraic Computation (Ros-tock) (New York), ACM, 1998, pp. 268–275 (electronic). MRMR1805189

Br96b [Bro96a] M. Bronstein, Some effective methods in pseudo-linear algebra, Al-gorithms in algebraic geometry and applications (Santander,1994), Progr. Math., vol. 143, Birkhäuser, Basel, 1996, pp. 105–113. MR MR1414447 (97g:16039)

Br96a [Bro96b] Manuel Bronstein, On the factorisation of linear ordinary differ-ential operators, Math. Comput. Simulation 42 (1996), no. 4-6, 387–389, Symbolic computation, new trends and develop-ments (Lille, 1993). MR MR1430826 (98c:34012)

BeSi99a [BS99] P. H. Berman and M. F. Singer, Calculating the Galois group ofL1(L2(y)) = 0, L1, L2 completely reducible operators, J. PureAppl. Algebra 139 (1999), no. 1-3, 3–23, Effective methods

REFERENCES 49

in algebraic geometry (Saint-Malo, 1998). MR MR1700535(2000h:12009)

BeWa04a [BvdW04] Frits Beukers and Alexa van der Waall, Lamé equations withalgebraic solutions, J. Differential Equations 197 (2004), no. 1,1–25. MR MR2030146 (2004j:34202)

BoWe03a [BW03] Delphine Boucher and Jacques-Arthur Weil, Application of J.-J.Morales and J.-P. Ramis’ theorem to test the non-complete integra-bility of the planar three-body problem, From combinatorics todynamical systems, IRMA Lect. Math. Theor. Phys., vol. 3, deGruyter, Berlin, 2003, pp. 163–177. MR MR2049425

Ca94a [Car94] Manuel M. Carnicer, The Poincaré problem in the nondicriti-cal case, Ann. of Math. (2) 140 (1994), no. 2, 289–294. MRMR1298714 (95k:32031)

ChCh89a [CC89] David V. Chudnovsky and Gregory V. Chudnovsky, Use ofcomputer algebra for Diophantine and differential equations, Com-puter algebra (New York, 1984), Lecture Notes in Pure andAppl. Math., vol. 113, Dekker, New York, 1989, pp. 1–81. MRMR1002976 (90e:11096)

02b [CH02] Teresa Crespo and Zbigniew Hajto (eds.), Differential Galoistheory, Banach Center Publications, vol. 58, Polish Academyof Sciences Institute of Mathematics, Warsaw, 2002, Papersfrom the workshop held in Bedlewo, May 28–June 1, 2001.MR MR1972440 (2003m:12002)

Ch99a [Chu99] R. C. Churchill, Two generator subgroups of SL(2, C) and the hy-pergeometric, Riemann, and Lamé equations, J. Symbolic Com-put. 28 (1999), no. 4-5, 521–545, Differential algebra and dif-ferential equations. MR MR1731936 (2002a:34131)

Ch02a [Chu02] Richard C. Churchill, Differential algebraic techniques in Hamil-tonian dynamics, Differential algebra and related topics(Newark, NJ, 2000), World Sci. Publ., River Edge, NJ, 2002,pp. 219–255. MR MR1921701 (2003k:37083)

Ch02b [CL02] Antoine Chambert-Loir, Théorèmes d’algébricité en géométriediophantienne (d’après J.-B. Bost, Y. André, D. & G. Chudnovsky),Astérisque (2002), no. 282, Exp. No. 886, viii, 175–209, Sémi-naire Bourbaki, Vol. 2000/2001. MR MR1975179 (2004f:11062)

REFERENCES 50

Cl03a [Clu03] Thomas Cluzeau, Factorization of differential systems in charac-teristic p, Proceedings of the 2003 International Symposiumon Symbolic and Algebraic Computation (New York), ACM,2003, pp. 58–65 (electronic). MR MR2035195

Co98a [Com98] Elie Compoint, Differential equations and algebraic relations,1998, pp. 705–725. MR MR1631355 (2000a:12006)

ChRoSi95a [CRS95] R. C. Churchill, D. L. Rod, and M. F. Singer, Group-theoreticobstructions to integrability, Ergodic Theory Dynam. Systems15 (1995), no. 1, 15–48. MR MR1314967 (97i:58049)

ChSa98a [CS98] Frédéric Chyzak and Bruno Salvy, Non-commutative elimi-nation in Ore algebras proves multivariate identities, J. Sym-bolic Comput. 26 (1998), no. 2, 187–227. MR MR1635242(99g:68103)

CoSi99a [CS99] Elie Compoint and Michael F. Singer, Computing Galois groupsof completely reducible differential equations, J. Symbolic Com-put. 28 (1999), no. 4-5, 473–494, Differential algebra and dif-ferential equations. MR MR1731934 (2000m:12010)

ClHo04a [CvH04] Thomas Cluzeau and Mark van Hoeij, A modular algorithmfor computing the exponential solutions of a linear differential op-erator, J. Symbolic Comput. 38 (2004), no. 3, 1043–1076. MRMR2093884 (2005m:13035)

CoWe04a [CW04] É. Compoint and J. A. Weil, Absolute reducibility of differentialoperators and Galois groups, J. Algebra 275 (2004), no. 1, 77–105.MR MR2047442 (2005c:12009)

DuLo92a [DLR92] Anne Duval and Michèle Loday-Richaud, Kovacic’s algorithmand its application to some families of special functions, Appl. Al-gebra Engrg. Comm. Comput. 3 (1992), no. 3, 211–246. MRMR1325757 (96g:33003)

Fa97a [Fak97] Winfried Fakler, On second order homogeneous linear differentialequations with Liouvillian solutions, Theoret. Comput. Sci. 187(1997), no. 1-2, 27–48, Computer algebra (Saint-Louis, 1996).MR MR1479973 (98h:34013)

Fr03a [Fre03] Anne Fredet, Factorization of linear differential operators in ex-ponential extensions, Proceedings of the 2003 International

REFERENCES 51

Symposium on Symbolic and Algebraic Computation (NewYork), ACM, 2003, pp. 103–110 (electronic). MR MR2035200(2005d:12007)

Gr90a [Gri90] Dima Yu. Grigoriev, Complexity of factoring and calculating theGCD of linear ordinary differential operators, J. Symbolic Com-put. 10 (1990), no. 1, 7–37. MR MR1081258 (92g:12012)

Hr02a [Hru02] Ehud Hrushovski, Computing the Galois group of a linear dif-ferential equation, Differential Galois theory (Bedlewo, 2001),Banach Center Publ., vol. 58, Polish Acad. Sci., Warsaw, 2002,pp. 97–138. MR MR1972449 (2004j:12007)

HoWe97a [HW97] Mark van Hoeij and Jacques-Arthur Weil, An algorithm forcomputing invariants of differential Galois groups, J. Pure Appl.Algebra 117/118 (1997), 353–379, Algorithms for algebra(Eindhoven, 1996). MR MR1457846 (98k:12005)

In44a [Inc44] E. L. Ince, Ordinary Differential Equations, Dover Publications,New York, 1944. MR MR0010757 (6,65f)

Ju00a [JT00a] Emmanuelle Julliard Tosel, Meromorphic parametric non-integrability; the inverse square potential, Arch. Ration.Mech. Anal. 152 (2000), no. 3, 187–205. MR MR1764944(2001g:37092)

Ju00b [JT00b] , Un nouveau critère de non-intégrabilité méromorphe d’unhamiltonien, C. R. Acad. Sci. Paris Sér. I Math. 330 (2000),no. 12, 1097–1102. MR MR1775917 (2002f:37096)

Ka87a [Kat87] Nicholas M. Katz, On the calculation of some differential Galoisgroups, Invent. Math. 87 (1987), no. 1, 13–61. MR MR862711(88c:12010)

Ka90a [Kat90] , Exponential sums and differential equations, Annals ofMathematics Studies, vol. 124, Princeton University Press,Princeton, NJ, 1990. MR MR1081536 (93a:14009)

Ko99a [Kol99] Ellis Kolchin, Selected works of Ellis Kolchin with commentary,American Mathematical Society, Providence, RI, 1999, Com-mentaries by Armand Borel, Michael F. Singer, Bruno Poizat,Alexandru Buium and Phyllis J. Cassidy, Edited and with apreface by Hyman Bass, Buium and Cassidy. MR MR1677530(2000g:01042)

REFERENCES 52

Ko86a [Kov86] Jerald J. Kovacic, An algorithm for solving second order linear ho-mogeneous differential equations, J. Symbolic Comput. 2 (1986),no. 1, 3–43. MR MR839134 (88c:12011)

Lo94a [LR94] Michèle Loday-Richaud, Stokes phenomenon, multisummabilityand differential Galois groups, Ann. Inst. Fourier (Grenoble) 44(1994), no. 3, 849–906. MR MR1303886 (95g:34010)

Lo01a [LR01] , Rank reduction, normal forms and Stokes matrices, Expo.Math. 19 (2001), no. 3, 229–250. MR MR1852074 (2002k:34173)

Ma02b [Mac02] Andrzej J. Maciejewski, Non-integrability of certain Hamilto-nian systems. Applications of the Morales-Ramis differential Galoisextension of Ziglin theory, Differential Galois theory (Bedlewo,2001), Banach Center Publ., vol. 58, Polish Acad. Sci., Warsaw,2002, pp. 139–150. MR MR1972450 (2004c:37122)

Ma94a [Mag94] Andy R. Magid, Lectures on differential Galois theory, Univer-sity Lecture Series, vol. 7, American Mathematical Society,Providence, RI, 1994. MR MR1301076 (95j:12008)

Ma01a [Mal01] Bernard Malgrange, Le groupoïde de Galois d’un feuilletage, Es-says on geometry and related topics, Vol. 1, 2, Monogr. En-seign. Math., vol. 38, Enseignement Math., Geneva, 2001,pp. 465–501. MR MR1929336 (2004a:58027)

Ma02c [Mal02] B. Malgrange, On nonlinear differential Galois theory, Chi-nese Ann. Math. Ser. B 23 (2002), no. 2, 219–226, Dedi-cated to the memory of Jacques-Louis Lions. MR MR1924138(2003g:32051)

MaPr03a [MP03] Andrzej J. Maciejewski and Maria Przybylska, Non-integrability of the problem of a rigid satellite in gravitational andmagnetic fields, Celestial Mech. Dynam. Astronom. 87 (2003),no. 4, 317–351. MR MR2027746 (2004k:37114)

MaPr04a [MP04] , Darboux polynomials and first integrals of natural poly-nomial Hamiltonian systems, Phys. Lett. A 326 (2004), no. 3-4,219–226. MR MR2065624 (2005a:37088)

MaPr05a [MP05] , Differential Galois approach to the non-integrability of theheavy top problem, Ann. Fac. Sci. Toulouse Math. (6) 14 (2005),no. 1, 123–160. MR MR2118036 (2006h:70007)

REFERENCES 53

MiPeVa98a [MPVDH98] Hoang Ngoc Minh, Michel Petitot, and Joris Van Der Ho-even, Computation of the monodromy of generalized polyloga-rithms, Proceedings of the 1998 International Symposiumon Symbolic and Algebraic Computation (Rostock) (NewYork), ACM, 1998, pp. 276–283 (electronic). MR MR1805190(2002a:11069)

MaPrWe04a [MPW04] Andrzej J. Maciejewski, Maria Przybylska, and Jacques-Arthur Weil, Non-integrability of the generalized spring-pendulum problem, J. Phys. A 37 (2004), no. 7, 2579–2597. MRMR2047228 (2004m:70030)

Mo00a [MR00] J. J. Morales-Ruiz, Kovalevskaya, Liapounov, Painlevé, Ziglin andthe differential Galois theory, Regul. Chaotic Dyn. 5 (2000), no. 3,251–272. MR MR1789476 (2001i:37087)

Mo01b [MR01] Juan J. Morales-Ruiz, Meromorphic nonintegrability of Hamilto-nian systems, Proceedings of the XXXII Symposium on Math-ematical Physics (Torun, 2000), vol. 48, 2001, pp. 183–194. MRMR1863997 (2002h:37105)

MoPe99a [MRP99] Juan J. Morales-Ruiz and Josep Maria Peris, On a Ga-loisian approach to the splitting of separatrices, Ann. Fac. Sci.Toulouse Math. (6) 8 (1999), no. 1, 125–141. MR MR1721562(2002d:37093)

MoPe01a [MRP01] , On the dynamical meaning of the Picard-Vessiot theory,Regul. Chaotic Dyn. 6 (2001), no. 3, 277–290. MR MR1860147(2002k:12018)

MoRa99a [MRR99] Juan J. Morales-Ruiz and Jean Pierre Ramis, Galoisian obstruc-tions to integrability of Hamiltonian systems: statements and ex-amples, Hamiltonian systems with three or more degrees offreedom (S’Agaró, 1995), NATO Adv. Sci. Inst. Ser. C Math.Phys. Sci., vol. 533, Kluwer Acad. Publ., Dordrecht, 1999,pp. 509–513. MR MR1720938 (2000g:37077)

MoRa01b [MRR01a] , Galoisian obstructions to integrability of Hamiltoniansystems. I, II, Methods Appl. Anal. 8 (2001), no. 1, 33–95, 97–111. MR MR1867495 (2002m:37077)

REFERENCES 54

MoRa01a [MRR01b] , A note on the non-integrability of some Hamiltoniansystems with a homogeneous potential, Methods Appl. Anal. 8(2001), no. 1, 113–120. MR MR1867496 (2002m:37078)

MoRaSi05a [MRRS05] Juan J. Morales-Ruiz, Jean Pierre Ramis, and Carles Simó, In-tegrability of hamiltonian systems and differential galois groups ofhigher variational equations, 2005.

MoSi96a [MRS96] Juan J. Morales-Ruiz and Carles Simó, Non-integrability crite-ria for Hamiltonians in the case of Lamé normal variational equa-tions, J. Differential Equations 129 (1996), no. 1, 111–135. MRMR1400798 (97e:58091)

MoSi93a [MS93] J. J. Morales and C. Simó, On the solvability of the Lamé equa-tion, International Conference on Differential Equations, Vol.1, 2 (Barcelona, 1991), World Sci. Publ., River Edge, NJ, 1993,pp. 759–762. MR MR1242335

MaStSz01a [MSS01] Andrzej J. Maciejewski, Jean-Marie Strelcyn, and Marek Szy-dłowski, Nonintegrability of Bianchi VIII Hamiltonian system,J. Math. Phys. 42 (2001), no. 4, 1728–1743. MR MR1820428(2003f:37090)

Po83a [Pom83] J.-F. Pommaret, Differential Galois theory, Mathematics and itsApplications, vol. 15, Gordon & Breach Science Publishers,New York, 1983. MR MR720863 (85m:12004)

Pu95b [Put95] Marius van der Put, Singular complex differential equations: anintroduction, Nieuw Arch. Wisk. (4) 13 (1995), no. 3, 451–470.MR MR1378810 (97a:32018)

Pu96a [Put96] , Reduction modulo p of differential equations, Indag.Math. (N.S.) 7 (1996), no. 3, 367–387. MR MR1621401(99e:12009)

Pu98a [Put98] , Recent work on differential Galois theory, Astérisque(1998), no. 252, Exp. No. 849, 5, 341–367, Séminaire Bourbaki.Vol. 1997/98. MR MR1685624 (2000h:12010)

Pu99b [Put99a] , Galois theory of differential equations, algebraic groupsand Lie algebras, J. Symbolic Comput. 28 (1999), no. 4-5,441–472, Differential algebra and differential equations. MRMR1731933 (2001b:12012)

REFERENCES 55

Pu99a [Put99b] , Galois theory of differential equations, algebraic groupsand Lie algebras, J. Symbolic Comput. 28 (1999), no. 4-5,441–472, Differential algebra and differential equations. MRMR1731933 (2001b:12012)

Pu99c [Put99c] , Symbolic analysis of differential equations, Sometapas of computer algebra, Algorithms Comput. Math.,vol. 4, Springer, Berlin, 1999, pp. 208–236. MR MR1679926(2000a:34002)

Pu02a [Put02] , Differential Galois theory, universal rings and universalgroups, Differential algebra and related topics (Newark, NJ,2000), World Sci. Publishing, River Edge, NJ, 2002, pp. 171–189. MR MR1921699 (2004c:12009)

Pu04a [Put04] , Galois properties of linear differential equations, Ann.Fac. Sci. Toulouse Math. (6) 13 (2004), no. 3, 459–475. MRMR2199966

Pu05b [Put05a] , Galois theory and algorithms for linear differential equa-tions, J. Symbolic Comput. 39 (2005), no. 3-4, 451–463. MRMR2168292 (2006d:34012)

Pu05a [Put05b] , Galois theory and algorithms for linear differential equa-tions, J. Symbolic Comput. 39 (2005), no. 3-4, 451–463. MRMR2168292 (2006d:34012)

Ra89a [Ram89] J.-P. Ramis, A short introduction to differential Galois theory,New trends in nonlinear control theory (Nantes, 1988), Lec-ture Notes in Control and Inform. Sci., vol. 122, Springer,Berlin, 1989, pp. 143–159. MR MR1229772

Ra93a [Ram93] Jean-Pierre Ramis, Séries divergentes et théories asymptotiques,Bull. Soc. Math. France 121 (1993), no. Panoramas et Synthe-ses, suppl., 74. MR MR1272100 (95h:34074)

Ra96b [Ram96] , Stokes phenomenon: historical background, The Stokesphenomenon and Hilbert’s 16th problem (Groningen, 1995),World Sci. Publ., River Edge, NJ, 1996, pp. 1–5. MRMR1443685

99a [SB99] W. Sit and M. Bronstein (eds.), Differential algebra and differen-tial equations, Academic Press, Amsterdam, 1999, J. SymbolicComput. 28 (1999), no. 4-5. MR MR1733559 (2000h:12001)

REFERENCES 56

Si89a [Sin89] Michael F. Singer, Liouvillian first integrals of differential equa-tions, Symbolic and algebraic computation (Rome, 1988), Lec-ture Notes in Comput. Sci., vol. 358, Springer, Berlin, 1989,pp. 57–63. MR MR1034720

Si90b [Sin90a] , Formal solutions of differential equations, J. SymbolicComput. 10 (1990), no. 1, 59–94. MR MR1081261 (91m:12011)

Si90a [Sin90b] , An outline of differential Galois theory, Computeralgebra and differential equations, Comput. Math. Appl.,Academic Press, London, 1990, pp. 3–57. MR MR1038057(91a:12011)

91a [Sin91a] M. Singer (ed.), Differential equations and computer algebra,Computational Mathematics and Applications, AcademicPress Inc. [Harcourt Brace Jovanovich Publishers], London,1991. MR MR1115226 (92a:34004)

Si91a [Sin91b] Michael F. Singer, Liouvillian solutions of linear differentialequations with Liouvillian coefficients, J. Symbolic Comput. 11(1991), no. 3, 251–273. MR MR1103731 (92b:12011)

Si96a [Sin96] , Testing reducibility of linear differential operators: agroup-theoretic perspective, Appl. Algebra Engrg. Comm. Com-put. 7 (1996), no. 2, 77–104. MR MR1462491 (98e:12007)

SiUl93b [SU93a] Michael F. Singer and Felix Ulmer, Galois groups of second andthird order linear differential equations, J. Symbolic Comput. 16(1993), no. 1, 9–36. MR MR1237348 (94i:34015)

SiUl93a [SU93b] , Galois groups of second and third order linear differen-tial equations, J. Symbolic Comput. 16 (1993), no. 1, 9–36. MRMR1237348 (94i:34015)

SiUl93c [SU93c] , Liouvillian and algebraic solutions of second and third or-der linear differential equations, J. Symbolic Comput. 16 (1993),no. 1, 37–73. MR MR1237349 (94i:34016)

SiUl95a [SU95] , Necessary conditions for Liouvillian solutions of (third or-der) linear differential equations, Appl. Algebra Engrg. Comm.Comput. 6 (1995), no. 1, 1–22. MR MR1341890 (96j:34005)

REFERENCES 57

SiUl97a [SU97] , Linear differential equations and products of linear forms,J. Pure Appl. Algebra 117/118 (1997), 549–563, Algorithms foralgebra (Eindhoven, 1996). MR MR1457855 (98g:12010)

Ts01b [Tsy01a] Alexei Tsygvintsev, The meromorphic non-integrability of thethree-body problem, J. Reine Angew. Math. 537 (2001), 127–149.MR MR1856260 (2002h:70020)

Ts01a [Tsy01b] , Sur l’absence d’une intégrale première méromorphe sup-plémentaire dans le problème plan des trois corps, C. R. Acad. Sci.Paris Sér. I Math. 333 (2001), no. 2, 125–128. MR MR1847358(2002e:70018)

Ul92a [Ulm92] Felix Ulmer, On Liouvillian solutions of linear differential equa-tions, Appl. Algebra Engrg. Comm. Comput. 2 (1992), no. 3,171–193. MR MR1325527 (96e:12007)

Ul03a [Ulm03] , Liouvillian solutions of third order differential equa-tions, J. Symbolic Comput. 36 (2003), no. 6, 855–889. MRMR2021282 (2004k:34007)

Um96a [Ume96] Hiroshi Umemura, Differential Galois theory of infinite dimen-sion, Nagoya Math. J. 144 (1996), 59–135. MR MR1425592(98c:12010)

UlWe96a [UW96] Felix Ulmer and Jacques-Arthur Weil, Note on Kovacic’s al-gorithm, J. Symbolic Comput. 22 (1996), no. 2, 179–200. MRMR1422145 (97j:12006)

Ho99a [vdH99] Joris van der Hoeven, Fast evaluation of holonomic func-tions, Theoret. Comput. Sci. 210 (1999), no. 1, 199–215. MRMR1650888 (99h:65046)

Ho02a [vdH02] , FFT-like multiplication of linear differential operators, J.Symbolic Comput. 33 (2002), no. 1, 123–127. MR MR1876315(2002k:16049)

Ho05a [vdH05] , Around the numeric-symbolic computation of differentialgalois groups, 2005.

PuSi03a [vdPS03] Marius van der Put and Michael F. Singer, Galois theoryof linear differential equations, Grundlehren der Mathematis-chen Wissenschaften [Fundamental Principles of Mathemat-

REFERENCES 58

ical Sciences], vol. 328, Springer-Verlag, Berlin, 2003. MRMR1960772 (2004c:12010)

HoRaUlWe99a [vHRUW99] Mark van Hoeij, Jean-François Ragot, Felix Ulmer, andJacques-Arthur Weil, Liouvillian solutions of linear differentialequations of order three and higher, J. Symbolic Comput. 28(1999), no. 4-5, 589–609. MR MR1731939 (2001c:12011)

HoWe05a [vHW05] Mark van Hoeij and Jacques-Arthur Weil, Solving second orderdifferential equations with klein’s theorem function coefficients, IS-SAC 2005 (Beijing), ACM, New York, 2005. MR MR2126925(2005k:34003)

We95a [Wei95] Jacques-Arthur Weil, First integrals and Darboux polynomials ofhomogeneous linear differential systems, Applied algebra, alge-braic algorithms and error-correcting codes (Paris, 1995), Lec-ture Notes in Comput. Sci., vol. 948, Springer, Berlin, 1995,pp. 469–484. MR MR1448186 (98c:12011)

Zi83a [Zig83a] S. L Ziglin, Branching of solutions and the non-existence of firstintegrals in hamiltonian mechanics i, Funct. An. Appl. 16 (1983).

Zi83b [Zig83b] , Branching of solutions and the non-existence of first inte-grals in hamiltonian mechanics ii, Funct. An. Appl. 17 (1983).

Resolution geometrique

Marc Giusti (Ecole polytechnique)

Le support de cours n’a pas pu etre inclus dans ce volume

Mathematiques experimentales : le calculformel birationnel en physique theorique

Jean-Marie Maillard (Laboratoire de Physique Theorique de la MatiereCondensee, Universite Paris 6)

Le support de cours n’a pas pu etre inclus dans ce volume