\documentclass[11pt,draft,reqno]{amsart}

\usepackage{amsthm,array,amssymb,amscd,amsfonts,latexsym}

\usepackage[cp866]{inputenc}
\usepackage[russian]{babel}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\topmargin=16pt \textheight=615pt \textwidth=370pt
\oddsidemargin=50pt \evensidemargin=50pt
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%Cyrillic characters

\DeclareOption{loadcyr}{\cyr@true}

\DeclareFontFamily{OT1}{wncyr}{\hyphenchar\font45 }
\DeclareFontShape{OT1}{wncyr}{m}{n}{%
   <5> <6> <7> <8> <9> gen * wncyr
   <10> <10.95> <12> <14.4> <17.28> <20.74>  <24.88>wncyr10}{}
\DeclareFontShape{OT1}{wncyr}{m}{it}{%
   <5> <6> <7> <8> <9> gen * wncyi
   <10> <10.95> <12> <14.4> <17.28> <20.74> <24.88> wncyi10}{}
\DeclareFontShape{OT1}{wncyr}{m}{sc}{%
   <5> <6> <7> <8> <9> <10> <10.95> <12> <14.4>
   <17.28> <20.74> <24.88>wncysc10}{}
\DeclareFontShape{OT1}{wncyr}{b}{n}{%
   <5> <6> <7> <8> <9> gen * wncyb
   <10> <10.95> <12> <14.4> <17.28> <20.74> <24.88>wncyb10}{}
\input cyracc.def
\def\rus{\usefont{OT1}{wncyr}{m}{n}\cyracc\fontsize{8}{10pt}\selectfont}
\def\rusit{\usefont{OT1}{wncyr}{m}{it}\cyracc\fontsize{8}{10pt}\selectfont}
\def\russc{\usefont{OT1}{wncyr}{m}{sc}\cyracc\fontsize{8}{10pt}\selectfont}
\def\rusbf{\usefont{OT1}{wncyr}{b}{n}\cyracc\fontsize{10}{10pt}\selectfont}


\DeclareMathSizes{9}{9}{7}{5} % This only is different.

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


\theoremstyle{plain}

\newtheorem{theorem}{Теорема}[section]
\newtheorem{corollary}[theorem]{Следствие}
\newtheorem{proposition}[theorem]{Предложение}
\newtheorem{lemma}[theorem]{Лемма}
%%\newtheorem{nothing*}[theorem]{}
%%\newtheorem{mainthm}{Теорема}
%%\newtheorem{maincor}{Следствие}

\theoremstyle{remark}
\newtheorem{remark}[theorem]{Замечание}

\theoremstyle{definition}
\newtheorem{definition}[theorem]{Определение}
\newtheorem{example}[theorem]{\bf Пример}
\newtheorem{problem}[theorem]{\bf Проблема}
\newtheorem{nothing*}[theorem]{}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\newcommand{\n}{\mathfrak{N}}
\newcommand{\opl}{\oplus}
\newcommand{\ep}{\varepsilon}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%




%%%%%%%%%%%%%%%%
\begin{document}

\title[\rus
Dve orbity: Kogda odna le{zh}it v zamykanii
drugo{i0}? ]{\rusbf Dve orbity:\\ Kogda odna
le{zh}it v zamykanii drugo{i0}?}

\author[В. Л. ПОПОВ]{В. Л. ПОПОВ}
\address{Математический институт им. В. А. Стеклова
РАН, ул. Губ\-ки\-на 8, Москва
  119991, Россия} \email{popovvl@orc.ru}

\thanks{Работа выполнена при поддержке грантов
РФФИ 08--01--00095, НШ--1987.2008.1 и программы
''\hskip -.7mm{\it Современные проблемы
теоретической математики}'' отделения математики
РАН}



\dedicatory{  В. А. Исковских к $70$-летию}




\begin{abstract}
Пусть $G$---связная линейная алгебраическая
группа, $V$---конечно\-мерный алгебраический
$G$-модуль и $\mathcal O_1$, $\mathcal O_2$---две
$G$-орбиты в $V$.
%%Рассмотрим две $G$-орбиты в $V$.
%%и $a,
%%b\in V$---две его точки.
%%Для любых двух $G$-орбит в $V$ мы
Мы указываем конструктивный способ выяснить лежит
$\mathcal O_1$ в замыкании $\mathcal O_2$ или нет.
%%ли $G$-орбита
%%точки $a$ в замыкании $G$-орбиты точки $b$.
\end{abstract}

\maketitle

\section{\bf Введение}


\begin{nothing*}\label{begin} Зафиксируем основное
алгебраически замкнутое поле $k$ произвольной
характеристики. Пусть $G$\,---\,связная линейная
алгебраическая группа и
$V$\,---\,конечномер\-ный алгебраический
$G$-модуль.  Рассмотрим две точки $a, b\in V$ и
их $G$-орбиты $G\cdot a$ и $G\cdot  b$.


Следующая проблема постоянно возникает в теории
алгебраических\break групп преобразований и ее
приложениях:
\begin{equation}
\mbox{\it Как узнать, лежит ли орбита
$G\!\cdot\! a$ в замыкании в $V$ орбиты
$G\!\cdot\! b$ }? \tag{$\ast$}
\end{equation}
(здесь и далее топологические термины относятся к
топологии Зарисского).

\begin{example}
Если группа $G$ редуктивна, а $a=0$, то
$(\ast)$\,---\,это вопрос о том, как узнать
является ли $b$ нестабильной точкой в смысле
геометрической теории инвариантов, \cite{M}.
Описание конуса нестабильных точек даётся
теорией Гильберта--Мамфорда.
\end{example}

\begin{example} Пусть $G$---тор и $X(G)$ группа его
характеров в аддитивной записи. Для любых
$\lambda\in X(G)$, $g\in G$ и $v\in V$ обозначим
через $g^\lambda$ и $v_\lambda$ соответственно
значение $\lambda$ на $g$ и проекцию $v$ на
$\lambda$-весовое подпространство $G$-модуля $V$
параллельно сумме остальных весовых
подпространств. Пусть ${\rm
supp}\,v:=\{\lambda\in X(G)\mid v_\lambda\neq
0\}$. Тогда из \cite{PV72} следует, что
$(*)$---это вопрос о том как узнать, выполнены
ли следующие условия: (i) конус, порожденный
${\rm supp}\,a$ в $X(G)\otimes_\mathbb Z\mathbb
R$, является гранью конуса, порожденного ${\rm
supp}\,b$, и (ii) существует такой элемент $g\in
G$, что $g^\lambda a_\lambda=b_\lambda$ для
любого $\lambda\in {\rm supp}\,a$.
\end{example}

\begin{example} Если группа $G$ унипотентна, то
каждая $G$-орбита  замкнута  в $V$, см.
\cite{R61}. Поэтому $(*)$---это вопрос о том,
как узнать лежат ли $a$ и $b$ в одной
$G$-орбите.
\end{example}


\begin{example}\label{adad} Пусть ${\rm char}\,k=0$ и пусть
$G$ простая группа, $V$\,---\,её алгебра Ли с
присоединённым действием $G$, а $a$ и $b$
нильпотентные элементы. Если $G$---классическая
группа (т. е. типа ${\sf A}_l$, ${\sf B}_l$,
${\sf C}_l$ или ${\sf D}_l$), то ответ на вопрос
$(\ast)$ даётся известным правилом,
формулируемым в терминах размеров жордановых
клеток нормальных жордановых форм матриц $a$ и
$b$, см., например, \cite{CM}. Если
$G$---исключительная группа (т.~е. типа ${\sf
E}_6$, ${\sf E}_7$, ${\sf E}_8$, ${\sf F}_4$ или
${\sf G}_2$), то он получается ad hoc методами и
даётся явным указанием диаграммы Хассе множества
нильпотентных орбит, наделённого порядком Брюа,
т. е. частично упорядоченного по правилу
\begin{equation*} \label{ne}
{\mathcal O}_1\leqslant {\mathcal O}_2\iff
{\mathcal O}_1\subseteq \overline{{\mathcal O}_2}
\end{equation*}
(как обычно, черта обозначает замыкание в $V$), см.
\cite{S82}, \cite{C}.



\begin{example} Помимо классического случая
орбит борелевской подгруппы редуктивной группы $G$ на
обобщенном многообразии флагов $G/P$, а также случая
из примера \eqref{adad}, диаграммы Хассе множеств
орбит, наделённых порядком Брюа, найдены ad hoc
методами в различных других специальных случаях, см.,
например, \cite{K97}, \cite{Pe04}, \cite{BHRZ99},
\cite{GHR07}, \cite{MWZ99} и примеры \eqref{LL},
\eqref{M} ниже. С другой стороны, в целом ряде случаев
орбиты классифицированы, но диаграммы Хассе не
найдены: например, это так для нильпотентных
3-векторов $n$-мерных пространств при $n\leqslant 9$,
4-векторов 8-мерного пространства, спиноров $m$-мерных
пространств при $m\leqslant 14$ и 16, см.
соответствующие ссылки в \cite{PV89}.
\end{example}
\end{example}
\begin{example}\label{LL} Пусть $L$\,---\,конечномерное
векторное пространство над $k$  и $G={\rm
GL}(L)$, а $V=L^*\otimes L^*\otimes L$. Точки
пространства $V$\,---\,это структуры алгебр (не
обязательно ассоциативных) на векторном
пространстве $L$. Алгебры, определенные
структурами $a$ и $b$, изоморфны только тогда,
когда $G\cdot a=G\cdot b$. На языке теории
алгебр вопрос $(\ast)$ переформулируется так:
как узнать, является ли алгебра, определённая
структурой $a$, вырождением (degeneration)
алгебры, определенной структурой $b$? В общем
случае он считается сложным. Имеется много
работ, посвящённых классификации вырождений в
различных специальных случаях ad hoc методами,
см., например, \cite{B05}, \cite{BS}, \cite{S90}
и обзор \cite[гл.\,7]{VGO}.
\end{example}

\begin{example}\label{M}
Рассмотрим действие группы $G={\rm GL}_d(k)$ на
 ${\rm Mat}_{d, d}(k)$
сопряжениями. Пусть $A$---конечномерная
ассоциативная $k$-алгебра. Множество структур
левых $A$-модулей на фиксированном $d$-мерном
векторном пространстве над $k$ естественно
отождествляется с замкнутым инвариантным
подмножеством ${\rm Mod}_A^d$ прямой суммы
$\dim_k\!A$ экземпляров $G$-модуля ${\rm
Mat}_{d, d}(k)$. Пусть $M_x$ обозначает
$A$-модуль, соответствующий точке $x\in {\rm
Mod}_A^d$. Тогда $A$-модули $M_a$ и $M_b$
изоморфны тогда и только тогда, когда $G\cdot
a=G\cdot b$, а условие $G\cdot
a\subseteq\overline{G\cdot b}$ в этой теории
выражают, говоря, что $M_a$ является вырождением
(degeneration) $M_b$. В случае, когда
$A$---алгебра путей (path algebra) колчана,
получающегося ориентированием рёбер расширенного
графа Дынкина системы корней типа ${\sf A}_l$,
${\sf D}_l$, ${\sf E}_6$, ${\sf E}_7$ или ${\sf
E}_8$, в \cite{B95} установлена характеризация
отношения вырождения в терминах %%$A$-модульной
структур $A$-модулей $M_a$ и $M_b$ и найден
алгоритм, определяющий является ли $M_a$
вырождением $M_b$ или нет.
\end{example}

\begin{example} \label{complexity} В случае естественного
действия группы ${\rm GL}_n(k)$ на пространстве
форм степени $d$ от $n$ переменных c
коэффициентами в $k$ вопрос $(\ast)$ (под
названием {\it The orbit closure problem})
является одним из ключевых в приложениях методов
геометрической теории инвариантов к теории
сложности, см. \cite{MS01}.
\end{example}
\end{nothing*}

\begin{nothing*}
Мы даём здесь конструктивное решение %%указанной
проблемы $(*)$: в разделе 2 будет приведён
алгоритм, позволяющий с помощью конечного числа
простых эффективно осуществимых операций
ответить на вопрос $(\ast)$. А именно, мы явно
указываем такую конечную систему линейных
уравнений
 от конечного числа переменных над полем $k$, что
включение $G\cdot a\subseteq \overline{G\cdot
b}$ равносильно ее несовместности (точная
формулировка содержится в Теореме \ref{thm}). По
теореме Кронекера--Капелли, эта редукция сводит
получение ответа на вопрос $(\ast)$ к сравнению
рангов двух явно заданных матриц с
коэффициентами в $k$, что делается
конструктивно. Конечно, существование
конструктивного решения немедленно приводит к
вопросу о нахождении алгоритма, наиболее
оптимального с практической точки зрения. Но это
уже другая проблема, которой мы здесь не
касаемся.
\end{nothing*}
\begin{nothing*}\label{L} В разделе 3 мы приводим еще
один алгоритм получения ответа на вопрос $(\ast)$.
Он менее оптимален, чем алгоритм из раздела 2, но
даёт больше информации и относится к более общей
задаче. А именно, пусть $L$\,---\,какое-либо
линейное подмногообразие в $V$. Мы показываем как
конструктивно найти такую конечную систему
$q_1,\ldots, q_m$ полиномиальных функций на $V$,
что
\begin{equation}\label{qqq}
\overline{G\cdot  L}= \{x\in V\mid
q_1(x)=\ldots= q_m(x)=0\}.
\end{equation}
При $L=b$ это дает следующий конструктивный ответ
на вопрос $(\ast)$:
\begin{equation*}
G\cdot  a\subseteq \overline{G\cdot  b} \iff
q_1(a)=\ldots=q_m(a)=0.
\end{equation*}

Отметим, что многообразия вида $\overline{G\cdot
L}$ вездесущи в теории алгебраических групп
преобразований: помимо замыканий орбит, к их
числу, например, относятся неприводимые
компоненты нуль-конусов Гильберта и, более общо,
замыкания стратов Хесселинка \cite{Po03},
замыкания пластов \cite{PV89} и замыкания
жордановых классов (или, в другой терминологии,
классов разложения) \cite{TY05}. Отметим также,
что современные методы коммутативной алгебры
позволяют по системе функций $q_1,\ldots, q_m$,
удовлетворяющей условию \eqref{qqq},
конструктивно найти систему образующих идеала
всех полиномов, обращающихся в нуль на
$\overline{G\cdot  L}$, см., например,
\cite[гл.\,4, \S2]{KLO00}. В частности, это даёт
конструктивный способ нахождения образующих
идеала полиномов, обращающихся в нуль на
замыкании орбиты. В нескольких  специальных
случаях (например, для нильпотентных орбит
присоединённого действия группы ${\rm SL}_n(k)$
и для ``ранговых многообразий'') такие
образующие известны, см. \cite{W89}.
\end{nothing*}

\begin{nothing*} По существу
оба алгоритма основаны на возможности рационально
запараметризовать открытое подмножество в $G$
многообразием вида
\begin{equation*}
\mathbb A^{r, s}:=\{(\varepsilon_1,\ldots,
\varepsilon_{r+s})\in \mathbb A^{r+s}\mid
\varepsilon_1\cdots\varepsilon_r\neq 0\},\qquad
r, s\in \mathbb N
\end{equation*}
(через $\mathbb N$ мы обозначаем множество всех
целых неотрицательных чисел), а точнее, на
существовании доминантного морфизма
\begin{equation}\label{iota}
\iota\colon \mathbb A^{r, s} \rightarrow G.
\end{equation}
\end{nothing*}
\begin{nothing*}
Поскольку любое нормальное квазипроективное
многообразие, снабженное действием $G$,
эквивариантно вкладывается в проективное
пространство \cite{PV89}, в теории
алгебраических групп преобразований и её
приложениях постоянно возникает вопрос,
аналогичный вопросу $(\ast)$, но для действия
$G$ на проективном пространстве (на самом деле в
примере \ref{complexity} дело обстоит именно
так). Он, однако, сводится к рассмотренному в п.
1.1 вопросу $(\ast)$ для действия на векторном
пространстве (см. п. \ref{reduction}).
\end{nothing*}

\begin{nothing*} В заключение отметим, что
поскольку
$$
G\cdot a =G\cdot b\iff G\cdot a\subseteq
\overline{G\cdot b}\hskip 2mm \mbox{и}\hskip 2mm
G\cdot b\subseteq \overline{G\cdot a},
$$
то конструктивное решение проблемы $(*)$
доставляет и конструктивное решение следующей
проблемы:
\begin{equation*}
\mbox{\it Как узнать, лежат ли две точки из $V$
в одной $G$-орбите}?
\end{equation*}

\end{nothing*}


\section{\bf Основной результат}

\begin{nothing*} Дальнейшие построения
основываются на следующем факте.
\begin{lemma}\label{domi}  Для некоторых $r, s\in\mathbb N$
существует доминантный морфизм~\eqref{iota}.
Более того, при $r={\rm rk}\, G$ существует
открытое вложение~\eqref{iota}.
\end{lemma}
\begin{proof}
Пусть $R_u(G)$---унипотентный радикал группы
$G$. По\-ско\-льку $R_u(G)$ является связной
разрешимой группой, каноническая проекция $G\to
G/R_u(G)$ является, согласно \cite{R56},
локально тривиальным в топологии Зарис\-ского
торсором с базой $G/R_u(G)$ и структурной
группой $R_u(G)$. Так как база аффинна, а
структурная группа связна и унипотентна, этот
%%расслоенное пространство
торсор тривиален, \cite{G58}. Значит, многообразие
$G$ изоморфно произведению многообразий $R_u(G)$ и
$G/R_u(G)$. Поскольку $R_u(G)$---связная
унипотентная группа,  первое из этих многообразий
изоморфно $\mathbb A^{\dim\,R_u(G)}$, \cite{G58}.
С другой стороны, большая клетка разложения Брюа
редуктивной группы $G/R_u(G)$ изоморфна $\mathbb
A^{r, \dim G/R_u(G)-r}$, где $r={\rm rk}\,
G/R_u(G)= {\rm rk}\,G$, \cite{Spr98}. Поскольку
многообразие $\mathbb A^{r, \dim G-r}$ изоморфно
$\mathbb A^{\dim\,R_u(G)}\times \mathbb A^{r, \dim
G/R_u(G)-r}$, это показывает, что существует его
открытое вложение в~$G$.
\end{proof}
\end{nothing*}

\begin{nothing*} \label{o}{\it Обозначения}

\vskip 1mm


Зафиксируем в $V$ базис $e_1,\ldots, e_{n}$. Так
как случай $n=1$ ясен, мы будем далее считать,
что $n>1$. Существуют такие регулярные на $G$
функции $\rho_{i, j}$, $1\leqslant i, j\leqslant
n$, что действие $G$ на $V$ задается матричным
представлением
\begin{equation}\label{matr}
\rho\colon G\to {\rm Mat}_{n, n}(k),\hskip
3mm\rho(g)=
\begin{bmatrix}\rho_{1,1}(g)&\cdots&\rho_{1,n}(g)\\
\hdotsfor[2]{3}\\
\rho_{n,1}(g)&\cdots&\rho_{n,n}(g)
\end{bmatrix},\hskip 2mm g\in G,
\end{equation}
т. е. $\rho (g)$\,---\,матрица оператора $V\to V$,
$v\mapsto g\cdot v$, в базисе $e_1,\ldots,e_{n}$,
так что
\begin{equation}\label{actionn} g\hskip -.3mm\cdot\hskip
-.3mm \Bigl(\sum_{i=1}^{n}
\gamma_ie_i\Bigr)=\sum_{i=1}^{n}\Bigl(\sum_{j=1}^{n}\rho_{i,
j}(g)\gamma_j\Bigr)e_i\hskip 3mm\mbox{для любых
$g\in G$ и $\gamma_1,\ldots, \gamma_{n}\in k$}.
\end{equation}


 Зафиксируем какое-нибудь доминантный морфизм
\eqref{iota}, что возможно ввиду леммы
\ref{domi}. Обозначим через $x_1,\ldots,
x_{r+s}$ стандартные координатные функции на
 $\mathbb A^{r, s}$:
\begin{gather}\label{coord}
x_i(a)=\varepsilon_i\hskip 2mm \mbox{для
$a=(\varepsilon_1,\ldots,\varepsilon_{r+s})\in
\mathbb A^{r, s}$.}
\end{gather}
Поскольку $x_1,\ldots, x_{r+s},
x_1^{-1},\ldots,x_{r}^{-1}$ порождают
$k$-ал\-ге\-б\-ру $k[\mathbb A^{r, s}]$
регулярных функций на $\mathbb A^{r, s}$, а
$x_1,\ldots, x_{r+s}$ алгебраически независимы
над $k$, всевозможные мономы вида
\begin{equation}\label{monom}
x^{i_1}_{1}\cdots x^{i_{r+s}}_{r+s}, \hskip
3mm\mbox{где \hskip 2mm $i_1,\ldots, i_{r+s}\in
\mathbb Z \hskip 1.5mm \mbox{и}\hskip 1.8mm
i_{r+1},\ldots, i_{r+s}\in \mathbb N$,}
\end{equation}
образуют базис векторного пространства $k[\mathbb
A^{r, s}]$ над $k$.
\end{nothing*}

\begin{nothing*} {\it Степень многообразия $\rho(G)$}


\vskip 1mm

 Напомним, \cite{M79}, что степенью
локально замкнутого подмножества $Y$ в $\mathbb
A^{l}$ называется число ${\rm deg}\,Y$ точек
пересечения $Y$ с $(l-\dim\,Y)$-мерным линейным
подмногообразием общего положения в $\mathbb
A^l$. Для наc особый интерес представляет
 степень ${\rm deg}\,\rho(G)$
подмногообразия $\rho(G)$ в пространстве матриц
${\rm Mat}_{n, n}(k)$. В важном случае, когда ${\rm
char}\,k=0$ и $G$---редуктивная группа,
имеется следующая формула для ее
вычисления.

Зафиксируем в $G$ максимальный тор $T$. Пусть
$X(T)$\,---\,группа его характеров в аддитивной
записи. Она является свободной абелевой группой
ранга $r=\dim T={\rm rk}\,G$ и естественно
вкладывается в вещественное векторное
пространство $E=X(T)\otimes_{\mathbb Z}\mathbb
R$. Выбрав в $X(T)$ базис, зафиксируем
изоморфизм между $E$ и координатным
пространством $\mathbb R^r$. Будем отождествлять
по нему эти пространства. Группа $X(T)$
отождествляется тогда с решеткой $\mathbb Z^r$ в
$\mathbb R^r$. На $E$ естественным образом
действует группа Вейля $W:=N_G(T)/T$. Обозначим
через $d\nu$ стандартную форму объема на $E$.
Пусть $\mathcal P_V$\,---\,выпуклая оболочка в
$E$ подмножества, являющегося объединением нуля
и системы весов $T$-модуля $V$. Факторизуя $G$
по связной компоненте ядра неэффективности
действия $G$ на $V$, мы можем (и будем) считать,
что это ядро конечно и, следовательно, $\dim
\mathcal P_V=r$. Зафиксируем систему
положительных корней $R_+$ в множестве корней
группы $G$ относительно тора $T$. Для любого
корня $\alpha\in R_+$ обозначим через
$\alpha\!^{\vee}$ соответствующий кокорень,
 т. е. линейную форму на $E$, заданную
формулой $\alpha\!^{\vee}\colon E\to \mathbb R,
\hskip 3mm \alpha\!^{\vee}\,(v)=2\langle
\alpha\,\vert\, v\rangle/\langle \alpha\,\vert\,
\alpha\rangle, $ где $\langle\hskip 1.8mm
\mid\hskip 1.8mm \rangle$\,---\,какое-нибудь
$W$-инвариантное скалярное произведение на $E$,
см. \cite{B72}. Пусть $m_1+1, \ldots,
m_r+1$\,---\,набор степеней однородных свободных
образующих алгебры $W$-инвариант\-ных
полиномиальных функций на пространстве $E$, т.
е. $m_1,\ldots, m_r$\,---\,показатели группы
$W$, см. \cite{B72}.

\begin{theorem}[{{\rm Казарновский \cite{K87}}}]
Пусть ${\rm char}\,k=0$, а
$\rho$---представ\-ле\-ние связной редуктивной
группы $G$, ядро которого конечно. Тогда%%\vskip 1mm
\begin{equation}\label{degree}
{\rm deg}\,\rho(G):=\frac{\dim G\hskip .25mm!}{|W|(m_1!\cdots
m_r!)^2|\!\ker \rho|}\int_{\mathcal
P_V}\prod_{\alpha\in R_+}(\alpha\!^{\vee}\,)^2d\nu.
\end{equation}
\end{theorem}%%\vskip 1mm

\begin{example}\label{sl2} Пусть ${\rm char}\,k=0$.
Рассмотрим основной объект догильбертовской
классической теории инвариантов: $G={\rm
SL}_2(k)$, а $V=V_s$---пространство бинарных
форм степени $s$ от переменных $z_1, z_2$ над
полем $k$, на котором $G$ действует линейными
заменами переменных:
\begin{equation}\label{sl}
g\cdot z_1=\alpha z_1+\gamma z_2,\hskip 2mm g\cdot
z_2=\beta z_1+\delta z_2, \hskip 3mm \mbox{если
$g=\begin{bmatrix}\alpha&\beta\\
\gamma&\delta\end{bmatrix}\in G$.}
\end{equation}
В рассматриваемом случае $\dim G=3$, $|W|=2$,
$r=1$, $m_1=1$, $E=\mathbb R$, $X(T)=\mathbb Z$.
Множество $R_+$ состоит из единственного корня
$\alpha=2$, а $\alpha\!^{\vee}$ является
стандартной координатной функцией на $\mathbb
R$, т. е. $\alpha\!^{\vee}(a)=a$ для любого
$a\in \mathbb R$. Возьмём
 в качестве базиса $e_1,\ldots, e_{s+1}$ в $V$
 последовательность мономов $z_1^s,
z_1^{s-1}z_2,\ldots, z_1z_2^{s-1}, z_2^s$. Из
\eqref{degree} следует, что $e_{i+1}$ является
весовым вектором диагонального тора $T=\{{\rm
diag}(t, t^{-1})\mid t\in k\setminus\{0\}\}$ с
весом $t\mapsto t^{s-2i}$. Поэтому системой
весов $T$-модуля $V$ является арифметическая
прогрессия $\{s, s-2,\ldots, -s+2, -s\}$, так
что $\mathcal P_{V_s}=[-s, s]$. Ядро
представления $\rho=\rho_s$, заданного формулой
\eqref{matr}, тривиально, если $s$ нечётно, и
имеет порядок $2$, если $s$ чётно. Поэтому из
\eqref{degree} мы получаем
\begin{equation}\label{degsl2}
{\rm deg}\,\rho_s({\rm SL}_2)=
\frac{3!}{2|\ker \rho_s|}\int_{-s}^{s}x^2dx=
\begin{cases}
2s^3\quad &\mbox{если $s$ нечётно},\\
s^3\quad& \mbox{если $s$ чётно.}
\end{cases}
\end{equation}
\end{example}





\end{nothing*}

\begin{nothing*}\label{reduction} {\it Редукция к коническому случаю}


\vskip 1mm

 Пусть $L$\,---\,конечномерное
векторное пространство над $k$. Пусть
$H$\,---\,алгебраическая группа,
 действующая (алгебраически) на проективном\break
пространстве $\mathbb P(L)$ одномерных линейных
подпространств в $L$. Не меняя $H$-орбит в
$\mathbb P(L)$, можно заменить группу $H$ на её
фактор по ядру неэффективности действия и считать
$H$ подгруппой в ${\rm Aut}(\mathbb P(L))$. Пусть
$\widetilde H$\,---\,прообраз $H$ относительно
естественного гомоморфизма ${\rm GL}(L)\!\to\!
{\rm Aut}(\mathbb P(L))$ (отметим, что
редуктивность $H$ эквивалентна редуктивности
$\widetilde H$). Пусть $\pi\colon L\setminus
\{0\}\to \mathbb P(L)$\,---\,естественная
проекция. Мы называем подмножество в $L$ {\it
коническим}, если оно инвариантно относительно
умножения на каждый ненулевой элемент из $k$.
\begin{lemma}\label{pro} Пусть $U$\,---\,непустое открытое
$H$-инвариантное подмножество в $\mathbb P(L)$ и
$p, q\in U$\,---\,две его точки. Возьмём
какие-либо точки $\widetilde p\in \pi^{-1}(p)$ и
$\widetilde q\in \pi^{-1}(q)$. Тогда следующие
свойства эквивалентны:
\begin{enumerate}
\item[(i)] орбита $H\cdot p$ лежит в замыкании
орбиты $H\cdot q$ в $\mathbb P(L)$; \item[(ii)]
орбита $H\cdot p$ лежит в замыкании орбиты $H\cdot
q$ в $U$;\item[(iii)] орбита $\widetilde H\cdot
\widetilde p$ лежит в замыкании орбиты $\widetilde
H \cdot \widetilde q$ в $L$.
\end{enumerate}
Орбиты $\widetilde H\cdot \widetilde p$ и
$\widetilde H\cdot \widetilde q$ являются
коническими.
\end{lemma}

\begin{proof} Поскольку $\widetilde H$ содержит
все умножения пространства $L$ на ненулевые
скаляры, $\widetilde H\cdot\widetilde
p=\pi^{-1}(H\cdot p)$ и $\widetilde
H\cdot\widetilde q=\pi^{-1}(H\cdot q)$. Читатель
легко проверит, что утверждение вытекает
отсюда и из определений.
\end{proof}

Нам понадобится следующее применение леммы
\ref{pro}. Рассмотрим в качестве $L$ координатное
пространство $k^{n+1}$, а в качестве
$H$\,---\,группу $G$ из п. \ref{begin}, действующую
на $\mathbb P(L)$ по правилу (см. \eqref{matr})
\begin{equation*}\label{action}
g\cdot (\alpha_0: \alpha_1:\ldots:\alpha_n):=
\biggl(\alpha_0:\sum_{i=1}^n\rho_{1,i}(g)
\alpha_i:\ldots:
\sum_{i=1}^n\rho_{n,i}(g)\alpha_i\biggr).
\end{equation*}
Стандартное главное открытое подмножество
$\{(\alpha_0:\alpha_1:\ldots:\alpha_n)\mid
\alpha_0\neq 0\}$ в $\mathbb P(\widetilde L)$
является $G$-инвариантным и эквивариантно
изоморфным $G$-модулю $V$. Поэтому, ввиду леммы
\ref{pro}, ответ на вопрос $(*)$ эквивалентен
ответу на вопрос о том, лежит ли орбита
$\widetilde G\cdot \widetilde a$ в замыкании
орбиты $\widetilde G\cdot \widetilde b$. Это
означает, что, заменяя группу $G$ на $\widetilde
G$, пространство $V$ на $L$, а точки $a$ и $b$
на, соответственно, $\widetilde a$ и $\widetilde
b$, мы сводим решение вопроса $(*)$ к случаю,
когда обе орбиты $G\cdot a$ и $G\cdot b$
являются ненулевыми и коническими.
Ввиду этого, %%занимаясь вопросом $(*)$,
\begin{gather}\label{cone}
\begin{gathered}\mbox{\rm
при поиске ответа на вопрос $(*)$, можно
считать},\\[-3pt] \mbox{\rm что  $G\cdot a$ и $G\cdot
b$\,---\,ненулевые конические орбиты}.
\end{gathered}
\end{gather}

Отметим еще, что, ввиду леммы \ref{pro}, вопрос,
аналогичный вопросу $(\ast)$, но для действия
группы на проективном пространстве, сводится к
вопросу $(\ast)$ для действия на линейном
пространстве.

\end{nothing*}

\begin{nothing*}
{\it Входные данные алгоритма}

\vskip 1mm

Мы будем считать известными следующие данные:
\begin{list}{%%$\bullet$
} {\labelsep=2mm\leftmargin=8.5mm
\itemindent=-1mm\labelwidth=1mm\parsep=1mm}
\item[---] Степень многообразия $\rho(G)$,
\begin{equation}\label{d}
d:={\rm deg}\,\rho(G).
\end{equation}
 \item[---] Функции $$\iota^*(\rho_{p, q})\!\in\!
 k[\mathbb A^{r, s}]\!=\!k[x_1,\ldots, x_{r+s},
x_1^{-1},\ldots,x_{r}^{-1}], \qquad
1\leqslant p,
q\leqslant n.$$
\end{list}%%{enumerate}
\end{nothing*}

\begin{example}\label{ex} Рассмотрим ту же ситуацию, что и в примере
\ref{sl2}. Число \eqref{d} дается формулой
\eqref{degsl2}. Из \eqref{sl} следует, что функции
$\rho_{p,q}$ в \eqref{matr} определяются равенством
\begin{equation}\label{rh}
(\alpha z_1+\gamma z_2)^{s-j}(\beta z_1+\delta
z_2)^{j}\!=\!\sum_{i=0}^{s}\rho_{i+1,
j+1}(g)z^{s-i}_1z^{i}_2,\hskip 3mm \mbox{где
$g\!=\!\begin{bmatrix}\alpha&\beta\\
\gamma&\delta\end{bmatrix}\!\in\! G$}.
\end{equation}

Возьмём в качестве $\iota$ морфизм
\begin{gather}
\iota\colon \mathbb A^{1, 2}\hookrightarrow {\rm SL}_2(k),\notag\\
(\varepsilon_1, \varepsilon_2,\varepsilon_3)\mapsto
\begin{bmatrix}1&\varepsilon_2\\
0&1\end{bmatrix}
\begin{bmatrix}\varepsilon_1&0\\
0&\varepsilon_1^{-1}\end{bmatrix}
\begin{bmatrix}1&0\\
\varepsilon_3&1\end{bmatrix}=
\begin{bmatrix}
\varepsilon_1^{-1}\varepsilon_2\varepsilon_3+\varepsilon_1
&\varepsilon_1^{-1}\varepsilon_2\\
\varepsilon_1^{-1}\varepsilon_3&\varepsilon_1^{-1}\end{bmatrix}.\label{iosl}
\end{gather}
Тогда из \eqref{coord}, \eqref{rh}, \eqref{iosl}
следует, что функция $\iota^*(\rho_{i+1, j+1})$
равна коэффициенту при $z^{s-i}_1z^{i}_2$ в
разложении бинарной формы
\begin{equation*}
\bigl((x_1+x^{-1}_{1}x_2x_3)z_1+(x^{-1}_{1}x_3)
z_2\bigr)^{s-j}\bigl((x^{-1}_{1}x_2)
z_1+(x^{-1}_{1}) z_2\bigr)^{j}
\end{equation*}
от $z_1, z_2$ с коэффициентами в поле $k(x_1, x_2,
x_3)$ в сумму мономов от $z_1, z_2$. Например, если
$d=2$, то $\iota^*(\rho_{2, 2})=
1+2x^{-2}_{1}x_2x_3$.

\end{example}


\begin{nothing*}\label{algor} {\it Алгоритм}

\vskip 1mm

Перейдём теперь к формулировке и доказательству
основного результата.  Мы используем введённые
выше обозначения и соглашения и исключаем
тривиальный случай $\overline{G\cdot  b}=V$, т.
е. считаем, что
\begin{equation}\label{dim}
\dim\,G\cdot b<\dim\, V
\end{equation}
(поскольку число $\dim\,G\cdot b$ равно рангу
системы векторов $\{d\rho(Y_i)\cdot b\}_{i\in I}$,
где $\{Y_i\}_{i\in I}$\,---\,базис векторного
пространства ${\rm Lie}(G)$, условие \eqref{dim}
может быть проверено конструктивно, если считать
известными операторы $d\rho(Y_i)$).




Следующая последовательность шагов вместе с
теоремой \ref{thm} дает конструктивный способ
получить ответ на вопрос $(\ast)$:



\begin{list}{%%$\bullet$
}%%{enumerate}
{\labelsep=2mm\leftmargin=10mm
\itemindent=-1mm\labelwidth=4mm\parsep=1mm}
\item[(1)]%%[$\bullet$]
Найдём координаты векторов $a$ и $b$ в базисе
$e_1,\ldots, e_n$:
\begin{equation*}a=\alpha_1 e_1+\ldots+\alpha_n
e_n,\hskip 3mm b=\beta_1e_1+\ldots+\beta_n
e_n,\end{equation*} и, поменяв, если нужно, базис
$e_1,\ldots, e_n$, добьёмся того, чтобы было
выполнено условие
\begin{equation}\label{nonzero}
\beta_1\cdots\beta_n\neq 0.
\end{equation}
\item[(3)]%%[$\bullet$]
Рассмотрим $n$ ``общих'' полиномов $F_1,\ldots,
F_n$ степени $2d-2$
(где $d$ определено формулой
\eqref{d})
от переменных $y_1,\ldots, y_n$,
\begin{align}\label{f}
F_p:=\sum_{\substack{q_1,\ldots, q_n\in\mathbb N\\
q_1+\cdots+q_n\leqslant 2d-2}} c_{p, q_1,\ldots,
q_n}y^{q_1}_1\cdots y^{q_n}_n, \hskip 3mm
p=1,\ldots, n,
\end{align}
т. е. таких, что, помимо $y_1,\ldots, y_n$, все
$c_{p, q_1,\ldots, q_n}$ также являются переменными
над $k$, и положим
\begin{equation}\label{F}
H(y_1,\ldots,
y_n):=(y_1-\alpha_1)F_1+\ldots+(y_n-\alpha_n)F_n-1.
\end{equation}
\item[(4)]%%[$\bullet$]
Заменив в $H(y_1,\ldots, y_n)$ каждую переменную
$y_i$ на $\sum_{j=1}^n\beta_j\iota^*(\rho_{i, j})$,
получим линейную комбинацию мономов вида
\eqref{monom} с коэффициентами в кольце $k[\ldots,
c_{p, q_1,\ldots, q_n},\ldots]$ полиномов от
переменных
$c_{p, q_1,\ldots, q_n}$ %%с коэффициентами в поле
над полем $k$:

\begin{align}\label{subst}
H\biggl(\sum_{j=1}^n\beta_j\iota^*(\rho_{1,
j}),\ldots, \sum_{j=1}^n&\beta_j\iota^*(\rho_{n,
j})\biggr) \notag\\[- 6pt]
&=\sum_{(i_1,\ldots, i_{r+s})\in M}
\ell_{i_1,\ldots, i_{r+s}}x^{i_1}_{1}\cdots
x^{i_{r+s}}_{r+s},
\end{align}

\noindent где $\ell_{i_1,\ldots, i_{r+s}}\in
k[\ldots, c_{p, q_1,\ldots, q_n},\ldots]$, а
$M$\,---\,некоторое конечное подмножество в
$\mathbb Z^r\times \mathbb N^s$. Ввиду \eqref{f} и
\eqref{F}, каждый коэффициент $\ell_{i_1,\ldots,
i_{r+s}}$ в \eqref{subst} является {\it линейной}
функцией от переменных $c_{p, q_1,\ldots, q_n}$ с
коэффициентами в поле $k$. \item[(5)] Рассмотрим
следующую конечную систему {\it линейных} уравнений от
переменных $c_{p, q_1,\ldots, q_n}$ с
коэффициентами в поле $k$:
\begin{equation}\label{ls}
\ell_{i_1,\ldots, i_{r+s}}=0, \hskip 3mm\mbox{где
$(i_1,\ldots, i_{r+s})\in M$.}
\end{equation}
\end{list}%%{enumerate}
\begin{theorem}\label{thm} Пусть
$G\cdot b$\,---\,ненулевая коническая орбита
{\rm(}см. \eqref{cone}{\rm)}. Следующие свойства
эквивалентны:
\begin{enumerate}
\item[(i)]  замыкание орбиты $G\cdot  b$ в $V$
содержит орбиту $G\cdot  a$; \item[(ii)] система
линейных уравнений \eqref{ls} несовместна.
\end{enumerate}
\end{theorem}
\begin{proof} Мы разобьём его на несколько шагов.

1.\hskip 2mm Пусть $z_1,\ldots,
z_n$\,---\,дуальный к $e_1,\ldots, e_n$ базис
пространства $V^*$. Пусть
$t_i$\,---\,ограничение на $\overline{G\cdot b}$
функции $z_i$. Поскольку множество
$\overline{G\cdot  b}$ замкнуто в $V$, а
$k[V]=k[z_1,\ldots, z_n]$, мы имеем
\begin{equation}\label{tt}
k[\overline{G\cdot b}]=k[t_1,\ldots, t_n].
\end{equation}

Отметим, что функция $t_i$\,---\,не константа. В
самом деле, поскольку орбита $G\cdot b$ является
конической, $0\in \overline{G\cdot  b}$. Из
определения $t_i$ следует, что $t_i(0)=0$ и
$t_i(b)=\beta_i$. Но $\beta_i\neq 0$ ввиду
\eqref{nonzero}.


 Рассмотрим орбитный морфизм
\begin{equation}\label{morphism}
\varphi\colon G\to \overline{G\cdot  b},\quad
\varphi(g)=g\cdot  b.
\end{equation}
Поскольку морфизм $\iota$ доминантен, образ морфизма
\begin{equation}\label{psi}
\psi:=\varphi\circ\iota\colon \mathbb A^{r,
s}\to \overline{G\cdot  b}
\end{equation}
плотен в $\overline{G\cdot  b}$, а потому
соответствующий коморфизм является вложением
алгебр регулярных функций:
\begin{equation}\label{psi*}
\psi^*\colon k[\overline{G\cdot
b}]\hookrightarrow k[\mathbb A^{r, s}].
\end{equation}
Из \eqref{tt} следует, что
\begin{equation}
\psi^*(k[\overline{G\cdot
b}])=k[%%\varphi
\psi^*(t_1),\ldots,%%\varphi
\psi^*(t_n)],
\end{equation}
а из \eqref{morphism}, \eqref{psi}, \eqref{actionn}
и определения $t_i$, что
\begin{equation}\label{ip}
\psi^*(t_i)=\sum_{j=1}^n\beta_j\iota^*(\rho_{i,j}).
\end{equation}

Функции $z_1-\alpha_1,\ldots, z_n-\alpha_n$
имеют на $V$ только один общий нуль\,---\,точку
$a$. Учитывая $G$-инвариантность множества
$\overline{G\cdot  b}$, мы получаем отсюда, что
следующие свойства эквивалентны:
\begin{equation}\label{equiv}
\left.
\begin{array}{rl}
{\rm({\rm c}_1)}&\hskip -2mm\mbox{орбита $G\cdot
a$ не лежит в замыкании орбиты $G\cdot  b$};\\
{\rm({\rm c}_2)}&\hskip -2mm\mbox{точка $a$ не
лежит в замыкании орбиты
$G\cdot  b$};\\
{\rm ({\rm c}_3)}&\hskip -2mm\mbox{функции
$t_1\!-\!\alpha_1,\ldots, t_n\!-\!\alpha_n$ не
имеют на $\overline{G\cdot  b}$ общих нулей}.
\end{array}
\hskip -1.5mm\right\}
\end{equation}

2.\hskip 2mm Воспользуемся теперь эффективной
формой теоремы Гильберта о корнях, полученной в
\cite{J05}. Чтобы сформулировать этот результат,
введём несколько обозначений и определений.

Прежде всего, для любых целых положительных чисел
$d_1\geqslant \cdots\geqslant d_m$ и $q$ положим

\begin{equation*}
N(d_1,\ldots, d_m; q)=\begin{cases}\prod_{i=1}^m
d_i\hskip 2mm
&\mbox{если $q\geqslant m\geqslant 1$},\\
\hskip -.5mm\bigl(\prod_{i=1}^{q-1}d_i\bigr)d_m
\hskip 2mm
&\mbox{если $m>q>1$},\\
d_m \hskip 2mm &\mbox{если $q=1$},
\end{cases}
\end{equation*}
а также
\begin{equation*}
N'(d_1,\ldots, d_m; q)=N(d_1,\ldots, d_m; q),
\hskip 1mm \mbox{если $q>1$,}\hskip 3mm \mbox{и
}\hskip 1mm N'(d_1,\ldots, d_m; 1)=d_1.
\end{equation*}

Далее, назовём {\it степенью} ненулевой регулярной
функции $h$ на неприводимом замкнутом подмножестве
$X$ аффинного пространства $\mathbb A^l$ число
${\rm deg}\,h$, равное минимуму  степеней таких
полиномиальных функций на $\mathbb A^l$,
ограничение которых на $X$ совпадает с $h$. Легко
видеть, что для любых ненулевых регулярных функций
$f$ и $h$ на $X$ имеет место неравенство ${\rm
deg}\,fh\leqslant {\rm deg}\,f+{\rm deg}\,h$,
причём, вообще говоря, равенство может и не
выполняться, однако, если множество
$X$\,---\,коническое, то обязательно
\begin{equation}\label{=}
{\rm deg}\,fh={\rm deg}\,f+{\rm deg}\,h.
\end{equation}

\begin{theorem}[\rm Z. Jelonek \cite{J05}] \label{Jel} Пусть
$X$\,---\,неприводимое ненульмерное замкнутое
подмножество в $\mathbb A^l$. Пусть $h_1,\ldots,
h_m$\,---\,непостоянные регулярные функции на
$X$, занумерованные так, что
\begin{equation}\label{ineqv}
{\rm deg}\,h_1\geqslant\cdots\geqslant {\rm
deg}\,h_m.
\end{equation}
Тогда следующие условия эквивалентны:
\begin{enumerate}
\item[\rm (a)] функции $h_1,\ldots, h_m$ не имеют
общих нулей; \item[\rm(b)] существуют такие
регулярные функции $f_1,\ldots, f_m$ на $X$, что и
$1=\sum_{i=1}^{m} f_ih_i$ и для любого $i$
выполнено неравенство
\begin{equation*}
{\rm deg}\,f_i h_i\leqslant\begin{cases} {\rm
deg}\,X\!\cdot\!N'({\rm deg}\,h_1,\ldots,{\rm
deg}\,h_m; \dim\,X),\hskip 2mm &\mbox{если
$m\leqslant
\dim\,X$},\\
2{\rm deg}\,X\!\cdot\!N'({\rm deg}\,h_1,\ldots,{\rm
deg}\,h_m; \dim\,X)-1,\hskip 2mm &\mbox{если $m>
\dim\,X$.}
\end{cases}
\end{equation*}
\end{enumerate}
\end{theorem}

Возьмём теперь в качестве $\mathbb A^l$ и $X$
соответственно $V$ и $\overline{G\cdot  b}$.
Поскольку $t_i$\,---\,непостоянная функция,
являющаяся ограничением на $\overline{G\cdot b}$
линейной функции на $V$, мы имеем
\begin{equation}\label{h}
{\rm deg}\,(t_1-\alpha_1)=\ldots={\rm
deg}\,(t_n-\alpha_n)=1.
\end{equation}
Далее, в теореме \ref{Jel} положим $m=n$ и $h_i=t_i-\alpha_i$,
$i=1,\ldots, n$ (ввиду \eqref{h}, условие
\eqref{ineqv} выполнено). Тогда из \eqref{equiv},
теоремы \ref{Jel} и \eqref{dim}, \eqref{h}
вытекает, что каждое из свойств $({\rm c}_1)$,
$({\rm c}_2)$, $({\rm c}_3)$ в \eqref{equiv}
эквивалентно свойству
\begin{enumerate}
\item[$({\rm c}_4)$] существуют такие регулярные
функции $f_1,\ldots, f_n$ на $\overline{G\cdot  b}$, что\\
$\sum_{i=1}^{m} (t_i-\alpha_i)f_i-1=0$ и для любого
$i$ выполнено неравенство
\begin{equation}\label{degg}
{\rm deg}\,(t_i-\alpha_i)f_i\leqslant 2\,{\rm
deg}\, \overline{G\cdot b}-1.
\end{equation}
\end{enumerate}

Так как $\overline{G\cdot b}$\,---\,коническое
(неприводимое) подмногообразие в $V$, то из
\eqref{=} и \eqref{h} следует, что ${\rm
deg}\,(t_i-\alpha_i)f_i=1+{\rm deg}\,f_i$, и
поэтому неравенство \eqref{degg} эквивалентно
неравенству
\begin{equation}\label{deggg}
{\rm deg}\,f_i\leqslant 2\,{\rm deg}\,
\overline{G\cdot  b}-2.
\end{equation}

3.\hskip 2mm Степень многообразия
$\overline{G\cdot  b}$ можно оценить сверху. А
именно, орбита ${G\cdot  b}$ является образом
многообразия $\rho (G)\subset {\rm End}(V)$ при
линейном отображении ${\rm End}(V)\to V$,
$g\mapsto g\cdot b$. Но, как легко видеть (см.,
например, \cite[Prop. 4.7.10]{DK}), при аффинных
отображениях степень не увеличивается: если
$Y$\,---\,локально замкнутое подмножество в
$\mathbb A^l$ и $\varphi\colon \mathbb
A^l\to\mathbb A^m$\,---\,аффинное отображение,
то ${\rm deg}\,Y\geqslant {\rm
deg}\,\overline{\varphi(Y)}$. Поэтому ${\rm
deg}\, \overline{G\cdot  b}$ не превосходит
степени подмногообразия $\rho(G)$ в ${\rm
End}(V)$, т. е. числа $d$.
 Следовательно, ввиду
\eqref{deggg}, для любого $i$ имеет место
неравенство
\begin{equation}\label{degggg}
{\rm deg}\,f_i\leqslant 2d-2.
\end{equation}

4.\hskip 2mm Поскольку коморфизм $\psi^*$ (см.
\eqref{psi*}) является вложением, мы получаем
эквивалентность
\begin{equation}\label{eqv}
\sum_{i=1}^{m} (t_i-\alpha_i)f_i-1=0\hskip 1.5mm
\iff\hskip 1.5mm  \sum_{i=1}^{m}
(\psi^*(t_i)-\alpha_i)\psi^*(f_i)-1=0.
\end{equation}


Из неравенства \eqref{degggg} и определений функций
$t_i$, чисел ${\rm deg}\,f_i$,  ``общих'' полиномов
$F_p$ (см. \eqref{f}) и полинома $H$ (см.
\eqref{F})
 следует, ввиду
\eqref{ip} и \eqref{eqv}, что свойство $({\rm
c}_4)$ эквивалентно такому:
\begin{enumerate}
\item[$({\rm c}_5)$] для каждого коэффициента
$c_{p, q_1,\ldots, q_n}$ каждого ``общего''
полинома $F_p$ существует такая
 константа $\nu_{p,
q_1,\ldots, q_n}\in k$, что после замены $c_{p,
q_1,\ldots, q_n}$ на $\nu_{p, q_1,\ldots, q_n}$
для всех $p, q_1,\ldots, q_n$, правая часть
формулы \eqref{ls} станет нулевым элементом поля
рациональных функций от $x_1,\ldots, x_{r+s}$ с
коэффициентами в $k$:
\begin{equation}\label{lll}
\sum_{(i_1,\ldots, i_{r+s})\in M} \ell_{i_1,\ldots,
i_{r+s}}(\ldots,\nu_{p, q_1,\ldots, q_n},\ldots)\,
x^{i_1}_{1}\cdots x^{i_{r+s}}_{r+s}=0.
\end{equation}
\end{enumerate}

Остаётся заметить, что, поскольку мономы
$x^{i_1}_{1}\cdots x^{i_{r+s}}_{r+s}$, где
$(i_1,\ldots, i_{r+s})\hskip -1mm\in M$, линейно
независимы над $k$, равенство \eqref{lll}
эквивалентно равенству нулю всех коэффициентов
его левой части,
$$
\ell_{i_1,\ldots, i_{r+s}}(\ldots,\nu_{p,
q_1,\ldots, q_n},\ldots)=0,
$$
т. е. тому, что $c_{p, q_1,\ldots, q_n}=\nu_{p,
q_1,\ldots, q_n}$ является решением системы
линейных уравнений \eqref{ls} от переменных $c_{p,
q_1,\ldots, q_n}$. Это завершает доказательство
теоремы.
\end{proof}

\begin{remark} Как видно из доказательства,
утверждение теоремы \ref{thm} останется верным,
если константу $d$ в определении ``общих''
полиномов $F_1,\ldots, F_n$ заменить на ${\rm
deg}\,\overline{G\cdot b}={\rm deg}\,G\cdot b$.
Если из каких-то соображений  число ${\rm
deg}\,G\cdot b$ известно, это позволяет
уменьшить количество переменных и уравнений в
системе линейных уравнений \eqref{ls}. В
некоторых случаях степени орбит действительно
были найдены.
\end{remark}
\begin{example} Рассмотрим ту же ситуацию,
что и в примерах \ref{sl2} и \ref{ex}. Возьмём
ненулевую бинарную форму $v\in V_s$ и разложим её в
произведение $v=v_{1}^{n_1}\cdots v_{p}^{n_p}$, где
$v_1,\ldots, v_p$
---попарно непропорциональные формы
из $V_1$. Предположим, что $p\geqslant 3$ и
$s/n_i\geqslant 2$ для каждого $i$. Тогда
$G$-стабилизатор $G_v$ формы $v$ конечен, см.
\cite{Po74}, и $|G_v|{\rm deg}\,G\cdot v
=-2(p-1)s^3-4\sum_{i=1}^p(s-n_i)^3+3s^2\sum_{i=1}^p(s-n_i)+
3s\sum_{i=1}^p(s-s_i)(s-2n_i)$ (см. доказательство
в \cite[Sect.\,8]{MJ92}). В частности, если все
корни формы $v$ однократны, т. е. $p=s$,
$n_1=\ldots=n_s=1$, то
\begin{equation}\label{dG}
|G_v|{\rm deg}(G\cdot v)=2s(s-1)(s-2).
\end{equation}
Формула \eqref{dG} может быть также выведена из
вычислений
 Энриквеса и Фано 1897 года; это
 было сделано
Мукаи и Умемурой в 1983 г.
 (с пробелом, исправленным в
 \cite[Sect.\,8, Remark]{MJ92}, где даны
 соответствующие ссылки).
\end{example}
\end{nothing*}

\section{\bf Задание множества \boldmath$
\overline{G\cdot L}$
уравнениями}

 \begin{nothing*} Пусть $L$\,---\,какое-либо
линейное подмногообразие в $V$. Тогда существует
морфизм
\begin{equation*}\label{t}
\tau\colon \mathbb A^l\to V,
\end{equation*}
образ которого плотен в $L$: например, можно
взять в качестве $\tau$
аффинное вложение $\mathbb A^l$ в $V$,
образом которого является $L$.
Мы зафиксируем какой-нибудь такой морфизм $\tau$.
Кроме того, мы по-прежне\-му
считаем, что зафиксирован какой-либо доминантный
морфизм \eqref{iota}.

Мы сохраняем обозначения
из п. \ref{o}. Как и в доказательстве теоремы \ref{thm},
мы обозначаем через $z_1,\ldots,
z_n$ дуальный к $e_1,\ldots, e_n$ базис
пространства $V^*$.
Кроме того, мы обозначим
через $y_1,\ldots, y_l$ стандартные координатные
функции на $\mathbb A^l$:
\begin{equation*}
y_i(a)=\delta_i
\hskip 2mm
\mbox{для $a=(\delta_1,\ldots,
\delta_l)\in\mathbb A^l$}.
\end{equation*}
Тогда
\begin{equation}\label{tau}
\tau(v)=\sum_{i=1}^{n}\tau^*(z_i)(v)e_i\quad\mbox{для любого
$v\in\mathbb A^l$.}
\end{equation}
\end{nothing*}

\begin{nothing*}
Функции $x_1,\ldots, x_{r+s}$,
$y_1,\ldots, y_l$ естественным образом
продолжаются до функций на $\mathbb
A^{r, s}\times \mathbb A^l$;  их
продолжения мы обозначаем теми же буквами.
Рассмотрим морфизм
\begin{equation}\label{muuu}
\mathbb
\mu\colon A^{r, s}\times \mathbb A^l\to V,\quad
\mu(u, v)=\iota(u)\cdot\tau(v)
\end{equation}
Тогда из \eqref{actionn} и \eqref{tau} следует, что
\begin{equation}\label{m*}
f_p:=\mu^*(z_p)=\sum_{q=1}^{n}\iota^*(\rho_{pq})
\tau^*(z_q)\qquad
1\leqslant p,
q\leqslant n.
\end{equation}
 \end{nothing*}

Мы отождествим $\mathbb A^{r, s}\times \mathbb A^l$ с
открытым подмножеством в $\mathbb A^{r+s+l}$ с
помощью вложения
$$\mathbb A^{r, s}\times \mathbb A^l\hookrightarrow
\mathbb A^{r+s+l},\quad
((\varepsilon_1\ldots,\varepsilon_{r+s}),
(\delta_1,\ldots,\delta_l))\mapsto
(\varepsilon_1\ldots,\varepsilon_{r+s},
\delta_1,\ldots,\delta_l)
$$
и продолжим функции $x_1,\ldots, x_{r+s}$,
$y_1,\ldots, y_l$ естественным образом до
стандартных координатных функций на $\mathbb
A^{r+s+l}$, сохранив их обозначения.
Кроме того, мы отождествим $V$ с $\mathbb A^n$
с помощью изоморфизма
$$
V\to \mathbb A^n,\quad \sum_{i=1}^n
\gamma_ie_i\mapsto (\gamma_1,\ldots,\gamma_n).
$$
Тогда морфизм \eqref{muuu} становится
рациональным отображением $\varrho$  аффинного
пространства $\mathbb A^{r+s+l}$ в аффинное
пространство $\mathbb A^n$:
$$\varrho\colon \mathbb A^{r+s+l}
\dashrightarrow \mathbb A^n,\quad
a\mapsto (f_1(a),\ldots,f_n(a)).$$  Поскольку
$\overline{\iota (\mathbb A^{r,s})\cdot
L}=\overline{G\cdot L}$, мы имеем равенство
\begin{equation}\label{GL}
\overline{\varrho(\mathbb
A^{r+s+l})}=\overline{G\cdot L}.
\end{equation}

\noindent Это позволяет применить теорию
исключения для нахождения уравнений, высекающих
$\overline{G\cdot L}$ в $V$. Алгоритмическое
решение этой задачи получается
 с помощью базисов Грёбнера следующим образом.

\begin{nothing*} {\it Входные данные алгоритма}

Мы будем считать известными следующие данные:
\begin{list}{%%$\bullet$
}%%{enumerate}
{\labelsep=2mm\leftmargin=8.5mm
\itemindent=-1mm\labelwidth=1mm\parsep=1mm}
 \item[---] Функции
 \begin{equation}\label{irpq}
 \iota^*(\rho_{p, q})\!\in\!
 k[x_1,\ldots, x_{r+s},
x_1^{-1},\ldots,x_{r}^{-1}]\subset k(\mathbb A^{r+s+l}), \qquad
1\leqslant p,
q\leqslant n.
\end{equation}
\item[---] Функции
\begin{equation}\label{tz}
\tau^*(z_i)\in k[y_1,\ldots, y_l]\subset
k[\mathbb A^{r+s+l}],\qquad 1\leqslant
i\leqslant n.
\end{equation}
\end{list}%%{enumerate}

\begin{example} Зафиксируем точку
$v\in L$ и последовательность $f_1,\ldots, f_m$
линейно независимых векторов, задающие
параметрическое представление
$L=\{v+\sum_{i=1}^m\lambda_if_i\mid
\lambda_d,\ldots,\lambda_m\in k\}$. Возьмём в
качестве $\tau$ вложение $ \tau\colon \mathbb
A^m\hookrightarrow \mathbb A^n$,
$\tau(\lambda_1,\ldots,\lambda_m)=
v+\sum_{i=m}^l\lambda_if_i. $ Пусть
$v=\sum_{j=1}^n\gamma_je_j$ и $f_i=
\sum_{j=1}^n\nu_{ji}e_j$. Тогда $$
\tau^*(z_i)=\sum_{i=1}^n
\nu_{ij}y_j+\gamma_i,\quad 1\leqslant i\leqslant
n.
$$ В отношении функций $\iota^*(\rho_{p, q})$ см.
пример \ref{ex}.
\end{example}
\end{nothing*}
\begin{nothing*} {\it Алгоритм}

Следующая последовательность шагов вместе с
теоремой \ref{thmm} даёт конструктивный способ
получить уравнения, задающие $\overline{G\cdot L}$
в $V$:



\begin{list}{}
{\labelsep=2mm\leftmargin=10mm
\itemindent=-1mm\labelwidth=4mm\parsep=1mm}
\item[(1)] Вычислим рациональные функции $f_p$
по формуле \eqref{m*} и запишем каждую из них в
виде частного многочленов:
$$
f_p=\frac{g_p}{h_p},\quad \mbox{где\hskip 3mm $g_p\in
k[x_1,\ldots, x_{r+s}, y_1,\ldots, y_t]$,\;
$h_p\in k[x_1,\ldots, x_r]$}
$$
(см. \eqref{irpq} и \eqref{tz}).
\item[(2)] Рассмотрим кольцо многочленов
$k[t, x_1,\ldots,x_{r+s}, y_1,\ldots, y_t,
z_1,\ldots, z_n]$, где $t$---новая переменная, и
найдём для его идеала,
порождённого многочленами
\begin{equation*}
h_1z_1-g_1,\ldots, h_nz_n-g_n, 1-h_1\cdots h_nt.
\end{equation*}
базис Грёбнера по отношению к лексикографическому
упорядочению мономов, при котором каждая из
переменных $t$, $x_i$ и $y_j$ больше каждой
переменной $z_p$.
\end{list}
\begin{theorem}\label{thmm}
Пусть $q_1,\ldots, q_m$---все элементы этого базиса Грёбнера,
лежащие в $k[z_1,\ldots, z_n]$. Тогда
\begin{equation*}
\overline{G\cdot L}=\{v\in \mathbb A^n\mid
q_1(v)=\ldots=q_m(v) =0\}.
\end{equation*}
\end{theorem}
\begin{proof} Мы имеем $\overline{\varrho
(\mathbb A^{r+s+l})}\!=\!\{v\!\in\!\mathbb
A^n\mid q_1(v)\!=\!\ldots\!=\!q_m(v)
\!=\!0\}$---это общий факт, касающийся замыкании
образа любого рационального отображения
од\-но\-го аффинного пространства в другое, см.,
например, \cite[гл.\,3, \S\,3, те\-о\-ре\-ма
2]{KLO00}. Теперь утверждение теоремы следует из
равенства~\eqref{GL}.
\end{proof}
\begin{remark}
Хотя интересующие нас элементы $q_1,\ldots, q_m$
составляют лишь часть указанного базиса Грёбнера,
 для их нахождения
с помощью описанного алгоритма приходится искать
весь этот базис целиком.
\end{remark}
\end{nothing*}






\begin{thebibliography}{XXXXXX}

\bibitem[Б72]{B72} Н. Бурбаки,
{\it Группы и алгебры Ли}, гл. IV, V, VI, Мир, М.,
1972.

\bibitem[ВГО90]{VGO}
Э. Б. Винберг, В. В. Горбацевич, А. Л. Онищик, {\it
Строение групп и алгебр Ли}, Итоги науки и техники,
Современные проблемы математики, Фундаментальные
направления, т. 41, ВИНИТИ, М., 1990, стр. 5--257.


\bibitem[ВП72]{PV72}
Э.~Б.~Винберг, В.~Л.~Попов, {\it Об одном классе
квазиоднородных многообразий}, Изв.АН СССР, сер.
мат. {\bf 36} (1972), вып. 4, 749--763.

\bibitem[ВП89]{PV89}
Э.~Б.~Винберг, В.~Л.~Попов, {\it Теория
инвариантов}, Современные проблемы математики,
Фундаментальные направления,  т. 55, ВИНИТИ, М.,
1989, стр. 137--314.

\bibitem[Kаз87]{K87}
Б.  Я. Казарновский, {\it Многогранники Ньютона и
формула Безу для матричных функций конечномерных
представлений}, Функц. анализ и его прилож. {21}
(1987), вып.\,4, 73--74.

\bibitem[Kаш97]{K97} В. В. Кашин, {\it Орбиты
присоединённого и коприсоединённого действий
борелевских подгрупп полупростых алгебраических
групп}, в сб.: {\it Проблемы теории групп и
гомологической алгебры}, Ярославль, 1997,
141--159.

\bibitem[КЛО00]{KLO00} Д. Кокс, Дж. Литтл, Д. О'Ши,
{\it Идеалы, многообразия и алгоритмы}, Мир, М.,
2000.

\bibitem[M79]{M79} Д. Мамфорд, {\it
Алгебраическая геометрия $1.$ Комплексные
проективные многообразия}, Мир, М., 1979.

\bibitem[Po74]{Po74} В. Л. Попов, {\it Структура
замыканий орбит в пространствах конечномерных
линейных представлений группы ${\rm SL}(2)$}, Мат.
заметки {\bf 16} (1974), вып. 6, 943--950.


\bibitem[Po03]{Po03} В. Л. Попов, {\it
Конус нуль-форм Гильберта}, Труды Мат. инст. им. В.
А. Сте\-к\-лова РАН {\bf 241} (2003), 192--209.
%%Engl. transl.: V. L. Popov, {\it The cone of
%%Hilbert nullforms}, Proc. Steklov Inst. of Math.
%%{\bf 241} (2003), 177--194.

\bibitem[B95]{B95}
K. Bongartz, {\it Degenerations for
representations of tame quivers}, Ann. Sci. \'ENS
{\bf 28} (1995), no. 5, 647--668.


\bibitem[BHRZ99]{BHRZ99}
 T. Brustle, L. Hille, G. R\"ohrle, G. Zwara,
{\it The Bruhat--Chevalley order of para\-bolic
group actions in general linear groups and
degeneration for $\Delta$-filtered modules}, Adv.
in Math. {\bf 148} (1999), no. 2, 203--242.

\bibitem[B05]{B05} D. Burde, {\it Degenerations of
$7$-dimensional nilpotent Lie algebras}, Commun.
Al\-geb\-ra {\bf 33} (2005), no. 4, 1259--1277.

\bibitem[BS99]{BS} D. Burde, C. Steinhoff,
{\it Classification of orbit closures of
$4$-dimensional complex Lie algebras}, J. Algebra
{\bf 214} (1999), 729--739.

\bibitem[C85]{C} R. Carter, {\it Finite Groups of Lie Type:
Conjugacy Classes and Complex Cha\-rac\-ters},
John Wiley \& Sons, London, 1985.

\bibitem[CM93]{CM} D. H. Collingwood, W. M. McGovern,
{\it Nilpotent Orbits in Semisimple Lie
Al\-geb\-ras}, Van Nostrand Reinhold, New York,
1993.

\bibitem[DK02]{DK} H. Derksen, G. Kemper,
{\it Computational Invariant Theory},
Encyclopaedia of Ma\-thematical Sciences, Vol.
130, Subseries {\it Invariant Theory and Algebraic
Transformation Groups}, Vol. I, Springer, Berlin,
Heidelberg, 2002.


\bibitem[GHR07]{GHR07}
S. Goodwin, L. Hille, G. R\"ohrle, {\it Orbits
of parabolic subgroups on metabelian ideals},
2007, {\tt arXiv:0711.3711}.

\bibitem[G58]{G58}
A. Grothendieck, {\it Torsion homologique et
sections rationnelles}, in: {\it Anneaux de Chow
et Applications}, S\'eminaire C. Chevalley ENS
1958, Sec. math. 11 rue Pierre Cirue, Paris, 1958,
pp.\,5-10--5-29.



\bibitem[J05]{J05}
Z. Jelonek, {\it On the effective Nulltellensatz},
Invent. Math. {\bf 162} (2005), 1--17.




\bibitem[MWZ99]{MWZ99}
P. Magyar, J. Weyman, A. Zelevinsky,  {\it
Multiple flag varieties of finite type}, Adv.
Math. {\bf 141} (1999), no. 1, 97--118.


\bibitem[MJ92]{MJ92} L. Moser-Jauslin,
{\it The Chow rings of smooth complete ${\rm
SL}_{2}$-embeddings}, Compo\-si\-tio Math. {\bf
82} (1992), 67--106.



\bibitem[MS01]{MS01}
K. Mulmuley, M. Sohoni, {\it Geometric complexity
theory {\rm I}: An approach to the P vs. NP and
related problems}, SIAM J. Comput. {\bf 31}
(2001), no. 2, 496--526.

\bibitem[M65]{M} D. Mumford, {\it Geometric Invariant
Theory}, Ergebn. Math., Bd. 34, Springer-Verlag,
Berlin, 1965.

\bibitem[Pe04]{Pe04} D. D. Pervouchine,
{\it Hierarchy of closures of matrix pencils}, J.
Lie Theory {\bf 14} (2004), 443--479.

\bibitem[Po81]{Po81} V. L. Popov, {\it Constructive
invariant theory}, Ast\'erisque {\bf 87}--{\bf 88}
(1981), 303--334.

\bibitem[R56]{R56}
M. Rosenlicht, {\it Some basic theorems on
algebraic groups}, Amer. J. Math. {\bf 78} (1956),
401--443.

\bibitem[R61]{R61}
M. Rosenlicht, {\it On quotient varieties and the
affine embedding of certain ho\-mo\-ge\-neous spaces},
Trans. Amer. Math. Soc. {\bf 101} (1961),
211--223.


\bibitem[See90]{S90} C. Seeley, {\it Degenerations of
$6$-dimensional nilpotent Lie algebras over
$\mathbb C$}, Comm. in Algebra {\bf 18} (1990),
3493--3505.

\bibitem[Spa82]{S82}  N. Spaltenstein, {\it Classes
Unipotentes et Sous-Groupes de Borel}, Lecture
Notes in Mathematics, Vol. 946, Springer-Verlag,
New York, 1982.

\bibitem[Spr98]{Spr98} T. A. Springer, {\it Linear
Algebraic Groups}, 2nd Edition, Progress in
Mathematics, Vol. 9, Birkh\"aser, Boston, 1998.



\bibitem[TY05]{TY05} {\rm P. Tauvel, R. W. T.
Yu}, {\it Lie Algebras and Algebraic Groups},
Springer Mono\-graphs in Mathematics, Springer,
Berlin, 2005.

\bibitem[W89]{W89}
J. Weyman, {\it The equations of conjugacy classes
of nilpotent matrices}, Invent. Math. {\bf 98}
(1989), 229--245.

\end{thebibliography}
\end{document}
