На правах рукописи

Артемов Анатолий Анатольевич

КАНОНИЧЕСКИЕ И ГРАНИЧНЫЕ

ПРЕДСТАВЛЕНИЯ НА СФЕРЕ С

ДЕЙСТВИЕМ ОБОБЩЕННОЙ

ГРУППЫ ЛОРЕНЦА

01.01.01 – вещественный, комплексный

и функциональный анализ

Автореферат

диссертации на соискание учёной степени

доктора физико-математических наук

Москва – 2011 год

Работа выполнена на кафедре математического анализа Табовского государственного университета имени Г.Р. Державина

Научный консультант доктор физико-математических наук, профессор В. Ф. Молчанов

Официальные оппоненты доктор физико-математических наук, профессор Р.С. Исмагилов, профессор МГТУ им. Н.Э.Баумана доктор физико-математических наук, профессор В.– Б.К. Рогов, профессор МГУ ПС (МИИТ) доктор физико-математических наук, профессор С.С. Платонов, профессор Петрозаводского ГУ

Ведущая организация Московский государственный университет им. М. В. Ломоносова

Защита состоится 7 июня 2011 года в 16 час. 30 мин. на заседании Совета по защите докторских и кандидатских диссертаций Д 212.203.27 в Российском университете дружбы народов по адресу:

117198 г. Москва, ул. Орджоникидзе, 3, ауд. 495a.

С диссертацией можно ознакомиться в научной библиотеке Российского университета дружбы народов по адресу: 117198 г. Москва, ул. Миклухо-Маклая, 6.

Автореферат разослан " " 2011 года

Ученый секретарь Совета по защите докторских и кандидатских диссертаций кандидат физико-математических наук, доцент Л. Е. Россовский

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследования. Канонические представления на эрмитовых симметрических пространствах G/K были введены в работах Ф.А.Березина1 и А.М.Вершика, И.М.Гельфанда, М.И.Граева2 – для нужд квантования и квантовой теории поля. Эти представления действуют сдвигами в функциях на G/K и являются унитарными относительно некоторого нелокального скалярного произведения, теперь называемого формой Березина. Они являются деформациями квазирегулярного представления группы G, действующего сдвигами в пространстве L2 на G/K (ядро скалярного произведения в L2 есть дельта-функция, это – локальное скалярное произведение). Разложение квазирегулярного представления на однородном пространстве на неприводимые составляющие есть основная задача абстрактного (некоммутативного) гармонического анализа. Появление нелокального скалярного произведения делает теорию (некоммутативный гармонический анализ) значительно более богатой и интересной – как для самой математики, так и для ее приложений.

Изучение канонических представлений на эрмитовых симметрических пространствах G/K стало в последнее время привлекательной и популярной задачей для математиков из многих стран: Г.ван Дейк3, С.Хилле4 (Нидерланды), А.Унтерберже5, М.Певзнер6, А.Паcкуале7 (Франция), Т.Номура 8, Т.Кобаяси (ЯпоБерезин Ф. А. Квантование в комплексных симметрических пространствах // Изв. Акад. Наук СССР, сер. матем., 1975, том 39, № 2, 363–402.

2 Вершик А.М., Гельфанд И.М., Граев М.И. Представления группы SL(2, R), где R – кольцо функций // Успехи матем. наук, 1973, том 28, № 5, 83–128.

3 Dijk G. van. Canonical representations // Вестник Тамбовского университета.

Сер. естеств. и технич. науки, 1997, Т. 2, вып. 4, 350–366 и др.

4 Dijk G. van, Hille S. Canonical representations related to hyperbolic spaces // J. Funct. Anal., 1997, vol. 147, 109–139.

5 Unterberger A., Upmeier H. The Berezin transform and invariant differential operators // Comm. Math. Phys., 1994, vol 164, No. 3, 563–597.

6 Dijk G. van, Pevzner M. Berezin kernels of tube domains // J. Func. Anal., 2001, vol. 181, 189–208.

7 Dijk G. van, Pasquale A. Canonical representations of Sp(1, n) accociated with representations of Sp(1) // Commun. Math. Phys., 1999, vol. 202, 651–667 и др.

8 Nomura T. Berezin transforms and group representations // J. Lie Theory, 1998, vol. 8, 433–440 и др.

ния), Г.Чжанг9 (Швеция), Б.Орстед (Дания), Я.Петре10 (Финляндия), Дж.Арази (Израиль), Г.Упмайер5 (Германия), М.Энглис11 (Чехия), В.Ф.Молчанов12, Ю.А.Неретин13 (Россия) и другие.

Новый подход к этому понятию канонического представления предлагается В.Ф.Молчановым12,14. Основная идея состоит в расширении этого понятия и распространении его с класса эрмитовых симметрических пространств G/K, рассматривавшегося ранее, на другие классы симметрических полупростых пространств G/H, используя для этого понятия надгруппы.

При этом оказывается естественным отказаться от слишком стеснительного условия унитарности, нужно позволить каноническим представлениям действовать в достаточно широких пространствах функций и даже более того – в пространствах сечений линейных расслоений, в частности, в пространствах обобщенных функций. Эти пространства не обязательно гильбертовы (или банаховы). Более естественной для такой цели является структура ядерного пространства. Кроме того, естественным является расширение рамок для изучения гармонического анализа: теория должна включать действие группы G не только на ее однородных пространствах, но и на многообразиях с нетранзитивным действием группы G. В качестве таких многообразий мы берем флаговые пространства надгрупп G.

Этот подход состоит в следующем. Пусть G – полупростая группа Ли и G – надгруппа для G, это означает, что G есть подгруппа группы G и эта подгруппа – сферическая, т. е. выделяется из G некоторой инволюцией. Пусть P – максимальная параболическая подгруппа группы G, пусть R, C, – серия представлений группы G, индуциZhang G. Berezin transform on line bundles over bounded symmetric domains // J. Lie Theory, 2000, vol. 10, 111–126.

10 Peetre J. The Berezin transform and Ha-plitz operators // J. Operator Theory, 1990, vol. 24, 165–186.

11 Englis M. Invariant operators and the Berezin transform on Cartan domains // Math. Nachr., 1998, vol. 195, 61–75 и др.

12 Молчанов В.Ф. Канонические представления на двуполостных гиперболоидах // Записки научных семинаров ПОМИ, 2006, том 331, 91–124 и др.

13 Neretin Yu.A. Boundary values of holomorphic functions and spectra of some unitary representations // Вестник Тамбовского ун-та. Серия: Естеств. и техн.

науки, 1997, том 2, вып. 4, 386–397 и др.

14 Молчанов В.Ф., Артемов А.А., Грошева Л.И. Канонические и граничные представления // Вестник Тамбовского унив. Сер.: Естеств. и техн. науки, 2009, том 14, вып. 6, ч. 3, 1367–1425. и др.

рованных характерами (одномерными представлениями) подгруппы P. Представления R могут зависеть еще от некоторых дискретных параметров, сейчас мы их не пишем. Как правило, представления R неприводимы. Они действуют в функциях на некотором компактном многообразии (пространстве флагов для надгруппы G).

Обозначим через R ограничения представлений R на группу G:

Мы называем эти представления R каноническими представлениями группы G. Они действуют в функциях на.

Вообще говоря, многообразие не является однородным пространством группы G, эта группа имеет несколько орбит на. Открытые G-орбиты являются полупростыми симметрическими пространствами G/Hi. Подгруппы Hi получаются как пересечения Hi =G gi P gi, где gi – некоторые элементы из G. Эти подгруппы могут оказаться неизоморфными. Многообразие есть замыкание объединения открытых G-орбит.

Серия представлений R обладает сплетающим оператором A :

он сплетает представления со значениями параметра и =N, где N – некоторое число, зависящее от. Композиция этого оператора и инволюции, выделяющей группу G в G, порождает некоторый оператор Q, который играет важную роль во всей теории. Мы называем этот оператор Q преобразованием Березина. Он сплетает канонические представления с параметрами и.

Наряду с указанным понятием канонического представления можно рассматривать несколько другую его версию (более раннюю): ограничение канонических представлений в первом смысле на какую-нибудь одну G-орбиту G/H в. Оба варианта должны быть предметом изучения. Но первый из них приводит к более естественной и прозрачной теории. Например, в первом варианте легко написать оператор, обратный к преобразованию Березина Q, это – оператор Q, а во втором – это трудная задача.

Граничные представления, порождаемые каноническими представлениями R, связаны с границами G-орбит G/Hi, эти границы состоят из G-орбит меньшей размерности. Граничные представления распадаются на два типа: представления одного типа действуют в обобщенных функциях, сосредоточенных на объединении S границ, представления другого типа действуют в струях, трансверсальных к S (в коэффициентах рядов Тейлора по степеням "расстояния" до границы). Эти два типа двойственны друг другу. Появление граничных представлений связано как раз с широкой трактовкой понятия канонического представления. Граничные представления интересны как сами по себе (вообще, изучение представлений в обобщенных функциях, сосредоточенных на подмногообразиях, – одна из самых "горячих тем" и интригующих задач в некоммутативном гармоническом анализе), так и с точки зрения разложения канонических представлений, они "склеивают" представления на отдельных орбитах G/Hi.

Квантование в духе Березина на пара-эрмитовых симметрических пространствах G/H тесно связано с каноническими представлениями.15 Здесь роль переполненной системы играет ядро (функция) сплетающего оператора для представлений группы G максимально вырожденных серий. С одной стороны, преобразование Березина переводит контравариантные символы в ковариантные, с другой – его ядро (функция) дает умножение в алгебре ковариантных символов.

Основными задачами

развиваемой теории являются следующие:

a) разложить канонические представления на неприводимые составляющие (тот факт, что канонические представления не обязательно унитарны, вносит особые трудности в эту задачу и предъявляет особые требования к построению теории);

б) найти дискретные составляющие канонических представлений, эквивалентные частям граничных представлений;

в) разложить граничные представления (решение этой задачи тесно связано с мероморфной структурой преобразований Пуассона и Фурье, ассоциированных с каноническими представлениями);

г) разложить преобразование Березина (основной объект в теории квантования) по операторам Лапласа;

д) найти асимптотику преобразования Березина, когда комплексный параметр, нумерующий канонические представления, стремится к бесконечности, это включает в себя отыскание принципа соответствия из теории квантования по Березину, заметим, что указанный параметр тесно связан с "постоянной Планка", таким образом, в теFujita E., Nomura T. Spectral decompositions of Berezin transformations on Cn related to the natural U (n)-action // J. Math. Kyoto Univ., 1996, vol. 36, 877–888.

орию включается постоянная Планка, принимающая комплексные значения;

Однородные пространства G/H, для которых ставятся сформулированные задачи, это – симметрические полупростые пространства. Такие пространства образуют обширный и крайне важный класс (как для математики, так и для приложений – в космологии, квантовой теории, теории относительности и т. д.) однородных пространств.

Подкласс римановых симметрических пространств (здесь инвариантная метрика положительно определена) более прост в изучении. При переходе от римановых пространств к другому подклассу – псевдоримановых симметрических пространств (здесь инвариантная метрика не является знакоопределенной) трудности в изучении гармонического анализа резко возрастают.

Среди всех симметрических полупростых пространств G/H (как римановых, так и псевдо-римановых) выделяется подкласс симплектических симметрических пространств. Именно на пространствах этого класса должно строиться квантование в смысле Березина.

Помимо симплектических симметрических пространств чрезвычайно важный класс образуют гиперболические пространства – вещественные (гиперболоиды), комплексные, кватернионные и октавное:

SO0 (p, q)/SO0 (p, q1), SU(p, q)/S(U(p, q1) U(1)), Sp(p, q)/Sp(p, q1) Sp(1), F4,20 /Spin(9).

Именно вещественные гиперболоиды служат открытыми Gорбитами на многообразии в нашей работе.

Цель исследования. Данная работа посвящена решению важных задач некоммутативного гармонического анализа, а именно, развитию теории канонических представлений на многообразиях. В работе изучаются канонические и граничные представления на сфере с действием обобщенной группы Лоренца для двух вариантов надгруппы, следуя расширенному трактованию, см. выше. В этом случае сфера не является однородным пространством, дейcтвие группы не транзитивно, представления не унитарны.

Основной результат работы состоит в разложении канонических и граничных представлений на сфере для обоих вариантов по неприводимым представлениям, связанным с конусом, включающий формулу обращения и формулу разложения формы Березина. В работе содержится и ряд других результатов, связанных со сферическими функциями, "смешанными" сферическими функциями, сплетающими операторами, преобразованиями Фурье и Пуассона, мероморфной структурой этих преобразований, асимптотикой преобразований Пуассона, связанных с каноническими представлениями, асимптотикой преобразования Березина, гармоническим анализом на паре гиперболоидов, вычислением "собственных чисел" преобразования Березина и др.

Методы исследования. Мы используем как достаточно традиционные современные методы математических разделов, связанных с поставленными задачами (аппарат теории представлений групп, ограничение на максимальную компактную подгруппу, разложение в ряды Фурье, связь различных базисов в изучаемых пространствах, действие некоторых операторов Ли, спектральные разложения для оператора Лежандра на различных интервалах, инструментарий спецфункций,...), так и новые идеи, конструкции и методы (понятие канонического представления в широком смысле (не обязательно унитарного) для симметрических пространств и для G-пространств, в том числе связанного с линейным расслоением, разложение канонических представлений на неприводимые представления, сферические функции на псевдо-римановых симметрических пространствах, сплетающие операторы, композиция преобразования Березина с другими преобразованиями, вычисление "собственных чисел" преобразования Березина, метод аналитического продолжения по размерности пространства, граничные представления, связь мероморфной структуры преобразований Пуассона и Фурье с разложением граничных представлений, граничные операторы, использование полного асимптотического разложения преобразования Пуассона, изучение представлений в обобщенных функциях, сосредоточенных на подмногообразиях, новая форма разложения преобразования Березина по операторам Лапласа и др.) Научная новизна. Сформулируем основные результаты работы, вперые полученные автором и выносимые на защиту.

Как уже было сказано выше, основной результат работы состоит в разложении канонических представлений группы G = SO0 (1, n1) на сфере для обоих вариантов (A) и (B) по неприводимым представлениям T, C, группы G, связанным с конусом, – результат под номером 1 в списке, следующем ниже. Этот результат получен с помощью некоторых конструкций, методов и вычислений, составляющих результаты с номерами 2–15. Многие из них представляют и самостоятельный интерес.

1. Разложение канонических представлений R,, C, =0, 1, обобщенной группы Лоренца G=SO0 (1, n1) на неприводимые составляющие – с действием группы G на единичной сфере в пространстве Rn, порожденным надгруппой G, для двух вариантов надгруппы: (A) G=SL(n, R), (B) G=SO0 (1, n).

2. Разложение граничных представлений, порожденных каноническими представлениями, группы G для обоих вариантов (A) и (B).

3. Определение (интегральное выражение) операторов, сплетающих канонические представления и представления T, связанные с конусом (преобразования Пуассона P,, и преобразования Фурье F,, ).

4. Исследование мероморфной структуры преобразований Пуассона и Фурье как функций от параметра представлений, связанных с конусом, при фиксированных значениях параметров, канонических представлений (нахождение полюсов, вычетов и т. д.).

5. Описание операторов, сплетающих граничные представления и представления, связанные с конусом ("граничных" операторов,k и b,m ), они появляются как вычеты преобразований Пуассона и Фурье.

6. Вычисление композиций преобразований Пуассона и Фурье и преобразования Березина (оператора, сплетающего канонические представления). Это – вычисление своего рода "собственных чисел" преобразования Березина (в случае (A) – это матрица второго порядка).

7. Вычисление композиций преобразования Березина и граничных операторов.

8. Описание частей граничных представлений, входящих в разложение канонических представлений: построение операторов, сплетающих канонические представления и неприводимые составляющие граничных представлений (операторы,,m и,,m ), описание их свойств (соотношения проектирования, соотношения ортогональности).

9. Нахождение асимптотики преобразования Пуассона на границе. Здесь получено разложение в ряд по степеням "расстояния до границы" преобразования Пуассона от K-финитных функций, а также асимптотическое разложение для произвольных, не обязательно K-финитных, функций.

10. Разложение форм Березина на гиперболоидах и парах гиперболоидов. В частности, это дает другое, независимое, вычисление "собственных чисел" преобразования Березина.

11. Явная формула для полного асимптотического разложения преобразования Березина в терминах оператора Лапласа–Бельтрами на однополостном гиперболоиде при. Первые два члена асимптотики дают аналог принципа соответствия из квантования.

12. Определение и вычисление в явном виде "смешанных" сферических функций. С их помощью делается разложение формы Березина на паре гиперболоидов.

13. Построение гармонического анализа на паре гиперболоидов.

14. Разложение функции Березина для пары гиперболоидов по смешанным сферическим функциям. Это делается на основе спектрального разложения оператора Лежандра на мнимой оси и с помощью аналитического продолжения по размерности пространства.

15. Явное выражение друг через друга различных базисов в пространстве обобщенных функций, сосредоточенных на границе.

Теоретическая и практическая значимость. Диссертация носит теоретический характер. Ее результаты могут найти применение в других областях функционального анализа и теоретической физике, а также в учебном процессе: при постановке спецкурсов, выполнении курсовых, дипломных работ и других диссертационных исследований. Идеи, конструкции, методы и вычисления, содержащиеся в диссертации, представляют самостоятельный интерес. Они могут быть использованы при изучении канонических и граничных представлений и связанных с ними вопросов на других многообразиях, а также применены при квантовании по Березину в достаточно более общей ситуации.

Апробация работы. Основные положения диссертации были представлены в докладах на следующих международных и общероссийских научных конгрессах и конференциях:

– Ежегодная общероссийская научная конференция "Державинские чтения", 1994–2011, Тамбов;

– Международная конференция "Современные физикоматематические и информационные методы в естествознании, технике и гуманитарных науках", 2010, Тамбов;

– Международная конференция "Некоммутативный гармонический анализ, теория представлений групп и квантование", 2009, Тамбов;

– Международная конференция "Колмогоровские чтения. Общие проблемы управления и их приложения", 2009, Тамбов;

– Международная конференция "Гармонический анализ на однородных пространствах и квантование", 2008, Тамбов;

– Международная конференция "Harmonic Analysis on Homogeneous Spaces and Quantization", 2008, Тамбара, Япония;

– Международная конференция "Современная математика и математическое образование, проблемы истории и философии математики", 2008, Тамбов;

– Международная конференция "Harmonic Analysis on Homogeneous Spaces and Quantization", 2008, Фукуока, Япония;

– Международная научная конференция "Гармонический анализ на однородных пространствах и квантование", 2007, Тамбов;

– Международный Конгресс Математиков (ICM), 2006, Мадрид, Испания;

– Международная конференция "Гармонический анализ на однородных пространствах, представления групп Ли и квантование", 2005, Тамбов;

– Международная научно практическая конференция "Фундаментальные и прикладные исследования в системе образования", 2003, Тамбов;

– Европейский Математический Конгресс (ECM), 2000, Барселона, Испания;

– Летняя Школа "Алгебры Ивахори-Хекке и теория представлений", 1999, Martina-Franca, Италия;

– Европейская Школа по теории групп, 1998, Лейден, Нидерланды;

– Международная Школа-семинар "Гармонический анализ на однородных пространствах", 1996, Тамбов;

– Европейская Школа по теории групп, 1996, Beilngries, Германия;

– Международная конференция "Группы в анализе и геометрии", 1995, Омск;

– Конференция "Классическая и квантовая геометрия однородных пространств", 1994, Москва;

– Летняя Школа "Гармонический анализ и геометрия", 1994, Тучно, Польша;

– Европейская Школа по теории групп, 1993, Тренто, Италия;

а также на следующих научных семинарах:

– Науный семинар по функциональному анализу профессора В.Ф.Молчанова (ТГУ им. Г.Р.Державина, Тамбов);

– Научный семинар по теории представлений групп профессора Д.П.Желобенко (РУДН, Москва);

– Научный семинар по общим проблемам управления и гармоническому анализу профессора В.М.Тихомирова (МГУ им.

М.В.Ломоносова, Москва);

– Научный семинар по теории функций и функциональному анализу под руководством чл.-корр. РАН, профессора В.Д.Степанова (РУДН, Москва).

Публикации. Основные pезультаты диссертации опубликованы в 20 pаботах, список которых приведен в конце реферата. В их числе 12 работ из действующего Перечня ВАК, 2 монографии, 6 материалов международных конференций, включая тезисы Международного Конгресса Математиков (ICM), 2006, Мадрид, и Европейского Математического Конгресса (ECM), 2000, Барселона.

Из совместных работ [10, 12, 15] в диссертации использованы только результаты автора.

Структура и объем диссертации. Диссертация состоит из введения и 35 параграфов, объединенных в семь глав:

Глава I. Представления обобщенной группы Лоренца, связанные с конусом Глава II. Гармонический анализ на однополостном гиперболоиде Глава III. Гармонический анализ на пространстве Лобачевского Глава IV. Форма Березина на гиперболоидах с надгруппой SL(n, R) Глава V. Максимально выpожденные сеpии пpедставлений гpуппы SL(n, R) Глава VI. Канонические и граничные представления на сфере с надгруппой SL(n, R) Глава VII. Канонические и граничные представления на сфере с надгруппой SO0 (1, n) Нумеpация фоpмул и теоpем (лемм) в pаботе единая. Пеpвый символ означает номер паpагpафа, втоpой – номеp фоpмулы или теоремы.

Список литературы, включенной в диссертацию, содержит 61 наименование.

Полный объем диссертации (с оглавлением) 170 страниц, набранных в TEX-е 12 шрифтом.

Благодарности. Автор выражает глубокую благодарность профессору В.Ф.Молчанову за внимание к работе, заинтересованное и плодотворное обсуждение по существу исследования.

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Мы проводим изложенную выше программу для обобщенной группы Лоренца (псевдоортогональной группы) G = SO0 (1, n1), действующей на единичной сфере в пространстве Rn. Мы рассматриваем два варианта действия группы G на сфере. Они связаны с двумя вариантами надгруппы G.

Мы будем считать, что группы действуют в пространствах и на многообразиях справа: x xg, в соответствии с этим мы будем записывать векторы в виде строк.

Группа G – это связная группа линейных преобразований пространства Rn, сохраняющих билинейную форму Ее орбиты в Rn – это однополостные гиперболоиды [x, x]=c, c>0, полы двуполостных гиперболоидов [x, x]=c, c 2k + 1 n/2 преобраm) зования Фурье F, являются "обратными" отображениями к,m с точностью до оператора A, а именно, имеют место следующие соотношения Эти формулы показывают, что отображения F,, определенные первоначально как отображения k () D (S), на самом деле являются отображениями k () D(S).

Преобразования P, появляются также при взаимодействии оператора,m и преобразования Березина. Имеют место следующие формулы множители K,m и L,m даются формулами:

Разложение гpаничных пpедставлений. Для общего положения гpаничные пpедставления L и M диагонализуются с помощью операторов,k и b,k.

Пусть V,k – обpаз опеpатоpа,k. Это пpостpанство содеpжится в k (). Если +(n4)/2 N, то представления T, стоящие на диагонали в L, попарно неэквивалентны. Следовательно, () pазлагается в пpямую сумму пpостpанств V,k, kN, инваpиантных относительно L, и огpаничение пpедставления L на пpостpанство V,k эквивалентно пpедставлению T2n+2k.

Пусть (n+4)/2 N. Тогда гpаничные опеpатоpы b,k опpеделены для всех k N. Обозначим чеpез отобpажение, котоpое каждой последовательности c[f ] сопоставляет последовательность b = (b,0, b,1,...) согласно фоpмуле (8) – без f. Это отобpажение задается нижней тpеугольной матpицей с единичной диагональю.

Оказывается, что M есть диагональная матpица с диагональю Tn, Tn2, Tn4,....

Для исключительных значений разложение пpедставлений L и M значительно более сложно, там появляются жордановы клетки.

Разложение канонических представлений по представлениям, связанным с конусом, состоит из двух формул разложения:

первая формула (формула обращения) восстанавливает функцию f D () по ее компонентам Фурье F,, f, вторая формула ("формула Планшереля") разлагает форму Березина B, (f, h) по инвариантным эрмитовым формам для представлений T. Формула обращения использует преобразования Пуассона P,,.

Для прозрачности изложения мы ограничиваемся тем, что формулы разложения пишем для общего положения, а именно, для из вертикальных полос ширины 2:

Для "центральной" полосы I0 формула обращения получается из объединения формул обращения для квазирегулярных представлений UY + и UX группы G на гиперболоидах X и Y +. Напомним, что представление UY + разлагается по непрерывной серии с кратностью 1 (это – классический результат, середина XX века, см. например,16 ).

Представление UX разлагается по непрерывной серии с кратностью 2 и расширенной дискретной серии с кратностью 1, см.20.

Формула обращения для R, есть где суммирование происходит по целым r > (2n)/2 таким, что r+1 (mod2). Преобразования Пуассона и Фурье с тильдой получаются из преобразований Пуассона и Фурье, определенных выше, делением на ((+1+)/2). Множитель () (см. (1)), r дается следующей формулой:

r =23 2n (1)(r+1)/ Форма Березина B, (f, h) для I0 раскладывается следующим образом где, {, +}.

Таким образом, для I0 мы имеем следующую теорему.

Теорема 0.1 Для I0 каноническое представление R, разлагается в прямой интеграл представлений непрерывной серии с кратностью 2 и представлений расширенной дискретной серии с кратностью 1. А именно, сопоставим функции f D () совокупность 20 Молчанов В.Ф. Гармонический анализ на однополостном гиперболоиде // Докл. АН СССР, 1966, том 171, № 4, 794–797.

ее компонент Фурье F,, f, =(2n)/2+i; F,,r f, (2n)/2 (2 n)/2, r + 1, Для этих разложений функций Березина по сферическим функциям мы применяем спектральные разложения для оператора Лежандра где C, на следующих интервалах: интервал (1, ), вещественная ось R и мнимая ось iR. Для R и || < 1/2 мы используем теорему Титчмарша-Кодаиры (вариант), см., например,22. Заметим, что для R ситуация несколько отличается от ситуации, для которой сформулирована эта теорема (у нас оператор имеет особые точки внутри интервала, на котором он определен, это точки ±1), доказательство теоремы проходит – с некоторыми естественными изменениями. Затем мы продолжаем разложение аналитически по в точку = (n3)/4.

Разложения форм Березина, полученные для области (16), можно было бы пытаться продолжить аналитически из этой области направо отдельно для каждого гиперболоида и пары гиперболоидов. Однако, более естественно делать это, как мы и сделали выше, в рамках разложения канонических представлений на сфере, причем в более общей ситуации, а не только для функций с компактным носителем из + или.

Разложение формы Березина на паре гиперболоидов позволяет построить своего рода гармонический анализ на паре гиперболоидов X, Y +. Это – разложение полуторалинейной формы Am (f, h), где f D(X ), h D(Y + ), ядро которой есть дельта-функция [x, y] или ее производные (m) [x, y] от билинейной формы [x, y] (здесь (t) – дельта-функция Дирака, x X, y Y + ).

Асимптотика преобразования Березина. Ядро E, (x, y) порождает оператор B, в L (X, dx) с этим ядром, назовем его преДанфорд Н., Шварц Дж. Т. Линейные операторы. Спектральная теория. М.:

Мир, 1966.