Ориентация, в классическом случае — выбор одного класса систем координат, связанных между собой «положительно» в некотором определенном смысле. Каждая система задает ориентацию, определяя класс, к которому она принадлежит.

В элементарной математике, ориентация часто описывается через понятие «направления по и против часовой стрелки».

Ориентация определяется только для некоторых специальных классов пространств (многообразий, векторных расслоений, комплексов Пуанкаре и т. д.). Современный взгляд на ориентацию дается в рамках обобщенных теорий когомологий.

Конечно-мерное векторное пространство

В случае векторного пространства конечной размерности над полем вещественных чисел две системы координат считаются связанными положительно, если положителен определитель матрицы перехода от одной из них к другой.

Для общего поля определение ориентации прeдтавляет трудности. Например в комплексном пространстве комплексный репер e₁,e₂,...,e_n определяет действительный репер e₁,e₂,...,e_n,ie₁,ie₂,...,ie_n в том же пространстве, рассматриваемом как , и все такие реперы связаны попарно положительными переходами (иначе говоря комплексная структура задает ориентацию в ).

Аффинное пространство

На прямой, плоскости и вообще в вещественном аффинном пространстве A системы координат состоят из точки (начала O) и репера {e_i}, переход определяется вектором переноса начала и заменой репера. Этот переход положителен, если положителен определитель матрицы замены (например, при чётной перестановке векторов репера).

Две системы координат определяют одну и ту же ориентацию, если одну из них можно перевести в другую непрерывно, т. е. существует непрерывно зависящее от параметра семейство координатных систем O(t), {e_i(t)}, связывающее данные системы O, {e_i} и O', {e'_i}.

При отражении в гиперплоскости системы двух классов переходят друг в друга.

Ориентация может быть задана порядком вершин n-мерного симплекса (треугольника в двумерном случае, тетраэдра в трёхмерном), Репер определяется условием: в первую вершину помещается начало, в остальные из первой направляются векторы репера. Два порядка задают одну ориентацию, если и только если они отличаются на чётную перестановку. Симплекс с фиксированным с точностью до чётной перестановки порядком вершин называется ориентированным. Каждая (n − 1)-грань ориентированного симплекса получает индуцированную ориентацию: если первая вершина не принадлежит гране, то порядок остальных принимается для неё за положительный.

Многообразия

В связном многообразии M системой координат служит атлас — набор карт, покрывающих M. Атлас называется ориентирующим, если координатные преобразования все положительны. Это означает, что их степени равны + 1, а в случае дифференцируемого многообразия положительны якобианы преобразования во всех точках. Если ориентирующий атлас существует, то многообразие M называется ориентируемым. В этом случае все ориентирующие атласы распадаются на два класса, так что переход от карт одного атласа к картам другого положителен, если и только если атласы принадлежат одному классу. Выбор такого класса называется ориентацией многообразия. Этот выбор может быть сделан указанием одной карты или локальной ориентации в точке. В случае дифференцируемого многообразия локальную ориентацию можно задать указанием репера в касательной плоскости в точке. Если M имеет край и ориентировано, то край также ориентируем, например по правилу: в точке края берется репер, ориентирующий M, первый вектор которого направлен из M, а остальные векторы лежат в касательной плоскости края, эти последние и принимаются за ориентирующий репер края.

Дезориентирующий контур

Дезориентирующий контур — замкнутая кривая в многообразии, обладающая тем свойством, что при её обходе локальная ориентация меняет знак.

Дезориентирующий контур имеется только в неориентируемом многообразии M, причём однозначно определён гомоморфизм фундаментальной группы π₁(M) на с ядром, состоящим из классов петель, не являющихся дезориентирующими.

Вдоль любого пути можно выбрать цепочку карт так, что две соседние карты связаны положительно. Тем самым ориентация в точке q(0) определяет орентацию в точке q(1), и эта связь зависит от пути q лишь с точностью до его непрерывной деформации при фиксированных концах. Если q — петля, т. е. q(0) = q(1) = x₀, то q называется дезориентирующим контуром, если эти ориентации противоположны. Возникает гомоморфизм фундаментальной группы π₁(M,x₀) в группу порядка 2: дезориентирующие петли переходят в - 1, а остальные в + 1. По этому гомоморфизму строится накрытие, являющееся двулистным в случае неориентируемого многообразия. Оно называется ориентирующим (т. к. накрывающее пространство будет ориентируемым). Этот же гомоморфизм определяет над M одномерное расслоение, тривиальное, если и только если M ориентируемо. Для дифференцируемого M оно может быть определено как расслоение Ωⁿ(M) дифференциальных форм порядка . Ненулевое сечение в нём существует лишь в ориентируемом случае и задает форму объёма на M и одновременно ориентацию.

На языке гомологий

Ориентация может быть определена на гомологическом языке: для связного ориентируемого многообразия без края гомологии группа (с замкнутыми носителями) изоморфна , и выбор одной из двух образующих задает ориентацию — отбираются карты с положительными степенями отображений. Для связного многообразия с краем то же верно и для . В первом случае ориентируемость есть гомотопический инвариант M, а во втором — пары . Так, лист Мёбиуса и кольцо имеют один и тот же абсолютный гомотопический тип, но разный — относительно края.

Локальная ориентация многообразия может быть также задана выбором образующей в группе , изоморфной Гомологическая интерпретация ориентации позволяет перенести это понятие на обобщенные гомологические многообразия.

Псевдомногоооразия

Триангулированное многообразие M (или псевдомногообразие) ориентируемо, если можно ориентировать все n-мерные симплексы так, что два симплекса с общей (n − 1)-мерной гранью индуцируют на ней противоположные ориентации. Замкнутая цепочка n-мерных симплексов, каждые два соседа в которой имеют общую (n − 1)-грань, называется дезориентирующей, если эти симплексы могут быть ориентированы так, что первый и последний симплексы индуцируют на общей грани совпадающие ориентации, а остальные соседи — противоположные.

Расслоения

Пусть над пространством B задано расслоение со стандартным слоем F. Если ориентацию всех слоев можно выбрать так, что любое (собственное) отображение, определенное путем в B однозначно с точностью до собственной гомотопии, сохраняет ориентацию, то расслоение называется ориентированным, а указанный выбор ориентации слоёв — ориентацией расслоения. Например, лист Мёбиуса, рассматриваемый как векторное расслоение над окружностью, не обладает ориентацией, в то время как боковая поверхность цилиндра — обладает.

Бесконечно-мерные пространства

Понятие ориентации допускает естественное обобщение и для случая бесконечномерного многообразия, моделированного при помощи бесконечномерного банахова или топологического векторного пространства. При этом необходимы ограничения на линейные операторы, являющиеся дифференциалами функций перехода от карты к карте: они должны не просто принадлежать общей линейной группе всех изоморфизмов моделирующего пространства, которая гомотопически тривиальна (в равномерной топологии) для большинства классических векторных пространств, а содержаться в некоторой линейно несвязной подгруппе общей линейной группы. Тогда компонента связности данной подгруппы и будет задавать «знак» ориентации. В качестве такой подгруппы обычно выбирается фредгольмова группа, состоящая из тех изоморфизмов моделирующего пространства, для которых разность с тождественным изоморфизмом есть вполне непрерывный оператор.