\documentclass[12pt]{article}
\usepackage{amsfonts,pb-diagram%maple2e
}
\usepackage[latin1]{inputenc}
\usepackage[danish]{babel}
\usepackage{amsmath}
\parindent=0pt\parskip=\bigskipamount
\usepackage[colorlinks=true,urlcolor=blue,bookmarksopen=false,pdfpagemode=None]{hyperref}
\newcommand{\Q}{{\mathord{\mathbb Q}}}
\newcommand{\RR}{{\mathord{\mathbb R}}}
\newcommand{\CC}{{\mathord{\mathbb C}}}
\newcommand{\cA}{{\mathcal A}}
\newcommand{\cB}{{\mathcal B}}
\newcommand{\m}[1]{\underline{\underline{#1}}}
\renewcommand{\u}[1]{\underline{#1}}
\newcommand{\vm}[1]{{\underline{#1}}}
\newcommand{\iibii}[4]{\begin{bmatrix}#1&#2\\#3&#4\end{bmatrix}}
\newcommand{\iibiii}[6]{\begin{bmatrix}#1&#2&#3\\#4&#5&#6\end{bmatrix}}
\newcommand{\iibi}[2]{\begin{bmatrix}#1\\#2\end{bmatrix}}
\newcommand{\sT}{{\sf T}}
\newtheorem{theorem}{Sætning}[subsection]
\newtheorem{definition}{Definition}[subsection]
\newenvironment{Ntheorem}[1]{\noindent \textbf{Sætning
    #1.C}\slshape}{\upshape}
\newenvironment{Ndefinition}[1]{\noindent \textbf{Definition
    #1.C}\slshape}{\upshape}
\newenvironment{opgave}[1]{\noindent \textbf{Opgave #1}\slshape}{\upshape}
\newenvironment{eksempel}[1]{\noindent \textbf{Eksempel #1}}{\upshape}

\begin{document}
\begin{center}
\Huge
\underline{\href{http://isis.ku.dk/kurser/index.aspx?xslt=default&kursusid=27393
}{LinAlg
  2008}}\\ 
Note 7
\end{center}

\appendix
\addtocounter{section}{14}

\begin{abstract}\noindent 
 Første afsnit i disse noter erstatter Afsnit 7.3 i NVP, der bygger på
 NVP 4.7, som er sprunget over.
Afsnit N7.2 beskriver hvordan studiet af kvadratiske former fra NVP
Afsnit 7.5 kan benyttes til at studere lokale ekstrema for funktioner
af flere variable. Dette afsnit er for specielt interesserede og er
ikke pensum.
\end{abstract}
\addtocounter{subsection}{7}


\subsubsection{Ortogonalkomplement og ortogonalprojektion}

{\bf Dette er pensum og erstatter Afsnit 7.3 i NVP.}

\medskip
Lad $V$ være et Euklidisk vektorrum altså et vektorrum med skalarprodukt.
\begin{definition}For en delmængde $M\subseteq V$ sættes
$$
M^\perp=\{\u{x}\in V\ |\ \u{x}\cdot\u{y}=0\hbox{ for alle }\u{y}\in M\}
=\{\u{x}\in V\ |\ \u{x}\perp\u{y}\hbox{ for alle }\u{y}\in M\}.
$$
Det ses umiddelbart, at $M^\perp$ er et underrum i $V$, og at
$M^\perp=(\hbox{ span }M)^\perp$.
\end{definition}


Hvis $U$ er et underrum kaldes underrummet $U^\perp$ for det
{\it ortogonale komplement} til $U$.

Da den eneste vektor $\u{x}$, som opfylder, at $\u{x}\cdot\u{x}=0$, er 
nulvektoren $\u{x}=\u{0}$, har vi 
$$
U\cap U^\perp=\{\u{0}\}.
$$


\begin{theorem}\label{thm:ortogonalprojektion} 
Lad $V$ være et endeligdimensionalt Euklidisk
  vektorrum og lad $U$ være et underrum i $V$.
  Til $\u{a}\in V$  findes
   en entydigt bestemt vektor $\u{x}\in U$ for hvilken vektoren
  $\u{a}-\u{x}\in U^\perp$. Vektoren $\u{x}$ kaldes
  ortogonalprojektionen af $\u{a}$ på $U$. Hvis $\dim U=p>0$ og hvis
  $\u{a}_1,\ldots,\u{a}_p$ er en ortonormalbasis for underummet $U$ er
  ortogonalprojektionen $\u{x}$ af $\u{a}$ på $U$ givet ved 
  \begin{eqnarray}\label{eq:ortogonalprojektion}
    \u{x}=(\u{a}\cdot\u{a}_1)\u{a}_1+\ldots+(\u{a}\cdot\u{a}_p)\u{a}_p.
  \end{eqnarray}
\end{theorem}
{\it Bevis.} Hvis $U=\{\u{o}\}$ (altså $\dim U=0$) skal vi klart sætte
$\u{x}=\u{o}$ for alle $\u{a}\in V$. Antag derfor at $\dim U=p>0$.
Fra NVP Sætning~7.1.8 kan vi altid vælge en
ortonormalbasis $\u{a}_1,\ldots,\u{a}_p$ for $U$. Hvis $\u{x}\in U$ opfylder, 
at $\u{a}-\u{x}\in U^\perp$, så gælder der specielt, at 
$
(\u{a}-\u{x})\cdot\u{a}_j=0
$
for alle $j=1,\ldots,p$.
D.v.s.\ 
$$
\u{x}\cdot\u{a}_j=\u{a}\cdot\u{a}_j
$$
for alle $j=1,\ldots,p$. Vi konkluderer derfor fra NVP Sætning~7.1.6,
at (\ref{eq:ortogonalprojektion}) er rigtig. 
Altså er $\u{x}$ defineret ved (\ref{eq:ortogonalprojektion}) den
eneste vektor, der kan have den ønskede egenskab. 

Hvis vi på den anden side definerer $\u{x}$ ved 
(\ref{eq:ortogonalprojektion}), ser vi
umidelbart, at for $j=1,\ldots,p$ er
$
(\u{a}-\u{x})\cdot\u{a}_j=0
$
for alle $j=1,\ldots,p$.
Derfor er $\u{a}-\u{x}$ ortogonal på alle basisvekorerne i $U$ og
dermed på alle vektorer i $U$, da disse kan skrives som
linearkombinationer af basisvektorerne. Vi konkluderer, at 
$\u{a}-\u{x}\in U^\perp$. 
\hfill$\square$


Hvis $U$ er et underrum i et Euklidisk vektorrum $V$ af endelig
dimension, så ser man at afbildningen $P_U:V\to V$, som til en
vektor $\u{a}\in V$ knytter ortogonalprojektionen $\u{x}$ af
$\u{a}$ på $U$ er givet ved
$$
\u{x}=P_U(\u{a})=(\u{a}\cdot\u{a}_1)\u{a}_1+\ldots+(\u{a}\cdot\u{a}_p)\u{a}_p,\quad
\u{a}\in V,
$$
idet  $\u{a}_1,\ldots,\u{a}_p$ er en ortonormalbasis for underummet
$U$. Af denne formel ser man let, at $P_U$ er lineær. At f. eks.  L2 i NVP 4.2 er opfyldt, altså at 
$$
P_U(\u{a}+\u{b})=P_U(\u{a})+P_U(\u{b}),\quad \u{a},\u{b}\in V
$$
følger af regneregel S1 for skalarprodukter ved lidt vektorregning.

Dette kræver en ortonormal basis for $U$. Hvis derimod $U=\{\u{o}\}$
er $P_U$ lig med nulafbildningen: $P_U(\u{a})=\u{o}$ for alle
$\u{a}\in V$.

Afbildningen $P_U$ kaldes projektionsafbildningen på $U$.
Billedet og kernen for $P_U$ er givet ved
\begin{equation}\label{eq:kerim}
\hbox{ker }(P_U)=U^\perp,\qquad P_U(V)=U.
\end{equation} 
 
 Ovenstående sætning har følgende simple konsekvens, som bliver brugt
 i NVP side 125 i stedet for henvisningen til Sætning 7.3.2:
 
 \begin{theorem} Hvis $V$ er et endelig
 dimensionalt  Euklidisk vektorrum  og $M\subseteq V$ opfylder, at 
 $M^\perp=\{\u{o}\}$, da er span $M=V$.
\end{theorem} 
 {\it Bevis.} Lad $U=\hbox{ span }M$. Da er
 $U^\perp=M^\perp=\{\u{o}\}$. For $\u{a}\in V$ gælder ifølge Sætningen
 at
 $$
\u{a}-P_U(\u{a})\in U^\perp=\{\u{o}\}
$$ 
altså $\u{a}=P_U(\u{a})$. Der gælder altid $P_U(\u{a})\in U$, og vi
har dermed vist, at enhver vektor  i $V$ tilhører $U$, altså $U=V$.
\hfill$\square$



\begin{eksempel}{}
Vi ønsker at
bestemme projektionsafbildningen på underrummet $U$ af $\RR^3$ givet
ved 
$$
U=\hbox{ span }\left\{\left[\begin{array}{c}0\\-1\\1
\end{array}\right],\left[\begin{array}{c}1\\2\\0
\end{array}\right]
\right\}.
$$
For at kunne benytte Sætning~\ref{thm:ortogonalprojektion} skal vi
først finde en ortonormal basis for $U$. Det gør vi ved Gram-Schmidts
procedure. Vi får en ortogonal basis 
$$
\left[\begin{array}{c}0\\-1\\1
\end{array}\right],\
\left[\begin{array}{c}1\\2\\0
\end{array}\right]-\frac{\left[\begin{array}{c}1\\2\\0
\end{array}\right]\cdot\left[\begin{array}{c}0\\-1\\1
\end{array}\right]}{\left[\begin{array}{c}0\\-1\\1
\end{array}\right]\cdot\left[\begin{array}{c}0\\-1\\1
\end{array}\right]}\left[\begin{array}{c}0\\-1\\1
\end{array}\right]=\left[\begin{array}{c}1\\1\\1\end{array}\right]
$$
og dermed en ortonormal basis
$$
\frac{1}{\sqrt{2}}\left[\begin{array}{c}0\\-1\\1
\end{array}\right],\ 
\frac{1}{\sqrt{3}}\left[\begin{array}{c}1\\1\\1\end{array}\right].
$$
Vi finder derfor at 
\begin{eqnarray*}
P_U\left[\begin{array}{c}a_1\\a_2\\a_3\end{array}\right]
&=&\frac{1}{{2}}\left(\left[\begin{array}{c}a_1\\a_2\\a_3\end{array}\right]\cdot
\left[\begin{array}{c}0\\-1\\1
\end{array}\right]\right)\left[\begin{array}{c}0\\-1\\1
\end{array}\right]
+\frac{1}{3}\left(\left[\begin{array}{c}a_1\\a_2\\a_3\end{array}\right]\cdot
\left[\begin{array}{c}1\\1\\1\end{array}\right]\right)
\left[\begin{array}{c}1\\1\\1\end{array}\right]\\
&=&
\left[\begin{array}{ccc}\frac{1}{3}&\frac{1}{3}&\frac{1}{3}\\\\
\frac{1}{3}&\frac{5}{6}&\frac{-1}{6}\\\\
\frac{1}{3}&\frac{-1}{6}&\frac{5}{6}
\end{array}\right]\left[\begin{array}{c}a_1\\a_2\\a_3\end{array}\right],
\end{eqnarray*}
hvoraf vi også kan aflæse matricen for $P_U$ med hensyn til standard
basis i $\mathbb R^3$.
\end{eksempel}



\subsubsection{Kvadratiske former og den generaliserede 2.\ afledet-test for
  lokalt ekstremum}

{\bf Dette er ikke pensum og anføres for interesserede.}

\medskip
I NVP Afsnit 7.5 diskuteres kvadratiske former
$$
K_{\m{B}}(\u{x})=\u{x}\cdot(\m{B}\,\u{x})=\m{X}^t\m{B}\,\m{X},\quad \u{x}=\m{X}\in\RR^n.
$$
Eksplicit har vi, hvis indgangene i $\m{B}$ skrives $b_{ij}$,
$i,j=1,\ldots,n$ at
$$
K_{\m{B}}(\u{x})=\sum_{i=1}^n\sum_{j=1}^n b_{ij}x_ix_j
$$

Bemærk, at $K_{\m{B}}(\u{x})$ er et reelt tal og derfor definerer
$K_{\m{B}}$ en funktion $K_{\m{B}}:\RR^n\to\RR$. Funktionen
$K_{\m{B}}$ er klart kontinuert og endda uendelig mange gange
kontinuert differentiabel, da den er udtrykt ved de sædvanlige
regneoperationer. 

Det er en simpel udregning, at se, at
\begin{equation}\label{eq:nablaK}
  \nabla K_{\m{B}}(\u{x})=2\m{B}\,\u{x},
\end{equation}
idet $\nabla f$ for en funktion $f=f(\u{x})=f(x_1,\ldots,x_n)$ af $n$ reelle
variable betyder søjlen
$$
\nabla f(\u{x})=\left[\begin{array}{c}\frac{\partial f}{\partial
      x_1}\\\frac{\partial f}{\partial x_2}\\\vdots\\
\frac{\partial f}{\partial x_n}\end{array}\right].
$$ 



%
% \marginpar{\JPShusk: Tilføj, at (\ref{eq:nablaK}) kun gælder fordi 
% $\m{A}$ er symmetrisk ellers ville 
% $\nabla K_{\m{A}}(\u{x})=(\m{A}+\m{A}^*)\,\u{x}$.}
%

Vi kan gå et skridt videre og udregne Hessematricen for den
kvadratiske form
$$
HK_{\m{B}}(\u{x})=
\left[\begin{array}{ccc}\frac{\partial^2K_{\m{B}}}{\partial
      x_1\partial x_1}(\u{x})&\cdots&\frac{\partial^2K_{\m{B}}}{\partial
      x_1\partial x_n}(\u{x})\\
    \vdots&\ddots&\vdots\\
    \frac{\partial^2K_{\m{B}}}{\partial
      x_n\partial x_1}(\u{x})&\cdots&\frac{\partial^2K_{\m{B}}}{\partial
      x_n\partial x_n}(\u{x})\end{array}\right]=2\m{B}.
$$
Vi ser, at punktet $\u{x}=\u{0}$ er et stationært punkt for
$K_{\m{B}}$, 
da $\nabla K_{\m{B}}(\u{0})=\u{0}$. 

Vi vil nu undersøge om $K_{\m{B}}$ har et strengt minimum eller et strengt maksimum eller et
sadelpunkt i $\u{0}$.
Da $K_{\m{B}}(\u{0})=0$, ser vi, at $K_{\m{B}}$ har et strengt minimum
(strengt maksimum) i
$\u{0}$, hvis $K_{\m{B}}(\u{x})>0$ ($K_{\m{B}}(\u{x})<0$) for alle
$\u{x}\ne\u{0}$. 

Hvis vi benytter sprogbrugen i NVP Definition~7.5.2, ser vi, at 
\begin{itemize}
\item $K_{\m{B}}$ har et strengt lokalt minimum i $\u{0}$, netop hvis
  $K_{\m{B}}$ er positiv definit.
\item $K_{\m{B}}$ har et strengt lokalt maximum i $\u{0}$, netop hvis
  $K_{\m{B}}$ er negativ definit.
\item $K_{\m{B}}$ har et sadelpunkt i $\u{0}$, netop hvis
  $K_{\m{B}}$ er indefinit.
\end{itemize}
Det sidste punkt kræver lidt overvejelse. For at $\u{0}$ er et
sadelpunkt for $K_{\m{B}}$, skal $K_{\m{B}}$ antage både negative og
positive værdier vilkårlig tæt på $\u{0}$. På den anden side betyder
indefinit blot, at $K_{\m{B}}$ antager både negative og positive værdier et
eller andet sted. Det er dog ikke  svært, at se, at de to betingelser
er ækvivalente, da vi for alle $t\in\RR$ og $\u{x}\in\RR^n$ har 
$$
K_{\m{B}}(t\u{x})=t^2K_{\m{B}}(\u{x}).
$$
Derfor har $K_{\m{B}}(t\u{x})$ og $K_{\m{B}}(\u{x})$ samme fortegn
(hvis $t\ne0$). 
Ved at vælge $t$ tilpas lille kan man altid sikre sig, at $t\u{x}$ er vilkårlig tæt
på $\u{0}$.

Sætning~7.5.3 i NVP beskriver, hvordan man udfra kendskab til
egenværdierne for $\m{B}$ kan afgøre, hvorvidt $K_{\m{B}}$ er positiv
definit, negativ definit eller indefinit.
Dette giver derfor et kriterium for typen af ekstremumspunktet i
$\u{0}$.

For en generel funktion af flere variable får man ved at bruge
Sætning~7.5.3 i NVP
sammen med et approksimationsargument (som vi ikke vil give her)
følgende generalisation af den velkendte 2.\ afledet test (eller
$ABC$-test) for funktioner af to variable.
\begin{theorem}[2.\ afledet test]
Hvis $f:\RR^n\to \RR$ er en $C^2$-funktion og $\nabla f(\u{a})=\u{0}$,
da gælder
\begin{itemize}
\item $f$ har et lokalt minimum i $\u{a}$, hvis Hessematricen
  $Hf(\u{a})$ har udelukkende positive egenværdier.
\item $f$ har et  lokalt maximum i $\u{a}$,  hvis Hessematricen
  $Hf(\u{a})$ har udelukkende negative egenværdier.
\item $f$ har et sadelpunkt i $\u{a}$, hvis
  $Hf(\u{a})$ har både positive og negative egenværdier.
\end{itemize}
\end{theorem}
Bemærk, at Hessematricen altid er symmetrisk da rækkefølgen af de 2.\
ordens afledte er ligegyldig.

Det er måske ikke oplagt for læseren, at denne version af 2.\ afledet
testen virkelig generaliserer den velkendte test for to variable.
Det overlades til læseren, at overbevise sig om, at matricen 
$$
\begin{bmatrix}A&B\\B&C\end{bmatrix}
$$
har positive egenværdier, hvis determinanten er positiv og $A>0$, har
negative egenværdier, hvis determinanten er positiv og $A<0$ og at der
er både negative og positive egenværder, hvis determinanten er negativ.
(se også NVP Sætning~7.5.5).



\end{document}

