Command Palette

Search for a command to run...

Metode Linear AI

Proyeksi Ortogonal

Teorema Eksistensi dan Keunikan

Pertanyaan penting yang muncul adalah apakah pendekatan terbaik itu benar-benar ada dan apakah solusinya unik? Jawabannya adalah ya. Misalkan VV adalah ruang vektor euklidean dan S⊂VS \subset V adalah subruang vektor berdimensi hingga. Maka untuk setiap f∈Vf \in V terdapat pendekatan terbaik g∈Sg \in S yang tunggal dengan

∥f−g∥=min⁡φ∈S∥f−φ∥\|f - g\| = \min_{\varphi \in S} \|f - \varphi\|

Teorema ini memberikan jaminan bahwa pendekatan terbaik selalu ada dan bersifat unik. Seperti mencari titik terdekat dari sebuah lokasi ke jalan raya, selalu ada satu titik yang memberikan jarak terpendek.

Misalkan nn adalah dimensi dari SS dan ψ1,…,ψn\psi_1, \ldots, \psi_n adalah basis dari SS. Dengan menggunakan proses Gram-Schmidt, kita dapat menghitung basis ortonormal φ1,…,φn\varphi_1, \ldots, \varphi_n dari SS dengan ⟨φi,φk⟩=δik\langle \varphi_i, \varphi_k \rangle = \delta_{ik}.

Setiap g∈Sg \in S memiliki representasi tunggal sebagai g=∑i=1nαiφig = \sum_{i=1}^n \alpha_i \varphi_i. Kemudian berlaku

∥f−g∥2=⟨f−g,f−g⟩=⟨f−∑i=1nαiφi,f−∑k=1nαkφk⟩\|f - g\|^2 = \langle f - g, f - g \rangle = \left\langle f - \sum_{i=1}^n \alpha_i \varphi_i, f - \sum_{k=1}^n \alpha_k \varphi_k \right\rangle
=⟨f,f⟩−2∑i=1nαi⟨f,φi⟩+∑i,k=1nαiαk⟨φi,φk⟩= \langle f, f \rangle - 2 \sum_{i=1}^n \alpha_i \langle f, \varphi_i \rangle + \sum_{i,k=1}^n \alpha_i \alpha_k \langle \varphi_i, \varphi_k \rangle
=∥f∥2−2∑i=1nαi⟨f,φi⟩+∑i=1nαi2= \|f\|^2 - 2 \sum_{i=1}^n \alpha_i \langle f, \varphi_i \rangle + \sum_{i=1}^n \alpha_i^2

Dengan menggunakan identitas (αi−⟨f,φi⟩)2=αi2−2αi⟨f,φi⟩+⟨f,φi⟩2(\alpha_i - \langle f, \varphi_i \rangle)^2 = \alpha_i^2 - 2\alpha_i \langle f, \varphi_i \rangle + \langle f, \varphi_i \rangle^2, kita peroleh

∥f−g∥2=∥f∥2−∑i=1n⟨f,φi⟩2+∑i=1n(αi−⟨f,φi⟩)2\|f - g\|^2 = \|f\|^2 - \sum_{i=1}^n \langle f, \varphi_i \rangle^2 + \sum_{i=1}^n (\alpha_i - \langle f, \varphi_i \rangle)^2

Fungsi g∈Sg \in S adalah pendekatan terbaik dari ff jika dan hanya jika αi=⟨f,φi⟩\alpha_i = \langle f, \varphi_i \rangle untuk i=1,…,ni = 1, \ldots, n.

Formula Basis Ortonormal

Untuk basis ortonormal φ1,…,φn\varphi_1, \ldots, \varphi_n dari SS, pendekatan terbaik diberikan oleh

g=∑i=1n⟨f,φi⟩φig = \sum_{i=1}^n \langle f, \varphi_i \rangle \varphi_i

Pendekatan terbaik memenuhi rumus jarak

∥f−g∥=(∥f∥2−∑i=1n⟨f,φi⟩2)12\|f - g\| = \left( \|f\|^2 - \sum_{i=1}^n \langle f, \varphi_i \rangle^2 \right)^{\frac{1}{2}}

Pendekatan terbaik gg dari ff dalam SS adalah proyeksi ortogonal dari ff pada SS. Hal ini berarti

⟨f−g,φ⟩=0 untuk semua φ∈S\langle f - g, \varphi \rangle = 0 \text{ untuk semua } \varphi \in S

Secara geometris, vektor dari gg ke ff tegak lurus terhadap subruang SS. Bayangkan seperti menjatuhkan bola dari udara ke lantai, titik jatuhnya adalah proyeksi ortogonal bola tersebut pada lantai.

Konstruksi dengan Basis Sembarang

Ketika basis ortonormal dari SS tidak diketahui, kita dapat menggunakan basis sembarang ψ1,…,ψn\psi_1, \ldots, \psi_n dari SS. Misalkan g=∑i=1nαiψig = \sum_{i=1}^n \alpha_i \psi_i adalah representasi unik dari gg terhadap basis ini.

Karena ψk∈S\psi_k \in S, maka kondisi ortogonalitas memberikan

⟨f−∑i=1nαiψi,ψk⟩=0,k=1,…,n\left\langle f - \sum_{i=1}^n \alpha_i \psi_i, \psi_k \right\rangle = 0, \quad k = 1, \ldots, n

Ini menghasilkan sistem persamaan linear

∑i=1nαi⟨ψi,ψk⟩=⟨f,ψk⟩,k=1,…,n\sum_{i=1}^n \alpha_i \langle \psi_i, \psi_k \rangle = \langle f, \psi_k \rangle, \quad k = 1, \ldots, n

Matriks koefisien A=(⟨ψi,ψk⟩)i=1,…,n,k=1,…,nA = (\langle \psi_i, \psi_k \rangle)_{i=1,\ldots,n,k=1,\ldots,n} disebut matriks Gram dari basis ψ1,…,ψn\psi_1, \ldots, \psi_n. Matriks ini bersifat simetris dan positif definit. Untuk α≠0\alpha \neq 0 berlaku

αTAα=∑i,k=1n⟨ψi,ψk⟩αiαk=∥∑i=1nαiψi∥2>0\alpha^T A \alpha = \sum_{i,k=1}^n \langle \psi_i, \psi_k \rangle \alpha_i \alpha_k = \left\| \sum_{i=1}^n \alpha_i \psi_i \right\|^2 > 0

Namun, matriks AA dapat menjadi sangat buruk kondisinya dalam praktik. Sebagai contoh, untuk basis monomial 1,x,…,xn1, x, \ldots, x^n, matriks menjadi sangat tidak stabil sehingga perhitungan gg menjadi sulit dilakukan untuk nn yang besar.

Pendekatan Gauss dengan basis ortonormal dari SS memiliki keunggulan karena kemudahan perhitungan pendekatan terbaik

g(x)=∑k=1n⟨f,φk⟩φk(x)g(x) = \sum_{k=1}^n \langle f, \varphi_k \rangle \varphi_k(x)
=∑k=1n∫abf(t)φk(t) dt φk(x)= \sum_{k=1}^n \int_a^b f(t) \varphi_k(t) \, dt \, \varphi_k(x)

tanpa perlu menyelesaikan sistem persamaan linear. Dengan basis ortonormal, kita dapat langsung menghitung koefisien proyeksi seperti menggunakan sistem koordinat yang sudah tersusun rapi dan saling tegak lurus.

Sebelumnya

Perkiraan Terbaik dalam Fungsi dan Ruang Polinomial

Selanjutnya

Polinomial Ortogonal