English version

Matematyka Obliczeniowa II




semestr zimowy 2013-14

ćwiczenia/lab poniedziałek 1015-1145 sala 4050 zawieszony - samodzielnie ; wykład poniedziałek 1215-1345 sala 4050 (budynek wydziału Matematyki Informatyki i Mechaniki UW, Banacha 2 - wejście od ul. Pasteura)


Lektura - tylko wykład przeplatany ćwiczeniami - poki co pn 1215-1345 sala 4050 (na zyczenie uczestnikow) - Państwu liczy się normalnie jako wyk z ćwiczeniami ale odbywać się będą zajęcia raz w tygodniu. Najprostsza forma lektury to sam wykład przeplatany kilkoma ćwicz/labami(a ewent. zadania ze skryptu wykonacie Pańśtwo samodzielnie)


Uwaga

Egzamin ustny I termin w pokoju 5010 we wt. 28/01/2014 o 10 lub pn. 3/02/2014 o 10 (termin z planu sesji, ale INNY pokój) - jeśli nikogo nie będzie o 11 to kończę egzamin (na dany dzień).
Egzamin II termin - mam urlop naukowy - proszę zgłosić się dr Piotra Krzyżanowskiego.


Ocena na bazie egzaminu ustnego. Myślę, że na egzaminie każdy wybierze interesujący go fragment wykładu i omówi na egz. szczegółowo (+ oczywiście ogólna orientacja w tym co było na wykładzie)


Moje konsultacje i plan.


Link do programu labu


Kilka zadań ze stacjonarnych metod iteracyjnych zachęcam do ich zrobienia (nie jest to obligatoryjne, ale zadania nie są trudne i kłopoty z ich rozwiązaniem mogą świadczyć o niezrozumieniu tej części wykładu).


Egzamin I termin ustny

Są dwie opcje albo zwykły egzamin tzn. będę pytał ze wszystkiego, o czym mówiłem i druga, że Państwo wybierzecie jeden z listy tematów i na egzaminie omówicie BARDZO dokładnie ten temat, a poza tym mogę się spytać o inne zagadnienia, ale na poziomie b. ogólnym np. zapytam, jakie Pan/i zna metody gradientowe czy metody dla symetrycznego zadania własnego itp.


Egzamin II termin

Niestety mam urlop naukowy -zastąpi mnie dr Piotra Krzyżanowski, do którego proszę zgłosić się mailem:

P.Krzyzanowski@mimuw.edu.pl

lub osobiście – pokój 5010.


Lista tematów

  1. Metody iteracji prostych: warunek konieczny i dostateczny zbieżności, Jakobiego, Gaussa-Seidla, SOR i Richardsona.

  2. Metoda CG jako metoda Kryłowa (CG jako metoda bezpośrednia, wyprowadzenie wzorów na metodę i tw o zbieżności)

  3. Metoda GMRES jako metoda Kryłowa (GMRES jako metoda bezpośrednia, wyprowadzenie wzorów na metodę i tw o zbieżności)

  4. Prekonditionery (macierze ściskające): proste (jako kilka kroków met. iteracyjnej), ILU - idea, rodziny macierzy spektralnie równoważnych, wyprowadzenie PCG (ze wzorów na CG)

  5. Metoda iteracji prostych Banacha i metoda Newtona - wzory, implementacja i tw. o lokalnej zbieżności

  6. Metoda Newtona z modyfikacjami - uproszczona m. Newtona, m. Newtona z aproksymacją pochodnej ilorazami różnicowymi, przybliżona metoda Newtona

  7. Symetryczne zadanie własne: Metoda potęgowa, odwrotna potęgowa (ich zbieżność), metoda iteracji w podprzestrzeni i QR jako równoważne. QR z przesunięciami (shift) - Rayleigha i Wilkinsona, Tw. o zbieżności klasycznej QR (bez dowodu).

Może dodam jakiś temat - albo doprecyzuję ostatni (jak go wyłożę). W razie wątpliwości - macie omówić Państwo tylko to co zostało wyłożone na wykładzie. W skrypcie jest więcej informacji niż zostało/będzie wyłożone.


W praktycznych obliczeniach naukowych np. przy modelowaniu zjawisk fizycznych występujących przy prognozowaniu pogody, czy modelowaniu rynków finansowych, ocenianiu ryzyka ubezpieczeniowego itd prawie zawsze natkniemy się na problem rozwiązywania ogromnych układów równań algebraicznych, liniowych czy nieliniowych. Również w wielu praktycznych zagadnieniach trzeba znajdować wartości i wektory własne macierzy - często o wielkim wymiarze - oraz liczyć całki po obszarach wielowymiarowych. W zasadzie nigdy nie posiadamy wzorów analitycznych na rozwiązanie tychże zadań: układów równań, całek czy zadań własnych, tak więc trzeba rozwiązywać te zadania przy pomocy metod przybliżonych, prawie zawsze iteracyjnych.

Jeśli chcesz się dowiedzieć o rożnych przybliżonych metodach rozwiązywania powyższych zadań - ich własnościach - zaletach i wadach - ten wykład jest dla ciebie.

Postaramy się w przystępny sposób opisać dla dużych N :

  1. metody iteracyjne rozwiązywania układów równań liniowych w R^N

  2. metody iteracyjne rozwiązywania układów równań nieliniowych w R^N

  3. metody iteracyjne rozwiązywania numerycznego zadania własnego w R^N

  4. metody całkowania numerycznego po obszarach w R^N

N może być bardzo duże, nawet rzędu kilku czy kilkunastu tysięcy, milionów czy nawet miliardów.


Uwaga

- proszę się zarejestrować w USOSie - tylko wtedy mogą Państwo zdać egzamin


Zamiast części ćwiczeń tablicowych, będą laby komputerowe, których celem bedzie zobaczenie jak metody dzialaja na komputerze. Lab służy wyłącznie ilustracji - nie chodzi o to żeby Państwo nauczyli się programować ale żeby zobaczyć czy te metody działają i jakie mają własności, np. czy dana metoda zbiega zgodnie z oszacowaniami teoretycznymi, czy w pewnych sytuacjach metoda nie zadziała chociaż teoretycznie powinna działać albo zadziała choć teoretycznie nie wiadomo czy powinna działać itp.

Do zrozumienia wykładu wystarczy znajomość podstawowych pojęć z algebry liniowej i analizy matematycznej.

Wykład będzie oparty na ogólnie dostępnym skryptcie w html (lub pdf do wydrukowania). nie uda się zrealizować całego materiału ze skryptu.


Ocena będzie na bazie wyłącznie egzaminu ustnego


Skrypt

Piotr Krzyzanowski, Leszek Plaskota, Matematyka Obliczeniowa II, 2010.
Dostępny on-line: WWW page (na stronie jest link do wersji w pdf).


Plan wykładu

  1. Iteracyjne metody rozwiązywania algebraicznych układów równań-

  2. Numeryczny problem własny - metody znajdowania przybliżeń wartości i wektorów własnych rozdziały 2,3,4 w szczególności - sprowadzenie macierzy do macierzy podobnej w postaci Hessenberga poprzez odbicia Householdera (trójdiagonalnej jeśli macierz symetryczna), metoda potęgowa, odwrotna potęgowa, metoda równoczesnych iteracji i jej zwiazek z metoda QR, metoda QR "czysta" i z przesunięciami (przesunięcie Rayleigha i Wilkinsona) - idea zbieżności QR dla A=A^T; metoda dziel i rządź (divide and conquer) dla macierzy symetrycznej trójdiagonalnej (idea tylko); rozklad SVD - co to jest i do czego sie stosuje
    ta część wykladu nie bazowała szczegółowo na skrypcie ale poza met. dziel i rządź - skrypt zawiera wszystko co będzie na wykładzie oraz dużo więcej wiedzy na ten temat

  3. (tego nie zdażyliśmy zrobić) Całkowanie wielowymiarowe -- elementy rozdziałów 13, 14, 15 tzn. przekleństwa wymiaru dla wielowymiarowych całek (rozdz. 13) na przykładzie kwadratury wielowymiarowej prostokątów, metody Monte Carlo (MC) -definicja + tw. o zbieżności metody, wady i zalety (rozdz. 14), redukcja wariancji - idea metody warstw losowych i funkcji kontrolnej; idea metod Quasi Monte Carlo (QMC) - (rodz. 15)


Bibliografia

Podręczniki

  1. James W. Demmel, Applied Numerical Linear Algebra. Society for Industrial and Applied Mathematics (SIAM), Philadelphia 1997.

  2. Peter Deuflhard, Andreas Hohmann. Numerical analysis in modern scientific computing, wolu- men 43 serii Texts in Applied Mathematics. Springer-Verlag, New York, wydanie ii, 2003. An introduction. Ogólny podręcznik do analizy numerycznej - w szczególności zawiera opis metod bezpośrednich rozwiązywania układów równań liniowych, metody cg, metody Newtona i kilku metod dla zadania własnego.

  3. J.M. Jankowscy, M. Dryja. Przegląd metod i algorytmów numerycznych, tom I i II. Biblioteka inżynierii oprogramowania. Wydawnictwo Naukowo-Techniczne, Warszawa, 1995. Ogólny podręcznik do analizy numeryczne. Zawiera opis bardzo wielu algorytmów nas interesujących - niestety część bez analizy

  4. C. T. Kelley. Iterative methods for linear and nonlinear equations, wolumen 16 serii Frontiers in Applied Mathematics. Society for Industrial and Applied Mathematics (SIAM), Philadelphia, PA, 1995. Podręcznik zawierający opis zarówno metod iteracyjnych (w tym CG, PCG i GMRES) oraz wielowymiarowej metody Newtona

  5. A. Kiełbasiński, H. Schwetlick. Numeryczna algebra liniowa. Wydawnictwa Naukowo-Techniczne, 1992. Podręcznik zawiera opis tylko metod bezpośrednich rozwiązuwania równań liniowych jak również niektóre algorytmy rozwiązywania zadania własnego

  6. David Kincaid, Ward Cheney. Analiza numeryczna. Wydawnictwa Naukowo-Techniczne, Warszawa, 2006. Tłum. z ang.: S. Paszkowski. Ogólny podręcznik do analizy numeryczne.

  7. J. Stoer, R. Bulirsch. Wstęp do analizy numerycznej. Biblioteka matematyczna. PWN, Warszawa, 1995.

  8. Lloyd N. Trefethen, David Bau, III, Numerical linear algebra. Society for Industrial and Applied Mathematics (SIAM), Philadelphia, PA, 1997.

Monografie lub bardzo zaawansowane podręczniki

  1. John E. Dennis Jr., Robert B. Schnabel. Numerical methods for unconstrained optimization and nonlinear equations. Prentice-Hall Series in Computational Mathematics. Prentice-Hall Inc., En- glewood Cliffs, N.J., 1983.

  2. Peter Deuflhard. Newton methods for Nonlinear Problems. Affine Invariance and Adaptive Algori- thms. Springer International, 2002.

  3. Eugene G. Dyakonov. Optimization in solving elliptic problems. CRC Press, Boca Raton, FL, 1996. Translated from the 1989 Russian original, Translation edited and with a preface by Steve McCormick.

  4. Gene H. Golub, Charles F. Van Loan. Matrix computations. Johns Hopkins Studies in the Mathe- matical Sciences. Johns Hopkins University Press, Baltimore, MD, 3rd ed., 1996.

  5. J. M. Ortega, W. C. Rheinboldt. Iterative solutions of nonlinear equations in several variables. Academic Press, New York, 1970.

  6. Yousef Saad. Iterative methods for sparse linear systems. Society for Industrial and Applied Ma- thematics, Philadelphia, PA, wydanie ii, 2003. On-line

  7. Yousef Saad, Numerical Methods for Large Eigenvalue Problems. Society for Industrial and Applied Ma- thematics, Philadelphia, PA, wydanie ii, 2011. On-line

  8. A. A. Samarski, J. S. Nikołajew. Metody rozwiązywania równań siatkowych. PWN 1988. Bardzo dobry podręcznik zawiera opis i dokładną analizę metod iteracyjnych z zastosowaniem do rozwiązywania układów równań liniowych powstałych z dyskretyzacji RRcz za pomocą metody różnic skończonych.

  9. Barry F. Smith, Petter E. Bjorstad, William D. Gropp. Domain decomposition. Cambridge University Press, Cambridge, 1996. Parallel multilevel methods for elliptic partial differential equations.

  10. Andrea Toselli, Olof Widlund. Domain decomposition methods - algorithms and theory, vol. 34 in Springer Series in Computational Mathematics. Springer-Verlag, Berlin, 2005.

  11. J. F. Traub. Iterative Methods for the Solution of Equations. Englewood Cliffs, New York, 1964.


LAB

Cześć zajęć bedzie w labie
link do octave'a (można załadować zarówno wersje octave'a pod windows jak i linuxa)
octave-forge -rozszerzenie octave'a
Manual do octave'a w html

Program labu i skrypty octave'a