Minimalizacja i maksymalizacja odgrywają istotną rolę w wielu gałęziach nauki i życia codziennego. Problem minimalizacji możemy spotkać już na poziomie atomowym, np. znajdując optymalna geometrię cząsteczki minimalizujemy jej energię potencjalną rozumianą jako funkcję położenia atomów. Istnieje wiele zaawansowanych algorytmów minimalizacji (maksymalizacji). Standardowe metody prowadzą nas do wyznaczenia ekstremum lokalnego funkcji opisującej dane zjawisko.