Условие:
Найдите и изобразите в декартовой системе координат области выпуклости и вогнутости функции 
. Выпуклы ли построенные области?
Решение:
Множество V векторов (точек) линейного пространства Rn называется выпуклым, если оно содержит отрезок прямой, соединяющей две его любые точки, или, другими словами, из того, что aV и bV , следует, что х = (1- ) х а+ х bV , где 0 1.
Линейная комбинация:
векторов а1, а2... аm называется выпуклой, если i 0, i 1:m и