Teorema fundamental de la separación
Sea S un conjunto convexo cerrado no vacío en $ \ mathbb {R} ^ n $ y $ y \ notin S $. Entonces, existe un vector distinto de cero $ p $ y escalar $ \ beta $ tal que $ p ^ T y> \ beta $ y $ p ^ T x <\ beta $ para cada $ x \ en S $
Prueba
Dado que S es un conjunto convexo cerrado no vacío y $ y \ no en S $, por lo tanto, según el teorema del punto más cercano, existe un punto de minimización único $ \ hat {x} \ en S $ tal que
$ \ left (x- \ hat {x} \ right) ^ T \ left (y- \ hat {x} \ right) \ leq 0 \ forall x \ in S $
Sea $ p = \ left (y- \ hat {x} \ right) \ neq 0 $ y $ \ beta = \ hat {x} ^ T \ left (y- \ hat {x} \ right) = p ^ T \ hat {x} $.
Entonces $ \ left (x- \ hat {x} \ right) ^ T \ left (y- \ hat {x} \ right) \ leq 0 $
$ \ Rightarrow \ left (y- \ hat {x} \ right) ^ T \ left (x- \ hat {x} \ right) \ leq 0 $
$ \ Rightarrow \ left (y- \ hat {x} \ right) ^ Tx \ leq \ left (y- \ hat {x} \ right) ^ T \ hat {x} = \ hat {x} ^ T \ left (y- \ hat {x} \ right) $ i, e., $ p ^ Tx \ leq \ beta $
Además, $ p ^ Ty- \ beta = \ left (y- \ hat {x} \ right) ^ Ty- \ hat {x} ^ T \ left (y- \ hat {x} \ right) $
$ = \ left (y- \ hat {x} \ right) ^ T \ left (yx \ right) = \ left \ | y- \ hat {x} \ right \ | ^ {2}> 0 $
$ \ Flecha derecha p ^ Ty> \ beta $
Este teorema da como resultado la separación de hiperplanos. Los hiperplanos basados en el teorema anterior se pueden definir de la siguiente manera:
Sea $ S_1 $ y $ S_2 $ subconjuntos no vacíos de $ \ mathbb {R} $ y $ H = \ left \ {X: A ^ TX = b \ right \} $ un hiperplano.
Se dice que el hiperplano H separa $ S_1 $ y $ S_2 $ si $ A ^ TX \ leq b \ forall X \ in S_1 $ y $ A_TX \ geq b \ forall X \ in S_2 $
Se dice que el hiperplano H separa estrictamente $ S_1 $ y $ S_2 $ si $ A ^ TX <b \ forall X \ in S_1 $ y $ A_TX> b \ forall X \ in S_2 $
Se dice que el hiperplano H separa fuertemente $ S_1 $ y $ S_2 $ si $ A ^ TX \ leq b \ forall X \ in S_1 $ y $ A_TX \ geq b + \ varepsilon \ forall X \ in S_2 $, donde $ \ varepsilon $ es un escalar positivo.