Unisteffo

Machine learning

Analisi multivariata

Spazio vettoriale

Insieme di elementi che tra loro possono essere:

  • sommati:
  • scalati:
Rappresenta una generalizzazione dei concetti euclidei di piano (2D) e spazio (3D).

Sottospazio vettoriale

Sottoinsieme di uno spazio vettoriale le cui somma e scala sono chiuse nel sottoinsieme stesso.

Un classico sottospazio è una riduzione di dimensioni di uno spazio, come uno spazio 3D che diventa un piano 2D.

L'intersezione tra due sottospazi vettoriali è essa stessa un sottospazio vettoriale.

Varietà affine in

Sottospazio vettoriale generato da e traslato di :

È l'astrazione di una retta euclidea in uno spazio vettoriale reale e multidimensionale.

Infatti, al variare di , il vettore sposta avanti e indietro in quella direzione, disegnando una retta.

Derivata direzionale unilaterale

Limite del rapporto incrementale nella direzione per uno spazio multidimensionale:

è il punto fermo su cui viene effettuato il limite, mentre è il vettore direzionale che viene scalato sempre più "in piccolo".

Il suo opposto è:

Derivata direzionale bilaterale

Se esistono entrambe le derivate direzionali unilaterali opposte per un dato punto e una data direzione, allora si ha una derivata direzionale bilaterale:

-esima derivata parziale

Derivata direzionale bilaterale nella direzione dell'-esimo vettore della base canonica :

Ovvero la pendenza lungo uno degli assi.

Gradiente

Vettore contenenti tutte le derivate parziali di una funzione rispetto a ogni elemento della base canonica:

Se il gradiente esiste, allora la funzione è differenziabile in .

Se il gradiente è continuo, allora la funzione è regolare in .

Hessiana

Migliorare la definizione.

Matrice quadrata che applica alla derivata parziale un'altra derivata parziale:

Dà informazioni sulla curvatura.

L'astrazione multidimensionale della derivata seconda.

Iacobiana

In una funzione che restituisce vettori, è una matrice quadrata costituita dal gradiente nei confronti di ogni elemento del vettore restituito:

Calcolo dell'inclinazione

Usando le proprietà della moltiplicazione matriciale, la direzione che ci interessa e il gradiente , possiamo trovare in modo semplice tutte le derivate direzionali, l'inclinazione della funzione:

Calcolo della curvatura

Come per l'inclinazione, sfruttando la direzione che ci interessa e l'Hessiana , possiamo trovare in modo semplice tutte le derivate seconde, la curvatura della funzione:

Curva di livello

Insieme di tutti i punti di una funzione multidimensionale con lo stesso "valore", ovvero tali che:

Direzione di massima crescita e descrescita

Funzione obiettivo lineare

basically come trovare il gradiente di una funzione lineare

Funzione obiettivo quadratica

ovvero come trovare il gradiente di una funzione quadratica

Funzione obiettivo polinomiale

guess what goes here

Funzione di Taylor multidimensionale

utile per effettuare approssimazioni di funzioni troppo costose computazionalmente da calcolare

Analisi convessa

Insieme convesso

Sottospazio tale che:

Funzione convessa

Una funzione multidimensionale con un minimo unico.

Si dice strettamente convessa se c'è un punto solo di minimo.

Funzione concava

Una funzione multidimensionale con un massimo unico.

Funzione quasi-convessa

Funzione pseudo-convessa

Proprietà delle funzioni convesse

Proprietà delle funzioni convesse

Proprietà delle funzioni quadratiche