Taula de continguts
10 les relacions: Algorisme del gradient descendent, Anàlisi lèxica, Atenció, Funció softmax, Incrustació de mots, Màquina de Turing neural, Ordinador neural diferenciable, Perceptor, Transformador (model d'aprenentatge automàtic), Xarxa neuronal.
Algorisme del gradient descendent
Il·lustració del gradient descendent d'una funció: els punts apunten al cercle central que és el mínim de la funció Lalgorisme del gradient descendent és un mètode iteratiu d'optimització de primer ordre per a trobar el mínim d'una funció.
Veure Atenció (aprenentatge automàtic) і Algorisme del gradient descendent
Anàlisi lèxica
En informàtica l'anàlisi lèxica és el procés de convertir una seqüència de caràcters en una seqüència de tokens.
Veure Atenció (aprenentatge automàtic) і Anàlisi lèxica
Atenció
L'atenció o concentració és la selecció de determinats estímuls de l'exterior en el moment de la percepció, destinant més recursos cognitius a la seva elaboració.
Veure Atenció (aprenentatge automàtic) і Atenció
Funció softmax
Exemple de funció softmax. La funció softmax, també coneguda com softargmax o funció exponencial normalitzada, converteix un vector de nombres reals en una distribució de probabilitat de possibles resultats.
Veure Atenció (aprenentatge automàtic) і Funció softmax
Incrustació de mots
Model bossa de paraules (CBOW). En el processament del llenguatge natural (PNL), la incrustació de mots és un terme utilitzat per a la representació de paraules per a l'anàlisi de text, normalment en forma d'un vector de valor real que codifica el significat de la paraula de manera que les paraules que estan més a prop del vector s'espera que l'espai tingui un significat similar.
Veure Atenció (aprenentatge automàtic) і Incrustació de mots
Màquina de Turing neural
Esquema de blocs de la Màquina de Turing Neural Una màquina de Turing neural (amb acrònim anglès NTM) és un model de xarxa neuronal recurrent d'una màquina de Turing.
Veure Atenció (aprenentatge automàtic) і Màquina de Turing neural
Ordinador neural diferenciable
a paraules de 5 bits i un senyal d'interrupció d'1 bit. A dalt a la dreta: la sortida del model. En intel·ligència artificial, un ordinador neural diferenciable (amb acrònim anglès DNC) és una arquitectura de xarxa neuronal augmentada amb memòria (MANN), que normalment és (però no per definició) recurrent en la seva implementació.
Veure Atenció (aprenentatge automàtic) і Ordinador neural diferenciable
Perceptor
Arquitectura del model Transformador. Un perceptor és un transformador adaptat per poder processar dades no textuals, com ara imatges, sons i vídeos, i dades espacials.
Veure Atenció (aprenentatge automàtic) і Perceptor
Transformador (model d'aprenentatge automàtic)
Arquitectura del model transformador Un transformador és un model d'aprenentatge profund que adopta el mecanisme de l'autoatenció, ponderant de manera diferent la importància de cada part de les dades d'entrada.
Veure Atenció (aprenentatge automàtic) і Transformador (model d'aprenentatge automàtic)
Xarxa neuronal
xarxa neuronal artificial avançada Una xarxa neuronal és una xarxa o circuit de neurones, o en un sentit modern, una xarxa neuronal artificial, composta de neurones o nodes artificials.