PROGRESO GPT
Generative Pre-trained Transformer
GPT-1
Datos: 7 mil libros Corpus
Tamaño: 5GB
Parámetros: 117 mil
Tokens: 512
GPT-2
Datos: Webtext, (8 millones de Doctos.)
Tamaño: 40GB
Parámetros: 1.5 mil millones
Tokens: 1024
GPT-3
Datos: Webtext, libros, wikipedia
Tamaño: 600GB
Parámetros: 175 mil millones
Tokens: 2048
GPT-3.5 (Chat)
Datos: Supervisados, reforzados.
Tamaño: 600GB
Parámetros: 175 mil millones.
GPT-4 (Pronto)
Multimodal (Texto, imagen, vídeo).