Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors

Enginyeria de LLMs

Descripció

Aquest curs ofereix una introducció completa als Models de Llenguatge de Gran Escala,  LLMs (Large Language Models), des de la base del Machine Learning fins a l’arquitectura de Transformers i l’atenció en IA (Intel·ligència Artificial) Generativa. Explorarem els fonaments dels models generatius i discriminatius, l’evolució des de les xarxes neuronals recurrents fins a les LLMs, i les tècniques avançades de prompt engineering. El curs està dissenyat per proporcionar una comprensió profunda i pràctica d’aquesta tecnologia emergent.

Objectius

Els objectius principals d’aquest seminari són:

  • Introduir els conceptes bàsics de Machine Learning i LLMs.
  • Explicar l’evolució i l’arquitectura dels models de Transformers.
  • Desenvolupar habilitats en prompt engineering avançat.
  • Practicar l’aplicació de LLMs en tasques específiques com el resum de diàlegs.
  • Explorar el fine-tuning i l’optimització de LLMs.

A qui va dirigit

Aquest curs està pensat per a una àmplia gamma de participants, incloent professorat, estudiants, professionals del sector tecnològic, i totes aquelles persones amb interès en l’aprenentatge automàtic i la intel·ligència artificial. No es requereixen coneixements previs específics, però una comprensió bàsica de Python i/o programació pot ser molt útil.

Metodologia

El curs combina teoria i pràctica, utilitzant casos reals i laboratoris per a una millor comprensió dels conceptes, facilitant l’aprenentatge i la participació activa dels assistents. La llengua vehicular serà el català.

Professorat

Eric Risco
Enginyer de Software a Andorra Telecom i professor d’Intel·ligència Artificial a KeepCoding. La seva experiència en el camp de la IA i els LLMs proporcionarà una visió valuosa i pràctica als participants.

Programa

  • Introducció a LLMs i Machine Learning.
  • Evolució des de les xarxes neuronals recurrents fins a les LLMs.
  • Arquitectura de Transformers i el paper “Attention is all you need”.
  • Tècniques de prompt engineering avançat.
  • Laboratori 1: Resum de diàlegs amb FLAN-T5.
  • Pre-training, problemes i desafiaments de
  • Fine-tuning i FLAN.
  • Mètodes d’avaluació de rendiment: Blue, Rouge.
  • Laboratori 2: Fine-tuning amb FLAN-T5 a Google Colab.
  • Optimització de LLMs: preentrenament, finetuning, PEFT, RLHF.
  • Laboratori 3: Integració de RLHF en LLMs.

Durada i calendari

El curs té una durada de 8 hores, que es desenvoluparan en un sol dia a la Universitat d’Andorra d’acord amb el calendari següent:

  • Dijous 21 de març del 2024 de 9.00 h a 13.00 h i de 14.00 h a 18.00 h

Certificació

Les persones que hagin assistit al 80% del seminari obtindran un Certificat d’assistència.

Grups reduïts

El nombre màxim d’estudiants és de 35, fet que permet que puguin gaudir d’una atenció personalitzada. En cas que hi hagi més de 35 preinscripcions el procés de selecció serà per ordre d’inscripció.

El curs s’anul·larà si no hi ha un mínim de 8 inscripcions.

Preinscripció i matrícula

Preinscripció: fins al 6 de març del 2024

Matrícula: fins al 13 de març del 2024

Preu: 130 euros. Aquest preu representa el 80% del cost de la matrícula, donat que Creand Fundació en finança el 20% restant. Els estudiants de formació reglada, el personal de la Universitat d’Andorra i els Alumni tenen un descompte en la matrícula del 92,5%.

Formulari de preinscripció

Més informació

Universitat d’Andorra
Plaça de la Germandat, núm. 7
AD600 Sant Julià de Lòria
Tel.: +376 743 000
seminaris@uda.ad

   Modalitat:

presencial

   Calendari:

21 de març de 2024

   Càrrega lectiva:

8 hores

   Idiomes:

català

Amb la col·laboració de: