| Título variante: |
Computing Acceleration in AI |
| Título variante: |
Aceleración de la Computación en IA |
| Fecha: |
2025-26 |
| Resumen: |
Aquesta assignatura té com a objectiu analitzar les metodologies i plataformes que permeten l'acceleració de la computació de la IA. Aquesta acceleració està associada a diferents factors com són: (1) el tipus d'operacions que s'executen (multiplicacions vector-matriu i matriu-matriu amb acumulació, i funcions de transferència complexes); (2) la gestió de les dades (tant pel que fa als requeriments de memòria com d'entrada sortida); (3) els requeriments dels sistemes on ha d'anar incrustada la IA (condicions de temps real, limitació de consum d'energia, etc. ) Pel que fa a l'àmbit d'aquesta acceleració, tot i que s'accelera tant la fase d'aprenentatge com la d'inferència i donat que l'aprenentatge es realitza en servidors al núvol, ens centrarem majoritàriament en plataformes amb recursos limitats (respecte dels servidors) com ara plataformes mòbils o encastades (també conegudes com a perifèria). 1 S'analitzaran les diferents plataformes computacionals de propòsit general (CPU, GPU, FPGA) i específic (DPU/TPU/NPU, processadors ML i NN, chips biònics, neuromòrfics, etc. ) juntament amb les metodologies de desplegament. Tot això en l'àmbit de l'internet dels objectes (IoT) composat per sistemes que inclouen els dispositius (devices), la perifèria (edge) i el núvol (cloud). |
| Resumen: |
This course aims to analyze the methodologies and platforms that allow the acceleration of AI computing. This acceleration is associated with different factors such as: (1) the type of operations that are executed (vector-matrix and matrix-matrix multiplication with accumulation, and complex transfer functions); (2) data management (both in terms of memory and input-output requirements); (3) the requirements of the systems where AI must be embedded (real-time conditions, limitation of energy consumption, etc. ) As for the scope of this acceleration, although both the learning and inference phases are accelerated, and since learning is carried out on servers in the cloud, we will focus mostly on platforms with limited resources (compared to servers) such as mobile or embedded platforms (also known as edge). The different general purpose (CPU, GPU, FPGA) and specific (DPU/TPU/NPU, ML and NN processors, bionic, neuromorphic, etc. ) computational platforms will be analyzed along with the deployment methodologies. All this in the field of the Internet of Things (IoT) made up of systems that include devices, the edge and the 1 All this in the field of the Internet of Things (IoT) made up of systems that include devices, the edge and the cloud. |
| Resumen: |
Esta asignatura tiene como objetivo analizar las metodologías y plataformas que permiten la aceleración de la computación de la IA. Dicha aceleración está asociada a diferentes factores como son: (1) el tipo de operaciones que se ejecutan (multiplicaciones vector-matriz y matriz-matriz con acumulación, y funciones de transferencia complejas); (2) la gestión de los datos (tanto en cuanto a los requerimientos de memoria como de entrada salida); (3) los requerimientos de los sistemas donde debe ir incrustada la IA (condiciones de tiempo real, limitación de consumo de energía, etc. ) En cuanto al ámbito de esta aceleración, aunque se acelera tanto la fase de aprendizaje como la de inferencia y dado que el aprendizaje se realiza en servidores en la nube, nos centraremos mayoritariamente en plataformas con recursos limitados (respecto de los servidores) como plataformas móviles o empotradas (también llamadas periferia). Se analizarán las diferentes plataformas computacionales de propósito general (CPU, GPU, FPGA) y 1 Se analizarán las diferentes plataformas computacionales de propósito general (CPU, GPU, FPGA) y específico (DPU/TPU/NPU, procesadores ML y NN, chips biónicos, neuromórficos, etc. ) junto con las metodologías de despliegue. Todo ello en el ámbito del internet de los objetos (IoT) compuesto por sistemas que incluyen los dispositivos (devices), la periferia (edge) y la nube (cloud). |
| Derechos: |
Aquest document està subjecte a una llicència d'ús Creative Commons. Es permet la reproducció total o parcial, la distribució, la comunicació pública de l'obra i la creació d'obres derivades, fins i tot amb finalitats comercials, sempre i quan es reconegui l'autoria de l'obra original.  |
| Lengua: |
Català, anglès, castellà |
| Titulación: |
Grau en Intel·ligència Artificial [2504392] |
| Plan de estudios: |
Intel·ligència Artificial [1497] |
| Documento: |
Objecte d'aprenentatge |
visitante ::
identificación
