Docker Model Runner - Spring AI Demo

Prerequisitos

• Maven 3.8.5+
• Java 21
• Docker 28.4.0+
• Docker Model Runner 0.1.40
• Docker Compose 2.39.4
• Postman

Ejecución

1. Instalación previa de las herramientas necesarias.

2. Descarga del modelo ai/llama3.2:3B-Q4_0 en Docker Model Runner con el comando:

docker model pull ai/llama3.2:3B-Q4_0

3. Compilación del código en línea de comando. En la carpeta raíz del proyecto lanzar el siguiente comando:

mvn clean install

4. Generar la imagen con de la aplicación ejecutando el siguiente comando:

mvn spring-boot:build-image

5. Levantar el docker-compose con el siguiente comando situándose previamente en la carpeta /docker del proyecto:

docker-compose up

6. Ejecutar la petición Postman disponible en el la carpeta src/main/resources/postman del proyecto.

7. Parar la ejecución del docker-compose con Control+C en la terminal en la que se levantó. Posteriormente en esa misma terminal ejecutar el comando:

docker-compose down

8. Parar la ejecución del Docker Model Runner con el comando (revisar el nombre/id del contenedor a parar con el comando docker ps):

docker stop docker-model-runner