Cómo montar un appliance de IA local con Ubuntu Core 26 en una máquina virtual

Canonical ha publicado un tutorial que sirve de aperitivo para quien quiera trastear con Ubuntu Core 26 antes de comprometerse con hardware dedicado. La idea es sencilla: levantar una máquina virtual, instalar un snap de inferencia y acabar con un appliance de IA que responde por una API compatible con OpenAI. Todo en local, sin nube de por medio y sin tocar ningún equipo físico hasta que tengas claro qué quieres montar.

Ubuntu Core es la versión de Ubuntu pensada para appliances, dispositivos edge, robótica y sistemas industriales. Es minimalista y totalmente basada en snaps, lo que cambia bastante la forma de trabajar respecto a un Ubuntu Server clásico. El tutorial usa esa naturaleza para mostrar el flujo completo, desde la prueba en VM hasta el camino que lleva a una imagen de producción.

Levantar la máquina y poner el modelo a funcionar

El punto de partida es Multipass, que descarga la imagen de Core 26 y arranca la VM con un único comando:

multipass launch core26 -n aibox --cpus 4 --memory 10GB --disk 16GB

Cuatro CPUs, 10 GB de memoria y 16 GB de disco. Una vez dentro, la carga de trabajo entra con otro snap:

sudo snap install gemma4

El snap gemma4 se encarga de instalar el runtime y la configuración del modelo que mejor encajan con la máquina anfitriona, así que no hay que pelearse con dependencias ni montar el entorno a mano. Puedes comprobar que el servicio está vivo con gemma4 status.

Por defecto la inferencia escucha solo en localhost dentro de la VM. Para abrirla al equipo anfitrión se ajustan dos opciones del snap:

sudo gemma4 set http.host=0.0.0.0 webui.http.host=0.0.0.0 --assume-yes

A partir de ahí tienes dos puntos de entrada. La API compatible con OpenAI queda en http://<IP-de-la-VM>:8336/v1, lo que te permite apuntar cualquier cliente que ya hable ese protocolo sin reescribir nada. Y la interfaz web, para probar a mano, en http://<IP-de-la-VM>:8337.

Por qué el modelo de appliance importa

Lo interesante no es solo que funcione, sino cómo está separado. El sistema base de Ubuntu Core queda aislado de la carga de la aplicación: el snap entrega la capa de IA, los servicios corren como componentes gestionados y la configuración se hace por opciones del snap, no editando archivos del sistema a mano. Esto reduce los puntos donde algo se puede romper y deja el sistema operativo siempre en un estado conocido.

Esa misma separación es lo que facilita el salto a producción. La instalación manual del snap es el flujo de desarrollo; cuando quieres llevar esto a hardware real, defines una imagen de Ubuntu Core a medida mediante model assertions. Una assertion describe qué snaps van incluidos, su configuración, los permisos y las políticas de actualización, de forma que el dispositivo arranca ya con todo montado y sin que nadie tenga que instalar nada a mano.

El resto del modelo encaja con esa filosofía: actualizaciones transaccionales, snaps de aplicación que se actualizan de forma independiente, rollback si algo sale mal y gestión centralizada de flotas con Landscape cuando tienes muchos equipos repartidos. Si vienes del mundo de los servidores tradicionales, este enfoque de “todo es un snap inmutable y reproducible” se nota sobre todo cuando hay que mantener cientos de dispositivos en sitios donde nadie va a entrar por SSH a arreglar cosas.

Para quien esté valorando IA en el edge, este tutorial es una forma barata de tocar el modelo de appliance sin comprar nada. Montas el VM, lo rompes, lo vuelves a montar y, cuando tengas claro el diseño, lo trasladas a una imagen de Core para el hardware que toque.

Fuente

Artículo original de Canonical en el blog de Ubuntu: A look into Ubuntu Core 26: Building a local AI inference appliance in a virtual machine. Publicado por Canonical.