Durante mucho tiempo, ejecutar modelos de lenguaje avanzados parecía algo reservado para personas con hardware extremadamente potente.
Si querías probar un LLM moderno de código abierto, lo habitual era encontrarte con el mismo problema: necesitabas una GPU cara, muchísima VRAM y un ordenador preparado para cargas de IA bastante exigentes.
Sin embargo, eso está empezando a cambiar.
Plataformas como Kaggle están democratizando el acceso a la inteligencia artificial avanzada ofreciendo recursos cloud gratuitos que hace apenas unos años eran impensables para la mayoría de usuarios.
Y lo más interesante no es solo que puedas ejecutar modelos open source potentes sin una GPU local, sino que además puedes hacerlo de forma relativamente sencilla y desde prácticamente cualquier dispositivo.
La combinación entre Kaggle, Ollama y herramientas como ngrok está permitiendo crear algo parecido a un “servidor LLM personal” alojado en la nube de Google, pero accesible desde tu móvil, portátil o tablet como si estuviera funcionando en local.
El gran problema de los LLM modernos: la GPU
La fiebre actual por la inteligencia artificial ha provocado que ejecutar modelos avanzados deje de ser algo trivial. Incluso modelos relativamente pequeños, de entre 7B y 14B parámetros, pueden consumir cantidades enormes de memoria gráfica.
Ahí es donde muchos usuarios se quedan fuera.
Porque una cosa es usar ChatGPT desde el navegador y otra muy distinta intentar ejecutar modelos open source localmente. En cuanto empiezas a experimentar con herramientas como Ollama, descubres rápidamente que el hardware se convierte en una barrera importante.
Una GPU moderna con suficiente VRAM puede costar más que un ordenador completo, y aunque existen alternativas optimizadas, la experiencia suele degradarse muchísimo cuando dependes solo de CPU.
Por eso el enfoque que ofrece Kaggle resulta tan interesante.
¿Qué es Kaggle y por qué se ha convertido en una joya oculta para la IA?
Muchos conocen Google por servicios como Gmail, Android o YouTube. Pero dentro de su ecosistema existe una plataforma tremendamente potente para desarrolladores, investigadores y entusiastas de la IA: Kaggle.
Originalmente nació como una comunidad enfocada en ciencia de datos y machine learning, pero hoy se ha convertido en uno de los mejores lugares para experimentar con modelos de inteligencia artificial gratuitamente.
La clave está en sus notebooks.
Kaggle permite crear entornos cloud aislados basados en Jupyter Notebook donde puedes ejecutar código Python o R directamente sobre infraestructura de Google. Y lo realmente importante aquí es el acceso gratuito a aceleración por GPU.
Actualmente, Kaggle ofrece instancias gratuitas con GPUs NVIDIA T4 e incluso acceso a TPUs en determinados escenarios. Para quien viene del mundo local, esto supone una diferencia gigantesca.
Porque de repente puedes descargar y ejecutar modelos enormes desde Hugging Face sin depender del hardware de tu casa.
¿Por qué Kaggle es más interesante que Google Colab para ejecutar LLMs?
Muchos usuarios comparan automáticamente Kaggle con Google Colab, y aunque ambos servicios comparten filosofía, la experiencia práctica suele ser bastante distinta.
Colab funciona bien para tareas rápidas, pero sus límites dinámicos pueden resultar frustrantes. Las sesiones se cierran sin previo aviso, las cuotas cambian constantemente y Google ajusta los recursos según el uso global de la plataforma.
Kaggle, en cambio, ofrece algo que los usuarios avanzados valoran muchísimo más: previsibilidad.
La plataforma muestra claramente las horas GPU restantes y permite sesiones mucho más estables para cargas prolongadas. Actualmente puedes utilizar hasta 30 horas semanales de computación GPU gratuita, con sesiones individuales de hasta 12 horas seguidas.
Para pruebas con modelos open source, fine-tuning ligero o incluso entrenamiento experimental, es una diferencia enorme.
¿Cómo convertir Kaggle en un servidor LLM accesible desde cualquier dispositivo?
Aquí es donde la idea se vuelve realmente interesante.
Lo que propone este método no es simplemente ejecutar un modelo en la nube. La verdadera magia está en poder interactuar con él desde aplicaciones externas como si estuviera funcionando en tu propio ordenador.
Y eso se consigue gracias a una combinación bastante elegante:
- Kaggle ejecuta el modelo
- Ollama actúa como backend LLM
- ngrok expone el servidor mediante una URL pública
- Una app cliente se conecta remotamente al modelo
En la práctica, el procesamiento ocurre dentro de los servidores de Google, mientras tú interactúas con el modelo desde el móvil o el escritorio.
La sensación termina siendo sorprendentemente parecida a usar un LLM local… pero sin necesitar una GPU física en casa.
Ollama ha cambiado completamente la forma de ejecutar modelos open source
Hasta hace poco, probar modelos open source era un proceso bastante técnico. Dependencias, entornos virtuales, CUDA, drivers, compilaciones y configuraciones manuales hacían que mucha gente abandonara antes incluso de empezar.
Ollama simplificó radicalmente todo ese ecosistema.
Hoy puedes descargar modelos como:
- Llama
- Mistral
- Gemma
- DeepSeek
- Qwen
Usando comandos extremadamente simples, y eso ha hecho que muchísimas personas empiecen a experimentar con IA local o híbrida sin necesitar conocimientos profundos de machine learning.
Uno de los aspectos más polémicos: los modelos “abliterated”
Uno de los puntos más curiosos del artículo original es la mención a los llamados modelos “abliterated”.
Se trata de variantes modificadas matemáticamente para reducir o eliminar ciertos filtros de seguridad y rechazo de respuestas. En teoría, estos modelos intentan responder prácticamente cualquier prompt sin aplicar restricciones similares a las que utilizan ChatGPT, Gemini o Claude.
Esto explica por qué plataformas abiertas como Kaggle están resultando tan atractivas para determinados perfiles técnicos y experimentales.
Aunque evidentemente este tipo de modelos también abre debates importantes sobre seguridad, uso responsable y moderación en IA open source.
La experiencia real usando modelos LLM gratuitos en Kaggle
Lo más sorprendente de todo este sistema es que funciona bastante mejor de lo que muchos esperarían.
Las GPUs T4 que ofrece Kaggle son perfectamente capaces de mover modelos ligeros y medianos con velocidades bastante decentes. Modelos entre 3B y 7B parámetros funcionan con gran fluidez y permiten mantener conversaciones razonablemente rápidas incluso desde dispositivos móviles.
Además, como todo ocurre en centros de datos de Google, las velocidades de descarga son enormes. Descargar modelos desde Hugging Face puede tardar apenas unos minutos incluso cuando ocupan varios gigabytes.
Y ahí aparece otro detalle importante.
Este tipo de configuración elimina prácticamente por completo el consumo energético, ruido y temperatura asociados a ejecutar modelos localmente en casa.
Tu dispositivo cliente solo actúa como interfaz.
El futuro de la IA open source apunta claramente hacia modelos híbridos
Durante los próximos años probablemente veremos cada vez más sistemas híbridos como este.
Por un lado, modelos ejecutándose localmente para tareas privadas o ligeras. Por otro, recursos cloud gratuitos o semi-gratuitos ofreciendo potencia bajo demanda cuando el hardware local no sea suficiente.
Y honestamente, tiene muchísimo sentido.
Porque la mayoría de usuarios no necesita una GPU RTX 5090 funcionando 24 horas al día. Solo quieren experimentar con IA avanzada ocasionalmente sin gastar miles de euros en hardware.
Herramientas como Kaggle están demostrando que ese futuro ya es técnicamente viable.
Conclusión
Hace apenas dos años, ejecutar modelos open source avanzados requería conocimientos técnicos bastante profundos y hardware prohibitivo.
Hoy, gracias a plataformas como Kaggle, herramientas como Ollama y servicios de túneles como ngrok, prácticamente cualquier persona puede crear su propio entorno de IA en la nube gratuitamente.
Y lo más interesante es que esto probablemente es solo el principio.
La democratización real de la inteligencia artificial no llegará únicamente mediante asistentes comerciales cerrados, sino gracias a ecosistemas abiertos donde cualquiera pueda ejecutar, modificar y experimentar con modelos avanzados sin depender de hardware extremadamente caro.