
3118. Modelos locales de IA
Descripción del Episodio
Hoy vemos qué son los modelos locales gratuitos de IA, cómo instalarlos en nuestro ordenador, y qué podemos esperar de ellos.
Pero antes, recordemos que en Boluda.com tenéis cursos para emprendedores, marketing online, desarrollo web, y todo lo que necesitáis para vuestro negocio online. Estamos en pleno curso de Codex para todo en el que estamos aprendiendo a conectar Codex con aplicaciones, servicios y plataformas reales para consultar información, crear contenido, ejecutar acciones y automatizar flujos de trabajo mediante lenguaje natural. ¡A por él!
Ahora sí, vamos al lío. Cada vez más personas se preguntan si es posible usar inteligencia artificial en local, sin depender de OpenAI, Anthropic o cualquier otro proveedor externo. La respuesta corta es sí. Se puede. Pero la respuesta larga es bastante más interesante, porque aunque tiene ventajas evidentes, también implica ciertas limitaciones que conviene conocer antes de lanzarse a ello.
Cuando hablamos de IA local no nos referimos simplemente a descargar ChatGPT en nuestro ordenador y olvidarnos de las cuotas mensuales. La realidad es que necesitamos varias piezas trabajando juntas. Por un lado está el modelo, que sería el cerebro. Por otro, el runtime, que actúa como sistema nervioso y permite que ese cerebro funcione. Y finalmente tenemos el agente, que es el encargado de interactuar con nosotros, acceder a archivos, ejecutar tareas o trabajar con código.
Entre los modelos locales más conocidos encontramos Gemma, Llama, Qwen, Mistral, DeepSeek, GLM o Kimi. Todos ellos pueden descargarse y ejecutarse localmente, ya sea en nuestro ordenador o en un servidor propio. Para gestionarlos suele utilizarse un runtime como Ollama, que se ha convertido en una de las opciones más populares por su sencillez y compatibilidad.
El flujo habitual es bastante simple. Yo hablo con un agente como OpenCode. Este agente se comunica con el runtime, por ejemplo Ollama, y este a su vez consulta el modelo que tenga instalado. Es una arquitectura diferente a la que usamos cuando trabajamos con ChatGPT, Claude o Gemini, donde toda esa infraestructura ya viene preparada por el proveedor.
Ahora bien, el gran punto a tener en cuenta es el hardware. Los modelos pequeños pueden funcionar en equipos relativamente normales, pero a medida que aumentamos el tamaño y la capacidad del modelo, también crecen las necesidades de memoria y potencia gráfica. Los modelos más avanzados pueden requerir cantidades importantes de RAM y GPUs potentes para ofrecer una experiencia fluida. De lo contrario, las respuestas pueden tardar bastante en llegar.
A cambio obtenemos ventajas muy interesantes. La primera es la privacidad, ya que los datos no salen de nuestra máquina. También ganamos control total sobre el modelo, la configuración y la infraestructura. Además, podemos trabajar incluso sin conexión a Internet y evitamos depender de APIs externas o de cambios en las políticas de terceros. Y, por supuesto, no pagamos por tokens, ya que toda la computación se realiza con nuestros propios recursos.
Sin embargo, no todo son ventajas. Necesitamos instalar, configurar y mantener todo el entorno. También debemos asumir el coste del hardware o de un servidor suficientemente potente. Y aunque los modelos locales han mejorado muchísimo durante los últimos meses, los modelos más pequeños todavía suelen estar por detrás de los grandes modelos comerciales cuando hablamos de programación compleja o tareas especialmente exigentes.
Por eso considero que la IA local tiene mucho sentido para quienes valoran especialmente la privacidad, quieren experimentar, aprender cómo funciona toda la infraestructura o ya disponen de equipos potentes. También puede encajar muy bien en automatizaciones sencillas o proyectos donde la velocidad no sea crítica. En cambio, si buscáis la máxima calidad posible, la mayor comodidad y respuestas inmediatas, probablemente seguiréis obteniendo mejores resultados utilizando servicios como ChatGPT, Claude o Codex.
Si queréis empezar a trastear hoy mismo, una combinación muy razonable es utilizar Ollama como runtime, Gemma o Qwen en una versión pequeña como modelo y OpenCode como agente. Es una forma sencilla de entender cómo funciona todo este ecosistema y de comprobar por vosotros mismos hasta dónde ha llegado la inteligencia artificial local.
Mi sensación es que estamos en un momento muy interesante. Los modelos locales mejoran cada mes, requieren menos recursos que antes y se acercan progresivamente al rendimiento de los grandes modelos comerciales. Quizás todavía no son la opción ideal para todo el mundo, pero sí representan una alternativa cada vez más viable.
Y si esta tendencia continúa, no me extrañaría que dentro de unos años trabajar con IA local fuera algo tan habitual como instalar cualquier otra aplicación en nuestro ordenador. :)
Como siempre, muchas gracias a todos por vuestras valoraciones de cinco estrellas en Apple Podcasts y Spotify, suscribiros a los cursos para emprendedores y por estar ahí, al otro lado. Como siempre digo, sin vosotros, esto no sería lo que es. Sin vosotros esto simplemente, no sería.
Nos escuchamos mañana con más marketing online. Como siempre, a las 07:07. Hasta entonces… ¡Muy buenos días!
Episodios Recientes

Más podcasts de Sociedad y Cultura
Ver toda la categoría →
En Buen Pedo
By shows
<p>El podcast más fuera de contexto de internet, dos grandes amigos se juntan a platicar de la vida real de la forma menos objetiva posible. </p><br /><p>Anécdotas, crisis existenciales y memes vivientes, Bastian y Conder sin duda se convertirán en tus nuevos mejores amigos. Siempre en buen pedo!</p><hr /><p> Hosted on Acast. See <a target="_blank" href="https://acast.com/privacy">acast.com/privacy</a> for more information.</p>

Meditación para dormir
By shows
<p>✨Bienvenidos a Meditación para Dormir, un espacio dedicado a transformar tus noches en momentos de paz y descanso profundo. Nuestro podcast es un refugio para el alma, un lugar donde la serenidad se convierte en tu compañía y la tranquilidad te envuelve como una cálida manta, acompañándote hacia un sueño reparador.</p><br><p>Sabemos que el ritmo de la vida moderna puede ser abrumador, con tensiones que afectan tanto a tu salud como a tu bienestar mental. Por eso, aquí te ofrecemos herramientas valiosas para cuidar de tu salud mental y emocional. A través de meditaciones guiadas, historias reconfortantes, ejercicios de relajación y prácticas de mindfulness, queremos ayudarte a liberar el estrés, aliviar la ansiedad y abrazar la calma interior.</p><br><p>Cada episodio está diseñado para acompañarte en tu viaje hacia un sueño profundo y reparador. Imagina un lugar donde tus preocupaciones se disipan suavemente y las tensiones del día se desvanecen, dejando espacio para la paz mental. Con nuestro podcast, descubrirás que descansar no es solo una necesidad, sino un acto de amor propio y autoayuda que nutre cuerpo, mente y espíritu.</p><br><p>La meditación guiada te llevará a un estado de relajación profunda, ayudándote a desconectar de los pensamientos negativos y a cultivar una sensación de bienestar. La relajación no solo favorece el sueño, sino que también fortalece tu salud en general, mejorando tu equilibrio emocional y ayudándote a enfrentar los desafíos de cada día con energía renovada.</p><br><p>Mientras escuchas nuestras palabras y la música suave que las acompaña, te invitarán a imaginar paisajes serenos, cielos estrellados y brisas suaves que acarician tu piel. Cada historia y meditación está tejida con cuidado para brindarte consuelo y seguridad, permitiendo que tu mente se sumerja en un estado de profunda tranquilidad.</p><br><p>"Dormir no es solo cerrar los ojos; es abrir la puerta a un mundo de descanso y recuperación. Es el momento en que tu cuerpo se regenera y tu mente encuentra claridad."</p><br><p>En este espacio, queremos recordarte que mereces este descanso, que cuidarte a ti mismo es una prioridad y que cada noche es una nueva oportunidad para sanar y renovar tus fuerzas.</p><br><p>El sueño es la base de una buena salud mental, y nuestra misión es ayudarte a lograrlo. Con episodios pensados para todas las noches de la semana, encontrarás contenido que se adapta a tus necesidades: meditaciones para calmar la ansiedad, relatos que inspiran reflexión, técnicas de relajación para aquietar una mente agitada y ejercicios de mindfulness para centrar tu atención y disfrutar del presente. </p><br><p>Haz de este podcast un ritual nocturno, tu momento de desconexión del mundo exterior y reconexión contigo mismo. Deja que nuestras palabras sean como una suave melodía que te envuelve y te recuerda que mereces este instante de paz. Te acompañamos con la certeza de que, mientras te permites descansar, también te permites crecer y sanar.</p><br><p>En este espacio, no estás solo. Estás rodeado de una comunidad que valora el bienestar y la tranquilidad tanto como tú. Permítenos guiarte hacia noches más calmadas y mañanas llenas de energía renovada. La calma te espera, todo lo que necesitas hacer es escuchar y dejarte llevar.</p><br><p>Respira profundamente, cierra los ojos y sumérgete en este oasis de paz. Este es tu momento, tu refugio, tu camino hacia un sueño profundo y una vida más equilibrada. </p><br><p>Bienvenido a este viaje hacia la serenidad, donde cada noche es una oportunidad para encontrar la paz interior que tanto mereces . ✨</p><hr><p style='color:grey; font-size:0.75em;'> Hosted on Acast. See <a style='color:grey;' target='_blank' rel='noopener noreferrer' href='https://acast.com/privacy'>acast.com/privacy</a> for more information.</p>

Verano en la SER
By shows
Estés en la playa, en la montaña, en el pueblo o trabajando, SER Podcast te acompaña y hace mejor tu verano.

Tú, hipócrita lector
By shows
Una conversación profunda entre lectores… con destacadas personalidades y escritores del país sobre su afición por los libros y las letras. Cada semana Cristián Warnken nos invita a sumergirnos en el placer que nos entrega leer, en un podcast que viaja por los diferentes mundos que abre la literatura y conversa con el hipócrita lector que todos llevamos dentro.

Habits and Hustle
By shows
Habits and Hustle helps share the stories, habits, and rituals of people's journeys on living fulfilled lives. Host Jennifer Cohen interviews thought leaders, entrepreneurs, and overall extraordinary people who share their insight and open up about the normally hidden aspects that have made a difference in their success.

Casefile True Crime
By shows
Fact is scarier than fiction. Subscribe to Casefile Premium to receive ad-free episodes released one week early, along with access to bonus Q&A’s, our exclusive show ‘Behind the Files’, and more.<hr><p style='color:grey; font-size:0.75em;'> Hosted on Acast. See <a style='color:grey;' target='_blank' rel='noopener noreferrer' href='https://acast.com/privacy'>acast.com/privacy</a> for more information.</p>

Hecho en Chile Podcast
By shows
Felipe y Nicolás te cuentan el chisme de las grandes empresas de Chile. Fundadores que lo apostaron todo, familias que se pelearon por la herencia, fraudes, fusiones y los escándalos que las marcas que usas todos los días preferirían que no contaras. Con datos reales y mucho, mucho humor. El chisme empresarial más serio de Chile.

Hágale como quiera
By shows
José Rodríguez, Juan de Ávila y César Daniel te darán consejos sobre tecnología y resolverán tus dudas legales que te facilitarán tu vida. Escúchalos todos los miércoles.