Background

3146. Píldoras de inteligencia artificial: Batch API

Marketing Online16 de agosto de 20267:15
Compartir episodio:Descargar

Descripción del Episodio

Hoy os cuento cómo utilizar la Batch API para ejecutar trabajos que no son urgentes con un 50% de descuento en el coste de los tokens.

Pero antes, recordemos que en Boluda.com tenéis cursos para emprendedores, marketing online, desarrollo web, y todo lo que necesitáis para vuestro negocio online. Hoy empieza el curso de storytelling en crowdfunding. Esta mañana veremos el nacimiento de la historia y esta tarde la motivación que impulsa al protagonista. ¡A por él!

Ahora sí, vamos al lío. Hace unos meses estaba curioseando por el panel de OpenAI cuando encontré un apartado llamado Batches. Empecé a leer la documentación y descubrí una opción estupenda para todos aquellos procesos que pueden esperar un poco.

Normalmente, cuando una aplicación llama a un modelo mediante API, envía una petición y espera la respuesta. Esto tiene sentido cuando estáis hablando con un usuario o necesitáis el resultado inmediatamente. Pero hay otros trabajos que no tienen ninguna urgencia.

Por ejemplo, quizá queráis resumir miles de textos, clasificar una base documental, generar embeddings, preparar muchas imágenes o poner en cola varios vídeos. En esos casos podéis agrupar las peticiones y enviarlas a la Batch API para que se procesen de forma asíncrona.

La mecánica consiste en preparar un archivo JSONL con todas las solicitudes, subirlo y crear el lote. OpenAI dispone entonces de una ventana de hasta 24 horas para completarlo. Cuando termina, descargáis otro archivo con los resultados y podéis relacionar cada respuesta con su petición mediante un identificador propio.

¿Qué ganáis a cambio de no exigir una respuesta inmediata? Un descuento del 50% respecto a las llamadas síncronas, límites separados y mucho más margen para procesar grandes cantidades de solicitudes.

Aquí conviene hacer una precisión importante. La Batch API no reduce el número de tokens utilizados. Reduce a la mitad su precio dentro de la API. Tampoco aumenta los límites incluidos en vuestra suscripción de ChatGPT o Codex, porque trabaja con una clave de API y una facturación separada.

No es un comando mágico que convierta cualquier tarea del ordenador en un lote. Solo sirve para los endpoints compatibles. Actualmente permite trabajar, entre otros, con Responses, Chat Completions, embeddings, moderación, generación y edición de imágenes, y generación de vídeo. Podéis consultar la lista actualizada en la documentación oficial de la Batch API.

Lo más cómodo es pedirle a vuestro agente que prepare la integración. Primero probad una única solicitud de manera normal. Cuando sepáis que el formato y el resultado son correctos, pedidle que construya el archivo por lotes, lo envíe, consulte su estado y procese el resultado cuando esté disponible.

OpenAI garantiza una ventana de hasta 24 horas, aunque en muchos casos el trabajo termina antes. No debéis depender de que esté listo en cinco minutos, porque precisamente el descuento existe a cambio de aceptar ese procesamiento asíncrono.

Así pues, reservad esta opción para procesos grandes que no requieran una respuesta inmediata. Si tenéis miles de resúmenes, clasificaciones, imágenes o tareas similares pendientes, la diferencia de coste puede ser considerable. :)

Como siempre, muchas gracias a todos por vuestras valoraciones de cinco estrellas en Apple Podcasts y Spotify, suscribiros a los cursos para emprendedores y por estar ahí, al otro lado. Como siempre digo, sin vosotros, esto no sería lo que es. Sin vosotros esto simplemente, no sería.

Nos escuchamos mañana martes con otra píldora de inteligencia artificial. Como siempre, a las 07:07. Hasta entonces... ¡Muy buenos lunes, y mejor semana!

Episodios Recientes

3146. Píldoras de inteligencia artificial: Batch API

Más podcasts de Sociedad y Cultura

Ver toda la categoría →
We!

We!

By shows

<p>The #1 U.S. How To podcast for emotional growth, WE is a movement for reconnection—heart to heart, soul to soul. Hosted by Joe Mittiga, WE explores emotional healing, mental health, personal growth, relationships, and spiritual awakening in a world that feels increasingly disconnected. Each episode reveals why you feel the way you do—and the emotional, mental, and spiritual growth that leads to healing, peace, purpose, and deeper human connection. Through honest conversations and real-life experiences, WE helps you better understand yourself, others, and your place in a changing world. Healing doesn't happen alone. It happens when we remember WE.&nbsp;<br><br></p><p>Visit <a href="http://www.wepodcast.global"><b>www.WEPodcast.global</b></a> to learn more<br><br></p><p>Download my books free at <a href="http://www.joemittiga.com"><b>www.JoeMittiga.com</b></a>.<br><br></p><p><b>Voices of WE</b></p><p><em>Healing humanity, one story at a time.</em></p>

The Permanent Questions With David Brooks

The Permanent Questions With David Brooks

By shows

What makes us human? How can I find purpose in life? How can my relationship survive a rough patch? What do I say to a friend who’s suffering? Does any of this mean anything at all?&nbsp; It’s easy to lose sight of fundamental human concerns amid the churn of the news cycle and the demands of every day. Each week on The Permanent Questions, host David Brooks seeks to return them to our attention through thoughtful conversation with the world’s deepest thinkers.

Simulacro

Simulacro

By shows

Marcos Oliveira, uno de los padres de la inteligencia artificial, desaparece de forma misteriosa en Canarias y lo único que saben es que iba buscando una puerta. El escritor Santiago Álvarez recorre la última ruta que hizo el científico para intentar resolver el misterio pero, cuanto más lo busca, más perdido se encuentra en un laberinto entre la realidad y la simulación.<br /><br />Simulacro es un thriller psicológico especulativo creado por <b>Julio Rojas</b> (autor de 'Caso 63') y protagonizado por Isak Férriz, Mónica López y Alberto San Juan.<br /><br />Producido por El Extraordinario para Turismo de Islas Canarias y financiada con fondos Next Generation de la Unión Europea.

Cisne Rojo

Cisne Rojo

By shows

<p>Sara es la principal accionista de Summer-Petersen, una importante compañía de servicios financieros. Es la ejecutiva más agresiva. La que no tiene miedo. Si se trata de negocios, la información es poder y Sara ve lo que otros no ven. Hasta hoy. Este lunes, reaparece en su vida Miranda Celis, una analista de grandes datos y experta en predicciones basadas en algoritmos. A partir de una sola llamada, Miranda conectará recuerdos del pasado con el anuncio de trágicos e irreversibles eventos futuros. Si Sara piensa que todo es estable, que las personas que ama, que la ciudad que habita,&nbsp;y que todo&nbsp;lo que la rodea estará mañana, hoy Sara deberá pensar otra vez.</p><p>&nbsp;</p><p>Protagonizada por Blanca Lewin e Ignacia Baeza. Creada y escrita por Julio Rojas, el creador de Caso 63. Producida por&nbsp;<a href="http://emisorpodcasting.com/" rel="noopener noreferrer" target="_blank">Emisorpodcasting.com</a></p>

Franco Escamilla Canal Oficial

Franco Escamilla Canal Oficial

By shows

¡Bienvenidos al canal oficial de Franco Escamilla! Suscríbete para escuchar un nuevo episodio cada día. Martes: La Mesa Reñoña Miércoles: Los Amos Del Universo Jueves: Toy Aburrido Viernes: Psico y Psico Domingo: Cabareteando Recuerda que no tengo otro canal de audio, no aceptes imitaciones.

Café Francés ~ Aprende francés!

Café Francés ~ Aprende francés!

By shows

<p>Café Francés es el rincón preferido de hispanohablantes para aprender francés de forma estructurada y paso a paso.&nbsp;</p><p><br></p><p>Aprenderás frases útiles, diálogos reales, vocabulario esencial, gramática y todo sobre la cultura, costumbres y vida en Francia. Cada episodio se conecta con el anterior e incluye ejercicios practicos.&nbsp;</p><p><br></p><p>Además, tú también formas parte de esta aventura! Conversa conmigo y propon nuevos temas en las redes sociales. Juntos creamos una comunidad apasionada por el idioma y la cultura francesa.&nbsp;</p><p><br></p><p>Bienvenue à Café Francés – on y va !</p><p><br></p><p>Sébas</p>

La Cultureta

La Cultureta

By shows

Rubén Amón, Rosa Belmonte, Guillermo Altares, Isabel Vázquez JF León y Sergio del Molino hablan sobre cine, música, libros, series y mucho más...

Espías: clave secreta

Espías: clave secreta

By shows

Hay guerras que no aparecen en los libros de historia. Se libran en silencio, en los despachos más discretos y en las calles más concurridas. Sus protagonistas no llevan uniforme. Sus victorias no se celebran. Y sus derrotas, a veces, cambian el mundo. Espías: Clave Secreta es un podcast de Vicente Vallés sobre los hombres y mujeres que operaron en la sombra durante el siglo XX. Topos que pasaron décadas infiltrados en el corazón del enemigo. Operaciones diseñadas para engañar a ejércitos enteros. Traiciones que costaron miles de vidas. Y espías que, en secreto, evitaron una guerra nuclear. Cada episodio, un caso y cada caso una historia que parece imposible y que, sin embargo, ocurrió. Créditos&nbsp; Dirección y guion: Vicente Vallés y Cristina de Juan&nbsp; Narración: Vicente Vallés&nbsp; Diseño de sonido: Andrés Moraleda&nbsp; Una producción de Onda Cero Podcast y Antena 3 Noticias&nbsp;