El uso profesional de chatGPT se hace conectando con su API
OpenAI acaba de presentar para nuestro mercado GPT-4o mini, su nuevo modelo pequeño, asequible e inteligente que es significativamente más inteligente, más barato y tan rápido como GPT-3.5 Turbo, y lo lanzan en la API.
La gente de OpenAI nos asegura estas mejoras:
• Inteligencia: GPT-4o mini supera a GPT-3.5 Turbo en inteligencia textual (con una puntuación del 82 % en MMLU en comparación con el 69,8 %) y razonamiento multimodal.
• Precio: GPT-4o mini es más de un 60% más barato que GPT-3.5 Turbo, con un precio de 0,15 dólares por 1 millón de tokens de entrada y 0,60 dólares por 1 millón de tokens de salida (aproximadamente el equivalente a 2500 páginas en un libro estándar).
• Modalidades: GPT-4o mini actualmente admite capacidades de texto y visión, y planeamos agregar soporte para entradas y salidas de audio y video en el futuro.
• Idiomas: GPT-4o mini ha mejorado la comprensión multilingüe respecto a GPT-3.5 Turbo en una amplia gama de idiomas distintos del inglés.
Con su bajo costo y latencia, GPT-4o mini funciona bien para tareas de gran volumen (por ejemplo, pasar una base de código completa o un historial de conversaciones al modelo), tareas sensibles al costo (por ejemplo, resumir documentos grandes) y tareas que requieren respuestas rápidas (por ejemplo, chatbots de atención al cliente).
Al igual que GPT-4o, GPT-4o mini tiene:
una «ventana de contexto» de 128k,
admite hasta 16k tokens de salida por solicitud y
tiene una fecha límite de conocimiento de octubre de 2023.
¿Y esto qué puede aportar a mi organización?
Ahorro de coste de usar chatGPT de pago y más calidad y rapidez en las respuestas.
No es para cualquiera. Hace falta tener algún caso de uso en la empresa. Por ejemplo si tienes un servicio de atención al cliente, sea para vender o sea para dar soporte a los que ya son clientes.
Tienes que tener una cuenta de pago en OpenAI y usar la API
Nosotros, en Driveo, tenemos unos cuantos proyectos que utilizan la API de OpenAI para interactuar con el modelo de chatgpt y responder de forma inteligente a preguntas via chatbot en una web, Whatsapp o el canal que use nuestro cliente final
Usamos hasta ahora chatGPT 4 y chatGTP 3.5 turbo así que cambiaremos el acceso a la API de chatGTP 40 y te contaremos cómo va.
Por cierto que desde openAI nos dicen que planean lanzar ajustes finos para GPT-4o mini en el los dias que vienen.