Reasoning LLM

Medium

gpt-oss-20b

Descripción general

gpt‑oss‑20b es un modelo de razonamiento open weight de alto rendimiento y baja latencia. Su nivel configurable (bajo, medio, alto) adapta la profundidad del análisis a la criticidad de la tarea. Admite function calling, salidas JSON estructuradas y streaming para flujos automatizados y agentes inteligentes. Su arquitectura Mixture of Experts activa 3,6 mil millones de parámetros de 21 mil millones, ofreciendo eficiencia de cálculo sin sacrificar la calidad de las respuestas.


Especificaciones técnicas

  • SEDE DEL PROVEEDOR: Fuera de la UE
  • PARÁMETROS: 21,5B (3,6B activos)
  • CONTEXTO MÁX.: 131K token
  • LICENCIA: Apache 2.0
  • FUNCIONALIDADES: Function calling, Razonamiento
  • FORMATOS DE SALIDA: Raw_text, Json_object, Json_schema

Casos de uso

  • Análisis documental avanzado
  • Agentes inteligentes con function calling
  • Clasificación y triaje automáticos
  • Extracción estructurada de datos

Ejemplos de implementación

Input
curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "gpt-oss-20b",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'
Output
{
"id": "chatcmpl-9abcc998-9e21-4fca-b610-f280e96b0f79",
"created": 1787560923,
"model": "gpt-oss-20b",
"object": "chat.completion",
"system_fingerprint": "vllm-0.24.0-c6d97d58",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un **embedding** è una rappresentazione numerica (vettore) di un oggetto (parola, frase, immagine, nodo, ecc.) in uno spazio continuo. \n- Permette di trasformare dati discreti o categorici in numeri che i modelli di machine‑learning possono elaborare. \n- Gli embedding cercano di mantenere relazioni semantiche: elementi simili ottengono vettori vicini. \n- Esempi: Word2Vec/GloVe per parole, BERT per frasi, embeddings grafici per nodi di rete.",
"role": "assistant",
"reasoning_content": "We need to produce concise answer in Italian. The user says: \"Spiega cos'è un embedding.\" We need to explain what an embedding is. They want concise. So something like: \"Un embedding è una rappresentazione vettoriale di un elemento (parole, immagini, ecc.) in uno spazio continuo per permettere algoritmi di machine learning di operare su di esso.\" Provide definition, purpose, examples: word embeddings like Word2Vec, GloVe, sentence embeddings, etc. Keep concise.\n\nLet's answer in Italian concisely.",
"provider_specific_fields": {
"reasoning": "We need to produce concise answer in Italian. The user says: \"Spiega cos'è un embedding.\" We need to explain what an embedding is. They want concise. So something like: \"Un embedding è una rappresentazione vettoriale di un elemento (parole, immagini, ecc.) in uno spazio continuo per permettere algoritmi di machine learning di operare su di esso.\" Provide definition, purpose, examples: word embeddings like Word2Vec, GloVe, sentence embeddings, etc. Keep concise.\n\nLet's answer in Italian concisely.",
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 245,
"prompt_tokens": 89,
"total_tokens": 334
}
}

Coste

0,0237 € + IVA / 1M token (input)
0,1146 € + IVA / 1M token (output)

Recursos