Mistral-Nemo-Instruct-2407

Mistral‑Nemo‑Instruct‑2407 fue desarrollado conjuntamente por Mistral AI y NVIDIA. Con 12.000 millones de parámetros y un contexto de 118.000 tokens, está pensado para diálogo multilingüe, generación de código y seguimiento de instrucciones complejas. Admite function calling, salida estructurada y streaming. Su tamaño contenido equilibra calidad de respuesta y velocidad de inferencia.

• SEDE DEL PROVEEDOR: UE
• PARÁMETROS: 12,2B
• CONTEXTO MÁX.: 128K token
• LICENCIA: Apache 2.0
• FUNCIONALIDADES: Function calling
• FORMATOS DE SALIDA: Raw_text, Json_object, Json_schema

• Chatbot multilingüe
• Generación de código
• Asistente conversacional
• Comprensión de instrucciones complejas

curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Mistral-Nemo-Instruct-2407",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'

{
"id": "chatcmpl-36255b3a-69c2-4884-adcb-49e8211106b1",
"created": 1787560711,
"model": "Mistral-Nemo-Instruct-2407",
"object": "chat.completion",
"system_fingerprint": "vllm-0.22.1-820c92fc",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un embedding è una rappresentazione densa di una parola o di un concetto in uno spazio vettoriale, dove le parole o i concetti simili sono vicini tra loro. Viene spesso utilizzato in campo dell'elaborazione del linguaggio naturale per rappresentare le parole in modo che i modelli di machine learning possano comprenderne il significato.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 75,
"prompt_tokens": 17,
"total_tokens": 92
}
}

• Llama‑3.1‑8B‑Instruct

• Hugging Face
• Blog Mistral
• NVIDIA NIM