Gemma-4-31B-IT-NVFP4

Gemma 4 31B IT est un modèle open multimodal de Google DeepMind, optimisé par NVIDIA avec quantification NVFP4. Avec 30,7 milliards de paramètres et un contexte jusqu’à 256K tokens, il gère texte, images et vidéo et produit du texte. Il prend en charge chat, génération de texte, raisonnement, coding, compréhension multimodale et workflows agentiques avec function calling. NVFP4 réduit l’empreinte du modèle tout en restant proche de BF16 dans les benchmarks NVIDIA.

• SIÈGE DU FOURNISSEUR: Hors UE
• PARAMÈTRES: 30,7B
• CONTEXTE MAX.: 256K token
• LICENCE: Apache 2.0
• FONCTIONNALITÉS: Function calling, Multimodal (images + vidéo), Raisonnement, Assistant de code
• FORMATS DE SORTIE: Raw_text, Json_object, Json_schema

• Assistants multimodaux avec raisonnement
• Analyse d’images, documents et courtes vidéos
• Agents avec function calling
• Coding et problem solving complexe

curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Gemma-4-31B-IT-NVFP4",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'

{
"id": "chatcmpl-1069d619-e2d7-45a0-a9ab-28d836c33af4",
"created": 1787560867,
"model": "Gemma-4-31B-IT-NVFP4",
"object": "chat.completion",
"system_fingerprint": "vllm-0.22.1-26819dd9",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un **embedding** è una rappresentazione di un concetto (come una parola, un'immagine o un utente) sotto forma di un **vettore di numeri reali** in uno spazio multidimensionale.\n\nIn sintesi:\n1. **Trasforma dati discreti in numeri:** Converte elementi non numerici (es. \"cane\", \"gatto\") in coordinate matematiche.\n2. **Cattura il significato:** A differenza di una semplice codifica, gli embedding posizionano elementi simili **vicini** tra loro nello spazio vettoriale.\n3. **Relazioni semantiche:** Se \"cane\" e \"cucciolo\" hanno vettori simili, il computer può \"capire\" che i due termini sono correlati semanticamente.\n\n**Esempio:** In un embedding di parole, i vettori di \"Re\" e \"Regina\" saranno molto vicini, mentre \"Re\" e \"Mela\" saranno molto lontani.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 202,
"prompt_tokens": 35,
"total_tokens": 237
}
}

• Qwen3.5‑122B‑A10B
• Mistral‑Small‑3.2‑24B‑Instruct‑2506

• Hugging Face
• NVIDIA NIM
• Documentation Google Gemma