Gemma-4-31B-IT-NVFP4

Gemma 4 31B IT is an open multimodal model from Google DeepMind, optimized by NVIDIA with NVFP4 quantization. With 30.7 billion parameters and context up to 256K tokens, it handles text, images and video and produces text output. It supports chat, text generation, reasoning, coding, multimodal understanding and agentic workflows with function calling. NVFP4 reduces model footprint while retaining performance close to BF16 in NVIDIA benchmarks.

• PROVIDER LOCATION: Non-EU
• PARAMETERS: 30,7B
• MAX CONTEXT: 256K token
• LICENSE: Apache 2.0
• FEATURES: Function calling, Multimodal (images + video), Reasoning, Code assistant
• OUTPUT FORMATS: Raw_text, Json_object, Json_schema

• Multimodal assistants with reasoning
• Analysis of images, documents and short videos
• Agents with function calling
• Coding and complex problem solving

curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Gemma-4-31B-IT-NVFP4",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'

{
"id": "chatcmpl-1069d619-e2d7-45a0-a9ab-28d836c33af4",
"created": 1787560867,
"model": "Gemma-4-31B-IT-NVFP4",
"object": "chat.completion",
"system_fingerprint": "vllm-0.22.1-26819dd9",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un **embedding** è una rappresentazione di un concetto (come una parola, un'immagine o un utente) sotto forma di un **vettore di numeri reali** in uno spazio multidimensionale.\n\nIn sintesi:\n1. **Trasforma dati discreti in numeri:** Converte elementi non numerici (es. \"cane\", \"gatto\") in coordinate matematiche.\n2. **Cattura il significato:** A differenza di una semplice codifica, gli embedding posizionano elementi simili **vicini** tra loro nello spazio vettoriale.\n3. **Relazioni semantiche:** Se \"cane\" e \"cucciolo\" hanno vettori simili, il computer può \"capire\" che i due termini sono correlati semanticamente.\n\n**Esempio:** In un embedding di parole, i vettori di \"Re\" e \"Regina\" saranno molto vicini, mentre \"Re\" e \"Mela\" saranno molto lontani.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 202,
"prompt_tokens": 35,
"total_tokens": 237
}
}

• Qwen3.5‑122B‑A10B
• Mistral‑Small‑3.2‑24B‑Instruct‑2506

• Hugging Face
• NVIDIA NIM
• Google Gemma Documentation