Visual LLM

Medium

Gemma-4-31B-IT-NVFP4

ACCEDE PARA EMPEZAR

Descripción general

Gemma 4 31B IT es un modelo open multimodal de Google DeepMind, optimizado por NVIDIA con cuantización NVFP4. Con 30.700 millones de parámetros y contexto de hasta 256K tokens, gestiona texto, imágenes y vídeo y produce salida textual. Admite chat, generación de texto, razonamiento, coding, comprensión multimodal y workflows agénticos con function calling. NVFP4 reduce el footprint manteniendo un rendimiento cercano a BF16 en benchmarks de NVIDIA.

Especificaciones técnicas

  • SEDE DEL PROVEEDOR: Fuera de la UE
  • PARÁMETROS: 30,7B
  • CONTEXTO MÁX.: 256K token
  • LICENCIA: Apache 2.0
  • FUNCIONALIDADES: Function calling, Multimodal (imágenes + vídeo), Razonamiento, Asistente de código
  • FORMATOS DE SALIDA: Raw_text, Json_object, Json_schema

Casos de uso

  • Asistentes multimodales con razonamiento
  • Análisis de imágenes, documentos y vídeos cortos
  • Agentes con function calling
  • Coding y problem solving complejo

Ejemplos de implementación

Input 
curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Gemma-4-31B-IT-NVFP4",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'
Output 
{
"id": "chatcmpl-1069d619-e2d7-45a0-a9ab-28d836c33af4",
"created": 1787560867,
"model": "Gemma-4-31B-IT-NVFP4",
"object": "chat.completion",
"system_fingerprint": "vllm-0.22.1-26819dd9",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un **embedding** è una rappresentazione di un concetto (come una parola, un'immagine o un utente) sotto forma di un **vettore di numeri reali** in uno spazio multidimensionale.\n\nIn sintesi:\n1. **Trasforma dati discreti in numeri:** Converte elementi non numerici (es. \"cane\", \"gatto\") in coordinate matematiche.\n2. **Cattura il significato:** A differenza di una semplice codifica, gli embedding posizionano elementi simili **vicini** tra loro nello spazio vettoriale.\n3. **Relazioni semantiche:** Se \"cane\" e \"cucciolo\" hanno vettori simili, il computer può \"capire\" che i due termini sono correlati semanticamente.\n\n**Esempio:** In un embedding di parole, i vettori di \"Re\" e \"Regina\" saranno molto vicini, mentre \"Re\" e \"Mela\" saranno molto lontani.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 202,
"prompt_tokens": 35,
"total_tokens": 237
}
}

Coste

0,0982 € + IVA / 1M token (input)
0,2947 € + IVA / 1M token (output)
Accede para empezar

Recursos