Visual LLM

Light

Qwen 2.5 7B instruct

Overview

Qwen2.5‑VL‑7B‑Instruct is a Qwen multimodal model for visual understanding. It recognizes objects and analyzes text, charts, icons and image layouts, generating JSON output with coordinates and attributes. It understands long videos by identifying relevant segments and can act as a visual agent with dynamic reasoning. Its Vision Encoder uses window attention for more efficient inference.


Technical specifications

  • PROVIDER LOCATION: Non-EU
  • PARAMETERS: 7B
  • MAX CONTEXT: 32K token, extendable with YaRN
  • LICENSE: Apache 2.0
  • FEATURES: Multimodal (images + video), OCR
  • OUTPUT FORMATS: Raw_text, Json_object, Structured

Use cases

  • Automated document and invoice analysis
  • Understanding and search in video archives
  • OCR on complex images
  • Visual agent for automation

Implementation examples

Input
curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Qwen2.5-VL-7B-Instruct",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 1000
}'
Output
{
"id": "chatcmpl-ed150ff5-50e2-45ab-bc04-41dbfb822185",
"created": 1787560896,
"model": "Qwen2.5-VL-7B-Instruct",
"object": "chat.completion",
"system_fingerprint": "vllm-0.24.0-af4d1ed2",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un embedding è una rappresentazione vettoriale di una parola, di un oggetto o di una qualsiasi entità in uno spazio vettoriale, la cui dimensione può essere maggiore rispetto ai dati originali. Questa rappresentazione è usata comunemente nel campo dell'intelligenza artificiale, specialmente nei sistemi basati su neuroni artificiali, per permettere una concatenate analisi. Gli embeddings trasformano la struttura astratta di un'informazione in un vettore numerico. Questo processo è utile perché i modelli neurali possono lavorare con vettori numerici piuttosto che con la complessità dei dati originali, rendendo l'analisi più efficiente e rapida. Un esempio noto di embedding è Word2Vec, utilizzato per la rappresentazione di parole in uno spazio vettoriale.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 200,
"prompt_tokens": 30,
"total_tokens": 230
}
}

Alternatives in the catalog


Cost

0,0327 € + VAT / 1M token (input)
0,0819 € + VAT / 1M token (output)

Resources