Llama-3.1-8B-Instruct

Llama‑3.1‑8B‑Instruct is a generative language model optimized for multilingual dialogue. It uses an advanced transformer architecture and was aligned to human preferences through supervised fine-tuning and reinforcement learning with human feedback. It supports function calling and streaming, and its 8-billion-parameter size suits responsive conversational assistance.

• PROVIDER LOCATION: Non-EU
• PARAMETERS: 8B
• MAX CONTEXT: 128K token
• LICENSE: Llama 3.1 Community License
• FEATURES: Function calling, Multilingual
• OUTPUT FORMATS: Raw_text, Json_object, Json_schema

• Multilingual conversational assistant
• Text generation
• Customer service chatbot
• Rapid AI application prototyping

curl --request POST \
--url https://apiaruba.it/aiplatform/v1/chat/completions \
--header 'content-type: application/json' \
--header 'x-aruba-api-key: *****' \
--data '{
"model": "Llama-3.1-8B-Instruct",
"messages": [
{
"role": "system",
"content": "Sei un assistente conciso."
},
{
"role": "user",
"content": "Spiega cos'\''è un embedding."
}
],
"temperature": 0.7,
"max_tokens": 300
}'

{
"id": "chatcmpl-3b8b1020-a4f7-4b63-a55a-09306eb74de7",
"created": 1787560677,
"model": "Llama-3.1-8B-Instruct",
"object": "chat.completion",
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "Un embedding (in italiano \"inserimento\") è un concetto fondamentale nell'apprendimento automatico e nella rappresentazione dei dati. \n\nIn generale, un embedding è una rappresentazione di un oggetto o di un'entità (ad esempio un testo, un'immagine, un'etichetta) in uno spazio vettoriale di dimensioni fisse, in modo da poter rappresentare in modo numerico e comprensibile le caratteristiche e le relazioni tra gli oggetti stessi.\n\nL'obiettivo di un embedding è quello di mappare gli oggetti in uno spazio vettoriale in cui gli oggetti simili o correlati sono vicini tra loro, mentre gli oggetti diversi sono più lontani.\n\nEsempi di embedding:\n\n- **Word Embedding**: rappresentazione dei vocaboli in uno spazio vettoriale, in modo che parole simili (ad esempio \"gatto\", \"gatto nero\") siano vicine tra loro.\n- **Image Embedding**: rappresentazione di immagini in uno spazio vettoriale, in modo che immagini simili (ad esempio due immagini di un gatto) siano vicine tra loro.\n- **Node Embedding**: rappresentazione dei nodi di un grafo in uno spazio vettoriale, in modo che nodi simili (ad esempio nodi di un gruppo di amici) siano vicini tra loro.\n\nGli embedding sono fondamentali nell'apprendimento automatico perché consentono di applicare tecniche di apprendimento automatico come la classificazione, la regressione e la clustering in modo più efficace.",
"role": "assistant",
"provider_specific_fields": {
"reasoning": null,
"refusal": null
}
},
"provider_specific_fields": {}
}
],
"usage": {
"completion_tokens": 376,
"prompt_tokens": 52,
"total_tokens": 428
}
}

• Mistral‑Nemo‑Instruct‑2407

• Hugging Face
• Llama Documentation
• Blog Meta AI