Inviare richieste ai modelli DeepSeek

Lavorare con DeepSeek in Python

James Chapman

Curriculum Manager, DataCamp

Riepilogo

Un computer invia una richiesta all'API di Together.ai, che contiene il modello, i dati e i parametri del modello.

Creare una richiesta

from openai import OpenAI

# Per inviare all'API DeepSeek: base_url="https://api.deepseek.com"
client = OpenAI(api_key="<TogetherAI API Key>", base_url="https://api.together.xyz/v1")

Crea richieste con la libreria openai
OpenAI: sviluppatori di modelli e app AI (es. ChatGPT)
base_url: reindirizza la richiesta dal OpenAI al provider DeepSeek
api_key: autenticazione API (vedi la documentazione del provider)

¹ https://platform.deepseek.com/api_keys

Creare una richiesta

from openai import OpenAI
# Per inviare all'API DeepSeek: base_url="https://api.deepseek.com"
client = OpenAI(api_key="<TogetherAI API Key>", base_url="https://api.together.xyz/v1")


response = client.chat.completions.create(

    # Sull'API di DeepSeek: model="deepseek-chat"
    model="deepseek-ai/DeepSeek-V3",

    messages=[{"role": "user",
               "content": "In una frase, cos'è l'allucinazione in AI?"}]

)


print(response)

La risposta

ChatCompletion(id='ns1zcjp-zqrih-937de597af0fd643', choices=[Choice(finish_reason='stop', index=0,
logprobs=None, message=ChatCompletionMessage(content='Per "allucinazione" in AI si intende la generazione di
informazioni false o senza senso presentate come fattuali, spesso per limiti nei dati di training,
bias del modello o errori di inferenza.', refusal=None, role='assistant', annotations=None, audio=None,
function_call(None, tool_calls=[]), seed=12469585682595789000)], created=1745920244,
model='deepseek-ai/DeepSeek-V3', object='chat.completion', service_tier=None, system_fingerprint=None,
usage=CompletionUsage(completion_tokens=38, prompt_tokens=14, total_tokens=52,
completion_tokens_details=None, prompt_tokens_details=None), prompt=[])

La risposta

ChatCompletion(id='ns1zcjp-zqrih-937de597af0fd643',
               choices=[Choice(finish_reason='stop', index=0, logprobs=None,
                               message=ChatCompletionMessage(content='Per "allucinazione" in AI si intende
                                   la generazione di informazioni false o senza senso presentate come
                                   fattuali, spesso per limiti nei dati di training, bias del modello o
                                   errori di inferenza.',
                               refusal=None, role='assistant', annotations=None, audio=None,
                               function_call=None, tool_calls=[]), seed=12469585682595789000)],
               created=1745920244,
               model='deepseek-ai/DeepSeek-V3',
               object='chat.completion',
               service_tier=None,
               system_fingerprint=None,
               usage=CompletionUsage(completion_tokens=38, prompt_tokens=14, total_tokens=52,
                                     completion_tokens_details=None, prompt_tokens_details=None),
                                     prompt=[])

Interpretare la risposta

print(response.choices)

[Choice(finish_reason='stop', index=0, logprobs=None, message=ChatCompletionMessage(
content='Per "allucinazione" in AI si intende la generazione di informazioni false o senza senso
presentate come fattuali, spesso per limiti nei dati di training, bias del modello o
errori di inferenza.', refusal=None, role='assistant', annotations=None, audio=None,
function_call=None, tool_calls=[]), seed=12469585682595789000)]

Interpretare la risposta

print(response.choices[0])

Choice(finish_reason='stop', index=0, logprobs=None, message=ChatCompletionMessage(
content='Per "allucinazione" in AI si intende la generazione di informazioni false o senza senso
presentate come fattuali, spesso per limiti nei dati di training, bias del modello o
errori di inferenza.', refusal=None, role='assistant', annotations=None, audio=None,
function_call=None, tool_calls=[]), seed=12469585682595789000)

Interpretare la risposta

print(response.choices[0].message)

ChatCompletionMessage(content='Per "allucinazione" in AI si intende la generazione di informazioni
false o senza senso presentate come fattuali, spesso per limiti nei dati di training,
bias del modello o errori di inferenza.', refusal=None, role='assistant', annotations=None,
audio=None, function_call=None, tool_calls=[])

print(response.choices[0].message.content)

Per "allucinazione" in AI si intende la generazione di informazioni false o senza senso
presentate come fattuali, spesso per limiti nei dati di training, bias del modello o
errori di inferenza.

Costi d'uso dell'API

Per DeepSeek:
- Provider (es. together.ai)
- Modello
- Input + output più grandi = costo maggiore

Una strada a pedaggio.

¹ https://api-docs.deepseek.com/quick_start/pricing

Passiamo alla pratica!

Lavorare con DeepSeek in Python