Код IT
← Каталог

Параметры генерации LLM — напоминалка — Пример (OpenAI-совместимый API)

Фрагмент из «Параметры генерации LLM — напоминалка»: Пример (OpenAI-совместимый API).

python aiencyclopedia6-04-modeli-i-instrumenty-118 embed URL статья в энциклопедии
Python main.py 
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "Кратко объясни TCP handshake."}],
    temperature=0.2,
    top_p=0.9,
    max_tokens=400,
    frequency_penalty=0.3,
    presence_penalty=0.2,
    stop=["\n\n---"],
)
print(response.choices[0].message.content)
from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "Кратко объясни TCP handshake."}],
    temperature=0.2,
    top_p=0.9,
    max_tokens=400,
    frequency_penalty=0.3,
    presence_penalty=0.2,
    stop=["\n\n---"],
)
print(response.choices[0].message.content)