Przejdź do treści

Determinism (deterministyczność)

Definicja

Deterministyczność oznacza, że przy tych samych danych wejściowych system daje ten sam (lub bardzo podobny) wynik.

Co to w zasadzie jest?

Modele generatywne mają element losowości. Czasem to zaleta (kreatywność), a czasem wada (chcesz powtarzalności). Deterministyczność zależy m.in. od:

  • temperatury i sampling (np. „temperatura”),
  • długości i struktury promptu,
  • użycia źródeł (RAG),
  • wersji modelu.

Praktyczne zastosowania (konkretne scenariusze)

Scenariusz 1: Generowanie komunikatu urzędowego

  • Cel: chcesz, żeby format zawsze był taki sam.
  • Wejście: to samo wejście i ustawienia modelu.
  • Kroki: uruchom test -> porównaj wyniki -> ustabilizuj parametry.
  • Rezultat: bardziej powtarzalne odpowiedzi.
  • Zabezpieczenie: kontrola temperatury i wersji modelu.

Scenariusz 2: Zmiana temperatury

  • Cel: niższa = bardziej powtarzalne odpowiedzi.
  • Wejście: to samo wejście i ustawienia modelu.
  • Kroki: uruchom test -> porównaj wyniki -> ustabilizuj parametry.
  • Rezultat: bardziej powtarzalne odpowiedzi.
  • Zabezpieczenie: kontrola temperatury i wersji modelu.

Scenariusz 3: RAG

  • Cel: odpowiedź bardziej stabilna, bo opiera się na tych samych źródłach.
  • Wejście: to samo wejście i ustawienia modelu.
  • Kroki: uruchom test -> porównaj wyniki -> ustabilizuj parametry.
  • Rezultat: bardziej powtarzalne odpowiedzi.
  • Zabezpieczenie: kontrola temperatury i wersji modelu.

Ryzyka i jak je ograniczać

Ryzyko 1: Zbyt duża deterministyczność = „sztywne” odpowiedzi

  • Ryzyko: zbyt duża deterministyczność = „sztywne” odpowiedzi.
  • Jak ograniczać: dobierz parametry do celu (kreatywność vs procedura).

Ryzyko 2: Zbyt mała deterministyczność = chaos i brak kontroli

  • Ryzyko: zbyt mała deterministyczność = chaos i brak kontroli.
  • Jak ograniczać: szablony, structured output, testy.

Ryzyko 3: Zmiany modelu psują powtarzalność

  • Ryzyko: zmiany modelu psują powtarzalność.
  • Jak ograniczać: wersjonowanie i benchmarki.

Mapa powiązań

Diagram

flowchart LR
    A[Stałe dane wejściowe]
    B[Stałe parametry]
    C[Model]
    D[Powtarzalny wynik]
    E[Kontrola środowiska]
    A --> C
    B --> C --> D
    C --> E --> D

Diagram pokazuje, że deterministyczność oznacza powtarzalny wynik przy tych samych danych i ustawieniach.

Dalsza lektura