FROM ./rwkv-6-world-32b-q4_k_m.gguf

TEMPLATE """{{ if .System }}System: {{ .System }}

{{ end }}{{ if .Prompt }}User: {{ .Prompt }}

{{ end }}Assistant:"""

PARAMETER stop "User:"
PARAMETER stop "Assistant:"
PARAMETER stop "\n\n\n"

PARAMETER temperature 0.8
PARAMETER top_p 0.9
PARAMETER top_k 50
PARAMETER num_ctx 8192
PARAMETER num_predict 2048