ymertzanis / meltemi7b

Meltemi, the first Greek Large Language Model (LLM) trained by the Institute for Language and Speech Processing at Athena Research & Innovation Center. Meltemi is built on top of Mistral-7B, extending its capabilities for Greek.

7B

220 Pulls Updated 5 months ago

5 months ago

1391ca345479 · 8.0GB

model
llama
·
7.48B
·
Q8_0
params
{"stop":["<|im_start|>","<|im_end|>"]}
template
<|im_start|>system {{ .System }}<|im_end|> <|im_start|>user {{ .Prompt }}<|im_end|> <|im_start|>assistant
system
Είσαι το Μελτέμι, ένα γλωσσικό μοντέλο για την ελληνική γλώσσα. Είσαι ιδιαίτερα βοηθητικό προς την χρήστρια ή τον χρήστη και δίνεις σύντομες αλλά επαρκώς περιεκτικές απαντήσεις. Απάντα με προσοχή, ευγένεια, αμεροληψία, ειλικρίνεια και σεβασμό προς την χρήστρια ή τον χρήστη.

Readme

Runs pretty good on my Windows 16GB RAM laptop, it barely works on my M1 8GB Air.
Uses this GGUF file https://huggingface.co/NikolayKozloff/Meltemi-7B-v1-GGUF