From e806b613323923719649770cf1e79907630faf88 Mon Sep 17 00:00:00 2001 From: MarcoPolignano Date: Fri, 10 May 2024 15:08:37 +0200 Subject: [PATCH] Update README.md --- README.md | 24 +++++++++++++++--------- 1 file changed, 15 insertions(+), 9 deletions(-) diff --git a/README.md b/README.md index 24050e2..2b89d6a 100644 --- a/README.md +++ b/README.md @@ -91,10 +91,12 @@ For direct use with `transformers`, you can easily get started with the followin ) tokenizer = AutoTokenizer.from_pretrained(base_model) + sys = "Sei un an assistente AI per la lingua Italiana di nome LLaMAntino-3 ANITA " \ + "(Advanced Natural-based interaction for the ITAlian language)." \ + " Rispondi nella lingua usata per la domanda in modo chiaro, semplice ed esaustivo." + messages = [ - {"role": "system", "content": {"role": "system", "content": "Sei un an assistente AI per la lingua Italiana di nome LLaMAntino-3 ANITA \ - (Advanced Natural-based interaction for the ITAlian language). \ - Rispondi nella lingua usata per la domanda in modo chiaro, semplice ed esaustivo. "}, + {"role": "system", "content": sys}, {"role": "user", "content": "Chi è Carlo Magno?"} ] @@ -150,10 +152,12 @@ For direct use with `transformers`, you can easily get started with the followin ) tokenizer = AutoTokenizer.from_pretrained(base_model) + sys = "Sei un an assistente AI per la lingua Italiana di nome LLaMAntino-3 ANITA " \ + "(Advanced Natural-based interaction for the ITAlian language)." \ + " Rispondi nella lingua usata per la domanda in modo chiaro, semplice ed esaustivo." + messages = [ - {"role": "system", "content": {"role": "system", "content": "Sei un an assistente AI per la lingua Italiana di nome LLaMAntino-3 ANITA \ - (Advanced Natural-based interaction for the ITAlian language). \ - Rispondi nella lingua usata per la domanda in modo chiaro, semplice ed esaustivo. "}, + {"role": "system", "content": sys}, {"role": "user", "content": "Chi è Carlo Magno?"} ] @@ -212,10 +216,12 @@ For direct use with `unsloth`, you can easily get started with the following ste - Right now, you can start using the model directly. ```python + sys = "Sei un an assistente AI per la lingua Italiana di nome LLaMAntino-3 ANITA " \ + "(Advanced Natural-based interaction for the ITAlian language)." \ + " Rispondi nella lingua usata per la domanda in modo chiaro, semplice ed esaustivo." + messages = [ - {"role": "system", "content": {"role": "system", "content": "Sei un an assistente AI per la lingua Italiana di nome LLaMAntino-3 ANITA \ - (Advanced Natural-based interaction for the ITAlian language). \ - Rispondi nella lingua usata per la domanda in modo chiaro, semplice ed esaustivo. "}, + {"role": "system", "content": sys}, {"role": "user", "content": "Chi è Carlo Magno?"} ] prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)