| from huggingface_hub import InferenceClient |
| client = InferenceClient( |
| "ecastera/eva-mistral-catmacaroni-7b-spanish" |
| ) |
| generate_kwargs = dict( |
| temperature=0.1, |
| max_new_tokens=256, |
| top_p=0.95, |
| repetition_penalty=1.1, |
| do_sample=True, |
| seed=42, |
| ) |
|
|
|
|
| prompt2 = """[INST] Para esta frase "Que logros ha conseguido Ancera en 2024" extrae las palabras clave relacionadas |
| con la asociación Ancera, que son esenciales para realizar búsquedas efectivas en la |
| base de datos de Ancera. Concéntrate en los siguientes elementos como palabras clave: |
| cargos dentro de la asociación: Por ejemplo, presidenta, vicepresidente, etc. |
| Conceptos clave o áreas de interés relacionadas con Ancera: Por ejemplo, objetivos, ventajas, junta directiva, etc. |
| Referencias temporales específicas si están directamente relacionadas con los conceptos clave: Por ejemplo, el año en cuestión para los objetivos. |
| Ignora detalles contextuales como acciones, descripciones extensas, y enfócate únicamente en las palabras clave mencionadas. Las palabras clave extraídas serán utilizadas para buscar información relevante en la base de datos de Ancera. |
| |
| Te doy dos ejemplos: |
| |
| Frase: "Haz un resumen en 100 palabras de cuáles deberían ser los objetivos de Ancera para 2024" |
| Respuesta: "objetivos, Ancera, 2024" |
| |
| Frase: "Haz un resumen en 50 palabras de las ventajas de ser miembro de Ancera" |
| Respuesta: "ventaja, miembro" |
| |
| Haz lo mismo para la frase que te he dicho y sólo muestra las palabras clave no des detalles o explicaciones extra, escribe el resultado en el mismo formato que los dos ejemplos, no hagas listas, no escribas la frase, ciñete al formato de respesta [/INST]""" |
| |
| response = client.text_generation(prompt2, **generate_kwargs, stream=False, details=True, return_full_text=False) |
| output = response.generated_text |
| print(output) |
|
|
