En este artículo veremos como se puede realizar la descarga de AI gratis con Jan AI. Un chatbot para Pc de código abierto que ofrece la posibilidad de ejecutar una amplia gama de Inteligencias Artificiales como ChatGPT 3.5 , Mistral 8x7B , Gemma entre otras y la posibildiad de chatear localmente con ellas, lo cual garantiza la privacidad y la seguridad de los datos. Todo Esto sin la necesidad de usar una conexión a Internet!
JAN AI
Jan AI es una plataforma que reúne varios modelos LLM (Large Langual Model) que se usan con en diferentes AI generativas y tiene la capacidad de establecerce en tu pc como una herramienta más y chatear con el modelo que mas te guste.
Bien sean modelos tanto de código abierto ( o sea sin costo ) Llama 7B, Chat GPT 3.5 Gemma, Mistral 8x7B ó de código cerrado GPT-4, Claude , etc puedes intercambiar, eliminar, adicionar modelos a tu gusto.
Al ser una herramienta de código abierto el código está disponible en el repositorio de Github lo cual nos da una cuota de seguridad. Jan AI permite la descarga para los diferentes sistemas operativos como Windows, Mac Y Linus simplemente ingresando a la Página oficial de JAI AI .
Facilidad de Uso
Hasta hace poco la descarga y ejecución de modelos de código abierto como Mistral 8x7B en tu computadora era un proceso complejo, confuso y hasta frustante si no tenías muchos conocimiento técnicos . Esta herramienta viene a hacerlo realmente fácil!. Solo necesitas seguir algunos pasos para ponerla en funcionamiento y comenzar a chatear con CHATGPT o cualquiera otro en menos tiempo del que te imaginas.
Interfaz Intuitiva
La interfaz de usuario de Jan AI es similar a los otros chatbots , como Chat GPT, lo que la hace aún familiar y fácil de navegar. Puedes seleccionar los modelos, ajustar los parámetros y empezar a chatear mientras te tomas un café.
Costo y Privacidad
Una de las grandes ventajas de Jan AI es que permite modelos con de código abierto y gratuitos, lo que elimina preocupaciones sobre costos recurrentes o privacidad de datos. Puedes ejecutar estos modelos localmente sin estar conectado a Internet.!
Descarga e Instalacion
Ir a la página oficial de JAN AI y descargar la aplicacion de acuerdo a tu sistema operativo Windows, Mac ó Linus
Luego debes de descomprimir el archivo y seguir los pasos para abrir la aplicacion. Esta abrirá una carpeta local con un simbolo de una mano
Abre la aplicacion y Ahora tienes la interfaz que te está indicando en la parte central que aún no hay un modelo . En el lado izquierdo puedes desplegar el HUB con todas las aplicaciones disponibles de acuerdo a las capacidades de tu máquina.
Como puedes ver ahora te dirá directamente los modelos que se pueden correr y cuales no, Los modelos disponible que soporta tu dispositivo están en verde y los que no están en rojo. Hábra algunos modelos en amarillo, esos puedes instalarlos y correrlos dependiendo de la capacidad de tu equipo.
Es importante que cheques bien. Como ves los modelos de Chat GPT necesitan API , es decir necesitarás conexion a internet y en algunos casos pagar por ella . Otros modelos con Formato GGUF se pueden descargar directamente y puedes trabajar con ellos si necesidad de conexion. Una vez que decidas el modelo modelo preferido, solo haz click en descargar o usar y regresa a la pagina de chat.
En la página haz clik sobre el campo del modelo, y alli encontrarás él ó los modelos descargados. Yo me incliné por usar Gemma 2B Q4. Un modelo de última generación de Google AI, que permite escribir poemas, historias, guiones y mucho más. No solo eso, también es ideal para traducir idiomas, investigar temas complejos e incluso iniciar conversaciones con un chatbot inteligente.
La interfaz de usuario de Jan AI es fácil de usar y tiene un parecido sorprendente con el CHAT GPT. Puede crear un nuevo hilo de chat, darle un nombre en campo que dice Title.
Parámetros de Jan AI
En la parte derecha e inferior de la interfaz tienes los parámetros del modelo, puedes testear los valores y para mirar la calidad de las respuestas.
La siguiente tabla te indica que es cada variable y algunos valores por defecto que se pueden usa.
| Parámetro (en inglés) | Descripción en inglés | Descripción en español | Rango de uso sugerido | Valor por defecto |
| temperature | Controls the creativity of the generated text. Higher values generate more creative text, but also more random text. | Controla la creatividad del texto generado. Valores más altos generan texto más creativo, pero también más aleatorio. | 0.0 – 1.0 | 0.5 |
| top_p | Controls the probability that the most probable words are generated. Higher values generate more predictable text, while lower values generate more surprising text. | Controla la probabilidad de que se generen las palabras más probables. Valores más altos generan texto más predecible, mientras que valores más bajos generan texto más sorprendente. | 0.0 – 1.0 | 0.9 |
| presence_penalty | Penalizes the repetition of words and phrases. Higher values generate more varied text, while lower values allow more repetition. | Penaliza la repetición de palabras y frases. Valores más altos generan texto más variado, mientras que valores más bajos permiten más repetición. | 0.0 – 1.0 | 0.1 |
| repetition_penalty | Penalizes the generation of the same word or phrase several times in a row. Higher values generate more fluent text, while lower values allow more repetition. | Penaliza la generación de la misma palabra o frase varias veces seguidas. Valores más altos generan texto más fluido, mientras que valores más bajos permiten más repetición. | 0.0 – 1.0 | 1 |
| stop_sequences | List of words or phrases that indicate that the text should end. | Lista de palabras o frases que indican que el texto debe terminar. | «» | «» |
| fluency_penalty | Penalizes the generation of text that is not grammatically correct or that does not make sense. Higher values generate more fluent text, while lower values allow less grammatically correct text. | Penaliza la generación de texto que no es gramaticalmente correcto o que no tiene sentido. Valores más altos generan texto más fluido, mientras que valores más bajos permiten texto menos gramaticalmente correcto. | 0.0 – 1.0 | 0.5 |
| stream | Indicates whether the model should generate text in a continuous stream or in a batch. | Indica si el modelo debe generar texto en un flujo continuo o en un lote. | «stream» or «batch» | «stream» |
| context_length | The maximum number of tokens to include in the context when generating text. | El número máximo de tokens para incluir en el contexto al generar texto. | 0 – 2048 | 512 |
Los valores de uso fijo no existen, lo mejor es ensayar y ver qué funciona mejor para tus necesidades . Como regla siempre maximizo el número de tokens para que la tarea se complete.
Es bueno recordar que dependiendo de la complejidad de la tarea pues hay cierta orientación en los valores de uso para las variables asi:
- Para tareas complejas, como operaciones matemáticas o redacción de textos técnicos, se recomienda utilizar valores bajos para la temperatura y top_p, y valores altos para la presencia_penalización, repetición_penalización y fluency_penalty.
- Para tareas creativas, como la escritura de poesía o la generación de historias, se recomienda utilizar valores altos para la temperatura y top_p, y valores bajos para la presencia_penalización, repetición_penalización y fluency_penalty.
- Para tareas generales, como la traducción de idiomas o la respuesta a preguntas, se recomienda utilizar los valores por defecto.
Si elige utilizar un modelo que necesite api, debes dirigirte a la página de los desarrolladores del modelo y solicitar la clave. De pronto éste no tendrás la mismas privacidad pero si el confort de trabajar desde tu propia computadora con el modelo de tu preferencia o que mejores resultados te brinda.
Te puede interesar leer:
El Prompt Perfecto
Si quieres aprender a como crear prompts para tener un mejor desempeño en tu carrera profesional o en tu negocios te dejo este artículo en el cual verás a como crear tus propios prompts de manera efectiva y sencilla.
Si te ha gustado nombre del Descarga AI gratis a tu pc con Jan AI -Guía y te gustaría seguir leyendo contenido similar, puedes visitar la categoría de Tecnologia . ¡Y no olvides dejar un comentario 🤗!
Que esperas prueba ya Jan AI en tu pc y cuentanos como te va
