Tu propio Github Copilot Gratuito instalado en tu computador - Code GPT y Ollama
Ғылым және технология
Con la gran cantidad de modelos inteligentes abiertos, actualmente tambien es posible tener tu propio chat inteligente instalado en tu propio computador y use tu hardware en lugar de la nube, asi que en este tutorial te voy a enseñar como tener tu propio modelo inteligente para que puedas usarlo desde Visual Studio Code al igual que Github Copilot, para lograr esto usaremos Ollama, un software que nos permite instalar LLMs abiertos y Code GPT, una extension de visual studio code que nos permite utilizar multiples modelos inteligentes dentro de VSCode.
⭐ Cursos Recomendados
Curso de Nodejs ⮕ fazt.dev/nodejs
Curso de Python⮕ faztweb.com/python
Curso de React ⮕ • Curso de Reactjs desde...
Curso de Nextjs ⮕ • Curso de Nextjs desde ...
Curso de Javascript para React ⮕ • Javascript para Aprend...
🎒 Servicios Recomendados
SiteGround ⮕ bit.ly/31u9ZEk
Railway ⮕ railway.app?referralCode=fazt
Namecheap ⮕ namecheap.pxf.io/ErDe9
🎒 Otros Servicios
Ledger ⮕ (Hardware Wallet) bit.ly/3ijsVNW
Cloudinary ⮕ bit.ly/3ohNlJ7
Notion ⮕ affiliate.notion.so/yj9uc7bi3miq
🗣 Redes Sociales
Github ⮕ github.com/fazt
Twitter ⮕ / fazttech
Discord ⮕ faztweb.com/social/discord
Puedes encontrar la lista de tutoriales de Nodejs en:
faztweb.com/nextjs
#terraform #digitalocean #vps #cloud
#ollama #desarrolloweb #chatgpt #githubcopilot #vscode
Пікірлер: 123
Fazt es mi pastor y nada me faltará!
@sneuder9544
3 ай бұрын
Fazt es mi pastor y mi código compilará.
@PedroEnriquePadillaRuiz
3 ай бұрын
🤣🤣🤣
@odiio3402
2 ай бұрын
Sobre delicados repositorios me hará descansar
@FrancoAguileradonillan
Ай бұрын
Cuando camine por el valle de los bugs, no temere porque fazt es mi pastor, y mi proyecto se deployara
Espectacular extensión GPT Code + Llama3. Muchas gracias!
Excelente video, muchas gracias, tus tutoriales son excelentes, van al grano bien explicados y sin exagerar en detalles, muchas gracias.
Tus aportes son realmente útiles, gracias por compartir
Gracias fazt! como siempre un grande
Super interesante. Voy a probar hacerlo. Gracias por compartir tus conocimientos.
excelente me funciono, ya tengo copilot pero con esta nueva ia podre complementar mejor mi forma de desarrollar.
Justamente había visto la noticia del lanzamiento de llama 3 y pensé en si fazt haría algún tutorial sobre eso... increíble fazt, un grande!
Excelente video, primera vez usando ia en mi vs code
Fazt: No se preocupen, la descarga es muy rápida Yo al ver su conexión de más de 1 Gbps :|
Muchas gracias Fazt!
excelente dato, gracias sensei
Muy buen tips mi hermano, tambien soy creador de contenido, tus contenidos son excelentes, GRACIAS
Muchas gracias Fazt
Wow muchas gracias!!!
Eres un crack! De siempre
Gracias fazt, tengo entendido que te llamas igual que yo, pero, de grande quiero ser como tú, gracias por tus aportes compa
Agradable aporte, para nosotros los humildes.
MUCHAS GRACIAS AMIGO , ME SERVIRÁ MUCHO PARA PRACTICAR PYTHON , MIL GRACIAS
Justamente compré una ASUS con i9 gen 13 la semana pasada para usar Ollama. Esto es genial. Gracias.
Lo que tú digas, voy a probarlo de una vez.!!!!
Gracias mi Sensei
Excelente video man! Oiga! no habia mirado el numerito de los me gusta y las vistas! Como ha crecido el canal eh? recuerdo cuando era el unico que comentaba :P :D Grande Fatz! siga educandonos, por favor! EDIT: no que lama 3 acaba de salir? y usted ya nos está enseñando a usarlo?... lo siento, lo olvidaba... FAZT Code :D
Confío en ti porque tenés credibilidad
@Austin_de_Backyardigans
2 ай бұрын
no entiendo
Yo uso la extensión de black box, tiene autocompletado, pero me parece genial llama 3. Lo probaré
Una consulta, algo que note es que no se guarda la conversacion? o como se hace?
Gracias bro
@FaztCode
3 ай бұрын
Con gusto :)
Yo utilizo Codium, muy similar también.
Es exelente. Sabes si podria instalarlo en mi proyecto para hacer un chat bot de whatsapp usando mis datos y evitando pagar la api de openIa? Gracias por tu aporte. siempre aprendo en tu canal
Grande fazt, podrías subir un vídeo de cómo conectar node con el modelo y así poder interactuar con el directamente desde el código y usarlo en proyectos? Por favor sería de gran utilidad.
120 MB/s vs mis poderosos 4 MB/s
gracias por la informacion Fazt una pregunta, si tengo una gpu de amd siempre puede funcionar?
Fazt, podrías hacer un ejemplo de implementación de Llama 3 con algún SDK, para análisis de datos y así
¿Se puede entrenar un modelo con tu proyecto particular para que sean mucho más específicas las respuestas del chat ?
Parcero te imaginas el poder del modelo de llama3 que tiene 400B. Es una locura!!
Buenas, gracias por la herramienta muy buena, yo tenia la duda de si al igual que github copilot, que depura el código y no lo almacena en sus servidores. En resumen si nuestro código no se hace publico utilizando esta herramienta. Saludos.
Puedo usarlo para redactar Commits automáticamente?
ollama ya tiene llama3 cool !, que modeloz uso?
Excelente compa, tengo una pregunta tu que sabes más, si tú dices que llama3 fue entrenado con la información del 2022, y por eso no te muestra las nuevas características de react o cualquier otro framework, la pregunta es como puedes actualizar el modelo ? Se puede ir a Github y descargar las últimas versiones y cargarlas en el modelo y con eso podríamos tener actualizado el modelo ? O es más complicado que eso?
help no me funciona al instalar la extencion dice que algo a salido mal que vuelva intentarlo... y se queda hay for ever como el chavismo en venezuela
me reventó el vs code noooo y lo tenia tuneado, ahora a instalar de nuevo
Si quisiera usar un gpt que me de datos actualizados cuál recomiendas ?
puedes probrar instalando otros providers ?? gracias
Que tema utiliza para ese video de vs code?
Al utilizar Llama 3 mi CPU hace todo el proceso y mi GPU no hace nada, haciendo que sea lento y las respuestas dilatan en cargar, alguna sugerencia porfavor para utilice mi GPU, tengo una GTX 1650
¿Cuanta ram o gpu necesito para que se ejecute correctamente?
Yo uso Codeium y si tiene autocompletado, y un chat integrado en VS Code, usa GPT-3 👍👍👍
@eduardodudu5695
3 ай бұрын
es mejor, sin gastar tantos recursos. o incluso el editor del cursor.sh
@TheEltictacdicta
3 ай бұрын
@@eduardodudu5695 yo uso Cursor
@SpawN4609
3 ай бұрын
@@eduardodudu5695 que les parece mejor codeium o code whisperer de aws
@jomoju
3 ай бұрын
Codeium es amor, codeium es vida. Aunque ayer note que fallaba un poco
@isrcas
3 ай бұрын
@@jomoju para ser gratuito esta genial
a mi solo me instala Ollama pero no me permite ejecutarlo ni usar la terminal
Estos modelos podrian ser compartidos para que aprenda las buenas prácticas de un grupo de desarrollo. Gracias por el aporte Crack!
No me funciona ,pongo consultas en el chat pero solo sale la tipica ruedecita girando en el cartel del modelo llama3:8b al lado del simbolo de home....
oye amigo Fazt podria usarlo pero con neovim?
tengo problemas al descargar la extensión, simplemente se queda en blanco, no puedo ver nada de la extensión, ya intente deshabilitarla, reinicar el vsc y hasta reiniciar el pc y nada
Cuál pc tienes?
baje todo lo que dijiste, llama 3, codellama, mistral y variossss...pero al ejecutarlo osea al usarlo en vscode va lentísimo. mi laptop asus core i9 con 32Gb de ram. y en todo es muy rápida, nose si la IA consume todo y no seria viable. no quiero ni pensar como seria con una laptop de menos especificaciones.
@josuegalan6358
2 ай бұрын
Puedes usar IA en tu codigo siempre que estes conectado a wifi
hola, no me funcionó, se queda cargando la respuesta pero no pasa nada... como puedo solucionar esto? muchas gracias
Estaria bueno un minitutorial de una rest api con AdonisJS
Gracias! Estaba en esto de hace tiempo pero había un par de cosas que no me funcionaban. Que bien que la semana que viene den autocompletado. Llama3 va mejor incluso que codegemma para código no? mola que con una 1070 que tiene unos 8vram, si configuro windows a procesar en "económico" no se calienta a 82grados como cuando lo pongo en alto rendimiento. Un poco más lento pero más vida pal pc que esta viejito aunque aguanta :)
@kf_11
3 ай бұрын
Justo iba a preguntar eso jaja parece que estoy friendo huevos en el cpu, ni con los juegos pasa de 70 °C y no vi ningún comando que limite el uso de recursos o algo
Muchas gracias, a mi no me funciona, me imagino que puede ser por el tema de la exigencia a la tarjeta grafica. El CodeGpt esta genial, pero solo permite 5 preguntas en las demas IA
Al instalarse dentro del sistema no requiere de internet entonces?
@FaztCode
3 ай бұрын
así es una ves instalado ya no requiere internet
Que dizes tio !!
Está genial, lo malo es que me cuesta mucho la tarjeta grafica para que me corra el llama 3 jaja
Gracias bro. Y cuanto tiene que tener la máquina para que te corra esto (CPU, ram, etc..)
@FaztCode
3 ай бұрын
Te dejo el Post de Github donde especifican todo esto :) github.com/open-webui/open-webui/discussions/736
@LadyTrunyx
3 ай бұрын
Consigue un portatil gaming y te quitas todos los problemas.
Lo que me preocupa es el consumo de memoria y procesador. Tienes este detalle?
@FaztCode
3 ай бұрын
Si claro aquí lo dejo github.com/open-webui/open-webui/discussions/736#discussioncomment-8474297
Viéndolo antes que lo ponga solo para miembros:(
y con esta implementacion, te autocompleta el codigo, asi como lo hace copilot?
@FaztCode
3 ай бұрын
Aun no, pero esta semana actualizan la extensión para que también permita autocompletar
@fcomosan
3 ай бұрын
@@FaztCode ah buena noticia. Lo dejare descargando para probarlo. Muy buen video Fatz
Se puede entrenar un modelo de Llama?
@jossejosse952
3 ай бұрын
Para eso busca información como, como hacer un ajuste fino en un modelo preentrenado.
Se podrá utilizar este asistente en una página web?
@FaztCode
2 ай бұрын
Si podrias desplegarlo en un VPS y consumirlo desde alli al estilo de la API de OpenAI
Que genial fazt, una pregunta sabes cuales son los requisitos de hardware para ejecutar llama3?
@ANGHELLUZ
3 ай бұрын
Existen dos variantes: Llama 3 8B, si tienes un sistema con recursos limitados y Llama 3 70B, mientras cuente con un rendimiento excepcional, pero con mayores demandas de hardware. Aquí están los detalles sobre estos modelos y los requisitos de hardware para ejecutarlos localmente: 1. Llama 3 8B: - Requisitos mínimos de hardware: + RAM: Al menos 16 GB + GPU: Una GPU potente con al menos 8 GB de VRAM, preferiblemente GPU NVIDIA con soporte CUDA + Disco Duro: 4 GB 2. Llama 3 70B: - Requisitos mínimos de hardware: + RAM: 64 GB o más + GPU: Una GPU potente con al menos 8 GB de VRAM, preferiblemente GPU NVIDIA con soporte CUDA + Disco Duro: 20 GB
es de meta?🤔
Que tema usas en vscode?
@FaztCode
3 ай бұрын
Este se llama tokyo night dark
@_holamellamojesus
3 ай бұрын
@@FaztCode gracias
si tengo una tarjeta de video integrada AMD Ryzen 5 3400G ¿sirve igual? ¿cuanto de ram se necesita? saludos
@kf_11
3 ай бұрын
De lo que he probado, con Ryzen 3 3200G, funciona sí, pero usa 100% del CPU, para la RAM en cuanto al proceso ollama_llama_server usa 4.6 GB, de la GPU integrada es muy poco el uso 400MB aprox. Tengo 16GB de RAM a 3200MHz Resumiendo, al menos con mi procesador la temperatura se va a 82 °C con disipador stock, no recomendable jaja a menos que le bajes la energía máxima al procesador a costa de que tarde más en responder o tener un disipador muy bueno. Podrías probar a ver cómo funciona el en Ryzen 5, no pierdes nada. Solo cuestión de ver las temperaturas, posiblemente con una gráfica mejore el uso del CPU.
@cristianbustamante62
3 ай бұрын
@@kf_11 gracias por tu respuesta
@ZeroCool22
2 ай бұрын
@@kf_11 Yo tengo: Ryzen 5900x GPU: Nvidia 1080 TI (11gb de VRAM) RAM: 32GB. Cual modelo me recomendás probar?
@kf_11
2 ай бұрын
@@ZeroCool22 KZread no deja poner links, pero hay un hay un post de GitHub. Los modelos van: - Modelo 7B - 4GB VRAM - Modelo 13B - 8GB VRAM - Modelo 30B - 16GB VRAM - Modelo 65B - 32GB VRAM
@kf_11
2 ай бұрын
@@ZeroCool22 En tu caso se podría al 13B
no sirve si no es en tiempo real, porque despues del 2022, muchas cosas opiamente se actualizaron
va a explotar mi computadora, no se si lo vale
Me corre a una palabra por minuto, pero gracias.
@FaztCode
3 ай бұрын
jaja si lamentablemente aun estos modelos consumen muchos recursos de hardware, con una buena grafica se tienen que usar
Necesito un super pc?
Fazt excelente video, gracias por compartir tu conocimiento y enseñar las cosas paso a paso. Te sigo hace tiempo, con este video aprendí a crear mi primera página HTML kzread.info/dash/bejne/pJapu9arfrjel5c.html Desde ahí me sigo capacitando y aprendiendo cada vez tecnologías nuevas, ese hecho ha cambiado mi vida y me ha abierto puertas a trabajar para empresas.
Mi vieja GPU aparentemente no es compatible (AMD rx 570) asi que va a puro CPU 🥵
en mi maquina esta super lento
@FaztCode
3 ай бұрын
Si hasta la fecha los modelos inteligentes requieren alguna tarjeta grafica o un buen procesador para que vaya fluido
@CarlosHidalgoLa
2 ай бұрын
Requerimientos: Modelos Pequeños (7B - 13B parámetros): RAM 16-32 GB, CPU Intel i7/i9 o AMD Ryzen 7/9, GPU opcional de 8 GB VRAM (NVIDIA RTX 3060). Modelos Medianos (30B - 65B parámetros): RAM 32-64 GB, CPU Intel i9 o AMD Ryzen 9, GPU de 16 GB VRAM (NVIDIA RTX 3080/3090). Modelos Grandes (175B parámetros y superiores): RAM 64-128 GB, CPU Intel Xeon o AMD Threadripper, múltiples GPUs con 24 GB VRAM cada una (NVIDIA A100, RTX 3090).
lo malo es que solo se enfocan en lengujajes conocidos
@FaztCode
2 ай бұрын
Debe ser por el entrenamiento que usan
Si fazt está conmigo, ¿Quien contra mi?
La verdad es una herramienta muy simplona, y funciona solo en ingles y la verdad bastante mal, hasta con lmstudio. Nada interesante.
pta q lento xd
Si tu pc es una mierda ni lo piense