6. INIZIAMO A PARLARE CON L'AGENTE (GPT LLM) [ CHESHIRE CAT AI ]
Come promesso, mettiamo mano sullo Stregatto in modo finalmente pratico, e vediamo come si inizializza l'agente.
Configuriamo, per prima cosa, il Language Model (scegliendo in questo caso GPT 3.5) e poi l'Embedder (Ada di OpenAI), entrambi fondamentali per il funzionamento di Agente RAG di questo framework.
**Documentazione COMPONENTI**:
cheshire-cat-ai.github.io/doc...
**Link Installazione Stregatto**:
cheshire-cat-ai.github.io/doc...
**Documentazione Generale Stregatto**:
cheshire-cat-ai.github.io/docs/
Per qualsiasi domanda, usa la sezione dei commenti, oppure contattami!
Contatti:
WEB: michaelsaccone.it
MAIL: info@michaelsaccone.it
Timestamps:
00:00 Intro ai contenuti
00:15 Situazione iniziale
00:49 Avviare lo Stregatto
02:07 Pannello OpenAPI per endpoint HTTP
02:55 Il pannello Admin
03:19 Configurare il Language Model
04:50 Collegare GPT
07:10 Pronti a messaggiare
07:45 Personalizzare l'agente con un plugin
08:07 Il Prompt Prefix
09:33 Barriere Linguistiche
10:09 Fail barbaro
10:27 Misure Embedder sulla LTM
11:10 Il primo Tool
12:24 Riepilogo
#cheshirecat #ai #intelligenzaartificiale #chatgpt #llm #programming #webdevelopment #docker #rag #agents #agenticai #embedder
Пікірлер: 21
Ottimo video michael, sarebbe interessante anche vedere come modificarne il layout a proprio giusto e come embeddarlo su un sito esterno (che sia wp, webflow, react etc etc..).
Grazie.
3:14 guarda che faccia. Non se l'aspettava.
@Prof_Michael_Saccone
Ай бұрын
Lezzo proprio
chi ha provato la key e è rimasto deluso? hihi
Come sempre Grazie Michael. Domanda: E' possibile creare più agenti con caratteristiche diverse? Immagino ad esempio un'interfaccia grafica con diversi pulsanti che al click attivano l'agente collegato...
@Prof_Michael_Saccone
Ай бұрын
Per "caratteristiche diverse" intendi personalità e parametri diversi? In tal caso basta un plugin e la working Memory per cambiare tutti i parametri che vuoi in base alla richiesta in arrivo
@syntartica
Ай бұрын
@@Prof_Michael_Saccone grazie per la risposta :) Si, personalità e parametri diversi :) Ti seguo :D
@syntartica
Ай бұрын
@@Prof_Michael_Saccone per intenderci (non so se conosci questo progetto... ma di sicuro si :D) --- creare un'interfaccia simile agli agenti di khoj -> app.khoj.dev/agents
@Prof_Michael_Saccone
Ай бұрын
@@syntartica Certo, l'idea è buona e chiara, ma volendo essere precisi bisogna fare un po' di appunti. Diversi agenti possono avere uno stile e personalità diversi, e fin qui è semplice e si può fare anche con un singolo agente dietro le quinte e diverse strutture prompt al Modello Linguistico. Diverso è se gli agenti possono compiere azioni diverse o se usano Modelli Linguistici diversi, ciascuno ottimizzato con fine tuning per il suo specifico task. Tutto si può fare, cambia la complessità del lavoro da fare
Michael, ti piacerebbe tenere un talk sullo Stregatto al prossimo LinuxDay?
@Prof_Michael_Saccone
Ай бұрын
@@giovannisardisco4541 Sarebbe divertente
@giovannisardisco4541
Ай бұрын
@@Prof_Michael_Saccone il LinuxDay più vicino a te dovrebbe essere quello di Verona. Credo sia già aperta la call of paper. Parlare di questo progetto è come parlare di futuro attuale (passami il termine 😅).
@Prof_Michael_Saccone
Ай бұрын
@@giovannisardisco4541 su che siti posso informarmi / applicare?
@giovannisardisco4541
Ай бұрын
@@Prof_Michael_Saccone credo sia appena partita l'organizzazione (si svolgerà ad Ottobre, come sempre) e ancora non ci sono i siti aggiornati. Mi sono fatto dare il contatto di chi dovrebbe essere l'organizzatore di quest'anno e gli ho scritto. Ti faccio sapere 😊
Attendiamo con trepidazione il video su come configurare Ollama nello stregatto ! 😎🦙 Ci ho provato seguendo la guida online, ma con scarso successo 🫤
@Prof_Michael_Saccone
Ай бұрын
arriva presto anche quello. Serve buon hardware, ma è più facile di quel che sembra 😉
@hiroshi976
Ай бұрын
Sto utilizzando ollama con il modello mistral 7b. Devo dire che è impressionante la duttilità di stregatto. Ho configurato una macchina di qualche anno fa, ma tutto sommato utilizzando anche la gpu nvidia con il toolkit per docker e il compose.yml , è gestibile per sperimentare. Ma chiaramente ha ragione Micheal, serve un ottima macchina. Complimenti per i video e il metodo che utilizzi Michael 💪👍
@AndreaSemprini-tt5mg
Ай бұрын
@@hiroshi976 a livello HW non dovrei esser troppo limitato per questo tipo di test. Ho un processore Intel i7-13850X 13th gen, 64GB RAM e GPU NVIDIA RTX 2000 ADA. Son riuscito ad attivare il toolkit NVIDIA, ma poi ho messo mano al compose.ylm per usare Llama3:8b e a quel punto devo aver fatto qualcosa di sbagliato 😁 .. Proverò a fare un test col compose.ylm ai valori di default! 🤞🏻
@hiroshi976
Ай бұрын
@@AndreaSemprini-tt5mg Assolutamente, con quella macchina non dovresti avere problemi nella sperimentazione. Io al momento sono alle prese su come capire l'implementazione su una eventuale pagina web e soprattutto come farla usare ad utenze non administrator.
@AndreaSemprini-tt5mg
Ай бұрын
@@hiroshi976 sei già a un livello avanzato! Il mio obiettivo è creare un agente locale che possa interrogare su dei documenti di lavoro (guide utente, note tecniche ecc) in modo da ridurre i tempi di ricerca delle informazioni per i clienti (faccio supporto tecnico).