6. INIZIAMO A PARLARE CON L'AGENTE (GPT LLM) [ CHESHIRE CAT AI ]

Come promesso, mettiamo mano sullo Stregatto in modo finalmente pratico, e vediamo come si inizializza l'agente.
Configuriamo, per prima cosa, il Language Model (scegliendo in questo caso GPT 3.5) e poi l'Embedder (Ada di OpenAI), entrambi fondamentali per il funzionamento di Agente RAG di questo framework.
**Documentazione COMPONENTI**:
cheshire-cat-ai.github.io/doc...
**Link Installazione Stregatto**:
cheshire-cat-ai.github.io/doc...
**Documentazione Generale Stregatto**:
cheshire-cat-ai.github.io/docs/
Per qualsiasi domanda, usa la sezione dei commenti, oppure contattami!
Contatti:
WEB: michaelsaccone.it
MAIL: info@michaelsaccone.it
Timestamps:
00:00 Intro ai contenuti
00:15 Situazione iniziale
00:49 Avviare lo Stregatto
02:07 Pannello OpenAPI per endpoint HTTP
02:55 Il pannello Admin
03:19 Configurare il Language Model
04:50 Collegare GPT
07:10 Pronti a messaggiare
07:45 Personalizzare l'agente con un plugin
08:07 Il Prompt Prefix
09:33 Barriere Linguistiche
10:09 Fail barbaro
10:27 Misure Embedder sulla LTM
11:10 Il primo Tool
12:24 Riepilogo
#cheshirecat #ai #intelligenzaartificiale #chatgpt #llm #programming #webdevelopment #docker #rag #agents #agenticai #embedder

Пікірлер: 21

  • @Adrem-Official
    @Adrem-OfficialАй бұрын

    Ottimo video michael, sarebbe interessante anche vedere come modificarne il layout a proprio giusto e come embeddarlo su un sito esterno (che sia wp, webflow, react etc etc..).

  • @user-hr6pg5zh1n
    @user-hr6pg5zh1n21 күн бұрын

    Grazie.

  • @giovannisardisco4541
    @giovannisardisco4541Ай бұрын

    3:14 guarda che faccia. Non se l'aspettava.

  • @Prof_Michael_Saccone

    @Prof_Michael_Saccone

    Ай бұрын

    Lezzo proprio

  • @user-lr5tw6ur4o
    @user-lr5tw6ur4o26 күн бұрын

    chi ha provato la key e è rimasto deluso? hihi

  • @syntartica
    @syntarticaАй бұрын

    Come sempre Grazie Michael. Domanda: E' possibile creare più agenti con caratteristiche diverse? Immagino ad esempio un'interfaccia grafica con diversi pulsanti che al click attivano l'agente collegato...

  • @Prof_Michael_Saccone

    @Prof_Michael_Saccone

    Ай бұрын

    Per "caratteristiche diverse" intendi personalità e parametri diversi? In tal caso basta un plugin e la working Memory per cambiare tutti i parametri che vuoi in base alla richiesta in arrivo

  • @syntartica

    @syntartica

    Ай бұрын

    @@Prof_Michael_Saccone grazie per la risposta :) Si, personalità e parametri diversi :) Ti seguo :D

  • @syntartica

    @syntartica

    Ай бұрын

    @@Prof_Michael_Saccone per intenderci (non so se conosci questo progetto... ma di sicuro si :D) --- creare un'interfaccia simile agli agenti di khoj -> app.khoj.dev/agents

  • @Prof_Michael_Saccone

    @Prof_Michael_Saccone

    Ай бұрын

    ​@@syntartica Certo, l'idea è buona e chiara, ma volendo essere precisi bisogna fare un po' di appunti. Diversi agenti possono avere uno stile e personalità diversi, e fin qui è semplice e si può fare anche con un singolo agente dietro le quinte e diverse strutture prompt al Modello Linguistico. Diverso è se gli agenti possono compiere azioni diverse o se usano Modelli Linguistici diversi, ciascuno ottimizzato con fine tuning per il suo specifico task. Tutto si può fare, cambia la complessità del lavoro da fare

  • @giovannisardisco4541
    @giovannisardisco4541Ай бұрын

    Michael, ti piacerebbe tenere un talk sullo Stregatto al prossimo LinuxDay?

  • @Prof_Michael_Saccone

    @Prof_Michael_Saccone

    Ай бұрын

    @@giovannisardisco4541 Sarebbe divertente

  • @giovannisardisco4541

    @giovannisardisco4541

    Ай бұрын

    @@Prof_Michael_Saccone il LinuxDay più vicino a te dovrebbe essere quello di Verona. Credo sia già aperta la call of paper. Parlare di questo progetto è come parlare di futuro attuale (passami il termine 😅).

  • @Prof_Michael_Saccone

    @Prof_Michael_Saccone

    Ай бұрын

    @@giovannisardisco4541 su che siti posso informarmi / applicare?

  • @giovannisardisco4541

    @giovannisardisco4541

    Ай бұрын

    @@Prof_Michael_Saccone credo sia appena partita l'organizzazione (si svolgerà ad Ottobre, come sempre) e ancora non ci sono i siti aggiornati. Mi sono fatto dare il contatto di chi dovrebbe essere l'organizzatore di quest'anno e gli ho scritto. Ti faccio sapere 😊

  • @AndreaSemprini-tt5mg
    @AndreaSemprini-tt5mgАй бұрын

    Attendiamo con trepidazione il video su come configurare Ollama nello stregatto ! 😎🦙 Ci ho provato seguendo la guida online, ma con scarso successo 🫤

  • @Prof_Michael_Saccone

    @Prof_Michael_Saccone

    Ай бұрын

    arriva presto anche quello. Serve buon hardware, ma è più facile di quel che sembra 😉

  • @hiroshi976

    @hiroshi976

    Ай бұрын

    Sto utilizzando ollama con il modello mistral 7b. Devo dire che è impressionante la duttilità di stregatto. Ho configurato una macchina di qualche anno fa, ma tutto sommato utilizzando anche la gpu nvidia con il toolkit per docker e il compose.yml , è gestibile per sperimentare. Ma chiaramente ha ragione Micheal, serve un ottima macchina. Complimenti per i video e il metodo che utilizzi Michael 💪👍

  • @AndreaSemprini-tt5mg

    @AndreaSemprini-tt5mg

    Ай бұрын

    @@hiroshi976 a livello HW non dovrei esser troppo limitato per questo tipo di test. Ho un processore Intel i7-13850X 13th gen, 64GB RAM e GPU NVIDIA RTX 2000 ADA. Son riuscito ad attivare il toolkit NVIDIA, ma poi ho messo mano al compose.ylm per usare Llama3:8b e a quel punto devo aver fatto qualcosa di sbagliato 😁 .. Proverò a fare un test col compose.ylm ai valori di default! 🤞🏻

  • @hiroshi976

    @hiroshi976

    Ай бұрын

    @@AndreaSemprini-tt5mg Assolutamente, con quella macchina non dovresti avere problemi nella sperimentazione. Io al momento sono alle prese su come capire l'implementazione su una eventuale pagina web e soprattutto come farla usare ad utenze non administrator.

  • @AndreaSemprini-tt5mg

    @AndreaSemprini-tt5mg

    Ай бұрын

    @@hiroshi976 sei già a un livello avanzato! Il mio obiettivo è creare un agente locale che possa interrogare su dei documenti di lavoro (guide utente, note tecniche ecc) in modo da ridurre i tempi di ricerca delle informazioni per i clienti (faccio supporto tecnico).

Келесі