L'approccio locale non l'ho ancora provato, grazie per la dritta. Lo vedrei molto utile per gestire dati, senza il bisogno di anonimizzarli. Ad esempio, normalizzare i dati, secondo un formato ben specifico.

@giacomociarlini4557

4 ай бұрын

Giusto, ottima idea, tipo anche solo formattazione

L'approccio locale permetterebbe di fare review del codice di scripting, che magari contiene dati aziendali interni, che non si vogliono condividere: riferimento al prodotto aziendale, indirizzi IP, nomi utente, ecc. e si spera non password 😂 Alcune aziende vietano anche semplicemente condividere codice in strumenti online, figuriamoci usare un LLM online, che viene allenato con i dati che immetti.

@giacomociarlini4557

4 ай бұрын

Super interessante, vero!

Ritengo molto interessante il contenuto di questo video, complimenti. Non ho provato questo genere di modello AI locale, ma credo che una possibile applicazione possa essere l'uso in una piccola azienda per la gestione delle risorse della stessa: una sorta di motore di ricerca sulle risorse riservate patrimonio aziendale. Però in questo caso, come potrei addestrare il modello opensource a conoscere in modo automatico ciò che sono le risorse dell'azienda?

@giacomociarlini4557

4 ай бұрын

La risposta si chiama RAG

@giorgiovacca

4 ай бұрын

@@giacomociarlini4557 ci pensavo, ma ogni volta caricare le "tipicità" del proprio bagaglio mi sembra un pochino pesante. Mi sbaglio, o mi sono preso qualche puntata sul RAG?😂

Complimenti per il video molto interessante. I file che legge in che formato sono. E poi la RAM minima per Windows ? Ho su un notebook con 8 giga e un desktop con 16 giga

@giacomociarlini4557

5 ай бұрын

Su Mac gira bene con i processori serie M... dovresti provare, non so dirti esattamente come funzioni su windows

Molto interessante... chiedo: è possibile installare IA su pandrive ? se sì è poi interrogabile con api da excel ? Vorrei usare VBA per fare delle chiamate a IA locale su pendrive...

@giacomociarlini4557

4 ай бұрын

non direi

Bravi, bravi, bravi. Avevate promesso che avreste fatto tutorial specifici e avete mantenuto la promessa. Sarebbe bello anche parlare di modelli in locale per immagini e modellazione 3d come PIfuHD....

@giacomociarlini4557

5 ай бұрын

interessante, valutiamo, grazie! :)

@giovannilicata-ph4uo

4 ай бұрын

@@giacomociarlini4557 Grazie a voi!!!

Ottimo video! Domanda, con questi modelli è possibile fare analisi di documenti?

@giacomociarlini4557

4 ай бұрын

Solo se in formato testuale, non leggono PDF. Estrai il testo e poi puoi usarlo

bellissimo, ma posso caricare dei miei dati in locale per poter chattare rispetto ai miei dati? ad esempio caricare i miei contratti e fatture e estendere la sua base di conoscenza? o ad esempio caricare i manuali operativi dei miei sistemi?

@giacomociarlini4557

4 ай бұрын

Non con questo strumento, però ora che ci penso potrei fare un tutorial su come farlo.. ottima idea!

@giusepperossi699

4 ай бұрын

@@giacomociarlini4557 Mi interesserebbe molto! Grazie

@giuseppevero2359

4 ай бұрын

E se la creazione dell'agente AI (con relativo addestramento) venisse fatto su LXC in ambiente PROXMOX, ....non ci dispiacerebbe proprio come tutorial.

@dataproject4199

3 ай бұрын

Sono anche io interessato a dargli in pasto documenti e usarlo come un RAG per proteggerne la privacy. Se puoi farne una demo. Grazie

Infrastructure as a code potrebbe essere un esempio di applicazione interessante, anche la verifica di requisiti non funzionali

@giacomociarlini4557

4 ай бұрын

Molto figo, sa scrivere Terraform tra l'altro

Complimenti, molto interessante. Una volta installato in locale e possibile creare un link di collegamento e farlo usare ad un collaboratore solo per fare ricerche nel database, per esempio, ma partendo solo dal link di collegamento? Grazie

@giacomociarlini4557

4 ай бұрын

Puoi ospitare un server in locale, quindi in teoria si, se qualcuno si connette alla tua macchina

@michelemontalto8675

4 ай бұрын

@@giacomociarlini4557 ok grazie mille

Qual è il migliore in italiano tra Mistral, Google Gemma e Microsoft Phi?

@giacomociarlini4557

5 ай бұрын

sono tutti abbastanza simili, ma gemma probabilmente è meglio. Se hai l'accesso alle API probabilmente Haiku, il nuovo di Anthropic, dovrebbe batterli tutti (ma essere cmq piccolo ed efficiente)

Pure, allora diventa interessante.

@giacomociarlini4557

4 ай бұрын

si spacca

Innanzitutto complimenti per il video. Ma questi modelli possono supportarti anche nella scrittura di codice?

@giacomociarlini4557

5 ай бұрын

Certo, come ogni modello!

@lorenzovarricchio7885

4 ай бұрын

@@giacomociarlini4557 Grazie :)

Domanda: quanto può essere lungo il prompt? Meno di ChatGPT?

@giacomociarlini4557

4 ай бұрын

Ciao, dipende dal modello! Ogni modello ha una finestra di input diversa

Era un po che cercavo una soluzione per usare in AI un locale. Al lavoro volevo usarla per 2 task: leggere delle note di ordini per decidere se nelle note ci sono informazioni particolari che vanno prese in considerazione oppure note del tipo "urgente" o altro generico che non richiede un ulteriore revisione umana e si può subito mandare in preparazione; oppure volevo dargli in pasto 2 file: il nostro listino e quello del fornitore e lui abbinava i nuovi prezzi al nostro listino (il fornitore gestisce i listini in modo diverso e non basta un semplice "cerca.vert" di excel 😅). Dici che per questi task potrebbe funzionare? Sono disponibili anche le API per collegarsi con python? Come si fa per addestrarlo con dei file? Grazie per la risposta e per il video.

@giacomociarlini4557

4 ай бұрын

Uhm, task non banale, però se lo spezzi in chunks potrebbe andare. Puoi hostare in locale un server che mostra le API. Addestrarlo con dei file non è possibile su un pc locale senza una GPU e senza un processo di finetuning.

@ken81tube

4 ай бұрын

@@giacomociarlini4557 Grazie per la risposta. Mi sapresti consigliare una soluzione sulla quale focalizzami (se al momento esiste) che possa eseguire questi task ed essere allenata con file, il tutto su un pc locale? Avevo sentito di Google Gemma e Meta Llama2. Potrebbero funzionare? Grazie

@giacomociarlini4557

4 ай бұрын

Yes hanno senso @@ken81tube

@giacomociarlini4557

4 ай бұрын

@@ken81tube si e puoi usarli con unj sistema RAG, dai un occhiata a llama index

Ciao e complimenti, credo che il massimo per un modello in locale sarebbe averlo personalizzato per il proprio utilizzo

@giacomociarlini4557

5 ай бұрын

Giusta osservazione, secondo me entreremo in questo trend

Cosa ne pensate di NVIDIA Chat RTX uscito da poco? Farete anche un video su quello? ;)

Mi interesserebbe paoterlo usare per.programmare per evitare di correre il rischio di farmi rubare le idee...e anche per aiutarmi a sviluppare idee di business(per la stessa ragione)...

Una domanda. Dove si scarica phi2

@giacomociarlini4557

4 ай бұрын

da hugging face, cerca "phi 2 huggingface"

Video molto interessante? è possibile interrogare il modello tramite api in locale?

@giacomociarlini4557

5 ай бұрын

Si, puoi creare un mini server locale :)

Fai dei video dove ci parli con loro,perfavore.

E poi. Su datapizza vi sono diversi autori? Perché ho fatto più volte una domanda semplice e cioè dove si scarica phi2, in un altro video, ma non ho mai avuto risposta 0:03

Ottimo video! é possibile utilizzarlo in excel?

@giacomociarlini4557

5 ай бұрын

Uhm, al momento non direi, a meno che tu non scriva l'integrazione tu stesso