Ottimo come sempre! Secondo me sarebbe utilissimo vedere vari progetti (di complessità crescente) svolti "from scratch" :) Mi piacerebbe vedere anche qualche applicazione di import/editing dati (es.CSV) e RAG da file PDF. Continuate così!

Ok, dico la mia : fate uno VERO step by step su come installare il tutto su LXC in PROXMOX, e su come si sfruttano i benefici delle KAN (Kolmogorov-Arnold Network) su macchine non troppo "carrozzate" di GPU, ovvero a bassa richiesta di risorse di computazione. Poi, la questione training : fare il training con documenti caricati da noi, e training su siti on line (wiki) è fondamentale per creare macchine AI che svolgano i compiti che ci interessano in situazioni reali. Grazie per la vostra professionalità, siete TOP

Ottimo tutorial! Suggerisco una serie di tutorial che spieghi e faccia vedere step by step come finetunare un modello opensource.

@giacomociarlini4557

2 ай бұрын

Bhe... :) wait and see

@user-qp4hs2uk2w

2 ай бұрын

up

Contenuto super! Suggerisco una serie di tutorial che spieghi e faccia vedere step by step come utilizzare un modello opensource da Hugging Face. Magari automatizzando un flusso che integri dati da applicazioni in locale e online, ricevendo un imput iniziale magari da mail.

La foto del Pupone che indossa la maglia di Datapizza mi fa volare tantissimo. Siete dei grandi!

@giacomociarlini4557

2 ай бұрын

ahahah si fa quel che si può

vai con la playlist!!

bellissimo tutorial grazie!

Il modello da 7B di Llama già non c'è più, ma si può scaricare quello da 8B. Tutorial ottimo e la furbata di andare a cambiare l'endpoint nei setting generali invece che nei singoli nodi è una manna dal cielo. Ora torno ad insegnare a Llama 3 a leggere i Tarocchi, come esercizio semplice e di cui voglio vedere chi mi confuta il risultato.

@giacomociarlini4557

2 ай бұрын

grande!

Veramente veramente top!

@datapizza

2 ай бұрын

Grazie mille!

Grazie ragazzi per aver risposto a praticamente quasi tutte le domande e ottimo video. Il contratto incollato, lo si sarebbe potuto prendere direttamente da un file in locale senza incollarlo? Sarebbe bello infatti capire se impostando tutto il workflow in Rivet, ci fosse poi la possibilità di automatizzare la ricezione dell'input e succcessivamente capire anche come creare una chiamata in batch al grafo di rivet. Si può pensare di fare un caso d'uso nel prossimo video che risponda a questa domanda, partendo anche solo da questo esempio?

@giacomociarlini4557

2 ай бұрын

Ciao, ottima idea!

Ciao quali sono le caratteristiche minime di un pc per utlizzare il modello Ollama 7b? Grazie

@StefanoCastellari

2 ай бұрын

8 GB dovrebbero bastare per modelli che hanno usato 7 mld di parametri 16 GB dovrebbero bastare per modelli che hanno usato 13 mld di parametri 32 GB dovrebbero bastare per modelli che hanno usato 33 mld di parametri Fonte kzread.info/dash/bejne/nX6qurZrZa_Rp6Q.html

Segnalo che l'opzione Cross-Origin-Resource-Sharing potrebbe essere su OFF al primo avvio. Se non la si mette su ON il Tutorial potrebbe non andare a buon fine e Rivet non riesce a comunicare col server.

Ciao, devo ancora approfondire Rivet e nel frattempo mi sarebbe utile sapere se consente l'upload diretto di file come pdf o word (come se il contratto invece di copiarlo e incollarlo nell'esempio di questo video, se ne potesse caricare direttamente il file). Inoltre nel caso in cui si volesse creare un'applicazione confezionata in una GUI fatta e finita a partire dal workflow, è possibile?

Per rispondere il modello deve fare call esterne? o contiene tutte le 'informazioni' in locale? considerando quanto sanno.. e che e' solo 3gb, mi sembra molto poco.

@giacomociarlini4557

2 ай бұрын

è tutto locale, that's the magic!

Ottimo video. Sto provando ad utilizzare microsoft/Phi-3 locale. Devo inserire la api key e nel caso come le ottengo? Grazie

La key di Ope AI la devo comunque creare ed incollare nel campo di appartenenza?

Come prima cosa complimenti per l'ottimo video, è super interessante! Sarebbe bello se riuscissi a fare un video nel quale fai vedere come addestrare con i propri dati un modello locale. Sarebbe mia intenzione far girare un modello locale su un Nas in modo da essere raggiungibile dall'esterno... secondo tè è fattibile? Ok ho conoscenza pari a zero in questo ambito ma mi piacerebbe studiare per arrivare ad una cosa del genere...😅

@giacomociarlini4557

2 ай бұрын

Non serve addestrare un modello, serve un sistema RAG secondo me

@AndreaValentini-hm5ut

2 ай бұрын

@@giacomociarlini4557 ok grazie! andrò a studiare nel dettaglio il sistema RAG... poi se per caso ci scappa un video in merito... 😅😉👍

Ciao, ragazzi bel video molto interessanti. Secondo voi è possibile dare in pasto ad un LLM locale qualche gigabytes di documenti di una azienda(docx, xlsx, pdf, emails) e poter interrogare per rispondere a domande su questi documenti e lavorarvi attivamente ? grazie

@giacomociarlini4557

2 ай бұрын

Si certo ma bisogna costruire un sistema RAG, dai un'occhiata a LLama Index

Complimenti per il video!!! Mi interessa sapere il livello di privacy di questi modelli in locale. In altre parole, usando i servizi mostrati, quanto mi posso fidare al livello di privacy?

@giacomociarlini4557

2 ай бұрын

del tutto, girano in locale, sono solo un file compresso di pesi numerici, nient'altro

@Andrea-dx3sx

2 ай бұрын

@@giacomociarlini4557 si può usare lo stesso sistema per usare open interpreter?

@Andrea-dx3sx

2 ай бұрын

@@giacomociarlini4557 si può usare lo stesso sistema con open interpreter?

Ciao, video interessante! Per favore mi aiuti a capire però quale potrebbe essere il suo utilizzo pratico per utente comune? Grazie…

@giacomociarlini4557

2 ай бұрын

Creare proof of concept delle sue idee ad esempio, o workflow comuni

@alittlewing

2 ай бұрын

@@giacomociarlini4557 grazie!

esiste un agente master che possa gestire multiagenti? che possa dimensionare le loro reti neurali, comm etc.. etc.. ? per farli cooperare per raggiungere l'obbiettivo? oh devo scrivermi il codice spendendo parecchio tempo e ore di apprendimento con rinforzo?

@giacomociarlini4557

2 ай бұрын

Guarda Crew AI