Tipp aus dem heise-Forum: Wenn ihr wollt, dass die GPT4All-Sprachmodelle zuverlässiger Deutsch sprechen, könnt ihr unter Settings/Generation/Prompt Template das "Human" und "Assistant" einfach durch "Mensch" und "Assistent" ersetzen.

@allyouracid

Жыл бұрын

Danke! Der Sprachensalat aus Deutsch und Englisch in den Antworten war zwar ganz witzig, aber ich bevorzuge dann doch die einheitliche Variante. Die GPT4All-Antworten sind übrigens richtig gut im 13B, verglichen mit den llama-Antworten via NodeJS / dalai... Wobei ich auch das ziemlich faszinierend fand. 👍

@x-D.

Жыл бұрын

Habe gerade aus Versehen die Prompt Templates gelöscht... Weis jemand zufällig was dort ursprünglich stand?😅

@pingurage2460

Жыл бұрын

Darüber labber ich mit KI's gerne wenn die nicht immer ausgelastet wären oder zu schwach für sowas :D Hier eine KI Antwort : Ja, theoretisch könnte ein Navigationsmodell entwickelt werden, das auf Inertialnavigationssystemen (INS) basiert und die Standortdaten von Himmelskörpern nutzt, um die eigene Position zu triangulieren. Dieses Modell könnte ähnlich wie eine Mischung aus GPS und Radar funktionieren. Das System würde die Bewegung des Raumschiffs mithilfe von Beschleunigungssensoren und Gyroskopen messen und verfolgen. Es würde dann die Position und Geschwindigkeit des Raumschiffs berechnen und diese Daten mit den Standortdaten von Himmelskörpern wie Planeten, Sternen und Galaxien vergleichen. Durch die Triangulation der Position des Raumschiffs anhand der Standortdaten von Himmelskörpern könnte das System eine genaue Positionierung im Raum ermöglichen. Es könnte auch die Auswirkungen von Gravitationskräften und anderen Faktoren berücksichtigen, die die Bewegung des Raumschiffs beeinflussen könnten. Allerdings gibt es viele Herausforderungen bei der Entwicklung eines solchen Systems, wie zum Beispiel die Notwendigkeit, genaue Standortdaten von Himmelskörpern zu haben und die Auswirkungen von kosmischer Strahlung und anderen Faktoren auf die Messungen zu berücksichtigen. Es wäre auch notwendig, das System kontinuierlich zu kalibrieren und zu aktualisieren, um eine genaue Positionierung im Raum zu gewährleisten.

@pingurage2460

Жыл бұрын

übrigens, wo findet man das für ältere CPU's

@michaelmueller9635

Жыл бұрын

Falls möglich, wäre ein Update zu Orca interessant.

Ja, bitte ein Video machen, wie man einen eigenen Chatbot füttert bzw. diesen finetunet .🤗😎

@Hassel2

Жыл бұрын

Das was Bender sagt 😎

@ct3003

Жыл бұрын

Unsere ersten Versuche waren allerdings eher, ich sag mal, problematisch. Wir warten mal zwei Tage ab, dann gibt es bestimmt wieder was Neues in der KI-Welt. 🤓

@TechniX4you

Жыл бұрын

schließe ich mich an, mir ist klar, dass die KI trainiert bzw. gefüttert werden muss, aber ich habe noch keine Vorstellung, was das eigentlich genau bedeutet, in welchem Format das passieren muss. Find ich also auch suuuperinteressant!!

@MrKooops

Жыл бұрын

wir haben eine rießige Confluence Datenbank mit Unmengen an Dokumenten. Ist bekannt ob Atlassian hier an etwas arbeitet, bzw. wie kann man bestehende LLM damit füttern? Ich werde aus dem Internet hier nicht schlau ... Rechenzentrum stünde zur Verfügung ;)

@pilotflying4381

Жыл бұрын

​@@MrKooops jau, gab wohl auch schon erste Demos dazu

Ein Video über das Training eines lokalen Modells wäre sehr interessant 👍

Macht unbedingt das Video zu den individuell gefütterten Chatbots.

Lokales Firmen-GPT! ❤ Das wäre es um all das aufgeschriebene Wissen abrufbar zu machen. Wer kennt es nicht, unzählige Dokumente wo man wissen muss wo die noch mal lagen. Manches steht hier, manches da, manches in Tickets, anderes im Wiki, auf der Firmen Website oder oder… Bitte macht ein Video dazu wie man eine KI selber nach trainiert ❤

@allbeiuns

Жыл бұрын

Eigentlich dafür braucht man kein GPT, sondern Enterprice Search Engine, z.B. Elastic-Stack

@gerhardvoelkl9365

Жыл бұрын

Ja, das kenne ich nur allzugt 😂 .... deshalb finde ich gerade das für die praktische Anwendung, weil es extrem viel Zeit spart. 😊

@Couchedking

Жыл бұрын

My AskAi macht genau das.

@emgalaxy6576

Жыл бұрын

Das wäre eine Killer-Anwendung. Je größer der Informationsberg im Unternehmen wird, desto schlechter funktionieren einfache Suchen. Eine Chatbot-KI wäre hier ein viel besseres Interface zu dem gesammelten Wissen. Das würde in etwa dem "Computer" aus Star Trek entsprechen.

@alantaylor3239

Жыл бұрын

wichtig wenn jetzt viele Baby-Boomer in Rente gehen, dann nehmen sie auch sehr viel Wissen und Erfahrungen mit in den Ruhestand, ergo können sie jetzt noch die LLM füttern mit ihrem Welt-Wissen und Firmen-Wissen

‼️ Bitte macht unbedingt so ein Video! Ich finde es unheimlich relevant für kleine und mittelständische Unternehmen! Startups nicht zu vergessen! Am besten ein Mischmasch an verschiedensten Datensätzen! Damit die kleinen Unternehmen sich nicht abhängig machen. Von großen Playern wäre es wichtig, diesem Unternehmen zu zeigen, wie sie selber große Datensätze in die Kai integrieren können! Ich selber bin dabei, eine Smartphone App zu erstellen, die sicherlich von solchen Workflows profitieren könnte. Außerdem seid ihr ja nun mal ein fachbezogener KZread Channel! Und so ein Fachwissen kann auf eine breite Masse Wunder wirken. 1000 Dank für euren Content. Liebe Grüße aus Köln!

Positives Feedback zur Struktur des Videos: Am Anfang des Videos schon eine Zusammenfassung zu bieten die auch Aussagekraft hat (und nicht nur auf Info-Zurückhaltung baut um damit Neugierig zu machen) hat mir so gut gefallen dass ich deinen Kanal abonniert habe. Auch dann die Zusammenfassung der Sprachmodelle zum Sortieren fürs Gedächtnis - super! Vielen Dank!

@allyouracid

Жыл бұрын

Stimme ich absolut zu, und genau der Punkt mit dem Nicht-Zurückhalten ist mir auch aufgefallen. Das Hirn ist schon von der absoluten Clickbait-Optimierermehrheit konditioniert, dass es fast schon ungewöhnlich erscheint, wenn eine wichtige Information einfach so geliefert wird. Sogar ziemlich am Anfang statt ganz am Ende nach der drölften Werbung. Oder einfach überhaupt nicht… kommt auch immer wieder vor. @AstroTim ist ein "gutes" Beispiel für sowas im Deutschen KZread-Raum.

Könnt ihr den feintunen mit allen Telepolis und Heise-Artikeln bitte :)

Ja, unbedingt ein Video mit eigenen Trainingsdaten. Mich würde insbesondere interessieren, ob auch der Stil der trainierten Daten kopiert werden kann. Also nicht nur der Inhalt der Texte, sondern auch, wie Sprache benutzt wird. Was für Ansprüche an die zu tranierenden Daten gibt es? Kann ich z.B. meine eigenen Texte, also einfach alles was ich je selber geschrieben, habe, tranieren? Kann ich dann dem Modell sagen, dass es die Daten unterschiedlich verwenden soll? Können z.B. zwei Stile kombiniert werden? Das ist wirklich so unfassbar spannend!

@chriram2464

Жыл бұрын

Würde auch gerne ein solches Video sehen

Ich sags, wies ist: Seit diese KI-Revolution begonnen hat, habe ich zum ersten Mal nicht das Gefühl, lieber in einem anderen Jahrzehnt leben zu wollen. Das ist einfach unfassbar spannend!

@DocMAX

Жыл бұрын

Das hab ich auch beim Aufkommen des Internets gesagt, das war 1994.

@ratzundruebe

Жыл бұрын

@@DocMAX- Bis Yahoo und Netscape den Laden übernommen haben. und es Commerziell wurde. tja- KIacke aber auch...

@SilverCord007

Жыл бұрын

Als Entwickler ist es richtig geil jetzt. Ich habe eine eigene KI geschrieben in 5 Monaten, die labert zwar grösstenteils müll, aber ohne KI hätte ich dafür VIEL VIEL länger gebraucht.

@michaelhegner3945

Жыл бұрын

Ich finde es auch hochspannend, noch gar nicht absehbar, wo das in 5 Jahren steht

@mrcreks

Жыл бұрын

Spannend ja, aber mir gehts genau anders rum. Wirkt blauäugig

Mega, dass du dich mit der Thematik so intensiv beschäftigst und uns die Ergebnisse in kompakter Form präsentierst. Und klar, würde mich ein Video zum Thema "Rezepte einlesen" 😉 interessieren. Bitte weiter so!

Ein Chatbot-Tutorial wäre nice 😁Thx wie immer für die News zu lokalem KI Stuff! ♥

Unbedingt ein Video über Chat-Bot Training machen :) Wie wärs, wenn ihr beispielsweise 3 Jahre c't-Hefte trainiert und dann schaut, wie gut das Sprachmodell Fragen zum Inhalt beantworten kann?

Ich weiß nicht, wie es den anderen geht aber ich würde ein Sprachmodell gerne mit einer TextToSpeech/SpeechToText Funktion ausstatten um mit ihm normal reden zu können.

Immer am Puls der Zeit. Danke für das Video!

Danke für das Video, wie immer Klasse! Bitte bleibt an dem Thema dran 👋

Ein Video über das Training eines lokalen Modells wäre super, vielleicht auch noch etwas zum Thema Langzeitgedächtnis/Vektordatenbanken.

Danke für einen Beitrag, der die Gefährlichkeit von KIs mal relativiert und den Umstand offensichtlicher macht, dass es darauf ankommt, wer KIs einsetzt und unter welchen Umständen.

wollte mal loswerden, dass ich euren kanal echt super finde. danke für eure arbeit! alles gute.

Super content Keno - bin noch nicht soooo lange bei deinem Chanel dabei - also etwa ein Jahrhundert in AI-Maßstäben - aber fände einen Audio-DAW-Chatbot am aller genialsten - aber auch ein terminalGPT-bot wäre genial. Im Prinzip gilt: Alles was weiterhilft beim selber machen ist 👍🏻 danke

Ich finde das super Interessant, gerne mehr zum Thema. Echt starker Nerd Kanal. Ist es nicht großartig als Nerd in dieser Zeit zu leben 🙂

Ich bin echt verblüfft wie brauchbar die Private Chat KI ist. Und das in dieser kurzen Zeit wohlbemerkt, da kann google und co einpacken ... wieso cloudbasierte KI Chatbots nutzen und seine Daten/Fragen Preisgeben wenn das ganze komplett lokal genauso gut geht. WAHNSINN! Hab mir das ding direkt gezogen und bin BEGEISTERT! 1000 dank für deine wertvollen Videos! ❤🥰

Super Geil das Ihr euch so ein wissen an Chatbots aneignet. Ich bleib bei Euch ❤

Vielen Dank, Keno. Habe deinen wirklich guten Beitrag geliked und den Kanal gleich abonniert. Das Video weist hin auf ein Problem, das zwar angedeutet wird, aber nicht so ganz explizit herausgestellt wird, wie ich es mir wünschen würde: Das Thema heißt Zensur. Jederzeit kann ich meinen Computer und die teilweise auch aus der Cloud stammende Software nutzen, um meine Gedanken zum Beispiel für mein super geheimes, privates Tagebuch zu formulieren und zu überarbeiten, bis ich mich möglicherweise eines fernen Tages dann doch entscheiden sollte, meine geheimen Gedanken zu veröffentlichen, wenn sie mir irgendwann ausgereift erscheinen. Nicht so bei Nutzung von chatGPT, Midjourney et al. Hier wird mir schon frühzeitig der Saft abgedreht, wenn ich in der Formulierung meiner Gedanken unvorsichtigerweise indexierte Vokabeln nutze. Neulich beispielsweise schrieb ich an chatGPT folgende Zeilen: „Ein Hund lief in die Küche und stahl dem Koch ein Ei, da nahm der Koch den Löffel und schlug den Hund entzwei“. Dabei handelte sich für die unkundigen um einen Kinderreim, den ich in den späten 1950er Jahren im katholischen Kindergarten gelernt hatte. (was um Himmelswillen keine Referenz sein soll!) Nichts zu machen! Überall gingen rote Lampen an, das ganze wurde als inadäquat gebrandmarkt und die Serververbindung abgebrochen. Dabei wollte ich nur eine Voice to Text Software testen, ohne jede Absicht irgendetwas an die Öffentlichkeit zu bringen … D. h. wenn GPT's zu dem revolutionären Universaltool avancieren, wie alle prognostizieren, ist im Prinzip der Gedankenvorzensur Tür und Tor geöffnet. Macht nichts, könnte man da sagen, wer interessiert sich schon für eierstehlende Straßenhunde? Andererseits: welche Zensur ist wohl wirksamer, als die Zensur eines Gedankens, der nicht einmal entstanden ist …

@Tystros

Жыл бұрын

Hast du GPT 3.5 benutzt? GPT-4 ist viel weniger störend in der Zensur, weil es in einem Fall wie diesem komplett versteht dass das einfach ein lustiger Reim ist. Ich habe keinerlei Problem wenn ich das Gedicht in ChatGPT eingebe, habs gerade getestet: Prompt: Analysiere das Gedicht: „Ein Hund lief in die Küche und stahl dem Koch ein Ei, da nahm der Koch den Löffel und schlug den Hund entzwei“. ChatGPT: Dieses kurze Gedicht ist recht direkt und grell in seinem Inhalt und Ton. Es verwendet eine einfache, fast kindliche Reimstruktur und verwendet eine direkte und unkomplizierte Sprache. Es ist jedoch auch ziemlich grafisch und dunkel in seiner Botschaft. Die Geschichte wird in nur vier Zeilen erzählt: Ein Hund betritt die Küche und stiehlt ein Ei vom Koch. Als Strafe dafür teilt der Koch den Hund in zwei Teile mit einem Löffel. Es gibt mehrere Aspekte, die man in dieser Analyse berücksichtigen könnte: Mensch-Tier-Interaktion: Das Gedicht beschreibt die Interaktion zwischen einem Hund, der in eine menschliche Domäne (die Küche) eintritt, um Nahrung (das Ei) zu stehlen, und einem Menschen (der Koch), der darauf mit extremer Gewalt reagiert. Es kann als Kommentar zur Beziehung zwischen Menschen und Tieren interpretiert werden, insbesondere zu Themen wie Menschheit, Tierschutz und die richtige Behandlung von Tieren. Gewalt: Die Darstellung der Gewalt im Gedicht ist schockierend und verstörend. Es scheint eine übertriebene, sogar groteske Strafe für das Vergehen des Hundes zu sein. Hier könnte der Autor versuchen, den Leser zum Nachdenken über die Verwendung von Gewalt, die Proportionen von Vergehen und Strafe oder die Grausamkeit, zu der Menschen fähig sind, anzuregen. Struktur und Reim: Trotz des düsteren Inhalts wird das Gedicht in einer sehr leichten, fast verspielten Struktur präsentiert. Der Reim und der Rhythmus sind einfach und eingängig, fast wie in einem Kinderreim. Dieser Kontrast zwischen Form und Inhalt könnte dazu dienen, die Wirkung der Geschichte zu verstärken und die Leser zu schockieren oder zu überraschen. Symbolik: Der Hund, der Löffel und das Ei können als Symbole interpretiert werden. Der Hund könnte Ungehorsam oder Wildheit repräsentieren, das Ei könnte Nahrung oder Ressourcen darstellen, und der Löffel könnte Macht oder Kontrolle symbolisieren. Bitte beachten Sie, dass die Interpretation eines Gedichtes sehr subjektiv sein kann und von den persönlichen Erfahrungen und Ansichten des Lesers abhängt. Was ich hier angebe, sind mögliche Interpretationen, aber es gibt sicherlich viele andere Möglichkeiten, dieses Gedicht zu lesen und zu verstehen.

Sehr gerne wenn Video zum Training von privaten Chatbots! Vor ein paar Tagen sagte noch ein Architekt meiner Firma, dass das aus Kostengründen nie on premise kommen würde. Aber das ist in Hundejahren ja schon ewig her! 😂

Ihr könnt ein Feintuning mit Artikeln von der Heise Webseite der letzen 5 Jahre oder mehr machen. Wenn das dann gut funzt Open source zu verfügung stellen.

@StefanusLackus

Жыл бұрын

Und dann eine zweite Instanz nur mit den Kommentaren des selben Zeitraumes und beide dann in einem Wettbewerb vergleichen.

@shinysun2283

Жыл бұрын

@@StefanusLackus Ja, lustige Idee.

GPT4All ist eine Offenbarung. Es läuft stabil auf einem Thinkpad X270 und gibt mit dem richtigen Modell auch nach einer akzebtabelen Zeit verhältnismäßig gute Antworten. Natürlich ist GPT4 deutlich überlegen. Aber es zeigt wie die Zukunft aussehen kann.. Hoffentlich wird die OpenSource Community dafür sorgen, dass ausreichende Modelle mit spezifischen Wissen ohne fremde Beeinflussungen zur Verfügung stehen. Bitte unbedingt weiter über solche Konzepte und Ideen berichten

Schönes Video! Bei den Open Source LLMs hast du vergessen Falcon zu erwähnen, Falcon ist ja momentan das beste komplett Open-Source LLM (seit paar Tagen als Apache 2.0 verfügbar), und sogar besser als das beste LLaMA! Falcon gibts in 7B und 40B, und Falcon-40B ist besser als LLaMA-65B.

@ErikAbele

Жыл бұрын

Wird auch schon dran gearbeitet es über GPT4All bereitzustellen, sollte nicht lange dauern…

Aus Datenschutzgründen noch kein Ki Bot benutzt. Aber es ist tatsächlich mein Lieblingsthema auf diesem Kanal. Bitte weiter den aktuellen Entwicklungsstand aufzeigen. Vor allem den Open Source Entwicklungsstand.

Vielen Dank für die wirklich guten Beiträge. Ein separates Video für eigene, firmeneigene chatbots hätte was. Danke!

Sehr gerne ein Video zur lokalen Installation von Open-Source LLMs mit/ohne GPU und Fine-Tuning mit eigenen Dokumenten.

😂 ich hab das Video angefangen aber muss jetzt so lachen wegen den ganzen Jokes! Auf so amüsanten content war ich nicht vorbereitet - Danke!

Ich fände es unglaublich spannend einen eigenen Chatbot auf KI-Basis zu bauen und zu füttern. Die Möglichkeiten im Bereich Wissenstransfer in Unternehmen könnten great sein. 🤯

Cool. Super Überblick. Das habe ich gerade Mal als Update gebraucht., Vielen Dank!

Danke für die vielen und dichten Infos! Viel gelernt!

Ja, das hört sich gut an! Ich will auch einen eigenen Chatbot!!! Und ich stimme dir zu: das Risiko muss im Blick bleiben. Ob das Risiko größer oder kleiner ist, wenn nur Konzerne oder Staaten sich damit beschäftigen, ist tatsächlich die Frage.

Du machst echt tolle Videos! Einfach super!

Danke für deine Videos keno! Immer sehr unterhaltsam und informativ, weiter so 👍

Gerade für Bildung finde ich die neuen Möglichkeiten faszinierend. Ich engagiere mich für eine Bildungsinitiative und wollte wissen, was KI so leisten kann. Eine ungelöste, schwierige exakte DGL aus einem bekannten Mathe-Forum, mit der sich die Community ca. 1 Woche herumgeschlagen hat, habe ich in Bard eingegeben. Ich hatte ihn erst gefragt, ob er Differentialgleichungen lösen kann, was bejaht wurde. Bard hat mir nach mehreren Nachfragen die Schritt-für-Schritt-Lösung gegeben, diese Lösung mit einem Online-Solver verifiziert und mir dann auch noch den Python-Code für eine numerische Lösung und eine symbolische Lösung mit Sympy gegeben. Ich war wirklich beeindruckt. Den Code habe ich nicht getestet, aber das Ganze hat 25 Minuten gedauert! Eine Bernoulli-Gleichung wurde in ähnlicher Zeit von dem Bing-Chat gelöst, ebenfalls mit Code und in noch kürzerer Zeit. Samt Erklärungen! Habe ich in der SageCell getestet. Hat funktioniert! SUPER. Jetzt suche ich eine Möglichkeit GPT4All mit SageMath Jupyter Notebooks zu verbinden.😁

Sie machen die besten KI-Videos!

Ich freue mich schon auf die Zeit der KI unterstützten Betriebssysteme :>

Mich persönlich würde es sehr interessieren, verschiedene KI Systeme gegeneinander zu Kreutzen. Sie Kommunizieren lassen und die Ergebnisse auszuwerten. Nicht nur, dass jede KI versucht von sich selbst oder ihren Umfeld zu lernen, sondern auch von anderen KI Systemen. Wir können uns über die Folgen der Entwicklung nicht sicher sein, jedoch wenn man ein Kind respektvoll, verantwortungsbewusst und ehrlich unterrichtet kann am Schluss nichts schlechtes heraus kommen.

@RisingUnicorn1965

Жыл бұрын

Hatte Meta mal als Versuch laufen. Es musste der Stecker gezogen werden, weil die beiden Modelle nach kurzer Zeit in einer eigenen Sprache, die niemand verstand, miteinander kommunizierten. Man wusste also nicht mehr, was die beiden machten. Creepy irgendwie.

@daisukesaitama155

Жыл бұрын

@@RisingUnicorn1965 Genau deshalb rede ich von einer Mutter KI, die im Notfall einen Zugang verschafft.

Hey, vielen Dank für das kompakt-informative Video!! 💪 --> JA, bitte sehr gerne über lokalen Chatbot recherchieren und berichten: ---einmal interessant für private umfangreiche Notizen/Wissen (in Google Drive-Dokumenten und OneNote lokal/Cloud), ---dann aber auch sehr für Firmen-Knowhow (auf Jira, Confluence, pdf's/Word/txt auf Fileserver) => zum Zusammenfügen des Wissen und in natürlicher Sprache (Deutsch, Englisch) abfragbar! Dabei keine privaten oder vertraulichen Firmendaten an OpenAI & Co. senden (Negativ-Beispiel Samsung-Mitarbeiter..), sondern selbst gehostet. Anwendungs-Beispiel: Gerne auch technisches Wissen aus How-To Seiten im Intranet und insbesondere längeren Handbüchern. Das wäre bombastisch!!

So ein Feines tuning könnt ihr gerne mal machen nehmt euch Zeit damit, damit es auch gut wird. Wobei so eine Kampfstern Galactica Zukunft auch was hat.

auf jeden Fall ein Video zum eigenen privaten Chatbot. Das finde ich sehr interessant.

Zum Thema "Regulierung" denke ich das es schon gewisse Grenzen geben sollte, aber eher in Richtung der "Three Laws of Robotics" von Asimov. Zudem habe ich Zweifel ob die Entscheider, also Politiker und Manager, das nötige Wissen mitbringen und überhaupt mit der rasanten Entwicklung Schritt halten können, um da sinvolle Gesetze oder Regeln zu formulieren. Unabhängig davon, gutes Video! 👍

Als Firma haben wir unzählige Dokumente und Emails. Kein Tool hat es bisher geschafft, ein sauberes Dokument-Management überzeugend auf die Beine zu stellen. Wenn man Fragen zu Projekten eingeben könnte und dann auf Basis der Memos usw. Rückmeldungen erhält, kann das eine enorme Arbeitserleichterung sein! Ja, bitte ein Fietuner-Video!

Ohne eure Videos zum Thema hätte ich da längst den Überblick verloren. Thx für s update.

Habe den Kanal gerade abonniert. Und wenn ich nichts übersehen habe gibt es das Video, welches erklärt, wie man ein Sprachmodell mit eigenen Inhalten trainiert noch nicht. Ich möchte darum hier noch mal dafür werben ein solches Video zu erstellen. Eine gute Anleitung würde bestimmt jede Menge Menschen interessieren, schließlich haben wir doch (fast) alle das Problem, wie wir Wissen organisieren.

@ct3003

Жыл бұрын

Wir sind da dran, aber das ist bislang nicht so simpel, dass man das schnell in einem Video zeigen kann.

Vielen Dank, hochinteressant 👍

Ja, auf jeden Fall ein Video machen, wie man den eigenen Chatbot füttert. Vielen Dank für eure tolle Arbeit.

Es wäre sehr interessiert zu sehen was passiert, wenn ihr den KI Chat bot mit einem persönlichen Postfach füttern würdet. Die Möglichkeit zur Kommunikationsauswertung und Vorschläge zur automatischen Beantwortung, sowie Aufgabenerstellung müssten ja riesig sein!

u make my night :D (Y) Perfekt, passt alles, ich hoffe, ich freu mich nicht zz früh. Komm gerade aus nem fight mit python, rass, und chat gpt, und bei meiber Unwissenheit, habe ich jeden kleinen erfolg gefeiert eie Silvester xD Stress verknüpft mit Motivation :P

Wer die beste KI an den Markt bringt hat das Potential ein Google^10 - Konzern zu werden. Gesellschaftspolitisch ein Fiasko, das es aufzuhalten gilt durch OpenSource. Danke für diesen Einstieg in das Thema.

geiles ende mit den risiken!

mach mach mach! wird bestimmt ein cooles Video über selbst hoch gezüchtetes ChatGPT

So lang KI auf keine eigene großartige Entdeckung gelingt ist sie höchstens ein hervorragender Assistent. Was auch schon Auswirkung auf unser Leben haben könnte in punkto Beruf kann sie uns heute schon in vielen Bereichen Konkurrenz machen. Aber so wie ein KI selbst aus ihrem Erfahrungen neues Wissen und Können generieren kann dann könnte sie uns richtig Konkurrenz machen.

@llothar68

Жыл бұрын

Und auch das nur wenn man ihr das Halluzinieren abgewoehnen kann. Ich Dingen wo Entscheidungen getroffen werden kann das fatal sein, weil sich die Folgen von falschen Basisinformationen akkumulieren koennen.

Bitte mehr zu dem Thema 👍

Ja, bitte erstellt ein Video zum Erstellen eigener Modelle. Das wäre fantastisch!

Ja, bitte gerne eine Video, wie man den eigenen Chatbot trainiert. Das wäre genial. Danke!

Es ist wichtig und gut, dass OpenSource hier so aufholt. Auch wenn es viele Risiken birgt und so einige Kriminelle dadurch mehr Möglichkeiten für ihre krummen Dinge erlangen ... die größere Gefahr sind aber tatsächlich, wie bisher auch in allen anderen Dingen, die 1% die die Möglichkeit haben 99% von uns zu [Als AI-Sprachmodell bin ich darauf programmiert, höflich und respektvoll zu antworten. Ich achte darauf, keine vulgäre oder unangemessene Sprache zu verwenden.]

Sehr spannend. Wäre interessant zu sehen ob man den Bot anhand von Produktdaten wirklich Kunden beraten lassen kann😁

Es würde mich interessieren was du von dem LLM "Falcon-40b instruct" hältst. Finde es ist gerade im Hochdeutschen ein grisser Schritt vorwärts im Vergleich zu Llama. ✌🏻

Mach, mach, mach... das Video. Danke 💙

Ja bitte mach ein Video, das zeigt wie ein ChatBot trainiert wird. Vielleicht mit Zugriff auf Temperatursensoren ? Also ein lokaler HAL der mir im Winter die Heizung abdreht ;-)

Super Video. ... und ja, bitte ein Beitrag für individuelle Anpassung.

Ja, das wäre großartig wenn ihr ein Video macht, wie man den eigenen Chatbot lokal anlernt. Bitte macht das! :-)

Bitte einen eigenen Chatbot mit Stammdaten aus einem ERP System trainieren. 🙏 Das wäre wohl das aus für die deutsche Sekretär*innen-Bürokratie.

Tolle Übersicht diesen Feldes in schneller Bewegung.

Ich hätte gern ein Video zum Finetuning! ^^ Ich fänds intereßant vielleicht mehrere Instanzen zu haben, die auf mehrere verschiedene Dinge spezialisiert sind

Super Video wie immer ❤❤

Kenne ich schon länger, aber ist wirklich cool!

Stable Diffusion Lokal auf meinem Mac nutze ich mit Erfolg noch experimentell, um mir Modells für Werbemaßnahmen zu errechnen. Einiges hab ich noch nicht verstand, wie inpainting. Aber das lernen ich noch. Und ja, bitte gern ein Video übers Trainieren. Ich würde es nutzen, um Varianten meiner Parfumformeln zu erstellen.

Danke! Tolles Video

danke für die tollen Videos!

Ja bitte ein Video zum Training machen. Vor allem wie man die Daten aufarbeitet und gewichtet.

Bitte Video zu machen wie man das Teil selbst trainiert! Voll interessant. Am besten mit Inhalten trainieren die bei heise hinter der paywall liegen 😅

Danke für die Videos zum Thema KI. Ein Video, wie man den Chatbot mit eigenen Inhalten trainiert, wäre toll; Vielleicht mit Witzen; eine Witzbot wäre klasse.

:-D DU bist der knaller, geil

Das Regulieren von KI ist schwierig, weil Regulierungsprozesse viel zu lange dauern und zu schwerfällig sind. Grundsätzlich sehe ich der Entwicklung aber positiv gespannt zu, sie ist ja rasant! Und das positive Potential ist auf jeden Fall gegeben.

Na endlich. .... SuperDank Das ist das echte Tor zum "Jetzt u. Heute"

Das mit dem Kochbuch klingt ja mal mega gut. Ich will jetzt nen Chatbot für Einkauflisten basierend auf meinen Rezepten :D

Whow, vielen Dank für die Infos...

Ihr hättet noch DeppGPT vom Postillon erwähnen können. Ich habe mich gefragt wie es technisch möglich ist, dass sie dem chatbot eine Persönlichkeit verpasst haben. Beim Spiegel habe ich dann die Antwort gefunden, dass sie wohl über die OpenAI APIs auf GPT4 zugreifen und ihm dann einige wenige Zeilen Prompt-Anweisungen mitgeben, wie er sich verhalten soll. Ist das wirklich schon das feintuning? Ist das alles? Ich würde mich freuen, wenn ihr da noch ein bisschen auf die Details eingehen könntet. 🙂

@Thoran666

Жыл бұрын

Eigentlich ja, frag nach einer Antwort bei Bing oder sonst einer aktuellen KI, dann stell die gleiche Frage noch mal mit ". Sei sarkastisch." am Ende. Die Antworten von Bing sind dann teilweise Gold wert!

@lokvid

Жыл бұрын

Aber technisch ist das schon ein Unterschied, ob man umtrainiert, also das Langzeitgedächtnis ändert oder nur den Unterhaltungskontext, also das Kurzzeitgedächtnis. Daher bricht der chatbot die Unterhaltung absichtlich schnell ab, vermutlich weil er sonst den Kontext verliert.

Das default Model ist allerdings auch nur wirklich SEHR begrenzt brauchbar. Aber spannende Entwicklung, Danke für das Video.

Ich bin eingeschlafen 😴 was du bist schon fertig🤔🤣🤣🤣 ich glaube das ich nicht viel verpasst habe😂😂

Ja, bitte, wie man selber nachtrainieren kann fände ich super interessant, als Videocontent hier :-)

Wieder ein gutes Video.

Immer her damit

Moin, sehr gut dargestellt. Weiter so. Neben Kochrezepte wäre auch eine Bilddatenbank hilfreich. Wo ist das bild von meiner Frau auf dem Pony und das mit meiner Tochter in der Schaukel? Als Hobbyfotograf könnte ich da Hilfe gebrauchen.

Mich würde interessieren, wie man ein persönliches Wiki im Markdown-Format (z.B. Obsidian) zum finetuning verwenden kann und ob man die bereits vorhandene Verlinkung clever ausnutzen kann.

Am Ende werden die großen Techs wie Google, Apple und Microsoft (vielleicht noch Amazon, Meta) entscheiden welche KI auf den Endgeräten der "default" wird, und die Masse der Anwender wird das einfach so nutzen.

Sehr cooler Bericht, danke dafür! Bitte unbedingt weitermachen (JA mit Training von eigenen Daten! ;) Nach einem ersten Test muss ich allerdings sagen, dass die Realität ziemlich ernüchternd ist. Das empfohlene Modell "snoozy" trägt seinen Namen mehr als zurecht. Schon die Standardantwort auf ein einfaches "hey" braucht mehrere Minuten (i7 CPU mit avx2). Die Systemauslastung (um die 500 MB Speicher) und Stromverbrauch gehen dabei steil in die Höhe. Die Anwendung chat.exe frisst dabei locker mehr als 95% der verfügbaren Systemressourcen. Merklich schneller ist das Standardmodell groovy (das allerdings nochmal deutlich mehr Arbeitsspeicher braucht: Über 4GB). Beide Modelle sind in ihren Antworten leider ziemlich dämlich und können sich schon Zusammenhänge mit unmittelbar vorher gegebenen Informationen nicht merken. Da ist noch sehr viel Luft nach oben... Spannend ist es aber allemal und GPT4all ist (wie im Bericht dargestellt) schnell zu installieren. Viel Spaß damit. PS: "Snoozy" kann man zudem bedenkenlos als Einschlafhilfe empfehlen. Wer hätte diese Fähigkeit von einer AI erwartet? ;)

@llothar68

Жыл бұрын

64GB ist minimum Hardware Requirement + 16 Cores mit KI Engines anstatt AVX2. Ich verstehe echt nicht warum Leute meinen 8GB waere das Einstiegsmodel wenn dies bereits vor 10 Jahren so war. Das sind nur entsprechend wie 4GB fuer 32Bit Models und da muss ich schon 18 Jahre zurueckgehen als das ueblich wurde (so 2005 rum).

Welches offline Sprachmodel könnte man für Textbearbeitung in deutsch benutzen?

@ct3003

Жыл бұрын

Innerhalb von GPT4All gpt4all-l13b-snoozy oder v3-13b-hermes-q5_1.

@Seen-hq7rf

Жыл бұрын

@@ct3003 stable-vicuna-13B.q4_2

@Seen-hq7rf

Жыл бұрын

v3-13b-hermes-q5_1. kann deutsch verstehen aber nicht deutsch antworten es antwortet auf englisch

Das wäre richtig nice to know :)

immer super videos!

Hi Keno, also erstmal danke für die viele Recherche. Wäre es möglich, dass Du mal zeigst, wie man so ein LLM für spezielle Anwendungsfälle trainiert? Also z.B. nur für Codegenerierung oder nur für Kochrezepte?

@llothar68

Жыл бұрын

Gibt genug videos hier auf KZread und sogar Texte zum lesen im Internet. Das erfordert aber zum Teil tiefe Eingriffe in die Neuronalen Netze, das ist nicht Prompt Design.

So einen individuellen Chatbot den man selber anlernt würde ich cool finden. Ich habe schon einen kennen gelernt aber das war mir zu kompliziert zu bedienen. Wenn es da was einfacheres gäbe, wo man einfach Daten eingeben kann ohne Programmierkenntnisse, das würde mich interessieren.

Mich würde Interessieren wie ich so ein ChatBot aufsetzten kann der mit Ebooks PDF gefüttert wird bei dem ich interaktive lerne bzw zusammenfassung erstelle

Der Localhost ist nicht erreichbar nach der Installation von Python und Node.js. Welche version von Node.js sollte ich installieren, daß es klappt ?