47 min
Custom GPTs & Self-hosted LLMs in der Praxis SoftwerkerCast – der IT-Podcast von Techies für Techies
-
- Technology
Niklas Haas und Kamil Braschke geben Einblicke in die aktuellen Entwicklungen rund um Private ChatGPTs und Self-hosted LLMs und werfen einen Blick in die Glaskugel – mit sehr spannenden Prognosen. Niklas ist zum Beispiel überzeugt: In nächster Zeit wird man neben Prompts und Prompt Engineering auch Knowledge Bases als Erweiterung einfügen können, etwa zu einem bestimmten Themenbereich.
Auch das Thema Nachhaltigkeit, das beim aktuellen Hype um generative KI gern unter den Tisch fällt, diskutiert Marco Paga mit seinen Gästen.
Kapitel:
(00:00:00) Intro Kamil & Niklas
(00:01:42) Aktueller Stand OpenAI & CustomGPTs und ein Use-Case-Beispiel
(00:10:33) Integrationen, Plug-ins, APIs
(00:18:30) Self-hosted LLMs
(00:31:20) Self-hosted LLMs in Produktion
(00:35:45) Ausblick: Open-Source-Modelle
(00:38:55) Nachhaltigkeit
(00:43:20) Ausblick: Custom GPTs
Niklas Haas und Kamil Braschke geben Einblicke in die aktuellen Entwicklungen rund um Private ChatGPTs und Self-hosted LLMs und werfen einen Blick in die Glaskugel – mit sehr spannenden Prognosen. Niklas ist zum Beispiel überzeugt: In nächster Zeit wird man neben Prompts und Prompt Engineering auch Knowledge Bases als Erweiterung einfügen können, etwa zu einem bestimmten Themenbereich.
Auch das Thema Nachhaltigkeit, das beim aktuellen Hype um generative KI gern unter den Tisch fällt, diskutiert Marco Paga mit seinen Gästen.
Kapitel:
(00:00:00) Intro Kamil & Niklas
(00:01:42) Aktueller Stand OpenAI & CustomGPTs und ein Use-Case-Beispiel
(00:10:33) Integrationen, Plug-ins, APIs
(00:18:30) Self-hosted LLMs
(00:31:20) Self-hosted LLMs in Produktion
(00:35:45) Ausblick: Open-Source-Modelle
(00:38:55) Nachhaltigkeit
(00:43:20) Ausblick: Custom GPTs
47 min