Halløj, jeg går og tænker over at omdanne min bærbar med linux til en medieserver som altid er koblet til fjernsynet. I den forbindelse (og andre) kunne det være rart med noget LLM hjælp til at grave og ændre i konfig osv.
Kan i anbefale et LLM agent setup (behøver ikke være lokal) som kan lave systemkald, så den selv kan finde ud af info den har brug for for at svare på spørgsmål og lave konfig ændringer? Eller synes i at det giver mest mening bare at spørge i en browser og selv kopiere kommandoer i en terminal? Mange tak
Der er altid en risiko for at en LLM laver noget mærkeligt. Personligt ville jeg nok køre kommandoerne selv, men at bruge OpenCode i Plan mode synes jeg er ok. Fx med DeepSeek 4.1, den er blevet gratis nu om dage.
Ny version af DeepSeek 4.1 Flash er på trapperne: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017
Puha, 108 GiB… Hardwaren for at køre den model må koste det samme som en ny bil.
Den er allerede opdateret på opencode og stadig gratis :)
Nej nej, det er stadig deres preview/snapshot for oktober. 🫠 Enten skal deres DeepSeek-V4.1-Flash opdateres, eller også skal den hedde DeepSeek-V4.2-Flash.
Men det er jo det samme? Version 1017 er jo bare det der snapshot? Medmindre der er et eller andet jeg misforstår helt.
Siger bare, det er to forskellige modeller, du kan køre i øjeblikket.
- deepseek-v4.1-flash er fra september.
- deepseek-v4.1-flash-1017 er et fire dage gammelt snapshot, der yder bedre
https://openrouter.ai/compare/deepseek/deepseek-v4.1-flash/deepseek/deepseek-v4.1-flash-1017
Hvis du ender med at bruge en ekstern AI, så tag et kig på OdinCore.ai eller GDPRchat.eu
Ordbogen.com står bag OdinCore og er rent dansk AI, med egne modeller og det hele.
Jeg har bare brugt VSCode connected til Claude eller Mistral - men ellers er Mistral specielt ret god til at debugge step by step via normal chat
Samme her.
Ellers overvej OpenCode, Jan.ai, eller Unsloth, hvis du søger et alternativt lokalt/API harness.
Selvom LM Studio Bionic ikke er open source (så vidt jeg ved? selvom de har et omfattende GH repo), så er det alligevel den mest stabile lokale måde at bruge LLM på jeg har brugt indtil videre - som en med et nvidia kort på linux.
Unsloth ser dog godt ud, kan være jeg skal prøve det.
Jan.ai og Alpaca har jeg kun haft problemer med.
Enhver ai cli kan bruges direkte på maskinen, ex. OpenCode eller Claude code cli, men det kan være svært at forstå hvad den gør bagefter hvis du kører med direkte adgang til din server og der er altid en lille chance for at den kører en destruktiv kommando som ikke kan omgøres. Og så lærer man heller ikke så meget af det, men det er måske heller ikke altid målet :)
Jeg må tilstå at jeg efterhånden har glemt at tænke selv. Jeg har kørt Linux i over 20 år i en eller anden version, men hvis jeg har et problem af den ene eller anden slags i min Pop!_OS version, så spørger jeg altid en LLM som noget af det første. Jeg laver ikke engang min egen troubleshooting længere.
Men ærligt, giver det ikke også okay mening? LLMen er jo basically en meget bedre søgemaskine til den slags problemer end Google er (måske bedre end Google nogensinde har været, på trods af at Google jo engang var god). Desuden kan LLMen undersøge dit præcise setup og gøre hjælpen fuldstændig personlig til dit specifikke problem, i stedet for at du kun finder generiske løsninger på nettet.
Det problem der er med det, er at du ikke finder de generiske løsninger og dermed ikke lærer at anvende generiske løsninger på specifikke problemer, og der er måske et læringsproblem der. Men udover det er problemløsning med LLM da meget, meget bedre end mulighederne der var der før.
Når du bruger en bærbar med skærm osv, så kan du nemt installere en agent CLI på den bærbar og bede den om at gøre det der skal gøres. Du kan bruge Codex, Claude code, opencode, osv. Du kan vist via de tre CLI’er slå plan mode til, og så burde den ikke selv udføre nogle kommandoer der ændrer noget på din PC, og så kan du fx selv køre de scripts for agenten og arbejde på den måde.
Hvis du ikke har noget at miste på den bærbar, så ville jeg bare sætte agenten igang med at fikse det den skal uden du behøver at indblandes for meget, hvis du alligevel ikke ønsker det.
