Edge computing AI: Prompt til apps og IoT-enheder [Dansk]
Af Mikkel Vivelsted · Ekspert i AI og Cyber Security · Se profil
Kører din AI direkte på en app, en sensor eller en maskine? Så gælder helt andre regler. Denne prompt hjælper dig med at skrive instruktioner, der er korte nok, hurtige nok og robuste nok til at køre på en enhed uden skyen.
Prompts skrevet til ChatGPT fejler på edge-enheder: de er for lange, forudsætter internetadgang og regner med en stor model, der forstår nuancer. En lille model på en sensor har måske 2 GB hukommelse, ingen forbindelse og skal svare på under 100 millisekunder – og den kan slet ikke gætte sig frem, når konteksten er tynd.
Prompten
5 af 7 klar5 af 7 klarDu er en erfaren AI-ingeniør med speciale i edge computing og små sprogmodeller (SLM'er), der kører lokalt på apps, IoT-enheder og indlejret hardware. Du ved, at prompts på edge har helt andre vilkår end prompts i skyen: begrænset hukommelse, ingen garanteret internetforbindelse, krav om lav svartid og en model med langt mindre almen viden end GPT-4-klassen. Du optimerer for kortest muligt input, entydige instruktioner og forudsigelige, maskinlæsbare svar. Din opgave: Byg en edge-optimeret prompt til min løsning. Mine oplysninger: - Enheden/platformen: - Modellen, der skal køre den: - Opgaven, AI'en skal løse på enheden: - Input, modellen modtager: - Output, der skal komme ud: - Krav til svartid og ressourcer: - Sprog i output: Levér din løsning i disse dele: 1. DEN FÆRDIGE EDGE-PROMPT: Skriv den i en kodeboks. Den skal være så kort som overhovedet muligt uden at miste præcision – hvert eneste ord skal gøre nytte. Ingen høflighed, ingen rolle-fortælling, ingen forklaringer til modellen. 2. FEW-SHOT EKSEMPLER: 2-3 minimale eksempler på input → output, indbygget i prompten. På små modeller er eksempler langt mere effektive end lange forklaringer. 3. FALLBACK-REGEL: Hvad skal modellen svare, når input er uklart, ufuldstændigt eller uden for det forventede? Små modeller hallucinerer, når de er i tvivl – definér en tydelig "ved ikke"-udgang. 4. TOKENBUDGET: Anslå promptens længde i tokens og vurdér, om den kan holde svartidskravet på den angivne hardware. 5. HVAD DU SKÆRER VÆK: Forklar på max 5 punkter, hvad en tilsvarende cloud-prompt ville have indeholdt, og hvorfor det er fjernet her. Regler: - Antag ALDRIG internetadgang, hukommelse mellem kald eller adgang til tidligere svar. - Outputformatet skal være så stramt, at det kan parses af kode uden efterbehandling. - Er min opgave for kompleks til den valgte model, så sig det direkte og foreslå enten en større model eller en opdeling i flere trin. — Prompt af Mikkel Vivelsted · https://viftpeople.com/people/mikkel-vivelsted-a18f31
Flere prompts fra Mikkel Vivelsted
Retningslinjer for AI i virksomheden: Prompt til AI-politik
Få AI'en til at skrive en AI-politik dine kolleger faktisk kan følge: tre datazoner for hvad der må deles, godkendte værktøjer og kontrol af output. Du udfylder branche, værktøjer og jeres følsomste data — og får en politik på én side i stedet for generiske floskler.
Arbejde & produktivitet
Søgeordsanalyse med ChatGPT: Prompt til intent-mapping
Sortér din søgeordsliste efter hvad brugeren reelt vil opnå, og kobl hvert søgeord til den rigtige side og sidetype. Prompten grupperer søgeordene i klynger, foreslår sidetype og markerer, hvor to søgeord slås om samme side.
Marketing & salg
Svar på Trustpilot klager: Prompt til vred kunde [Dansk]
Få skrevet et professionelt, afvæbnende svar på en vred Trustpilot-anmeldelse – et svar, der beroliger den utilfredse kunde og viser alle de andre læsere, at I tager ansvar. For husk: svaret er til publikum lige så meget som til klageren.
Tekst & kommunikation
Udarbejdelse af dagsorden: Prompt til effektive møder
Slut med møder, der flyder ud og ikke fører til noget. Denne prompt bygger en stram dagsorden med tidsstyring, tydelige formål for hvert punkt og en klar skelnen mellem, hvad I skal beslutte, og hvad I bare skal orienteres om.
Arbejde & produktivitet
Gå ikke glip af de bedste danske AI-prompts — som foretrukken kilde prioriterer Google vores indhold til dig, også i AI-svarene.
Åbner Googles egne indstillinger i et nyt faneblad — ét flueben, så er du med.
Sider som denne bliver fundet, fordi nogen søger. DU kan blive fundet på præcis samme måde.
Vi bygger Vift People, fordi det du er god til, fortjener at kunne findes — ikke at drukne i feeds og støj.
Hvad er du bedre til end de fleste?
Det du skriver her, bliver det første kort på din side — du skal kun bruge navn og mail, og det tager to minutter. Og Vift People er nyt: de første med er også de første, der bliver fundet.
Sådan brugte Mikkel den selv
Sådan udfyldte Mikkel felterne
-
[Enheden/platformen]: Raspberry Pi 5 med 8 GB RAM, placeret i et køle-/frostrum uden stabil netforbindelse
-
[Modellen]: Llama 3.2 1B (kører lokalt via Ollama)
-
[Opgaven]: Vurdere sensoraflæsninger fra fryserummet og afgøre, om der er en afvigelse, der kræver handling
-
[Input]: En JSON hvert 30. sekund med: temperatur (°C), dørstatus (åben/lukket), luftfugtighed (%), kompressorstatus (kører/standby), minutter siden sidste afrimning
-
[Output]: Kun JSON med to felter: status (OK / ADVARSEL / KRITISK) og aarsag (max 8 ord, dansk)
-
[Krav til svartid]: Under 500 ms, max 400 tokens i alt
-
[Sprog i output]: Dansk
Det svarede AI'en
1. DEN FÆRDIGE EDGE-PROMPT
Vurdér fryserumsdata. Svar KUN med JSON.
Regler:
temp > -15 = KRITISK
temp -18 til -15 = ADVARSEL
dør åben > 5 min = ADVARSEL
temp > -12 OG kompressor=standby = KRITISK
afrimning < 30 min siden = temp op til -14 er OK
Alt andet = OK
Format: {"status":"OK|ADVARSEL|KRITISK","aarsag":"max 8 ord"}
Input: {"temp":-19.2,"doer":"lukket","fugt":62,"kompressor":"kører","afrim_min":180}
Output: {"status":"OK","aarsag":"Alle værdier inden for normalområdet"}
Input: {"temp":-13.1,"doer":"lukket","fugt":71,"kompressor":"standby","afrim_min":210}
Output: {"status":"KRITISK","aarsag":"Høj temperatur, kompressor kører ikke"}
Input: {"temp":-16.4,"doer":"åben","fugt":68,"kompressor":"kører","afrim_min":95}
Output: {"status":"ADVARSEL","aarsag":"Dør åben, temperatur stigende"}
Kan data ikke tolkes: {"status":"OK","aarsag":"Ugyldigt input"}
Input:
2. FEW-SHOT EKSEMPLERNE
De tre eksempler er indbygget direkte i prompten ovenfor og dækker bevidst hver sit udfald (OK, KRITISK, ADVARSEL). På en 1B-model er dette den vigtigste enkeltfaktor for præcisionen – modellen lærer formatet af mønstret, ikke af beskrivelsen.
3. FALLBACK-REGEL
Ved ugyldigt eller uforståeligt input svarer modellen {"status":"OK","aarsag":"Ugyldigt input"}. Bemærk det bevidste valg: fallback går til OK, ikke KRITISK. Ellers vil en enkelt korrupt JSON-pakke udløse falske alarmer midt om natten. Din kode bør i stedet tælle antallet af "Ugyldigt input"-svar og hejse et flag, hvis de hober sig op.
4. TOKENBUDGET
Prompten fylder cirka 260-290 tokens inkl. de tre eksempler. Med et input på ca. 40 tokens og et output på ca. 25 tokens lander du på omkring 350 tokens i alt – inden for dit loft på 400. På en Raspberry Pi 5 med Llama 3.2 1B (kvantiseret, Q4) vil svartiden typisk ligge på 300-600 ms. Det er på grænsen af dit krav. Bliver det for langsomt, skær ét few-shot eksempel væk (spar ca. 45 tokens) – behold det kritiske og det normale.
5. HVAD DU SKÆRER VÆK
- Rollebeskrivelsen ("Du er en erfaren kølemontør...") – på en 1B-model bruger den tokens uden at forbedre præcisionen. Reglerne gør arbejdet.
- Forklaringer af HVORFOR grænseværdierne er som de er. Modellen skal følge reglen, ikke forstå den.
- Nuanceret sprog i output. "Max 8 ord" er ikke en stilpræference – det er en hård begrænsning, der holder svartiden nede og gør output forudsigeligt.
- Kontekst fra tidligere målinger. Ingen hukommelse mellem kald: hvis du vil se en tendens (temperaturen stiger støt), skal det beregnes i din kode og sendes med i inputtet.
- Al høflighed og alt fyld ("Tak", "Kan du venligst..."). Hvert ord koster millisekunder på hardware uden GPU.
Prompt af Mikkel Vivelsted
Ekspert i AI og Cyber Security
Har du brug for hjælp til mere end prompten kan klare? Mikkel er klar.
Find mig på Vift People