Steg 2: Initiera och iterera LLM-index

Dessa noder sätter ett startindex för modellen och skapar en loop för att prova olika modeller vid behov.

1. Öppna Assign LLM Index och ställ in llm_index till {{ $json.llm_index || 0 }}.
2. Öppna Increment Model Index och ställ in llm_index till {{ $('Assign LLM Index').item.json.llm_index + 1 }}.
3. Säkerställ att Increment Model Index kopplas till No-Op Step och tillbaka till Assign LLM Index för att bilda omförsöksloopen.

Steg 3: Sätt upp LLM-val och sammanställ svar

Det här steget routar förfrågan till en specifik modell och genererar svarstexten.

1. Öppna Select LLM Engine och behåll koden som den är (den väljer språkmodell baserat på llm_index).
2. Koppla OpenAI 4o Mini, OpenAI 4o Core och OpenAI o1 Core till Select LLM Engine som ai_languageModel-indata.
3. I Compose Reply Text ställer ni in Text till {{ $('Incoming Chat Trigger').item.json.chatInput }} och behåller Prompt Type som define.
4. Bekräfta att Compose Reply Text innehåller systemmeddelandet: You’re an AI assistant replying to a customer who is upset about a faulty product and late delivery. The customer uses sarcasm and is vague. Write a short, polite response, offering help.

Autentiseringsuppgifter krävs: Anslut era openAiApi-autentiseringsuppgifter i OpenAI 4o Mini, OpenAI 4o Core och OpenAI o1 Core. OpenAI Chat Engine är ansluten som språkmodell för Assess Response Quality—se till att autentiseringsuppgifter är tillagda i OpenAI Chat Engine.

Steg 4: Utvärdera svarskvalitet och formatera utdata

Arbetsflödet analyserar det genererade svaret och antingen returnerar det eller triggar nästa modellförsök.

1. Öppna Assess Response Quality och ställ in Input Text till {{ $json.text }}.
2. Verifiera att System Prompt Template anger kategorierna pass, fail och utvärderingskriterierna för svarskvalitet.
3. Öppna Send Output Result och ställ in output till {{ $json.text || $json.output }} så att arbetsflödet returnerar det slutliga svaret eller reservtext.

Körflöde: Compose Reply Text → Assess Response Quality → Send Output Result för lyckade svar, medan misslyckanden går vidare till Increment Model Index och loopar tillbaka.

Steg 5: Lägg till logik för felhantering

Den här grenen fångar förväntade fel från LLM-val och ger säkra reservmeddelanden.

1. Öppna Validate Expected Error och bekräfta att villkoret kontrollerar att {{ $json.error }} är lika med Error in sub-node Select LLM Engine.
2. I No Match Loop End ställer ni in output till The loop finished without a satisfying result för att hantera kända fel på ett kontrollerat sätt.
3. I Handle Unexpected Error ställer ni in output till An unexpected error happened för alla andra fellägen.

Steg 6: Testa och aktivera ert arbetsflöde

Validera varje steg för att säkerställa att modellroutning och kvalitetskontroller fungerar som förväntat.

1. Klicka på Execute Workflow och skicka ett exempelmeddelande till Incoming Chat Trigger.
2. Bekräfta att Compose Reply Text skapar ett kort, artigt svar och att Assess Response Quality returnerar pass när kriterierna uppfylls.
3. Verifiera att Send Output Result matar ut den slutliga svarstexten.
4. Växla arbetsflödet till Active för att aktivera användning i produktion.