szójegyzékbejegyzés
Few-Shot Prompting (Példákkal történő promptolás)
- Kategória
- Prompt Engineering
- Nehézség
- Kezdő
Meghatározás
Olyan prompt-mérnöki technika, ahol egy nagy nyelvi modellnek kis számú bemeneti-kimeneti példát adnak a prompton belül, hogy irányítsák a teljesítményét egy adott feladaton.
Működés és összefüggések
A few-shot prompting kihasználja a nagy nyelvi modellek (LLM) kontextuson belüli tanulási képességeit. Néhány – jellemzően kettő és öt közötti – demonstráció beillesztésével a promptba a felhasználók jelentősen javíthatják a modell azon képességét, hogy kövesse az összetett utasításokat vagy betartsa a konkrét kimeneti formátumokat. Ez a technika különösen hatékony olyan feladatoknál, ahol a kívánt kimenet erősen strukturált, vagy olyan sajátos stílusbeli árnyalatot igényel, amelyet egy zero-shot prompt esetleg nem tud megragadni. Ellentétben a finomhangolással, amely a modell belső súlyainak frissítését foglalja magában, a few-shot prompting egy ideiglenes, következtetési időben történő beállítás. Bár hatékony, korlátozza a modell kontextusablaka; túl sok példa megadása értékes tokeneket emészthet fel, és potenciálisan teljesítménycsökkenéshez vezethet, ha a példák irrelevánsak vagy rosszul formázottak.
Miért fontos
Kritikus eszköz a fejlesztők és felhasználók számára a modell viselkedésének irányítására az újratanítás vagy finomhangolás magas költsége és összetettsége nélkül. Lehetővé teszi az AI-kimenetek gyors iterációját és testreszabását, ami elengedhetetlen a megbízható, következetes formázást igénylő alkalmazások építéséhez, mint például adatkinyerés, osztályozás vagy speciális kreatív írás, miközben megőrzi a feladatok közötti azonnali váltás rugalmasságát.
Gyakorlati példa
Egy ügyfélszolgálati vezető azt szeretné, ha egy AI hangulat szerint osztályozná a beérkező e-maileket. Ahelyett, hogy csak arra kérné az AI-t, hogy „osztályozza ezt az e-mailt”, három példát ad meg: „E-mail: A rendelésem késve érkezett. Hangulat: Negatív”, „E-mail: Imádom az új funkciókat! Hangulat: Pozitív”, és „E-mail: Hogyan állíthatom vissza a jelszavamat? Hangulat: Semleges”. Amikor az AI új e-mailt kap, ezeket a példákat használja a hangulat pontos kategorizálására a kért formátumban.
Gyakori hibák
- Túl sok példa használata, ami zsúfolttá teheti a kontextusablakot és összezavarhatja a modellt.
- Inkonzisztens vagy ellentmondásos példák megadása, amelyek kiszámíthatatlan modellviselkedéshez vezetnek.
- Világos elválasztó (például „###” vagy „---”) használatának elmulasztása a példák és a tényleges feladat között, ami miatt a modell összekeveri azokat.
- Annak feltételezése, hogy a modell példákból tanulja meg az összetett érvelést, amikor valójában csak utánozza a megadott mintát.
Gyakori kérdések
Miben különbözik a few-shot prompting a zero-shot promptingtól?
A zero-shot prompting arra kéri a modellt, hogy hajtson végre egy feladatot előzetes példák nélkül, teljes mértékben a betanított tudására támaszkodva. A few-shot prompting konkrét demonstrációkat biztosít a modell irányításához, ami általában nagyobb pontosságot és a formázási követelmények jobb betartását eredményezi.
A few-shot prompting ugyanaz, mint a finomhangolás?
Nem. A finomhangolás során a modellt egy nagy adathalmazon tanítják be, hogy tartósan megváltoztassák a paramétereit. A few-shot prompting egy következtetési időben alkalmazott technika, amely a prompton belül biztosít példákat, és nem igényel változtatást a modell alapul szolgáló súlyain.
Mi az ideális példaszám?
Bár nincs univerzális szabály, általában elegendő két és öt közötti kiváló minőségű, változatos példát megadni. Több példa beillesztése néha csökkenő hozamhoz vezethet, vagy túllépheti a modell kontextusablakának korlátait.