Modele generatywne i LLM

Name: lok-ai — Lokalna Automatyzacja Biznesu
Address: Grudziądz, kujawsko-pomorskie, PL
Telephone: +48-534-541-454
Price range: $$

24 pojęć w 11 podgrupach, z prostymi definicjami i źródłami.

Alignment · 2

01RLHFReinforcement Learning from Human FeedbackUczenie ze wzmocnieniem na podstawie preferencji ludzi — dostrajanie modelu tak, by jego wyjścia maksymalizowały nagrodę odzwierciedlającą oceny człowieka.
02wyrównaniealignmentDostosowanie zachowań modelu do intencji, wartości i preferencji ludzi, by działał pomocnie i bezpiecznie.

01kodowanie pozycyjnepositional encodingMechanizm dodający informację o położeniu tokena w sekwencji, ponieważ uwaga sama w sobie jest niezależna od kolejności.
02mechanizm uwagiattentionTechnika ważenia istotności poszczególnych elementów wejścia względem siebie, wyznaczająca reprezentację jako sumę ważoną wartości.

01autoregresjaGenerowanie sekwencji token po tokenie, gdzie każdy kolejny element jest przewidywany na podstawie wszystkich wcześniej wygenerowanych.
02przeszukiwanie wiązkowebeam searchHeurystyka dekodowania utrzymująca k najbardziej prawdopodobnych częściowych sekwencji na każdym kroku generacji.
03temperatura próbkowaniatemperatureParametr skalujący rozkład prawdopodobieństwa kolejnego tokena, regulujący losowość i różnorodność generowanego tekstu.

01halucynacjahallucinationGenerowanie przez model tresci wiarygodnie brzmiacej, lecz falszywej lub niemajacej pokrycia w danych zrodlowych.

01LLMLarge Language ModelDuży model językowy — sieć neuronowa o miliardach parametrów trenowana na ogromnych korpusach tekstu do przewidywania i generowania języka naturalnego.
02model bazowyfoundation modelModel wstępnie trenowany na szerokich danych w dużej skali, adaptowalny do wielu zadań pochodnych przez dostrajanie lub podpowiadanie.
03model językowyModel przypisujący prawdopodobieństwo sekwencjom słów, zwykle przez przewidywanie kolejnego tokena na podstawie poprzedzających.
04okno kontekstowecontext windowMaksymalna liczba tokenów, jaką model może przetworzyć jednocześnie jako wejście i wygenerowane wyjście.

01łańcuch myślichain-of-thoughtTechnika podpowiadania skłaniająca model do wypisania pośrednich kroków rozumowania przed udzieleniem ostatecznej odpowiedzi.
02podpowiadaniepromptingSterowanie zachowaniem modelu przez formułowanie wejściowego tekstu (instrukcji, kontekstu) zamiast zmiany jego wag.
03uczenie kontekstowein-context learningZdolność modelu do wykonania zadania na podstawie kilku przykładów podanych w podpowiedzi, bez aktualizacji wag.

01model generatywnyModel uczący się rozkładu prawdopodobieństwa danych, zdolny do próbkowania nowych przykładów podobnych do treningowych.

01generowanie wspomagane wyszukiwaniemRAGWzbogacanie generacji modelu o fragmenty pobrane z zewnętrznej bazy wiedzy, dołączane do kontekstu w czasie wnioskowania.

01prawo skalowaniascaling lawEmpiryczna zależność potęgowa wiążąca jakość modelu z liczbą parametrów, rozmiarem danych i budżetem obliczeniowym.

01kodowanie par bajtówBPEAlgorytm tokenizacji podsłownej iteracyjnie scalający najczęstsze pary sąsiednich symboli w nowe jednostki słownika.
02tokenPodstawowa jednostka przetwarzania tekstu przez model — fragment słowa, słowo lub znak, na które dzielony jest tekst wejściowy.
03tokenizacjaPodział tekstu na tokeny stanowiące wejście modelu, często metodami podsłownymi jak kodowanie par bajtów.

01dostrajaniefine-tuningDalsze trenowanie wstępnie wytrenowanego modelu na węższych danych w celu adaptacji do konkretnego zadania lub domeny.
02strojenie instrukcyjneinstruction tuningDostrajanie modelu na zbiorze par instrukcja–odpowiedź, by lepiej wykonywał polecenia sformułowane w języku naturalnym.
03trening wstępnypre-trainingEtap uczenia modelu na dużym, ogólnym korpusie w trybie samonadzorowanym, poprzedzający dostrajanie do zadań szczegółowych.