Slovník AI pojmov pre B2B firmy

Model natrénovaný na veľkom množstve textu, ktorý predpovedá pokračovanie zadaného vstupu. Vie jazyk a všeobecné znalosti z trénovania, nepozná vaše firemné dáta, pokiaľ mu ich nedodáte.

Architektúra, v ktorej systém pred odpoveďou vyhľadá relevantné pasáže vo vašich dokumentoch a priloží ich k otázke. Model tak odpovedá z vašich dát a vie uviesť zdroj.

Systém, ktorý samostatne plánuje a vykonáva viacero krokov na dosiahnutie cieľa, vrátane volania externých nástrojov a zápisu do firemných systémov. Na rozdiel od chatbota nielen odpovedá, ale koná.

Rozhranie, ktoré odpovedá na otázky v rámci jednej konverzácie a nevykonáva akcie mimo nej. Vhodné na informačné otázky, nie na vykonanie práce.

Ďalšie trénovanie modelu na vlastných dátach, ktoré mení jeho správanie alebo štýl. Na dopĺňanie faktických znalostí, ktoré sa často menia, je vhodnejší RAG.

Prevod textu na číselný vektor, ktorý zachytáva jeho význam. Dva texty s podobným významom majú blízke vektory, čo umožňuje vyhľadávať podľa zmyslu, nie podľa zhody slov.

Databáza optimalizovaná na vyhľadávanie podľa významovej podobnosti vektorov. Pri menších objemoch stačí rozšírenie existujúcej databázy, napríklad pgvector v PostgreSQL.

Rozdelenie dokumentov na menšie časti pred indexovaním. Príliš veľké aj príliš malé časti znižujú presnosť vyhľadávania; zle rozdelená tabuľka je častý dôvod nezmyselných odpovedí.

Architektúra, v ktorej jedna infraštruktúra obsluhuje viacero klientov, pričom dáta každého zostávajú oddelené. Oddelenie sa vynucuje filtrovaním podľa metadát na úrovni vyhľadávania.

Obmedzenie vyhľadávania podľa označenia dokumentu, napríklad klienta, oddelenia alebo úrovne prístupu. Musí prebehnúť pred vyhľadávaním, nie až po ňom.

Fakticky nesprávna odpoveď, ktorú model podá s vysokou mierou istoty. Riziko sa znižuje tým, že odpoveď stojí na konkrétnom zdrojovom dokumente, ktorý sa dá overiť.

Útok, pri ktorom útočník vloží inštrukcie do vstupných dát, napríklad do e-mailu alebo dokumentu, aby systém odchýlil od zadania. Bráni sa oddelením inštrukcií od dát a obmedzením právomocí.

Jednotka, na ktorú sa text delí pri spracovaní modelom, zhruba časť slova. Prevádzkové náklady na API sa účtujú za tokeny, takže rastú s objemom používania.

Prevádzka systému na vlastnej infraštruktúre alebo v rámci EÚ namiesto verejného cloud API. Relevantné najmä pre zdravotníctvo, právny sektor a financie, kde dáta nesmú opustiť kontrolované prostredie.

Európska regulácia AI systémov, ktorá zavádza požiadavky na transparentnosť a riadenie rizika podľa rizikovej kategórie systému. Niektoré firemné nasadenia v citlivých odvetviach môžu spadať do vyššej kategórie.