Z kamerą wśród LLM-ów: Semantyka, Atencja i Tensory

W poprzednim odcinku zarysowaliśmy ogólny cykl życia modelu językowego: trening i inferencję (wnioskowanie). Teraz przyszedł czas na wejście w semantykę, abstrakcje i to, jak modele “rozumieją” (a raczej: przetwarzają) język naturalny. TL;DR: Semantyka i sposób jej internalizacji w modelach językowych to klucz do zrozumienia ich możliwości (!) i ograniczeń (!!!). Przeróżne techniki (promptowania, zarządzania kontekstem) […]