De la rețele recurente la transformere
ChatGPT, Claude, Gemini și aproape toate modelele de limbaj de azi sunt transformere. Ele au apărut în 2017 ca răspuns la două probleme ale rețelelor recurente (lecția 247): sunt lente, pentru că citesc cuvânt cu cuvânt, și uită ce era la începutul unui text lung. În această lecție vezi ideea care a schimbat totul: fiecare cuvânt se uită direct la toate celelalte, în paralel.

Iulian Pahom
Catalina Ioana Dan
Laura Chiriazi