Dabar LLMS gali išlaikyti didelį tikslumą esant 2 bitų tikslumui: Tyrėjai iš UNC Chapel Hill Pristatykite „TACQ“-užduotį suvokiantį kvantizavimo metodą, kuris išsaugo kritinių svorio grandines suspaudimui be veiklos nuostolių
LLM rodo įspūdingas galimybes daugelyje programų, tačiau dėl skaičiavimo poreikių ir atminties…