Cohere Releases Tiny Aya: A 3B-Parameter Small Language Model that Supports 70 Languages and Runs Locally Even on a Phone

Firma Cohere AI Labs zaprezentowała Tiny Aya, rodzinę małych modeli językowych (SLM) o parametrach 3.35B, które charakteryzują się wsparciem dla 70 języków i możliwością działania lokalnie, nawet na telefonach. Model ten oferuje zaawansowane tłumaczenie i generowanie tekstu, przewyższając większych konkurentów w wielu benchmarkach, szczególnie w zadaniach wielojęzycznych i matematycznych dla języków afrykańskich. Tiny Aya został zoptymalizowany pod kątem urządzeń brzegowych dzięki kwantyzacji do 4 bitów, co pozwala na jego wydajne działanie przy minimalnej utracie jakości.