Add news
News Every Day |

Small language models: 10 Breakthrough Technologies 2025

WHO

Allen Institute for Artificial Intelligence, Anthropic, Google, Meta, Microsoft, OpenAI

WHEN

Now

Make no mistake: Size matters in the AI world. When OpenAI launched GPT-3 back in 2020, it was the largest language model ever built. The firm showed that supersizing this type of model was enough to send performance through the roof. That kicked off a technology boom that has been sustained by bigger models ever since. As Noam Brown, a research scientist at OpenAI, told an audience at TEDAI San Francisco in October, “The incredible progress in AI over the past five years can be summarized in one word: scale.”

But as the marginal gains for new high-end models trail off, researchers are figuring out how to do more with less. For certain tasks, smaller models that are trained on more focused data sets can now perform just as well as larger ones—if not better. That’s a boon for businesses eager to deploy AI in a handful of specific ways. You don’t need the entire internet in your model if you’re making the same kind of request again and again. 

Most big tech firms now boast fun-size versions of their flagship models for this purpose: OpenAI offers both GPT-4o and GPT-4o mini; Google DeepMind has Gemini Ultra and Gemini Nano; and Anthropic’s Claude 3 comes in three flavors: outsize Opus, midsize Sonnet, and tiny Haiku. Microsoft is pioneering a range of small language models called Phi.

A growing number of smaller companies offer small models as well. The AI startup Writer claims that its latest language model matches the performance of the largest top-tier models on many key metrics despite in some cases having just a 20th as many parameters (the values that get calculated during training and determine how a model behaves). 

Smaller models are more efficient, making them quicker to train and run. That’s good news for anyone wanting a more affordable on-ramp. And it could be good for the climate, too: Because smaller models work with a fraction of the computer oomph required by their giant cousins, they burn less energy. 

These small models also travel well: They can run right in our pockets, without needing to send requests to the cloud. Small is the next big thing.

Москва

"Динамо" и "Зенит" сыграли вничью в матче 26-го тура чемпионата России

Реклама
The most beautiful beach towns with cheap living

A huge number of people around the world dream of one day breaking out of the daily routine

Evander Holyfield Names The One Heavyweight Champion Who ‘Embarrassed’ Him In The Ring

Apple aims to build most iPhones for U.S. in India by end-2026

Exclusive: Chainguard secures $356 million Series D as valuation soars to $3.5 billion

World Champion’s Team Reveal ‘The Truth’ Of Conor Benn Sparring After Being Branded A Quitter

Ria.city
Реклама
  • ИП Попов А.П.
  • ИНН: 602715631406
Ревматолог: "26 апреля 2024 в г.Вашингтон запущена квота"

Каждый человек с больными суставами имеет право получить...






Реклама
  • ИП Попов А.П.
  • ИНН: 602715631406
Ревматолог: "26 апреля 2024 в г.Вашингтон запущена квота"

Каждый человек с больными суставами имеет право получить...


Реклама
  • ИП Попов А.П.
  • ИНН: 602715631406
Ревматолог: "26 апреля 2024 в г.Вашингтон запущена квота"

Каждый человек с больными суставами имеет право получить...

Read also

What's New in iOS 18.5 Beta 2? A First Look

More than 500 injured in Iran port blast: new state media toll

Chat log from R7 of 2025: Port Adelaide vs North Melbourne

News, articles, comments, with a minute-by-minute update, now on Today24.pro

News Every Day

Apple aims to build most iPhones for U.S. in India by end-2026

Today24.pro — latest news 24/7. You can add your news instantly now — here


News Every Day

Exclusive: Chainguard secures $356 million Series D as valuation soars to $3.5 billion



Sports today


Новости тенниса
WTA

Людмила Самсонова вышла в третий круг турнира WTA-1000 в Мадриде



Спорт в России и мире
Москва

"Динамо" и "Зенит" сыграли вничью в матче 26-го тура чемпионата России



All sports news today





Sports in Russia today

Москва

ЦСКА обыграл "Спартак" и поднялся на третье место в РПЛ


Новости России

Game News

Despite the $50 price tag, Oblivion Remastered shoots straight to the top of Steam's best sellers


Реклама
Top 6 nutrition questions men should ask themselves after 40

To maintain health and remain full of energy, men will be helped by this

Russian.city


Москва

От ринга до подиума: Инесса Львова на обложке L’Officiel


Губернаторы России
Chanel

«Уроды. Ломанулись обратно на Русь-матушку»: Сладков о возвращении Rolex и Chanel


МКАД: движение восстановлено после массового ДТП на 93-м километре

Урокам время, домашке час: пойдет ли на пользу детям введение новых норм

Закон заработал. Для детей военнослужащих в России появилась новая выплата

Морозы придут в несколько регионов России


Волочкова эмоционально о росписи дочери с женихом: «Это дело двух людей!»

Алсу, «Иванушки International», Вадим Самойлов, Сергей Бобунец, Лолита и другие артисты выступили на концерте «Золотые Хиты МУЗ-ТВ»

Наталья Сергунина: Внедрение современных технологий повышает туристическую привлекательность Москвы

Филипп Киркоров повис в воздухе и «заискрился» на концерте в Петербурге


Рублев сыграет в третьем круге «Мастерса» в Мадриде после снятия Монфиса

Мадрид (ATP). 1-й круг. Сафиуллин сыграет с Риндеркнешем, Бублик – с Микельсеном, Монфис встретится с Гойо, Фоньини – с Дьере, Чилич – с Бонзи

Людмила Самсонова вышла в третий круг турнира WTA-1000 в Мадриде

Елена Рыбакина разгромила Бьянку Андрееску во втором круге турнира WTA-1000 в Мадриде


Реклама
The most beautiful beach towns with cheap living

A huge number of people around the world dream of one day breaking out of the daily routine


Рилсмейкер. Услуги Рилсмейкера.

Заморозки в Подмосковье и других регионах Европейской России: прогноз на ближайшие 2 ночи дали синоптики

Премьера "Белой палатки" в Малом театре: 80-летие Великой Победы

Съемка Клипа. Съемка музыкального клипа.


Лев Лещенко возглавит жюри на фестивале 'Дорога на Ялту' в Москве

Кубок Героя России Сергея Громова в Москве состоялся с участием молодых армрестлеров из Владимирской области

«Краснодар», «Зенит» или «Спартак»? РПЛ ожидает интригующая развязка на финише

Рилсмейкер. Услуги Рилсмейкера.


Врач Ярцева рассказала, грозит ли России эпидемия холеры из-за завозного случая

Терёхин дал комментарий по матчу «Динамо» - «Зенит»

В РФ стартовало серийное производство идеального помощника для мегаполиса Sollers SF1

Дегтярев наградил победителей соревнований "Волжская Весна" в Ульяновске


Реклама
The most beautiful beach towns with cheap living

A huge number of people around the world dream of one day breaking out of the daily routine


Путин в России и мире


Реклама
Top 6 nutrition questions men should ask themselves after 40

To maintain health and remain full of energy, men will be helped by this





Персональные новости Russian.city
Виктор Цой

Разрисовавшего стену Цоя хулигана арестовали на семь суток



News Every Day

Exclusive: Chainguard secures $356 million Series D as valuation soars to $3.5 billion




Friends of Today24

Музыкальные новости

Персональные новости