Add news
March 2010April 2010May 2010June 2010July 2010
August 2010
September 2010October 2010
November 2010
December 2010
January 2011
February 2011March 2011April 2011May 2011June 2011July 2011August 2011September 2011October 2011November 2011December 2011January 2012February 2012March 2012April 2012May 2012June 2012July 2012August 2012September 2012October 2012November 2012December 2012January 2013February 2013March 2013April 2013May 2013June 2013July 2013August 2013September 2013October 2013November 2013December 2013January 2014February 2014March 2014April 2014May 2014June 2014July 2014August 2014September 2014October 2014November 2014December 2014January 2015February 2015March 2015April 2015May 2015June 2015July 2015August 2015September 2015October 2015November 2015December 2015January 2016February 2016March 2016April 2016May 2016June 2016July 2016August 2016September 2016October 2016November 2016December 2016January 2017February 2017March 2017April 2017May 2017June 2017July 2017August 2017September 2017October 2017November 2017December 2017January 2018February 2018March 2018April 2018May 2018June 2018July 2018August 2018September 2018October 2018November 2018December 2018January 2019February 2019March 2019April 2019May 2019June 2019July 2019August 2019September 2019October 2019November 2019December 2019January 2020February 2020March 2020April 2020May 2020June 2020July 2020August 2020September 2020October 2020November 2020December 2020January 2021February 2021March 2021April 2021May 2021June 2021July 2021August 2021September 2021October 2021November 2021December 2021January 2022February 2022March 2022April 2022May 2022June 2022July 2022August 2022September 2022October 2022November 2022December 2022January 2023February 2023March 2023April 2023May 2023June 2023July 2023August 2023September 2023October 2023November 2023December 2023
News Every Day |

NVIDIA announces its next generation of AI supercomputer chips

NVIDIA has launched its next-generation of AI supercomputer chips that will likely play a large role in future breakthroughs in deep learning and large language models (LLMs) like OpenAI's GPT-4, the company announced. The technology represents a significant leap over the last generation and is poised to be used in data centers and supercomputers — working on tasks like weather and climate prediction, drug discovery, quantum computing and more. 

The key product is the HGX H200 GPU based on NVIDIA's "Hopper" architecture, a replacement for the popular H100 GPU. It's the company's first chip to use HBM3e memory that's faster and has more capacity, thus making it better suited for large language models. "With HBM3e, the NVIDIA H200 delivers 141GB of memory at 4.8 terabytes per second, nearly double the capacity and 2.4x more bandwidth compared with its predecessor, the NVIDIA A100," the company wrote. 

In terms of benefits for AI, NVIDIA says the HGX H200 doubles inference speed on Llama 2, a 70 billion-parameter LLM, compared to the H100. It'll be available in 4- and 8-way configurations that are compatible with both the software and hardware in H100 systems. It'll work in every type of data center, (on-premises, cloud, hybrid-cloud and edge), and be deployed by Amazon Web Services, Google Cloud, Microsoft Azure and Oracle Cloud Infrastructure, among others. It's set to arrive in Q2 2024. 

NVIDIA announces its next generation of AI supercomputer chips

NVIDIA's other key product is the GH200 Grace Hopper "superchip" that marries the HGX H200 GPU and Arm-based NVIDIA Grace CPU using the company's NVLink-C2C interlink. It's designed for supercomputers to allow "scientists and researchers to tackle the world’s most challenging problems by accelerating complex AI and HPC applications running terabytes of data," NVIDIA wrote. 

The GH200 will be used in "40+ AI supercomputers across global research centers, system makers and cloud providers," the company said, including from Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT and Supermicro. Notable among those is HPE's Cray EX2500 supercomputers that will use quad GH200s, scaling up to tens of thousands of Grace Hopper Superchip nodes. 

NVIDIA announces its next generation of AI supercomputer chips

Perhaps the biggest Grace Hopper supercomputer will be JUPITER, located at the Jülich facility in Germany, which will become the "world’s most powerful AI system" when it's installed in 2024. It uses a liquid-cooled architecture, "with a booster module comprising close to 24,000 NVIDIA GH200 Superchips interconnected with the NVIDIA Quantum-2 InfiniBand networking platform," according to NVIDIA. 

NVIDIA says JUPITER will help aid scientific breakthroughs in a number of areas, including climate and weather prediction, generating high-resolution climate and weather simulations with interactive visualization. It'll also be employed for drug discovery, quantum computing and industrial engineering. Many of these areas use custom NVIDIA software solutions that ease development but also make supercomputing groups reliant on NVIDIA hardware. 

The new technologies will be key for NVIDIA, which now makes most of its revenue from the AI and data center segments. Last quarter the company saw a record $10.32 billion in revenue in that area alone (out of $13.51 billion total revenue), up 171 percent from a year ago. It no doubt hopes the new GPU and superchip will help continue that trend. Just last week, NVIDIA broke its own AI training benchmark record using older H100 technology, so its new tech should help it extend that lead over rivals in a sector it already dominates. 

This article originally appeared on Engadget at
Українські новини

На півдні України компанія «ПАЕК» збільшує площі під овочівництво та інвестує у будівництво теплиць

Mathematician Answers Geometry Questions From Twitter Tech Support WIRED

Snowy Walk in Hallstatt, Austria, Morning Binaural Winter Sounds

Bridge is a card game

Solitaire Golf - card game

Read also

This Advent, Jesus Christ 'is the only hope we have for peace,' says expert on religious freedom

Jaylen Brown Ejected From Celtics-Knicks After Chirping Refs on Court, Bench

Creator of GoFundMe for family who lost home in Arlington explosion just wanted to help

News, articles, comments, with a minute-by-minute update, now on

News Every Day

Top 10 Live TV Moments That Left Us Speechless — latest news 24/7. You can add your news instantly now — here

News Every Day

Bridge is a card game

Sports today

Новости тенниса
Чан Уджин

Десятая ракетка мира Чан Уджин будет выступать за оренбургский клуб «Факел-Газпром»

Спорт в России и мире

Наставник по похудению Андрей Воронин

All sports news today

Sports in Russia today


Наставник по похудению Андрей Воронин

Новости России

Game News

Wordle today: Hint and answer #901 for Thursday, December 7

Губернаторы России
Тихон Пузиков

Завершился очередной день насыщенной деловой, выставочной, культурной, образовательной и соревновательной программы БИОТ 2023

Шапки и капоры женские на Wildberries (от 392 руб.) + три новые модели 2024

К 650-летию Кирова отреставрируют семь объектов культурного наследия

Певцу Леониду Агутину сделали операцию

Шапки женские зимние на Wildberries — скидки от 398 руб. (на новые оттенки)

Волочкова высказалась об отказе Лазарева сфотографироваться с ней

Минкультуры Бурятии: "Бурятский госцирк гастролировал в Луганске" - Театр, Дети, Россия, Культура, Концерт, 2023 - Министр Соелма Дагаева,

Музыка и любовь: Диана Арбенина выступит с юбилейными концертами в Петербурге

Зрителей возмутило выступление певца Глеба Самойлова на концерте в Красноярске

«Уникум». Давыденко рассказал, почему Джокович до сих пор обыгрывает молодёжь

Теннисист Хачанов об игре с Костомаровым: мужество, характер и сила воли

Тарпищев: МОК поздно допустил россиян до Олимпиады в Париже

Петрова: прорыв Сафиуллина на Уимблдоне стал просто сенсационным

Визит московской делегации на международную строительную выставка The Big 5 UAE 2023 4–9 декабря в ОАЭ, Дубай,

Шапки женские зимние на Wildberries — скидки от 398 руб. (на новые оттенки)

Конференция «Потенциал российской диаспоры в современных условиях: экономическое и гуманитарное сотрудничество» в Дубаи, 6–9 декабря 2023

Вильфанд сообщил о потеплении в Москве на следующей неделе

Специалисты рассказали, зачем бренд-медиа SEO-продвижение

Певец Сергей Трофимов попал в аварию в Новой Москве

Прямые авиарейсы между Орском и Санкт-Петербургом могут возобновить в 2024 году

Голосование в премии «Бизнес событие» ноября 2023 года началось

Историческая значимость: Зарайск вошел в топ самых популярных городов для зимнего отдыха. И не зря!

Erid: 2VtzquX29uk

Дочь Миллы Йовович сняла трендовое видео под песню Кати Лель «Мой мармеладный»

Ю.ОСЕТИЯ. В Москве отметили начало Хануки

Путин в России и мире

Персональные новости

Рок-группа Kiss завершила турне, представив виртуальные аватары для вечных концертов

News Every Day

Top 10 Live TV Moments That Left Us Speechless

Friends of Today24

Музыкальные новости

Персональные новости