Tesla создала новый формат обучения для своего суперкомпьютера Dojo

Разработка суперкомпьютера Dojo ведется в Tesla последние два года. В прошлом году Маск https://hightech.plus/2020/08/19/tesla-stroit-superkompyuter..., что это будет первый в мире суперкомпьютер специального назначения для обучения искусственного интеллекта на основе компьютерного зрения, а мощность его процессора составит, как стало известно в июне, 1,8 эксафлопс.

Это пятая по быстродействию машина в мире.

Теперь автопроизводитель описал новый стандарт компьютерной платформы в опубликованном только что документе, https://electrek.co/2021/10/26/tesla-releases-dojo-whitepape... Electrek.

«Этот стандарт описывает арифметические форматы и методы новой 8- и 16-разрядной бинарной арифметики с плавающей точкой в среде компьютерного программирования для глубокого обучения нейронных сетей. Также он определяет особые условия для исключений и их флаги состояний. Внедрение системы с плавающей точкой, согласованной с этим стандартом, может быть реализовано исключительно в программном обеспечении, в аппаратном обеспечении или в любом сочетании программного и аппаратного обеспечения», - говорится в белой книге.

Другими словами, Tesla разработала новый формат программирования для глубокого обучения CFloat8, оптимизированный под платформу суперкомпьютера Dojo. И похоже, что руководство Tesla рассчитывает привлечь к его использованию другие компании, также заинтересованные в системах автономного управления транспортом.

Маск неоднократно говорил, что будущий Tesla Dojo выйдет за рамки обучения автопилота и может быть использован в других отраслях. Пока мощности Dojo работают только на благо Tesla.

И если Маску удастся совершить прорыв в обучении автопилота (пока он не достиг даже 4 уровня автономности), то это поможет в короткие сроки удвоить стоимость компании, только что перешагнувшей отметку в 1 трлн долларов.

Суперкомпьютер представляет собой кластер из 720 узлов 8x A100 в версии на 80 Гб — всего в компьютере установлено 5760 графических процессоров. Объем горячего хранилища NVME составляет 10 Пбайт при скорости обработки входных данных 1,6 Тбит/с. Общая коммутационная мощность компьютера — около 640 Тбит/с.

В собственный суперкомпьютер https://hightech.plus/2020/09/25/canon-vsled-za-tesla-invest... и Canon. Машина поможет японской компании создавать новые продукты без прототипирования. Представители Fujitsu заявили, что суперкомпьютер достигнет теоретической вычислительной производительности 648,8 терафлопс.