Interested Article - Тензорный процессор Google

Тензорный процессор Google ( англ. Google Tensor Processing Unit, Google TPU) — тензорный процессор, относящийся к классу нейронных процессоров , являющийся специализированной интегральной схемой , разработанной корпорацией Google и предназначенной для использования с библиотекой машинного обучения TensorFlow . Представлен в 2016 году на конференции Google I/O , при этом утверждалось, что устройства к тому моменту уже использовались внутри корпорации Google более года .

По сравнению с графическими процессорами , рассчитан на более высокий объём вычислений с пониженной точностью (например, всего 8-разрядную точность ) при более высокой производительности на ватт и отсутствии модуля для растризации и текстурных блоков .

Утверждается, что тензорные процессоры применялись в серии игр в го программы AlphaGo против Ли Седоля и в следующих подобных поединках . Также корпорация применила тензорные процессоры для обработки фотографий Google Street View на предмет извлечения текста, сообщалось, что весь объём обработан менее чем за пять дней. В Google Фото один тензорный процессор может обрабатывать более 100 миллионов фотографий в день. Также устройство применяется для самообучающейся системы RankBrain , обрабатывающей отклики поисковой системы Google .

Устройство реализовано как матричный умножитель для 8-разрядных чисел, управляемый CISC -инструкциями центрального процессора по шине PCIe 3.0 . Изготавливается по технологии 28 нм, тактовая частота составляет 700 МГц и имеет тепловую расчётную мощность 28—40 Вт. Оснащается 28 Мбайт встроенной оперативной памяти и 4 Мбайт 32-разрядных аккумуляторов , накапливающих результаты в массивах из 8-битных множителей, организованных в матрицу размером 256×256. Инструкции устройства передают данные на узел или получают их из него, выполняют матричные умножения или свёртки . В такт может производиться 65536 умножений на каждой матрице; в секунду — до 92 трлн .

Характеристики разных поколений тензорных процессоров

Характеристики TPU:
	TPU v1	TPU v2	TPU v3	TPU v4	TPU v5e
Дата выхода	2016	2017	2018	2021	2023
Технологический процесс	28 нм	16 нм	16 нм	7 нм
Размер чипа (мм ² )	331	< 625	< 700	< 400
Встроенная память (Мб)	28	32	32	144
Тактовая частота (МГц)	700	700	940	1050
Оперативная память	8 Гб DDR3	16 Гб HBM	32 Гб HBM	32 Гб HBM	HBM2
Пропускная способность памяти	34 Гб/с	600 Гб/с	900 Гб/с	1200 Гб/с
Тепловая схема питания (Вт)	75	280	220	170
TOPS ( Трлн. операций в секунду )	23	45	123	275
TOPS/Вт	0.31	0.16	0.56	1.62

Примечания

↑ (англ.) . 26 февраля 2022 года. Дата обращения: 24 мая 2017.
↑ Jouppi, Norm (англ.) . Google Cloud Platform Blog . Google (18 мая 2016). Дата обращения: 22 января 2017. 18 мая 2016 года.
Armasu, Lucian (неопр.) . Tom's Hardware (19 мая 2016). Дата обращения: 26 июня 2016.
на YouTube , начиная с 6:03:10 (23 мая 2017)
Norman P. Jouppi et al. (англ.) . Дата обращения: 24 мая 2017. 3 июля 2017 года. (44th International Symposium on Computer Architecture (ISCA), 2017)
Ian Cutress . (англ.) , AnandTech (22 August 2017). 23 августа 2017 года. Дата обращения: 23 августа 2017.
Jouppi, Norman P.; Yoon, Doe Hyun; Ashcraft, Matthew; Gottscho, Mark (June 14, 2021). (PDF) . International Symposium on Computer Architecture. Valencia, Spain. DOI : . ISBN 978-1-4503-9086-6 .
↑ (англ.) . Google Cloud . Дата обращения: 11 декабря 2022.
, Serve The Home (22 августа 2017). Дата обращения: 23 августа 2017.
(рус.) . iXBT.com (19 мая 2017). Дата обращения: 3 октября 2023.
(рус.) . Overclockers.ru (9 мая 2018). Дата обращения: 3 октября 2023.
, retrieved 2020-08-06.
(рус.) . ServerNews.ru (30 августа 2023). Дата обращения: 3 октября 2023.
(англ.) . Google Cloud (29 августа 2023). Дата обращения: 3 октября 2023.