Китайские ученые ускорили работу нейросетей в сто раз

Команда разработчиков применила модульный подход, объединив микросхемы FPGA по принципу конструктора. Ключевым элементом стал кремниевый фотонный приемопередатчик, обеспечивающий скорость передачи данных до 400 Гбит в секунду. Такая архитектура позволяет соединять до 16 чипов в единый кластер с пропускной способностью 6,4 Тбит/с.

Главный прорыв заключается в отказе от внешней памяти. Каждый чип обрабатывает свой слой нейросети и мгновенно передает промежуточный результат следующему узлу по оптическим каналам. В ходе тестов система обработала тысячу изображений за 105,16 микросекунды, тогда как традиционному графическому процессору потребовалось 15,64 миллисекунды. Эффективность использования аппаратных мощностей при этом достигла 94,7%.