SK hynix и TetraMem объявили о завершении совместной разработки мемристорного SoC с аналоговыми вычислениями в памяти. Прототип адресует одну из главных инфраструктурных проблем современного ИИ и опубликован в журнале Advanced Intelligent Systems.

Чтобы понять суть разработки, достаточно представить стандартный ИИ-чип: он непрерывно «перекачивает» данные из памяти в вычислительные блоки и обратно. Чем крупнее модель — тем больший объём информации курсирует по этому маршруту, потребляя энергию и генерируя тепло. Новый подход — вычисления в памяти (Computing-in-Memory) — устраняет саму необходимость в такой пересылке: математические операции выполняются там, где хранятся данные.

Технически это реализовано через мемристоры — элементы, совмещающие функции хранения и обработки информации. На их основе чип выполняет свёртку по глубине — ключевую операцию свёрточных нейросетей, широко применяемых в задачах распознавания изображений, голоса и логического вывода.

Практические преимущества архитектуры:

• Снижение энергопотребления — меньше пересылок данных означает меньше расхода электроэнергии
• Уменьшение задержек — вычисления и данные находятся в одном месте
• Меньший нагрев — критично для плотно упакованных серверных систем
• Масштабируемость — архитектура рассчитана на модели с триллионами параметров

Для конечного потребителя это означает более экономичные и менее шумные ИИ-серверы в будущем, а для разработчиков инфраструктуры — снижение операционных затрат на охлаждение и электропитание дата-центров.

SK hynix, традиционно специализирующийся на DRAM и высокопропускной памяти HBM, расширяет компетенции в сторону нейроморфных архитектур. Совместная платформа с TetraMem объединяет аппаратный стек, схемотехнику и программную оптимизацию в единое решение. Обе компании подтвердили продолжение сотрудничества в области вычислительной интеграции памяти.

Источник: Interesting Engineering