内存在人工智能解决方案（例如机器学习）的培训和实施中均扮演着关键角色。这也是创建诸如5G之类的高级网络技术的要求，这将需要在网络边缘以及在端点处进行处理和存储以实现IoT和其他应用程序。
如今大多数高性能内存都是易失性的，这意味着当设备断电时，存储在内存中的所有内容都会丢失。但是内存会消耗很多功率，尤其是DRAM，这需要定期且频繁地刷新内存中的数据。物联网等许多新应用程序要求将连接的传感器和其他设备放置在能量受限的情况下，依靠电池运行或使用能量收集。在数据中心中，诸如DRAM之类的存储器消耗了总功率的很大一部分。使用非易失性存储器可以保留许多数据，这将使许多应用受益，即使关闭电源也是如此。
对于包括人工智能推理在内的许多物联网应用，物联网系统并非始终处于完全活动状态，因此可以关闭系统的某些部分，直到需要时为止。使用非易失性存储器可以更轻松地在不需要时关闭这些存储器的电源。由于它们是非易失性的，因此可以更频繁地关闭它们，并且掉电和上电都需要更少的时间，从而改善了系统性能性能，同时将功耗降至最低。
除了在许多嵌入式和独立应用中对非易失性存储器的需求之外，一些新兴的非易失性存储器还可以扩展到比许多常规存储器更高的密度。例如，NOR闪存似乎被有效地限制为22nm或更大的光刻特征，平面NAND闪存被限制为15nm或更大的特征（这就是为什么大容量NAND正在转向3D结构的原因），当然还有sram， 5-6个晶体管占用了半导体芯片上的大量空间。 DRAM的密度缩放也受晶体管尺寸的限制。
由于这些原因，许多主要的半导体代工厂都提供MRAM作为嵌入式应用程序的非易失性存储器。 MRAM可以替代NOR或SRAM，以在设备上提供更高密度的非易失性存储器。用MRAM替换SRAM可以使AI推理引擎具有更多内存（并引导非易失性内存）以存储经过训练的模型。