После длительных дебатов по поводу целесообразности наличия пистолетов-пулеметов в системе вооружений вермахта Управление вооружений вермахта выдало в 1938 году заказ фирме "Эрфуртер Машиненфабрик" (ЭРМА) на разработку пистолета-пулемета, предназначенного прежде всего для вооружения экипажей бронемашин, парашютистов и таких категорий военнослужащих, как командиры отделений, взводов и рот пехоты. Созданный фирмой в том же году и получивший обозначение МР-38 пистолет-пулемет, без сомнения, явился заметным шагом вперед в развитии этого вида оружия.

В его конструкции отсутствуют детали из дерева, металлический приклад выполнен складывающимся, введена пистолетная рукоятка, в качестве рукоятки может использоваться также приставной коробчатый магазин емкостью 32 патрона. К началу второй мировой войны в частях вермахта имелось только 8 772 пистолета-пулемета МР-38, но их выпуск постоянно увеличивался. В 1940 году была проведена модернизация пистолета-пулемета, направленная прежде всего на повышение его технологичности. В результате модернизации затворная коробка с фрезерованными пазами была заменена на штампованную из листовой стали коробку с продольными выпуклостями, в целях повышения прочности приемника магазина на его боковых поверхностях выполнены ребра жесткости, расположенная под стволом алюминиевая шина с выступом, использующимся в качестве упора при стрельбе, заменена стальной шиной.

Новый вариант пистолета-пулемета получил обозначение МР-40 и был запущен в массовое производство. Всего в годы войны было выпущено около 1 млн. пистолетов-пулеметов обеих модификаций. Автоматика как МР-38, так и МР-40 работает на принципе отдачи свободного затвора. Запирание канала ствола производится массивным затвором, подпираемым возвратно-боевой пружиной. За счет относительно большой массы подвижных деталей и наличия пневматического демпфера пистолет-пулемет имеет относительно низкий темп стрельбы, что благоприятно сказывается на меткости. Пистолет-пулемет имеет ударный механизм ударникового типа. Простой по конструкции спусковой механизм обеспечивает ведение только непрерывного огня, однако благодаря низкому темпу стрельбы хорошо обученные стрелки способны вести огонь и одиночными выстрелами. Специальный предохранитель у пистолета-пулемета отсутствует. Его роль выполняет вырез для рукоятки заряжания на левой стороне в пазу затворной коробки. Стрельба из пистолета-пулемета ведется с помощью стоечного прицела с двумя визирами: одним постоянным на дистанцию 100 м и другим откидным на дистанцию 200 м. При стрельбе на дистанции более 200 м эффективность огня резко падала. Кроме того, из-за малой начальной скорости пули при стрельбе на дистанции более 200 м требовалось превышение точки прицеливания под мишенью на 0,5 метра, что затрудняло поражение цели. В боевых условиях неудобства создавало также отсутствие у ствола защитного кожуха, поэтому во избежание ожогов солдаты при стрельбе часто пользовались перчатками.

На начальном этапе войны МР-40 удовлетворял почти всем предъявлявшимся к нему требованиям, однако с потерей Германией стратегической инициативы немецкой пехоте понадобилось более мощное автоматическое оружие, которым стала штурмовая винтовка StG-44.