Вектор, у которого подавляющее большинство координат равны нулю, поэтому хранят только ненулевые значения и их адреса.
Например, словарь ниши содержит тридцать тысяч уникальных слов. Значит, у вектора описания тридцать тысяч координат, но реальных слов в описании двести. Заполнено меньше процента. Хранить тридцать тысяч чисел, из которых почти все нули, плохая идея, поэтому используют разреженные форматы. Векторы TF-IDF всегда разреженные. Эмбеддинги, наоборот, плотные. Попытка развернуть большую разреженную матрицу в плотный вид одна из типичных причин, по которой скрипт съедает всю оперативную память.
Читать: Разреженные матрицы в SciPy; Introduction to Information Retrieval, глава 6