почему при сортировке столбца с типом QUAN
не объединяются идентичные записи
с другими типами все нормально

Это где? В ALV?

При задании полей для сортировки указано ли, что также допустима и группировка? Если да, то, видимо, конструктивная ососбенность.

Скорее всего в каталоге полей для этого поля не указана связка с полем единицы измерения.